Bühne des Kapitels / Moduls
Digitaler Wandel, Radikalisierungsprozesse und Extremismusprävention im Internet
3.4 Prozesse der Radikalisierung
Inhalt des Kapitels / Moduls
Die digitale Gesellschaft
Radikalisierung in der digitalen Gesellschaft
Gesellschaftliche Meinungsbildungsprozesse finden heutzutage mit Hilfe von Online-Medien statt. Früher kam den Massenmedien (beispielweise dem Rundfunk, den Tageszeitungen im Bereich Print und dem Fernsehen) die zentrale Rolle zu, zwischen dem politischen System und den Bürgerinnen und Bürgern zu vermitteln, um eine informierte Teilhabe zu ermöglichen. Online wird das Angebot an medialen Informationen durch unzählige alternative Nischenprodukte ergänzt, auch solche mit extremistischen Inhalten. Die Vielfalt an extremistischen Angeboten profitiert von drei fundamentalen Veränderungen: Wer Inhalte veröffentlichen kann, wie diese Inhalte ausgewählt werden und die globale Vernetzung von Inhalten.
Vielfalt von Aktiven durch den Wegfall von „Gatekeeperinnen und -keepern“
Früher waren Medien in ihren Möglichkeiten, Inhalte zu veröffentlichen, durch verschiedene Faktoren begrenzt, etwa durch die Seitenzahl einer Zeitung. Meist entschieden Profis, etwa Herausgeberinnen und Herausgeber, welche Informationen es durch dieses „Tor“ (engl. Gate) in die Arena der Öffentlichkeit schafften und gedruckt oder ausgestrahlt wurden. Das hat sich mit dem Internet verändert.
Heutzutage kann quasi jede und jeder eigene Inhalte erstellen, kommentieren, und diese – zumindest potenziell – einem globalen Massenpublikum zugänglich machen. Auch wenn zumindest in Deutschland immer noch die meisten Menschen ihre Nachrichten primär durch den Fernseher erhalten12), degradiert das Internet Medienmacherinnen und -macher durch die Veröffentlichungsmöglichkeiten in vielerlei Hinsicht von Torwächterinnen und -wächtern (engl. Gatekeepern) zu „Torbeobachterinnen und -beobachtern“.13)
Daher macht es allein die schiere Masse an Zugängen zu digitalen Öffentlichkeiten unmöglich, das Hochladen von Propagandainhalten zu verhindern. So berichtete Facebook, dass das Video des rechtsextremistischen Terroristen, der im neuseeländischen Christchurch im März 2019 in zwei Moscheen 50 betende Musliminnen und Muslime getötet und seine Tat live im Netz gestreamt hatte, zunächst nur von 200 Personen gesehen worden war. Insgesamt fanden sich aber in den ersten Stunden nach dem Anschlag über eine Million Kopien des Videos auf der Plattform. Diesen Umstand machen sich verschiedene Akteurinnen und Akteure zunutze: Grob lassen sich extremistische Medieninstitutionen, Privatpersonen und Fake Accounts unterscheiden.
Extremistische Medieninstitutionen
Das Angebot extremistischer Medieninstitutionen umfasst sowohl Unterhaltungsmedien als auch Nachrichtenkanäle. Insbesondere der selbsterklärte „Islamische Staat“ (IS) machte zu seinen Hoch-Zeiten mit hochprofessionellen, „hollywoodartigen” Filmen auf sich aufmerksam, die teilweise mit mehreren Kameras und hochkomplexen Zeitlupen von eigenen Filmstudios inszeniert wurden.14) Aber auch rechtsextremistische Akteurinnen und Akteure nutzen Unterhaltungsmedien wie Videospiele oder Musikvideos für ihre Zwecke.
Für Nachrichten findet sich ein alternatives „Pseudo-Presse“-System mit eigenen Medienagenturen, Zeitungen, Radio- und Video Kanälen im Netz.
Auf Seiten islamistischer Extremistinnen und Extremisten sind das etwa die Nachrichtenagentur des „IS“, die Aamaq News Agency, die sich unter anderem mit der Verbreitung von Bekenner-Meldungen zu terroristischen Anschlägen einen Namen gemacht hat, oder die online Hochglanzmagazine Dabiq oder Rumiah.
Im ultra-rechten Spektrum tragen in Deutschland (ebenso wie global) unzählige pseudo-journalistische Websites, Blogs und angebliche Online-Zeitungen zur Verbreitung von propagandistischen Desinformationen bei. Die lebhaft geführte Debatte um sogenannte „Fake News“ im Nachklang der US-Wahl 2016 ist nur ein Ausdruck dieser umfassenden „Desinformationsordnung“.15)
Für Mediennutzende ist es häufig schwer, zwischen politisch verzerrter Meinung und faktisch akkuraten Nachrichten zu unterscheiden. So zeigte eine Studie des Pew Research Centers 2018, bei der einer repräsentativen Stichprobe von Amerikanerinnen und Amerikanern jeweils fünf Fakten und fünf Meinungsäußerungen vorgelegt wurden, dass nur 26 Prozent der Befragten alle Fakten korrekt als Fakten identifizieren konnten. Bei Meinungsäußerungen erkannten lediglich 35 Prozent, dass es sich um eine Meinungsäußerung und nicht um ein Faktum handelte.16)
Es ist daher kaum verwunderlich, dass sich propagandistische Gerüchte und Desinformationen teilweise mit enormem Erfolg verbreiten. Als Kanzlerin Merkel 2018 ein Interview zu der Entscheidung der Essener Tafel gab, keine Menschen mit Migrationshintergrund mehr aufzunehmen, wurde der stark verzerrte Artikel des rechtsextremen Blogs „Halle Leaks“, bei dem der Kanzlerin ein gefälschtes Zitat zugeschrieben wurde, bei Facebook 134 mal so häufig geteilt wie der entsprechende Artikel der „Zeit“ zum selben Thema.17)
Auch bei Twitter verbreiten sich Gerüchte schneller als professionelle Nachrichten, wie eine Studie aller zwischen 2006 und 2017 auf Twitter geteilten Nachrichten, die als „falsch“ gekennzeichnet wurden, zeigt – insbesondere, weil Mediennutzerinnen und -nutzer mit geringer „Twitter-Erfahrung” dazu beitrugen, Falschmeldungen zu verbreiten und so die Reichweite dieser Inhalte vergrößerten.18)
Struktur und Informationen zum Kapitel / Modul
Fussnoten
1)
Vorderer et al. 2015, 260.
2)
Rechtsextremistinnen und -extremisten sowie islamistische extremistische Personen sind für eine Vielzahl von deutschsprachigen Online-Propaganda-Angeboten verantwortlich und stehen daher im Fokus dieses Kapitels (Bundesministerium des Innern 2017). Diese Schwerpunktsetzung bedeutet aber nicht, dass andere Ideologien und Gruppierungen keine Online-Propaganda verbreiten oder weniger extremistisch sind. Prinzipiell sind Online-Propaganda und Extremismus kultur- und ideologieübergreifende Phänomene.
3)
Bei einer DDoS-Attacke werden digitale Server gezielt überlastet, indem sie durch unzählige koordinierte Anfragen oder E-Mails bombardiert werden.
4)
Baldauf/Ebner/Guhl 2018, 5.
5)
Frischlich/Rieger 2017; Frischlich 2018.
6)
Glaser et al. 2017.
7)
Kaakinen/Oksanen/Räsänen 2018.
8)
Reinemann et al. 2019.
9)
Hohnstein/Glaser 2017; Meleagrou-Hitchens/Kaderbhai 2017.
10)
Ritzmann im Interview mit Kixmüller 2018.
11)
Ebner 2017.
12)
Hasebrink/Hölig 2017.
13)
Engl. Gatewatcher; Bruns 2009.
14)
Für einen Überblick s. Winter 2015.
15)
Bennett/Livingston 2018.
16)
Mitchell et al. 2018.
17)
Unseren eigenen Analysen zufolge: 15.791mal (Brinkschulte/Frischlich 30.03.2018, Facebook-Engagement via Netvizz)
18)
Vosoughi/Roy/Aral 2018.
19)
Als Meme bezeichnet man kulturtypische Ideen, Stilrichtungen oder Wissensinhalte, die sich von Account zu Account verbreiten. Meist wird die Bezeichnung umgangssprachlich für einen interessanten oder amüsanten Online-Inhalt verwendet, der sich rasch im Netz verbreitet. Oft handelt es sich um Bilder, die mit einer bestimmten Textbotschaft kombiniert werden.
20)
Jugendschutz.net 2016.
21)
Auch staatliche Einzelpersonen können so Propagandistinnen und Propagandisten unterstützen (oder ihnen etwas entgegensetzen). So streitet beispielsweise der amtierende US-Präsident Donald Trump in seinen Tweets häufig den Anstieg einer rechtsextremen Gesinnung ab und unterstützt/legitimiert so indirekt rassistische Äußerungen.
22)
Farkas/Schou/Neumayer 2017.
23)
Local Times Erfurt 2016.
24)
Schatto-Eckrodt et al. ohne Datum.
25)
Collins/Poulsen/Ackerman 2017.
26)
Appelbaum et al. 2017.
27)
Ahmed/George 2017.
28)
Schmitt et al. 2018.
29)
Grimme/Assenmacher/Adam 2018.
30)
Frischlich/Quandt 2019.
31)
Kreißel et al. 2018.
32)
O'Callaghan et al. 2015.
33)
Regnér 2014.
34)
Siehe Infobox: Pariser 2011.
35)
Haim/Graefe/Brosius 2017.
36)
Flaxmann/Rao 2016.
37)
Benigni/Joseph/Carley 2017.
38)
Frankenberger et al. 2018.
39)
Frischlich 2018.
40)
Guess/Nagler/Tucker 2019.
41)
Über die Reichweite der Plattformanbieter hinaus gibt es weitere Meldestellen für Propaganda, Hate Speech und andere problematische Inhalte, beispielsweise das Demokratiezentrum BW.
42)
Hasebrink/Hölig 2017.
43)
Brosius/Esser 1995; Frindte/Haußecker 2010.
44)
Weichert 2007; Marwick/Lewis 2017.
45)
Frischlich/Boberg/Quandt 2017; Preuß/Tetzlaff/Zick 2017.
46)
Etwa Antonio Amadeu Stiftung, Kahane 2015.
47)
firstdraftnews.
48)
jugendschutz.net.
49)
Glaser et al. 2017.
50)
Gollatz/Riedl/Pohlmann 2018.
51)
redirect.
52)
#search-racism-find-truth.
53)
Facebook Newsroom 2017.
54)
Machowecz et al. 2018.
55)
Torok 2010.
56)
Morin/Flynn 2014; Oboler 2015.
57)
Schreiber 2016.
58)
Siehe Infobox: Sunstein 2007.
59)
Dubois/Blank 2018.
60)
Neumann/Baugut 2016.
61)
Del Vicario et al. 2016.
62)
Bright 2017.
63)
Wojcieszak 2008.
64)
Tajfel/Turner 1979.
65)
Atwan 2016.
66)
Ismay 2018.
67)
Die Gezi-Proteste begannen im Mai 2013 in Istanbul mit einer kleinen Gruppe von Aktivistinnen und Aktivisten, die gegen die geplante Umwandlung des Gezi-Parks in ein Einkaufscenter protestierten. Die Polizei reagierte mit voller Härte, der Premierminister Recep Tayyip Erdoğan verurteilte die Proteste aufs Schärfste. In den folgenden Tagen griffen die Proteste auf weitere Städte über und richteten sich zunehmend gegen die autoritäre Führung des Landes.
68)
Giglou/Ogan/d'Haenens 2018.
69)
Haslam et al. 2016.
70)
Rieger/Frischlich/Bente 2019.
71)
Lyons-Padilla et al. 2015; Pfundmair 2018.
72)
McKenna/Bargh 1998.
73)
Kiefer et al. 2017.
74)
Spinney 2017.
75)
Clarke/Ingram 2018.
76)
Smeekes/Verkuyten/Martinovic 2015.
77)
Bruder et al. 2013.
78)
Rieger/Schneider 2018.
79)
Böhm/Rusch/Gürek 2015.
80)
Siehe Infobox: Ebd.
81)
Reinemann et al. 2019.
82)
Kaakinen/Oksanen/Räsänen 2018.
83)
Hsueh/Yogeeswaran/Malinen 2015.
84)
Näsi et al. 2015.
85)
Lyons-Padilla et al. 2015.
86)
Ufuq e. V.
87)
Das Nettz.
88)
Jamal Al-Khatib, Mein Weg.
89)
Schule ohne Rassismus, Schule mit Courage.
90)
Pettigrew/Tropp 2006.
91)
Walther 2009.
92)
Das Nettz.
93)
von Kaspar/Riffn/Gräser 2017.
94)
Vorderer at al. 2018.
95)
Valkenburg/Peter 2013.
96)
Klicksafe, Rechtsextremismus hat viele Gesichter, 40ff.
97)
Baaken/Schlegel 2017.
98)
Erelle 2015.
99)
Leyendecker/Mascollo 2016.
100)
Eigene Recherche, 24.05.2018.
101)
Rieger/Frischlich/Bente 2013; Rieger et al. 2019.
102)
Morten et al. 2017; Frischlich et al. 2018.
103)
Schmitt et al. 2017.
104)
Rieger et al. 2013.
105)
Jonas et al. 2014.
106)
Hogg et al. 2007; Hogg/Blaylock 2012.
107)
McGregor et al. 1998; Greenberg et al. 2001; Pyszczynski et al. 2006.
108)
Pfundmair 2018.
109)
Frischlich et al. 2015; Rieger/Frischlich/Bente 2017.
110)
Rieger/Frischlich/Bente 2013.
111)
Morten et al. 2017.
112)
Winter 2015.
113)
Eigene Beobachtungen anhand der Analyse prominenter ultra-rechter alternativer Medien.
114)
Stern/Berger 2016.
115)
Neumann 2008.
116)
Kruglanski 2009; Kruglanski et al. 2013.
117)
Qasem/Nordbruch 2017.
118)
Ernst et al. 2017.
119)
Schmitt et al. 2017.
120)
Frischlich et al. 2017, 2018.
121)
Morten et al. 2017.
122)
Doosje/van Eerten 2017.
123)
Die Tränen der Dawa.
124)
Klicksafe.
125)
Junge Islam-Konferenz.
126)
Mein Islam - dein Islam.
127)
Rieger/Morten/Frischlich 2017.
128)
U. a. Dschihadismus im Internet, Spektren salafistischer Diskurse in NRW.
129)
Meleagrou-Hitchens/Kaderbhai 2017.
130)
Engesser/Fawzi/Larsson 2017.
131)
Doosje et al. 2016.
132)
Frischlich 2018b.
133)
strongcitiesnetwork.org.
134)
Brown/Paterson 2016.
Literatur
Ahmed, Mubaraz/George, Fred L. (2017): A war of keywords. How extremists are exploiting the internet and what to do about it. London. Online: https://institute.global/sites/default/fles/inline-fles/IGC_War of Keywords_23.08.17_0.pdf.
Applebaum, Anne/Pomerantsev, Peter/Smith, Melanie/Colliver, Chloe (2017): “Make Germany great again”: Kremlin, Alt-right and international infuences in the 2017 German elections. London.
Atwan, Abdel Bari (2016): Das digitale Kalifat - die geheime Macht des Islamischen Staates. München, C.H. Beck.
Baaken, Till/Schlegel, Linda (2017): Fishermen or swarm dynamics? Should we understand Jihadist online-radicalization as a top-down or bottom-up process? Journal for Deradicalization, (13), Seiten 178-212.
Baldauf, Johannes/Ebner, Julia/Guhl, Jakob (2018): Hassrede und Radikalisierung im Netz - der OCCI Forschungsbericht. London, Institute for Strategic Dialogue.
Benigni, Matthew Curran/Joseph, Kenneth/Carley, Kathleen M. (2017): Online extremism and the communities that sustain it: Detecting the ISIS supporting community on Twitter. PLOS ONE, 12(12):eO181405. doi: 10.1371/journal.pone.0181405.
Bennett, W. Lance/Livingston, Steven (2018): The disinformation order: Disruptive communication and the decline of democratic institutions. London, European Journal of Communication, SAGE Publications, 33(2), Seiten 122-139. doi: 10.1177/0267323118760317.
Böhm, Robert/Rusch, Hannes/Gürek, Özgür (2015): What makes people go to war? Defensive intentions motivate retaliator and preemptive intergroup aggression. MPRA Paper, 64373. doi: https://mpra.ub.uni-muenchen.de/64373.
Bright, Jonathan (2017): Explaining the emergence of echo chambers on social media: the role of ideology and extremism. Seiten 1-19. doi: 10.2139/ssrn.2839728.
Brosius, Hans-Bernd/Esser, Frank (1995): Eskalation durch Berichterstattung. Massenmedien und fremdenfeindliche Gewalt [Escalation via reporting. Mass media and violence against foreigners]. Wiesbaden, Springer-Verlag. Online: http://link.springer.com/book/10.1007/978-3-663-12097-1/page/1.
Brown, Rupert/Paterson, Jenny (2016): Indirect contact and prejudice reduction: limits and possibilities, Current Opinion in Psychology. Elsevier Ltd, 11, Seiten 20-24. doi: 10.1016/j.copsyc.2016.03.005.
Bruder, Martin/Haffe, Peter/Neave, Nick/Nouripanah, Nina/Imhoff, Roland (2013): Measuring individual differences in generic beliefs in conspiracy theories across cultures: conspiracy mentality questionnaire. Frontiers in Psychology, 4 (April). doi: 10.3389/fpsyg.2013.00225.
Bruns, Axel (2009): Vom Gatekeeping zum Gatewatching. In: Journalismus im Internet: Profession – Partizipation – Technisierung. Wiesbaden, VS Verlag für Sozialwissenschaften, Springer Fachmedien, Seiten 107-128. doi: 10.1007/978-3-531-91562-3.
Bundesministerium des Innern (2017): Verfassungsschutzbericht 2016. Berlin.
Clarke, Colin P./Ingram, Haroro J. (2018): Defeating the ISIS nostalgia narrative. RAND.
Collins, Ben/Poulsen, Kevin/Ackerman, Spencer (2017): Exclusive: Russia used Facebook events to organize anti-immigrant rallies on U.S. soil, The Daily Beast, 9 November, Seiten 15-17. Online: https://www.thedailybeast.com/exclusive-russia-used-facebook-events-to-organize-anti-immigrant-rallies-on-us-soil.
Deutsche Welle (2018): China state media justify Muslim Uighur crackdown to prevent “Cina’s Syria”. Deutsche Welle, 13 August, Seiten 11-13.
Doosje, Bertjan/Moghaddam, Fathali M.Kruglanski Arie W./de Wolf, Arjan (2016): Terrorism, radicalization and de-radicalization, Current Opinion in Psychology. Elsevier Ltd, 11, Seiten 79-84. doi: 10.1016/j.copsyc.2016.06.008.
Doosje, Bertjan/van Eerten, Jan-Jaap (2017): “Counter-narratives” against violent extremism’. In: Colaert, Lore (Hrsg.): De-radicalisation: Scientifc insights for policy. Brüssel, Tomas Baum, Seiten 83-100. Online: http://www.tandfonline.com/doi/full/10.1080/14678800600933480.
Dubois, Elizabeth/Blank, Grant (2018): The echo chamber is overstated: The moderating effect of political interest and diverse media. Information Communication and Society. London, Taylor & Francis, 0(0), Seiten 1-17. doi: 10.1080/1369118X.2018.1428656.
Ebner, Julia (2017): The rage: The vicious circle of islamist and far-right extremism. London, I.B.Tauris & Co.
Engesser, Sven/Fawzi, Nayla/Larsson, Anders Olof (2017): Populist online communication: introduction to the special issue. Information, Communication & Society. London, Taylor & Francis, 20(9), Seiten 1.279-1.292. doi: 10.1080/1369118X.2017.1328525.
Erelle, Anna (2015): In the skin of a Jihadist: A young journalist enters the ISIS recruitment network. Harper Paperbacks.
Ernst, Julian/Beier, Ann Kristin/Schmitt, Josephine B./Rieger, Diana/Qasem, Sindyan/Roth, Hans-Joachim (2018): „Muss doch nicht unbedingt mit Pistole sein, Alter.“ – Lernarrangements zur Förderung von Medienkritikfähigkeit im Umgang mit extremistischer Internetpropaganda. Ein erster Evaluationsbericht aus dem Forschungsprojekt CONTRA. In: Hohnstein, Sally/Herding, Maruta (Hrsg.): Digitale Medien und politisch-weltanschaulicher Extremismus im Jugendalter. Erkenntnisse aus Wissenschaft und Praxis. Halle, Deutsches Jugendinstitut, Seiten 189-212.
Ernst, Julian/Schmitt, Josephine B./Rieger, Diana//Roth, Hans-Joachim (2018): Extremismus im Internet – Drei Lernarrangements zur Förderung von Medienkritikfähigkeit im Umgang mit Internetpropaganda in der Schule. Bundeskriminalamt,Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm.
Facebook Newsroom (2017): Eine Community von 30 Millionen: Facebook sagt Danke.
Farkas, Johan/Schou, Jannick/Neumayer, Christina (2017): Cloaked facebook pages: Exploring fake Islamist propaganda in social media. New Media & Society, 20(1): 146144481770775. doi: 10.1177/1461444817707759.
Flaxman, Seth R./Rao, Justin M. (2016): Filter bubbles, echo chambers, and online news consumption. Public Opinion Quarterly, 80 (Special Issue), Seiten 298-320. doi: 10.1093/poq/nfw006.
Frankenberger, Patrick/Hofmann, Ingrid/ Ipsen, Flemming/Oezmen, Fehime/Zarabian, Nava (2018): 2017 Bericht – Islamismus im Netz. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/Bericht_2017_Islamismus_im_Internet.pdf.
Frindte, Wolfgang/Haußecker, Nicole (2010): Inszenierter Terrorismus (Staged terrorism). Wiesbaden, Verlag für Sozialwissenschaften, Springer Fachmedien.
Frischlich, Lena/Rieger, Diana/Hein, Maia/Bente, Gary (2015): Dying the right-way? Interest in and perceived persuasiveness of parochial extremist propaganda increases after mortality salience. Frontiers in Psychology, Evolutionary Psychology and Neuroscience, 6(1222). doi: 10.3389/fpsyg.2015.01222.
Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (2017): Wirkung. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.): in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE). Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand. Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 81-140.
Frischlich, Lena (2018a): Fake News und Social Bots - Erkennung, Wirkung, Bekämpfung. In: Holznagel, Bernd/Steul, Willi (Hrsg.): Öffentlich-rechtlicher Rundfunk in Zeiten des Populismus. Leipzig, VISTAS, Seiten 28-59.
Frischlich, Lena (2018b): Propaganda3: Einblicke in die Inszenierung und Wirkung von Online-Propaganda auf der Makro-Meso-Mikro Ebene. In: Zywietz, Bernd/Sachs-Hombach, Klaus (Hrsg.): Fake news und Social Bots – Neue Mechanismen populistischer Propaganda. Aktivismus. Wiesbaden, Springer Fachmedien VS, S. 133-170. doi: https://doi.org/10.1007/978-3-658-22118-8.
Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (2018): The power of a good story: Narrative persuasion in extremist propaganda and videos against violent extremism. International Journal of Violence and Conflict, 12. doi: 10.4119/UNIBI/ijcv.64.
Frischlich, Lena (2018): Propaganda3: Einblicke in die Inszenierung und Wirkung von Online-Propaganda auf der Makro-Meso-Mikro Ebene. In: Zywietz, Bernd (Hrsg.): Fake-News, Hashtags & Social Bots: Neue Methoden der populistischen Propaganda. München, Springer Fachmedien VS.
Frischlich, Lena/Boberg, Svenja/Quandt, Thorsten (2017): Online newspapers as target of strategic user-generated content - Dealing with hate speech, fake news, and hidden propaganda. In: Annual Conference of the International Journal of Press and Politics. Oxford.
Frischlich, Lena/Quandt, Thorsten (2019): The markets of manipulation: The trading of social bots on clearnet and darknet markets. In: MISDOOM. Hamburg.
Frischlich, Lena/Rieger, Diana (2017): Hass im Netz - Hass im Herzen? Die Wirkung rechtsextremistischer und islamistisch-extremistischer Online Propagandavideos und mögliche Gegenangebote im Netz. In: Mind, 2. Online: http://de.in-mind.org/.
Gagliardone, Iginio (2016): Mechachal: Online debates and elections in Ethiopia - from hate speech to engagement in social media. Oxford.
Giglou, Roya Imani/Ogan, Christine/d’Haenens, Leen (2018): The ties that bind the diaspora to Turkey and Europe during the Gezi protests. New Media and Society, 20(3), Seiten 937-955. doi: 10.1177/1461444816675441.
Glaser, Stefan/Herzog, Holger/Özkilic, Murat unter Mitarbeit des Teams von jugendschutz.net (2017): Jugendschutz im Internet: Risiken und Handlungsbedarf. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/bericht2015.pdf.
Gollatz, Kirsten/Riedl, Martin J./Pohlmann, Jens (2018): Removals of online hate speech in numbers. HIIG Science Blog. doi: 10.5281/zenodo.1342325.
Greenberg, Jeff/Schimel, Jeff/Martens, Andy/Solomon, Sheldon/Pyszcznyski, Tom (2001): Sympathy for the devil: Evidence that reminding Whites of their mortality promotes more favorable reactions to white racists, Motivation and Emotion, 25(2), Seiten 113-133. doi: 10.1023/a:1010613909207.
Grimme, Christian/Assenmacher, Dennis/Adam, Lena (2018): Changing Perspectives: Is it suffcient to detect social bots? Lecture Notes in Computer Science (including subseries Lecture Notes in Artifcial Intelligence and Lecture Notes in Bioinformatics), 10913 LNCS, Seiten 445-461. doi: 10.1007/978-3-319-91521-0_32.
Guess, Andrew/Nagler, Jonathan/Tucker, Joshua (2019): Less than you think: Prevalence and predictors of fake news dissemination on Facebook. Science Advances, (January), Seiten 1-9. doi: 10.1126/sciadv.aau4586.
Haim, Mario/Graefe, Andreas/Brosius, Hans-Bernd (2017): Burst of the Filter Bubble?: Effects of personalization on the diversity of Google News. Digital Journalism, Routledge, 0811, Seiten 1-14. doi: 10.1080/21670811.2017.1338145.
Hasebrink, Uwe/Hölig, Sascha (2017): Digital News Survey 2017 - Ergebnisse für Deutschland. Hamburg, Hans-Bredow Institut.
Haslam, Catherine/Cruwys, Tegan/Haslam, S. Alexander/Dingle, Genevieve/Xue-Ling Chang, Melissa (2016): Groups 4 Health: Evidence that a social-identity intervention that builds and strengthens social group membership improves mental health. Journal of Affective Disorders, Elsevier, 194, Seiten 188-195. doi: 10.1016/j.jad.2016.01.010.
Hogg, Michael A./Sherman, David K./Dierselhuis, Joel/Maitner, Angela T./Mofftt, Graham (2007) Uncertainty, entitativity, and group identifcation. Journal of Experimental Social Psychology, 43(1), Seiten 135-142. doi: 10.1016/j.jesp.2005.12.008.
Hogg, Michael A./Blaylock, Danielle L. (2012): Extremism and the Psychology of Uncertainty. Oxford, Blackwell Publishing Ltd.
Hohnstein, Sally/Glaser, Michaela (2017): Wie tragen digitale Medien zu politisch-weltanschaulichem Extremismus im Jugendalter bei und was kann pädagogische Arbeit dagegen tun? Ein Überblick über Forschungsstand, präventive und intervenierende Praxis im Themenfeld. In: Hohnstein, Sally/Herding, Maruta (Hrsg.): Digitale Medien und politisch-weltanschaulicher Extremismus im Jugendalter.
Erkenntnisse aus Wissenschaft und Praxis. Halle a. d. Saale, Deutsches Jugendinstitut, Seiten 243-281.
Hsueh, Mark/Yogeeswaran, Kumar /Malinen, Sanna (2015): “Leave your comment below”: Can biased online comments infuence our own prejudicial attitudes and behaviors? Human Communication Research, 41(4), Seiten 557-576. doi: 10.1111/hcre.12059.
Ismay, John (2018): Rhodesia’s dead – but White Supremacists Have Given It New Life Online. The New York Times Magazine, April, Seiten 1-7.
Jonas, Eva/Mcgregor, Ian/Klackl, Johannes/Agroskin, Dmitrij (2014): Threat and Defense: From Anxiety to Approach. In: Olson, James M. and Zanna, Marc P. (Hrsg.): Advances in experimental social psychology. 49th edn. Burlington, Elsevier Inc., Seiten 219-286. doi: 10.1016/B978-0-12-800052-6.00004-4.
Jugendschutz.net (2016): Zahlen Rechtsextremismus 2016. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/Zahlen_Rechtsextremismus_Online_2016.pdf.
Kaakinen, Markus/Oksanen, Atte/Räsänen, Pekka (2018): Did the risk of exposure to online hate increase after the November 2015 Paris attacks? A group relations approach, Computers in Human Behavior. Oxford, Pergamon, 78, Seiten 90-97. doi: 10.1016/J.CHB.2017.09.022.
Kahane, Anetta (2015): Der Kulturkampf der Gegenwart, ‘Geh sterben!’ Umgang mit Hate Speech und Kommentaren im Internet. Berlin, Amadeu-Antonio-Stiftung, Seiten 7-8.
Kaspar, Kai/Gräßer, Lars/Riff, Aycha (2017): Online Hate Speech. Perspektiven auf eine neue Form des Hasses. Marl, Schriftenreihe Grimme Institut.
Kiefer, Michael/Hüttermann, Jörg/Dziri, Bacem/Ceylan, Rauf/Roth, Viktoria/Srowig, Fabian/Zick, Andreas (2017): Lasset uns in sha’a Allah ein Plan machen. Wiesbaden, Springer Fachmedien VS.
Kixmüller, Jan (2018): Interview mit Extremismus-Experte Alexander Ritzmann: „Die Menschen sollen Angst vor ihren Nachbarn bekommen“ – Hochschulen in Potsdam, Tagesspiegel Potsdamer Nachrichten, 6 Juni, Seiten 1-5. Online: http://www.pnn.de/campus/1290547/.
Kreißel, Philipp/Ebner, Julia/Urban, Alexander/Guhl, Jakob (2018): Hass auf Knopfdruck – Rechtsextreme Trollfabriken und das Ökosystem koordinierter Hasskampagnen im Netz. Seiten 28. Online: http://www.isdglobal.org/wp-content/uploads/2018/07/ISD_Ich_Bin_Hier_2.pdf.
Kruglanski, Arie W. (2009): Fully committed: Suicide bombers’ motivation and the quest for personal signifcance. Political Psychology, 30(3), Seiten 331-357. doi: 10.1111/j.1467-9221.2009.00698.x.
Kruglanski, Arie W./Bélanger, Jocelyn J./Gelfand, Michele/Gunaratna,Rohan/Hettiarachchi, Malkanthi/Reinares, Fernando/Orehek,Edward/Sasota, Jo/Sharvit, Keren (2013): Terrorism - a (self) love story: Redirecting the signifcance quest can end violence, The American Psychologist, 68(7), Seiten 559-575. doi: 10.1037/a0032615.
Lasswell, Harold D. (1927): Propaganda techniques in the world war. London, Paul Kegan,Trench,Trubner & Co.
Leyendecker, Hans/Mascollo, Georg (2016): Die Chats der Attentäter von Würzburg und Ansbach mit dem IS. Süddeutsche Zeitung, September, Seiten 1-6.
Local Times Erfurt (2016): Hetze per WhatsApp. Local Times Erfurt, August.
Lyons-Padilla, Sarah/Gelfand, Michele/Mirahmadi, Hedieh/Farooq, Mehreen (2015): Belonging nowhere: Marginalization & radicalization risk among Muslim Immigrants. Behavioral Science and Policy, 1(2), Seiten 1-12. doi: 10.1353/bsp.2015.0019.
Machowecz, Martin/Middelhoff, Paul/Musharbash, Yassin/Stark, Holger (2018): Revolution Chemnitz: Zum Umsturz bereit. Zeit Online, October, Seiten 1-4.
Marwick, Alice/Lewis, Rebecca (2017): Media Manipulation and Disinformation Online. New York, Data & Society Research Institute, Seiten 1-104.
Mcgregor, Holly A./Lieberman, Joel D./Greenberg, Jeff/Solomon, Sheldon (1998): Terror management and aggression: Evidence that mortality salience motivates aggression against worldview-threatening others. Journal of Personality and Social Psychology, 74(3), Seiten 590-605. Online: http://www.ncbi.nlm.nih.gov/pubmed/9523407.
McKenna, Katelyn Y. A./Bargh, John A. (1998): Comming out in the age of internet. Journal of Personality and Social Psychology, 75(3), Seiten 681-694.
Meleagrou-Hitchens, Alexander/Kaderbhai, Nick (2017): Perspectives on Online Radicalization, Literature review 2006-2016. London,Vox Pol. Online: http://icsr.info/wp-content/uploads/2017/05/ResearchPerspectivesonOnlineRadicalisation.pdf.
Mitchell, Amy/Gottfried, Jeffrey/Barthel, Michael/Sumida, Nami (2018): Can Americans tell facts from opinions in the news?
Morin, David T./Flynn, Mark A. (2014): We are the Tea Party!: The use of Facebook as an online political forum for the construction and maintenance of in-group identifcation during the “GOTV” weekend. Communication Quarterly, 62(1), Seiten 115-133. doi: 10.1080/01463373.2013.861500.
Frischlich, Lena/Rieger, Diana/Morten,Anna/Bente, Gary (2017): Wirksamkeit: In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand.Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 161-224. Online: 978-3-9818469-1-1.
Näsi, Matti/Räsänen, Pekka/Hawdon, James/Holkeri, Emma (2015): Exposure to online hate material and social trust among Finnish youth. Information Technology & People, 28(3), Seiten 607-622. doi:10.1108/ITP-09-2014-0198.
Neumann, Katharina/Baugut, Philip (2016): Neonazis im Scheinwerferlicht der Medien – Eine Analyse reziproker Medieneffekte innerhalb der Neonazi-Szene in Deutschland. Wiesbaden, Springer VS.
Neumann, Peter (2008): Joining al-Qaeda. Jihadist recruitment in Europe. London, Routledge.
O’Callaghan, Derek/Greene, Derek/Conway, Maura/Carthy, Joe/Cunningham, Pádraig (2015): Down the (white) rabbit hole: The extreme right and online recommender systems. Social Science Computer Review, 33(4), Seiten 459-478. doi: 10.1177/0894439314555329.
Oboler, Andre (2015): The rise and fall of a facebook hate group. First Monday, 13(11).
Pariser, Eli (2011): The flter bubble: How the new personalized web is changing what we read and how we think. New York, The Penguin Press.
Pettigrew, Thomas F./Tropp, Linda R. (2006): A meta-analytic test of intergroup contact theory. Journal of Personality and Social Psychology, 90(5), Seiten 751-83. doi: 10.1037/0022-3514.90.5.751.
Pfundmair, Michaela (2018): Ostracism promotes a terroristic mindset, Behavioral Sciences of Terrorism and Political Aggression. Taylor & Francis, 0(0), Seiten 1-15. doi: 10.1080/19434472.2018.1443965.
Phillips, Whitney (2018): The oxygen of amplifcation: Better practices for reporting on extremists, antagonists, and manipulators online. Online: https://datasociety.net/wp-content/uploads/2018/05/FULLREPORT_Oxygen_of_Amplifcation_DS.pdf.
Preuß, Madlen/Tetzlaff, Frederik/Zick, Andreas (2017): Publizieren wird zur Mutprobe: Studie zur Wahrnehmung von und Erfahrung mit Angriffen unter Journalist_innen. Bielefeld.
Pyszczynski, Tom/Abdollahi, Abdolhossein/Solomon, Sheldon/Greenberg, Jeff/Cohen, Florette/Weise, David (2006): Mortality salience, martyrdom, and military might: the great satan versus the axis of evil. Personality & social psychology bulletin, 32(4), Seiten 525-37. doi: 10.1177/0146167205282157.
Qasem, Sindyan/Nordbruch, Götz (2017): Video kills learning standards? Zu neuen und alten Herausforderungen von politischer Bildung und Prävention im digitalen Zeitalter. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand, Seiten 249-258.
Quandt, Thorsten/Frischlich, Lena/Boberg, Svenja/Schatto-Eckrodt, Tim (2019): Fake News, The International Encyclopedia of Journalism Studies. Wiley.
Regnér, Lucas (2014): The YouTube-born terrorist. JEX, 2, Seiten 137-189.
Reinemann, Carsten/Nienierza, Angela/Fawzi, Nayla/Riesmeyer, Claudia/Neumann Katharina (2019): Jugend – Medien – Extremismus. Wiesbaden, Springer VS.
Rieger, Diana/Ernst, Julian/Schmitt, Josephine B./Vorderer, Peter/Bente, Gary/Roth, Hans-Joachim (2017): Propaganda und Alternativen im Internet – Medienpädagogische Implikationen. merz – medien + erziehung, 3, Seiten 27-35.
Rieger, Diana/Frischlich, Lena/Bente, Gary (2013): Disguised in entertainment? Approach and avoidance reactions towards right-wing and Islamic extremist propaganda videos. In: Paper presented at the 8th Meeting of the Media Psychology Division of the German Association of Psychology. Würzburg.
Rieger, Diana/Frischlich, Lena/Bente, Gary (2017): Propaganda in an insecure, unstructured world: How psychological uncertainty and authoritarian attitudes shape the evaluation of right-wing extremist internet propaganda. Journal for Deradicalization, 10(Spring), Seiten 203-229.
Rieger, Diana/Morten, Anna/Frischlich, Lena (2017): Verbreitung und Inszenierung. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand. Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 47-80.
Rieger, Diana/Schneider, Jana (2019): Zwischen Chemtrails, Reptiloiden und #pizzagate: Verschwörungstheorien aus kommunikationswissenschaftlicher Perspektive. In: Landesarbeitsgemeinschaft Mobile Jugendarbeit/Streetwork Baden-Württemberg e. V. & Jugendstiftung Baden-Württemberg, Mythen, Ideologien, und Theorien. Verschwörungsglaube in Zeiten von Social Media. Vaihingen an der Enz, Printmedien Karl-Heinz Sprenger, Seiten 13-20.
Sängerlaub, Alexander/Meier, Miriam/Rühl, Wolf-Dieter (2018): Fakten statt Fakes. Berlin. Online: https://www.stiftung-nv.de/de/publikation/fakten-statt-fakes-verursacher-verbreitungswege-und-wirkungen-von-fake-news-im.
Schatto-Eckrodt Tim/Boberg Svenja/Wintterlin Florian/Frischlich Lena/Quandt Thorsten (im Druck): Bedrohte Deliberation – Information Warfare und Desinformation als Bedrohung digitaler Öffentlichkeiten. Communicatio Socialis.
Schmitt, Josephine B./Ernst, Julian/Frischlich, Lena/Rieger, Diana (2017): Rechtsextreme und islamistische Propaganda im Internet: Methoden, Auswirkungen und Präventionsmöglichkeiten, in: Altenhof, Ralf/ Bunk, Sarah/Piepenschneider, Melanie (Hrsg.): Politischer Extremismus im Vergleich. Schriftenreihe Politische Bildung der Konrad-Adenauer-Stiftung e. V., Band 3. Berlin; Münster, LIT Verlag. Seiten 171-210.
Schmitt, Josephine B./Rieger, Rieger/Rutkowski, Olivia/Ernst, Julian (2018): Counter-messages as prevention or promotion of extremism?! The potential role of YouTube recommendation algorithms. Journal of Communication, 68(4), Seiten 780-808. doi: 10.1093/joc/jqy029.
Schmitt, Josephine B./Ernst, Julian/Rieger, Diana/Roth, Hans-Joachim (Hrsg.) (2020): Propaganda und Prävention. Forschungsergebnisse, didaktische Ansätze sowie interdisziplinäre und internationale Perspektiven zur pädagogischen Arbeit zu extremistischer Internetpropaganda. Wiesbaden, Springer VS.
Schmitz, Dominic Musa (2016): Ich war ein Salafist: Meine Zeit in der islamistischen Parallelwelt. Berlin, Ullstein eBooks.
Schreiber, Julia (2016): Unter Pseudonym in rechten Facebook Gruppen: So feiert die AfD ihren Wahlerfolg, ze.tt, 15 March. Online: https://ze.tt/weitere-artikel/.
Smeekes, Anouk/Verkuyten, Maykel/Martinovic, Borja (2015): Longing for the country’s good old days: National nostalgia, autochthony beliefs, and opposition to Muslim expressive rights. British Journal of Social Psychology, 54(3), Seiten 561-580. doi: 10.1111/bjso.12097.
Spinney, Laura (2017): The shared past that wasn't: How Facebook, fake news and friends are altering memories and changing history. Nature, 543(9), Seiten 168-170.
Stern, Jessica/Berger, James M. (2016): ISIS: The State of Terror. 2nd ed. London, Ecco.
Stöber, Silvia (2017): Desinformation in Osteuropa: Deutschland im Zerrspiegel. Tagesschau.de, 19 July, Seiten 2-3.
Sunstein, Cass R. (2007): Republic.com 2.0: Revenge of the blogs. Princeton, Princeton University Press.
Tajfel, Henry/Turner, John C. (1979): An integrative theory of intergroup confict. In: Worchel, Stephen/Austin, William G. (Hrsg.): The Social Psychology of Intergroup Relations. Monterey, CA, Brooks-Cole, Seiten 33-47.
Torok, Robyn (2010): “Make a bomb in your mums kitchen”: Cyber recruiting and socialisation of “White moors” and home grown jihadists, Proceedings of the 1st Australian Counter Terrorism Conference, (November), Seiten 54-61.
Valkenburg, Patti M./Peter, Jochen (2013): The differential susceptibility to media effects model. Journal of Communication, 63(2), Seiten 221-243. doi: 10.1111/jcom.12024.
Del Vicario, Michaela/Bessi, Alessandro/Zollo, Fabiana/Petroni, Fabio/Scala, Antonio/Caldarelli, Guido/Stanley, H. Eugene/Quattrociocchi, Walter (2016): The spreading of misinformation online. Proceedings of the National Academy of Sciences, 113(3), Seiten 554-559. doi: 10.1073/pnas.1517441113.
Vorderer, Peter/Klimmt,Christoph/Rieger, Diana/Baumann, Eva (2015): Der mediatisierte Lebenswandel – Permanently online, permanently connected, Publizistik, 60(3), Seiten 259-276. doi: 10.1007/s11616-015-0239-3.
Vorderer, Peter/Hefner, Dorothee/Reinecke, Leonard/Klimmt, Christoph (Hrsg.) (2018): Permanently online, permanently connected. New York, Routledge.
Vosoughi, Soroush/Roy, Deb/Aral, Sinan (2018): The spread of true and false news online. Science, 359(6380), Seiten 1.146-1.151. doi: 10.1126/science.aap9559.
Walther, Joseph B. (2009): In point of practice: Computer-mediated communication and virtual groups: Applications to interethnic conflict. Journal of Applied Communication Research, 37(3), Seiten 225-238.
Weichert, Stefan Alexander (2007): Die Propaganda der Tat – Zur Kommunikationsstrategie des modernen Aufmerksamkeitsterrorismus. In: Glaab, Sonja (Hrsg.): Medien und Terrorismus. Auf den Spuren einer symbiotischen Beziehung. Berlin, Berliner Wissenschaftsverlag, Seiten 83-98.
Winter, Charlie (2015): Documenting the virtual ’caliphate’. London. Online: http://www.quilliaminternational.com/wp-content/uploads/2015/10/FINAL-documenting-the-virtual-caliphate.pdf
Wojcieszak, Magdalena (2008): False consensus goes online impact of ideologically homogeneous groups on false consensus. Public Opinion Quarterly, 72(4), Seiten 781-791.
Yablokov, Ilya (2015): Conspiracy theories as a Russian public diplomacy tool: The case of Russia Today (RT). Politics, 35(3-4), Seiten 301-315. doi: 10.1111/1467-9256.12097.
Quellen
Das Nettz: https://www.das-nettz.de/ichbinhier-ev-verein, Abruf: 11.09.2019.
Demokratiezentrum BW: Über die Reichweite der Plattformanbieter hinaus gibt es weitere Meldestellen für Propaganda, Hate Speech und andere problematische Inhalte. Online beispielsweise: https://demokratiezentrum-bw.de/demokratiezentrum/vorfall-melden Abruf 11.09.2019.
Dschihadismus im Internet: http://www.ifeas.uni-mainz.de/2899.php.
Firstdraft.com: https://firstdraftnews.org/en/education/learn/.
Jamal Al-Khatib – Mein Weg: http://www.boja.at/projekte/fucht/jamal-al-khatib-paedagogisches-paket/, Abruf: 11.09.2019.
Jugendschutz.net: Bericht „Islamismus im Netz“ 2017: https://www.jugendschutz.net/fileadmin/download/pdf/Bericht_2017_Islamismus_im_Internet.pdf, Abruf 11.09.2019.
Junge Islamkonferenz: https://www.junge-islam-konferenz.de/.
Klicksafe, Unterrichtsmaterialien und weitere Informationen unter: https://www.klicksafe.de/rechtsextremismus, https://www.klicksafe.de/salafismus/, https://www.klicksafe.de/klicksafe-to-go/ (Material zu Desinformationen).
Mein Islam - dein Islam: https://www.mein-islam-dein-islam.de.
Redirect: https://redirectmethod.org/.
Schule ohne Rassismus - Schule mit Courage: https://www.schule-ohne-rassismus.org/startseite/, Abruf 11.09.2019.
#Search racism, find truth: http://www.search-racism-find-truth.com/.
Spektren salafistischer Diskurse in NRW: https://www.core-nrw.de.
Tagesschau: http://faktenfinder.tagesschau.de.
The Guardian: https://www.theguardian.com/us-news/2019/mar/15/donald-trump-denies-white-nationalism-threat-new-zealand (Abruf 11.09.19).
Ufuq.de: http://www.ufuq.de/was-postest-du-politische-bildung-mit-jungen-muslim_innen-online, Abruf: 11.09.2019.
Washington Post: https://www.washingtonpost.com/graphics/politics/trump-claims.
