Bühne des Kapitels / Moduls
Digitaler Wandel, Radikalisierungsprozesse und Extremismusprävention im Internet
3.4 Prozesse der Radikalisierung
Inhalt des Kapitels / Moduls
Die virtuelle Gemeinschaft
Radikalisierung in virtuellen Gemeinschaften
Wer wir sind, wird auch durch die sozialen Gruppen geprägt, denen wir angehören und mit denen wir uns identifizieren, etwa unsere Familien, Freunde, Religion oder Nationalität. Die Möglichkeit, über Online-Medien ständig mit anderen aus unserer Gruppe verbunden zu sein, verändert dabei zwar nicht, dass wir uns zu Gruppen zusammenfinden, aber es ist davon auszugehen, dass sich verändern kann, wie wir uns zusammenfinden. Online-Medien bieten unzählige Möglichkeiten, sich in virtuellen Gruppen auszutauschen und Gleichgesinnte zu finden. Sie können daher als Infrastruktur für extremistische Gruppen dienen und dabei helfen, bestimmte kollektive Identitäten – etwa das „deutsch” oder „muslimisch” Sein – im Sinne extremistischer Ideologien zu interpretieren und zu festigen.
Virtuelle Gruppen als wirksame Infrastruktur für Extremistinnen und Extremisten
Online ist es besonders leicht, Gruppen zu finden, die die eigenen Interessen oder Erfahrungen teilen, selbst dann, wenn die Mitglieder offline weit verstreut sind. 2017 nutzten beispielsweise bereits mehr als eine Milliarde Menschen die Gruppen-Funktion bei Facebook, in Deutschland allein waren es Millionen.53) Die meisten davon sind vermutlich nicht politisch oder gar extremistisch orientiert. Allerdings können Gruppen eben auch für extremistische Zwecke genutzt werden: So plante die rechtsterroristische Vereinigung „Revolution Chemnitz“ Medienberichten zufolge ihren Anschlag mit Hilfe einer Chat-Gruppe im Instant Messenger Telegram.54)
Mangelnde Datenlage zur Nutzung virtueller Gruppen
Noch ist vergleichsweise wenig über die Nutzung von virtuellen Gruppen speziell durch extremistische Personen bekannt, obwohl solche Gruppen bereits von Al-Qaida als zentrales Rekrutierungsinstrument angesehen wurden.55) Bekannt ist, dass etwa antisemitische Cyberhate-Gruppen innerhalb kürzester Zeit Tausende von Mitgliedern anziehen können und Hunderte von Facebook-Gruppen ihre Identität als ‘Tea-Party’-Mitglied zelebrieren.56) Es kann sehr schnell gehen, solchen Online-Gruppen beizutreten, ein Klick genügt. Manchmal ist aber auch eine gesonderte Anmeldung oder sogar ein gewisses Engagement im Vorfeld notwendig, etwa eine Begründung, warum man beitreten möchte. Während davon einerseits die Privatsphäre der Mediennutzerinnen und -nutzer profitiert, erschwert sich andererseits die (wissenschaftliche) Untersuchung entsprechender Foren.
Letzteres gilt aber natürlich nicht nur online: Das Spannungsfeld zwischen dem Recht auf Privatsphäre und dem Bedürfnis, Informationen zu sammeln und auszuwerten, existiert online wie offline. Berichte über das „Innenleben” extremistischer Gruppen existieren daher mehrheitlich durch investigative Journalistinnen und Journalisten, die sich ‚undercover‘ in solchen Gruppen bewegt haben.57) Solche Ansätze bewegen sich stets in einem schwierigen ethischen Spannungsfeld und laufen Gefahr, das Misstrauen gegenüber dem Journalismus (in rechten Kreisen häufig als „Mainstream“-Medien verteufelt) innerhalb extremistischer Echokammern zu begünstigen.
Extremisten halten sich (auch) in Echokammern auf
Ähnlich wie bei der Filterblasen-Hypothese sind die empirischen Belege für Echokammern58) eher gemischt. Die meisten Mediennutzerinnen und -nutzer konsumieren sehr unterschiedliche Medien — sie lesen Zeitung, scrollen durch Facebook und schauen Fernsehen. Diese Vielfalt schränkt die Wahrscheinlichkeit von Echokammern ein.59)Gerade extremistische Szenen achten aber darauf, dass ihre Mitglieder nicht zu viel „Abweichendes“ konsumieren.60) So zeigen Studien, dass Personen, die an Verschwörungstheorien glauben, bei Facebook hauptsächlich mit anderen Personen interagieren, die auch an solche Theorien glauben, aber nicht mit Personen, die wissenschaftliche Quellen konsumieren – und umgekehrt.61)
Je extremer die politische Meinung, desto eher wenden Mediennutzerinnen und -nutzer sich im Netz von Andersdenkenden ab.62) Im Laufe der Zeit kann so der Eindruck entstehen, die eigenen (vielleicht auch extremeren) Einstellungen wären mehrheitsfähig. Eine Umfrage unter Teilnehmenden eines digitalen Neo-Nazi Forums in den USA zeigte, dass Personen, die besonders viel Zeit in diesem Forum verbrachten, stärker dazu neigten, die Zustimmung der breiten Bevölkerung zu überschätzen – sie fühlten sich stärker im Recht.63)
Virtuelle Gruppen können den Umgang mit Informationen auch dann verzerren, wenn es sich nicht um geschlossene Echokammern handelt: Dies wird häufig darüber erreicht, dass Informationen anders verarbeitet werden, wenn eine kollektive Identität in Personen angesprochen wird, etwa wenn es um „unsere (deutschen/muslimischen etc.) Frauen“ geht.
Struktur und Informationen zum Kapitel / Modul
Fussnoten
1)
Vorderer et al. 2015, 260.
2)
Rechtsextremistinnen und -extremisten sowie islamistische extremistische Personen sind für eine Vielzahl von deutschsprachigen Online-Propaganda-Angeboten verantwortlich und stehen daher im Fokus dieses Kapitels (Bundesministerium des Innern 2017). Diese Schwerpunktsetzung bedeutet aber nicht, dass andere Ideologien und Gruppierungen keine Online-Propaganda verbreiten oder weniger extremistisch sind. Prinzipiell sind Online-Propaganda und Extremismus kultur- und ideologieübergreifende Phänomene.
3)
Bei einer DDoS-Attacke werden digitale Server gezielt überlastet, indem sie durch unzählige koordinierte Anfragen oder E-Mails bombardiert werden.
4)
Baldauf/Ebner/Guhl 2018, 5.
5)
Frischlich/Rieger 2017; Frischlich 2018.
6)
Glaser et al. 2017.
7)
Kaakinen/Oksanen/Räsänen 2018.
8)
Reinemann et al. 2019.
9)
Hohnstein/Glaser 2017; Meleagrou-Hitchens/Kaderbhai 2017.
10)
Ritzmann im Interview mit Kixmüller 2018.
11)
Ebner 2017.
12)
Hasebrink/Hölig 2017.
13)
Engl. Gatewatcher; Bruns 2009.
14)
Für einen Überblick s. Winter 2015.
15)
Bennett/Livingston 2018.
16)
Mitchell et al. 2018.
17)
Unseren eigenen Analysen zufolge: 15.791mal (Brinkschulte/Frischlich 30.03.2018, Facebook-Engagement via Netvizz)
18)
Vosoughi/Roy/Aral 2018.
19)
Als Meme bezeichnet man kulturtypische Ideen, Stilrichtungen oder Wissensinhalte, die sich von Account zu Account verbreiten. Meist wird die Bezeichnung umgangssprachlich für einen interessanten oder amüsanten Online-Inhalt verwendet, der sich rasch im Netz verbreitet. Oft handelt es sich um Bilder, die mit einer bestimmten Textbotschaft kombiniert werden.
20)
Jugendschutz.net 2016.
21)
Auch staatliche Einzelpersonen können so Propagandistinnen und Propagandisten unterstützen (oder ihnen etwas entgegensetzen). So streitet beispielsweise der amtierende US-Präsident Donald Trump in seinen Tweets häufig den Anstieg einer rechtsextremen Gesinnung ab und unterstützt/legitimiert so indirekt rassistische Äußerungen.
22)
Farkas/Schou/Neumayer 2017.
23)
Local Times Erfurt 2016.
24)
Schatto-Eckrodt et al. ohne Datum.
25)
Collins/Poulsen/Ackerman 2017.
26)
Appelbaum et al. 2017.
27)
Ahmed/George 2017.
28)
Schmitt et al. 2018.
29)
Grimme/Assenmacher/Adam 2018.
30)
Frischlich/Quandt 2019.
31)
Kreißel et al. 2018.
32)
O'Callaghan et al. 2015.
33)
Regnér 2014.
34)
Siehe Infobox: Pariser 2011.
35)
Haim/Graefe/Brosius 2017.
36)
Flaxmann/Rao 2016.
37)
Benigni/Joseph/Carley 2017.
38)
Frankenberger et al. 2018.
39)
Frischlich 2018.
40)
Guess/Nagler/Tucker 2019.
41)
Über die Reichweite der Plattformanbieter hinaus gibt es weitere Meldestellen für Propaganda, Hate Speech und andere problematische Inhalte, beispielsweise das Demokratiezentrum BW.
42)
Hasebrink/Hölig 2017.
43)
Brosius/Esser 1995; Frindte/Haußecker 2010.
44)
Weichert 2007; Marwick/Lewis 2017.
45)
Frischlich/Boberg/Quandt 2017; Preuß/Tetzlaff/Zick 2017.
46)
Etwa Antonio Amadeu Stiftung, Kahane 2015.
47)
firstdraftnews.
48)
jugendschutz.net.
49)
Glaser et al. 2017.
50)
Gollatz/Riedl/Pohlmann 2018.
51)
redirect.
52)
#search-racism-find-truth.
53)
Facebook Newsroom 2017.
54)
Machowecz et al. 2018.
55)
Torok 2010.
56)
Morin/Flynn 2014; Oboler 2015.
57)
Schreiber 2016.
58)
Siehe Infobox: Sunstein 2007.
59)
Dubois/Blank 2018.
60)
Neumann/Baugut 2016.
61)
Del Vicario et al. 2016.
62)
Bright 2017.
63)
Wojcieszak 2008.
64)
Tajfel/Turner 1979.
65)
Atwan 2016.
66)
Ismay 2018.
67)
Die Gezi-Proteste begannen im Mai 2013 in Istanbul mit einer kleinen Gruppe von Aktivistinnen und Aktivisten, die gegen die geplante Umwandlung des Gezi-Parks in ein Einkaufscenter protestierten. Die Polizei reagierte mit voller Härte, der Premierminister Recep Tayyip Erdoğan verurteilte die Proteste aufs Schärfste. In den folgenden Tagen griffen die Proteste auf weitere Städte über und richteten sich zunehmend gegen die autoritäre Führung des Landes.
68)
Giglou/Ogan/d'Haenens 2018.
69)
Haslam et al. 2016.
70)
Rieger/Frischlich/Bente 2019.
71)
Lyons-Padilla et al. 2015; Pfundmair 2018.
72)
McKenna/Bargh 1998.
73)
Kiefer et al. 2017.
74)
Spinney 2017.
75)
Clarke/Ingram 2018.
76)
Smeekes/Verkuyten/Martinovic 2015.
77)
Bruder et al. 2013.
78)
Rieger/Schneider 2018.
79)
Böhm/Rusch/Gürek 2015.
80)
Siehe Infobox: Ebd.
81)
Reinemann et al. 2019.
82)
Kaakinen/Oksanen/Räsänen 2018.
83)
Hsueh/Yogeeswaran/Malinen 2015.
84)
Näsi et al. 2015.
85)
Lyons-Padilla et al. 2015.
86)
Ufuq e. V.
87)
Das Nettz.
88)
Jamal Al-Khatib, Mein Weg.
89)
Schule ohne Rassismus, Schule mit Courage.
90)
Pettigrew/Tropp 2006.
91)
Walther 2009.
92)
Das Nettz.
93)
von Kaspar/Riffn/Gräser 2017.
94)
Vorderer at al. 2018.
95)
Valkenburg/Peter 2013.
96)
Klicksafe, Rechtsextremismus hat viele Gesichter, 40ff.
97)
Baaken/Schlegel 2017.
98)
Erelle 2015.
99)
Leyendecker/Mascollo 2016.
100)
Eigene Recherche, 24.05.2018.
101)
Rieger/Frischlich/Bente 2013; Rieger et al. 2019.
102)
Morten et al. 2017; Frischlich et al. 2018.
103)
Schmitt et al. 2017.
104)
Rieger et al. 2013.
105)
Jonas et al. 2014.
106)
Hogg et al. 2007; Hogg/Blaylock 2012.
107)
McGregor et al. 1998; Greenberg et al. 2001; Pyszczynski et al. 2006.
108)
Pfundmair 2018.
109)
Frischlich et al. 2015; Rieger/Frischlich/Bente 2017.
110)
Rieger/Frischlich/Bente 2013.
111)
Morten et al. 2017.
112)
Winter 2015.
113)
Eigene Beobachtungen anhand der Analyse prominenter ultra-rechter alternativer Medien.
114)
Stern/Berger 2016.
115)
Neumann 2008.
116)
Kruglanski 2009; Kruglanski et al. 2013.
117)
Qasem/Nordbruch 2017.
118)
Ernst et al. 2017.
119)
Schmitt et al. 2017.
120)
Frischlich et al. 2017, 2018.
121)
Morten et al. 2017.
122)
Doosje/van Eerten 2017.
123)
Die Tränen der Dawa.
124)
Klicksafe.
125)
Junge Islam-Konferenz.
126)
Mein Islam - dein Islam.
127)
Rieger/Morten/Frischlich 2017.
128)
U. a. Dschihadismus im Internet, Spektren salafistischer Diskurse in NRW.
129)
Meleagrou-Hitchens/Kaderbhai 2017.
130)
Engesser/Fawzi/Larsson 2017.
131)
Doosje et al. 2016.
132)
Frischlich 2018b.
133)
strongcitiesnetwork.org.
134)
Brown/Paterson 2016.
Literatur
Ahmed, Mubaraz/George, Fred L. (2017): A war of keywords. How extremists are exploiting the internet and what to do about it. London. Online: https://institute.global/sites/default/fles/inline-fles/IGC_War of Keywords_23.08.17_0.pdf.
Applebaum, Anne/Pomerantsev, Peter/Smith, Melanie/Colliver, Chloe (2017): “Make Germany great again”: Kremlin, Alt-right and international infuences in the 2017 German elections. London.
Atwan, Abdel Bari (2016): Das digitale Kalifat - die geheime Macht des Islamischen Staates. München, C.H. Beck.
Baaken, Till/Schlegel, Linda (2017): Fishermen or swarm dynamics? Should we understand Jihadist online-radicalization as a top-down or bottom-up process? Journal for Deradicalization, (13), Seiten 178-212.
Baldauf, Johannes/Ebner, Julia/Guhl, Jakob (2018): Hassrede und Radikalisierung im Netz - der OCCI Forschungsbericht. London, Institute for Strategic Dialogue.
Benigni, Matthew Curran/Joseph, Kenneth/Carley, Kathleen M. (2017): Online extremism and the communities that sustain it: Detecting the ISIS supporting community on Twitter. PLOS ONE, 12(12):eO181405. doi: 10.1371/journal.pone.0181405.
Bennett, W. Lance/Livingston, Steven (2018): The disinformation order: Disruptive communication and the decline of democratic institutions. London, European Journal of Communication, SAGE Publications, 33(2), Seiten 122-139. doi: 10.1177/0267323118760317.
Böhm, Robert/Rusch, Hannes/Gürek, Özgür (2015): What makes people go to war? Defensive intentions motivate retaliator and preemptive intergroup aggression. MPRA Paper, 64373. doi: https://mpra.ub.uni-muenchen.de/64373.
Bright, Jonathan (2017): Explaining the emergence of echo chambers on social media: the role of ideology and extremism. Seiten 1-19. doi: 10.2139/ssrn.2839728.
Brosius, Hans-Bernd/Esser, Frank (1995): Eskalation durch Berichterstattung. Massenmedien und fremdenfeindliche Gewalt [Escalation via reporting. Mass media and violence against foreigners]. Wiesbaden, Springer-Verlag. Online: http://link.springer.com/book/10.1007/978-3-663-12097-1/page/1.
Brown, Rupert/Paterson, Jenny (2016): Indirect contact and prejudice reduction: limits and possibilities, Current Opinion in Psychology. Elsevier Ltd, 11, Seiten 20-24. doi: 10.1016/j.copsyc.2016.03.005.
Bruder, Martin/Haffe, Peter/Neave, Nick/Nouripanah, Nina/Imhoff, Roland (2013): Measuring individual differences in generic beliefs in conspiracy theories across cultures: conspiracy mentality questionnaire. Frontiers in Psychology, 4 (April). doi: 10.3389/fpsyg.2013.00225.
Bruns, Axel (2009): Vom Gatekeeping zum Gatewatching. In: Journalismus im Internet: Profession – Partizipation – Technisierung. Wiesbaden, VS Verlag für Sozialwissenschaften, Springer Fachmedien, Seiten 107-128. doi: 10.1007/978-3-531-91562-3.
Bundesministerium des Innern (2017): Verfassungsschutzbericht 2016. Berlin.
Clarke, Colin P./Ingram, Haroro J. (2018): Defeating the ISIS nostalgia narrative. RAND.
Collins, Ben/Poulsen, Kevin/Ackerman, Spencer (2017): Exclusive: Russia used Facebook events to organize anti-immigrant rallies on U.S. soil, The Daily Beast, 9 November, Seiten 15-17. Online: https://www.thedailybeast.com/exclusive-russia-used-facebook-events-to-organize-anti-immigrant-rallies-on-us-soil.
Deutsche Welle (2018): China state media justify Muslim Uighur crackdown to prevent “Cina’s Syria”. Deutsche Welle, 13 August, Seiten 11-13.
Doosje, Bertjan/Moghaddam, Fathali M.Kruglanski Arie W./de Wolf, Arjan (2016): Terrorism, radicalization and de-radicalization, Current Opinion in Psychology. Elsevier Ltd, 11, Seiten 79-84. doi: 10.1016/j.copsyc.2016.06.008.
Doosje, Bertjan/van Eerten, Jan-Jaap (2017): “Counter-narratives” against violent extremism’. In: Colaert, Lore (Hrsg.): De-radicalisation: Scientifc insights for policy. Brüssel, Tomas Baum, Seiten 83-100. Online: http://www.tandfonline.com/doi/full/10.1080/14678800600933480.
Dubois, Elizabeth/Blank, Grant (2018): The echo chamber is overstated: The moderating effect of political interest and diverse media. Information Communication and Society. London, Taylor & Francis, 0(0), Seiten 1-17. doi: 10.1080/1369118X.2018.1428656.
Ebner, Julia (2017): The rage: The vicious circle of islamist and far-right extremism. London, I.B.Tauris & Co.
Engesser, Sven/Fawzi, Nayla/Larsson, Anders Olof (2017): Populist online communication: introduction to the special issue. Information, Communication & Society. London, Taylor & Francis, 20(9), Seiten 1.279-1.292. doi: 10.1080/1369118X.2017.1328525.
Erelle, Anna (2015): In the skin of a Jihadist: A young journalist enters the ISIS recruitment network. Harper Paperbacks.
Ernst, Julian/Beier, Ann Kristin/Schmitt, Josephine B./Rieger, Diana/Qasem, Sindyan/Roth, Hans-Joachim (2018): „Muss doch nicht unbedingt mit Pistole sein, Alter.“ – Lernarrangements zur Förderung von Medienkritikfähigkeit im Umgang mit extremistischer Internetpropaganda. Ein erster Evaluationsbericht aus dem Forschungsprojekt CONTRA. In: Hohnstein, Sally/Herding, Maruta (Hrsg.): Digitale Medien und politisch-weltanschaulicher Extremismus im Jugendalter. Erkenntnisse aus Wissenschaft und Praxis. Halle, Deutsches Jugendinstitut, Seiten 189-212.
Ernst, Julian/Schmitt, Josephine B./Rieger, Diana//Roth, Hans-Joachim (2018): Extremismus im Internet – Drei Lernarrangements zur Förderung von Medienkritikfähigkeit im Umgang mit Internetpropaganda in der Schule. Bundeskriminalamt,Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm.
Facebook Newsroom (2017): Eine Community von 30 Millionen: Facebook sagt Danke.
Farkas, Johan/Schou, Jannick/Neumayer, Christina (2017): Cloaked facebook pages: Exploring fake Islamist propaganda in social media. New Media & Society, 20(1): 146144481770775. doi: 10.1177/1461444817707759.
Flaxman, Seth R./Rao, Justin M. (2016): Filter bubbles, echo chambers, and online news consumption. Public Opinion Quarterly, 80 (Special Issue), Seiten 298-320. doi: 10.1093/poq/nfw006.
Frankenberger, Patrick/Hofmann, Ingrid/ Ipsen, Flemming/Oezmen, Fehime/Zarabian, Nava (2018): 2017 Bericht – Islamismus im Netz. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/Bericht_2017_Islamismus_im_Internet.pdf.
Frindte, Wolfgang/Haußecker, Nicole (2010): Inszenierter Terrorismus (Staged terrorism). Wiesbaden, Verlag für Sozialwissenschaften, Springer Fachmedien.
Frischlich, Lena/Rieger, Diana/Hein, Maia/Bente, Gary (2015): Dying the right-way? Interest in and perceived persuasiveness of parochial extremist propaganda increases after mortality salience. Frontiers in Psychology, Evolutionary Psychology and Neuroscience, 6(1222). doi: 10.3389/fpsyg.2015.01222.
Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (2017): Wirkung. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.): in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE). Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand. Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 81-140.
Frischlich, Lena (2018a): Fake News und Social Bots - Erkennung, Wirkung, Bekämpfung. In: Holznagel, Bernd/Steul, Willi (Hrsg.): Öffentlich-rechtlicher Rundfunk in Zeiten des Populismus. Leipzig, VISTAS, Seiten 28-59.
Frischlich, Lena (2018b): Propaganda3: Einblicke in die Inszenierung und Wirkung von Online-Propaganda auf der Makro-Meso-Mikro Ebene. In: Zywietz, Bernd/Sachs-Hombach, Klaus (Hrsg.): Fake news und Social Bots – Neue Mechanismen populistischer Propaganda. Aktivismus. Wiesbaden, Springer Fachmedien VS, S. 133-170. doi: https://doi.org/10.1007/978-3-658-22118-8.
Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (2018): The power of a good story: Narrative persuasion in extremist propaganda and videos against violent extremism. International Journal of Violence and Conflict, 12. doi: 10.4119/UNIBI/ijcv.64.
Frischlich, Lena (2018): Propaganda3: Einblicke in die Inszenierung und Wirkung von Online-Propaganda auf der Makro-Meso-Mikro Ebene. In: Zywietz, Bernd (Hrsg.): Fake-News, Hashtags & Social Bots: Neue Methoden der populistischen Propaganda. München, Springer Fachmedien VS.
Frischlich, Lena/Boberg, Svenja/Quandt, Thorsten (2017): Online newspapers as target of strategic user-generated content - Dealing with hate speech, fake news, and hidden propaganda. In: Annual Conference of the International Journal of Press and Politics. Oxford.
Frischlich, Lena/Quandt, Thorsten (2019): The markets of manipulation: The trading of social bots on clearnet and darknet markets. In: MISDOOM. Hamburg.
Frischlich, Lena/Rieger, Diana (2017): Hass im Netz - Hass im Herzen? Die Wirkung rechtsextremistischer und islamistisch-extremistischer Online Propagandavideos und mögliche Gegenangebote im Netz. In: Mind, 2. Online: http://de.in-mind.org/.
Gagliardone, Iginio (2016): Mechachal: Online debates and elections in Ethiopia - from hate speech to engagement in social media. Oxford.
Giglou, Roya Imani/Ogan, Christine/d’Haenens, Leen (2018): The ties that bind the diaspora to Turkey and Europe during the Gezi protests. New Media and Society, 20(3), Seiten 937-955. doi: 10.1177/1461444816675441.
Glaser, Stefan/Herzog, Holger/Özkilic, Murat unter Mitarbeit des Teams von jugendschutz.net (2017): Jugendschutz im Internet: Risiken und Handlungsbedarf. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/bericht2015.pdf.
Gollatz, Kirsten/Riedl, Martin J./Pohlmann, Jens (2018): Removals of online hate speech in numbers. HIIG Science Blog. doi: 10.5281/zenodo.1342325.
Greenberg, Jeff/Schimel, Jeff/Martens, Andy/Solomon, Sheldon/Pyszcznyski, Tom (2001): Sympathy for the devil: Evidence that reminding Whites of their mortality promotes more favorable reactions to white racists, Motivation and Emotion, 25(2), Seiten 113-133. doi: 10.1023/a:1010613909207.
Grimme, Christian/Assenmacher, Dennis/Adam, Lena (2018): Changing Perspectives: Is it suffcient to detect social bots? Lecture Notes in Computer Science (including subseries Lecture Notes in Artifcial Intelligence and Lecture Notes in Bioinformatics), 10913 LNCS, Seiten 445-461. doi: 10.1007/978-3-319-91521-0_32.
Guess, Andrew/Nagler, Jonathan/Tucker, Joshua (2019): Less than you think: Prevalence and predictors of fake news dissemination on Facebook. Science Advances, (January), Seiten 1-9. doi: 10.1126/sciadv.aau4586.
Haim, Mario/Graefe, Andreas/Brosius, Hans-Bernd (2017): Burst of the Filter Bubble?: Effects of personalization on the diversity of Google News. Digital Journalism, Routledge, 0811, Seiten 1-14. doi: 10.1080/21670811.2017.1338145.
Hasebrink, Uwe/Hölig, Sascha (2017): Digital News Survey 2017 - Ergebnisse für Deutschland. Hamburg, Hans-Bredow Institut.
Haslam, Catherine/Cruwys, Tegan/Haslam, S. Alexander/Dingle, Genevieve/Xue-Ling Chang, Melissa (2016): Groups 4 Health: Evidence that a social-identity intervention that builds and strengthens social group membership improves mental health. Journal of Affective Disorders, Elsevier, 194, Seiten 188-195. doi: 10.1016/j.jad.2016.01.010.
Hogg, Michael A./Sherman, David K./Dierselhuis, Joel/Maitner, Angela T./Mofftt, Graham (2007) Uncertainty, entitativity, and group identifcation. Journal of Experimental Social Psychology, 43(1), Seiten 135-142. doi: 10.1016/j.jesp.2005.12.008.
Hogg, Michael A./Blaylock, Danielle L. (2012): Extremism and the Psychology of Uncertainty. Oxford, Blackwell Publishing Ltd.
Hohnstein, Sally/Glaser, Michaela (2017): Wie tragen digitale Medien zu politisch-weltanschaulichem Extremismus im Jugendalter bei und was kann pädagogische Arbeit dagegen tun? Ein Überblick über Forschungsstand, präventive und intervenierende Praxis im Themenfeld. In: Hohnstein, Sally/Herding, Maruta (Hrsg.): Digitale Medien und politisch-weltanschaulicher Extremismus im Jugendalter.
Erkenntnisse aus Wissenschaft und Praxis. Halle a. d. Saale, Deutsches Jugendinstitut, Seiten 243-281.
Hsueh, Mark/Yogeeswaran, Kumar /Malinen, Sanna (2015): “Leave your comment below”: Can biased online comments infuence our own prejudicial attitudes and behaviors? Human Communication Research, 41(4), Seiten 557-576. doi: 10.1111/hcre.12059.
Ismay, John (2018): Rhodesia’s dead – but White Supremacists Have Given It New Life Online. The New York Times Magazine, April, Seiten 1-7.
Jonas, Eva/Mcgregor, Ian/Klackl, Johannes/Agroskin, Dmitrij (2014): Threat and Defense: From Anxiety to Approach. In: Olson, James M. and Zanna, Marc P. (Hrsg.): Advances in experimental social psychology. 49th edn. Burlington, Elsevier Inc., Seiten 219-286. doi: 10.1016/B978-0-12-800052-6.00004-4.
Jugendschutz.net (2016): Zahlen Rechtsextremismus 2016. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/Zahlen_Rechtsextremismus_Online_2016.pdf.
Kaakinen, Markus/Oksanen, Atte/Räsänen, Pekka (2018): Did the risk of exposure to online hate increase after the November 2015 Paris attacks? A group relations approach, Computers in Human Behavior. Oxford, Pergamon, 78, Seiten 90-97. doi: 10.1016/J.CHB.2017.09.022.
Kahane, Anetta (2015): Der Kulturkampf der Gegenwart, ‘Geh sterben!’ Umgang mit Hate Speech und Kommentaren im Internet. Berlin, Amadeu-Antonio-Stiftung, Seiten 7-8.
Kaspar, Kai/Gräßer, Lars/Riff, Aycha (2017): Online Hate Speech. Perspektiven auf eine neue Form des Hasses. Marl, Schriftenreihe Grimme Institut.
Kiefer, Michael/Hüttermann, Jörg/Dziri, Bacem/Ceylan, Rauf/Roth, Viktoria/Srowig, Fabian/Zick, Andreas (2017): Lasset uns in sha’a Allah ein Plan machen. Wiesbaden, Springer Fachmedien VS.
Kixmüller, Jan (2018): Interview mit Extremismus-Experte Alexander Ritzmann: „Die Menschen sollen Angst vor ihren Nachbarn bekommen“ – Hochschulen in Potsdam, Tagesspiegel Potsdamer Nachrichten, 6 Juni, Seiten 1-5. Online: http://www.pnn.de/campus/1290547/.
Kreißel, Philipp/Ebner, Julia/Urban, Alexander/Guhl, Jakob (2018): Hass auf Knopfdruck – Rechtsextreme Trollfabriken und das Ökosystem koordinierter Hasskampagnen im Netz. Seiten 28. Online: http://www.isdglobal.org/wp-content/uploads/2018/07/ISD_Ich_Bin_Hier_2.pdf.
Kruglanski, Arie W. (2009): Fully committed: Suicide bombers’ motivation and the quest for personal signifcance. Political Psychology, 30(3), Seiten 331-357. doi: 10.1111/j.1467-9221.2009.00698.x.
Kruglanski, Arie W./Bélanger, Jocelyn J./Gelfand, Michele/Gunaratna,Rohan/Hettiarachchi, Malkanthi/Reinares, Fernando/Orehek,Edward/Sasota, Jo/Sharvit, Keren (2013): Terrorism - a (self) love story: Redirecting the signifcance quest can end violence, The American Psychologist, 68(7), Seiten 559-575. doi: 10.1037/a0032615.
Lasswell, Harold D. (1927): Propaganda techniques in the world war. London, Paul Kegan,Trench,Trubner & Co.
Leyendecker, Hans/Mascollo, Georg (2016): Die Chats der Attentäter von Würzburg und Ansbach mit dem IS. Süddeutsche Zeitung, September, Seiten 1-6.
Local Times Erfurt (2016): Hetze per WhatsApp. Local Times Erfurt, August.
Lyons-Padilla, Sarah/Gelfand, Michele/Mirahmadi, Hedieh/Farooq, Mehreen (2015): Belonging nowhere: Marginalization & radicalization risk among Muslim Immigrants. Behavioral Science and Policy, 1(2), Seiten 1-12. doi: 10.1353/bsp.2015.0019.
Machowecz, Martin/Middelhoff, Paul/Musharbash, Yassin/Stark, Holger (2018): Revolution Chemnitz: Zum Umsturz bereit. Zeit Online, October, Seiten 1-4.
Marwick, Alice/Lewis, Rebecca (2017): Media Manipulation and Disinformation Online. New York, Data & Society Research Institute, Seiten 1-104.
Mcgregor, Holly A./Lieberman, Joel D./Greenberg, Jeff/Solomon, Sheldon (1998): Terror management and aggression: Evidence that mortality salience motivates aggression against worldview-threatening others. Journal of Personality and Social Psychology, 74(3), Seiten 590-605. Online: http://www.ncbi.nlm.nih.gov/pubmed/9523407.
McKenna, Katelyn Y. A./Bargh, John A. (1998): Comming out in the age of internet. Journal of Personality and Social Psychology, 75(3), Seiten 681-694.
Meleagrou-Hitchens, Alexander/Kaderbhai, Nick (2017): Perspectives on Online Radicalization, Literature review 2006-2016. London,Vox Pol. Online: http://icsr.info/wp-content/uploads/2017/05/ResearchPerspectivesonOnlineRadicalisation.pdf.
Mitchell, Amy/Gottfried, Jeffrey/Barthel, Michael/Sumida, Nami (2018): Can Americans tell facts from opinions in the news?
Morin, David T./Flynn, Mark A. (2014): We are the Tea Party!: The use of Facebook as an online political forum for the construction and maintenance of in-group identifcation during the “GOTV” weekend. Communication Quarterly, 62(1), Seiten 115-133. doi: 10.1080/01463373.2013.861500.
Frischlich, Lena/Rieger, Diana/Morten,Anna/Bente, Gary (2017): Wirksamkeit: In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand.Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 161-224. Online: 978-3-9818469-1-1.
Näsi, Matti/Räsänen, Pekka/Hawdon, James/Holkeri, Emma (2015): Exposure to online hate material and social trust among Finnish youth. Information Technology & People, 28(3), Seiten 607-622. doi:10.1108/ITP-09-2014-0198.
Neumann, Katharina/Baugut, Philip (2016): Neonazis im Scheinwerferlicht der Medien – Eine Analyse reziproker Medieneffekte innerhalb der Neonazi-Szene in Deutschland. Wiesbaden, Springer VS.
Neumann, Peter (2008): Joining al-Qaeda. Jihadist recruitment in Europe. London, Routledge.
O’Callaghan, Derek/Greene, Derek/Conway, Maura/Carthy, Joe/Cunningham, Pádraig (2015): Down the (white) rabbit hole: The extreme right and online recommender systems. Social Science Computer Review, 33(4), Seiten 459-478. doi: 10.1177/0894439314555329.
Oboler, Andre (2015): The rise and fall of a facebook hate group. First Monday, 13(11).
Pariser, Eli (2011): The flter bubble: How the new personalized web is changing what we read and how we think. New York, The Penguin Press.
Pettigrew, Thomas F./Tropp, Linda R. (2006): A meta-analytic test of intergroup contact theory. Journal of Personality and Social Psychology, 90(5), Seiten 751-83. doi: 10.1037/0022-3514.90.5.751.
Pfundmair, Michaela (2018): Ostracism promotes a terroristic mindset, Behavioral Sciences of Terrorism and Political Aggression. Taylor & Francis, 0(0), Seiten 1-15. doi: 10.1080/19434472.2018.1443965.
Phillips, Whitney (2018): The oxygen of amplifcation: Better practices for reporting on extremists, antagonists, and manipulators online. Online: https://datasociety.net/wp-content/uploads/2018/05/FULLREPORT_Oxygen_of_Amplifcation_DS.pdf.
Preuß, Madlen/Tetzlaff, Frederik/Zick, Andreas (2017): Publizieren wird zur Mutprobe: Studie zur Wahrnehmung von und Erfahrung mit Angriffen unter Journalist_innen. Bielefeld.
Pyszczynski, Tom/Abdollahi, Abdolhossein/Solomon, Sheldon/Greenberg, Jeff/Cohen, Florette/Weise, David (2006): Mortality salience, martyrdom, and military might: the great satan versus the axis of evil. Personality & social psychology bulletin, 32(4), Seiten 525-37. doi: 10.1177/0146167205282157.
Qasem, Sindyan/Nordbruch, Götz (2017): Video kills learning standards? Zu neuen und alten Herausforderungen von politischer Bildung und Prävention im digitalen Zeitalter. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand, Seiten 249-258.
Quandt, Thorsten/Frischlich, Lena/Boberg, Svenja/Schatto-Eckrodt, Tim (2019): Fake News, The International Encyclopedia of Journalism Studies. Wiley.
Regnér, Lucas (2014): The YouTube-born terrorist. JEX, 2, Seiten 137-189.
Reinemann, Carsten/Nienierza, Angela/Fawzi, Nayla/Riesmeyer, Claudia/Neumann Katharina (2019): Jugend – Medien – Extremismus. Wiesbaden, Springer VS.
Rieger, Diana/Ernst, Julian/Schmitt, Josephine B./Vorderer, Peter/Bente, Gary/Roth, Hans-Joachim (2017): Propaganda und Alternativen im Internet – Medienpädagogische Implikationen. merz – medien + erziehung, 3, Seiten 27-35.
Rieger, Diana/Frischlich, Lena/Bente, Gary (2013): Disguised in entertainment? Approach and avoidance reactions towards right-wing and Islamic extremist propaganda videos. In: Paper presented at the 8th Meeting of the Media Psychology Division of the German Association of Psychology. Würzburg.
Rieger, Diana/Frischlich, Lena/Bente, Gary (2017): Propaganda in an insecure, unstructured world: How psychological uncertainty and authoritarian attitudes shape the evaluation of right-wing extremist internet propaganda. Journal for Deradicalization, 10(Spring), Seiten 203-229.
Rieger, Diana/Morten, Anna/Frischlich, Lena (2017): Verbreitung und Inszenierung. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand. Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 47-80.
Rieger, Diana/Schneider, Jana (2019): Zwischen Chemtrails, Reptiloiden und #pizzagate: Verschwörungstheorien aus kommunikationswissenschaftlicher Perspektive. In: Landesarbeitsgemeinschaft Mobile Jugendarbeit/Streetwork Baden-Württemberg e. V. & Jugendstiftung Baden-Württemberg, Mythen, Ideologien, und Theorien. Verschwörungsglaube in Zeiten von Social Media. Vaihingen an der Enz, Printmedien Karl-Heinz Sprenger, Seiten 13-20.
Sängerlaub, Alexander/Meier, Miriam/Rühl, Wolf-Dieter (2018): Fakten statt Fakes. Berlin. Online: https://www.stiftung-nv.de/de/publikation/fakten-statt-fakes-verursacher-verbreitungswege-und-wirkungen-von-fake-news-im.
Schatto-Eckrodt Tim/Boberg Svenja/Wintterlin Florian/Frischlich Lena/Quandt Thorsten (im Druck): Bedrohte Deliberation – Information Warfare und Desinformation als Bedrohung digitaler Öffentlichkeiten. Communicatio Socialis.
Schmitt, Josephine B./Ernst, Julian/Frischlich, Lena/Rieger, Diana (2017): Rechtsextreme und islamistische Propaganda im Internet: Methoden, Auswirkungen und Präventionsmöglichkeiten, in: Altenhof, Ralf/ Bunk, Sarah/Piepenschneider, Melanie (Hrsg.): Politischer Extremismus im Vergleich. Schriftenreihe Politische Bildung der Konrad-Adenauer-Stiftung e. V., Band 3. Berlin; Münster, LIT Verlag. Seiten 171-210.
Schmitt, Josephine B./Rieger, Rieger/Rutkowski, Olivia/Ernst, Julian (2018): Counter-messages as prevention or promotion of extremism?! The potential role of YouTube recommendation algorithms. Journal of Communication, 68(4), Seiten 780-808. doi: 10.1093/joc/jqy029.
Schmitt, Josephine B./Ernst, Julian/Rieger, Diana/Roth, Hans-Joachim (Hrsg.) (2020): Propaganda und Prävention. Forschungsergebnisse, didaktische Ansätze sowie interdisziplinäre und internationale Perspektiven zur pädagogischen Arbeit zu extremistischer Internetpropaganda. Wiesbaden, Springer VS.
Schmitz, Dominic Musa (2016): Ich war ein Salafist: Meine Zeit in der islamistischen Parallelwelt. Berlin, Ullstein eBooks.
Schreiber, Julia (2016): Unter Pseudonym in rechten Facebook Gruppen: So feiert die AfD ihren Wahlerfolg, ze.tt, 15 March. Online: https://ze.tt/weitere-artikel/.
Smeekes, Anouk/Verkuyten, Maykel/Martinovic, Borja (2015): Longing for the country’s good old days: National nostalgia, autochthony beliefs, and opposition to Muslim expressive rights. British Journal of Social Psychology, 54(3), Seiten 561-580. doi: 10.1111/bjso.12097.
Spinney, Laura (2017): The shared past that wasn't: How Facebook, fake news and friends are altering memories and changing history. Nature, 543(9), Seiten 168-170.
Stern, Jessica/Berger, James M. (2016): ISIS: The State of Terror. 2nd ed. London, Ecco.
Stöber, Silvia (2017): Desinformation in Osteuropa: Deutschland im Zerrspiegel. Tagesschau.de, 19 July, Seiten 2-3.
Sunstein, Cass R. (2007): Republic.com 2.0: Revenge of the blogs. Princeton, Princeton University Press.
Tajfel, Henry/Turner, John C. (1979): An integrative theory of intergroup confict. In: Worchel, Stephen/Austin, William G. (Hrsg.): The Social Psychology of Intergroup Relations. Monterey, CA, Brooks-Cole, Seiten 33-47.
Torok, Robyn (2010): “Make a bomb in your mums kitchen”: Cyber recruiting and socialisation of “White moors” and home grown jihadists, Proceedings of the 1st Australian Counter Terrorism Conference, (November), Seiten 54-61.
Valkenburg, Patti M./Peter, Jochen (2013): The differential susceptibility to media effects model. Journal of Communication, 63(2), Seiten 221-243. doi: 10.1111/jcom.12024.
Del Vicario, Michaela/Bessi, Alessandro/Zollo, Fabiana/Petroni, Fabio/Scala, Antonio/Caldarelli, Guido/Stanley, H. Eugene/Quattrociocchi, Walter (2016): The spreading of misinformation online. Proceedings of the National Academy of Sciences, 113(3), Seiten 554-559. doi: 10.1073/pnas.1517441113.
Vorderer, Peter/Klimmt,Christoph/Rieger, Diana/Baumann, Eva (2015): Der mediatisierte Lebenswandel – Permanently online, permanently connected, Publizistik, 60(3), Seiten 259-276. doi: 10.1007/s11616-015-0239-3.
Vorderer, Peter/Hefner, Dorothee/Reinecke, Leonard/Klimmt, Christoph (Hrsg.) (2018): Permanently online, permanently connected. New York, Routledge.
Vosoughi, Soroush/Roy, Deb/Aral, Sinan (2018): The spread of true and false news online. Science, 359(6380), Seiten 1.146-1.151. doi: 10.1126/science.aap9559.
Walther, Joseph B. (2009): In point of practice: Computer-mediated communication and virtual groups: Applications to interethnic conflict. Journal of Applied Communication Research, 37(3), Seiten 225-238.
Weichert, Stefan Alexander (2007): Die Propaganda der Tat – Zur Kommunikationsstrategie des modernen Aufmerksamkeitsterrorismus. In: Glaab, Sonja (Hrsg.): Medien und Terrorismus. Auf den Spuren einer symbiotischen Beziehung. Berlin, Berliner Wissenschaftsverlag, Seiten 83-98.
Winter, Charlie (2015): Documenting the virtual ’caliphate’. London. Online: http://www.quilliaminternational.com/wp-content/uploads/2015/10/FINAL-documenting-the-virtual-caliphate.pdf
Wojcieszak, Magdalena (2008): False consensus goes online impact of ideologically homogeneous groups on false consensus. Public Opinion Quarterly, 72(4), Seiten 781-791.
Yablokov, Ilya (2015): Conspiracy theories as a Russian public diplomacy tool: The case of Russia Today (RT). Politics, 35(3-4), Seiten 301-315. doi: 10.1111/1467-9256.12097.
Quellen
Das Nettz: https://www.das-nettz.de/ichbinhier-ev-verein, Abruf: 11.09.2019.
Demokratiezentrum BW: Über die Reichweite der Plattformanbieter hinaus gibt es weitere Meldestellen für Propaganda, Hate Speech und andere problematische Inhalte. Online beispielsweise: https://demokratiezentrum-bw.de/demokratiezentrum/vorfall-melden Abruf 11.09.2019.
Dschihadismus im Internet: http://www.ifeas.uni-mainz.de/2899.php.
Firstdraft.com: https://firstdraftnews.org/en/education/learn/.
Jamal Al-Khatib – Mein Weg: http://www.boja.at/projekte/fucht/jamal-al-khatib-paedagogisches-paket/, Abruf: 11.09.2019.
Jugendschutz.net: Bericht „Islamismus im Netz“ 2017: https://www.jugendschutz.net/fileadmin/download/pdf/Bericht_2017_Islamismus_im_Internet.pdf, Abruf 11.09.2019.
Junge Islamkonferenz: https://www.junge-islam-konferenz.de/.
Klicksafe, Unterrichtsmaterialien und weitere Informationen unter: https://www.klicksafe.de/rechtsextremismus, https://www.klicksafe.de/salafismus/, https://www.klicksafe.de/klicksafe-to-go/ (Material zu Desinformationen).
Mein Islam - dein Islam: https://www.mein-islam-dein-islam.de.
Redirect: https://redirectmethod.org/.
Schule ohne Rassismus - Schule mit Courage: https://www.schule-ohne-rassismus.org/startseite/, Abruf 11.09.2019.
#Search racism, find truth: http://www.search-racism-find-truth.com/.
Spektren salafistischer Diskurse in NRW: https://www.core-nrw.de.
Tagesschau: http://faktenfinder.tagesschau.de.
The Guardian: https://www.theguardian.com/us-news/2019/mar/15/donald-trump-denies-white-nationalism-threat-new-zealand (Abruf 11.09.19).
Ufuq.de: http://www.ufuq.de/was-postest-du-politische-bildung-mit-jungen-muslim_innen-online, Abruf: 11.09.2019.
Washington Post: https://www.washingtonpost.com/graphics/politics/trump-claims.
