Bühne des Kapitels / Moduls
Digitaler Wandel, Radikalisierungsprozesse und Extremismusprävention im Internet
3.4 Prozesse der Radikalisierung
Inhalt des Kapitels / Moduls
Einleitung
Online-Medien sind auch in Deutschland längst selbstverständlicher Teil des Alltags geworden. Die meisten Menschen nutzen das Internet, viele sind über das eigene Smartphone täglich online. Der quasi permanente Zugang zu Informationen und die Möglichkeit, ständig mit anderen verbunden zu sein, führen zu einem fundamentalen Wandel menschlichen Erlebens in der digitalisierten Gesellschaft: „Der Mensch von heute – und zumal der von morgen – denkt, fühlt, erlebt und handelt in der Erwartung, ‘permanently online, permanently connected’ (POPC) zu sein oder doch zumindest sein zu können”.1)
Auch die Verbreitung von Informationen hat sich verändert — im Netz kann quasi jede und jeder eigene Inhalte veröffentlichen – auch Extremistinnen und Extremisten. So machen sich beispielsweise auch rechtsextremistische Personen und islamistische Extremistinnen und Extremisten2) Online-Medien zunutze, etwa um ihre Feinde einzuschüchtern, Angriffe zu koordinieren, Videos von Anschlägen zu verbreiten, Allianzen zu festigen oder um Wissen über Anschlagstaktiken zu vermitteln. Online-Kanäle können im Rahmen sogenannter “Cyber-Kriege” mit Hilfe von Computerviren, Denial-of-Service (DDoS)3)
Angriffen oder gezielte Hacks auch selbst zum Ziel von Angriffen werden. Vor allem aber erleichtern Online-Medien Extremistinnen und Extremisten die Verbreitung von Propaganda, mit deren Hilfe (unter anderem) neue Anhängerschaften rekrutiert werden sollen. Im Gegensatz zu traditionellen Rekrutierungswegen, etwa dem Verteilen von Flyern, können dabei auch Personen erreicht werden, zu denen (zunächst) kein physischer Kontakt besteht.
Natürlich ist die Nutzung von Online-Medien etwas, was extremistische Personen mit allen Bewohnerinnen und Bewohnern unserer digitalen Welt verbindet, so formuliert es Peter Neumann im Vorwort zum Bericht des Institute for Strategic Dialoge:
„Dass sich auf den Laptops von Terrorverdächtigen Kopien dschihadistischer Online-Magazine befinden und dass sie mit ihren Kameraden per Messenger und in sozialen Netzwerken kommunizieren, ist nicht unbedingt ein Beweis für „Online-Radikalisierung“, sondern zeigt, dass Extremisten – trotz ihrer extremen politischen Ansichten – Produkte ihrer Zeit sind. Oder erwarten wir ernsthaft, dass sich Extremisten nach wie vor Briefe schreiben, ihre Flüge im Reisebüro buchen und ihre Fotos zum Entwickeln ins Labor bringen?“.4)
Dennoch wird immer wieder befürchtet, dass durch Online-Propaganda die Gefahr sogenannter „verteilter“ Indoktrinationsprozesse (engl. distributed indoctrination) steigt, bei denen Mediennutzende auch durch Extremistinnen und Extremisten jenseits ihres geographischen Umfeldes oder ihrer temporalen Bedingungen radikalisiert werden könnten. Im Gegensatz dazu steht die alte Vorstellung, dass Indoktrination immer eingebettet in einem spezifischen Kontext verläuft (engl. embedded indoctrination).
Das vorliegende Kapitel beleuchtet die Befürchtung einer stark vereinfachten distributed indoctrination über das Internet und gibt Einblicke in die Rolle von Online-Medien im Allgemeinen und Online-Propaganda im Speziellen für extremistische Radikalisierungsprozesse. Dem Internet können in diesem Themenkontext verschiedene Rollen zugesprochen werden: als Verbreiter von extremistischer Propaganda, als Verstärker einer möglichen Wirkung, aber auch als Ort, in dem auch Prävention stattfinden kann. Diese Rollen können darüber hinaus auf verschiedenen Ebenen sichtbar werden. Folgende Punkte können daher als Ausgangspunkt zur Lektüre dieses Kapitels gelesen werden:
Extremistische Propaganda ist im Netz weit verbreitet
Festgehalten werden kann, dass extremistische Propaganda im Netz weit verbreitet ist. Wie groß die Menge an extremistischer Online-Propaganda genau ist, ist schwer zu sagen. Das Angebot verändert sich ständig, nicht zuletzt dadurch, dass auch große Online-Plattformen inzwischen verstärkt gegen extremistische Inhalte vorgehen. Eine erste Einschätzung für den deutschsprachigen Raum liefert das Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Internet, Jugendschutz.net. Jugendschutz.net berichtet, dass im Jahr 2016 insgesamt 102.423 potenziell jugendgefährdende Inhalte geprüft wurden; 20 Prozent der identifizierten Verstöße entfielen dabei auf extremistische Online-Inhalte.6)
Die Wahrscheinlichkeit, im Netz auf extremistische Angebote zu stoßen, scheint einer finnischen Untersuchung zufolge zu steigen: Während im Jahr 2013 etwa 17 Prozent der finnischen Internetnutzerinnen und -nutzer unter 30 Jahren berichteten, dass sie im Netz schon einmal extremistischen Botschaften ausgesetzt waren, stieg dieser Anteil 2015 bereits auf mehr als 60 Prozent.7) Auch für Deutschland zeigte eine repräsentative Befragung, dass 2016 etwa 40 Prozent der 14- bis 19-Jährigen über Videoplattformen wie YouTube zumindest gelegentlich mit extremistischen Inhalten in Kontakt kamen.8)
Online-Propaganda löst keine Radikalisierung aus – kann Radikalisierungsprozesse aber unterstützen
Die bisherige Befundlage in aktuellen Überblicksarbeiten zeigt, dass der reine Kontakt mit Online-Propaganda nicht als Auslöser, sondern eher als Katalysator innerhalb eines komplexen Radikalisierungsprozesses zu verstehen ist.9) Veränderungen in der digitalen Gesellschaft, die Verfügbarkeit digitaler Gemeinschaften und das Leben als Online-Individuum haben die Möglichkeiten für extremistische Radikalisierungsbemühungen verändert. Nicht mehr zeitgemäß erscheint das Bild eines „Puppenspiels”, bei dem nur die Puppenspielerin oder der Puppenspieler steuert.10) Radikalisierung kann demnach besser als „Tango“ verstanden werden, bei dem eine Partei führt und die andere sich führen lässt. Ob die Strategien, die Propaganda einsetzt, um zu „führen“ (= Push-Faktoren) erfolgreich sind, hängt daher auch von den Eigenschaften des Publikums (= Pull-Faktoren) ab, dass sich „führen” lassen muss.
Es gibt einige Gemeinsamkeiten bezüglich der bedeutsamen Push- und Pull-Faktoren im Rechtsextremismus und islamistischen Extremismus11) – auch wenn es um Online-Propaganda geht. Diese phänomenübergreifenden Faktoren stehen im Mittelpunkt dieses Kapitels, für Spezifika einzelner Phänomenbereiche verweisen wir auf die Beiträge zur Phänomenologie in diesem Band (s. Kap. 2).
Online-Medien bieten auch neue Möglichkeiten für die Extremismusprävention
Online-Medien sind nicht nur für die Verbreitung und Wirkung extremistischer Propaganda relevant – auch für die Extremismusprävention können sie eingesetzt werden. So können Sozialarbeiterinnen und -arbeiter online ins Gespräch kommen, und politische Bildungsträger erreichen im Netz neue Zielgruppen. Online-Medien bieten in diesem Kontext daher einzigartige Gelegenheiten, sich über Hilfsangebote jenseits des sozialen oder geographischen Nahraums zu informieren.
Die Rolle von Online-Medien muss auf mehreren Ebenen betrachtet werden
Vor diesem Hintergrund beleuchtet das vorliegende Kapitel die Bedeutung von Online-Medien sowohl für extremistische Radikalisierungsprozesse, als auch für Präventionsansätze auf drei Ebenen: auf der „Makro-Ebene“ der digitalen Gesellschaft, der „Meso-Ebene“ virtueller Gemeinschaften, und der „Mikro-Ebene“ des Online-Individuums. Im Fokus stehen jeweils die veränderten Voraussetzungen für Radikalisierungsversuche, die sich in der digitalen Welt ergeben, die Wirkung, die extremistische Propaganda auf die jeweilige Zielgröße (Gesellschaft, Gruppe, Individuum, s. Kap. 3.1-3.3) hat, und welche Implikationen sich daraus für die Prävention ergeben.
Struktur und Informationen zum Kapitel / Modul
Fussnoten
1)
Vorderer et al. 2015, 260.
2)
Rechtsextremistinnen und -extremisten sowie islamistische extremistische Personen sind für eine Vielzahl von deutschsprachigen Online-Propaganda-Angeboten verantwortlich und stehen daher im Fokus dieses Kapitels (Bundesministerium des Innern 2017). Diese Schwerpunktsetzung bedeutet aber nicht, dass andere Ideologien und Gruppierungen keine Online-Propaganda verbreiten oder weniger extremistisch sind. Prinzipiell sind Online-Propaganda und Extremismus kultur- und ideologieübergreifende Phänomene.
3)
Bei einer DDoS-Attacke werden digitale Server gezielt überlastet, indem sie durch unzählige koordinierte Anfragen oder E-Mails bombardiert werden.
4)
Baldauf/Ebner/Guhl 2018, 5.
5)
Frischlich/Rieger 2017; Frischlich 2018.
6)
Glaser et al. 2017.
7)
Kaakinen/Oksanen/Räsänen 2018.
8)
Reinemann et al. 2019.
9)
Hohnstein/Glaser 2017; Meleagrou-Hitchens/Kaderbhai 2017.
10)
Ritzmann im Interview mit Kixmüller 2018.
11)
Ebner 2017.
12)
Hasebrink/Hölig 2017.
13)
Engl. Gatewatcher; Bruns 2009.
14)
Für einen Überblick s. Winter 2015.
15)
Bennett/Livingston 2018.
16)
Mitchell et al. 2018.
17)
Unseren eigenen Analysen zufolge: 15.791mal (Brinkschulte/Frischlich 30.03.2018, Facebook-Engagement via Netvizz)
18)
Vosoughi/Roy/Aral 2018.
19)
Als Meme bezeichnet man kulturtypische Ideen, Stilrichtungen oder Wissensinhalte, die sich von Account zu Account verbreiten. Meist wird die Bezeichnung umgangssprachlich für einen interessanten oder amüsanten Online-Inhalt verwendet, der sich rasch im Netz verbreitet. Oft handelt es sich um Bilder, die mit einer bestimmten Textbotschaft kombiniert werden.
20)
Jugendschutz.net 2016.
21)
Auch staatliche Einzelpersonen können so Propagandistinnen und Propagandisten unterstützen (oder ihnen etwas entgegensetzen). So streitet beispielsweise der amtierende US-Präsident Donald Trump in seinen Tweets häufig den Anstieg einer rechtsextremen Gesinnung ab und unterstützt/legitimiert so indirekt rassistische Äußerungen.
22)
Farkas/Schou/Neumayer 2017.
23)
Local Times Erfurt 2016.
24)
Schatto-Eckrodt et al. ohne Datum.
25)
Collins/Poulsen/Ackerman 2017.
26)
Appelbaum et al. 2017.
27)
Ahmed/George 2017.
28)
Schmitt et al. 2018.
29)
Grimme/Assenmacher/Adam 2018.
30)
Frischlich/Quandt 2019.
31)
Kreißel et al. 2018.
32)
O'Callaghan et al. 2015.
33)
Regnér 2014.
34)
Siehe Infobox: Pariser 2011.
35)
Haim/Graefe/Brosius 2017.
36)
Flaxmann/Rao 2016.
37)
Benigni/Joseph/Carley 2017.
38)
Frankenberger et al. 2018.
39)
Frischlich 2018.
40)
Guess/Nagler/Tucker 2019.
41)
Über die Reichweite der Plattformanbieter hinaus gibt es weitere Meldestellen für Propaganda, Hate Speech und andere problematische Inhalte, beispielsweise das Demokratiezentrum BW.
42)
Hasebrink/Hölig 2017.
43)
Brosius/Esser 1995; Frindte/Haußecker 2010.
44)
Weichert 2007; Marwick/Lewis 2017.
45)
Frischlich/Boberg/Quandt 2017; Preuß/Tetzlaff/Zick 2017.
46)
Etwa Antonio Amadeu Stiftung, Kahane 2015.
47)
firstdraftnews.
48)
jugendschutz.net.
49)
Glaser et al. 2017.
50)
Gollatz/Riedl/Pohlmann 2018.
51)
redirect.
52)
#search-racism-find-truth.
53)
Facebook Newsroom 2017.
54)
Machowecz et al. 2018.
55)
Torok 2010.
56)
Morin/Flynn 2014; Oboler 2015.
57)
Schreiber 2016.
58)
Siehe Infobox: Sunstein 2007.
59)
Dubois/Blank 2018.
60)
Neumann/Baugut 2016.
61)
Del Vicario et al. 2016.
62)
Bright 2017.
63)
Wojcieszak 2008.
64)
Tajfel/Turner 1979.
65)
Atwan 2016.
66)
Ismay 2018.
67)
Die Gezi-Proteste begannen im Mai 2013 in Istanbul mit einer kleinen Gruppe von Aktivistinnen und Aktivisten, die gegen die geplante Umwandlung des Gezi-Parks in ein Einkaufscenter protestierten. Die Polizei reagierte mit voller Härte, der Premierminister Recep Tayyip Erdoğan verurteilte die Proteste aufs Schärfste. In den folgenden Tagen griffen die Proteste auf weitere Städte über und richteten sich zunehmend gegen die autoritäre Führung des Landes.
68)
Giglou/Ogan/d'Haenens 2018.
69)
Haslam et al. 2016.
70)
Rieger/Frischlich/Bente 2019.
71)
Lyons-Padilla et al. 2015; Pfundmair 2018.
72)
McKenna/Bargh 1998.
73)
Kiefer et al. 2017.
74)
Spinney 2017.
75)
Clarke/Ingram 2018.
76)
Smeekes/Verkuyten/Martinovic 2015.
77)
Bruder et al. 2013.
78)
Rieger/Schneider 2018.
79)
Böhm/Rusch/Gürek 2015.
80)
Siehe Infobox: Ebd.
81)
Reinemann et al. 2019.
82)
Kaakinen/Oksanen/Räsänen 2018.
83)
Hsueh/Yogeeswaran/Malinen 2015.
84)
Näsi et al. 2015.
85)
Lyons-Padilla et al. 2015.
86)
Ufuq e. V.
87)
Das Nettz.
88)
Jamal Al-Khatib, Mein Weg.
89)
Schule ohne Rassismus, Schule mit Courage.
90)
Pettigrew/Tropp 2006.
91)
Walther 2009.
92)
Das Nettz.
93)
von Kaspar/Riffn/Gräser 2017.
94)
Vorderer at al. 2018.
95)
Valkenburg/Peter 2013.
96)
Klicksafe, Rechtsextremismus hat viele Gesichter, 40ff.
97)
Baaken/Schlegel 2017.
98)
Erelle 2015.
99)
Leyendecker/Mascollo 2016.
100)
Eigene Recherche, 24.05.2018.
101)
Rieger/Frischlich/Bente 2013; Rieger et al. 2019.
102)
Morten et al. 2017; Frischlich et al. 2018.
103)
Schmitt et al. 2017.
104)
Rieger et al. 2013.
105)
Jonas et al. 2014.
106)
Hogg et al. 2007; Hogg/Blaylock 2012.
107)
McGregor et al. 1998; Greenberg et al. 2001; Pyszczynski et al. 2006.
108)
Pfundmair 2018.
109)
Frischlich et al. 2015; Rieger/Frischlich/Bente 2017.
110)
Rieger/Frischlich/Bente 2013.
111)
Morten et al. 2017.
112)
Winter 2015.
113)
Eigene Beobachtungen anhand der Analyse prominenter ultra-rechter alternativer Medien.
114)
Stern/Berger 2016.
115)
Neumann 2008.
116)
Kruglanski 2009; Kruglanski et al. 2013.
117)
Qasem/Nordbruch 2017.
118)
Ernst et al. 2017.
119)
Schmitt et al. 2017.
120)
Frischlich et al. 2017, 2018.
121)
Morten et al. 2017.
122)
Doosje/van Eerten 2017.
123)
Die Tränen der Dawa.
124)
Klicksafe.
125)
Junge Islam-Konferenz.
126)
Mein Islam - dein Islam.
127)
Rieger/Morten/Frischlich 2017.
128)
U. a. Dschihadismus im Internet, Spektren salafistischer Diskurse in NRW.
129)
Meleagrou-Hitchens/Kaderbhai 2017.
130)
Engesser/Fawzi/Larsson 2017.
131)
Doosje et al. 2016.
132)
Frischlich 2018b.
133)
strongcitiesnetwork.org.
134)
Brown/Paterson 2016.
Literatur
Ahmed, Mubaraz/George, Fred L. (2017): A war of keywords. How extremists are exploiting the internet and what to do about it. London. Online: https://institute.global/sites/default/fles/inline-fles/IGC_War of Keywords_23.08.17_0.pdf.
Applebaum, Anne/Pomerantsev, Peter/Smith, Melanie/Colliver, Chloe (2017): “Make Germany great again”: Kremlin, Alt-right and international infuences in the 2017 German elections. London.
Atwan, Abdel Bari (2016): Das digitale Kalifat - die geheime Macht des Islamischen Staates. München, C.H. Beck.
Baaken, Till/Schlegel, Linda (2017): Fishermen or swarm dynamics? Should we understand Jihadist online-radicalization as a top-down or bottom-up process? Journal for Deradicalization, (13), Seiten 178-212.
Baldauf, Johannes/Ebner, Julia/Guhl, Jakob (2018): Hassrede und Radikalisierung im Netz - der OCCI Forschungsbericht. London, Institute for Strategic Dialogue.
Benigni, Matthew Curran/Joseph, Kenneth/Carley, Kathleen M. (2017): Online extremism and the communities that sustain it: Detecting the ISIS supporting community on Twitter. PLOS ONE, 12(12):eO181405. doi: 10.1371/journal.pone.0181405.
Bennett, W. Lance/Livingston, Steven (2018): The disinformation order: Disruptive communication and the decline of democratic institutions. London, European Journal of Communication, SAGE Publications, 33(2), Seiten 122-139. doi: 10.1177/0267323118760317.
Böhm, Robert/Rusch, Hannes/Gürek, Özgür (2015): What makes people go to war? Defensive intentions motivate retaliator and preemptive intergroup aggression. MPRA Paper, 64373. doi: https://mpra.ub.uni-muenchen.de/64373.
Bright, Jonathan (2017): Explaining the emergence of echo chambers on social media: the role of ideology and extremism. Seiten 1-19. doi: 10.2139/ssrn.2839728.
Brosius, Hans-Bernd/Esser, Frank (1995): Eskalation durch Berichterstattung. Massenmedien und fremdenfeindliche Gewalt [Escalation via reporting. Mass media and violence against foreigners]. Wiesbaden, Springer-Verlag. Online: http://link.springer.com/book/10.1007/978-3-663-12097-1/page/1.
Brown, Rupert/Paterson, Jenny (2016): Indirect contact and prejudice reduction: limits and possibilities, Current Opinion in Psychology. Elsevier Ltd, 11, Seiten 20-24. doi: 10.1016/j.copsyc.2016.03.005.
Bruder, Martin/Haffe, Peter/Neave, Nick/Nouripanah, Nina/Imhoff, Roland (2013): Measuring individual differences in generic beliefs in conspiracy theories across cultures: conspiracy mentality questionnaire. Frontiers in Psychology, 4 (April). doi: 10.3389/fpsyg.2013.00225.
Bruns, Axel (2009): Vom Gatekeeping zum Gatewatching. In: Journalismus im Internet: Profession – Partizipation – Technisierung. Wiesbaden, VS Verlag für Sozialwissenschaften, Springer Fachmedien, Seiten 107-128. doi: 10.1007/978-3-531-91562-3.
Bundesministerium des Innern (2017): Verfassungsschutzbericht 2016. Berlin.
Clarke, Colin P./Ingram, Haroro J. (2018): Defeating the ISIS nostalgia narrative. RAND.
Collins, Ben/Poulsen, Kevin/Ackerman, Spencer (2017): Exclusive: Russia used Facebook events to organize anti-immigrant rallies on U.S. soil, The Daily Beast, 9 November, Seiten 15-17. Online: https://www.thedailybeast.com/exclusive-russia-used-facebook-events-to-organize-anti-immigrant-rallies-on-us-soil.
Deutsche Welle (2018): China state media justify Muslim Uighur crackdown to prevent “Cina’s Syria”. Deutsche Welle, 13 August, Seiten 11-13.
Doosje, Bertjan/Moghaddam, Fathali M.Kruglanski Arie W./de Wolf, Arjan (2016): Terrorism, radicalization and de-radicalization, Current Opinion in Psychology. Elsevier Ltd, 11, Seiten 79-84. doi: 10.1016/j.copsyc.2016.06.008.
Doosje, Bertjan/van Eerten, Jan-Jaap (2017): “Counter-narratives” against violent extremism’. In: Colaert, Lore (Hrsg.): De-radicalisation: Scientifc insights for policy. Brüssel, Tomas Baum, Seiten 83-100. Online: http://www.tandfonline.com/doi/full/10.1080/14678800600933480.
Dubois, Elizabeth/Blank, Grant (2018): The echo chamber is overstated: The moderating effect of political interest and diverse media. Information Communication and Society. London, Taylor & Francis, 0(0), Seiten 1-17. doi: 10.1080/1369118X.2018.1428656.
Ebner, Julia (2017): The rage: The vicious circle of islamist and far-right extremism. London, I.B.Tauris & Co.
Engesser, Sven/Fawzi, Nayla/Larsson, Anders Olof (2017): Populist online communication: introduction to the special issue. Information, Communication & Society. London, Taylor & Francis, 20(9), Seiten 1.279-1.292. doi: 10.1080/1369118X.2017.1328525.
Erelle, Anna (2015): In the skin of a Jihadist: A young journalist enters the ISIS recruitment network. Harper Paperbacks.
Ernst, Julian/Beier, Ann Kristin/Schmitt, Josephine B./Rieger, Diana/Qasem, Sindyan/Roth, Hans-Joachim (2018): „Muss doch nicht unbedingt mit Pistole sein, Alter.“ – Lernarrangements zur Förderung von Medienkritikfähigkeit im Umgang mit extremistischer Internetpropaganda. Ein erster Evaluationsbericht aus dem Forschungsprojekt CONTRA. In: Hohnstein, Sally/Herding, Maruta (Hrsg.): Digitale Medien und politisch-weltanschaulicher Extremismus im Jugendalter. Erkenntnisse aus Wissenschaft und Praxis. Halle, Deutsches Jugendinstitut, Seiten 189-212.
Ernst, Julian/Schmitt, Josephine B./Rieger, Diana//Roth, Hans-Joachim (2018): Extremismus im Internet – Drei Lernarrangements zur Förderung von Medienkritikfähigkeit im Umgang mit Internetpropaganda in der Schule. Bundeskriminalamt,Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm.
Facebook Newsroom (2017): Eine Community von 30 Millionen: Facebook sagt Danke.
Farkas, Johan/Schou, Jannick/Neumayer, Christina (2017): Cloaked facebook pages: Exploring fake Islamist propaganda in social media. New Media & Society, 20(1): 146144481770775. doi: 10.1177/1461444817707759.
Flaxman, Seth R./Rao, Justin M. (2016): Filter bubbles, echo chambers, and online news consumption. Public Opinion Quarterly, 80 (Special Issue), Seiten 298-320. doi: 10.1093/poq/nfw006.
Frankenberger, Patrick/Hofmann, Ingrid/ Ipsen, Flemming/Oezmen, Fehime/Zarabian, Nava (2018): 2017 Bericht – Islamismus im Netz. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/Bericht_2017_Islamismus_im_Internet.pdf.
Frindte, Wolfgang/Haußecker, Nicole (2010): Inszenierter Terrorismus (Staged terrorism). Wiesbaden, Verlag für Sozialwissenschaften, Springer Fachmedien.
Frischlich, Lena/Rieger, Diana/Hein, Maia/Bente, Gary (2015): Dying the right-way? Interest in and perceived persuasiveness of parochial extremist propaganda increases after mortality salience. Frontiers in Psychology, Evolutionary Psychology and Neuroscience, 6(1222). doi: 10.3389/fpsyg.2015.01222.
Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (2017): Wirkung. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.): in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE). Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand. Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 81-140.
Frischlich, Lena (2018a): Fake News und Social Bots - Erkennung, Wirkung, Bekämpfung. In: Holznagel, Bernd/Steul, Willi (Hrsg.): Öffentlich-rechtlicher Rundfunk in Zeiten des Populismus. Leipzig, VISTAS, Seiten 28-59.
Frischlich, Lena (2018b): Propaganda3: Einblicke in die Inszenierung und Wirkung von Online-Propaganda auf der Makro-Meso-Mikro Ebene. In: Zywietz, Bernd/Sachs-Hombach, Klaus (Hrsg.): Fake news und Social Bots – Neue Mechanismen populistischer Propaganda. Aktivismus. Wiesbaden, Springer Fachmedien VS, S. 133-170. doi: https://doi.org/10.1007/978-3-658-22118-8.
Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (2018): The power of a good story: Narrative persuasion in extremist propaganda and videos against violent extremism. International Journal of Violence and Conflict, 12. doi: 10.4119/UNIBI/ijcv.64.
Frischlich, Lena (2018): Propaganda3: Einblicke in die Inszenierung und Wirkung von Online-Propaganda auf der Makro-Meso-Mikro Ebene. In: Zywietz, Bernd (Hrsg.): Fake-News, Hashtags & Social Bots: Neue Methoden der populistischen Propaganda. München, Springer Fachmedien VS.
Frischlich, Lena/Boberg, Svenja/Quandt, Thorsten (2017): Online newspapers as target of strategic user-generated content - Dealing with hate speech, fake news, and hidden propaganda. In: Annual Conference of the International Journal of Press and Politics. Oxford.
Frischlich, Lena/Quandt, Thorsten (2019): The markets of manipulation: The trading of social bots on clearnet and darknet markets. In: MISDOOM. Hamburg.
Frischlich, Lena/Rieger, Diana (2017): Hass im Netz - Hass im Herzen? Die Wirkung rechtsextremistischer und islamistisch-extremistischer Online Propagandavideos und mögliche Gegenangebote im Netz. In: Mind, 2. Online: http://de.in-mind.org/.
Gagliardone, Iginio (2016): Mechachal: Online debates and elections in Ethiopia - from hate speech to engagement in social media. Oxford.
Giglou, Roya Imani/Ogan, Christine/d’Haenens, Leen (2018): The ties that bind the diaspora to Turkey and Europe during the Gezi protests. New Media and Society, 20(3), Seiten 937-955. doi: 10.1177/1461444816675441.
Glaser, Stefan/Herzog, Holger/Özkilic, Murat unter Mitarbeit des Teams von jugendschutz.net (2017): Jugendschutz im Internet: Risiken und Handlungsbedarf. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/bericht2015.pdf.
Gollatz, Kirsten/Riedl, Martin J./Pohlmann, Jens (2018): Removals of online hate speech in numbers. HIIG Science Blog. doi: 10.5281/zenodo.1342325.
Greenberg, Jeff/Schimel, Jeff/Martens, Andy/Solomon, Sheldon/Pyszcznyski, Tom (2001): Sympathy for the devil: Evidence that reminding Whites of their mortality promotes more favorable reactions to white racists, Motivation and Emotion, 25(2), Seiten 113-133. doi: 10.1023/a:1010613909207.
Grimme, Christian/Assenmacher, Dennis/Adam, Lena (2018): Changing Perspectives: Is it suffcient to detect social bots? Lecture Notes in Computer Science (including subseries Lecture Notes in Artifcial Intelligence and Lecture Notes in Bioinformatics), 10913 LNCS, Seiten 445-461. doi: 10.1007/978-3-319-91521-0_32.
Guess, Andrew/Nagler, Jonathan/Tucker, Joshua (2019): Less than you think: Prevalence and predictors of fake news dissemination on Facebook. Science Advances, (January), Seiten 1-9. doi: 10.1126/sciadv.aau4586.
Haim, Mario/Graefe, Andreas/Brosius, Hans-Bernd (2017): Burst of the Filter Bubble?: Effects of personalization on the diversity of Google News. Digital Journalism, Routledge, 0811, Seiten 1-14. doi: 10.1080/21670811.2017.1338145.
Hasebrink, Uwe/Hölig, Sascha (2017): Digital News Survey 2017 - Ergebnisse für Deutschland. Hamburg, Hans-Bredow Institut.
Haslam, Catherine/Cruwys, Tegan/Haslam, S. Alexander/Dingle, Genevieve/Xue-Ling Chang, Melissa (2016): Groups 4 Health: Evidence that a social-identity intervention that builds and strengthens social group membership improves mental health. Journal of Affective Disorders, Elsevier, 194, Seiten 188-195. doi: 10.1016/j.jad.2016.01.010.
Hogg, Michael A./Sherman, David K./Dierselhuis, Joel/Maitner, Angela T./Mofftt, Graham (2007) Uncertainty, entitativity, and group identifcation. Journal of Experimental Social Psychology, 43(1), Seiten 135-142. doi: 10.1016/j.jesp.2005.12.008.
Hogg, Michael A./Blaylock, Danielle L. (2012): Extremism and the Psychology of Uncertainty. Oxford, Blackwell Publishing Ltd.
Hohnstein, Sally/Glaser, Michaela (2017): Wie tragen digitale Medien zu politisch-weltanschaulichem Extremismus im Jugendalter bei und was kann pädagogische Arbeit dagegen tun? Ein Überblick über Forschungsstand, präventive und intervenierende Praxis im Themenfeld. In: Hohnstein, Sally/Herding, Maruta (Hrsg.): Digitale Medien und politisch-weltanschaulicher Extremismus im Jugendalter.
Erkenntnisse aus Wissenschaft und Praxis. Halle a. d. Saale, Deutsches Jugendinstitut, Seiten 243-281.
Hsueh, Mark/Yogeeswaran, Kumar /Malinen, Sanna (2015): “Leave your comment below”: Can biased online comments infuence our own prejudicial attitudes and behaviors? Human Communication Research, 41(4), Seiten 557-576. doi: 10.1111/hcre.12059.
Ismay, John (2018): Rhodesia’s dead – but White Supremacists Have Given It New Life Online. The New York Times Magazine, April, Seiten 1-7.
Jonas, Eva/Mcgregor, Ian/Klackl, Johannes/Agroskin, Dmitrij (2014): Threat and Defense: From Anxiety to Approach. In: Olson, James M. and Zanna, Marc P. (Hrsg.): Advances in experimental social psychology. 49th edn. Burlington, Elsevier Inc., Seiten 219-286. doi: 10.1016/B978-0-12-800052-6.00004-4.
Jugendschutz.net (2016): Zahlen Rechtsextremismus 2016. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/Zahlen_Rechtsextremismus_Online_2016.pdf.
Kaakinen, Markus/Oksanen, Atte/Räsänen, Pekka (2018): Did the risk of exposure to online hate increase after the November 2015 Paris attacks? A group relations approach, Computers in Human Behavior. Oxford, Pergamon, 78, Seiten 90-97. doi: 10.1016/J.CHB.2017.09.022.
Kahane, Anetta (2015): Der Kulturkampf der Gegenwart, ‘Geh sterben!’ Umgang mit Hate Speech und Kommentaren im Internet. Berlin, Amadeu-Antonio-Stiftung, Seiten 7-8.
Kaspar, Kai/Gräßer, Lars/Riff, Aycha (2017): Online Hate Speech. Perspektiven auf eine neue Form des Hasses. Marl, Schriftenreihe Grimme Institut.
Kiefer, Michael/Hüttermann, Jörg/Dziri, Bacem/Ceylan, Rauf/Roth, Viktoria/Srowig, Fabian/Zick, Andreas (2017): Lasset uns in sha’a Allah ein Plan machen. Wiesbaden, Springer Fachmedien VS.
Kixmüller, Jan (2018): Interview mit Extremismus-Experte Alexander Ritzmann: „Die Menschen sollen Angst vor ihren Nachbarn bekommen“ – Hochschulen in Potsdam, Tagesspiegel Potsdamer Nachrichten, 6 Juni, Seiten 1-5. Online: http://www.pnn.de/campus/1290547/.
Kreißel, Philipp/Ebner, Julia/Urban, Alexander/Guhl, Jakob (2018): Hass auf Knopfdruck – Rechtsextreme Trollfabriken und das Ökosystem koordinierter Hasskampagnen im Netz. Seiten 28. Online: http://www.isdglobal.org/wp-content/uploads/2018/07/ISD_Ich_Bin_Hier_2.pdf.
Kruglanski, Arie W. (2009): Fully committed: Suicide bombers’ motivation and the quest for personal signifcance. Political Psychology, 30(3), Seiten 331-357. doi: 10.1111/j.1467-9221.2009.00698.x.
Kruglanski, Arie W./Bélanger, Jocelyn J./Gelfand, Michele/Gunaratna,Rohan/Hettiarachchi, Malkanthi/Reinares, Fernando/Orehek,Edward/Sasota, Jo/Sharvit, Keren (2013): Terrorism - a (self) love story: Redirecting the signifcance quest can end violence, The American Psychologist, 68(7), Seiten 559-575. doi: 10.1037/a0032615.
Lasswell, Harold D. (1927): Propaganda techniques in the world war. London, Paul Kegan,Trench,Trubner & Co.
Leyendecker, Hans/Mascollo, Georg (2016): Die Chats der Attentäter von Würzburg und Ansbach mit dem IS. Süddeutsche Zeitung, September, Seiten 1-6.
Local Times Erfurt (2016): Hetze per WhatsApp. Local Times Erfurt, August.
Lyons-Padilla, Sarah/Gelfand, Michele/Mirahmadi, Hedieh/Farooq, Mehreen (2015): Belonging nowhere: Marginalization & radicalization risk among Muslim Immigrants. Behavioral Science and Policy, 1(2), Seiten 1-12. doi: 10.1353/bsp.2015.0019.
Machowecz, Martin/Middelhoff, Paul/Musharbash, Yassin/Stark, Holger (2018): Revolution Chemnitz: Zum Umsturz bereit. Zeit Online, October, Seiten 1-4.
Marwick, Alice/Lewis, Rebecca (2017): Media Manipulation and Disinformation Online. New York, Data & Society Research Institute, Seiten 1-104.
Mcgregor, Holly A./Lieberman, Joel D./Greenberg, Jeff/Solomon, Sheldon (1998): Terror management and aggression: Evidence that mortality salience motivates aggression against worldview-threatening others. Journal of Personality and Social Psychology, 74(3), Seiten 590-605. Online: http://www.ncbi.nlm.nih.gov/pubmed/9523407.
McKenna, Katelyn Y. A./Bargh, John A. (1998): Comming out in the age of internet. Journal of Personality and Social Psychology, 75(3), Seiten 681-694.
Meleagrou-Hitchens, Alexander/Kaderbhai, Nick (2017): Perspectives on Online Radicalization, Literature review 2006-2016. London,Vox Pol. Online: http://icsr.info/wp-content/uploads/2017/05/ResearchPerspectivesonOnlineRadicalisation.pdf.
Mitchell, Amy/Gottfried, Jeffrey/Barthel, Michael/Sumida, Nami (2018): Can Americans tell facts from opinions in the news?
Morin, David T./Flynn, Mark A. (2014): We are the Tea Party!: The use of Facebook as an online political forum for the construction and maintenance of in-group identifcation during the “GOTV” weekend. Communication Quarterly, 62(1), Seiten 115-133. doi: 10.1080/01463373.2013.861500.
Frischlich, Lena/Rieger, Diana/Morten,Anna/Bente, Gary (2017): Wirksamkeit: In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand.Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 161-224. Online: 978-3-9818469-1-1.
Näsi, Matti/Räsänen, Pekka/Hawdon, James/Holkeri, Emma (2015): Exposure to online hate material and social trust among Finnish youth. Information Technology & People, 28(3), Seiten 607-622. doi:10.1108/ITP-09-2014-0198.
Neumann, Katharina/Baugut, Philip (2016): Neonazis im Scheinwerferlicht der Medien – Eine Analyse reziproker Medieneffekte innerhalb der Neonazi-Szene in Deutschland. Wiesbaden, Springer VS.
Neumann, Peter (2008): Joining al-Qaeda. Jihadist recruitment in Europe. London, Routledge.
O’Callaghan, Derek/Greene, Derek/Conway, Maura/Carthy, Joe/Cunningham, Pádraig (2015): Down the (white) rabbit hole: The extreme right and online recommender systems. Social Science Computer Review, 33(4), Seiten 459-478. doi: 10.1177/0894439314555329.
Oboler, Andre (2015): The rise and fall of a facebook hate group. First Monday, 13(11).
Pariser, Eli (2011): The flter bubble: How the new personalized web is changing what we read and how we think. New York, The Penguin Press.
Pettigrew, Thomas F./Tropp, Linda R. (2006): A meta-analytic test of intergroup contact theory. Journal of Personality and Social Psychology, 90(5), Seiten 751-83. doi: 10.1037/0022-3514.90.5.751.
Pfundmair, Michaela (2018): Ostracism promotes a terroristic mindset, Behavioral Sciences of Terrorism and Political Aggression. Taylor & Francis, 0(0), Seiten 1-15. doi: 10.1080/19434472.2018.1443965.
Phillips, Whitney (2018): The oxygen of amplifcation: Better practices for reporting on extremists, antagonists, and manipulators online. Online: https://datasociety.net/wp-content/uploads/2018/05/FULLREPORT_Oxygen_of_Amplifcation_DS.pdf.
Preuß, Madlen/Tetzlaff, Frederik/Zick, Andreas (2017): Publizieren wird zur Mutprobe: Studie zur Wahrnehmung von und Erfahrung mit Angriffen unter Journalist_innen. Bielefeld.
Pyszczynski, Tom/Abdollahi, Abdolhossein/Solomon, Sheldon/Greenberg, Jeff/Cohen, Florette/Weise, David (2006): Mortality salience, martyrdom, and military might: the great satan versus the axis of evil. Personality & social psychology bulletin, 32(4), Seiten 525-37. doi: 10.1177/0146167205282157.
Qasem, Sindyan/Nordbruch, Götz (2017): Video kills learning standards? Zu neuen und alten Herausforderungen von politischer Bildung und Prävention im digitalen Zeitalter. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand, Seiten 249-258.
Quandt, Thorsten/Frischlich, Lena/Boberg, Svenja/Schatto-Eckrodt, Tim (2019): Fake News, The International Encyclopedia of Journalism Studies. Wiley.
Regnér, Lucas (2014): The YouTube-born terrorist. JEX, 2, Seiten 137-189.
Reinemann, Carsten/Nienierza, Angela/Fawzi, Nayla/Riesmeyer, Claudia/Neumann Katharina (2019): Jugend – Medien – Extremismus. Wiesbaden, Springer VS.
Rieger, Diana/Ernst, Julian/Schmitt, Josephine B./Vorderer, Peter/Bente, Gary/Roth, Hans-Joachim (2017): Propaganda und Alternativen im Internet – Medienpädagogische Implikationen. merz – medien + erziehung, 3, Seiten 27-35.
Rieger, Diana/Frischlich, Lena/Bente, Gary (2013): Disguised in entertainment? Approach and avoidance reactions towards right-wing and Islamic extremist propaganda videos. In: Paper presented at the 8th Meeting of the Media Psychology Division of the German Association of Psychology. Würzburg.
Rieger, Diana/Frischlich, Lena/Bente, Gary (2017): Propaganda in an insecure, unstructured world: How psychological uncertainty and authoritarian attitudes shape the evaluation of right-wing extremist internet propaganda. Journal for Deradicalization, 10(Spring), Seiten 203-229.
Rieger, Diana/Morten, Anna/Frischlich, Lena (2017): Verbreitung und Inszenierung. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand. Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 47-80.
Rieger, Diana/Schneider, Jana (2019): Zwischen Chemtrails, Reptiloiden und #pizzagate: Verschwörungstheorien aus kommunikationswissenschaftlicher Perspektive. In: Landesarbeitsgemeinschaft Mobile Jugendarbeit/Streetwork Baden-Württemberg e. V. & Jugendstiftung Baden-Württemberg, Mythen, Ideologien, und Theorien. Verschwörungsglaube in Zeiten von Social Media. Vaihingen an der Enz, Printmedien Karl-Heinz Sprenger, Seiten 13-20.
Sängerlaub, Alexander/Meier, Miriam/Rühl, Wolf-Dieter (2018): Fakten statt Fakes. Berlin. Online: https://www.stiftung-nv.de/de/publikation/fakten-statt-fakes-verursacher-verbreitungswege-und-wirkungen-von-fake-news-im.
Schatto-Eckrodt Tim/Boberg Svenja/Wintterlin Florian/Frischlich Lena/Quandt Thorsten (im Druck): Bedrohte Deliberation – Information Warfare und Desinformation als Bedrohung digitaler Öffentlichkeiten. Communicatio Socialis.
Schmitt, Josephine B./Ernst, Julian/Frischlich, Lena/Rieger, Diana (2017): Rechtsextreme und islamistische Propaganda im Internet: Methoden, Auswirkungen und Präventionsmöglichkeiten, in: Altenhof, Ralf/ Bunk, Sarah/Piepenschneider, Melanie (Hrsg.): Politischer Extremismus im Vergleich. Schriftenreihe Politische Bildung der Konrad-Adenauer-Stiftung e. V., Band 3. Berlin; Münster, LIT Verlag. Seiten 171-210.
Schmitt, Josephine B./Rieger, Rieger/Rutkowski, Olivia/Ernst, Julian (2018): Counter-messages as prevention or promotion of extremism?! The potential role of YouTube recommendation algorithms. Journal of Communication, 68(4), Seiten 780-808. doi: 10.1093/joc/jqy029.
Schmitt, Josephine B./Ernst, Julian/Rieger, Diana/Roth, Hans-Joachim (Hrsg.) (2020): Propaganda und Prävention. Forschungsergebnisse, didaktische Ansätze sowie interdisziplinäre und internationale Perspektiven zur pädagogischen Arbeit zu extremistischer Internetpropaganda. Wiesbaden, Springer VS.
Schmitz, Dominic Musa (2016): Ich war ein Salafist: Meine Zeit in der islamistischen Parallelwelt. Berlin, Ullstein eBooks.
Schreiber, Julia (2016): Unter Pseudonym in rechten Facebook Gruppen: So feiert die AfD ihren Wahlerfolg, ze.tt, 15 March. Online: https://ze.tt/weitere-artikel/.
Smeekes, Anouk/Verkuyten, Maykel/Martinovic, Borja (2015): Longing for the country’s good old days: National nostalgia, autochthony beliefs, and opposition to Muslim expressive rights. British Journal of Social Psychology, 54(3), Seiten 561-580. doi: 10.1111/bjso.12097.
Spinney, Laura (2017): The shared past that wasn't: How Facebook, fake news and friends are altering memories and changing history. Nature, 543(9), Seiten 168-170.
Stern, Jessica/Berger, James M. (2016): ISIS: The State of Terror. 2nd ed. London, Ecco.
Stöber, Silvia (2017): Desinformation in Osteuropa: Deutschland im Zerrspiegel. Tagesschau.de, 19 July, Seiten 2-3.
Sunstein, Cass R. (2007): Republic.com 2.0: Revenge of the blogs. Princeton, Princeton University Press.
Tajfel, Henry/Turner, John C. (1979): An integrative theory of intergroup confict. In: Worchel, Stephen/Austin, William G. (Hrsg.): The Social Psychology of Intergroup Relations. Monterey, CA, Brooks-Cole, Seiten 33-47.
Torok, Robyn (2010): “Make a bomb in your mums kitchen”: Cyber recruiting and socialisation of “White moors” and home grown jihadists, Proceedings of the 1st Australian Counter Terrorism Conference, (November), Seiten 54-61.
Valkenburg, Patti M./Peter, Jochen (2013): The differential susceptibility to media effects model. Journal of Communication, 63(2), Seiten 221-243. doi: 10.1111/jcom.12024.
Del Vicario, Michaela/Bessi, Alessandro/Zollo, Fabiana/Petroni, Fabio/Scala, Antonio/Caldarelli, Guido/Stanley, H. Eugene/Quattrociocchi, Walter (2016): The spreading of misinformation online. Proceedings of the National Academy of Sciences, 113(3), Seiten 554-559. doi: 10.1073/pnas.1517441113.
Vorderer, Peter/Klimmt,Christoph/Rieger, Diana/Baumann, Eva (2015): Der mediatisierte Lebenswandel – Permanently online, permanently connected, Publizistik, 60(3), Seiten 259-276. doi: 10.1007/s11616-015-0239-3.
Vorderer, Peter/Hefner, Dorothee/Reinecke, Leonard/Klimmt, Christoph (Hrsg.) (2018): Permanently online, permanently connected. New York, Routledge.
Vosoughi, Soroush/Roy, Deb/Aral, Sinan (2018): The spread of true and false news online. Science, 359(6380), Seiten 1.146-1.151. doi: 10.1126/science.aap9559.
Walther, Joseph B. (2009): In point of practice: Computer-mediated communication and virtual groups: Applications to interethnic conflict. Journal of Applied Communication Research, 37(3), Seiten 225-238.
Weichert, Stefan Alexander (2007): Die Propaganda der Tat – Zur Kommunikationsstrategie des modernen Aufmerksamkeitsterrorismus. In: Glaab, Sonja (Hrsg.): Medien und Terrorismus. Auf den Spuren einer symbiotischen Beziehung. Berlin, Berliner Wissenschaftsverlag, Seiten 83-98.
Winter, Charlie (2015): Documenting the virtual ’caliphate’. London. Online: http://www.quilliaminternational.com/wp-content/uploads/2015/10/FINAL-documenting-the-virtual-caliphate.pdf
Wojcieszak, Magdalena (2008): False consensus goes online impact of ideologically homogeneous groups on false consensus. Public Opinion Quarterly, 72(4), Seiten 781-791.
Yablokov, Ilya (2015): Conspiracy theories as a Russian public diplomacy tool: The case of Russia Today (RT). Politics, 35(3-4), Seiten 301-315. doi: 10.1111/1467-9256.12097.
Quellen
Das Nettz: https://www.das-nettz.de/ichbinhier-ev-verein, Abruf: 11.09.2019.
Demokratiezentrum BW: Über die Reichweite der Plattformanbieter hinaus gibt es weitere Meldestellen für Propaganda, Hate Speech und andere problematische Inhalte. Online beispielsweise: https://demokratiezentrum-bw.de/demokratiezentrum/vorfall-melden Abruf 11.09.2019.
Dschihadismus im Internet: http://www.ifeas.uni-mainz.de/2899.php.
Firstdraft.com: https://firstdraftnews.org/en/education/learn/.
Jamal Al-Khatib – Mein Weg: http://www.boja.at/projekte/fucht/jamal-al-khatib-paedagogisches-paket/, Abruf: 11.09.2019.
Jugendschutz.net: Bericht „Islamismus im Netz“ 2017: https://www.jugendschutz.net/fileadmin/download/pdf/Bericht_2017_Islamismus_im_Internet.pdf, Abruf 11.09.2019.
Junge Islamkonferenz: https://www.junge-islam-konferenz.de/.
Klicksafe, Unterrichtsmaterialien und weitere Informationen unter: https://www.klicksafe.de/rechtsextremismus, https://www.klicksafe.de/salafismus/, https://www.klicksafe.de/klicksafe-to-go/ (Material zu Desinformationen).
Mein Islam - dein Islam: https://www.mein-islam-dein-islam.de.
Redirect: https://redirectmethod.org/.
Schule ohne Rassismus - Schule mit Courage: https://www.schule-ohne-rassismus.org/startseite/, Abruf 11.09.2019.
#Search racism, find truth: http://www.search-racism-find-truth.com/.
Spektren salafistischer Diskurse in NRW: https://www.core-nrw.de.
Tagesschau: http://faktenfinder.tagesschau.de.
The Guardian: https://www.theguardian.com/us-news/2019/mar/15/donald-trump-denies-white-nationalism-threat-new-zealand (Abruf 11.09.19).
Ufuq.de: http://www.ufuq.de/was-postest-du-politische-bildung-mit-jungen-muslim_innen-online, Abruf: 11.09.2019.
Washington Post: https://www.washingtonpost.com/graphics/politics/trump-claims.
