Bühne des Kapitels / Moduls
Digitaler Wandel, Radikalisierungsprozesse und Extremismusprävention im Internet
3.4 Prozesse der Radikalisierung
Inhalt des Kapitels / Moduls
Extremistinnen und Extremisten machen sich die globale Vernetzung zunutze
Schon immer haben Medien uns über Ereignisse jenseits unseres geographischen oder zeitlichen Kontextes informiert, das ist online aber besonders einfach. Diesen Umstand benutzen Propagandistinnen und Propagandisten und beziehen sich zum Beispiel auf globale Konflikte, wie die Verfolgung der Rohingya in Burma.37) Externe Konflikte spiegeln sich auch in deutschsprachiger Propaganda mit Auslandsbezug wider (s. auch Kap. 2.4).
Online-Medien ermöglichen es zudem, auch weit entfernte Ereignisse „in Echtzeit” mitzuerleben. Seit 2016 bietet Facebook die Live-Streaming Funktion an, bei der Nutzerinnen und Nutzer Videos von ihrem Smartphone aus live an ihre Freunde senden können. Plattformen wie Snapchat bieten kurze Videos an, die sich nach einem Tag automatisch löschen (sogenannte „Stories“). Jugendschutz.net erwähnt in seinem aktuellen Bericht zum Islamismus im Internet auch die Tatsache, dass Extremistinnen und Extremisten mit Hilfe von solchen Live-Werkzeugen gezielt Teilhabe am extremistischen Leben ermöglichen.38) Ein Beispiel ist die Live-Übertragung des rechtsextremistisch-motivierten Terroranschlags in Christchurch über Facebook Live.
Durch globale Vernetzung können beispielsweise auch Russland-finanzierte Werbeanzeigen in adaptierter Form als rechtspopulistisches Meme im deutschen Bundestagswahlkampf auftauchen,39) schließlich ist die globale Vernetzung extremistischer Akteurinnen und Akteure online einfacher zu bewerkstelligen, als wenn Treffen physisch stattfinden müssten. Gerade wenn es um die Vermittlung von Wissen, die Koordination von transnationalen Aktionen oder den Austausch konkreter Propaganda-Materialien geht, bieten Online-Medien praktische Strukturen an.
Als Fazit kann für die Ebene der digitalen Gesellschaft festgehalten werden, dass durch das Internet Akteurinnen und Akteure Zugang zu digitalen Öffentlichkeiten erhalten. Diese Möglichkeiten werden auch für die Lancierung und Verbreitung extremistischer Propaganda missbraucht. Empfehlungsalgorithmen und globale Vernetzung spielen Extremistinnen und Extremisten dabei in die Hände und können die Reichweite extremistischer Inhalte erhöhen. Die gleichen Möglichkeiten kann sich jedoch auch die Extremismusprävention zunutze machen.
Prävention in der digitalen Gesellschaft
Die Digitalisierung ermöglicht es mehr Akteurinnen und Akteuren, Propaganda im Netz zu verbreiten. Entsprechend braucht die universelle Radikalisierungsprävention (für Details zu unterschiedlichen Präventionsformen, s. Kap. 5.1) in der digitalen Gesellschaft verschiedene Handelnde, die sich grob in 1. Institutionen, 2. Zivilgesellschaft sowie 3. Medien und 4. Plattformbetreiber unterteilen lassen.
Institutionen
Behörden
Neben der institutionalisierten Gesamtprävention (s. Kap. 5 und 6) können Behörden eine wichtige Rolle in der strategischen Aufklärung über Präventionsangebote spielen. Beispielsweise stellt die Bundeszentrale für politische Bildung (BpB) Materialien über Extremismen zur Verfügung und bietet im Rahmen des „Infodienstes Radikalisierungsprävention“ eine digitale Übersicht für Anlaufstellen im Kontext (ausschließlich) islamistisch-extremistischer Radikalisierung an. Auch das Bundesamt für Migration und Flüchtlinge (BAMF) stellt Themendossiers zu (wiederum islamistisch-extremistischer) Radikalisierung an. Die Sicherheitsbehörden veröffentlichen Informationen zu verschiedenen Extremismen (u. a. gegen Rechtsextremismus unter Polizei-Beratung.de). Inwiefern diese Informationen es jedoch in die digitalen Lebenswelten Jugendlicher (oder von Pädagoginnen und Pädagogen) schaffen, ist unseres Wissens nach kaum beleuchtet. Immerhin: Die BpB ist auch bei Instagram, Facebook und Twitter vertreten.
Das Wissen über Meldesysteme für problematische Inhalte, wie sie beispielsweise Jugendschutz.net, das gemeinsame Kompetenzzentrum von Bund und Ländern für den Schutz von Kindern und Jugendlichen im Internet, mit dem Online-Meldeformular https://www.hass-im-netz.info/melden.html/ anbietet, ist unserer praktischen Erfahrung nach nicht weit genug verbreitet. Hier wären Aufklärungskampagnen auf breiter Basis wünschenswert.
Generell könnten auch staatliche Stellen Online-Medien nutzen, um über eigene Inhalte zu informieren und um den Dialog mit Bürgerinnen und Bürgern zu ermöglichen. Bund, Ländern und Kommunen kommen dabei auch im Umgang mit Online-Propaganda jeweils eigene Aufgabenbereiche zu, auf die an dieser Stelle jedoch nicht detailliert eingegangen werden kann. Die Kapitel 5, 6 und 7 bieten vertiefte Informationen zu den Präventionsangeboten auf den verschiedenen Verwaltungsebenen.
Zudem ist die Stärkung von demokratischen Grundhaltungen durch klare Positionierung gegen Extremismus von Seiten der Politik und ein Ausbau bzw. zumindest eine Verstetigung medialer Sensibilisierungs-Kampagnen und Programmen wünschenswert. Ein Vielfaltsdiskurs, wie wir ihn nicht erst seit der Zuwanderung führen sollten (seien es die Zuwanderungsströme in den 1960ern oder die in den letzten Jahren) und der bereits im Kindesalter begonnen werden muss, kann ein wichtiger Baustein für den Widerstand gegen Rassismen und Ideologisierungen jeglicher Art sein.
Schulen
Schulen kommt eine zentrale Rolle bei der Vermittlung von (Medien-)Kompetenzen an junge Mediennutzerinnen und -nutzer zu. Die Vielfalt an extremistischer Propaganda im Netz und die Verbreitung von Desinformationen stellen Pädagoginnen, Pädagogen, Eltern und Schülerinnen bzw. Schüler vor neue Herausforderungen. Es gibt jedoch verschiedene Projekte, die Bildungseinrichtungen bei dieser Herausforderung unterstützen. Der Aufgabe der Medienkompetenzvermittlung und Aufklärung in Schule und Unterricht nehmen sich beispielsweise die im Folgenden vorgestellten Projekte klicksafe und CONTRA an (für einen Gesamtüberblick über die deutsche Präventionslandschaft, s. Kap. 7).
Struktur und Informationen zum Kapitel / Modul
Fussnoten
1)
Vorderer et al. 2015, 260.
2)
Rechtsextremistinnen und -extremisten sowie islamistische extremistische Personen sind für eine Vielzahl von deutschsprachigen Online-Propaganda-Angeboten verantwortlich und stehen daher im Fokus dieses Kapitels (Bundesministerium des Innern 2017). Diese Schwerpunktsetzung bedeutet aber nicht, dass andere Ideologien und Gruppierungen keine Online-Propaganda verbreiten oder weniger extremistisch sind. Prinzipiell sind Online-Propaganda und Extremismus kultur- und ideologieübergreifende Phänomene.
3)
Bei einer DDoS-Attacke werden digitale Server gezielt überlastet, indem sie durch unzählige koordinierte Anfragen oder E-Mails bombardiert werden.
4)
Baldauf/Ebner/Guhl 2018, 5.
5)
Frischlich/Rieger 2017; Frischlich 2018.
6)
Glaser et al. 2017.
7)
Kaakinen/Oksanen/Räsänen 2018.
8)
Reinemann et al. 2019.
9)
Hohnstein/Glaser 2017; Meleagrou-Hitchens/Kaderbhai 2017.
10)
Ritzmann im Interview mit Kixmüller 2018.
11)
Ebner 2017.
12)
Hasebrink/Hölig 2017.
13)
Engl. Gatewatcher; Bruns 2009.
14)
Für einen Überblick s. Winter 2015.
15)
Bennett/Livingston 2018.
16)
Mitchell et al. 2018.
17)
Unseren eigenen Analysen zufolge: 15.791mal (Brinkschulte/Frischlich 30.03.2018, Facebook-Engagement via Netvizz)
18)
Vosoughi/Roy/Aral 2018.
19)
Als Meme bezeichnet man kulturtypische Ideen, Stilrichtungen oder Wissensinhalte, die sich von Account zu Account verbreiten. Meist wird die Bezeichnung umgangssprachlich für einen interessanten oder amüsanten Online-Inhalt verwendet, der sich rasch im Netz verbreitet. Oft handelt es sich um Bilder, die mit einer bestimmten Textbotschaft kombiniert werden.
20)
Jugendschutz.net 2016.
21)
Auch staatliche Einzelpersonen können so Propagandistinnen und Propagandisten unterstützen (oder ihnen etwas entgegensetzen). So streitet beispielsweise der amtierende US-Präsident Donald Trump in seinen Tweets häufig den Anstieg einer rechtsextremen Gesinnung ab und unterstützt/legitimiert so indirekt rassistische Äußerungen.
22)
Farkas/Schou/Neumayer 2017.
23)
Local Times Erfurt 2016.
24)
Schatto-Eckrodt et al. ohne Datum.
25)
Collins/Poulsen/Ackerman 2017.
26)
Appelbaum et al. 2017.
27)
Ahmed/George 2017.
28)
Schmitt et al. 2018.
29)
Grimme/Assenmacher/Adam 2018.
30)
Frischlich/Quandt 2019.
31)
Kreißel et al. 2018.
32)
O'Callaghan et al. 2015.
33)
Regnér 2014.
34)
Siehe Infobox: Pariser 2011.
35)
Haim/Graefe/Brosius 2017.
36)
Flaxmann/Rao 2016.
37)
Benigni/Joseph/Carley 2017.
38)
Frankenberger et al. 2018.
39)
Frischlich 2018.
40)
Guess/Nagler/Tucker 2019.
41)
Über die Reichweite der Plattformanbieter hinaus gibt es weitere Meldestellen für Propaganda, Hate Speech und andere problematische Inhalte, beispielsweise das Demokratiezentrum BW.
42)
Hasebrink/Hölig 2017.
43)
Brosius/Esser 1995; Frindte/Haußecker 2010.
44)
Weichert 2007; Marwick/Lewis 2017.
45)
Frischlich/Boberg/Quandt 2017; Preuß/Tetzlaff/Zick 2017.
46)
Etwa Antonio Amadeu Stiftung, Kahane 2015.
47)
firstdraftnews.
48)
jugendschutz.net.
49)
Glaser et al. 2017.
50)
Gollatz/Riedl/Pohlmann 2018.
51)
redirect.
52)
#search-racism-find-truth.
53)
Facebook Newsroom 2017.
54)
Machowecz et al. 2018.
55)
Torok 2010.
56)
Morin/Flynn 2014; Oboler 2015.
57)
Schreiber 2016.
58)
Siehe Infobox: Sunstein 2007.
59)
Dubois/Blank 2018.
60)
Neumann/Baugut 2016.
61)
Del Vicario et al. 2016.
62)
Bright 2017.
63)
Wojcieszak 2008.
64)
Tajfel/Turner 1979.
65)
Atwan 2016.
66)
Ismay 2018.
67)
Die Gezi-Proteste begannen im Mai 2013 in Istanbul mit einer kleinen Gruppe von Aktivistinnen und Aktivisten, die gegen die geplante Umwandlung des Gezi-Parks in ein Einkaufscenter protestierten. Die Polizei reagierte mit voller Härte, der Premierminister Recep Tayyip Erdoğan verurteilte die Proteste aufs Schärfste. In den folgenden Tagen griffen die Proteste auf weitere Städte über und richteten sich zunehmend gegen die autoritäre Führung des Landes.
68)
Giglou/Ogan/d'Haenens 2018.
69)
Haslam et al. 2016.
70)
Rieger/Frischlich/Bente 2019.
71)
Lyons-Padilla et al. 2015; Pfundmair 2018.
72)
McKenna/Bargh 1998.
73)
Kiefer et al. 2017.
74)
Spinney 2017.
75)
Clarke/Ingram 2018.
76)
Smeekes/Verkuyten/Martinovic 2015.
77)
Bruder et al. 2013.
78)
Rieger/Schneider 2018.
79)
Böhm/Rusch/Gürek 2015.
80)
Siehe Infobox: Ebd.
81)
Reinemann et al. 2019.
82)
Kaakinen/Oksanen/Räsänen 2018.
83)
Hsueh/Yogeeswaran/Malinen 2015.
84)
Näsi et al. 2015.
85)
Lyons-Padilla et al. 2015.
86)
Ufuq e. V.
87)
Das Nettz.
88)
Jamal Al-Khatib, Mein Weg.
89)
Schule ohne Rassismus, Schule mit Courage.
90)
Pettigrew/Tropp 2006.
91)
Walther 2009.
92)
Das Nettz.
93)
von Kaspar/Riffn/Gräser 2017.
94)
Vorderer at al. 2018.
95)
Valkenburg/Peter 2013.
96)
Klicksafe, Rechtsextremismus hat viele Gesichter, 40ff.
97)
Baaken/Schlegel 2017.
98)
Erelle 2015.
99)
Leyendecker/Mascollo 2016.
100)
Eigene Recherche, 24.05.2018.
101)
Rieger/Frischlich/Bente 2013; Rieger et al. 2019.
102)
Morten et al. 2017; Frischlich et al. 2018.
103)
Schmitt et al. 2017.
104)
Rieger et al. 2013.
105)
Jonas et al. 2014.
106)
Hogg et al. 2007; Hogg/Blaylock 2012.
107)
McGregor et al. 1998; Greenberg et al. 2001; Pyszczynski et al. 2006.
108)
Pfundmair 2018.
109)
Frischlich et al. 2015; Rieger/Frischlich/Bente 2017.
110)
Rieger/Frischlich/Bente 2013.
111)
Morten et al. 2017.
112)
Winter 2015.
113)
Eigene Beobachtungen anhand der Analyse prominenter ultra-rechter alternativer Medien.
114)
Stern/Berger 2016.
115)
Neumann 2008.
116)
Kruglanski 2009; Kruglanski et al. 2013.
117)
Qasem/Nordbruch 2017.
118)
Ernst et al. 2017.
119)
Schmitt et al. 2017.
120)
Frischlich et al. 2017, 2018.
121)
Morten et al. 2017.
122)
Doosje/van Eerten 2017.
123)
Die Tränen der Dawa.
124)
Klicksafe.
125)
Junge Islam-Konferenz.
126)
Mein Islam - dein Islam.
127)
Rieger/Morten/Frischlich 2017.
128)
U. a. Dschihadismus im Internet, Spektren salafistischer Diskurse in NRW.
129)
Meleagrou-Hitchens/Kaderbhai 2017.
130)
Engesser/Fawzi/Larsson 2017.
131)
Doosje et al. 2016.
132)
Frischlich 2018b.
133)
strongcitiesnetwork.org.
134)
Brown/Paterson 2016.
Literatur
Ahmed, Mubaraz/George, Fred L. (2017): A war of keywords. How extremists are exploiting the internet and what to do about it. London. Online: https://institute.global/sites/default/fles/inline-fles/IGC_War of Keywords_23.08.17_0.pdf.
Applebaum, Anne/Pomerantsev, Peter/Smith, Melanie/Colliver, Chloe (2017): “Make Germany great again”: Kremlin, Alt-right and international infuences in the 2017 German elections. London.
Atwan, Abdel Bari (2016): Das digitale Kalifat - die geheime Macht des Islamischen Staates. München, C.H. Beck.
Baaken, Till/Schlegel, Linda (2017): Fishermen or swarm dynamics? Should we understand Jihadist online-radicalization as a top-down or bottom-up process? Journal for Deradicalization, (13), Seiten 178-212.
Baldauf, Johannes/Ebner, Julia/Guhl, Jakob (2018): Hassrede und Radikalisierung im Netz - der OCCI Forschungsbericht. London, Institute for Strategic Dialogue.
Benigni, Matthew Curran/Joseph, Kenneth/Carley, Kathleen M. (2017): Online extremism and the communities that sustain it: Detecting the ISIS supporting community on Twitter. PLOS ONE, 12(12):eO181405. doi: 10.1371/journal.pone.0181405.
Bennett, W. Lance/Livingston, Steven (2018): The disinformation order: Disruptive communication and the decline of democratic institutions. London, European Journal of Communication, SAGE Publications, 33(2), Seiten 122-139. doi: 10.1177/0267323118760317.
Böhm, Robert/Rusch, Hannes/Gürek, Özgür (2015): What makes people go to war? Defensive intentions motivate retaliator and preemptive intergroup aggression. MPRA Paper, 64373. doi: https://mpra.ub.uni-muenchen.de/64373.
Bright, Jonathan (2017): Explaining the emergence of echo chambers on social media: the role of ideology and extremism. Seiten 1-19. doi: 10.2139/ssrn.2839728.
Brosius, Hans-Bernd/Esser, Frank (1995): Eskalation durch Berichterstattung. Massenmedien und fremdenfeindliche Gewalt [Escalation via reporting. Mass media and violence against foreigners]. Wiesbaden, Springer-Verlag. Online: http://link.springer.com/book/10.1007/978-3-663-12097-1/page/1.
Brown, Rupert/Paterson, Jenny (2016): Indirect contact and prejudice reduction: limits and possibilities, Current Opinion in Psychology. Elsevier Ltd, 11, Seiten 20-24. doi: 10.1016/j.copsyc.2016.03.005.
Bruder, Martin/Haffe, Peter/Neave, Nick/Nouripanah, Nina/Imhoff, Roland (2013): Measuring individual differences in generic beliefs in conspiracy theories across cultures: conspiracy mentality questionnaire. Frontiers in Psychology, 4 (April). doi: 10.3389/fpsyg.2013.00225.
Bruns, Axel (2009): Vom Gatekeeping zum Gatewatching. In: Journalismus im Internet: Profession – Partizipation – Technisierung. Wiesbaden, VS Verlag für Sozialwissenschaften, Springer Fachmedien, Seiten 107-128. doi: 10.1007/978-3-531-91562-3.
Bundesministerium des Innern (2017): Verfassungsschutzbericht 2016. Berlin.
Clarke, Colin P./Ingram, Haroro J. (2018): Defeating the ISIS nostalgia narrative. RAND.
Collins, Ben/Poulsen, Kevin/Ackerman, Spencer (2017): Exclusive: Russia used Facebook events to organize anti-immigrant rallies on U.S. soil, The Daily Beast, 9 November, Seiten 15-17. Online: https://www.thedailybeast.com/exclusive-russia-used-facebook-events-to-organize-anti-immigrant-rallies-on-us-soil.
Deutsche Welle (2018): China state media justify Muslim Uighur crackdown to prevent “Cina’s Syria”. Deutsche Welle, 13 August, Seiten 11-13.
Doosje, Bertjan/Moghaddam, Fathali M.Kruglanski Arie W./de Wolf, Arjan (2016): Terrorism, radicalization and de-radicalization, Current Opinion in Psychology. Elsevier Ltd, 11, Seiten 79-84. doi: 10.1016/j.copsyc.2016.06.008.
Doosje, Bertjan/van Eerten, Jan-Jaap (2017): “Counter-narratives” against violent extremism’. In: Colaert, Lore (Hrsg.): De-radicalisation: Scientifc insights for policy. Brüssel, Tomas Baum, Seiten 83-100. Online: http://www.tandfonline.com/doi/full/10.1080/14678800600933480.
Dubois, Elizabeth/Blank, Grant (2018): The echo chamber is overstated: The moderating effect of political interest and diverse media. Information Communication and Society. London, Taylor & Francis, 0(0), Seiten 1-17. doi: 10.1080/1369118X.2018.1428656.
Ebner, Julia (2017): The rage: The vicious circle of islamist and far-right extremism. London, I.B.Tauris & Co.
Engesser, Sven/Fawzi, Nayla/Larsson, Anders Olof (2017): Populist online communication: introduction to the special issue. Information, Communication & Society. London, Taylor & Francis, 20(9), Seiten 1.279-1.292. doi: 10.1080/1369118X.2017.1328525.
Erelle, Anna (2015): In the skin of a Jihadist: A young journalist enters the ISIS recruitment network. Harper Paperbacks.
Ernst, Julian/Beier, Ann Kristin/Schmitt, Josephine B./Rieger, Diana/Qasem, Sindyan/Roth, Hans-Joachim (2018): „Muss doch nicht unbedingt mit Pistole sein, Alter.“ – Lernarrangements zur Förderung von Medienkritikfähigkeit im Umgang mit extremistischer Internetpropaganda. Ein erster Evaluationsbericht aus dem Forschungsprojekt CONTRA. In: Hohnstein, Sally/Herding, Maruta (Hrsg.): Digitale Medien und politisch-weltanschaulicher Extremismus im Jugendalter. Erkenntnisse aus Wissenschaft und Praxis. Halle, Deutsches Jugendinstitut, Seiten 189-212.
Ernst, Julian/Schmitt, Josephine B./Rieger, Diana//Roth, Hans-Joachim (2018): Extremismus im Internet – Drei Lernarrangements zur Förderung von Medienkritikfähigkeit im Umgang mit Internetpropaganda in der Schule. Bundeskriminalamt,Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm.
Facebook Newsroom (2017): Eine Community von 30 Millionen: Facebook sagt Danke.
Farkas, Johan/Schou, Jannick/Neumayer, Christina (2017): Cloaked facebook pages: Exploring fake Islamist propaganda in social media. New Media & Society, 20(1): 146144481770775. doi: 10.1177/1461444817707759.
Flaxman, Seth R./Rao, Justin M. (2016): Filter bubbles, echo chambers, and online news consumption. Public Opinion Quarterly, 80 (Special Issue), Seiten 298-320. doi: 10.1093/poq/nfw006.
Frankenberger, Patrick/Hofmann, Ingrid/ Ipsen, Flemming/Oezmen, Fehime/Zarabian, Nava (2018): 2017 Bericht – Islamismus im Netz. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/Bericht_2017_Islamismus_im_Internet.pdf.
Frindte, Wolfgang/Haußecker, Nicole (2010): Inszenierter Terrorismus (Staged terrorism). Wiesbaden, Verlag für Sozialwissenschaften, Springer Fachmedien.
Frischlich, Lena/Rieger, Diana/Hein, Maia/Bente, Gary (2015): Dying the right-way? Interest in and perceived persuasiveness of parochial extremist propaganda increases after mortality salience. Frontiers in Psychology, Evolutionary Psychology and Neuroscience, 6(1222). doi: 10.3389/fpsyg.2015.01222.
Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (2017): Wirkung. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.): in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE). Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand. Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 81-140.
Frischlich, Lena (2018a): Fake News und Social Bots - Erkennung, Wirkung, Bekämpfung. In: Holznagel, Bernd/Steul, Willi (Hrsg.): Öffentlich-rechtlicher Rundfunk in Zeiten des Populismus. Leipzig, VISTAS, Seiten 28-59.
Frischlich, Lena (2018b): Propaganda3: Einblicke in die Inszenierung und Wirkung von Online-Propaganda auf der Makro-Meso-Mikro Ebene. In: Zywietz, Bernd/Sachs-Hombach, Klaus (Hrsg.): Fake news und Social Bots – Neue Mechanismen populistischer Propaganda. Aktivismus. Wiesbaden, Springer Fachmedien VS, S. 133-170. doi: https://doi.org/10.1007/978-3-658-22118-8.
Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (2018): The power of a good story: Narrative persuasion in extremist propaganda and videos against violent extremism. International Journal of Violence and Conflict, 12. doi: 10.4119/UNIBI/ijcv.64.
Frischlich, Lena (2018): Propaganda3: Einblicke in die Inszenierung und Wirkung von Online-Propaganda auf der Makro-Meso-Mikro Ebene. In: Zywietz, Bernd (Hrsg.): Fake-News, Hashtags & Social Bots: Neue Methoden der populistischen Propaganda. München, Springer Fachmedien VS.
Frischlich, Lena/Boberg, Svenja/Quandt, Thorsten (2017): Online newspapers as target of strategic user-generated content - Dealing with hate speech, fake news, and hidden propaganda. In: Annual Conference of the International Journal of Press and Politics. Oxford.
Frischlich, Lena/Quandt, Thorsten (2019): The markets of manipulation: The trading of social bots on clearnet and darknet markets. In: MISDOOM. Hamburg.
Frischlich, Lena/Rieger, Diana (2017): Hass im Netz - Hass im Herzen? Die Wirkung rechtsextremistischer und islamistisch-extremistischer Online Propagandavideos und mögliche Gegenangebote im Netz. In: Mind, 2. Online: http://de.in-mind.org/.
Gagliardone, Iginio (2016): Mechachal: Online debates and elections in Ethiopia - from hate speech to engagement in social media. Oxford.
Giglou, Roya Imani/Ogan, Christine/d’Haenens, Leen (2018): The ties that bind the diaspora to Turkey and Europe during the Gezi protests. New Media and Society, 20(3), Seiten 937-955. doi: 10.1177/1461444816675441.
Glaser, Stefan/Herzog, Holger/Özkilic, Murat unter Mitarbeit des Teams von jugendschutz.net (2017): Jugendschutz im Internet: Risiken und Handlungsbedarf. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/bericht2015.pdf.
Gollatz, Kirsten/Riedl, Martin J./Pohlmann, Jens (2018): Removals of online hate speech in numbers. HIIG Science Blog. doi: 10.5281/zenodo.1342325.
Greenberg, Jeff/Schimel, Jeff/Martens, Andy/Solomon, Sheldon/Pyszcznyski, Tom (2001): Sympathy for the devil: Evidence that reminding Whites of their mortality promotes more favorable reactions to white racists, Motivation and Emotion, 25(2), Seiten 113-133. doi: 10.1023/a:1010613909207.
Grimme, Christian/Assenmacher, Dennis/Adam, Lena (2018): Changing Perspectives: Is it suffcient to detect social bots? Lecture Notes in Computer Science (including subseries Lecture Notes in Artifcial Intelligence and Lecture Notes in Bioinformatics), 10913 LNCS, Seiten 445-461. doi: 10.1007/978-3-319-91521-0_32.
Guess, Andrew/Nagler, Jonathan/Tucker, Joshua (2019): Less than you think: Prevalence and predictors of fake news dissemination on Facebook. Science Advances, (January), Seiten 1-9. doi: 10.1126/sciadv.aau4586.
Haim, Mario/Graefe, Andreas/Brosius, Hans-Bernd (2017): Burst of the Filter Bubble?: Effects of personalization on the diversity of Google News. Digital Journalism, Routledge, 0811, Seiten 1-14. doi: 10.1080/21670811.2017.1338145.
Hasebrink, Uwe/Hölig, Sascha (2017): Digital News Survey 2017 - Ergebnisse für Deutschland. Hamburg, Hans-Bredow Institut.
Haslam, Catherine/Cruwys, Tegan/Haslam, S. Alexander/Dingle, Genevieve/Xue-Ling Chang, Melissa (2016): Groups 4 Health: Evidence that a social-identity intervention that builds and strengthens social group membership improves mental health. Journal of Affective Disorders, Elsevier, 194, Seiten 188-195. doi: 10.1016/j.jad.2016.01.010.
Hogg, Michael A./Sherman, David K./Dierselhuis, Joel/Maitner, Angela T./Mofftt, Graham (2007) Uncertainty, entitativity, and group identifcation. Journal of Experimental Social Psychology, 43(1), Seiten 135-142. doi: 10.1016/j.jesp.2005.12.008.
Hogg, Michael A./Blaylock, Danielle L. (2012): Extremism and the Psychology of Uncertainty. Oxford, Blackwell Publishing Ltd.
Hohnstein, Sally/Glaser, Michaela (2017): Wie tragen digitale Medien zu politisch-weltanschaulichem Extremismus im Jugendalter bei und was kann pädagogische Arbeit dagegen tun? Ein Überblick über Forschungsstand, präventive und intervenierende Praxis im Themenfeld. In: Hohnstein, Sally/Herding, Maruta (Hrsg.): Digitale Medien und politisch-weltanschaulicher Extremismus im Jugendalter.
Erkenntnisse aus Wissenschaft und Praxis. Halle a. d. Saale, Deutsches Jugendinstitut, Seiten 243-281.
Hsueh, Mark/Yogeeswaran, Kumar /Malinen, Sanna (2015): “Leave your comment below”: Can biased online comments infuence our own prejudicial attitudes and behaviors? Human Communication Research, 41(4), Seiten 557-576. doi: 10.1111/hcre.12059.
Ismay, John (2018): Rhodesia’s dead – but White Supremacists Have Given It New Life Online. The New York Times Magazine, April, Seiten 1-7.
Jonas, Eva/Mcgregor, Ian/Klackl, Johannes/Agroskin, Dmitrij (2014): Threat and Defense: From Anxiety to Approach. In: Olson, James M. and Zanna, Marc P. (Hrsg.): Advances in experimental social psychology. 49th edn. Burlington, Elsevier Inc., Seiten 219-286. doi: 10.1016/B978-0-12-800052-6.00004-4.
Jugendschutz.net (2016): Zahlen Rechtsextremismus 2016. Mainz. Online: http://www.jugendschutz.net/fleadmin/download/pdf/Zahlen_Rechtsextremismus_Online_2016.pdf.
Kaakinen, Markus/Oksanen, Atte/Räsänen, Pekka (2018): Did the risk of exposure to online hate increase after the November 2015 Paris attacks? A group relations approach, Computers in Human Behavior. Oxford, Pergamon, 78, Seiten 90-97. doi: 10.1016/J.CHB.2017.09.022.
Kahane, Anetta (2015): Der Kulturkampf der Gegenwart, ‘Geh sterben!’ Umgang mit Hate Speech und Kommentaren im Internet. Berlin, Amadeu-Antonio-Stiftung, Seiten 7-8.
Kaspar, Kai/Gräßer, Lars/Riff, Aycha (2017): Online Hate Speech. Perspektiven auf eine neue Form des Hasses. Marl, Schriftenreihe Grimme Institut.
Kiefer, Michael/Hüttermann, Jörg/Dziri, Bacem/Ceylan, Rauf/Roth, Viktoria/Srowig, Fabian/Zick, Andreas (2017): Lasset uns in sha’a Allah ein Plan machen. Wiesbaden, Springer Fachmedien VS.
Kixmüller, Jan (2018): Interview mit Extremismus-Experte Alexander Ritzmann: „Die Menschen sollen Angst vor ihren Nachbarn bekommen“ – Hochschulen in Potsdam, Tagesspiegel Potsdamer Nachrichten, 6 Juni, Seiten 1-5. Online: http://www.pnn.de/campus/1290547/.
Kreißel, Philipp/Ebner, Julia/Urban, Alexander/Guhl, Jakob (2018): Hass auf Knopfdruck – Rechtsextreme Trollfabriken und das Ökosystem koordinierter Hasskampagnen im Netz. Seiten 28. Online: http://www.isdglobal.org/wp-content/uploads/2018/07/ISD_Ich_Bin_Hier_2.pdf.
Kruglanski, Arie W. (2009): Fully committed: Suicide bombers’ motivation and the quest for personal signifcance. Political Psychology, 30(3), Seiten 331-357. doi: 10.1111/j.1467-9221.2009.00698.x.
Kruglanski, Arie W./Bélanger, Jocelyn J./Gelfand, Michele/Gunaratna,Rohan/Hettiarachchi, Malkanthi/Reinares, Fernando/Orehek,Edward/Sasota, Jo/Sharvit, Keren (2013): Terrorism - a (self) love story: Redirecting the signifcance quest can end violence, The American Psychologist, 68(7), Seiten 559-575. doi: 10.1037/a0032615.
Lasswell, Harold D. (1927): Propaganda techniques in the world war. London, Paul Kegan,Trench,Trubner & Co.
Leyendecker, Hans/Mascollo, Georg (2016): Die Chats der Attentäter von Würzburg und Ansbach mit dem IS. Süddeutsche Zeitung, September, Seiten 1-6.
Local Times Erfurt (2016): Hetze per WhatsApp. Local Times Erfurt, August.
Lyons-Padilla, Sarah/Gelfand, Michele/Mirahmadi, Hedieh/Farooq, Mehreen (2015): Belonging nowhere: Marginalization & radicalization risk among Muslim Immigrants. Behavioral Science and Policy, 1(2), Seiten 1-12. doi: 10.1353/bsp.2015.0019.
Machowecz, Martin/Middelhoff, Paul/Musharbash, Yassin/Stark, Holger (2018): Revolution Chemnitz: Zum Umsturz bereit. Zeit Online, October, Seiten 1-4.
Marwick, Alice/Lewis, Rebecca (2017): Media Manipulation and Disinformation Online. New York, Data & Society Research Institute, Seiten 1-104.
Mcgregor, Holly A./Lieberman, Joel D./Greenberg, Jeff/Solomon, Sheldon (1998): Terror management and aggression: Evidence that mortality salience motivates aggression against worldview-threatening others. Journal of Personality and Social Psychology, 74(3), Seiten 590-605. Online: http://www.ncbi.nlm.nih.gov/pubmed/9523407.
McKenna, Katelyn Y. A./Bargh, John A. (1998): Comming out in the age of internet. Journal of Personality and Social Psychology, 75(3), Seiten 681-694.
Meleagrou-Hitchens, Alexander/Kaderbhai, Nick (2017): Perspectives on Online Radicalization, Literature review 2006-2016. London,Vox Pol. Online: http://icsr.info/wp-content/uploads/2017/05/ResearchPerspectivesonOnlineRadicalisation.pdf.
Mitchell, Amy/Gottfried, Jeffrey/Barthel, Michael/Sumida, Nami (2018): Can Americans tell facts from opinions in the news?
Morin, David T./Flynn, Mark A. (2014): We are the Tea Party!: The use of Facebook as an online political forum for the construction and maintenance of in-group identifcation during the “GOTV” weekend. Communication Quarterly, 62(1), Seiten 115-133. doi: 10.1080/01463373.2013.861500.
Frischlich, Lena/Rieger, Diana/Morten,Anna/Bente, Gary (2017): Wirksamkeit: In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand.Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 161-224. Online: 978-3-9818469-1-1.
Näsi, Matti/Räsänen, Pekka/Hawdon, James/Holkeri, Emma (2015): Exposure to online hate material and social trust among Finnish youth. Information Technology & People, 28(3), Seiten 607-622. doi:10.1108/ITP-09-2014-0198.
Neumann, Katharina/Baugut, Philip (2016): Neonazis im Scheinwerferlicht der Medien – Eine Analyse reziproker Medieneffekte innerhalb der Neonazi-Szene in Deutschland. Wiesbaden, Springer VS.
Neumann, Peter (2008): Joining al-Qaeda. Jihadist recruitment in Europe. London, Routledge.
O’Callaghan, Derek/Greene, Derek/Conway, Maura/Carthy, Joe/Cunningham, Pádraig (2015): Down the (white) rabbit hole: The extreme right and online recommender systems. Social Science Computer Review, 33(4), Seiten 459-478. doi: 10.1177/0894439314555329.
Oboler, Andre (2015): The rise and fall of a facebook hate group. First Monday, 13(11).
Pariser, Eli (2011): The flter bubble: How the new personalized web is changing what we read and how we think. New York, The Penguin Press.
Pettigrew, Thomas F./Tropp, Linda R. (2006): A meta-analytic test of intergroup contact theory. Journal of Personality and Social Psychology, 90(5), Seiten 751-83. doi: 10.1037/0022-3514.90.5.751.
Pfundmair, Michaela (2018): Ostracism promotes a terroristic mindset, Behavioral Sciences of Terrorism and Political Aggression. Taylor & Francis, 0(0), Seiten 1-15. doi: 10.1080/19434472.2018.1443965.
Phillips, Whitney (2018): The oxygen of amplifcation: Better practices for reporting on extremists, antagonists, and manipulators online. Online: https://datasociety.net/wp-content/uploads/2018/05/FULLREPORT_Oxygen_of_Amplifcation_DS.pdf.
Preuß, Madlen/Tetzlaff, Frederik/Zick, Andreas (2017): Publizieren wird zur Mutprobe: Studie zur Wahrnehmung von und Erfahrung mit Angriffen unter Journalist_innen. Bielefeld.
Pyszczynski, Tom/Abdollahi, Abdolhossein/Solomon, Sheldon/Greenberg, Jeff/Cohen, Florette/Weise, David (2006): Mortality salience, martyrdom, and military might: the great satan versus the axis of evil. Personality & social psychology bulletin, 32(4), Seiten 525-37. doi: 10.1177/0146167205282157.
Qasem, Sindyan/Nordbruch, Götz (2017): Video kills learning standards? Zu neuen und alten Herausforderungen von politischer Bildung und Prävention im digitalen Zeitalter. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand, Seiten 249-258.
Quandt, Thorsten/Frischlich, Lena/Boberg, Svenja/Schatto-Eckrodt, Tim (2019): Fake News, The International Encyclopedia of Journalism Studies. Wiley.
Regnér, Lucas (2014): The YouTube-born terrorist. JEX, 2, Seiten 137-189.
Reinemann, Carsten/Nienierza, Angela/Fawzi, Nayla/Riesmeyer, Claudia/Neumann Katharina (2019): Jugend – Medien – Extremismus. Wiesbaden, Springer VS.
Rieger, Diana/Ernst, Julian/Schmitt, Josephine B./Vorderer, Peter/Bente, Gary/Roth, Hans-Joachim (2017): Propaganda und Alternativen im Internet – Medienpädagogische Implikationen. merz – medien + erziehung, 3, Seiten 27-35.
Rieger, Diana/Frischlich, Lena/Bente, Gary (2013): Disguised in entertainment? Approach and avoidance reactions towards right-wing and Islamic extremist propaganda videos. In: Paper presented at the 8th Meeting of the Media Psychology Division of the German Association of Psychology. Würzburg.
Rieger, Diana/Frischlich, Lena/Bente, Gary (2017): Propaganda in an insecure, unstructured world: How psychological uncertainty and authoritarian attitudes shape the evaluation of right-wing extremist internet propaganda. Journal for Deradicalization, 10(Spring), Seiten 203-229.
Rieger, Diana/Morten, Anna/Frischlich, Lena (2017): Verbreitung und Inszenierung. In: Frischlich, Lena/Rieger, Diana/Morten, Anna/Bente, Gary (Hrsg.) in Kooperation mit der Forschungsstelle Terrorismus/Extremismus (FTE): Videos gegen Extremismus? Counter-Narrative auf dem Prüfstand. Wiesbaden, Griebsch und Rochol Druck GmbH, Hamm, Seiten 47-80.
Rieger, Diana/Schneider, Jana (2019): Zwischen Chemtrails, Reptiloiden und #pizzagate: Verschwörungstheorien aus kommunikationswissenschaftlicher Perspektive. In: Landesarbeitsgemeinschaft Mobile Jugendarbeit/Streetwork Baden-Württemberg e. V. & Jugendstiftung Baden-Württemberg, Mythen, Ideologien, und Theorien. Verschwörungsglaube in Zeiten von Social Media. Vaihingen an der Enz, Printmedien Karl-Heinz Sprenger, Seiten 13-20.
Sängerlaub, Alexander/Meier, Miriam/Rühl, Wolf-Dieter (2018): Fakten statt Fakes. Berlin. Online: https://www.stiftung-nv.de/de/publikation/fakten-statt-fakes-verursacher-verbreitungswege-und-wirkungen-von-fake-news-im.
Schatto-Eckrodt Tim/Boberg Svenja/Wintterlin Florian/Frischlich Lena/Quandt Thorsten (im Druck): Bedrohte Deliberation – Information Warfare und Desinformation als Bedrohung digitaler Öffentlichkeiten. Communicatio Socialis.
Schmitt, Josephine B./Ernst, Julian/Frischlich, Lena/Rieger, Diana (2017): Rechtsextreme und islamistische Propaganda im Internet: Methoden, Auswirkungen und Präventionsmöglichkeiten, in: Altenhof, Ralf/ Bunk, Sarah/Piepenschneider, Melanie (Hrsg.): Politischer Extremismus im Vergleich. Schriftenreihe Politische Bildung der Konrad-Adenauer-Stiftung e. V., Band 3. Berlin; Münster, LIT Verlag. Seiten 171-210.
Schmitt, Josephine B./Rieger, Rieger/Rutkowski, Olivia/Ernst, Julian (2018): Counter-messages as prevention or promotion of extremism?! The potential role of YouTube recommendation algorithms. Journal of Communication, 68(4), Seiten 780-808. doi: 10.1093/joc/jqy029.
Schmitt, Josephine B./Ernst, Julian/Rieger, Diana/Roth, Hans-Joachim (Hrsg.) (2020): Propaganda und Prävention. Forschungsergebnisse, didaktische Ansätze sowie interdisziplinäre und internationale Perspektiven zur pädagogischen Arbeit zu extremistischer Internetpropaganda. Wiesbaden, Springer VS.
Schmitz, Dominic Musa (2016): Ich war ein Salafist: Meine Zeit in der islamistischen Parallelwelt. Berlin, Ullstein eBooks.
Schreiber, Julia (2016): Unter Pseudonym in rechten Facebook Gruppen: So feiert die AfD ihren Wahlerfolg, ze.tt, 15 March. Online: https://ze.tt/weitere-artikel/.
Smeekes, Anouk/Verkuyten, Maykel/Martinovic, Borja (2015): Longing for the country’s good old days: National nostalgia, autochthony beliefs, and opposition to Muslim expressive rights. British Journal of Social Psychology, 54(3), Seiten 561-580. doi: 10.1111/bjso.12097.
Spinney, Laura (2017): The shared past that wasn't: How Facebook, fake news and friends are altering memories and changing history. Nature, 543(9), Seiten 168-170.
Stern, Jessica/Berger, James M. (2016): ISIS: The State of Terror. 2nd ed. London, Ecco.
Stöber, Silvia (2017): Desinformation in Osteuropa: Deutschland im Zerrspiegel. Tagesschau.de, 19 July, Seiten 2-3.
Sunstein, Cass R. (2007): Republic.com 2.0: Revenge of the blogs. Princeton, Princeton University Press.
Tajfel, Henry/Turner, John C. (1979): An integrative theory of intergroup confict. In: Worchel, Stephen/Austin, William G. (Hrsg.): The Social Psychology of Intergroup Relations. Monterey, CA, Brooks-Cole, Seiten 33-47.
Torok, Robyn (2010): “Make a bomb in your mums kitchen”: Cyber recruiting and socialisation of “White moors” and home grown jihadists, Proceedings of the 1st Australian Counter Terrorism Conference, (November), Seiten 54-61.
Valkenburg, Patti M./Peter, Jochen (2013): The differential susceptibility to media effects model. Journal of Communication, 63(2), Seiten 221-243. doi: 10.1111/jcom.12024.
Del Vicario, Michaela/Bessi, Alessandro/Zollo, Fabiana/Petroni, Fabio/Scala, Antonio/Caldarelli, Guido/Stanley, H. Eugene/Quattrociocchi, Walter (2016): The spreading of misinformation online. Proceedings of the National Academy of Sciences, 113(3), Seiten 554-559. doi: 10.1073/pnas.1517441113.
Vorderer, Peter/Klimmt,Christoph/Rieger, Diana/Baumann, Eva (2015): Der mediatisierte Lebenswandel – Permanently online, permanently connected, Publizistik, 60(3), Seiten 259-276. doi: 10.1007/s11616-015-0239-3.
Vorderer, Peter/Hefner, Dorothee/Reinecke, Leonard/Klimmt, Christoph (Hrsg.) (2018): Permanently online, permanently connected. New York, Routledge.
Vosoughi, Soroush/Roy, Deb/Aral, Sinan (2018): The spread of true and false news online. Science, 359(6380), Seiten 1.146-1.151. doi: 10.1126/science.aap9559.
Walther, Joseph B. (2009): In point of practice: Computer-mediated communication and virtual groups: Applications to interethnic conflict. Journal of Applied Communication Research, 37(3), Seiten 225-238.
Weichert, Stefan Alexander (2007): Die Propaganda der Tat – Zur Kommunikationsstrategie des modernen Aufmerksamkeitsterrorismus. In: Glaab, Sonja (Hrsg.): Medien und Terrorismus. Auf den Spuren einer symbiotischen Beziehung. Berlin, Berliner Wissenschaftsverlag, Seiten 83-98.
Winter, Charlie (2015): Documenting the virtual ’caliphate’. London. Online: http://www.quilliaminternational.com/wp-content/uploads/2015/10/FINAL-documenting-the-virtual-caliphate.pdf
Wojcieszak, Magdalena (2008): False consensus goes online impact of ideologically homogeneous groups on false consensus. Public Opinion Quarterly, 72(4), Seiten 781-791.
Yablokov, Ilya (2015): Conspiracy theories as a Russian public diplomacy tool: The case of Russia Today (RT). Politics, 35(3-4), Seiten 301-315. doi: 10.1111/1467-9256.12097.
Quellen
Das Nettz: https://www.das-nettz.de/ichbinhier-ev-verein, Abruf: 11.09.2019.
Demokratiezentrum BW: Über die Reichweite der Plattformanbieter hinaus gibt es weitere Meldestellen für Propaganda, Hate Speech und andere problematische Inhalte. Online beispielsweise: https://demokratiezentrum-bw.de/demokratiezentrum/vorfall-melden Abruf 11.09.2019.
Dschihadismus im Internet: http://www.ifeas.uni-mainz.de/2899.php.
Firstdraft.com: https://firstdraftnews.org/en/education/learn/.
Jamal Al-Khatib – Mein Weg: http://www.boja.at/projekte/fucht/jamal-al-khatib-paedagogisches-paket/, Abruf: 11.09.2019.
Jugendschutz.net: Bericht „Islamismus im Netz“ 2017: https://www.jugendschutz.net/fileadmin/download/pdf/Bericht_2017_Islamismus_im_Internet.pdf, Abruf 11.09.2019.
Junge Islamkonferenz: https://www.junge-islam-konferenz.de/.
Klicksafe, Unterrichtsmaterialien und weitere Informationen unter: https://www.klicksafe.de/rechtsextremismus, https://www.klicksafe.de/salafismus/, https://www.klicksafe.de/klicksafe-to-go/ (Material zu Desinformationen).
Mein Islam - dein Islam: https://www.mein-islam-dein-islam.de.
Redirect: https://redirectmethod.org/.
Schule ohne Rassismus - Schule mit Courage: https://www.schule-ohne-rassismus.org/startseite/, Abruf 11.09.2019.
#Search racism, find truth: http://www.search-racism-find-truth.com/.
Spektren salafistischer Diskurse in NRW: https://www.core-nrw.de.
Tagesschau: http://faktenfinder.tagesschau.de.
The Guardian: https://www.theguardian.com/us-news/2019/mar/15/donald-trump-denies-white-nationalism-threat-new-zealand (Abruf 11.09.19).
Ufuq.de: http://www.ufuq.de/was-postest-du-politische-bildung-mit-jungen-muslim_innen-online, Abruf: 11.09.2019.
Washington Post: https://www.washingtonpost.com/graphics/politics/trump-claims.
