Fake News

Der ehemalige US-Präsident Präsident Donald Trump oder die Corona-Pandemie sind beide mit dem gleichen Phänomen behaftet: Fake News – falsche Nachrichten, die zum Beispiel über die Anzahl der Zuschauer bei der Amtseinführung Trumps verbreitet oder vielfach mit Meldungen über das Corona-Virus in Verbindung gebracht werden.

Dabei sind Fake News nichts Neues. In der Geschichte der Menschheit hat es sie schon immer gegeben. Ebenso Menschen, die an sie glauben. Bereits in der Antike ließen Machthaber falsche Nachrichten streuen, um ihre Gegner auszuschalten. Neu ist heute die Dimension, wie schnell und häufig sich Fake News verbreiten können. Das Internet macht es möglich. Außerdem versuchen Algorithmen, uns von bestimmten Dingen zu überzeugen und uns gezielt Nachrichten zu unseren Interessensblasen zukommen zu lassen.

Was es mit Fake News genau auf sich hat, welche teils gefährlichen Auswirkungen sie haben können, wer sie verbreitet, wie sie strafrechtlich einzuordnen sind und wie man Fake News erkennt erfahren Sie unter anderem in diesem Dossier.

Viele Menschen halten Fake News zunächst aus sehr offensichtlichen Gründen für wahr. Sie sehen auf den ersten Blick aus wie echte Nachrichten. Ungeprüft übernommen werden falsche Nachrichten oft versehentlich geglaubt.

Dazu kommt, dass Fake News im Internet schnell und oft geteilt werden oder ein „Gefällt mir“ bekommen, da sie sich in der digitalen Welt besonders rasant verbreiten können. Umso häufiger eine Nachricht auftaucht, umso wahrer scheint sie dann. Algorithmen sorgen dafür, dass, wer entsprechende Nachrichten zum Beispiel auf einer sozialen Plattform konsumiert, auch ähnliche Nachrichten wieder vorgeschlagen bekommt und so in einer Filterblase hängt.

Wer die Quelle einer Nachricht, ihre Seriosität oder Qualität nicht in Frage stellt, lässt sich ebenso leichter täuschen. Aber auch, wenn inzwischen viele Menschen um dieses Phänomen wissen, glauben sie trotzdem falschen Nachrichten. Wie kann das sein?

Es hat vor allem psychologische Gründe. So spielen Emotionen bei Fake News eine große Rolle. Wer zum Beispiel wütend ist oder Angst hat, glaubt eher eine Information, die diesem Gefühl zuspricht. Vor allem, wenn diese Information reißerisch und emotional dargestellt wird. Menschen, die einen Kontrollverlust im Leben spüren, lassen sich gleichwohl leichter auf Fake News ein, wenn diese ihnen einfache Antworten auf schwierige Themen geben und die Welt scheinbar verständlicher machen. Wenn bestimmte Nachrichten in ein Weltbild von Menschen passen, ihren eigenen Anschauungen entsprechen, wollen sie gerne geglaubt werden.

Fake News können die öffentliche Meinung beeinflussen. Sie werden zum Teil bewusst für politische Propaganda eingesetzt. Demokratische Prozesse, Entscheidungen und Institutionen, wie beispielsweise das Ergebnis einer Wahl, können so in Frage gestellt werden. Dadurch sinkt das Vertrauen in die Demokratie, in die politischen Parteien und in die Politikerinnen und Politiker. Auch „klassische“ Medien wie Zeitungen, Radio- und Fernsehsender werden durch Fake News abgewertet.

Die Zahl bewusst verbreiteter Falschmeldungen im Internet als auch den Sozialen Medien nimmt seit Jahren immer weiter zu. Der Grund dafür ist meist, Angst und Verunsicherung zu schüren oder das Vertrauen in die Politik und ihre Institutionen zu erschüttern. Fake News werden immer professioneller verbreitet, egal, ob es harmlose Scherze sind oder Informationen, die Menschenleben gefährden können.

Es ist inzwischen ausreichend nachgewiesen, dass sich Fake News weltweit rasant verbreiten. Das MIT fand mit einer Studie heraus, dass „das oberste 1 Prozent an Falschmeldungen 1.000 bis 100.000 Menschen erreichte, während wahre Meldungen kaum mehr als 1.000 Menschen erreichten.

Aus: Vosoughi, Soroush, Deb Roy und Sinan Aral. (2018). „The Spread of True and False News Online“, Science.

Weil alle in den Sozialen Medien ihre Meinung kund tun und Nachrichten verbreiten können – ob wahr oder falsch –, verschwimmt die Grenze zwischen objektiven, nachgeprüften Informationen und subjektiven Meinungen von Einzelpersonen. Es ist aufwändig, den Wahrheitsgehalt solcher Nachrichten zu überprüfen. Auch wenn sich herausstellt, dass es eine Falschmeldung war, bekommt diese Richtigstellung viel weniger Aufmerksamkeit als die schon verbreitete Falschnachricht. Wenn Menschen dann nicht mehr unterscheiden können, was wahr und was falsch ist, oder wenn sie sich von den vielen Informationen des Internets und der Sozialen Medien regelrecht überrollt fühlen, kann sich bei ihnen eine Art Resignation einstellen. Die Frage ist dann: Was kann man noch glauben? Oft schaffen sie sich auch eigene Wahrheiten und sind besonders von der Politik und der Demokratie enttäuscht.

Durch Fake News werden aber auch Diskussionen aufgeheizt und die sachliche Auseinandersetzung zu wichtigen Themen erschwert. Schaden richten Fake News an, wenn sie zum Zweck von Hass, Hetze oder Verleumdung verbreitet werden. Die Opfer können psychische Schäden erleiden oder gar im realen Leben bedroht werden oder phyische Gewalt erfahren.

Manche Fake News schleusen Computerviren ein. Mit deren Hilfe werden persönliche Daten der Nutzerinnen und Nutzer ausgespäht. Diese Daten können missbraucht werden. Die Polizei empfielt, besonders misstrauisch bei elektronischen Kettenbriefen, Spam- oder Phishing-Mails zu sein.

Laut dem Medienforscher Jan-Hinrik Schmidt sind die meisten Menschen bereits vorsichtig und aufmerksam, wenn sie digitale Medien nutzen. Die Gefahr, die von Fake News ausgeht, ist ihnen bewusst.

• Wenn Fake News verunglimpfende oder beleidigende Aussagen enthalten oder die Grenzen zur Rechtswidrigkeit überschreiten, können Sie dem jeweiligen Sozialen Netzwerk gemeldet werden. Seit Inkrafttreten des Netzwerkdurchsetzungsgesetzes Mitte 2017 müssen Anbieter Sozialer Netzwerke „offensichtlich rechtswidrige Inhalte“ wie Volksverhetzung, Anleitungen zu schweren Straftaten oder verbotene Symbole innerhalb von 24 Stunden nach Beschwerde sperren oder löschen. Andernfalls drohen ihnen Bußgelder in Höhe von bis zu 50 Millionen Euro.
   
• Falschmeldungen mit strafrechtlich relevanten Aussagen sind ein Fall für die Polizei. Die Plattform hassmelden.de ermöglicht es, einen Link direkt an die Zentralstelle zur Bekämpfung der Internetkriminalität zu melden.
   
• Der seit November 2020 geltende Medienstaatsvertrag der Bundesländer soll für mehr Transparenz bei sozialen Plattformen wie YouTube, Facebook oder Twitter sorgen. Sie müssen die Kriterien offenzulegen, nach denen sie ihre Inhalte ausspielen. Inhalte, die von Social Bots erstellt wurden, sollen als solche gekennzeichnet werden. Für die Veröffentlichung von Nachrichten, Informationssendungen und Berichterstattung gilt eine Sorgfaltspflicht: Sie müssen unabhängig und sachlich gestaltet sein sowie auf ihre Herkunft und ihren Wahrheitsgehalt hin geprüft werden.
   
• Das Bundesministerium für Bildung und Forschung fördert Projekte, in denen Wissenschaftlerinnen und Wissenschaftler Fake News und andere Formen der Desinformation erforschen, um Gegenmaßnahmen zu entwickeln.
   
• Die Europäische Union verpflichtet mit dem Digital Services Act (DSA) Anbieter digitaler Dienste wie Soziale Medien oder Marktplätze dazu, schnell gegen illegale Online-Inhalte vorzugehen. Es geht darum, welche Inhalte von den Betreibern der Netzwerke gelöscht werden müssen und wie sie dabei vorgehen sollen.
   
• Bei der Europäischen Beobachtungstelle für digitale Medien beschäftigen sich Fachleute mit Falschinformationen und Faktenchecks und präsentieren ihre Ergebnisse.

Die Debatte um Fake News hat mit der rasanten Entwicklung bei der Künstlichen Intelligenz (KI) an Geschwindigkeit gewonnen. Mit Hilfe von KI können Desinformationen schnell erstellt und verbreitet werden. Und es ist immer schwerer, als Laie solche Fälschungen zu erkennen.

Mit Blick auf die anstehenden Wahlen 2024 in mehreren großen Ländern wie den USA, Großbritannien und Indien hat das Weltwirtschaftsforum (WEF) in seinem globalen Risikobericht die KI-gesteuerte Fehl- und Desinformation als das derzeit größte Risiko für eine globale Krise in den kommenden zwei Jahren eingestuft - noch vor Extremwetter-Ereignissen, gesellschaftlicher Polarisierung und bewaffneten Konflikten. 

Definition Deep Fakes 

Unter Deep Fakes werden manipulierte Bilder und Videos verstanden, die biometrische Merkmale von Personen wie Aussehen, Mimik oder Stimme täuschend echt imitieren. Der Begriff setzt sich aus Deep Learning, was eine spezielle KI-Technologie beschreibt, und Fake zusammen. Doch nicht nur Videos können mit KI-Systemen und Deep Learning gefälscht werden, auch Fakes von Stimmen lassen sich mit einer ähnlichen Methode erstellen. Es reichen wenige Stimmfetzen, um neue Sätze, Akzente und Stimmlagen zu erzeugen, die dann in Videos montiert werden können (Deep Voices).

Mit vielen kleinen Apps können einfach und schnell kurze Clips mit Deep Fake erstellt werden. Daneben gibt es jedoch auch professionelle Programme für den PC, mit denen man mittlerweile selbst qualitativ hochwertige Deep Fakes produzieren kann. Diese benötigen jedoch einiges an Vorkenntnissen.

Deep Fakes können einigen Schaden anrichten. Auf politischer Ebene eingesetzte Fake-Videos können Wahlen oder den Wahlkampf manipulieren. Gefälschte Aussagen von Staatsoberhäuptern können zu internationalen Missverständnissen führen, beispielsweise, wenn militärischen Führern provozierende Aussagen untergeschoben werden, die im schlimmsten Fall sogar einen Krieg auslösen können.

Menschen mit kriminellen Absichten können sich Deep Fakes zu eigen machen und so Börsenmanipulationen oder gezielte Attacken gegen Unternehmen auslösen. Erpressungen können einfacher durchgeführt werden, wenn Betrüger mit falschen Stimmen Vertrauen von Opfern gewinnen.

Deep Fakes werden auch gegen Frauen eingesetzt, zum Beispiel mit pornographischen Fake-Videos.

Wenn sich Deep Fakes verbreiten, beschwört das oft auch Hetze und ein weiteres großes Missbrauchpotenzial, insbesondere in Sozialen Netzwerken, mit sich rasend verbreitenden Falschnachrichten.

Die Realität kann als Fake abgetan werden; für wirklich Schuldige wird es einfacher, die Wahrheit als Fälschung darzustellen. Weil man sich bei nichts mehr vollkommen sicher sein kann, verlieren viele Menschen eine Realitätsgewissheit aufgrund permanenter Unentschlossenheit.

Deep Fakes kann man manchmal schon mit genauem Hinschauen entlarfen. Dabei sollte man kleine Details, wie seltsam geformte Ohren oder Haare und eine unrealistische Symmetrie beachten. Oft sind die Gesichtskonturen von Menschen bei Deep Fakes unscharf, besonders die Übergänge an Hals, Haaransatz oder Mund. Bei schnellen Bewegungen verschwimmen die Gesichtszüge geradezu. Der Gesichtsausdruck ist oft unnatürlich starr und die manipulierten Personen blinzeln nicht oder kaum. Außerdem bewegen sich ihre Lippen asynchron. Hierbei können Tonspuranalysen aufschlussreich sein. Zwischen Personen im Hintergrund und der Hauptperson existieren oft Qualitätsunterschiede, da bearbeitete Gesichter meist eine höhere Auflösung haben, der Hintergrund erscheint „krisselig“ und dunkle Bereiche werden unscharf.

Faktencheck
Genau wie Fake News sollte man auch Statements von Politikerinnen und Politikern, die nicht offiziell freigegeben wurden oder von unseriösen Nachrichtenseiten stammen, behandeln. Am besten selbst den Realitätsgehalt der Aussagen hinterfragen. Die Sozialen Netzwerke wie YouTube, TikTok, Facebook oder Twitter haben bereits vor 2020 Deep Fakes verboten und Programme eingesetzt, die diese erkennen und löschen.

Technik gegen Technik einsetzen
Es gibt spezielle Programme, die die Fälschungen entlarven können (Farbwert- oder die Metadatenvergleich), so etwa der
Reality Defender, FaceForensics oder die Deepfake Detection Software von Microsoft. Die Entwicklung der Erkennungssoftware hinkt allerdings hinterher. Experten sind sich einig, dass in nicht allzu ferner Zukunft Deep Fakes entwickelt werden können, die auch von den Sicherheitsprogrammen nicht mehr als solche zu erkennen sind.