Erkennen Sie Fake News mit der Verarbeitung natürlicher Sprache

Können wir in 59 Artikeln für den Spiegel von Claas Relotius erkennen, was Fake News oder Plagiate sind?

Wir nutzten die Verarbeitung natürlicher Sprache, um die Hinweise aufzudecken, die darauf hindeuteten, dass ein betrügerischer Journalist in der Vergangenheit gefälschte Nachrichten übermittelt hatte

Der Spiegel ist Deutschlands angesehenstes Nachrichtenmagazin. Im Jahr 2018 war die deutsche Medienbranche schockiert über die Nachricht, dass Spiegel -Nachwuchsstar Claas Relotius „seine Artikel im großen Stil gefälscht“ habe. Kritiker der Publikation nutzten die Gelegenheit, um der Veröffentlichung die Verbreitung von „Fake News“ vorzuwerfen, und die deutsche rechtsextreme Partei Alternative für Deutschland (AfD) schrieb, der Skandal bestätige ihre Sicht auf die Medien als die Lügenpresse . Die Folgen sind noch heute spürbar. Juan Moreno , der Whistleblower, der die gefälschten Artikel entdeckte, schrieb, dass Teilnehmer einer Journalistenveranstaltung Relotius als „Lord Voldemort“ bezeichneten.

Trailer zu Tausend Zeilen , einem Film von Warner Bros. über die Relotius-Affäre mit Elyas M’Barek in der Hauptrolle.

Verarbeitung natürlicher Sprache zur Erkennung von Fake News und Plagiaten

Kann man erkennen, wenn jemand nicht die Wahrheit sagt? Sie sind sich vielleicht der subtilen Körpersprache, Ticks und Signale bewusst, die einen Lügner verraten, aber was ist mit dem geschriebenen Wort? Wie wäre es mit Fake News?

Als ich von der Relotius-Affäre las, kam ich nicht umhin, mich zu fragen, ob die Verarbeitung natürlicher Sprache dabei geholfen hätte, Relotius früher zu entdecken. Die Verarbeitung natürlicher Sprache kann verwendet werden, um den Stil eines Textes zu analysieren und mögliche Autoren zu identifizieren . Wie wäre es also, echte von erfundenen Texten wie Fake News zu unterscheiden?

Versuchen wir, etwas datenwissenschaftliche Magie auf die Artikel von Relotius anzuwenden, um zu sehen, was wir daraus lernen können.

Wie Juan Moreno Relotius zum ersten Mal entdeckte, beginnend mit der Wanderkarawane in der Sonora-Wüste

Im Jahr 2018 machte sich eine Karawane von mehreren tausend zentralamerikanischen Migranten auf den Weg von Honduras durch die Sonora-Wüste in Mexiko und weiter zum Endziel der USA.

Juan Moreno, ein 45-jähriger freiberuflicher Reporter, war mit der Flüchtlingskarawane unterwegs und sammelte Material für einen Reportagebeitrag für den Spiegel .

Moreno war damit beauftragt worden, die Karawane auf ihrer Reise durch Mexiko abzudecken. Er hatte mehrere anstrengende Wochen in der Wüste verbracht und bereits zwei junge Frauen ausfindig gemacht, die bereit waren, sich von ihm ein paar Tage lang begleiten zu lassen.

Er war nicht erfreut über die E-Mail der Spiegel- Redaktion, dass sein junger, erfolgreicher Kollege Claas Relotius nun mit ihm an dem Artikel arbeiten und die redaktionelle Kontrolle über die endgültige Fassung übernehmen würde.

Relotius hatte mehr als 40 journalistische Preise gewonnen und galt weithin als aufstrebender Stern auf diesem Gebiet.

Relotius sollte nach Arizona reisen und eine Miliz aufspüren, eine Gruppe von Freiwilligen, die ihre Zeit und ihr Geld darauf verwenden, die Südgrenze der USA vor der vermeintlichen Bedrohung durch illegale Migration zu verteidigen, während Moreno in Mexiko bleiben und weiterhin über die Migranten berichten würde.

Der verdächtige Artikel – waren es Fake News?

Nachdem der Auftrag beendet war, flog Moreno zurück nach Deutschland.

Als Moreno Relotius‘ Entwürfe und Abschlussartikel mit dem Titel Jaeger’s Grenze (deutsch: Jaegers Grenze ) erhielt, fühlte sich etwas einfach nicht richtig an. Relotius behauptete, einige Tage in Begleitung einer Miliz namens Arizona Border Recon verbracht zu haben. In den Artikeln von Relotius waren die Mitglieder von Arizona Border Recon bewaffnet und trugen farbenfrohe Spitznamen wie Jaeger, Spartan und Ghost. Relotius behauptete, Zeuge gewesen zu sein, wie Jaeger in der Wüste auf eine unbekannte Gestalt schoss. Die Miliz wurde als stereotype Hinterwäldlerbande dargestellt, und einige Details schienen kaum zu glauben.

Moreno begann, sich mit den Artikeln von Jaegers Border und Relotius zu befassen. Er gab seine Ersparnisse für seine eigenen Privatermittlungen aus. Er reiste auf den Spuren von Relotius in die USA und besuchte Arizona und andere Orte. Es wurde schnell klar, dass Relotius Geschichten erfunden hatte, anstatt die Personen zu interviewen, die er angeblich interviewt hatte.

Viele Artikel von Relotius stützten sich auf Stereotypen und die Geschichten schienen weit hergeholt und zu schön, um wahr zu sein. Für mich dreht sich die absurdeste Geschichte um einen Bruder und eine Schwester aus Syrien, die in einem türkischen Ausbeuterbetrieb arbeiteten. Relotius erfand ein syrisches Kinderlied über zwei Waisenkinder, die zum König und zur Königin von Syrien heranwachsen. Dem Artikel zufolge ist jedes syrische Kind „von Raqqah bis Damaskus“ mit diesem traditionellen Lied vertraut. Moreno sprach mit einem syrischen Mechaniker, Universitätsdozenten für Arabistik und Nahoststudien und so vielen syrischen Experten, wie er finden konnte. Niemand hatte von dem Lied gehört!

Relotius entlarvt

Nach viel Beharrlichkeit seitens Moreno untersuchte das Management des Spiegel widerstrebend die Artikel von Relotius und kam zu dem Schluss, dass er tatsächlich die meisten seiner Artikel während seiner achtjährigen Amtszeit erfunden hatte.

Relotius hatte Interviews erfunden, die nie stattfanden, und Menschen, die es nie gab. Er schrieb sogar einen Artikel über den Anstieg des Meeresspiegels auf der Pazifikinsel Kiribati , ohne sich die Mühe zu machen, seinen Anschlussflug in das Land zu nehmen.

Der Spiegel zog die betroffenen Fake-News-Artikel massenhaft zurück und die „Relotius-Affäre“ wurde zu einem landesweiten Skandal, der weltweit Schlagzeilen machte und eine Intervention des US-Botschafters in Deutschland auslöste, der Einwände gegen die „antiamerikanische Stimmung“ einiger dieser Artikel erhob Artikel .

Der Artikel Jaegers Grenze und die weiteren Texte von Relotius können als PDF auf der Website des Spiegels heruntergeladen werden. Insgesamt stehen 59 Artikel zum Download bereit, zusammen mit Anmerkungen des Spiegels, die angeben, welche Inhalte echt sind und welche reine Erfindung oder Fake News sind.

Im Internet sind zahlreiche englischsprachige Inhalte zum Relotius-Skandal verfügbar, darunter auch englische Übersetzungen vieler Artikel.

Der Schreibstil von Relotius: Der deutsche Konjunktiv und wie die Stilometrie Fake News erkennen könnte

Seinen vierten Reporterpreis gewann er… weil er vor dem Konjunktiv, anders als viele andere Schreiber, eben nicht zurückwich, sondern den Zweifel immer mitschwingen ließ.

Er gewann seinen vierten Reporterpreis … weil er im Gegensatz zu anderen Autoren nicht vor der Verwendung des Konjunktivs zurückschreckte, sondern stets Raum für Zweifel ließ.

Juan Moreno, Tausend Zeilen Lüge

Im formalen Schriftdeutsch wird eine andere Verbform für Ereignisse verwendet, die der Autor aus zweiter Hand gehört hat oder die er zitiert. Beispielsweise könnte in einem Artikel stehen : „Er hatte mit der Niederlage nicht gerechnet “, wenn dies Teil einer überlieferten Rede oder Vermutung ist, wohingegen „Er hat mit der Niederlage nicht gerechnet“ sicherer ist. Die Hätte- Form ist der Konjunktiv, und Moreno bemerkt im obigen Zitat, dass Relotius sie großzügiger verwendet als andere Autoren.

Analyse der Texte von Relotius auf Fake News mit NLP

Ich habe alle 59 verfügbaren Relotius-Artikel und die Anmerkungen des Spiegel heruntergeladen und ein paar datenwissenschaftliche Experimente damit durchgeführt.

Zunächst habe ich den Wahrheits-/Falschheitsstatus der Artikel überprüft. Wie Sie sehen, handelt es sich bei mehr als der Hälfte um Fiktion, obwohl es einige Artikel gibt, bei denen der Spiegel nicht feststellen konnte, ob der Artikel echt ist oder nicht. Letzteres habe ich aus meiner Analyse ausgeschlossen.

Von den 59 Artikeln von Relotius sind 32 definitiv Fake News, während der Rest wahr oder unklar ist. Wir analysieren echte und gefälschte Nachrichten mit natürlicher Sprachverarbeitung .

Die überwiegende Mehrheit der Artikel von Relotius wurde von ihm allein verfasst. Später erklärte Moreno, dass es beim Spiegel recht ungewöhnlich sei, dass ein Reporter so viele Einzelaufträge übernehme, Relotius aber der Starreporter des Magazins sei und sich in dieser Hinsicht offenbar ein gewisses Privileg erworben habe.

Die Fake-News-Artikel wurden in der Regel allein von Relotius verfasst. 44 Artikel standen unter alleiniger Autorenschaft.

Natürlich wissen wir jetzt, dass es für ihn einfacher war, Inhalte zu erfinden, wenn er alleine arbeitete.

Es gibt noch etwas anderes Interessantes an der obigen Grafik. Relotius hat im Zweierteam nur einen Artikel geschrieben. An den anderen Gemeinschaftsartikeln waren allesamt größere Teams mit bis zu 14 Autoren beteiligt.

Der einzige Artikel mit zwei Autoren ist Jaeger’s Border , der Artikel, der Relotius erwischt hat!

Dies zeigt, dass es bei Relotius üblich war, Artikel entweder allein oder in einem großen Team zu schreiben. Mit dieser Strategie gelang es ihm jahrelang, bis zum Jaeger’s Border- Einsatz durchzukommen. Wenn Sie in einer großen Gruppe zusammenarbeiten, ist es vielleicht auch einfacher, einer genauen Prüfung zu entgehen.

Wortwolken für echte und gefälschte Nachrichten

Ich habe versucht, eine Wortwolke aus echten und gefälschten Nachrichtenartikeln zu erstellen, um festzustellen, ob es einen erkennbaren Unterschied gibt. Eine Wortwolke zeigt Wörter in unterschiedlichen Schriftgrößen an, je nachdem, wie oft sie in einer Reihe von Dokumenten vorkommen.

Leider gibt es keinen großen Unterschied zwischen den beiden Sets.

Allerdings kann ich einige Muster erkennen.

• Das Wort „sei, würde“ wird häufiger in echten Nachrichtenartikeln verwendet, bei denen es sich um spezielle Verbformen (Konjunktiv, siehe Morenos Zitat oben ) handelt, die häufig in Berichten verwendet werden. Es scheint, dass die gefälschten Nachrichten mehr Beschreibungen direkter Aktionen und weniger vorläufige Berichterstattung oder gemeldete Äußerungen beinhalteten. Dies steht im Einklang mit Morenos Bemerkung, dass Relotius den Konjunktiv relativ häufig verwendete.

• Das Wort „ deutsch “ kommt in echten Nachrichtenartikeln häufiger vor. In Morenos Buch erklärte er, dass Relotius seine Artikel, in denen es um Reisen außerhalb Deutschlands ging, nur gefälscht habe, da es vermutlich schwieriger sei, gefälschte deutsche Nachrichten für ein deutsches Publikum zu erfinden und sie überzeugend klingen zu lassen.

Finden Sie die gebräuchlichsten Wörter, die Fake News von echten News unterscheiden

Ich habe dann einen wissenschaftlicheren Ansatz versucht. Ich habe ein Tool namens Naive Bayes Classifier verwendet, um die Wörter zu finden, die am stärksten darauf hinweisen, dass ein Artikel echt oder fiktiv ist.

Der Naive-Bayes-Ansatz weist Wörtern, die stark auf Fake News hinweisen, eine große negative Zahl zu und Wörtern, die auf echte Nachrichten hinweisen, eine kleinere negative Zahl zu.

Hier sind die 15 Wörter, die am häufigsten auf die Echtheit eines Artikels hinweisen, mit englischen Übersetzungen und den Ergebnissen des Naive-Bayes-Klassifikators:

und hier einige der 15 häufigsten Wörter, die darauf hinweisen, dass ein Artikel fiktiv ist:

Dies ist nur eine Momentaufnahme, aber wir können jetzt einige weitere Muster erkennen. Die gefälschten Nachrichten scheinen ziemlich stark in einer starken, emotionalen oder sehr anschaulichen Sprache wie korrupt oder verstümmelt zu sein. Wenn ich die 100 besten Wörter genommen habe, ist dieser Effekt immer noch spürbar.

Anschließend habe ich getestet, ob es möglich ist, mit dem Naive-Bayes-Klassifikator vorherzusagen, ob ein unsichtbarer Relotius-Text gefälscht oder echt ist, aber leider war dies nicht mit einiger Genauigkeit möglich.

Fazit: NLP kann Merkmale gefälschter Nachrichten aufzeigen, es ist jedoch schwierig, diese genau zu erkennen

Es ist nicht möglich, einen Fake-News-Detektor zu erstellen, da uns nur 59 Artikel zur Verfügung stehen, aber wenn man im Nachhinein weiß, dass Relotius einige Texte gefälscht hat, ist es durchaus möglich, Muster und signifikante Unterschiede zwischen seinen echten und gefälschten Artikeln zu beobachten:

• Die Fake-News-Artikel wurden verfasst, als Relotius als Einzelgänger berichtete. Relotius wurde erwischt, als er zum ersten Mal in einem Zweierteam an dem Jaegers-Grenze- Artikel arbeiten sollte.
• Die gefälschten Nachrichtenartikel enthalten eine emotionalere, anschaulichere oder stärkere Sprache als die echten Nachrichtenartikel.
• Bei echten Nachrichtenartikeln wird häufiger über Berichterstattung gesprochen und es ist wahrscheinlicher, dass der Konjunktiv verwendet wird, was auf Unsicherheit auf Seiten des Reporters hinweist.
• Vorsichtsmaßnahme: Es ist möglich, dass einige der oben genannten sprachlichen Unterschiede darauf zurückzuführen sind, dass es sich bei den Originalartikeln in der Regel um Beiträge mehrerer Autoren handelt. Eine forensische Stilometrieanalyse würde auch Aufschluss über stilistische Unterschiede innerhalb von Artikeln geben.
• Die gefälschten Artikel finden außerhalb Deutschlands statt.

Wenn man diese Auswirkungen kennt, ist es möglicherweise in Zukunft möglich, verdächtige Texte zu kennzeichnen. Wenn ein Reporter allzu sehr darauf bedacht zu sein scheint, allein zu arbeiten, ins Ausland zu reisen und nur wenige Themen zu interviewen, aber in einer farbenfrohen Sprache schreibt, die besser zu einem Roman passen würde, dann stimmt vielleicht etwas nicht?

Handelt es sich wirklich um Fake News? Relotius verklagt Moreno

Selbstverständlich wurden Relotius' Preise nach und nach entzogen und zurückgegeben, und er legte sein Amt beim Spiegel nieder.

Juan Moreno , der Whistleblower, der den Betrug von Relotius entdeckte, schrieb ein Enthüllungsbuch über die Relotius-Affäre mit dem Titel „ Tausend Zeilen Lüge “. Das Buch ist eine faszinierende Darstellung der Welt des Printjournalismus im digitalen Zeitalter und ein Bericht aus erster Hand darüber, wie sich das System von Relotius auflöste.

Im Jahr 2019 leitete Relotius ein Gerichtsverfahren gegen Moreno wegen angeblicher Unwahrheiten in dem Buch ein.

Was bedeutet das für generative Sprachmodelle (LLMs) und Fake News? Können wir erkennen, ob ein Nachrichtenartikel von KI verfasst wurde?

Seit der Relotius-Affäre ist das Thema Fake News und Fake Content immer wichtiger geworden. In den letzten Jahren wurden große Sprachmodelle (LLMs) wie ChatGPT und GPT-3 veröffentlicht und bei der Inhaltsgenerierung weit verbreitet. Der Guardian berichtete im Jahr 2023, dass fast 50 Nachrichten-Websites KI-generiert sind und bizarre Schlagzeilen wie „Biden tot“ die Leser verwirren. Harris amtierender Präsident, Ansprache um 9 Uhr ET“.

In einem weiteren Blogbeitrag erkunde ich die Möglichkeiten, generative Modelle und LLMs wie ChatGPT numerisch zu bewerten . Im Rahmen eines Forschungsprojekts mit der Royal Holloway University experimentieren wir mit generativen Modellen für juristisches NLP und kombinieren generative Modelle, um Fragen zur Unternehmensinsolvenz zu beantworten. LLMs sind unglaublich vielseitig und können an eine Reihe von Aufgaben angepasst werden – wie sieht es also mit der Fake-News-Erkennung mit LLMs aus?

Wenn ein Dokument „Ich kann diese Eingabeaufforderung nicht ausfüllen“ oder „Als KI-Sprachmodell“ enthält, ist die Wahrscheinlichkeit groß, dass ChatGPT oder ein anderer LLM es geschrieben hat! Aber diese rote Fahne ist nicht immer sichtbar.

Wenn Sie vermuten, dass ein Text von einem generativen Sprachmodell wie ChatGPT geschrieben wurde, können Sie die Token-Sequenz durch ein LLM leiten, um zu berechnen, wie „überrascht“ das LLM ist, diese genaue Sequenz zu sehen. Ein computergenerierter Text würde einem LLM nicht sehr überraschend erscheinen. Die berechnete Zahl ist Perplexität , ein Maß für den Grad der Zufälligkeit in einem Text. Von Menschen erstellte Texte weisen tendenziell eine größere Verwirrung auf. Universitäten verwenden jetzt auf Ratlosigkeit basierende Tools, um zu überprüfen, ob die Aufsatzeinreichungen von Studenten möglicherweise von ChatGPT verfasst wurden .

Es würde mich auch interessieren, die Möglichkeit auszuloten, Perplexität und ein LLM zu nutzen, um Fake News mit den Texten von Relotius zu identifizieren. Moreno bemerkte, dass die Fake-News-Artikel oft formelhaft seien: Ein Protagonist mit einer Hintergrundgeschichte meistert eine emotionale Herausforderung. Das ist definitiv etwas, das es zu erkunden gilt. Beobachten Sie diesen Bereich!

Anhang: Technische Details zum NLP-Klassifikator für gefälschte Nachrichten von Naive Bayes

Ich habe einen multinomialen Naive-Bayes-Klassifikator mit tf*idf-Scores verwendet. Ich habe es unten anhand einer ROC-Kurve ausgewertet:

Dies ist eine ROC-Kurve , die die Leistung meines Naive-Bayes-Klassifikators unter Kreuzvalidierung zur Vorhersage unsichtbarer Relotius-Texte zeigt. Ein guter Klassifikator hätte eine Linie nahe der oberen linken Ecke.

Die Tatsache, dass die Linie diagonal verläuft, zeigt, dass meine Vorhersagen nicht besser waren als das Würfeln. Das heißt, wenn Relotius heute noch für den Spiegel schreiben würde, hätte ich keine Ahnung, ob sein neuester Artikel fiktiv war oder nicht.

Es scheint, dass Fake News, Plagiate und KI-generierte Inhalte auch in naher Zukunft weiterhin ein Problem darstellen werden. Hoffen wir, dass sich die NLP- Fake-News-Erkennung in naher Zukunft verbessert.

Interview mit Juan Moreno nach der Relotius-Affäre.

Verweise

Juan Moreno, Tausend Zeilen Lüge: Das System Relotius und der deutsche Journalismus (A thousand lines of lies: the Relotius system and what it means for German journalism) (2019). Tells the story of the Relotius scandal and the growing problem of fake news in journalism.

Claas Relotius, Bürgerwehr gegen Flüchtlinge: Jaegers Grenze (Militia against refugees: Jaeger’s Border), and all other Claas Relotius texts, Der Spiegel (2018).

Philip Oltermann, The inside story of Germany’s biggest scandal since the Hitler diaries, The Guardian (2019).

Ralf Wiegand, Claas Relotius geht gegen Moreno-Buch vor (Claas Relotius takes action against Moreno’s book), Sueddeutsche Zeitung (2019).

(Multinomial Naive Bayes) C.D. Manning, P. Raghavan and H. Schuetze, Introduction to Information Retrieval, pp. 234-265 (2008).