KI generierte Fake News

2024 war das Jahr der Superwahlen! Bürger in über 60 Ländern, darunter 27 EU-Länder, haben ihre Stimmen abgegeben. Die Medien hatten besonders ein Auge auf die US-Präsidentschaftswahl zwischen Kamala Harris und Donald Trump geworfen. Warum? Weil die Menge an Desinformation und Fake News, die in den sozialen Medien kursierten, um das Wahlverhalten zu manipulieren, einfach unglaublich war. Laut der New York Times hat die Verbreitung von Lügen, Halbwahrheiten und Fälschungen im Zusammenhang mit der US-Wahl 2024 einen neuen Rekord erreicht. Zeit, das Thema genauer zu betrachten, auch im Hinblick auf die bevorstehende Bundestagswahl in Deutschland, und zu zeigen, wie KI hier helfen kann.

Journalisten haben es nicht leicht! Sie müssen die Desinformation für die Öffentlichkeit als solche entlarven. Da das Ganze aber super zeitaufwendig ist, überlegen immer mehr Medienprofis, ob sie nicht einfach KI-basierte Anwendungen zur Unterstützung nutzen sollten. Schließlich werden manipulierte Inhalte immer häufiger mit KI-Systemen erzeugt, da kann es nicht schaden, mit der Technologie Schritt zu halten. In NRW gibt es mehrere Initiativen, die an solchen Lösungen tüfteln. In unserem Blog stellen wir drei davon vor.

Schon 2022 haben sich das gemeinnützige Forschungszentrum CORRECTIV und wissenschaftliche Teams der Ruhr-Uni Bochum, der TU Berlin und der TU Dortmund im „noFake“-Projekt verbündet. Im „noFake“-Projekt tüfteln die Partner an neuen Möglichkeiten, um Desinformation den Garaus zu machen. Dazu verwenden sie altbewährte Methoden wie Faktenchecks oder Schulungen zur Informationskompetenz, kombiniert mit Maschinellem Lernen und KI-Methoden. Klingt nach einem echten Dreamteam, oder?

Ein Hauptziel des Projekts ist es, ein „KI-unterstütztes Assistenzsystem zur crowdsourcing-basierten Erkennung von über digitale Plattformen verbreiteter Desinformation“ zu entwickeln. Der sogenannte CORRECTIV.Checkbot soll Fake News und Desinformation online im Handumdrehen entdecken. Die Masse an Informationen macht journalistische Faktenchecks, wie sie von vielen Redaktionen durchgeführt werden, viel zu kompliziert, um als allgemeines Mittel gegen Desinformation zu dienen.

Die Projektpartner legen sich mächtig ins Zeug, um das Assistenzsystem auf die Beine zu stellen. Das CORRECTIV-Forschungszentrum bringt nicht nur seine journalistische Expertise mit, sondern auch eine Datenbank mit über 3.000 faktengeprüften Artikeln. Diese Datenbank wurde auf MongoDB vectorisiert und ist im Backend des Checkbots der Dreh- und Angelpunkt. Die TU Dortmund bastelt an einem Algorithmus, der das Clustern von Informationen kinderleicht macht. Währenddessen werkeln die Forscher der Uni Bochum an einem Algorithmus, der Texte auf ihr Faktenprüfungspotenzial abklopft. Der Algorithmus sollte in der Lage sein zu erkennen, ob es sich um einen journalistischen Text, einen Blogbeitrag oder einen Kommentar in den sozialen Medien handelt.