KI gegen Desinformation: Transparenz statt Black Box
Die Verbreitung von Desinformation zählt mittlerweile zu den großen Herausforderungen digitaler Gesellschaften. Soziale Medien ermöglichen Informationen eine enorme Reichweite – unabhängig davon, ob Inhalte korrekt, manipulativ oder bewusst irreführend sind. Besonders problematisch wird dies dort, wo Fake News mit Hassrede, emotionalisierender Sprache oder propagandistischen Narrativen kombiniert werden. Die Folge sind gesellschaftliche Polarisierung, sinkendes Vertrauen in Medien und eine zunehmende Schwierigkeit, verlässliche Informationen von manipulativen Inhalten zu unterscheiden.
Technologische Lösungen sollen dabei helfen, problematische Inhalte frühzeitig zu erkennen. Doch die automatische Erkennung von Desinformation ist komplexer als eine einfache Entscheidung zwischen „wahr“ und „falsch“. Moderne Desinformation arbeitet häufig mit sprachlichen Nuancen, emotionalen Botschaften und gezielten Narrativen, die sich dynamisch an aktuelle gesellschaftliche Ereignisse anpassen.
Mit dieser Problematik beschäftigt sich die Dissertation DisDETECT, in der Methoden der Künstlichen Intelligenz zur Analyse deutschsprachiger Desinformation untersucht wurden. Ziel der Arbeit war die Entwicklung eines Systems, das nicht nur problematische Inhalte erkennt, sondern auch deren sprachliche und narrative Strukturen sichtbar macht. Dabei kamen moderne Machine-Learning-Verfahren und Large Language Models zum Einsatz, um Nachrichtenartikel und Social-Media-Beiträge zu analysieren. Untersucht wurden unter anderem sprachliche Muster, Narrative, Behauptungen sowie Beziehungen zwischen Akteur:innen und Themen. Ergänzend wurden Methoden der Visual Analytics eingesetzt, um komplexe Zusammenhänge interaktiv darzustellen und für Expertinnen und Experten nachvollziehbar zu machen.
Ein zentraler Fokus lag auf dem Konzept der Explainable AI – erklärbarer Künstlicher Intelligenz. Viele bestehende KI-Systeme arbeiten als sogenannte Black Boxes: Sie liefern Ergebnisse, ohne transparent zu machen, wie diese zustande kommen. Gerade bei sensiblen Themen wie politischer Kommunikation, Meinungsfreiheit oder gesellschaftlicher Polarisierung ist Transparenz jedoch essenziell. Systeme zur Erkennung von Desinformation müssen nachvollziehbar erklären können, welche sprachlichen Merkmale oder Narrative zu einer Bewertung geführt haben.
Daraus ergibt sich ein wesentlicher Ansatz moderner Forschung: der sogenannte Human-in-the-Loop-Gedanke. KI-Systeme sollen Expertinnen und Experten nicht ersetzen, sondern unterstützen. Die finale Bewertung bleibt beim Menschen, während die Technologie dabei hilft, große Datenmengen effizient zu analysieren, Muster sichtbar zu machen und relevante Zusammenhänge hervorzuheben. Gerade im Bereich der Desinformation ist diese Zusammenarbeit entscheidend, da Inhalte häufig kontextabhängig, mehrdeutig oder gesellschaftlich sensibel sind.
Anstatt automatisierte Entscheidungen isoliert zu treffen, liegt der Fokus zunehmend auf interaktiven Analysewerkzeugen, die Transparenz schaffen und menschliche Expertise aktiv einbinden. Dadurch können Journalistinnen und Journalisten, Sicherheitsbehörden oder Forschungseinrichtungen besser nachvollziehen, warum bestimmte Inhalte auffällig sind und welche Narrative oder Kommunikationsstrategien dahinterstehen. Künstliche Intelligenz kann und darf somit nicht als endgültige Instanz für Wahrheit fungieren. Ihr Potenzial liegt vielmehr darin, Menschen bei der Orientierung in komplexen Informationsräumen zu unterstützen und die Analyse digitaler Kommunikation nachvollziehbarer und effizienter zu machen. Gerade in einer zunehmend vernetzten Informationsgesellschaft wird diese Verbindung aus technologischer Unterstützung und menschlicher Entscheidungsfähigkeit zu einem zentralen Faktor im Umgang mit Desinformation.
Link zur Arbeit: https://doi.org/10.48444/h_docs-pub-629
Data Science & Artificial Intelligence Scientist
Center for Digital Safety & Security
AIT Austrian Institute of Technology
mehr erfahren
