KI warnt vor Fake News

Am Lehrstuhl Wissenschaft und Technik für Frieden und Sicherheit der TU Darmstadt   haben Forschende analysiert, wie Jugendliche Fehlinformationen auf TikTok besser erkennen können. Kurz gefasst: Wann immer Warnungen so begründet werden, dass sie logisch nachvollziehbar erscheinen, werden sie als glaubwürdig akzeptiert.

Für die qualitative Studie sprachen die Autorinnen und Autoren mit 39 Jugendlichen, die zu dem Zeitpunkt zwischen 13 und 16 Jahren alt waren. Zuerst fragten die WissenschaftlerInnen sie nach möglichen Indikatoren und auf deren Antworten hin entwickelte das Forschungsteam einen App-Prototypen, der aktuelle TikTok-Inhalte mit Warnhinweisen versah. Nach deren Ansicht erklärten die Jugendlichen, dass ihnen vor allem Warnhinweise halfen, Videos als Fake News zu verstehen, wenn sie die Indikatoren dafür als aussagekräftig betrachteten.

Nächstes Problem: Vertrauen in KI kann auch zu groß sein

Akzeptiert wurden Hinweise auf Kommentare Quellenangaben zur Urheberschaft des Postings. Auch Musik, Mimik und Gestik können entlarvend wirken. Allerdings entstand durch die KI auch ein neues Problem: Einige Jugendliche vertrauten dem Algorithmus so sehr, dass sie auch falsche Warnmeldungen für bare Münze nahmen.

Die Forschungsarbeit wurde vom Bundesministerium für Bildung und Forschung (BMBF) im mit 1,7 Millionen Euro unterstützten Projekt "Nutzerzentrierte KI-basierte Erkennung von Fake News und Fehlinformationen" (Nebula)   , dem BMBF-Verbundprojekt Cylence: Strategien und Werkzeuge gegen Cybermobbing und Hassbotschaften   und im Rahmen des Athene Forschungsbereichs Secure Urban Infrastructures (SecUrban)   gefördert. Im Fokus der Projektausrichtung von Nebula steht die Unterstützung vulnerabler Personen, die unter anderem aufgrund ihres Alters, ihres Bildungshintergrunds oder ihrer Sprachkenntnisse potenziell besonders anfällig für die Manipulation durch Falschinformationen sind. Weiter stellen videobasierte Inhalte gerade in sicherheitsrelevanten Situationen für viele Personen eine neuartige Form von Desinformation dar. Dies betrifft insbesondere ältere Menschen.

Ziel des interdisziplinären Verbundvorhabens Nebula ist die transparente, KI-basierte Erkennung von Fake News und Fehlinformationen in sicherheitsrelevanten Situationen sowie die zielgruppengerechte Darstellung der Detektionsergebnisse zur Förderung der Medienkompetenz.

Die vollständigen Ergebnisse der qualitativen Studie präsentiert das Forschungsteam auf der führenden Konferenz für Mensch-Maschine-Interaktionen, der ACM CHI Conference on Human Factors in Computing Systems   , die dieses Jahr vom 11.-16. Mai in Honolulu auf Hawaii stattfindet.