Expert-Talk: GEO-PR: "Es geht um Relevanz in KI-Systemen" Video-Podcast ansehen
Wer in ChatGPT, Gemini oder Perplexity sichtbar sein will, darf sich nicht auf die eigene Website verlassen. Denn KI-Systeme prüfen, was andere über eine Marke sagen - auf Fachportalen, Bewertungsplattformen, Vergleichsseiten, Reddit oder YouTube. Hier setzt GEO-PR an. Video-Podcast ansehen
Was ist Deine Digitalagentur wert? Agenturwert berechnen
Sechs Zahlen aus der BWA genügen, um herauszufinden, was aktuell Deine Agentur wert ist und welche Faktoren den Wert beeinflussen.
Agenturwert berechnen

November 2026 · Unser Geburtstagsgeschenk

35 Jahre iBusiness.
Im November alles frei lesen.

Zum Jubiläum öffnen wir alle iBusiness-Inhalte: vom 1. bis 30. November, für alle, ohne Anmeldung und ohne Bezahlschranke.

Alle Inhalte im November kostenlos
Heute frei lesen. Morgen nichts verpassen.

Registrieren Sie sich kostenlos und abonnieren Sie anschließend den iBusiness-Newsletter. So bleiben Sie bei den Themen auf dem Laufenden, die für Sie zählen.

Das Newsletter-Abo erhalten Sie im Rahmen der kostenlosen Registrierung.

Social Media

KI warnt vor Fake News

23.02.2024 Wie können Menschen vor Fake News effektiv und direkt während der Informationsaufnahme gewarnt werden? An der TU Darmstadt wird daran seit dem Sommer 2022 geforscht. Nun gibt es erste Ergebnisse.

Fehler über Fehler, aber dennoch ein möglicherweise bewusstseinsveränderndes Bild. (Bild: Bing Image Creator)
Bild: Bing Image Creator
Fehler über Fehler, aber dennoch ein möglicherweise bewusstseinsveränderndes Bild.
Am Lehrstuhl Wissenschaft und Technik für Frieden und Sicherheit der TU Darmstadt   haben Forschende analysiert, wie Jugendliche Fehlinformationen auf TikTok besser erkennen können. Kurz gefasst: Wann immer Warnungen so begründet werden, dass sie logisch nachvollziehbar erscheinen, werden sie als glaubwürdig akzeptiert.

Für die qualitative Studie sprachen die Autorinnen und Autoren mit 39 Jugendlichen, die zu dem Zeitpunkt zwischen 13 und 16 Jahren alt waren. Zuerst fragten die WissenschaftlerInnen sie nach möglichen Indikatoren und auf deren Antworten hin entwickelte das Forschungsteam einen App-Prototypen, der aktuelle TikTok-Inhalte mit Warnhinweisen versah. Nach deren Ansicht erklärten die Jugendlichen, dass ihnen vor allem Warnhinweise halfen, Videos als Fake News zu verstehen, wenn sie die Indikatoren dafür als aussagekräftig betrachteten.

Nächstes Problem: Vertrauen in KI kann auch zu groß sein

Akzeptiert wurden Hinweise auf Kommentare Quellenangaben zur Urheberschaft des Postings. Auch Musik, Mimik und Gestik können entlarvend wirken. Allerdings entstand durch die KI auch ein neues Problem: Einige Jugendliche vertrauten dem Algorithmus so sehr, dass sie auch falsche Warnmeldungen für bare Münze nahmen.

Die Forschungsarbeit wurde vom Bundesministerium für Bildung und Forschung (BMBF) im mit 1,7 Millionen Euro unterstützten Projekt "Nutzerzentrierte KI-basierte Erkennung von Fake News und Fehlinformationen" (Nebula)  , dem BMBF-Verbundprojekt Cylence: Strategien und Werkzeuge gegen Cybermobbing und Hassbotschaften   und im Rahmen des Athene Forschungsbereichs Secure Urban Infrastructures (SecUrban)   gefördert. Im Fokus der Projektausrichtung von Nebula steht die Unterstützung vulnerabler Personen, die unter anderem aufgrund ihres Alters, ihres Bildungshintergrunds oder ihrer Sprachkenntnisse potenziell besonders anfällig für die Manipulation durch Falschinformationen sind. Weiter stellen videobasierte Inhalte gerade in sicherheitsrelevanten Situationen für viele Personen eine neuartige Form von Desinformation dar. Dies betrifft insbesondere ältere Menschen.

Ziel des interdisziplinären Verbundvorhabens Nebula ist die transparente, KI-basierte Erkennung von Fake News und Fehlinformationen in sicherheitsrelevanten Situationen sowie die zielgruppengerechte Darstellung der Detektionsergebnisse zur Förderung der Medienkompetenz.

Die vollständigen Ergebnisse der qualitativen Studie präsentiert das Forschungsteam auf der führenden Konferenz für Mensch-Maschine-Interaktionen, der ACM CHI Conference on Human Factors in Computing Systems  , die dieses Jahr vom 11.-16. Mai in Honolulu auf Hawaii stattfindet.
Neuer Kommentar  Kommentare:
Schreiben Sie Ihre Meinung, Erfahrungen, Anregungen mit oder zu diesem Thema. Ihr Beitrag erscheint an dieser Stelle.
alle Veranstaltungen Webcasts zu diesem Thema:
Dienstleister-Verzeichnis Agenturen/Dienstleister zu diesem Thema: