Verseuchte Inhalte: KI wählt Quellen willkürlich und mag russische Propaganda

KI-Chatbots entwickeln sich zunehmend zu Gatekeepern für Nachrichten. Doch nach einer Studie der Berliner Denkfabrik Agora Digitale Transformation   ist für NutzerInnen kaum nachvollziehbar, nach welchen Kriterien Systeme wie ChatGPT  , Claude  , Gemini   oder Google AI Overviews   ihre Quellen auswählen. Die AutorInnen sehen darin eine Regulierungslücke mit Folgen für Medienvielfalt, Geschäftsmodelle von Verlagen und die öffentliche Meinungsbildung.

Für die Untersuchung stellten die Forschenden an fünf Werktagen im Mai insgesamt 675 Fragen zu aktuellen Nachrichtenthemen und analysierten rund 4.800 Quellenverweise der KI-Systeme. Das Ergebnis: Alle untersuchten Angebote greifen auf eine vergleichsweise schmale Quellenbasis zurück, unterscheiden sich jedoch deutlich bei der Auswahl der bevorzugten Informationsquellen.

Besonders auffällig sei ChatGPT. Das System zitierte die Website der Welt   deutlich häufiger als jede andere Nachrichtenquelle (Axel Springer   ist 2023 eine Partnerschaft mit OpenAI   eingegangen). OpenAI widerspricht allerdings einem Zusammenhang und erklärt, Quellen würden ausschließlich nach ihrer Relevanz für die jeweilige Anfrage ausgewählt.

Claude von Anthropic fiel durch ein anderes Muster auf. Das Sprachmodell verwies im Untersuchungszeitraum mehrfach auf Domains des sogenannten Pravda-Netzwerks, das von ExpertInnen als russisches Desinformationsnetz eingestuft wird. Die Studie kritisiert, dass entsprechende Inhalte neben journalistischen Quellen erschienen und für NutzerInnen kaum als problematisch erkennbar seien. Anthropic erklärte auf Anfrage, Claude werde darauf trainiert, politisch ausgewogene Antworten zu geben.

Bei Google AI Overviews, Gemini und Claude stammen nach der Untersuchung jeweils nur etwa die Hälfte der zitierten Quellen aus journalistischen Medien. Daneben greifen die Systeme verstärkt auf staatliche Einrichtungen, zivilgesellschaftliche Organisationen sowie teilweise Blogs und Social-Media-Inhalte zurück. ChatGPT und Perplexity   setzen dagegen überwiegend auf journalistische Quellen.

Die AutorInnen fordern deshalb verbindliche Transparenzregeln für KI-Anbieter. Offengelegt werden müssten unter anderem die Kriterien der Quellenauswahl sowie bestehende Kooperationen mit Medienhäusern. Nur so ließen sich Vielfalt, Haftung und eine faire Vergütung journalistischer Inhalte langfristig sicherstellen.