Die lügende KI Jede dritte Antwort von Chatbots ist falsch
Die Künstliche Intelligenz lügt – nicht ab und an, sondern oft. Mehr als jede dritte Antwort von bekannten KI-Chatbots ist gelogen. Zu diesem Schluss kommt eine neue Studie der Europäischen Rundfunkunion (EBU). Dabei erfinden die Systeme durchaus auf den ersten Blick plausibel angebliche Fakten und Quellenangaben. Das Ergebnis bleibt indes gleich: Die KI sorgt für mehr Fake News online anstatt für sachliche Information. Ein besonderes Problem für marginalisierte Gruppen wie die LGBTIQ+-Community.
40 Prozent ist erfunden
Aktuell nutzen rund 800 Millionen Menschen Woche für Woche allein ChatGPT, auch in Deutschland. Dazu kommen User von Claude, Gemini oder Perplexity – vielerorts wird die Google-Suche bereits komplett durch solche KI-Programme ersetzt. Das Vertrauen darin sei aber besonders riskant: Die EBU hat die Zuverlässigkeit der Systeme getestet, rund 40 Prozent aller Antworten sind erfunden. Keine der getesteten KIs schnitt fehlerfrei ab. „Die Systeme klingen überzeugend, auch wenn sie immer wieder vollkommen falsche Dinge behaupten. Das macht sie für ungeübte Nutzer besonders gefährlich, weil die Fehler oft nicht sofort erkennbar sind“, so Wirtschaftswissenschaftler Peter Posch von der Technischen Universität Dortmund gegenüber der Tagesschau.
Experten bezeichnen das Phänomen als „Halluzination“ einer KI – besonders oft geschehe dies, wenn mehrere Informationen verbunden werden müssten oder auch bei aktuellen Ereignissen. Vor allem in den sozialen Medien verbreiten sich diese Lügen derzeit besonders schnell – jener Ort also, wo besonders gerne auch Fake News über die Community verbreitet werden.
Unwissenheit der Nutzer
Das Kernproblem dabei: Viele Nutzer wissen nicht, dass eine KI lügt oder überhaupt lügen kann. So werden übermittelte Antworten ohne Hinterfragen als wahr eingestuft. Warum eine KI lügt, liegt nach Aussagen der Fachleute an der Technik selbst: Chatbots „verstehen“ nicht, was sie sagen, sondern setzen Texte nach Algorithmen, statistischen Mustern und Wahrscheinlichkeiten zusammen. Die EBU pocht daher darauf, Chatbots niemals blind zu vertrauen und an den Schulen mehr Medienkompetenz zu vermitteln. Kritiker indes bemängeln, dass es dafür schon zu spät sein könnte.
