// Modelle & Forschung 03.06.2025 · 13:37 Uhr 2 Min. Lesezeit

Zuverlässigkeit von Künstlicher Intelligenz: Halluzinationen im Fokus

Mindverse News

KI-gestützt erstellt 9 Quellen Arbeitsweise

Zuverlässigkeit von Künstlicher Intelligenz: Halluzinationen im Fokus — Symbolbild

Künstliche Intelligenz: Halluzinationen im Vergleich – Mensch vs. Maschine

Die Zuverlässigkeit von Künstlicher Intelligenz (KI) ist ein aktuell viel diskutiertes Thema. Dario Amodei, CEO des KI-Unternehmens Anthropic, sorgte kürzlich für Aufsehen mit der Behauptung, moderne KI-Modelle würden seltener halluzinieren als Menschen. Diese Aussage, die er unter anderem auf dem Anthropic-Entwicklerevent „Code with Claude“ tätigte, basiert laut Amodei auf faktenbasierten Aufgaben in kontrollierten Tests. Doch was genau ist unter „Halluzinationen“ im Kontext von KI zu verstehen und wie lässt sich Amodeis These einordnen?

Was sind KI-Halluzinationen?

Im Bereich der KI bezieht sich der Begriff "Halluzination" auf die Generierung von Inhalten, die keiner realen Grundlage entsprechen. Die KI erfindet im Prinzip Informationen, präsentiert diese aber mit der gleichen Überzeugung wie korrekte Daten. Dies kann von der falschen Darstellung von Fakten bis hin zur Erfindung ganzer Geschichten reichen.

Amodeis These und die Reaktionen

Amodei sieht in den gelegentlichen Fehlern kein Hindernis auf dem Weg zur Künstlichen Allgemeinen Intelligenz (AGI). Er vergleicht KI-Halluzinationen mit menschlichen Fehlern, wie sie auch bei Journalist:innen oder Politiker:innen vorkommen. Diese optimistische Einschätzung wird jedoch nicht von allen geteilt. Demis Hassabis, CEO von Google DeepMind, äußerte sich beispielsweise deutlich zurückhaltender und sieht in den bestehenden Schwächen der aktuellen KI-Modelle ein erhebliches Hindernis.

Die Herausforderung der Messbarkeit

Ein zentrales Problem in der Debatte ist die Schwierigkeit, KI-Halluzinationen objektiv zu messen. Bisherige Benchmarks vergleichen meist nur verschiedene KI-Modelle untereinander, nicht aber die KI mit dem Menschen. Ein standardisierter Vergleich, der die Fehleranfälligkeit von Mensch und Maschine in gleichen Szenarien misst, fehlt bislang. Zudem ist die Datenlage zur Fehleranfälligkeit von KI-Modellen widersprüchlich. Während einige Studien auf sinkende Halluzinationsraten bei neueren Modellen hinweisen, zeigen andere, dass komplexere Modelle teilweise höhere Fehlerraten aufweisen.

KI-Halluzinationen in der Praxis

Ein bekanntes Beispiel für die potenziellen Probleme von KI-Halluzinationen ist der Fall eines Anwalts, der einen KI-Chatbot für eine Klageschrift verwendete. Der Chatbot erfand dabei Namen und Aktenzeichen, was zu erheblichen Schwierigkeiten führte. Amodei räumt ein, dass das größte Problem nicht der Fehler an sich sei, sondern das Selbstbewusstsein, mit dem die KI falsche Informationen präsentiert. Dies stellt eine Herausforderung dar, die es zu bewältigen gilt.

Ausblick und offene Fragen

Die Diskussion um die Zuverlässigkeit von KI und das Phänomen der Halluzinationen wird die Entwicklung der Technologie weiter begleiten. Ob KI-Modelle tatsächlich seltener halluzinieren als Menschen, lässt sich derzeit aufgrund der fehlenden Vergleichsstandards nicht abschließend beurteilen. Klar ist jedoch, dass die Entwicklung robuster und zuverlässiger KI-Systeme ein zentrales Anliegen der Forschung und Entwicklung bleibt. Die Frage, ob eine halluzinierende KI überhaupt die Definition von AGI erfüllen kann, bleibt eine der spannendsten Fragen in der aktuellen KI-Debatte.

Mindverse: Ihr Partner für KI-Lösungen

Mindverse bietet als deutsches Unternehmen umfassende KI-Lösungen für Text, Bild und Recherche. Von Chatbots und Voicebots über KI-Suchmaschinen bis hin zu maßgeschneiderten Wissensmanagementsystemen – Mindverse unterstützt Unternehmen bei der Integration von KI in ihre Geschäftsprozesse.