Microsofts KI Copilot im Kreuzfeuer einer Falschbeschuldigung

Die Reaktion und Maßnahmen

Bernklau war verständlicherweise entsetzt über diese falschen Anschuldigungen und wandte sich an einen Anwalt, um rechtliche Schritte zu prüfen. Microsoft versuchte, die falschen Einträge zu entfernen, aber sie tauchten nach einigen Tagen wieder auf. Die Staatsanwaltschaft in Tübingen lehnte es ab, Anklage zu erheben, da kein realer Mensch als Urheber der Anschuldigungen identifiziert werden konnte.

Ursachen und Hintergründe

Bernklau vermutet, dass die falschen Einträge darauf zurückzuführen sind, dass er seit Jahrzehnten über Missbrauchs-, Gewalt- und Betrugsfälle am Amtsgericht Tübingen berichtet. Die KI scheint diese Informationen online kombiniert und fälschlicherweise den Reporter selbst als Täter dargestellt zu haben. Dies zeigt die Unzuverlässigkeit von großen Sprachmodellen (LLMs) als Such- und Recherchewerkzeuge, da sie keine Unterscheidung zwischen Wahrheit und Falschheit treffen können.

Weitere Beispiele und Implikationen

Ähnliche Probleme traten auch bei anderen KI-Systemen wie Googles AI Overviews, OpenAIs SearchGPT und Elon Musks Grok auf. Diese Systeme haben ebenfalls falsche Informationen über Personen geliefert und deren Biografien durcheinandergebracht. Dies unterstreicht die Notwendigkeit, die Quellen der Informationen zu überprüfen und sich nicht blind auf die Antworten von KI-Systemen zu verlassen.

Rechtliche und ethische Fragen

Der Fall Bernklau wirft wichtige rechtliche und ethische Fragen auf. Unter der Datenschutz-Grundverordnung (DSGVO) haben Personen das Recht, falsche Informationen über sich löschen zu lassen. Dies stellt Anbieter von KI-Chatbots und großen Sprachmodellen vor erhebliche Herausforderungen, da sie kaum in der Lage sind, die gespeicherten Informationen vollständig zu korrigieren oder zu löschen.

Fazit

Der Fall Martin Bernklau zeigt eindrücklich die Grenzen und Gefahren von KI-basierten Sprachmodellen auf. Es ist entscheidend, dass Entwickler und Anbieter solcher Systeme Maßnahmen ergreifen, um die Verbreitung falscher Informationen zu verhindern und die Rechte der Betroffenen zu schützen. Gleichzeitig müssen Nutzer sensibilisiert werden, die Antworten von KI-Systemen kritisch zu hinterfragen und die Quellen zu überprüfen.

Quellen

1. https://www.heise.de/en/news/Copilot-turns-a-court-reporter-into-a-child-molester-9840612.html
2. https://blogs.microsoft.com/on-the-issues/2023/09/07/copilot-copyright-commitment-ai-legal-concerns/
3. https://nytco-assets.nytimes.com/2023/12/NYT_Complaint_Dec2023.pdf
4. https://yro.slashdot.org/story/24/07/10/0319259/judge-dismisses-lawsuit-over-github-copilot-ai-coding-assistant
5. https://www.reuters.com/legal/transactional/ny-times-sues-openai-microsoft-infringing-copyrighted-work-2023-12-27/
6. https://yro.slashdot.org/story/24/03/29/2247214/congress-bans-staff-use-of-microsofts-ai-copilot
7. https://www.bankinfosecurity.com/delta-versus-crowdstrike-microsoft-accusations-fly-a-25995
8. https://tjaglcs.army.mil/Portals/0/Publications/The%20Army%20Lawyer/2019/The%20Army%20Lawyer%202019%20Issue%204.pdf?ver=JGgngU3LY5vssCKmKybRaw%3D%3D
9. https://www.techdirt.com/page/37/?url=http%3A%2F%2Fwww.qjfjsq.com