Neue Standards für Transparenz in der Open Source Künstlichen Intelligenz

Open Source KI: Eine neue Definition für transparente Künstliche Intelligenz

Die Open Source Initiative (OSI) hat eine neue Definition für Open Source KI (OSAID) vorgestellt, die klarstellt, welche Kriterien KI-Modelle erfüllen müssen, um als "Open Source" zu gelten. Diese Definition hat weitreichende Implikationen für die KI-Landschaft und könnte die Debatte um Transparenz, Sicherheit und den Zugang zu KI-Technologien neu gestalten. Die OSAID verlangt von KI-Anbietern die Offenlegung umfangreicher Informationen, darunter Trainingsdaten, den für die Datenaufbereitung und das Training verwendeten Code, sowie die Modellarchitektur und -parameter. Optional, aber empfohlen, sind zusätzliche Informationen wie die Trainingsdaten selbst, Model Cards oder technische Reports. Diese Transparenz soll es Forschern, Entwicklern und der Öffentlichkeit ermöglichen, die Funktionsweise von KI-Systemen zu verstehen, zu überprüfen und zu verbessern. Die Nachvollziehbarkeit des Entwicklungsprozesses soll das Vertrauen in KI stärken und eine kritische Auseinandersetzung mit potenziellen Problemen wie Verzerrungen oder Sicherheitslücken ermöglichen. Die neue Definition stellt einige etablierte KI-Modelle in Frage. Metas KI-Modellfamilie Llama, die zwar viele Informationen offenlegt, aber die Trainingsdaten zurückhält, erfüllt die OSAID nicht. Ähnlich verhält es sich mit anderen Modellen, die zwar als "Open Source" bezeichnet werden, aber nicht alle Kriterien der OSAID erfüllen. Google's Gemma hingegen vermeidet die Bezeichnung "Open Source" und spricht lediglich von einem "offenen" Modell. OpenAI begründet die Nicht-Offenlegung seiner Modelle mit Sicherheitsbedenken. Die OSAID hat auch Auswirkungen auf die Regulierung von KI. Der im August in Kraft getretene AI Act sieht Ausnahmen für Open-Source-KI-Modelle vor. Es bleibt abzuwarten, ob die Politik die neue OSAID in ihre Gesetzgebung integriert und welche Konsequenzen dies für die Entwicklung und den Einsatz von KI-Systemen hat. Bereits vor der OSAID gab es Ausnahmeregeln im AI Act, die für Hochrisiko-KI-Modelle galten, unabhängig davon, ob sie Open Source waren. Auch die Erhebung von Gebühren für die Nutzung von KI-Modellen steht im Widerspruch zum Open-Source-Gedanken. Die OSAID adressiert auch die Herausforderungen und Ziele von Open Source KI. Sie soll die Demokratisierung von KI-Technologien fördern, indem sie den Zugang zu fortschrittlichen KI-Systemen für ein breiteres Spektrum von Nutzern und Entwicklern ermöglicht. Die kollaborative Natur von Open Source soll die Innovation beschleunigen und zu robusteren und effizienteren KI-Lösungen führen. Die OSAID soll auch dazu beitragen, ethische Probleme wie Verzerrungen und Diskriminierung in KI-Systemen zu identifizieren und zu adressieren. Die Entwicklung der OSAID ist ein komplexer Prozess, der die Beteiligung verschiedener Interessengruppen erfordert. Die OSI verfolgt einen kollaborativen Ansatz, um einen breiten Konsens zu erzielen und die vielfältigen Perspektiven im KI-Bereich zu berücksichtigen. Die Herausforderungen sind groß, aber das Potenzial von Open Source KI für Gesellschaft, Wirtschaft und Wissenschaft ist immens. Die OSAID könnte den Weg für ein neues Selbstverständnis in der KI-Entwicklung ebnen und die Grundlage für eine transparentere, sicherere und zugänglichere KI-Zukunft schaffen. Mindverse, als deutscher Anbieter von KI-Lösungen, beobachtet diese Entwicklungen genau und integriert die Prinzipien der OSAID in seine Produktentwicklung und kundenspezifischen Lösungen.

Bibliographie

1. https://www.heise.de/news/Open-Source-Initiative-legt-KI-Definition-vor-9997180.html
2. https://openall.info/warum-brauchen-wir-open-source-ai/
3. https://www.iese.fraunhofer.de/blog/open-source-software/
4. https://www.hpe.com/de/de/what-is/open-source.html
5. https://de.euronews.com/next/2024/02/22/open-source-vs-closed-source-ki-was-ist-der-unterschied-und-warum-ist-er-wichtig
6. https://www.zdnet.de/88403748/open-source-initiative-weitet-ihre-rolle-aus/
7. https://prototypefund.de/das-ringen-um-open-source-ki/
8. https://background.tagesspiegel.de/newsletter/7oUCBxLIxVwUGzkHH9Q6Nv
9. https://www.iit-berlin.de/wp-content/uploads/2024/02/ONLINE_240202_iit-perspektive_69_Open-Source_KI.pdf
10. https://de.wikipedia.org/wiki/Open_Source_Initiative