Innovative Methode zur Sicherung von Open Source KI gegen Missbrauch

Praktische Anwendung und Ergebnisse

Mazeika und seine Kollegen demonstrierten den Trick an einer abgespeckten Version von Llama 3. Sie konnten die Parameter des Modells so anpassen, dass es selbst nach Tausenden von Versuchen nicht trainiert werden konnte, auf unerwünschte Fragen zu antworten. Meta reagierte nicht sofort auf eine Anfrage nach einem Kommentar. Mazeika gibt zu, dass der Ansatz nicht perfekt ist, aber er zeigt, dass die Hürde für das „Decensoring“ von KI-Modellen erhöht werden könnte. „Ein realistisches Ziel ist es, die Kosten für das Brechen des Modells so weit zu erhöhen, dass die meisten Angreifer davon abgeschreckt werden“, sagt er. Dan Hendrycks, Direktor des Center for AI Safety, hofft, dass diese Arbeit weitere Forschungen zu manipulationssicheren Sicherheitsvorkehrungen anregen wird und die Forschungsgemeinschaft herausfindet, wie man robustere Schutzmaßnahmen entwickeln kann.

Wachsende Beliebtheit von Open-Source-KI

Die Idee, offene Modelle manipulationssicher zu machen, könnte an Popularität gewinnen, da das Interesse an Open-Source-KI wächst. Bereits jetzt konkurrieren offene Modelle mit geschlossenen Modellen von Unternehmen wie OpenAI und Google. Die neueste Version von Llama 3, die im Juli veröffentlicht wurde, ist etwa so leistungsfähig wie die Modelle hinter beliebten Chatbots wie ChatGPT, Gemini und Claude, gemessen an beliebten Benchmarks zur Bewertung der Fähigkeiten von Sprachmodellen. Mistral Large 2, ein LLM eines französischen Startups, das ebenfalls letzten Monat veröffentlicht wurde, ist ähnlich leistungsfähig. Die US-Regierung verfolgt einen vorsichtigen, aber positiven Ansatz gegenüber Open-Source-KI. Ein Bericht der National Telecommunications and Information Administration, einer Behörde des US-Handelsministeriums, empfiehlt der US-Regierung, neue Fähigkeiten zur Überwachung potenzieller Risiken zu entwickeln, aber vorerst keine sofortigen Einschränkungen für die breite Verfügbarkeit offener Modellgewichte in den größten KI-Systemen zu verhängen.

Kritische Stimmen und Herausforderungen

Nicht jeder ist ein Fan davon, Einschränkungen für offene Modelle zu verhängen. Stella Biderman, Direktorin von EleutherAI, einem gemeinschaftsgetriebenen Open-Source-KI-Projekt, sagt, dass die neue Technik in der Theorie elegant sein mag, aber in der Praxis schwierig durchzusetzen sein könnte. Biderman sagt, dass der Ansatz auch im Widerspruch zur Philosophie hinter freier Software und Offenheit in der KI steht. „Ich denke, dieses Papier missversteht das Kernproblem“, sagt Biderman. „Wenn sie besorgt darüber sind, dass LLMs Informationen über Massenvernichtungswaffen generieren, liegt die richtige Intervention im Trainingsdatensatz, nicht im trainierten Modell.“

Fazit

Die Entwicklung von Methoden, um den Missbrauch von Open-Source-KI zu verhindern, ist ein entscheidender Schritt in der Weiterentwicklung und Sicherstellung der Sicherheit von KI-Systemen. Während die neuen Techniken vielversprechend sind, bleibt die Herausforderung, diese in der Praxis effektiv umzusetzen und gleichzeitig die Grundprinzipien der Offenheit und Zusammenarbeit in der KI-Forschung zu wahren.

Bibliographie

1. https://www.wired.com/story/center-for-ai-safety-open-source-llm-safeguards/
2. https://www.darientimes.com/news/politics/article/white-house-says-no-need-to-restrict-19605782.php
3. https://www.vox.com/future-perfect/2024/2/2/24058484/open-source-artificial-intelligence-ai-risk-meta-llama-2-chatgpt-openai-deepfake
4. https://www.freedomlab.com/posts/is-open-source-ai-a-sham
5. https://www.cisa.gov/news-events/news/open-source-artificial-intelligence-dont-forget-lessons-open-source-software
6. https://abundance.institute/articles/regulating-machine-learning-open-source-software
7. https://www.linkedin.com/posts/vdignum_you-can-make-top-llms-break-their-own-rules-activity-7091828716808396800-PSht?trk=public_profile_like_view
8. https://varunshenoy.substack.com/p/why-open-source-ai-will-win
9. https://fortune.com/2023/05/09/a-leaked-google-memo-raises-questions-about-open-source-a-i-but-the-white-house-doesnt-seem-to-have-gotten-it/