Meta AI fördert Vertrauen und Sicherheit durch neue Technologien

Skalierung der KI-Sicherheit

Meta arbeitet eng mit Regierungen und etablierten Institutionen wie dem National Institute of Standards and Technology (NIST) zusammen, um gemeinsame Definitionen, Bedrohungsmodelle und Evaluierungen zu entwickeln. In Zusammenarbeit mit Organisationen wie dem Frontier Model Forum (FMF) und der Partnership on AI (PAI) strebt Meta an, brancheneinheitliche Standards zu etablieren.

Um potenzielle Risiken zu identifizieren und zu mindern, führt Meta umfangreiche Risikobewertungen, Sicherheitsevaluierungen und Red-Teaming-Übungen durch. Diese Maßnahmen sind darauf ausgelegt, unerwartete Nutzungsmöglichkeiten der Modelle zu entdecken und zu beheben. Die Sicherheitsbewertungen und Feinabstimmungen werden in dem Llama 3.1-Forschungspapier detailliert erläutert.

Sicherheitswerkzeuge für Entwickler

Als Teil des Llama-Referenzsystems stellt Meta neue Sicherheitskomponenten zur Verfügung, die Entwicklern helfen sollen, Best Practices umzusetzen. Llama Guard 3 ist ein hochleistungsfähiges Eingabe- und Ausgabemodell zur Moderation, das Entwicklern dabei unterstützt, verschiedene Arten von Verstößen zu erkennen. Es wurde durch Feinabstimmung des Llama 3.1-Modells erstellt und unterstützt die Erkennung von aufkommenden Gefahrentaxonomien.

Prompt Guard ist ein weiteres Werkzeug, das Eingaben in drei Kategorien einteilt: harmlos, Injektion und Jailbreak. Es hilft Entwicklern, schädliche Eingaben zu erkennen und darauf zu reagieren. Dieses Modell ist besonders nützlich, um gegen riskante Eingaben in LLM-gestützten Anwendungen vorzubeugen.

Red-Teaming-Übungen

Durch Red-Teaming-Übungen mit menschlichen und KI-gestützten Experten untersucht Meta, wie ihre Modelle gegen verschiedene Arten von Bedrohungen performen. Diese Übungen umfassen Experten aus verschiedenen Disziplinen wie Cybersicherheit und verantwortungsbewusster KI.

Durch wiederkehrende Red-Teaming-Übungen konnten Risiken durch adversarielle Eingaben entdeckt und die Benchmark-Messungen und Feinabstimmungsdatensätze verbessert werden. Meta investierte zudem in verschiedene Datenverarbeitungstechniken, um die Qualität der Trainingsdaten hoch zu halten.

Bewertung von Llama 3.1 und Risikominderung

Meta hat eine Vielzahl potenzieller Risiken im Zusammenhang mit der Veröffentlichung von Llama 3.1 405B bewertet und gemindert, darunter auch Risiken im Bereich Cybersicherheit und chemische bzw. biologische Waffen. Die CyberSecEval 3 wurde aktualisiert und umfasst neue Evaluierungen für soziale Ingenieurstechniken und autonome offensive Cyber-Operationen.

In Bezug auf chemische und biologische Waffen führte Meta Tests durch, um das Risiko einer Nutzung des Modells durch böswillige Akteure zu bewerten. Die Forschungsergebnisse und Sicherheitsmaßnahmen werden ebenfalls im Llama 3.1-Forschungspapier behandelt.

Fazit

Meta's Engagement für offene und sichere KI-Modelle zeigt sich in den jüngsten Entwicklungen und Maßnahmen zur Risikominderung und Verbesserung der KI-Sicherheit. Mit Werkzeugen wie Llama Guard 3 und Prompt Guard unterstützt Meta Entwickler dabei, von Anfang an sichere und verantwortungsbewusste KI-Erfahrungen zu schaffen.