// Cybersicherheit 20.06.2026 · 17:33 Uhr 3 Min. Lesezeit

Neuer Ansatz zur Verbesserung der Sicherheit und Resilienz von KI-Modellen durch gezieltes Training

Mindverse News

KI-gestützt erstellt 9 Quellen Arbeitsweise

Neuer Ansatz zur Verbesserung der Sicherheit und Resilienz von KI-Modellen durch gezieltes Training — Symbolbild

Das Wichtigste in Kürze

OpenAI-Forschung zeigt, dass gezieltes Training von "nützlichen Eigenschaften" mittels Reinforcement Learning die KI-Sicherheit und -Resistenz gegenüber Manipulationen signifikant verbessert.
Diese Verbesserungen generalisieren über Domänen hinweg, selbst wenn spezifische Domänen nicht explizit trainiert wurden.
Trainierte Modelle zeigen eine erhöhte Resistenz gegenüber adversen Eingaben und schädlichem Fine-Tuning, während ihre nützliche Flexibilität erhalten bleibt.
Der Ansatz unterscheidet sich fundamental von konstitutionellen Methoden, wie sie beispielsweise von Anthropic verfolgt werden.
Die Ergebnisse basieren auf der Verstärkung grundlegender Verhaltensmuster in realistischen Szenarien.

Gezieltes Training "nützlicher Eigenschaften" erhöht KI-Sicherheit und -Resistenz

Die kontinuierliche Entwicklung von Künstlicher Intelligenz (KI) bringt sowohl immense Potenziale als auch Herausforderungen mit sich, insbesondere im Hinblick auf deren Sicherheit und die Aufrechterhaltung wünschenswerter Verhaltensweisen. Eine aktuelle Forschungsarbeit von OpenAI beleuchtet einen vielversprechenden Ansatz zur Verbesserung dieser Aspekte: das gezielte Training von KI-Modellen mit "nützlichen Eigenschaften" (beneficial traits) mittels Reinforcement Learning (RL).

Die Studie, die auf OpenAIs Alignment-Blog veröffentlicht wurde, untersucht, ob positive Verhaltensweisen, ähnlich wie problematische Ausrichtungen, über verschiedene Domänen hinweg generalisieren können. Die Ergebnisse legen nahe, dass dies der Fall ist, und bieten neue Perspektiven für die Entwicklung robusterer und sichererer KI-Systeme.

Generalisierung von positiven Verhaltensweisen über Domänen hinweg

Die Forscher trainierten ein KI-Modell unter Verwendung von Reinforcement Learning in realistischen Dialogszenarien. Diese Szenarien waren darauf ausgelegt, spezifische wünschenswerte Eigenschaften wie Wahrhaftigkeit (truthfulness), epistemische Bescheidenheit (epistemic humility), Korrigierbarkeit (corrigibility), Transparenz in der Argumentation (transparency in reasoning), Fairness und die Sorge um das menschliche Wohlergehen (concern for human well-being) zu testen. Die Trainingsdaten umfassten dabei Domänen wie Gesundheitswesen, Bildung, Wissenschaft, Recht und Ingenieurwesen.

Ein zentrales Ergebnis der Untersuchung ist, dass bereits ein geringer Anteil dieser "beneficial trait"-Daten, die in den regulären RL-Nachtrainingsprozess integriert wurden, zu signifikanten Verbesserungen führte. Das Modell zeigte auf 44 von 53 unabhängigen Benchmarks, die Täuschung, Ehrlichkeit, Sycophancy, Reward Hacking sowie Gesundheits- und psychische Gesundheitsszenarien messen, eine verbesserte Leistung. Dies unterstreicht die Effizienz des Ansatzes, selbst bei sparsamer Anwendung im Trainingsdatensatz.

Ein bemerkenswerter Aspekt der Generalisierung war die Beobachtung, dass das Training mit Gesundheitsdaten nicht nur die Leistung in gesundheitsbezogenen Aufgaben verbesserte, sondern auch positive Auswirkungen auf nicht-gesundheitsbezogene Evaluationen wie Reward Hacking und Täuschungserkennung hatte. Umgekehrt führte ein Training ohne jegliche Gesundheits- oder Wissenschaftsdaten dennoch zu einer verbesserten Leistung in Gesundheits-Benchmarks. Diese Befunde legen nahe, dass das RL-Training grundlegende Verhaltensmuster verstärkt, die über spezifische Anwendungsbereiche hinaus wirksam sind.

Erhöhte Resistenz gegenüber Manipulationen

Ein weiterer wichtiger Fokus der Studie lag auf der Überprüfung der Beständigkeit dieser Verbesserungen unter Druck. Die Forscher testeten die Modelle mit adversen Prompts, die das Basismodell destabilisieren konnten. Das mit "beneficial traits" trainierte Modell zeigte hierbei eine deutlich höhere Resistenz. Auch schädliches Fine-Tuning konnte die etablierten positiven Eigenschaften des Modells weniger stark erodieren.

Trotz dieser erhöhten Robustheit blieb das Modell für nützliche Anweisungen weiterhin steuerbar. Die Forscher bezeichnen dieses Phänomen als "selektive Persistenz": Das Modell widersteht schädlicher Steuerung, ohne dabei seine nützliche Flexibilität einzubüßen. Dies ist ein entscheidender Faktor für die praktische Anwendbarkeit und Sicherheit von KI-Systemen in komplexen Umgebungen.

Ein divergenter Ansatz im Vergleich zu konstitutionellen Methoden

Der von OpenAI verfolgte Ansatz unterscheidet sich grundlegend von konstitutionellen Methoden, wie sie beispielsweise von Anthropic implementiert werden. Während Anthropic auf eine explizite "Claude-Verfassung" setzt, ein schriftliches Wertegerüst, das als übergeordnete Richtlinie für Training und Verhalten dient, konzentriert sich OpenAI auf empirisch messbare Verhaltensmerkmale, die durch Reinforcement Learning in realistischen Szenarien verstärkt werden.

OpenAIs Methode legt einen starken Schwerpunkt auf Benchmarks und die quantitative Messung von Verbesserungen. Die Ergebnisse der Studie, die auf einer Vielzahl von Evaluationen basieren, zeigen eine breite Generalisierung der Verbesserungen über verschiedene Domänen und Bewertungsmethoden hinweg. Anthropic hingegen verfolgt einen prinzipienbasierten Ansatz, bei dem das Modell verstehen soll, warum bestimmte Verhaltensweisen wünschenswert sind, basierend auf konstitutionellen Texten und hochwertigen Trainingsbeispielen. Dies soll die Modelle resistenter gegen Angriffe machen.

Ein direkter Vergleich der Effektivität beider Ansätze steht noch aus. Beide Wege repräsentieren jedoch wichtige Beiträge zur Forschung im Bereich der KI-Ausrichtung und -Sicherheit, mit dem gemeinsamen Ziel, KI-Systeme zuverlässiger und menschenzentrierter zu gestalten.

Die Forschungsergebnisse von OpenAI unterstreichen das Potenzial, durch gezieltes und effizientes Training von wünschenswerten Eigenschaften die Sicherheit und Widerstandsfähigkeit von KI-Modellen signifikant zu erhöhen. Dies ist ein wichtiger Schritt hin zu KI-Systemen, die nicht nur leistungsfähig, sondern auch verlässlich und sicher in einer Vielzahl von Anwendungen agieren können.