OpenAI erweitert den Zugang für unabhängige Prüfungen fortgeschrittener KI-Modelle

Warum tiefer Zugang für Prüfer entscheidend ist

Ein zentrales Problem heutiger KI-Prüfungen besteht darin, dass externe Organisationen häufig nur eingeschränkten Zugriff erhalten. Sie testen möglicherweise eine öffentliche Schnittstelle, kennen aber weder die verwendete Modellversion noch relevante Trainingsbedingungen oder interne Sicherheitsmechanismen. Dadurch können sie zwar das Nutzererlebnis bewerten, jedoch nur begrenzt erklären, warum ein System bestimmte Ergebnisse erzeugt.

Eine im bereitgestellten Quellenmaterial genannte wissenschaftliche Arbeit schlägt vor, den Zugang anhand mehrerer Dimensionen zu beschreiben. Dazu zählen der Zugriff auf das Modell selbst, die Menge und Qualität der verfügbaren Informationen sowie der Zeitraum, in dem eine Untersuchung stattfinden kann. Ein Prüfer kann demnach einen guten technischen Zugang besitzen, aber wegen fehlender Hintergrundinformationen oder zu kurzer Fristen trotzdem keine belastbare Bewertung vornehmen.

Die Autoren unterscheiden in ihrer Taxonomie unter anderem zwischen einem rein beobachtenden Zugang über Ein- und Ausgaben, einem erweiterten Zugang mit zusätzlichen technischen Informationen und einem weitreichenden Zugang, der auch umfassende Einblicke in Modell und Infrastruktur umfasst. Diese Abstufungen sollen die Kommunikation zwischen Unternehmen, Prüfern und politischen Entscheidungsträgern erleichtern.

Für die Praxis ist diese Differenzierung wichtig. Die Bezeichnung „unabhängige Prüfung“ sagt allein noch wenig über die Aussagekraft eines Ergebnisses aus. Entscheidend ist, welche Fragen gestellt werden durften, welche Daten zugänglich waren, ob der Prüfer eigene Tests durchführen konnte und ob das Unternehmen die Untersuchung inhaltlich oder zeitlich begrenzt hat.

Unabhängigkeit zwischen Kooperation und Kontrolle

Der angekündigte Rahmen verbindet zwei Anforderungen, die in einem Spannungsverhältnis stehen: Prüfer benötigen eine enge Zusammenarbeit mit dem Entwickler, sollen aber zugleich unabhängig urteilen können. Ohne Kooperation lassen sich sensible technische Systeme kaum untersuchen. Ist die Kooperation jedoch zu stark kontrolliert, besteht die Gefahr, dass die Prüfung lediglich die Perspektive des Unternehmens bestätigt.

Eine glaubwürdige externe Bewertung setzt daher klare Regeln voraus. Dazu gehören transparente Auswahlverfahren für Prüforganisationen, definierte Zugriffsrechte, Schutz vor Interessenkonflikten und die Möglichkeit, Ergebnisse eigenständig zu formulieren. Ebenso sollte festgelegt werden, unter welchen Bedingungen ein Unternehmen Einwände erheben oder Informationen zurückhalten darf.

Ein weiterer Punkt betrifft die Veröffentlichung. Sicherheitsberichte können Hinweise enthalten, die missbraucht werden könnten, wenn sie vollständig und ohne Schutzmaßnahmen veröffentlicht werden. Gleichzeitig darf Vertraulichkeit nicht dazu führen, dass kritische Ergebnisse dauerhaft verborgen bleiben. Denkbar sind abgestufte Modelle mit öffentlichen Zusammenfassungen, vertraulichen technischen Anhängen und einer Meldung besonders sensibler Informationen an zuständige Behörden.

Die Unabhängigkeit einer Prüfung hängt außerdem von ihrer Finanzierung ab. Wenn ein Anbieter den Prüfer beauftragt und bezahlt, muss dies nicht automatisch die Qualität der Untersuchung beeinträchtigen. Es entstehen jedoch potenzielle Abhängigkeiten, insbesondere wenn einzelne Organisationen dauerhaft auf Aufträge eines Unternehmens angewiesen sind. Mehrjährige Verträge, unabhängige Finanzierungsmodelle oder rotierende Prüfstellen könnten diese Risiken begrenzen.

Sicherheitsinteressen und Risiken des erweiterten Zugangs

Ein umfassender Zugang zu Modellgewichten, Trainingsinformationen oder internen Infrastrukturen kann die Forschung erheblich verbessern. Zugleich handelt es sich um Informationen, die für Angreifer, Wettbewerber oder Akteure mit missbräuchlichen Absichten von hohem Wert sein können. Bei fortgeschrittenen Modellen kann bereits die Kombination verschiedener Einzelinformationen Rückschlüsse auf gefährliche Fähigkeiten oder technische Schutzlücken ermöglichen.

Ein verantwortungsvoller Prüfrahmen muss deshalb Sicherheitsmaßnahmen für die Prüfer selbst vorsehen. Dazu zählen streng kontrollierte Arbeitsumgebungen, Identitäts- und Zugriffsmanagement, Protokollierung, segmentierte Systeme und klare Vorgaben für die Speicherung und Weitergabe von Ergebnissen. Auch die Auswahl der Prüfer muss deren technische Kompetenz und Sicherheitsstandards berücksichtigen.

Darüber hinaus stellt sich die Frage, wie mit während einer Untersuchung entdeckten Fähigkeiten umzugehen ist. Ein Prüfer könnte beispielsweise feststellen, dass ein Modell in einem bestimmten Bereich leistungsfähiger ist als bisher angenommen. Dann muss geklärt werden, wer informiert wird, wie schnell Schutzmaßnahmen greifen und ob die Bereitstellung des Modells angepasst werden muss.

Die Herausforderung besteht darin, einen Zugang zu schaffen, der wissenschaftlich aussagekräftig ist, ohne unnötig neue Angriffsflächen zu eröffnen. In anderen sicherheitskritischen Branchen werden solche Zielkonflikte häufig durch abgestufte Berechtigungen, überwachte Testumgebungen und streng geregelte Offenlegung bearbeitet. Für generative und allgemein einsetzbare KI-Systeme müssen diese Verfahren weiterentwickelt und an die Besonderheiten lernender Modelle angepasst werden.

Einordnung in die internationale Sicherheitsdebatte

Der Vorstoß von OpenAI steht nicht isoliert. Andere führende KI-Unternehmen haben ebenfalls Verfahren für Risikoberichte, externe Bewertungen und verantwortungsvolle Skalierung veröffentlicht. Anthropic sieht in seiner Responsible Scaling Policy beispielsweise externe Überprüfungen als Bestandteil der Bewertung bestimmter Risiken vor. Auch dort spielen Zeitpunkt, Umfang und Vertraulichkeit des Zugangs eine wichtige Rolle.

Parallel wächst die wissenschaftliche Diskussion über gemeinsame Standards für externe Evaluierungen. Die Europäische Union fordert im Rahmen ihrer Regeln für Anbieter allgemeiner KI-Systeme angemessene Bewertungs- und Sicherheitsverfahren. In der praktischen Umsetzung ist jedoch weiterhin offen, wie weit der Zugang für unabhängige Prüfer reichen muss und welche Unterschiede zwischen verschiedenen Risikoklassen gerechtfertigt sind.

Für die internationale Vergleichbarkeit wäre es hilfreich, wenn Anbieter einheitliche Begriffe für Zugriffsstufen, Testumfänge und Berichtspflichten verwenden würden. Andernfalls könnten Unternehmen zwar unabhängige Prüfungen ankündigen, deren tatsächliche Tiefe aber nur schwer miteinander verglichen werden.

Auch die politische Dimension nimmt zu. Regulierungsbehörden benötigen belastbare Informationen, um Risiken einzuschätzen und gesetzliche Anforderungen zu überwachen. Sie können jedoch nicht jede technische Prüfung selbst durchführen. Ein Netzwerk aus staatlicher Aufsicht, unabhängiger Forschung und qualifizierten Audit-Organisationen könnte daher eine wichtige Ergänzung bilden.

Was der Rahmen für Unternehmen bedeutet

Für Unternehmen, die KI-Anwendungen einsetzen oder entwickeln, hat die Debatte mehrere konkrete Konsequenzen. Erstens wird die Herkunft eines Modells allein nicht mehr ausreichen, um seine Eignung zu bewerten. Entscheidend sind auch die vorhandenen Nachweise über Tests, Sicherheitsmaßnahmen und laufende Überwachung.

Zweitens sollten Unternehmen prüfen, welche Informationen sie von Anbietern benötigen. Dazu können Angaben zur Modellversion, zu bekannten Einschränkungen, zu Änderungen an Sicherheitsfiltern, zu Protokollierungsfunktionen und zu Verfahren bei Sicherheitsvorfällen gehören. Bei besonders sensiblen Anwendungen kann zusätzlich ein eigener Abnahmetest erforderlich sein.

Drittens müssen Unternehmen ihre interne Verantwortung klären. Ein unabhängiger Bericht des Modellanbieters entbindet den Betreiber nicht davon, die konkrete Implementierung zu prüfen. Ein System kann in der Umgebung eines Anbieters bestimmte Schutzmechanismen besitzen, die durch eine individuelle Integration, zusätzliche Werkzeuge oder weitreichende Berechtigungen verändert werden.

Für die Beschaffung und das Risikomanagement ergeben sich daraus unter anderem folgende Prüffragen:

- Welche unabhängigen Bewertungen liegen für die verwendete Modellversion vor? - Welche Teile des Systems wurden untersucht: Modell, Schnittstelle, Infrastruktur oder Anwendung? - Welche Testmethoden und Zeiträume kamen zum Einsatz? - Gibt es dokumentierte Verfahren für Sicherheitsvorfälle und Modelländerungen? - Welche Informationen stellt der Anbieter Kunden und Prüfern zur Verfügung? - Können Kunden die Nutzung bei kritischen Ereignissen einschränken oder unterbrechen? - Wie werden Datenschutz, Vertraulichkeit und regulatorische Anforderungen berücksichtigt?

Solche Fragen sollten nicht erst nach einem Vorfall gestellt werden. Sie gehören in Auswahlprozesse, Verträge und laufende Lieferantenbewertungen. Besonders in regulierten Branchen kann die Fähigkeit, Sicherheits- und Governance-Nachweise vorzulegen, zu einem wesentlichen Kriterium für die Nutzbarkeit eines KI-Dienstes werden.

Offene Fragen bei der Umsetzung

Der vorgestellte Rahmen beschreibt eine Richtung, beantwortet aber noch nicht alle praktischen Fragen. Offen ist unter anderem, welche Organisationen als unabhängig gelten sollen. Universitäten, spezialisierte Sicherheitslabore, zivilgesellschaftliche Einrichtungen und kommerzielle Prüfunternehmen bringen unterschiedliche Kompetenzen und Interessen mit. Ein einheitliches Zulassungsmodell könnte die Qualität erhöhen, dürfte aber zugleich den Zugang kleinerer Forschungsgruppen erschweren.

Unklar ist auch, wie Ergebnisse behandelt werden, die den Sicherheitsversprechen eines Anbieters widersprechen. Eine Prüfung erfüllt ihren Zweck nur, wenn negative Befunde Konsequenzen haben können. Dazu braucht es klare Eskalationswege und nachvollziehbare Regeln für Korrekturen, Einschränkungen oder eine vorübergehende Aussetzung bestimmter Funktionen.

Darüber hinaus stellt sich die Frage nach der Dauerhaftigkeit. Ein Bericht über ein Modell ist möglicherweise bereits veraltet, wenn sich Trainingsdaten, Systemanweisungen, Werkzeuge oder Einsatzbedingungen ändern. Externe Kontrolle muss deshalb als wiederkehrender Prozess verstanden werden. Ein einmaliges Zertifikat kann die laufende Entwicklung eines KI-Systems nur unzureichend abbilden.

Schließlich bleibt die internationale Durchsetzbarkeit eine Herausforderung. Modelle werden global angeboten, während rechtliche Zuständigkeiten, Datenschutzregeln und Geheimschutzanforderungen national oder regional unterschiedlich ausfallen. Für international tätige Unternehmen ist daher entscheidend, ob Prüfberichte in mehreren Rechtsräumen anerkannt werden und wie grenzüberschreitende Untersuchungen organisiert werden können.

Bewertung für die weitere Entwicklung des KI-Marktes

Die Ankündigung markiert eine Verschiebung im Verständnis von KI-Sicherheit. Sicherheit wird zunehmend nicht mehr als interne Eigenschaft eines Modells betrachtet, sondern als Ergebnis eines überprüfbaren Zusammenspiels aus Technik, Organisation, Betrieb und Governance. Diese Perspektive entspricht der Realität in Unternehmen, in denen ein Modell stets in Prozesse, Berechtigungen und Datenflüsse eingebettet ist.

Für Anbieter entsteht dadurch der Bedarf, externe Prüfungen bereits bei der Entwicklung einzuplanen. Trainings- und Evaluationsprozesse müssen so dokumentiert werden, dass qualifizierte Dritte sie nachvollziehen können. Für Prüfer wiederum steigen die Anforderungen an technische Expertise, sichere Arbeitsumgebungen und den verantwortungsvollen Umgang mit sensiblen Ergebnissen.

Der Erfolg eines solchen Ansatzes wird daher nicht allein daran zu messen sein, wie umfangreich der angekündigte Zugang klingt. Entscheidend wird sein, ob unabhängige Organisationen tatsächlich kritische Fragen stellen, eigene Untersuchungen durchführen und Ergebnisse ohne unangemessene Einschränkungen veröffentlichen oder an zuständige Stellen weitergeben können. Ebenso wichtig ist, ob Unternehmen aus negativen Befunden nachweisbar Konsequenzen ziehen.

Für die Nutzer und Geschäftskunden von KI-Systemen entsteht daraus eine bessere Grundlage für informierte Entscheidungen, sofern die Prüfungen nachvollziehbar, vergleichbar und regelmäßig aktualisiert werden. Anbieter wie Mindverse können in diesem Umfeld dazu beitragen, Informationen zu KI-Modellen, Sicherheitsstandards und Einsatzgrenzen verständlich aufzubereiten. Die Verantwortung für eine sichere Nutzung bleibt jedoch auf mehrere Akteure verteilt: Entwickler, unabhängige Prüfer, Betreiber, Nutzer und staatliche Institutionen.

Fazit

OpenAI will unabhängigen Bewertungen seiner fortgeschrittenen KI-Systeme einen größeren Stellenwert geben und dafür Zugang zu mehreren Phasen des Entwicklungs- und Einsatzprozesses ermöglichen. Die vier angekündigten Schwerpunkte reichen von technischen Modellevaluierungen über Sicherheitsforschung und Betriebsaufsicht bis zu Governance und Transparenz.

Der Ansatz kann die Aussagekraft von Sicherheitsprüfungen erhöhen, wenn der Zugang ausreichend tief, die Auswahl der Prüfer nachvollziehbar und ihre Arbeit tatsächlich unabhängig ist. Gleichzeitig müssen Schutzmechanismen verhindern, dass sensible Modellinformationen oder erkannte Schwachstellen zum Sicherheitsrisiko werden.

Für den B2B-Markt deutet sich damit eine Entwicklung an, bei der unabhängige Prüfberichte, dokumentierte Sicherheitsprozesse und belastbare Governance-Strukturen zu wichtigen Bestandteilen der Anbieterbewertung werden. Ob daraus ein allgemein akzeptierter Standard entsteht, hängt von der konkreten Umsetzung, der Vergleichbarkeit der Verfahren und der Bereitschaft der Unternehmen ab, externe Kritik in verbindliche Verbesserungen zu übersetzen.

Bibliografie

1. OpenAI: Priorities and principles for effective third party assessments, 22. September 2026. https://openai.com/index/priorities-principles-third-party-assessments/
2. OpenAI Global Affairs: Making AI Audits and Assessments Work, 7. August 2026. https://openaiglobalaffairs.substack.com/p/making-ai-audits-and-assessments
3. Charnock, Jacob; Tlaie, Alejandro; O’Brien, Kyle; Casper, Stephen; Homewood, Aidan: Expanding External Access to Frontier AI Models for Dangerous Capability Evaluations, arXiv, 2026. https://arxiv.org/pdf/2601.11916
4. Anthropic: Responsible Scaling Policy, Version 3.0, gültig ab 24. Februar 2026. https://www-cdn.anthropic.com/e670587677525f28df69b59e5fb4c22cc5461a17.pdf
5. BBC News: Anthropic boss Dario Amodei calls for AI development to slow down, 12. September 2026. https://www.bbc.com/news/articles/c14dpgm0rg4o
6. Tech Trends News Update: OpenAI Wants Outsiders to Grade Its Homework — on Its Terms, 22. September 2026. https://techtrendsnewsupdate.substack.com/p/openai-wants-outsiders-to-grade-its