// Modelle & Forschung 24.09.2026 · 02:34 Uhr 19 Min. Lesezeit

Internationale Regeln für leistungsfähige KI rücken in den Fokus

Mindverse News

KI-gestützt erstellt 8 Quellen Arbeitsweise

Internationale Regeln für leistungsfähige KI rücken in den Fokus — Symbolbild

Das Wichtigste in Kürze

Vor dem geplanten Treffen der US-amerikanischen und chinesischen Staatsführung nimmt der internationale Druck auf gemeinsame Regeln für besonders leistungsfähige KI-Systeme zu.
Eine Gruppe von 22 Staaten fordert transparente Sicherheitsvorgaben, unabhängige Tests vor der Veröffentlichung neuer Modelle und Gespräche über eine internationale Aufsichtsinstitution.
Die USA und China, die im globalen Wettbewerb um technologische Führungspositionen stehen, sind an diesem Vorstoß nicht beteiligt.
Die Vereinten Nationen drängen auf Informationsaustausch und gemeinsame Leitlinien, warnen jedoch zugleich vor Risiken für Frieden, Sicherheit und menschliche Entscheidungsfreiheit.
OpenAI unterstützt internationale technische Standards für Frontier-KI, lehnt eine verpflichtende Lizenzierung und eine generelle Vorabgenehmigung neuer Modelle aber ausdrücklich ab.
Für Unternehmen zeichnet sich ein mehrschichtiges Regelwerk ab: internationale Standards, regionale Gesetze wie der EU AI Act sowie nationale Vorgaben dürften parallel bestehen.

// Inhalt · 14 Abschnitte

Der Ruf nach gemeinsamen KI-Regeln wird lauter
Was die Initiative von 22 Staaten vorsieht
Die Vereinten Nationen positionieren sich
OpenAI fordert Standards, lehnt aber eine Lizenzpflicht ab
USA und China zwischen Dialog und strategischem Wettbewerb
Europa setzt auf einen risikobasierten Ordnungsrahmen
Was internationale KI-Regeln leisten sollen
Die Bedeutung für Unternehmen und professionelle KI-Anwender
Warum die globale Einigung schwierig bleibt
Digitale Souveränität als zweite Konfliktlinie
Welche Szenarien nach dem Gipfel denkbar sind
Was die Entwicklung für den europäischen Markt bedeutet
Die zentrale offene Frage: Wer definiert Sicherheit?
Fazit: Der internationale Regulierungsdruck steigt, der Konsens bleibt offen
Quellen

Der Ruf nach gemeinsamen KI-Regeln wird lauter

Die internationale Debatte über die Regulierung Künstlicher Intelligenz gewinnt unmittelbar vor einem geplanten Treffen zwischen US-Präsident Donald Trump und Chinas Staatschef Xi Jinping an Dynamik. Mehrere Staaten, die Vereinten Nationen und auch führende KI-Unternehmen sprechen sich für eine stärkere Abstimmung bei Sicherheitsfragen aus. Im Mittelpunkt stehen dabei besonders leistungsfähige Systeme, die als Frontier-KI bezeichnet werden.

Die aktuelle Diskussion verbindet zwei Ebenen, die in der öffentlichen Wahrnehmung häufig getrennt betrachtet werden: Einerseits geht es um konkrete technische Sicherheitsanforderungen für Modelle, andererseits um die geopolitische Frage, wer künftig globale Standards für eine strategisch wichtige Technologie festlegt. Die USA und China investieren massiv in den Ausbau ihrer KI-Ökosysteme und konkurrieren um Rechenkapazitäten, Halbleiter, Talente und industrielle Anwendungen. Zugleich gelten beide Länder als unverzichtbar, wenn internationale Regeln tatsächlich weltweit Wirkung entfalten sollen.

Der politische Gegensatz ist damit deutlich: Während eine wachsende Gruppe von Staaten eine institutionalisierte internationale Kontrolle leistungsfähiger KI fordert, setzen Washington und Peking bislang vor allem auf eigene Strategien, bilaterale Gespräche und nationale Instrumente. Ob aus den aktuellen Initiativen ein belastbarer globaler Rahmen entstehen kann, hängt deshalb nicht allein von der Zahl der Unterstützer ab, sondern vor allem von der Einbindung der beiden führenden KI-Mächte.

Was die Initiative von 22 Staaten vorsieht

Am Rande der Generalversammlung der Vereinten Nationen haben 22 Staaten einen gemeinsamen Aufruf für verbindlichere Sicherheitsmechanismen veröffentlicht. Die Erklärung richtet sich insbesondere auf KI-Systeme mit hohen und möglicherweise schwer kontrollierbaren Fähigkeiten. Sie fordert keine einheitliche Weltgesetzgebung für sämtliche Anwendungen, sondern konzentriert sich auf Mindeststandards für Entwicklung, Prüfung und Überwachung besonders leistungsfähiger Modelle.

Zu den zentralen Elementen gehören transparente Sicherheitsregeln und unabhängige Tests, bevor neue Modelle veröffentlicht oder in großem Umfang eingesetzt werden. Damit soll verhindert werden, dass Entwickler die Sicherheit ihrer Systeme ausschließlich selbst bewerten und mögliche Risiken erst nach der Markteinführung sichtbar werden.

Darüber hinaus soll der Zugang zu wissenschaftlichen Kompetenzen, Prüfverfahren und vertrauenswürdigen Bewertungen international breiter verfügbar sein. Staaten mit geringeren finanziellen oder technischen Ressourcen sollen dadurch in die Lage versetzt werden, KI-Risiken eigenständig oder mit internationaler Unterstützung zu beurteilen. Dies betrifft etwa die technische Analyse von Modellen, die Prüfung ihrer Widerstandsfähigkeit gegen Missbrauch und die Bewertung möglicher Auswirkungen auf kritische Infrastrukturen.

Die Unterzeichner wollen außerdem innerhalb der Vereinten Nationen darüber beraten, ob eine internationale Institution geschaffen werden soll. Diese könnte nach den vorliegenden Vorstellungen gemeinsame Standards entwickeln und bei der Überprüfung von KI-Systemen eine koordinierende Rolle übernehmen. Offen ist jedoch, welche rechtlichen Befugnisse eine solche Einrichtung erhalten würde, wie ihre Finanzierung aussehen könnte und ob ihre Entscheidungen für Staaten und Unternehmen verbindlich wären.

Zu den Unterstützern zählen unter anderem Deutschland, Norwegen, die Niederlande, Kanada, Australien, Kasachstan, Kenia, Island, Moldau und Singapur. Auch EU-Kommissionspräsidentin Ursula von der Leyen wird im Zusammenhang mit dem Vorstoß als Unterstützerin genannt. Die Liste umfasst damit sowohl technologisch und wirtschaftlich einflussreiche Länder als auch kleinere Staaten, die in der globalen KI-Politik bislang nur begrenzten Einfluss besitzen.

Nicht beteiligt sind die USA und China. Ihre Abwesenheit ist politisch besonders relevant, weil beide Staaten über die größten KI-Unternehmen, umfangreiche Forschungsinfrastrukturen und erhebliche staatliche Investitionsprogramme verfügen. Ein internationales Prüf- oder Meldesystem ohne ihre Mitwirkung hätte voraussichtlich nur begrenzte Reichweite.

Warum unabhängige Tests eine zentrale Forderung sind

Die Forderung nach unabhängigen Tests berührt einen Kernkonflikt der gegenwärtigen KI-Entwicklung. Anbieter verfügen in der Regel über den besten Zugang zu den Trainingsdaten, den Modellarchitekturen und den internen Sicherheitssystemen. Externe Prüfer können dagegen eine zusätzliche Perspektive einbringen und Interessenkonflikte reduzieren.

In der Praxis müsste zunächst geklärt werden, was als unabhängiger Test gilt. Denkbar wären staatlich anerkannte Prüforganisationen, internationale Labore, akkreditierte private Anbieter oder eine Kombination dieser Modelle. Ebenfalls offen ist, welche Informationen Unternehmen offenlegen müssten. Eine vollständige Veröffentlichung technischer Details könnte Geschäftsgeheimnisse und Sicherheitsinteressen berühren. Zu geringe Transparenz würde dagegen die Aussagekraft der Prüfungen einschränken.

Für Unternehmen wären standardisierte Tests vor allem dann hilfreich, wenn sie international vergleichbare Ergebnisse liefern. Ein Anbieter könnte dann leichter nachweisen, dass ein Modell bestimmte Sicherheitsanforderungen erfüllt. Gleichzeitig besteht das Risiko, dass starre Prüfverfahren schnell veralten, wenn sich Modelle, Einsatzbereiche und Angriffsmethoden weiterentwickeln.

Die Vereinten Nationen positionieren sich

Die Vereinten Nationen haben die Debatte in den vergangenen Tagen durch politische Stellungnahmen und einen technischen Bericht über KI-Risiken verstärkt. UN-Generalsekretär António Guterres appellierte an die führenden KI-Nationen, miteinander in Kontakt zu treten, Informationen auszutauschen und gemeinsame Leitlinien zu entwickeln. Ziel sei es, einen Wettlauf zu verhindern, bei dem Sicherheitsvorkehrungen aus Wettbewerbsgründen abgeschwächt werden.

Der Begriff eines solchen „Wettlaufs nach unten“ beschreibt ein bekanntes Problem internationaler Technologiemärkte: Wenn Unternehmen und Staaten um Geschwindigkeit und Marktanteile konkurrieren, kann der politische Druck steigen, Prüfungen zu verkürzen oder Anforderungen weniger streng auszulegen. Ein gemeinsamer Mindeststandard soll verhindern, dass Sicherheitsmaßnahmen zum Wettbewerbsnachteil einzelner Akteure werden.

Die UN betont zugleich die möglichen Auswirkungen von KI auf internationale Sicherheit und Frieden. Besonders sensibel sind Anwendungen in militärischen Entscheidungsprozessen, bei Cyberoperationen, in der Informationsverbreitung und bei kritischer Infrastruktur. Guterres sprach sich außerdem dagegen aus, Entscheidungen über Leben und Tod an Maschinen zu übertragen. Damit rückt neben der technischen Zuverlässigkeit auch die Frage nach menschlicher Verantwortung und Kontrolle in den Mittelpunkt.

Der UN-Sicherheitsrat soll sich mit den möglichen Begrenzungen der Technologie befassen. Dazu werden auch Vertreter und führende Köpfe aus der KI-Branche angehört. Die Zusammensetzung des Forums ist von Bedeutung, weil sie die Debatte aus dem Kreis spezialisierter Fachgremien in einen Bereich überführt, der traditionell für internationale Friedens- und Sicherheitsfragen zuständig ist.

Die Grenzen einer UN-Regulierung

Die Vereinten Nationen können Aufmerksamkeit bündeln, politische Empfehlungen formulieren und internationale Verhandlungen organisieren. Ihre Möglichkeiten, Unternehmen unmittelbar zu verpflichten oder nationale Gesetzgeber zu überstimmen, sind jedoch begrenzt. Für eine verbindliche globale Aufsicht wäre daher entweder ein neues internationales Abkommen oder ein weitreichendes Mandat der Mitgliedstaaten erforderlich.

Hinzu kommen die unterschiedlichen Interessen im UN-System. Industriestaaten konzentrieren sich häufig auf Wettbewerbsfähigkeit und Sicherheitsrisiken, während viele Schwellen- und Entwicklungsländer den Zugang zu Rechenleistung, Daten, Fachkräften und wirtschaftlichen Chancen hervorheben. Eine Regelung, die vor allem Prüfpflichten und Zugangshürden schafft, könnte aus Sicht weniger gut ausgestatteter Länder den technologischen Abstand vergrößern.

Ein tragfähiger globaler Rahmen müsste deshalb nicht nur Risiken begrenzen, sondern auch Fragen des Technologietransfers, der wissenschaftlichen Zusammenarbeit und des fairen Zugangs berücksichtigen. Genau auf diese Dimension verweist die Forderung der 22 Staaten nach Zugang zu unabhängigen Bewertungen und wissenschaftlichen Kapazitäten.

OpenAI fordert Standards, lehnt aber eine Lizenzpflicht ab

Auch OpenAI hat einen Vorschlag für internationale technische Standards für besonders leistungsfähige KI-Systeme vorgelegt. Das Unternehmen konzentriert sich dabei insbesondere auf Modelle, die zunehmend autonom arbeiten oder Teile ihrer eigenen Weiterentwicklung unterstützen könnten. Vorgeschlagen werden gemeinsame Verfahren zur Bewertung von Fähigkeiten und Risiken sowie einheitliche Kategorien für Sicherheitsvorfälle.

OpenAI spricht sich dafür aus, dass Staaten gemeinsam Regeln für Tests, Risikoeinschätzungen und die Meldung sicherheitsrelevanter Ereignisse entwickeln. Unternehmen könnten dadurch besser erkennen, welche Vorfälle international vergleichbar sind und wann eine Meldung an Behörden oder andere zuständige Stellen erforderlich ist.

Der Vorschlag umfasst mehrere Themenbereiche:

- Einheitliche Verfahren zur Messung und Bewertung von Modellfähigkeiten

- Gemeinsame Begriffe und Schweregrade für Sicherheitsvorfälle

- Vorgaben für menschliche Aufsicht über automatisierte KI-Forschung

- Berichte über Probleme bei der Ausrichtung von Modellen an menschlichen Zielen

- Internationale Zusammenarbeit zwischen nationalen KI-Sicherheitsinstituten

Gleichzeitig zieht OpenAI eine klare regulatorische Grenze. Das Unternehmen lehnt eine verpflichtende Lizenzierung und eine generelle Vorabprüfung jedes leistungsfähigen Modells vor dessen Veröffentlichung ab. Nach dem Vorschlag sollen Staaten selbst entscheiden, ob und auf welche Weise sie technische Standards in nationales Recht übertragen.

Diese Position unterscheidet sich deutlich von Konzepten, die eine staatliche Genehmigung vor dem Training oder der Veröffentlichung besonders leistungsfähiger Systeme vorsehen. Ein freiwilliger oder national umgesetzter Standard könnte schneller international akzeptiert werden, wäre allerdings weniger verbindlich. Die zentrale offene Frage lautet daher, wie sich ein ausreichendes Sicherheitsniveau sicherstellen lässt, wenn Staaten die Regeln unterschiedlich anwenden.

Vorgeschlagene institutionelle Anbindung

Als möglichen organisatorischen Anker nennt OpenAI das beim US-amerikanischen National Institute of Standards and Technology angesiedelte Center for AI Standards and Innovation. Zusätzlich verweist das Unternehmen auf ein entstehendes Netzwerk nationaler KI-Sicherheitsinstitute. Dazu zählen nach den vorliegenden Informationen Einrichtungen beziehungsweise Initiativen aus Deutschland, Japan, Frankreich, dem Vereinigten Königreich und Indien.

Ein Netzwerk nationaler Institute könnte gegenüber einer vollständig neuen Weltbehörde mehrere praktische Vorteile haben. Die beteiligten Staaten könnten auf bestehende Fachleute, technische Labore und nationale Behörden zurückgreifen. Auch der Austausch von Testergebnissen und Erfahrungen wäre möglicherweise schneller zu organisieren.

Gleichzeitig bliebe die Umsetzung stark von der Bereitschaft der einzelnen Länder abhängig. Unterschiedliche Prüfmethoden, Geheimhaltungsregeln und politische Vorgaben könnten die Vergleichbarkeit einschränken. Für international tätige Unternehmen wäre entscheidend, ob ein Test in einem Land von anderen Staaten anerkannt wird oder ob Mehrfachprüfungen erforderlich werden.

USA und China zwischen Dialog und strategischem Wettbewerb

Die USA und China haben sich wenige Tage vor dem geplanten Gipfeltreffen in New York über Risiken beim Einsatz Künstlicher Intelligenz ausgetauscht. Nach Angaben des US-Finanzministers Scott Bessent wurde China ein Mechanismus vorgeschlagen, der den Austausch wichtiger Informationen über die KI-Entwicklung ermöglichen soll. Ziel sei eine gemeinsame Verständigung über Ziele und Bedrohungen.

Die Gespräche werden als neuer US-chinesischer KI-Dialog beschrieben. Inhaltliche Einzelheiten sind bislang nur begrenzt bekannt. Unklar ist insbesondere, ob der Austausch lediglich politische Konsultationen umfasst oder ob auch konkrete technische Informationen, Sicherheitsberichte und Verfahren zur Krisenkommunikation geteilt werden sollen.

Für beide Seiten ist ein solcher Dialog mit erheblichen politischen und sicherheitspolitischen Risiken verbunden. Informationen über Modellfähigkeiten, Trainingsinfrastruktur oder Sicherheitslücken können auch für die militärische und wirtschaftliche Konkurrenz relevant sein. Ein Austausch muss daher zwischen Transparenz und Schutz strategischer Interessen ausbalanciert werden.

Der Dialog zeigt jedoch, dass selbst im Wettbewerb ein Mindestmaß an Kommunikation erforderlich sein kann. Wenn leistungsfähige KI-Systeme grenzüberschreitende Auswirkungen haben, lassen sich Risiken nicht vollständig national kontrollieren. Das gilt beispielsweise für autonome Cyberangriffe, die Verbreitung manipulierter Inhalte oder unerwartete Wechselwirkungen zwischen KI-Systemen und kritischen Infrastrukturen.

Die Position der US-Regierung

US-Präsident Donald Trump hat sich nach den vorliegenden Berichten grundsätzlich gegen den Aufbau eines globalen Kontrollsystems für Künstliche Intelligenz ausgesprochen. Er warnt vor einem international zentralisierten Modell und betont die Herausforderungen, die mit jeder großen neuen Technologie verbunden seien. Eine umfassende globale Aufsicht lehnt Washington demnach ab.

Diese Haltung steht in einem Spannungsverhältnis zu den Forderungen aus Teilen der US-amerikanischen Technologiebranche. Auch dort werden die Risiken besonders leistungsfähiger Systeme zunehmend thematisiert. Unternehmen können ein Interesse an gemeinsamen Standards haben, weil sie dadurch international vergleichbare Rahmenbedingungen erhalten. Sie können gleichzeitig staatliche Vorabgenehmigungen ablehnen, wenn diese aus ihrer Sicht Innovation verlangsamen oder Markteinführungen verzögern.

Für die internationale Regulierung ist die US-Position entscheidend. Die Vereinigten Staaten verfügen über eine hohe Konzentration führender KI-Unternehmen und prägen viele technische Standards, Cloud-Infrastrukturen und Forschungsnetzwerke. Ein globales Abkommen ohne Beteiligung Washingtons wäre daher schwer durchsetzbar. Umgekehrt könnten die USA internationale Standards mitgestalten, ohne einer zentralen Aufsichtsbehörde weitreichende Befugnisse zu übertragen.

Chinas Rolle und eigene Interessen

China ist ebenfalls nicht Teil des Aufrufs der 22 Staaten. Das Land verfolgt eigene staatliche Regeln und politische Leitlinien für KI, darunter Vorgaben für bestimmte Inhalte, Anbieter und Anwendungen. Gleichzeitig investiert Peking in den Ausbau von Forschung, Rechenzentren und industriellen Einsatzmöglichkeiten.

Die chinesische KI-Politik verbindet wirtschaftliche Förderung mit staatlicher Kontrolle. Internationale Standards könnten für chinesische Anbieter Vorteile bieten, wenn sie den Zugang zu ausländischen Märkten erleichtern. Sie könnten zugleich als Einschränkung wahrgenommen werden, wenn Prüfungen, Datenanforderungen oder Offenlegungspflichten als Einmischung in nationale Zuständigkeiten gelten.

Berichte über kritische Stimmen innerhalb Chinas verweisen außerdem auf eine wirtschaftspolitische Debatte über staatliche Investitionen in KI. Dabei geht es unter anderem um die Frage, ob die Branche ausreichend Arbeitsplätze und produktive Wertschöpfung schafft. Diese Diskussion zeigt, dass KI-Regulierung nicht nur als Sicherheitsfrage betrachtet wird, sondern auch mit Industriepolitik, staatlicher Förderung und gesellschaftlicher Verteilung verbunden ist.

Europa setzt auf einen risikobasierten Ordnungsrahmen

Europäische Staaten gehören zu den Unterstützern des internationalen Aufrufs. Die Europäische Union hat mit dem EU AI Act bereits einen umfassenden gesetzlichen Rahmen geschaffen, der KI-Anwendungen nach ihrem Risiko einordnet. Bestimmte Anwendungen gelten als verboten, andere unterliegen erhöhten Transparenz-, Dokumentations- und Sicherheitsanforderungen.

Der EU-Ansatz unterscheidet sich von einer ausschließlich freiwilligen technischen Standardisierung. Er verbindet gesetzliche Pflichten mit technischen Normen und behördlicher Aufsicht. Für Anbieter und Betreiber entstehen dadurch Anforderungen entlang der gesamten Wertschöpfungskette: von der Entwicklung und Auswahl von Trainingsdaten über die technische Dokumentation bis hin zu Überwachung, Meldung und Nachbesserung.

Für besonders leistungsfähige Basismodelle sind unter anderem Anforderungen an Risikobewertung, technische Dokumentation und Cybersicherheit relevant. Je nach Einsatz und Modellklasse können außerdem zusätzliche Nachweise erforderlich sein. Unternehmen müssen daher nicht nur die Fähigkeiten eines Modells bewerten, sondern auch die vorgesehenen Anwendungsfälle, Nutzergruppen und möglichen Folgewirkungen berücksichtigen.

Die europäische Regulierung dient international als Referenz, wird aber auch unterschiedlich bewertet. Befürworter sehen darin einen Versuch, Grundrechte und Sicherheit in einem einheitlichen Binnenmarkt zu schützen. Kritische Stimmen verweisen auf zusätzlichen Verwaltungsaufwand, mögliche Verzögerungen und die Gefahr, dass Unternehmen ihre Entwicklung in weniger regulierte Märkte verlagern.

Globale Regeln müssen anschlussfähig bleiben

Für europäische Unternehmen ist entscheidend, ob internationale Standards mit dem EU AI Act kompatibel werden. Je größer die Überschneidung, desto geringer dürfte der Aufwand für zusätzliche Prüfungen und Dokumentationen ausfallen. Entwickeln die USA, China, die EU und weitere Staaten dagegen jeweils eigene Begriffe und Testverfahren, droht eine fragmentierte Regulierungslandschaft.

Eine solche Fragmentierung könnte besonders mittelständische Unternehmen belasten. Große Technologiekonzerne können spezialisierte Rechts-, Compliance- und Sicherheitsteams aufbauen. Kleinere Anbieter und Anwender verfügen häufig über weniger Ressourcen, müssen aber ebenfalls nachweisen, dass sie rechtliche und technische Vorgaben einhalten.

Für Unternehmen in Europa wird deshalb die Fähigkeit zur regulatorischen Zuordnung immer wichtiger. Ein KI-System muss nicht nur technisch funktionieren, sondern auch nachvollziehbar klassifiziert, dokumentiert und überwacht werden können. Anbieter, Integratoren und gewerbliche Nutzer benötigen dafür belastbare Informationen über Modellgrenzen, Trainingsprozesse, Sicherheitsmechanismen und Änderungszyklen.

Was internationale KI-Regeln leisten sollen

Die aktuellen Vorschläge verfolgen trotz unterschiedlicher institutioneller Modelle mehrere gemeinsame Ziele. Im Vordergrund steht die Verringerung schwerwiegender Risiken durch leistungsfähige Systeme. Dazu gehören technische Fehlfunktionen, missbräuchliche Nutzung, unzureichende menschliche Kontrolle und mögliche Schäden für die internationale Sicherheit.

Ein globaler Rahmen könnte insbesondere in folgenden Bereichen einen Mehrwert schaffen:

- Vergleichbare Begriffe für Modellfähigkeiten und Sicherheitsvorfälle

- Mindestanforderungen an Tests vor der Veröffentlichung oder dem Einsatz

- Verfahren zur Meldung und Bewertung schwerwiegender Zwischenfälle

- Gemeinsame Grundsätze für menschliche Aufsicht

- Austausch wissenschaftlicher Erkenntnisse und technischer Prüfmethoden

- Koordination bei grenzüberschreitenden Sicherheitsrisiken

- Bessere Nachvollziehbarkeit von Modelländerungen und neuen Fähigkeiten

Einheitliche Standards könnten außerdem Vertrauen zwischen Staaten und Marktteilnehmern stärken. Wenn Unternehmen nach international anerkannten Verfahren testen, könnten Behörden, Geschäftskunden und Nutzer die Sicherheitsangaben leichter einordnen. Vergleichbare Nachweise würden auch grenzüberschreitende Geschäftsbeziehungen vereinfachen.

Regulierung ist nicht gleich Regulierung

In der politischen Debatte werden unterschiedliche Instrumente häufig unter dem Sammelbegriff „KI-Regulierung“ zusammengefasst. Für Unternehmen ist jedoch eine genaue Unterscheidung erforderlich. Technische Standards legen fest, wie Risiken gemessen oder dokumentiert werden. Gesetze definieren Pflichten und Haftungsfragen. Aufsichtsbehörden kontrollieren die Einhaltung. Internationale Abkommen regeln die Zusammenarbeit zwischen Staaten.

Diese Instrumente können sich ergänzen, verfolgen aber unterschiedliche Zwecke. Ein Sicherheitsstandard kann eine Prüfung methodisch vereinheitlichen, ersetzt jedoch nicht automatisch eine gesetzliche Verpflichtung. Eine Meldepflicht kann Transparenz schaffen, verhindert aber nicht zwangsläufig den ursprünglichen Vorfall. Eine internationale Behörde kann koordinieren, benötigt dafür jedoch ein klares Mandat und ausreichende Ressourcen.

Die derzeit diskutierten Vorschläge unterscheiden sich daher vor allem in drei Punkten:

- Verbindlichkeit: freiwillige Leitlinien oder rechtlich verpflichtende Regeln

- Zeitpunkt der Kontrolle: Prüfung vor der Veröffentlichung oder Überwachung während des Betriebs

- Institutioneller Rahmen: nationale Behörden, internationales Netzwerk oder eigenständige Weltorganisation

Die Bedeutung für Unternehmen und professionelle KI-Anwender

Unabhängig vom Ausgang des US-chinesischen Gipfels müssen Unternehmen mit einer dauerhaft komplexen regulatorischen Entwicklung rechnen. Die Debatte über internationale Standards kann in den kommenden Jahren zu zusätzlichen Prüf- und Dokumentationsanforderungen führen. Gleichzeitig werden bestehende regionale Gesetze weiter umgesetzt und konkretisiert.

Für Unternehmen, die KI entwickeln, anbieten oder in Geschäftsprozesse integrieren, ergeben sich mehrere praktische Handlungsfelder. Die erforderlichen Maßnahmen hängen vom jeweiligen Modell, Einsatzbereich und Risikoprofil ab. Eine allgemeingültige Lösung gibt es nicht.

Besonders relevant sind folgende Schritte:

- Erstellen Sie ein vollständiges Verzeichnis aller eingesetzten KI-Systeme und ihrer Anwendungsfälle.

- Ordnen Sie jedes System nach Funktion, Nutzergruppe, Datenverarbeitung und potenziellem Schadensausmaß ein.

- Dokumentieren Sie Anbieter, Modellversion, Schnittstellen, Trainings- oder Referenzdaten und relevante Änderungen.

- Definieren Sie Verantwortlichkeiten für Freigabe, Überwachung, Incident Response und Abschaltung.

- Prüfen Sie, welche Informationen der Anbieter zu Genauigkeit, Grenzen, Sicherheitsmaßnahmen und bekannten Risiken bereitstellt.

- Etablieren Sie Verfahren, mit denen Sicherheitsvorfälle erkannt, bewertet, eskaliert und gemeldet werden können.

- Sorgen Sie für menschliche Kontrollmöglichkeiten bei Entscheidungen mit erheblichen Auswirkungen.

- Verfolgen Sie gesetzliche Entwicklungen in den relevanten Absatz- und Einsatzmärkten.

Für den Einkauf von KI-Lösungen wird die Vertragsgestaltung an Bedeutung gewinnen. Unternehmen sollten prüfen, ob Anbieter Aktualisierungen, Sicherheitsmeldungen und technische Dokumentation verbindlich zusagen. Ebenfalls relevant sind Regelungen zu Datenschutz, Haftung, Prüfungsrechten, Unterauftragnehmern und der Nutzung von Kundendaten zur Modellverbesserung.

Die Rolle von Governance und Risikomanagement

KI-Governance sollte nicht ausschließlich als Aufgabe der IT-Abteilung verstanden werden. Recht, Informationssicherheit, Datenschutz, Einkauf, Fachbereiche und Unternehmensleitung müssen je nach Einsatzfall zusammenarbeiten. Die technische Leistungsfähigkeit eines Systems sagt allein wenig über seine organisatorische Eignung aus.

Ein belastbares Governance-Modell sollte mindestens folgende Fragen beantworten:

- Wer darf ein KI-System für welchen Zweck einsetzen?

- Welche Daten dürfen verarbeitet werden?

- Wann ist eine menschliche Freigabe erforderlich?

- Wie werden fehlerhafte oder verzerrte Ergebnisse erkannt?

- Wie lässt sich die Entscheidung eines Systems im Nachhinein rekonstruieren?

- Welche Maßnahmen greifen bei einem Sicherheitsvorfall?

- Wann muss ein System angepasst, eingeschränkt oder abgeschaltet werden?

Unternehmen, die diese Fragen frühzeitig klären, können regulatorische Anforderungen meist besser in bestehende Prozesse integrieren. Dazu gehören etwa interne Kontrollsysteme, Lieferantenbewertungen, Datenschutzfolgenabschätzungen, Informationssicherheitsmanagement und Qualitätsmanagement.

Warum die globale Einigung schwierig bleibt

Die Forderung nach internationalen Regeln findet wachsende Unterstützung, doch die Interessen der beteiligten Akteure gehen weit auseinander. Staaten unterscheiden sich bei ihrer Einschätzung von Risiken, ihrer wirtschaftlichen Abhängigkeit von Technologieanbietern und ihrer Bereitschaft, Kontrollbefugnisse an internationale Institutionen abzugeben.

Ein zentraler Konflikt betrifft das Verhältnis zwischen Innovation und Vorsorge. Unternehmen und Regierungen, die ihre technologische Wettbewerbsfähigkeit ausbauen wollen, befürchten, dass umfangreiche Vorabprüfungen Entwicklung und Markteinführung verlangsamen. Staaten und Organisationen, die systemische Risiken hervorheben, sehen dagegen gerade in der Geschwindigkeit der Entwicklung einen Grund für frühzeitige Kontrollen.

Hinzu kommt die Frage, wie leistungsfähige Systeme überhaupt definiert werden. Eine Regulierung könnte sich an Rechenaufwand, Modellgröße, Fähigkeiten, Nutzerzahl oder konkreten Einsatzbereichen orientieren. Jede Definition hat Schwächen. Technische Schwellenwerte können durch neue Architekturansätze umgangen werden. Fähigkeitsbasierte Regeln erfordern aufwendige und regelmäßig aktualisierte Tests.

Auch die Durchsetzung ist ungeklärt. Eine internationale Institution müsste Zugang zu Informationen erhalten, die Unternehmen als vertraulich betrachten. Sie müsste Prüfungen koordinieren, Verstöße bewerten und möglicherweise Sanktionen empfehlen. Ohne breite politische Unterstützung und verlässliche Finanzierung könnte sie jedoch nur beratend tätig sein.

Das Problem der unterschiedlichen nationalen Prioritäten

Die USA legen traditionell großen Wert auf Innovationsfreiheit und privatwirtschaftliche Entwicklung. China verbindet technologischen Ausbau mit staatlicher Steuerung und nationalen Sicherheitsinteressen. Die Europäische Union betont einen risikobasierten Ansatz, Grundrechte und marktweite Regeln. Andere Staaten setzen möglicherweise stärker auf Entwicklungschancen, digitale Souveränität oder den Schutz vor Abhängigkeiten.

Diese Prioritäten müssen nicht zwangsläufig unvereinbar sein. Ein gestufter Ansatz könnte gemeinsame Mindestanforderungen definieren und den Staaten gleichzeitig Spielraum bei der konkreten Umsetzung lassen. Ein solcher Rahmen wäre politisch leichter zu vereinbaren als eine vollständig einheitliche Weltregulierung. Er könnte jedoch zu unterschiedlichen Schutzniveaus und zusätzlichen Compliance-Aufgaben führen.

Digitale Souveränität als zweite Konfliktlinie

Die Debatte über KI-Regulierung ist eng mit der Frage digitaler Souveränität verbunden. Frankreichs Präsident Emmanuel Macron warb im Zusammenhang mit der internationalen KI-Politik für technologische Eigenständigkeit und ein leistungsfähiges Open-Source-Modell, das von mehreren Staaten gemeinsam entwickelt und genutzt werden könnte.

Hinter solchen Forderungen steht die Sorge, dass Staaten und Unternehmen von wenigen großen Anbietern abhängig werden. Abhängigkeiten können bei Cloud-Infrastruktur, Chips, Basismodellen, Daten und Fachkräften entstehen. Wenn ein kleiner Kreis von Unternehmen die zentralen KI-Komponenten kontrolliert, können Preisgestaltung, Zugangsbedingungen und technische Standards erhebliche wirtschaftliche Auswirkungen haben.

Open-Source-Ansätze können Transparenz und Zugang fördern, bringen aber ebenfalls Sicherheitsfragen mit sich. Die Offenlegung leistungsfähiger Modelle kann Forschung und Innovation erleichtern, zugleich jedoch den Missbrauch durch Akteure mit schädlichen Absichten vereinfachen. Auch hier ist eine differenzierte Betrachtung erforderlich, die Modellfähigkeiten, Verfügbarkeit, Schutzmechanismen und konkrete Einsatzmöglichkeiten berücksichtigt.

Für europäische Unternehmen bedeutet digitale Souveränität nicht automatisch den vollständigen Verzicht auf internationale Anbieter. Vielmehr geht es um die Fähigkeit, Abhängigkeiten zu bewerten, Alternativen vorzuhalten und kritische Funktionen notfalls unabhängig weiterzuführen. Dazu können Multi-Cloud-Strategien, offene Schnittstellen, exportierbare Datenformate und der Einsatz mehrerer Modellanbieter beitragen.

Welche Szenarien nach dem Gipfel denkbar sind

Das Treffen zwischen den USA und China könnte der internationalen KI-Debatte neue Impulse geben. Der genaue Ausgang ist offen. Aus analytischer Sicht lassen sich mehrere Entwicklungspfade unterscheiden.

Szenario eins: begrenzte bilaterale Zusammenarbeit

Washington und Peking könnten sich auf einen regelmäßigen Austausch über Risiken und Krisenkommunikation verständigen, ohne gemeinsame verbindliche Regeln zu beschließen. Ein solcher Schritt würde die Gefahr von Missverständnissen reduzieren und könnte praktische Kooperation bei Sicherheitsvorfällen ermöglichen.

Für Unternehmen wären die unmittelbaren Folgen begrenzt. Mittel- und langfristig könnte ein bilateraler Dialog jedoch die Grundlage für technische Mindeststandards bilden. Die übrige internationale Staatengemeinschaft müsste dann entscheiden, ob sie diese Standards übernimmt oder eigene Modelle entwickelt.

Szenario zwei: internationale technische Standards ohne Weltbehörde

Ein wahrscheinlicherer Zwischenschritt könnte in der Entwicklung freiwilliger oder national umgesetzter technischer Standards liegen. Einheitliche Definitionen für Sicherheitsvorfälle, Prüfverfahren und Berichtspflichten wären politisch leichter zu vereinbaren als eine zentrale Aufsichtsbehörde.

Dieses Modell könnte schnell Wirkung entfalten, wäre aber auf die Bereitschaft von Staaten und Unternehmen angewiesen. Die Standards müssten regelmäßig aktualisiert werden und dürften nicht an einer einzelnen nationalen Institution ausgerichtet sein.

Szenario drei: schrittweiser Aufbau einer internationalen Institution

Die 22 Staaten könnten ihre Forderung weiterverfolgen und innerhalb der UN Gespräche über ein internationales KI-Gremium aufnehmen. Zunächst könnte dieses Gremium Daten sammeln, Forschung koordinieren und technische Empfehlungen aussprechen. Später wären verbindlichere Prüf- und Aufsichtsfunktionen möglich.

Die Umsetzung würde voraussichtlich mehrere Jahre dauern. Entscheidend wären die Beteiligung der USA und Chinas, die Einbindung technologisch weniger entwickelter Staaten und die Klärung von Finanzierung, Zuständigkeit und Haftung.

Szenario vier: weitere Fragmentierung

Falls die großen KI-Mächte keine gemeinsamen Regeln akzeptieren und regionale Initiativen unabhängig voneinander fortgeführt werden, könnte die regulatorische Fragmentierung zunehmen. Unternehmen müssten dann unterschiedliche Definitionen, Nachweise und Meldewege bedienen.

Dieses Szenario würde die Kosten internationaler KI-Aktivitäten erhöhen. Zugleich könnte der Wettbewerb zwischen Regulierungsmodellen sichtbar machen, welche Ansätze in der Praxis wirksam sind. Für Unternehmen wäre es dennoch mit zusätzlicher Komplexität und rechtlicher Unsicherheit verbunden.

Was die Entwicklung für den europäischen Markt bedeutet

Der europäische Markt wird voraussichtlich nicht auf einen globalen Konsens warten. Bereits bestehende EU-Vorgaben werden schrittweise wirksam und dürften durch technische Standards, Leitlinien und nationale Aufsichtsstrukturen konkretisiert werden. Internationale Vereinbarungen könnten diese Regeln ergänzen, aber nicht automatisch ersetzen.

Für Anbieter außerhalb der EU bedeutet das, dass der Marktzugang an die europäischen Anforderungen angepasst werden muss. Für europäische Unternehmen kann die frühe Erfahrung mit Dokumentation, Risikoklassifizierung und Konformitätsprozessen einen Wettbewerbsvorteil darstellen, sofern internationale Standards später an ähnliche Prinzipien anknüpfen.

Gleichzeitig sollten Unternehmen nicht davon ausgehen, dass eine Einhaltung des EU AI Act alle internationalen Anforderungen abdeckt. Je nach Geschäftsmodell können zusätzliche Vorgaben in den USA, China, Großbritannien, Japan, Indien oder anderen Märkten gelten. Besonders betroffen sind Anbieter von Basismodellen, Cloud- und Plattformunternehmen sowie Organisationen mit grenzüberschreitenden Daten- und Geschäftsprozessen.

Die zentrale offene Frage: Wer definiert Sicherheit?

Hinter der Forderung nach internationaler Regulierung steht letztlich eine Macht- und Zuständigkeitsfrage. Wer legt fest, welche Risiken akzeptabel sind? Wer bestimmt, wann ein Modell als besonders leistungsfähig gilt? Wer darf Testergebnisse einsehen und welche Folgen hat ein Verstoß?

Die Antwort wird nicht allein technisch sein. Sie wird auch von politischen Prioritäten, wirtschaftlichen Interessen und unterschiedlichen Vorstellungen über staatliche Kontrolle geprägt. Ein Prüfverfahren kann beispielsweise zuverlässig messen, ob ein Modell bestimmte Fähigkeiten besitzt. Es kann aber nicht vollständig entscheiden, wie eine Gesellschaft diese Fähigkeiten bewerten oder begrenzen sollte.

Für die internationale Politik zeichnet sich deshalb ein mehrstufiger Regulierungsansatz ab. Technische Fragen könnten über Standards und Prüfverfahren bearbeitet werden. Grundrechtliche und gesellschaftliche Fragen würden in nationalen und regionalen Gesetzen geregelt. Fragen internationaler Sicherheit könnten in UN-Gremien und zwischen den führenden KI-Staaten verhandelt werden.

Ob diese Ebenen ausreichend koordiniert werden, wird maßgeblich über die praktische Wirksamkeit entscheiden. Ein Nebeneinander widersprüchlicher Regeln könnte Unternehmen und Behörden überfordern. Ein zu zentralisiertes System könnte dagegen politisch nicht akzeptiert werden und Innovationen behindern.

Fazit: Der internationale Regulierungsdruck steigt, der Konsens bleibt offen

Die Tage vor dem geplanten US-chinesischen Gipfel verdeutlichen, wie stark die internationale KI-Politik inzwischen von Sicherheitsfragen geprägt ist. Eine Gruppe von 22 Staaten fordert unabhängige Tests und Gespräche über eine globale Aufsichtsinstitution. Die Vereinten Nationen drängen auf gemeinsame Leitlinien und warnen vor Risiken für Frieden und menschliche Kontrolle. OpenAI unterstützt technische Standards, lehnt jedoch eine verpflichtende Lizenzierung und eine generelle Vorabprüfung ab.

Gleichzeitig bleiben die USA und China außerhalb des zentralen Staatenaufrufs. Beide Länder stehen im Mittelpunkt des globalen KI-Wettbewerbs und werden daher für jede umfassende internationale Lösung benötigt. Der beginnende bilaterale Dialog kann ein erster Schritt zu mehr Transparenz und Krisenkommunikation sein. Ob daraus verbindliche gemeinsame Regeln entstehen, ist nicht absehbar.

Für Unternehmen bedeutet die Entwicklung vor allem, dass KI-Governance zu einer dauerhaften Managementaufgabe wird. Organisationen sollten ihre Systeme inventarisieren, Risiken dokumentieren, Verantwortlichkeiten festlegen und regulatorische Änderungen kontinuierlich beobachten. Anbieter und Anwender müssen sich darauf einstellen, dass künftig nicht nur Leistung und Kosten eines Modells bewertet werden, sondern auch Testbarkeit, Nachvollziehbarkeit, Sicherheitsprozesse und internationale Einsetzbarkeit.

Die globale Debatte steht damit an einem frühen, aber entscheidenden Punkt. Der politische Wille zu mehr Kontrolle wächst. Die konkrete Form, der Verbindlichkeitsgrad und die institutionelle Zuständigkeit sind jedoch weiterhin Gegenstand internationaler Aushandlung.