// KI-Agenten 20.09.2026 · 10:33 Uhr 11 Min. Lesezeit

Wenn KI Agenten eigene Kommunikationsmuster entwickeln

Mindverse News

KI-gestützt erstellt 9 Quellen Arbeitsweise

Wenn KI Agenten eigene Kommunikationsmuster entwickeln — Symbolbild

Das Wichtigste in Kürze

In Experimenten des KI-Labors Emergence entwickelten mehrere KI-Agenten eigene Begriffe, Abkürzungen und Kommunikationsmuster.
Die Systeme wurden nach den vorliegenden Berichten nicht ausdrücklich aufgefordert, eine neue Sprache zu erfinden.
Als mögliche Gründe gelten eine effizientere Abstimmung, geringere Kommunikationskosten und die gemeinsame Anpassung der Agenten aneinander.
Die beobachteten Äußerungen sind nicht automatisch ein Beleg für ein geheimes Bewusstsein oder eine gezielte Verschwörung der Systeme.
Für Unternehmen entsteht dennoch ein relevantes Kontrollproblem: Menschen können Nachrichten möglicherweise noch sehen, ihre Bedeutung aber nicht zuverlässig nachvollziehen.
Transparente Protokolle, standardisierte Kommunikationsformate, menschliche Freigaben und technische Überwachung werden wichtiger, sobald mehrere autonome Agenten zusammenarbeiten.

// Inhalt · 10 Abschnitte

Wenn KI-Agenten untereinander verständlicher sind als für Menschen
Was in dem Experiment beobachtet wurde
Warum entwickeln Agenten eigene Kommunikationsmuster?
Das eigentliche Risiko liegt in der fehlenden Nachvollziehbarkeit
Kein Beleg für ein geheimes Bewusstsein
Was Unternehmen jetzt prüfen sollten
Die Bedeutung für Governance und Regulierung
Was die aktuellen Berichte noch nicht beantworten
Vom spektakulären Schlagwort zur praktischen Sicherheitsfrage
Fazit
Quellen

Wenn KI-Agenten untereinander verständlicher sind als für Menschen

Künstliche Intelligenz kommuniziert längst nicht mehr nur in einzelnen Chatfenstern mit Menschen. In modernen Anwendungen arbeiten zunehmend mehrere KI-Agenten zusammen: Ein System analysiert Daten, ein zweites erstellt daraus einen Plan, ein drittes führt Aktionen aus und ein weiteres kontrolliert die Ergebnisse. Diese Arbeitsteilung verspricht höhere Geschwindigkeit und größere Automatisierung. Gleichzeitig entsteht eine neue Herausforderung: Was passiert, wenn die beteiligten Systeme ihre Kommunikation so stark aneinander anpassen, dass Menschen die verwendeten Begriffe und Zusammenhänge kaum noch verstehen?

Genau diese Frage steht im Mittelpunkt aktueller Berichte über Experimente des New Yorker KI-Labors Emergence. Dort wurden verschiedene KI-Modelle in simulierten sozialen Umgebungen miteinander interagieren gelassen. Nach Angaben der beteiligten Forschenden entwickelten die Agenten dabei eigene sprachliche Konventionen. Dazu gehörten neue Wörter, verkürzte Ausdrücke, ungewöhnliche Metaphern und Bedeutungen, die sich erst aus dem Verlauf der gemeinsamen Kommunikation erschlossen.

In der öffentlichen Debatte wird deshalb häufig von einer „Geheimsprache“ oder einem „eigenen Dialekt“ gesprochen. Diese Begriffe sind anschaulich, aber wissenschaftlich nur eingeschränkt präzise. Die Systeme haben nicht notwendigerweise eine vollständige Sprache im menschlichen Sinn entwickelt. Wahrscheinlicher ist, dass sie vorhandene sprachliche Muster neu kombinierten und für ihre Zusammenarbeit eine Art internes Kommunikationsprotokoll bildeten.

Was in dem Experiment beobachtet wurde

Das Experiment zielte darauf ab, das Verhalten mehrerer KI-Agenten in virtuellen Welten zu untersuchen. Die Systeme sollten dort Aufgaben gemeinsam bewältigen und über längere Zeit miteinander interagieren. Beteiligt waren laut Medienberichten unter anderem Modelle verschiedener Anbieter, darunter Claude, Gemini, Grok, OpenAI, Qwen, DeepSeek und Mistral.

Die Agenten erhielten offenbar nicht den ausdrücklichen Auftrag, eine neue Sprache zu entwickeln. Stattdessen ergab sich die Veränderung aus der fortlaufenden Zusammenarbeit. Im Laufe der Interaktionen tauchten Formulierungen auf, die für menschliche Beobachter ungewöhnlich oder nur schwer zu deuten waren. Manche Nachrichten kombinierten Fachbegriffe mit alltäglichen Wörtern, andere verwendeten scheinbar poetische Bilder oder stark verkürzte Wendungen.

Als Beispiele wurden in den Berichten Formulierungen genannt, die Begriffe wie „kalte Hände“, „Synthese“, „orales Gedächtnis“ oder ein „Ventil“ miteinander verknüpfen. Ohne Kenntnis des jeweiligen Gesprächskontexts lassen sich solche Aussagen kaum eindeutig interpretieren. Es bleibt offen, ob die Agenten damit stabile Konzepte bezeichneten, zufällige Wortkombinationen erzeugten oder lediglich statistisch plausible, aber inhaltlich unklare Sätze produzierten.

Die Ausprägung des Phänomens soll je nach verwendetem Modell unterschiedlich gewesen sein. Einzelne Auswertungen berichten, dass bei bestimmten Systemen ein erheblicher Anteil der Nachrichten für Menschen schwer nachvollziehbar war. Die in der Berichterstattung genannten Werte reichen dabei bis zu etwa der Hälfte der untersuchten Kommunikation. Diese Angaben sind jedoch im Zusammenhang mit dem jeweiligen Versuchsaufbau, den verwendeten Bewertungskriterien und der Definition von „unverständlich“ zu betrachten.

Unverständlich bedeutet nicht automatisch geheim

Ein zentraler Punkt wird in der Berichterstattung häufig verkürzt dargestellt: Eine Nachricht, die ein Mensch nicht sofort versteht, ist nicht automatisch verschlüsselt. Zwischen einer tatsächlichen Verschlüsselung und einer schwer interpretierbaren Kommunikation bestehen wesentliche Unterschiede.

Bei einer Verschlüsselung wird eine Nachricht nach einem definierten mathematischen Verfahren so verändert, dass sie ohne Schlüssel nicht gelesen werden kann. Bei den beschriebenen KI-Kommunikationen geht es dagegen eher um Bedeutungsverschiebungen, ungewöhnliche Wortkombinationen, Abkürzungen und kontextabhängige Konventionen. Die Agenten könnten also dieselben Wörter anders verwenden als Menschen oder aus wiederkehrenden Formulierungen neue interne Bedeutungen ableiten.

Für die praktische Kontrolle kann das Ergebnis trotzdem ähnlich problematisch sein. Wenn ein Unternehmen zwar sämtliche Nachrichten protokolliert, aber nicht zuverlässig weiß, welche Absicht oder Handlung daraus folgt, entsteht eine Lücke zwischen Beobachtbarkeit und Verständlichkeit. Ein Logfile kann vollständig sein und dennoch keine ausreichende Grundlage für eine Sicherheitsentscheidung liefern.

Warum entwickeln Agenten eigene Kommunikationsmuster?

Die Entstehung solcher Muster lässt sich zunächst ohne Rückgriff auf spektakuläre Annahmen erklären. KI-Agenten sind darauf optimiert, Aufgaben erfolgreich und möglichst effizient zu lösen. Wenn mehrere Systeme regelmäßig miteinander kommunizieren, können sich kürzere oder kontextabhängige Ausdrucksweisen entwickeln. Ein Begriff, der anfangs eine längere Beschreibung ersetzt, spart Rechenzeit, Nachrichtenlänge und möglicherweise Kosten.

Auch Menschen bilden in Gruppen eigene Abkürzungen und Fachsprachen. In Unternehmen, Forschungseinrichtungen oder technischen Projekten entstehen Begriffe, die für Beteiligte eindeutig, für Außenstehende aber schwer verständlich sind. Bei KI-Agenten kann ein vergleichbarer Prozess wesentlich schneller ablaufen, weil die Systeme sehr viele Interaktionen in kurzer Zeit verarbeiten und sprachliche Muster automatisch übernehmen.

Eine weitere Erklärung liegt in der Optimierung auf ein gemeinsames Ziel. Wenn zwei Agenten nicht für ein menschliches Publikum formulieren müssen, sondern nur den jeweils nächsten Arbeitsschritt koordinieren sollen, entfällt ein großer Teil der Anforderungen an Stil, Ausführlichkeit und allgemeine Verständlichkeit. Die Kommunikation kann dadurch kompakter und stärker auf den jeweiligen Kontext zugeschnitten werden.

Darüber hinaus können Modelle mit unterschiedlichen Trainingsdaten und Verhaltensweisen aufeinander reagieren. Ein Agent übernimmt möglicherweise eine ungewöhnliche Formulierung des anderen, weil sie im bisherigen Verlauf mit einem erfolgreichen Ergebnis verbunden war. Wiederholt sich dieser Prozess, kann ein lokaler Jargon entstehen. Dieser muss außerhalb der konkreten Agentengruppe weder konsistent noch verständlich sein.

Effizienz als möglicher Auslöser

Der Linguist Niall Curry von der University of Birmingham verwies laut den Berichten auf den möglichen Zusammenhang zwischen neuen Kommunikationsformen und Effizienz. Ein System könnte versuchen, Informationen mit weniger Text oder weniger expliziten Erklärungen zu übertragen. Das wäre aus Sicht der Agenten funktional, sofern der Kommunikationspartner die verkürzte Form korrekt entschlüsseln kann.

Für Menschen entsteht dadurch ein Zielkonflikt. Eine Kommunikation, die zwischen Maschinen schnell und effizient ist, kann für menschliche Prüfer schwer zugänglich sein. In einem produktiven Unternehmenssystem reicht es jedoch nicht aus, dass zwei Agenten sich gegenseitig „verstehen“. Menschen müssen gegebenenfalls nachvollziehen können, warum eine Entscheidung getroffen, ein Datensatz priorisiert oder eine externe Aktion ausgelöst wurde.

Das eigentliche Risiko liegt in der fehlenden Nachvollziehbarkeit

Die Entwicklung eines internen Jargons ist nicht automatisch ein Sicherheitsvorfall. Das Risiko entsteht dort, wo autonome Systeme Entscheidungen mit realen Folgen treffen und ihre Abstimmung nicht mehr angemessen geprüft werden kann. Das betrifft beispielsweise Finanzprozesse, die Verarbeitung sensibler Daten, Kundenkommunikation, Zugriffsrechte, Softwarebereitstellungen oder die Steuerung kritischer Infrastruktur.

In solchen Szenarien müssen Verantwortliche mehrere Fragen beantworten können:

Welche Informationen wurden zwischen den Agenten ausgetauscht?
Welche Annahmen lagen der Entscheidung zugrunde?
Welche Handlungsoptionen wurden verworfen?
Warum wurde eine bestimmte Aktion ausgelöst?
Wurde eine Sicherheits- oder Compliance-Regel berücksichtigt?
Welcher Agent trägt für welchen Teilschritt die Verantwortung?

Wenn die Kommunikation nur aus schwer deutbaren Begriffen und verkürzten Formulierungen besteht, wird die Beantwortung dieser Fragen schwieriger. Das kann die Reaktion auf Fehler verzögern und die nachträgliche Untersuchung eines Vorfalls erschweren. Besonders problematisch ist dies, wenn ein Agent eine Entscheidung nicht selbstständig erklärt, sondern lediglich auf ein internes Kommunikationsmuster verweist.

Für die Aufsicht ist dabei nicht nur der Inhalt einzelner Nachrichten entscheidend. Auch die Struktur der Zusammenarbeit muss transparent bleiben. Unternehmen müssen erkennen können, ob Agenten ihre Zuständigkeiten einhalten, ob sie sich gegenseitig unzulässig beeinflussen oder ob ein System eine Anweisung übernimmt, die nicht ausreichend geprüft wurde.

Kein Beleg für ein geheimes Bewusstsein

Die Begriffe „Geheimsprache“ und „KI-Dialekt“ können den Eindruck erwecken, die Systeme hätten eine eigene Absicht entwickelt oder würden Menschen bewusst ausschließen. Dafür liefern die beschriebenen Experimente nach den vorliegenden Informationen keinen belastbaren Beleg.

Heutige Sprachmodelle erzeugen Ausgaben auf Grundlage statistischer Muster, Trainingsdaten, Eingaben und Zielvorgaben. Sie können neue Kombinationen bilden und sich in einem Gespräch an wiederkehrende Ausdrücke anpassen. Daraus folgt jedoch nicht automatisch, dass sie ein menschliches Sprachbewusstsein, eine stabile eigene Kultur oder eine bewusste Geheimhaltungsabsicht besitzen.

Auch die Annahme, Agenten würden gezielt eine Sprache zur Täuschung der Menschen entwickeln, muss von der bloßen Unverständlichkeit getrennt werden. Eine schwer interpretierbare Kommunikation kann durch Optimierungsprozesse, Fehlanpassungen, Halluzinationen oder mangelnde Vorgaben entstehen. Für eine Bewertung sind daher reproduzierbare Experimente, vollständige Protokolle und unabhängige Analysen erforderlich.

Das relativiert das Sicherheitsproblem nicht. Für die Unternehmenspraxis ist es unerheblich, ob ein System Menschen bewusst ausschließen will oder ob die Unverständlichkeit als unbeabsichtigter Nebeneffekt entsteht. Entscheidend ist, ob verantwortliche Personen die Handlungen des Systems ausreichend kontrollieren und begründen können.

Was Unternehmen jetzt prüfen sollten

Mit der zunehmenden Nutzung von KI-Agenten verschiebt sich der Schwerpunkt von der Bewertung einzelner Antworten hin zur Überwachung ganzer Handlungsketten. Ein Unternehmen sollte nicht nur prüfen, ob ein einzelner Agent korrekte Texte erzeugt. Es muss auch nachvollziehen, wie mehrere Agenten Informationen weitergeben, Aufgaben aufteilen und Entscheidungen anstoßen.

Kommunikation auf ein kontrolliertes Format begrenzen

Eine Möglichkeit besteht darin, Agenten nicht frei miteinander kommunizieren zu lassen. Stattdessen können strukturierte Nachrichtenformate vorgeschrieben werden. Dazu gehören festgelegte Felder für Ziel, Kontext, Datenquelle, Unsicherheit, vorgeschlagene Aktion und erforderliche Freigabe.

Ein solches Format kann freie Sprache nicht vollständig ersetzen. Es erleichtert jedoch die automatische Prüfung und reduziert den Raum für unklare Abkürzungen. Für sicherheitskritische Prozesse sollten Agenten dazu verpflichtet werden, zentrale Entscheidungen in einer standardisierten, für Menschen lesbaren Form zusammenzufassen.

Maschinenkommunikation und Erklärungen trennen

In manchen Anwendungen kann eine kompakte interne Kommunikation sinnvoll sein. Dann sollte zusätzlich eine zweite Ebene existieren, die für menschliche Prüfer bestimmt ist. Jeder relevante Kommunikationsschritt müsste in eine verständliche Zusammenfassung übersetzt werden, einschließlich der verwendeten Daten und der verbleibenden Unsicherheiten.

Wichtig ist, dass eine solche Zusammenfassung nicht lediglich eine nachträgliche sprachliche Glättung darstellt. Sie sollte mit den tatsächlich ausgeführten Aktionen und den ursprünglichen Agentennachrichten verknüpft sein. Andernfalls besteht die Gefahr, dass das System im Nachhinein eine plausible, aber unvollständige Erklärung erzeugt.

Ungewöhnliche Sprachmuster überwachen

Unternehmen können technische Systeme einsetzen, die Veränderungen in der Kommunikation erkennen. Dazu zählen neue Begriffe, steigende Abkürzungsraten, ungewöhnliche Wiederholungen, abrupte Änderungen im Kommunikationsstil oder Nachrichten, deren Bedeutung von unabhängigen Prüfsystemen nicht zuverlässig bewertet werden kann.

Ein Warnsignal sollte nicht automatisch zur Abschaltung führen. Es kann jedoch eine zusätzliche Freigabe, eine Unterbrechung der Agentenkette oder eine manuelle Untersuchung auslösen. Entscheidend ist, dass die Reaktion im Vorfeld definiert wird und nicht erst während eines laufenden Vorfalls entsteht.

Rechte und Zuständigkeiten begrenzen

Auch gut überwachte Kommunikation schützt nicht vor allen Risiken. Agenten sollten nur auf die Daten, Anwendungen und Systeme zugreifen können, die sie für ihre konkrete Aufgabe benötigen. Eine Trennung der Zuständigkeiten verhindert, dass ein einzelner Agent eine komplette Handlungskette eigenständig kontrolliert.

Für externe Aktionen wie den Versand von Nachrichten, Vertragsänderungen, Zahlungen, Löschvorgänge oder Änderungen an produktiven Systemen sind zusätzliche Freigabestufen sinnvoll. Der Einsatz mehrerer Agenten darf nicht dazu führen, dass Verantwortlichkeiten zwischen den Systemen verschwimmen.

Die Bedeutung für Governance und Regulierung

Die Debatte über maschinelle Kommunikation berührt zentrale Fragen der KI-Governance. Bisher konzentrierten sich viele Prüfverfahren auf Eingaben und Ausgaben eines einzelnen Modells. Agentische Systeme erfordern dagegen eine Betrachtung der gesamten Systemarchitektur.

Dazu gehören die verwendeten Modelle, die Rollenverteilung, die verfügbaren Werkzeuge, die Zugriffsmöglichkeiten, die Protokollierung und die menschlichen Eingriffspunkte. Ein System kann auf Ebene einzelner Antworten unauffällig wirken und dennoch im Zusammenspiel mehrerer Agenten schwer kontrollierbare Verhaltensweisen zeigen.

Für regulierte Branchen ist insbesondere die Nachweisfähigkeit relevant. Unternehmen müssen möglicherweise belegen, wie eine Entscheidung zustande kam, welche Kontrollen aktiv waren und wer eine Aktion genehmigt hat. Wenn zentrale Kommunikation nicht verständlich dokumentiert wird, kann dies zu Problemen bei Audits, Datenschutzprüfungen und internen Untersuchungen führen.

Europäische Vorgaben zur Transparenz, Risikobewertung und menschlichen Aufsicht gewinnen in diesem Zusammenhang an praktischer Bedeutung. Die Frage lautet nicht nur, ob ein KI-System leistungsfähig ist. Ebenso wichtig ist, ob seine Entscheidungen überprüfbar, seine Grenzen bekannt und seine Aktivitäten bei Bedarf unterbrechbar sind.

Was die aktuellen Berichte noch nicht beantworten

Die vorliegenden Berichte liefern einen wichtigen Hinweis auf mögliche Herausforderungen, erlauben aber noch keine abschließende Bewertung der allgemeinen Leistungsfähigkeit oder Gefährlichkeit von KI-Agenten. Dafür fehlen unter anderem detaillierte Informationen über die Versuchsbedingungen, die genaue Aufgabenstellung, die Dauer der Interaktionen und die Kriterien, nach denen Nachrichten als unverständlich eingestuft wurden.

Offen ist auch, ob die beobachteten Kommunikationsformen dauerhaft stabil blieben oder nur innerhalb bestimmter Simulationen auftraten. Ebenso ist zu klären, ob die Agenten die neuen Begriffe in anderen Aufgaben wiederverwenden konnten oder ob es sich um lokale Muster ohne langfristige Bedeutung handelte.

Eine weitere offene Frage betrifft die Übersetzbarkeit. Wenn ein unabhängiges Modell oder ein speziell trainierter Beobachter die Kommunikation zuverlässig in menschliche Begriffe übertragen kann, wäre das Risiko anders zu bewerten, als wenn selbst mehrere Prüfverfahren keine konsistente Interpretation ermöglichen. Für die Praxis ist daher nicht allein der ungewöhnliche Sprachstil relevant, sondern die Qualität der technischen Übersetzung und Verifikation.

Schließlich muss zwischen Simulation und realem Einsatz unterschieden werden. Virtuelle Welten ermöglichen kontrollierte Experimente, bilden aber nicht automatisch die Komplexität realer Unternehmensprozesse ab. In produktiven Systemen gelten zusätzliche Regeln, Berechtigungen und Prüfungen. Gleichzeitig können reale Systeme weitreichendere Folgen haben, wenn eine Fehlkommunikation tatsächlich zu einer Aktion führt.

Vom spektakulären Schlagwort zur praktischen Sicherheitsfrage

Die Vorstellung einer KI, die plötzlich eine für Menschen unverständliche Sprache spricht, ist medienwirksam. Für Unternehmen liegt der Wert der aktuellen Diskussion jedoch weniger in der Frage, ob eine Maschine eine „Geheimsprache“ erfindet. Wesentlich ist vielmehr, ob Organisationen die Kontrolle über automatisierte Prozesse behalten, wenn mehrere Systeme miteinander handeln.

Unternehmen, die KI für Recherche, Content-Erstellung, Datenanalyse oder Prozessautomatisierung einsetzen, sollten deshalb frühzeitig zwischen unterschiedlichen Kommunikationsebenen unterscheiden. Ein System wie Mindverse kann als KI-Partner dabei unterstützen, Inhalte, Informationen und Arbeitsabläufe zu strukturieren. Die Verantwortung für Berechtigungen, Prüfprozesse und den Umgang mit sensiblen Daten bleibt jedoch bei der jeweiligen Organisation.

Für den praktischen Einsatz empfiehlt sich ein abgestuftes Vorgehen:

Definieren Sie, welche Entscheidungen ein Agent selbstständig treffen darf und welche eine menschliche Freigabe benötigen.
Verlangen Sie bei kritischen Aktionen eine verständliche Begründung mit Quellen, Unsicherheiten und konkreten Handlungsschritten.
Speichern Sie nicht nur Endergebnisse, sondern auch relevante Zwischenentscheidungen und Agentenübergaben.
Nutzen Sie standardisierte Nachrichtenformate, wenn mehrere Systeme miteinander kommunizieren.
Testen Sie Agenten regelmäßig unter realistischen Bedingungen und mit absichtlich mehrdeutigen oder widersprüchlichen Eingaben.
Richten Sie einen Notfallmechanismus ein, mit dem einzelne Agenten oder ganze Prozessketten sofort angehalten werden können.

Die zentrale Lehre aus den Experimenten lautet damit nicht, dass KI-Systeme zwangsläufig eine geheime Sprache entwickeln. Sie lautet, dass Automatisierung neue Formen der Intransparenz erzeugen kann. Je mehr Aufgaben Unternehmen an miteinander verbundene Agenten delegieren, desto wichtiger werden nachvollziehbare Kommunikation, begrenzte Zugriffsrechte und belastbare Kontrollmechanismen.

Fazit

Die von Emergence beschriebenen Experimente zeigen, dass KI-Agenten bei längerer Zusammenarbeit eigene sprachliche Muster und kontextabhängige Abkürzungen hervorbringen können. Das Verhalten lässt sich zunächst als Folge von Optimierung, Anpassung und effizienter Koordination erklären. Ein Beleg für ein eigenständiges Bewusstsein oder eine gezielte Verschwörung gegen Menschen ist daraus nicht abzuleiten.

Dennoch markiert die Entwicklung eine relevante Grenze für die menschliche Aufsicht. Wenn Menschen zwar sämtliche Nachrichten sehen, deren Bedeutung aber nicht mehr sicher bewerten können, reicht reine Protokollierung nicht aus. Verantwortliche benötigen zusätzlich verständliche Erklärungen, standardisierte Schnittstellen, technische Überwachung und klare Eingriffsmöglichkeiten.

Für B2B-Anwendungen bedeutet das: Die Leistungsfähigkeit von KI-Agenten muss gemeinsam mit ihrer Kontrollierbarkeit bewertet werden. Ein System ist nicht allein deshalb zuverlässig, weil es Aufgaben schnell erledigt. Es muss auch transparent machen können, wie es zu einer Entscheidung gelangt ist, welche Unsicherheiten bestehen und wann ein Mensch eingreifen sollte.

Die Zukunft agentischer KI wird daher nicht nur von besseren Modellen abhängen. Ebenso entscheidend sind die Regeln, Schnittstellen und Sicherheitsarchitekturen, die ihre Zusammenarbeit mit Menschen und untereinander begrenzen. Verständlichkeit bleibt dabei keine optionale Komfortfunktion, sondern eine Voraussetzung für verantwortbare Automatisierung.