Künstliche Intelligenz und Biosicherheit im Zeitalter vernetzter Forschung

Warum die bisherigen Schutzmechanismen nicht ausreichen

Viele KI-Anbieter verwenden Inhaltsfilter, Richtlinien und technische Sperren, um Anfragen zu Waffen, Gewalt oder gefährlichen biologischen Themen einzuschränken. Diese Maßnahmen sind ein wichtiger Bestandteil verantwortungsvoller Entwicklung, aber kein vollständiges Schutzsystem.

Ein Nutzer kann versuchen, eine Anfrage indirekt zu formulieren, sie in mehrere harmlose Teilfragen aufzuteilen oder ein Modell ohne entsprechende Sicherheitsvorgaben einzusetzen. Auch Übersetzungen, Rollenspiele und vermeintlich akademische Szenarien können dazu dienen, Grenzen zu testen. Zusätzlich entstehen neue Risiken, wenn verschiedene Modelle kombiniert werden und kein einzelner Anbieter den gesamten Nutzungskontext kennt.

Ein weiterer Schwachpunkt ist die Erkennung der Absicht. Die gleiche Frage kann in einer Universität, einem Pharmaunternehmen, einer Gesundheitsbehörde oder einer kriminellen Organisation gestellt werden. Ein Sprachmodell sieht in vielen Fällen weder die Identität des Nutzers noch dessen tatsächliche Arbeitsumgebung. Selbst eine glaubwürdige berufliche Begründung ist kein sicherer Beweis für eine legitime Nutzung.

Unternehmen benötigen daher mehr als eine Liste verbotener Begriffe. Sie brauchen risikobasierte Kontrollen, die Kontext, Nutzerrolle, Zugriffsumfang und die Kombination mehrerer Aktionen berücksichtigen. Bei besonders sensiblen Anwendungen können abgestufte Berechtigungen, menschliche Freigaben und eine revisionssichere Protokollierung erforderlich sein.

Was aktuelle Berichte tatsächlich belegen

Die jüngsten Medienberichte über Anthropic und das Modell Claude beschreiben nach Unternehmensangaben mehrere Fälle, in denen Nutzer versucht haben sollen, KI für gefährliche Forschungsbereiche einzusetzen. Genannt wurden unter anderem Anfragen mit möglichem Bezug zu biologischen Waffen. Eine erfolgreich hergestellte biologische Waffe wurde in den vorliegenden Berichten jedoch nicht nachgewiesen.

Diese Unterscheidung ist für eine sachliche Einordnung zentral. Es gibt mindestens drei unterschiedliche Ebenen:

• Die Absicht eines Nutzers, sich missbrauchsrelevantes Wissen zu beschaffen.
• Die Fähigkeit eines KI-Modells, eine Anfrage zumindest teilweise zu beantworten.
• Die praktische Umsetzung in einem Labor und die Herstellung eines wirksamen, kontrollierbaren und verbreitbaren biologischen Agens.

Zwischen diesen Ebenen liegen erhebliche technische, organisatorische und rechtliche Hürden. Dennoch wäre es falsch, nur die dritte Ebene zu betrachten. Sicherheitsrisiken können bereits entstehen, wenn ein System die Vorbereitung erleichtert, die Auswahl von Optionen beschleunigt oder die Kommunikation zwischen Personen mit unterschiedlichen Fachkenntnissen verbessert.

Die Berichte sind daher eher als Hinweis auf eine entstehende Risikoklasse zu verstehen. Sie liefern keine abschließende Antwort auf die Frage, wie groß die Gefahr ist. Dafür wären transparente, unabhängig überprüfbare Angaben über die konkreten Anfragen, die Fähigkeiten der verwendeten Modelle und die Ergebnisse der Sicherheitsprüfungen erforderlich.

Die reale Bedrohung bleibt nicht auf KI beschränkt

Eine Konzentration auf Chatbots kann den Blick auf bereits bestehende Gefahren verengen. Biologische Risiken entstehen nicht erst durch künstliche Intelligenz. Natürliche Ausbrüche, Laborunfälle, unzureichende Biosicherheitsstandards, illegale Beschaffung und staatliche Programme können ebenfalls erhebliche Folgen haben.

Die Geschichte zeigt, dass biologische Gefahren nicht zwingend aus hochkomplexen Zukunftstechnologien hervorgehen müssen. Auch bekannte Krankheitserreger können bei veränderten gesellschaftlichen, ökologischen oder geopolitischen Bedingungen große Schäden verursachen. Die weltweite Mobilität, die Urbanisierung und die enge wirtschaftliche Vernetzung erhöhen die Bedeutung schneller Erkennung und koordinierter Reaktion.

KI kann diese Risiken in beide Richtungen beeinflussen. Sie kann Forschern helfen, Ausbrüche früher zu erkennen, große Datenmengen aus Gesundheits- und Umweltüberwachung auszuwerten oder medizinische Gegenmaßnahmen zu entwickeln. Gleichzeitig kann sie die Geschwindigkeit erhöhen, mit der Informationen verbreitet, kombiniert oder missbräuchlich eingesetzt werden.

Eine angemessene Sicherheitsstrategie muss deshalb sowohl vorsorgende als auch reaktive Maßnahmen umfassen. Dazu gehören robuste Überwachungssysteme, vertrauenswürdige Meldewege, Laborkontrollen, internationale Kooperation und Investitionen in Diagnostik sowie medizinische Gegenmittel.

Die Bedeutung internationaler Regeln

Biologische Waffen sind nach dem Übereinkommen über das Verbot biologischer Waffen und Toxinwaffen, der Biowaffenkonvention, international geächtet. Das Abkommen verbietet Entwicklung, Herstellung, Lagerung und Erwerb biologischer Waffen. Die technischen Veränderungen in der Biotechnologie und der Einsatz von KI stellen die internationale Ordnung jedoch vor neue Prüfungen.

Die Herausforderung besteht darin, dass Forschung und Missbrauch nicht immer klar voneinander getrennt werden können. Viele Technologien besitzen einen sogenannten Dual-Use-Charakter. Sie können für zivile Anwendungen und zugleich für militärische oder schädliche Zwecke genutzt werden. Exportkontrollen, Forschungskontrollen und internationale Vereinbarungen müssen diese Doppelverwendung berücksichtigen, ohne den wissenschaftlichen Austausch grundsätzlich zu blockieren.

Für KI-Systeme kommen zusätzliche Fragen hinzu: Welche Anbieter müssen sicherheitsrelevante Vorfälle melden? Wie werden Modelle getestet, bevor sie mit biologischen Daten oder Laborsteuerungen verbunden werden? Welche Informationen sollten zwischen Unternehmen, Behörden und Forschungseinrichtungen ausgetauscht werden? Und wie lässt sich verhindern, dass Sicherheitsstandards durch den Wechsel zu weniger regulierten Anbietern umgangen werden?

Eine internationale Antwort wird dadurch erschwert, dass KI-Modelle digital verteilt, schnell verändert und in unterschiedlichen Rechtsräumen betrieben werden können. Nationale Regeln bleiben wichtig, reichen allein aber nicht aus. Erforderlich sind gemeinsame Mindeststandards für Tests, Vorfallmeldungen, Zugangsmanagement und die Bewertung besonders leistungsfähiger Modelle.

Konsequenzen für Unternehmen und Forschungseinrichtungen

Für Unternehmen aus der Biotechnologie, Pharmaindustrie, Diagnostik und Gesundheitswirtschaft entsteht ein neues Risikofeld. Viele Organisationen nutzen bereits generative KI für Dokumentation, Recherche, Programmierung oder interne Wissensarbeit. Nicht immer ist dabei geklärt, welche Daten verarbeitet werden dürfen, welche Anwendungen kritisch sind und wer die Ergebnisse überprüft.

Ein wirksames Sicherheitskonzept sollte mindestens folgende Bereiche abdecken:

• Anwendungsinventar: Erfassen Sie, welche KI-Systeme in Forschung, Produktion, Verwaltung und Kundenkommunikation eingesetzt werden.
• Datenklassifizierung: Legen Sie fest, welche biologischen, personenbezogenen, medizinischen oder geschäftskritischen Daten in externe Systeme gelangen dürfen.
• Rollenbasierter Zugriff: Begrenzen Sie Funktionen und Datenzugriffe nach Aufgabe, Qualifikation und Verantwortlichkeit.
• Menschliche Kontrolle: Lassen Sie sicherheitskritische Ausgaben und Handlungsempfehlungen durch qualifizierte Fachkräfte prüfen.
• Protokollierung: Dokumentieren Sie relevante Eingaben, Ausgaben, Tool-Nutzung und Freigaben, soweit dies rechtlich zulässig ist.
• Vorfallmanagement: Definieren Sie Meldewege für verdächtige Anfragen, Datenabflüsse, Modellfehler und unbefugte Zugriffe.
• Lieferkettenprüfung: Bewerten Sie auch externe KI-Dienste, Auftragslabore, Cloudanbieter und Softwarekomponenten.
• Regelmäßige Tests: Prüfen Sie Systeme mit kontrollierten Sicherheitstests auf Umgehungsversuche und unerwartete Ausgaben.

Für mittelständische Unternehmen ist dabei eine angemessene Verhältnismäßigkeit wichtig. Nicht jede Anwendung benötigt dieselben Kontrollen. Ein internes Werkzeug zur Formatierung allgemeiner Texte ist anders zu bewerten als ein System, das wissenschaftliche Daten analysiert oder mit Laborprozessen verbunden wird.

Die Rolle von KI-Plattformen wie Mindverse

All-in-one-Plattformen für Texte, Bilder, Recherche und weitere KI-Anwendungen können Unternehmen dabei unterstützen, ihre Nutzung zu bündeln und transparenter zu organisieren. Gleichzeitig erhöht die Zusammenführung verschiedener Funktionen die Bedeutung eines klaren Berechtigungs- und Datenkonzepts.

Für Unternehmen ist entscheidend, nicht nur die Qualität der generierten Inhalte zu bewerten. Ebenso wichtig sind Fragen nach Datenverarbeitung, Zugriffskontrolle, Nachvollziehbarkeit und der Einbindung in bestehende Compliance-Prozesse. Ein KI-Partner sollte in die unternehmensweite Sicherheitsarchitektur integriert werden und nicht als isolierter Schatten-IT-Dienst neben ihr bestehen.

Mindverse kann in diesem Zusammenhang als Beispiel für die praktische Herausforderung dienen: Je vielfältiger die Einsatzmöglichkeiten einer Plattform sind, desto genauer müssen Unternehmen definieren, welche Informationen für welche Aufgaben verwendet werden dürfen. Recherchefunktionen, Textgenerierung und die Verarbeitung interner Dokumente können unterschiedliche Schutzbedarfe haben. Eine klare Trennung von Datenräumen und Nutzerrechten hilft, Risiken zu begrenzen.

Warum Transparenz und unabhängige Prüfung wichtiger werden

Die Sicherheitsdebatte über KI und Biotechnologie kann nicht allein auf Unternehmensangaben oder spektakulären Einzelfällen beruhen. Anbieter sollten möglichst nachvollziehbar darlegen, wie sie Modelle testen, welche Kategorien von Anfragen blockiert werden und wie sie mit vermuteten Missbrauchsfällen umgehen. Dabei müssen sie zugleich verhindern, dass detaillierte Sicherheitsinformationen neue Umgehungsmöglichkeiten schaffen.

Unabhängige Prüfungen können helfen, die Aussagekraft von Sicherheitsversprechen zu beurteilen. Dazu gehören technische Tests, sogenannte Red-Team-Übungen, wissenschaftliche Evaluationen und Audits durch externe Stellen. Für besonders leistungsfähige Systeme sind zudem kontinuierliche Bewertungen erforderlich, weil sich Modelle, Schnittstellen und Nutzungsszenarien laufend verändern.

Auch Behörden und Forschungseinrichtungen stehen in der Verantwortung. Sie sollten Sicherheitsvorfälle auswerten, ohne notwendige Informationen zurückzuhalten, und gemeinsame Standards für die Meldung von Risiken entwickeln. Eine fragmentierte Landschaft, in der jeder Akteur nur seine eigenen Vorfälle kennt, erschwert eine belastbare Gesamteinschätzung.

Zwischen Überreaktion und Verharmlosung

Die öffentliche Kommunikation muss zwei gegensätzliche Fehler vermeiden. Eine Übertreibung könnte den Eindruck erwecken, KI mache biologische Waffen unmittelbar und allgemein zugänglich. Das würde wissenschaftliche Arbeit erschweren und Ressourcen möglicherweise an den falschen Stellen binden. Eine Verharmlosung wäre jedoch ebenso problematisch, weil sie die Bedeutung neuer Zugangsmöglichkeiten und automatisierter Prozesse unterschätzen würde.

Eine nüchterne Bewertung unterscheidet deshalb zwischen theoretischer Möglichkeit, nachgewiesener Fähigkeit und praktischer Umsetzbarkeit. Sie berücksichtigt außerdem, wie stark eine Technologie den Aufwand, die Kosten und die erforderliche Expertise für einen Missbrauch tatsächlich reduziert.

Das wichtigste Signal aus den aktuellen Fällen lautet daher nicht, dass eine KI bereits eine Biowaffe entwickelt habe. Es lautet vielmehr, dass Sicherheitsprüfungen frühzeitig ansetzen müssen. Wenn ein System in der Lage ist, relevante biologische Informationen zusammenzuführen, sollten Anbieter und Nutzer die Risiken bewerten, bevor eine direkte Verbindung zu realen Labor- oder Produktionsprozessen entsteht.

Ein Sicherheitsansatz für die kommenden Jahre

Die Verbindung von KI und Biotechnologie wird sich voraussichtlich weiter intensivieren. Modelle werden besser darin werden, wissenschaftliche Texte zu verstehen, Daten zu strukturieren und komplexe Aufgaben zu planen. Gleichzeitig werden Labore stärker automatisiert und Forschungsabläufe digital vernetzt. Diese Entwicklung lässt sich nicht allein durch Verbote aufhalten.

Erforderlich ist ein mehrschichtiger Ansatz:

• Technische Schutzmechanismen in KI-Modellen und ihren Schnittstellen.
• Verbindliche Standards für Biosicherheit und verantwortungsvolle Forschung.
• Qualifizierte Fachkräfte, die KI-Ausgaben fachlich und ethisch bewerten können.
• Kontrollen für besonders sensible Daten, Materialien und Dienstleistungen.
• Internationale Zusammenarbeit bei Vorfällen, Standards und Nichtverbreitung.
• Investitionen in Forschung zur Erkennung, Prävention und Behandlung biologischer Gefahren.
• Regelmäßige Neubewertung, weil sich Fähigkeiten und Nutzungsszenarien schnell verändern.

Für Unternehmen bedeutet dies, KI-Governance und Biosicherheit nicht getrennt zu behandeln. Die IT-Abteilung, die Forschungsleitung, der Datenschutz, die Compliance-Organisation und die Laborverantwortlichen müssen gemeinsame Prozesse entwickeln. Nur so lässt sich verhindern, dass ein technisch erlaubter Zugriff aus Sicht der Gesamtorganisation dennoch ein unvertretbares Risiko erzeugt.

Fazit: Ein Warnsignal für die gesamte Biotechnologie

Die Diskussion über KI-Anfragen mit möglichem Bezug zu Biowaffen ist weder ein Beleg für eine unmittelbar bevorstehende Katastrophe noch ein Thema, das sich mit einzelnen Chatbot-Sperren erledigen lässt. Sie macht sichtbar, dass technologische Risiken zunehmend an Schnittstellen entstehen. Künstliche Intelligenz, Biotechnologie, Cloud-Infrastruktur, Automatisierung und globale Lieferketten verstärken sich gegenseitig.

Für die Biotechnologie sollte dies ein Anlass sein, Sicherheitsfragen bereits in der Entwicklung neuer Anwendungen mitzudenken. Dabei geht es nicht nur um die Verhinderung missbräuchlicher Nutzung. Ebenso wichtig sind die Fähigkeit zur Erkennung ungewöhnlicher Aktivitäten, der Schutz sensibler Daten, die Vorbereitung auf Vorfälle und die Entwicklung von Gegenmaßnahmen.

KI bleibt ein Instrument mit erheblichem Nutzen für Medizin, Forschung und öffentliche Gesundheit. Gerade deshalb ist eine realistische Sicherheitsstrategie erforderlich. Sie muss Innovation ermöglichen, ohne den Zugang zu gefährlichen Fähigkeiten unnötig zu erleichtern. Für Unternehmen und Forschungseinrichtungen wird die Fähigkeit, diese Balance strukturiert und überprüfbar zu organisieren, zu einem wichtigen Bestandteil moderner Verantwortung.

Die zentrale Frage lautet damit nicht nur, was ein KI-Chatbot auf eine problematische Anfrage antwortet. Entscheidend ist, welche weiteren Systeme, Daten und Prozesse daran angeschlossen sind – und ob Menschen, Unternehmen und Behörden rechtzeitig erkennen, wann aus nützlicher Unterstützung ein sicherheitsrelevantes Risiko werden könnte.

Bibliografie

1. Deutscher Bundestag: Technikfolgenabschätzung – Biotechnologie und künstliche Intelligenz: Risiken der Forschung für die Sicherheit sowie die Proliferation von Biowaffen. Drucksache 21/7148, 10. Juni 2026. https://dserver.bundestag.de/btd/21/071/2107148.pdf
2. Büro für Technikfolgen-Abschätzung beim Deutschen Bundestag: Biotechnologie und künstliche Intelligenz: Risiken der Forschung für die Sicherheit und die Proliferation von Biowaffen. Projekt- und Themenseiten, 2026. https://www.tab-beim-bundestag.de/themenfeld-infrastrukturen-und-sicherheit_biotechnologie-und-kunstliche-intelligenz-risiken-der-forschung-fur-sicherheit-und-proliferation-von-biowaffen.php
3. König, Harald; Sauter, Arnold: Biotechnologie und künstliche Intelligenz: Risiken der Forschung für die Sicherheit sowie die Proliferation von Biowaffen. TAB-Fokus Nr. 51, Institut für Technikfolgenabschätzung und Systemanalyse, Karlsruher Institut für Technologie. https://publikationen.bibliothek.kit.edu/1000196056
4. ZDFheute: Anthropic blockt mögliche Biowaffen-Forschung mit KI „Claude“, 11. September 2026. https://www.zdfheute.de/wirtschaft/ki-anthropic-biowaffen-forschung-100.html
5. MDR Aktuell, Bula, Niels: Drohen uns künftig gefährliche Biowaffen durch KI?, 14. September 2026. https://www.mdr.de/nachrichten/deutschland/politik/kuenstliche-intelligenz-viren-chancen-risiken,ki-biowaffen-100.html
6. Spektrum der Wissenschaft, Schwägerl, Christian: Hybride Kriegsführung: So befeuert KI den Einsatz neuartiger Biowaffen, 4. Juni 2026. https://www.spektrum.de/news/kriegsfuehrung-so-befeuert-ki-den-einsatz-neuartiger-biowaffen/2327945
7. Handelsblatt: Gentechnik und KI schaffen neue Gefahr durch Biowaffen, 24. Juni 2026. https://www.handelsblatt.com/unternehmen/industrie/biodefense-gentechnik-und-ki-schaffen-neue-gefahr-durch-biowaffen/100233384.html
8. Merkur.de: Vogelgrippe und Toxine bei Claude: Anthropic und der Waffenmissbrauch, 14. September 2026. https://www.merkur.de/wirtschaft/vogelgrippe-und-toxine-bei-claude-anthropic-und-der-waffenmissbrauch-zr-94490928.html
9. t3n beziehungsweise MIT Technology Review, Hamzelou, Jessica: Warum das KI-Szenario mit Biowaffen ein Weckruf für die Biotechnologie sein sollte, 23. September 2026. https://t3n.de/news/statt-biowaffen-von-der-ki-welche-erreger-tatsaechlich-die-menschheit-bedrohen-1764624/