// Regulierung 16.09.2026 · 04:33 Uhr 3 Min. Lesezeit

EU AI Act: Neue Regelungen und Anforderungen für Unternehmen

Mindverse News

KI-gestützt erstellt 10 Quellen Arbeitsweise

EU AI Act: Neue Regelungen und Anforderungen für Unternehmen — Symbolbild

Das Wichtigste in Kürze

Der EU AI Act ist am 01. August 2024 in Kraft getreten und wird stufenweise anwendbar.
Transparenzpflichten, wie die Kennzeichnung KI-generierter Inhalte und die Offenlegung von Chatbot-Einsatz, sind seit dem 02. August 2026 verbindlich.
Unternehmen, die KI-Anwendungen nutzen, sind zur Sicherstellung der KI-Kompetenz ihrer Mitarbeiter verpflichtet.
Der AI Act verfolgt einen risikobasierten Ansatz, der KI-Systeme in vier Risikostufen einteilt, wobei Hochrisiko-KI besonderen Pflichten unterliegt.
Nichteinhaltung der Vorschriften kann zu erheblichen Bußgeldern und Abmahnungen führen.

Der AI Act der EU: Ein Kompass für Unternehmen in der KI-Landschaft

Die Europäische Union hat mit dem AI Act eine wegweisende Verordnung geschaffen, um den Einsatz Künstlicher Intelligenz (KI) zu regulieren und einen einheitlichen Rechtsrahmen zu etablieren. Diese Regulierung, die am 01. August 2024 in Kraft trat und stufenweise anwendbar wird, hat weitreichende Implikationen für Unternehmen, die KI-Systeme entwickeln, anbieten oder nutzen. Insbesondere seit dem 02. August 2026 sind die Transparenzpflichten verbindlich, was eine genaue Kenntnis und Umsetzung der Vorgaben unerlässlich macht.

Transparenz und Kennzeichnungspflichten im Fokus

Ein zentraler Aspekt des AI Acts ist die Forderung nach Transparenz. Unternehmen, die KI-generierte Inhalte verwenden, müssen diese unter bestimmten Bedingungen kennzeichnen. Dies betrifft beispielsweise Texte, Bilder oder Audioinhalte, die mithilfe von KI erstellt wurden. Auch der Einsatz von Chatbots muss offengelegt werden, um Nutzern Klarheit über die Interaktion mit einer KI zu verschaffen. Die Nichteinhaltung dieser Kennzeichnungspflichten kann nicht nur erhebliche Bußgelder nach sich ziehen, sondern auch zu Abmahnungen durch Wettbewerber führen, was die Notwendigkeit einer präzisen Umsetzung unterstreicht.

Die Bedeutung von KI-Kompetenz in Unternehmen

Neben den Transparenzpflichten legt der AI Act großen Wert auf die KI-Kompetenz der Mitarbeiter. Unabhängig davon, ob ein Unternehmen Hochrisiko-KI einsetzt oder nicht, besteht die Pflicht, sicherzustellen, dass alle Mitarbeiter, die KI-Anwendungen nutzen, über das notwendige Wissen und die Fähigkeiten verfügen, um dies verantwortungsbewusst und gesetzeskonform zu tun. Dies beinhaltet das Verständnis der Funktionsweise von KI-Systemen, ihrer potenziellen Risiken und der ethischen Implikationen ihrer Nutzung. Unternehmen sind somit gefordert, entsprechende Schulungskonzepte zu entwickeln und umzusetzen, um diese Anforderungen zu erfüllen und auch bei behördlichen Kontrollen entsprechende Nachweise erbringen zu können.

Risikobasierter Ansatz und Hochrisiko-KI

Der AI Act verfolgt einen risikobasierten Ansatz, der KI-Systeme in vier verschiedene Risikostufen einteilt: minimales bis kein Risiko, begrenztes Risiko, hohes Risiko und inakzeptables Risiko. Systeme mit inakzeptablem Risiko sind grundsätzlich verboten, da sie gegen fundamentale EU-Grundrechte verstoßen, wie beispielsweise Social Scoring oder die Emotionserkennung in sensiblen Bereichen. Für Hochrisiko-KI-Systeme, deren Einsatz erhebliche Auswirkungen auf die Gesundheit, Sicherheit oder Grundrechte von Personen haben kann, gelten besonders strenge Anforderungen. Obwohl der Stichtag für Betreiber von Hochrisiko-KI im Zuge des Digital Omnibus verschoben wurde, bleiben die inhaltlichen Anforderungen unverändert. Unternehmen müssen genau prüfen, ob ihre eingesetzten KI-Systeme unter die Kategorie Hochrisiko-KI fallen und welche spezifischen Pflichten sich daraus ergeben, beispielsweise hinsichtlich Konformitätsbewertungen, Risikomanagementsystemen und Daten-Governance.

Handlungsempfehlungen für Unternehmen

Die Implementierung des AI Acts erfordert von Unternehmen eine strategische Herangehensweise. Es ist ratsam, die neuen Vorgaben frühzeitig zu analysieren und in die internen Prozesse zu integrieren. Dies beinhaltet:

Inventarisierung der KI-Nutzung: Erfassen Sie alle im Unternehmen eingesetzten KI-Systeme und prüfen Sie deren Klassifizierung nach dem Risikobasierten Ansatz des AI Acts.
Implementierung von Kennzeichnungsmechanismen: Etablieren Sie technische und organisatorische Maßnahmen zur korrekten Kennzeichnung KI-generierter Inhalte und zur Offenlegung des Chatbot-Einsatzes.
Aufbau von KI-Kompetenz: Entwickeln Sie Schulungs- und Weiterbildungsprogramme für Mitarbeiter, die KI-Anwendungen nutzen, um deren KI-Kompetenz zu gewährleisten und zu dokumentieren.
Anpassung von Prozessen für Hochrisiko-KI: Falls Hochrisiko-KI-Systeme zum Einsatz kommen, sind umfassende Anpassungen der internen Prozesse, von der Entwicklung über den Betrieb bis zur Überwachung, erforderlich.
Rechtliche Beratung: Die Zusammenarbeit mit auf IT-Recht und KI-Recht spezialisierten Fachleuten kann Unternehmen dabei unterstützen, die komplexen Vorgaben des AI Acts rechtssicher umzusetzen und Risiken zu minimieren.

Der AI Act stellt eine signifikante Entwicklung in der Regulierung von Künstlicher Intelligenz dar. Für Unternehmen, die in diesem Bereich tätig sind oder KI nutzen, ist es von entscheidender Bedeutung, die Anforderungen zu verstehen und proaktiv umzusetzen, um nicht nur rechtliche Konsequenzen zu vermeiden, sondern auch das Vertrauen in ihre KI-Anwendungen zu stärken und Innovationen verantwortungsvoll voranzutreiben.