Der EU AI Act ist eine Verordnung der Europäischen Union, die seit August 2024 in Kraft ist und einheitliche Regeln für den Einsatz von Künstlicher Intelligenz in allen Mitgliedstaaten festlegt. Ziel ist es, Innovation zu ermöglichen und gleichzeitig die Sicherheit, den Schutz der Grundrechte und die Transparenz von KI-Systemen zu gewährleisten. Die Verordnung verfolgt einen risikobasierten Ansatz, bei dem KI-Systeme in verschiedene Risikostufen eingeteilt werden. Je höher das Risiko für Gesundheit, Sicherheit oder Grundrechte, desto strenger sind die Anforderungen an Entwicklung, Dokumentation, Überwachung und menschliche Aufsicht.

Der Hauptzweck des EU AI Act ist es, einen einheitlichen rechtlichen Rahmen für den Einsatz von Künstlicher Intelligenz in der Europäischen Union zu schaffen. Ziel ist es, Innovation zu fördern und gleichzeitig sicherzustellen, dass KI-Systeme vertrauenswürdig, sicher und mit den Grundrechten der Menschen vereinbar sind. Die Verordnung will verhindern, dass KI-Technologien Schaden anrichten, indem sie Gesundheit, Sicherheit oder Rechte von Personen gefährden. Dazu verfolgt der EU AI Act einen risikobasierten Ansatz: Je größer das potenzielle Risiko eines KI-Systems, desto strenger sind die Anforderungen an seine Entwicklung, Dokumentation, Überwachung und Transparenz. Auf diese Weise soll ein Gleichgewicht entstehen zwischen dem Schutz der Bürgerinnen und Bürger und der Möglichkeit, KI-Innovationen in Europa voranzutreiben.

Der EU AI Act betrifft nicht nur Anbieter von KI-Systemen, sondern ausdrücklich auch deren Nutzer. Anbieter sind für die Entwicklung, Konformitätsbewertung und das Inverkehrbringen der KI-Systeme verantwortlich. Nutzer wiederum haben die Pflicht, diese Systeme korrekt einzusetzen, ihre Funktionsweise zu überwachen, Mitarbeitende entsprechend zu schulen und schwerwiegende Vorfälle zu melden. Sie müssen außerdem dafür sorgen, dass sie die Transparenzpflichten einhalten, zum Beispiel wenn eine Kennzeichnung der KI-Nutzung vorgeschrieben ist. Auch Händler, Importeure und Distributoren werden vom EU AI Act erfasst, weil sie sicherstellen müssen, dass nur konforme Systeme auf den europäischen Markt gelangen. Schließlich gilt die Verordnung nicht nur innerhalb der EU, sondern auch für Unternehmen außerhalb Europas, wenn ihre KI-Systeme in der EU verwendet werden oder deren Ergebnisse in der EU genutzt werden.

Für hochriskante KI-Systeme schreibt der EU AI Act eine umfassende und nachvollziehbare Dokumentation vor. Anbieter müssen eine sogenannte technische Dokumentation erstellen, die das gesamte System in seinen wesentlichen Eigenschaften beschreibt. Darin muss klar ersichtlich sein, wie das System entwickelt wurde, welche Trainings-, Validierungs- und Testdaten verwendet wurden und welche Maßnahmen ergriffen wurden, um Risiken zu identifizieren und zu minimieren. Auch die eingesetzten Algorithmen, die Systemarchitektur und die vorgesehenen Einsatzbereiche müssen dokumentiert werden. Zusätzlich muss ein Protokoll über den Betrieb des Systems geführt werden, das sogenannte Logging. Dieses ermöglicht es, später nachzuvollziehen, wie das System in der Praxis Entscheidungen getroffen hat. Nutzer erhalten Zugang zu den relevanten Teilen der Dokumentation, damit sie das System korrekt einsetzen und überwachen können. Die Dokumentation muss so gestaltet sein, dass Behörden sie im Rahmen von Konformitätsprüfungen oder Marktaufsicht jederzeit einsehen können.

Die Einhaltung des EU AI Act wird durch ein Zusammenspiel von nationalen Behörden und einer zentralen europäischen Stelle überwacht. In jedem EU-Mitgliedstaat werden sogenannte Marktüberwachungs- und Durchsetzungsbehörden benannt, die dafür zuständig sind, die Einhaltung der Vorschriften vor Ort zu kontrollieren. Diese nationalen Behörden können Unternehmen überprüfen, technische Dokumentationen anfordern und notfalls den Einsatz eines KI-Systems untersagen, wenn es nicht konform ist oder ein erhebliches Risiko darstellt. Auf europäischer Ebene gibt es zusätzlich ein European AI Office, das seit 2024 eingerichtet wurde. Dieses Büro koordiniert die einheitliche Umsetzung der Verordnung, überwacht insbesondere leistungsstarke General-Purpose-Modelle und unterstützt die Zusammenarbeit zwischen den Mitgliedstaaten. Es kann Leitlinien und Standards veröffentlichen, um sicherzustellen, dass die Vorschriften in der gesamten EU einheitlich ausgelegt werden.

Der EU AI Act schafft einen einheitlichen Rechtsrahmen in allen Mitgliedstaaten und reduziert dadurch Rechtsunsicherheiten. Klare Vorgaben zu Sicherheit, Datenqualität und Transparenz stärken das Vertrauen von Kunden, Partnern und Behörden. Das kann Unternehmen einen Wettbewerbsvorteil verschaffen, weil regelkonforme und nachvollziehbare KI-Lösungen bevorzugt werden. Gleichzeitig eröffnet die Verordnung neue Möglichkeiten für Innovation, da sie einen verlässlichen Rahmen für die Entwicklung und den Einsatz von KI in Europa bietet. Unternehmen, die sich frühzeitig anpassen, können sich als Vorreiter für verantwortungsvolle KI positionieren und neue Geschäftsmodelle erschließen.