Die Verpflichtungen der EU- Verordnung für Künstliche Intelligenz

Ab dem 02. Februar 2025 treten die ersten Verpflichtungen des EU AI Act in Kraft – ein entscheidender Meilenstein in der Gesetzgebung, denn fast jedes Unternehmen setzt künstliche Intelligenz (KI) als Anwender ein und immer mehr Unternehmen entwickeln KI als Betreiber.Sechs Monate nach Inkrafttreten des Gesetzes endet die Schonfrist - ab diesem Datum müssen verbotene Praktiken unterbleiben und die Vorgaben zur sogenannten KI-Kompetenz („AI Literacy“) umgesetzt sein. Für Unternehmen bedeutet das: Jetzt handeln, um den neuen rechtlichen Anforderungen frühzeitig gerecht zu werden.

Was genau ist künftig verboten?

Der AI Act stuft bestimmte Praktiken als unzulässig ein, da sie die Grundrechte und ethischen Standards der EU verletzen. Dazu gehören:

• Manipulative Techniken: Systeme, die das Verhalten und Entscheidungen von Personen so beeinflussen, dass diese ihnen schaden könnten.
• Ausbeutung von Schwächen: Der Einsatz von KI zur Ausnutzung von Schwächen bestimmter Gruppen, bspw. von Minderjährigen oder Menschen mit Behinderungen.
• Social Scoring: Eine Bewertung des Verhaltens oder der Persönlichkeit von Einzelpersonen durch öffentliche Stellen.
• Echtzeit-Biometrie Überwachung im öffentlichen Raum: Mit wenigen Ausnahmen ist der Einsatz solcher Technologien untersagt.
• Emotionserkennung: Der Einsatz von KI-Systemen zur Erkennung und Analyse des emotionalen Zustands einer Person ist verboten.
• Gesichtsdatenbanken: Die Erstellung und Nutzung großflächiger Gesichtsdatenbanken, insbesondere zur Überwachung oder Verfolgung von Personen, ist untersagt.

Was bedeutet KI-Kompetenz („AI Literacy“)?

Unternehmen müssen sicherstellen, dass alle Mitarbeitenden, die mit KI-Systemen arbeiten oder diese nutzen, über ausreichende Kenntnisse und Fähigkeiten im Umgang damit verfügen. Dazu gehören:

• Verständnis für KI-Grundlagen: Wie KI-Systeme funktionieren, welche Daten sie nutzen und welche Ergebnisse sie liefern.
• Risikoerkennung: Mögliche ethische, rechtliche und technische Risiken beim Einsatz von KI erkennen und bewerten können.
• Verantwortungsvoller Umgang: Sicherstellen, dass KI-Systeme fair, transparent und sicher eingesetzt werden.

Tipps: Was Unternehmen jetzt umsetzen sollten

Um die Deadline des AI Act am 2. Februar 2025 einzuhalten, sollten Unternehmen folgende Schritte priorisieren:

1. Prüfen Sie Ihre KI-Systeme: Analysieren Sie, ob Ihre eingesetzten oder entwickelten KI-Systeme den Vorgaben entsprechen. Identifizieren Sie mögliche Risiken und stellen Sie sicher, dass ihr Unternehmen die notwendigen Anforderungen erfüllt.
2. Schulungen für Mitarbeitende durchführen: Entwickeln Sie Schulungsprogramme, um die KI-Kompetenz Ihrer Mitarbeitenden sicherzustellen. Setzen Sie auf praxisnahe Trainings und zertifizierte Weiterbildungen.
3. Interne Richtlinien, Transparenz und externe Kommunikation: Passen Sie Ihre internen Prozesse und Richtlinien an die Anforderungen des AI Act an. Das umfasst klare Regeln zur Nutzung, Überwachung und Dokumentation von KI-Systemen. Stellen Sie sicher, dass die Funktionsweise und der Einsatz Ihrer KI-Systeme nachvollziehbar sind - dies ist insbesondere für Ihre Kund*innen und Partner*innen wichtig.
4. KI-Management-Rahmenwerke verwenden: Nutzen Sie etablierte Standards wie die ISO 42001, die einen technologie- und regulierungsunabhängigen Ansatz für die Governance von KI bieten. Solche Rahmenwerke helfen dabei, klare Strukturen und Prozesse für den sicheren und verantwortungsvollen Einsatz von KI zu etablieren.

Ausblick: Welche wichtigen Deadlines rund um den AI Act anstehen

Abgesehen von der Deadline am 02. Februar 2025 gibt es weitere bedeutende Fristen, die Unternehmen beachten sollten:

• August 2025: Ab diesem Datum gelten spezifische Regelungen für General-Purpose-AI-Systeme - also solche, die für eine Vielzahl von Anwendungen eingesetzt werden können.
• August 2026: Hochrisiko-KI-Systeme gemäß Anhang III des AI Act müssen den festgelegten Anforderungen entsprechen. Dies betrifft unter anderem Anwendungen in Bereichen wie Bildung, Arbeit und Strafverfolgung.
• August 2027: Die Regelungen für Hochrisiko-KI-Systeme gemäß Anhang I treten in Kraft. Diese betreffen vor allem grundlegende Infrastrukturen und Technologien mit besonderer Bedeutung für die öffentliche Sicherheit.

Für Unternehmen ist es entscheidend, sich frühzeitig auf diese Fristen vorzubereiten. Ein langfristiger Plan und eine kontinuierliche Anpassung an die rechtlichen Vorgaben sind unverzichtbar, um rechtliche und wirtschaftliche Risiken wirksam zu minimieren und KI künftig vollumfänglich und sicher nutzen zu können.