Der EU AI Act, das erste umfassende KI-Gesetz der Welt, wurde von der Europäischen Kommission im April 2021 vorgestellt und hat seitdem intensive Verhandlungen durchlaufen. Der Act zielt darauf ab, sicherzustellen, dass KI-Anwendungen transparent, zuverlässig und sicher sind und die Grundrechte und -werte respektieren. 

Der EU AI Act bzw. die KI Verordnung soll ab 2026 gelten. Dieser Überblick skizziert die Entwicklung des EU AI Acts von den Anfängen bis heute und gibt einen Ausblick auf die noch anstehenden Schritte bis zum Inkrafttreten der KI-Verordnung.

• Oktober 2020, Europäischer Rat erörterte künstliche Intelligenz: Die Staats- und Regierungschef:innen der EU erörterten den digitalen Wandel und forderten die Europäische Kommission auf, Strategien zur Steigerung der KI-Investitionen zu entwickeln, die Koordination europäischer Forschungszentren zu verbessern und eine klare und objektive Definition für hochriskante KI-Systeme zu erstellen.
• April 2021, Europäische Kommission schlug Gesetz über künstliche Intelligenz vor: Die Europäische Kommission legte einen Vorschlag vor, um die Vorschriften für Künstliche Intelligenz in der EU zu vereinheitlichen. Dieser Vorschlag zielte darauf ab, das Vertrauen in KI zu stärken und ihre Entwicklung sowie Aktualisierung innerhalb der EU zu unterstützen.
• Dezember 2022, Rat legte seinen Standpunkt zum Gesetz über künstliche Intelligenz fest: Der EU-Rat legte seinen Standpunkt zum KI-Gesetz fest, um die Sicherheit von KI-Systemen im EU-Markt und die Einhaltung der Grundrechte und Werte der Union zu gewährleisten. Nach dieser Entscheidung begann der Rat Verhandlungen mit dem Europäischen Parlament, um eine endgültige Einigung über das Gesetz zu erreichen.
• Dezember 2023: Rat und Parlament einigten sich auf KI-Gesetz: Nach monatelangen Verhandlungen und intensiven dreitägigen Gesprächen erreichten der Rat und das Europäische Parlament am 9. Dezember 2023 eine vorläufige Einigung über das KI-Gesetz.

Zukünftige Schritte:

• Formelle Annahme: Der finale Gesetzestext muss vom Europäischen Parlament offiziell angenommen werden.
• Inkrafttreten: Der AI Act soll Anfang 2024 in Kraft treten und schrittweise anwendbar werden, je nach Regelungen teilweise bereits 6 Monate später, spätestens aber nach 2 Jahren (“Übergangsphase”).
• Übergangsphase: Die Übergangsphase ist vorgesehen, um Behördenstrukturen aufzubauen und Unternehmen die Anpassung an die neuen Regeln zu ermöglichen.

Die KI-Verordnung regelt eine Vielzahl von Aspekten im Zusammenhang mit der Entwicklung, Bereitstellung und Nutzung von KI-Systemen, einschließlich:

• Klassifizierung von KI-Systemen: Einteilung in verschiedene Kategorien basierend auf dem Risikograd. Strenge Regulierung für Hochrisiko-Systeme, während niedrigere Risiken weniger strenge Anforderungen haben.
• Verbotene KI-Anwendungen: Einschränkungen für Praktiken wie soziales Scoring und manipulative KI.
• Anforderungen an KI-Systeme: Festlegung von Mindeststandards für Sicherheit, Transparenz, Zuverlässigkeit und ethische Verantwortung. Wie zum Beispiel für Datenqualität, menschlicher Aufsicht, Transparenz in Entscheidungen und ethischen Richtlinien.
• Biometrische Identifizierung: Biometrische Echtzeit-Überwachung in kritischen Situationen, wie bei Gefährdung von Leib und Leben oder Terroranschlägen ist erlaubt. Jeder Einsatz muss nachträglich genehmigt und gemeldet werden, mit der Möglichkeit für EU-Staaten, strengere Regeln einzuführen.
• Foundation Models: Anbietende von Foundation Models müssen detaillierte technische Informationen bereitstellen, wobei besonders leistungsfähige Modelle strengeren Anforderungen unterliegen. Für Open-Source-Modelle gelten abweichende Bestimmungen.
• Konformitätsbewertung und Zertifizierung: Verpflichtende Überprüfung und Zertifizierung für Hochrisiko-KI-Systeme, um Konformität mit den Verordnungsstandards zu gewährleisten.
• Verantwortung und Sanktionen: Festlegung der Verantwortlichkeiten von Anbietenden und Nutzer:innen und mögliche Strafen bei Verstößen gegen die Verordnung.
• Überwachung und Aufsicht: Einrichtung von Überwachungs- und Aufsichtsbehörden durch die EU-Mitgliedstaaten zur Einhaltung der Verordnung.

Die KI-Verordnung wird ein breites Spektrum von Akteur:innen betreffen, die an der Entwicklung, dem Einsatz und der Nutzung von KI-Systemen in der EU beteiligt sind. Insbesondere wird die KI-Verordnung für die folgenden Akteure relevant:

• KI-Entwickler:innen und -Anbietenden: Unternehmen und Organisationen, die KI-Systeme in der EU entwickeln oder anbieten, müssen die in der Verordnung festgelegten Anforderungen und Pflichten einhalten.
• Nutzende und Betreibende von KI-Systemen: Unternehmen und Organisationen, die KI-Systeme in der EU nutzen oder betreiben, müssen sicherstellen, dass sie die in der Verordnung festgelegten Anforderungen und Pflichten einhalten.
• Aufsichtsbehörden und weitere Behörden: Die nationalen Behörden in der EU werden für die Durchsetzung der Verordnung verantwortlich sein und sicherstellen, dass die in ihren jeweiligen Ländern eingesetzten KI-Systeme die in der Verordnung festgelegten Anforderungen und Pflichten erfüllen. Der Europäische Ausschuss für künstliche Intelligenz wird die nationalen Behörden in dieser Hinsicht anleiten und unterstützen.
• Verbraucher:innen und Bürger:innen: Die Verordnung zielt darauf ab, die Rechte und Interessen der Verbraucher:innen und Bürger:innen in der EU zu schützen, die mit KI-Systemen interagieren. Dazu gehört auch, dass KI-Systeme transparent sind und dass die Nutzenden über den Einsatz von KI in ihrer Interaktion mit Unternehmen und Organisationen informiert werden.

Innerhalb des EU AI Acts wird Künstliche Intelligenz als Software beschrieben, welche Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen erzeugt, die das Umfeld beeinflussen, mit dem sie interagieren. Konkret kann dies durch folgende Techniken und Konzepte realisiert werden:

• Konzepte des maschinellen Lernens, mit beaufsichtigtem, unbeaufsichtigtem und bestärkendem Lernen unter Verwendung einer breiten Palette von Methoden, einschließlich des tiefen Lernens (Deep Learning);
• Logik- und wissensgestützte Konzepte, einschließlich Wissensrepräsentation, induktiver (logischer) Programmierung, Wissensgrundlagen, Inferenz- und Deduktionsmaschinen, (symbolischer) Schlussfolgerungs- und Expertensysteme;
• Statistische Ansätze, Bayessche Schätz-, Such- und Optimierungsmethoden.

Der EU AI Act identifiziert Hochrisiko-KI-Systeme, die strengen Regulierungen unterliegen. Diese Systeme sind in verschiedenen Bereichen im Einsatz:

• Biometrische Identifikation und Kategorisierung natürlicher Personen
• Verwaltung und Betrieb kritischer Infrastrukturen
• Allgemeine und berufliche Bildung
• Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit
• Zugänglichkeit und Nutzung grundlegender privater und öffentlicher Dienste
• Strafverfolgung
• Migration, Asyl und Grenzkontrolle
• Rechtspflege und demokratische Prozesse

Diese KI-Systeme unterliegen strengen Vorschriften und Aufsichtsmaßnahmen, um ihre sichere und verantwortungsvolle Anwendung sicherzustellen.