Geht die EU mit dem „AI Act“ in die richtige Richtung?
PLAN D Mitarbeiter:innen diskutieren
Mit dem sogenannten AI Act will die Europäische Union die Entwicklung und den Einsatz künstlicher Intelligenz regulieren. Über den Gesetzentwurf, der in diesen Wochen zwischen Europarat, EU-Parlament und -Kommission abgestimmt wird, wird viel diskutiert. Auch bei PLAN D.
Welche Auswirkungen wird das Gesetz haben: auf den europäischen Wirtschaftsstandort, auf unsere Kunden, auf uns als Technologieberatung? Und an welchen Stellen gilt es noch nachzuschärfen? Vier Mitarbeiter:innen von PLAN haben sich dazu Gedanken gemacht.
„Wer KI regulieren will, muss auch wissen, was damit gemeint ist“
Kevin Trebing, Data Scientist
Wer künstliche Intelligenz regulieren will, muss auch wissen, was damit überhaupt gemeint ist. Und da geht das Problem schon los. Die Definition von KI im aktuellen Gesetzentwurf ist extrem breit gefasst. Darunter würde im Grunde jede Anwendung fallen, die simple statistische Verfahren einsetzt. Das ist nicht nur unpraktisch, weil dadurch der Regulierungsaufwand enorm steigen würde – es wird auch dem, was künstliche Intelligenz eigentlich ist und kann, nicht gerecht.
Das Problem: Die perfekte Definition von KI gibt es nicht. Die Technologie entwickelt sich so schnell, dass ich es grundsätzlich verstehen kann, wenn sich die Verfasser:innen des AI Acts nicht zu sehr festlegen wollen. Werden sie zu konkret, fallen am Ende zahlreiche Anwendungsfälle aus dem Raster… Der Gesetzentwurf zeigt, wie schwer es ist, möglichst konkrete Regelungen für eine sehr komplexe Technologie mit vielseitigen Anwendungsmöglichkeiten festzulegen.
Das gilt auch für die Forderung, die verwendeten Datensätze müssten „fehlerfrei und vollständig“ sein. Als Data Scientist frage ich mich, wie das gehen soll. Wenn zum Beispiel Ausreißer in den Daten die komplette Statistik verfälschen, ist es sinnvoll, sie aus dem Trainingsdatensatz herauszunehmen. Ist dieser somit fehlerfrei? Oder unvollständig?
Ich bin sehr gespannt, welche der Formulierungen die EU noch anpassen wird – und wie sich das Gesetz dann in der Praxis auswirkt.
„Ein gutes Zusammenspiel von Mensch und Maschine ist sinnvoller als das grundsätzliche Verbot einer Technologie“
Raana Saheb Nassagh, Data Scientist
Was mich an der ganzen Debatte irritiert, ist, dass künstliche Intelligenz offenbar hauptsächlich als Bedrohung wahrgenommen wird. Ich fürchte, dass diese Haltung die europäischen Unternehmen im internationalen Wettbewerb noch weiter zurückwerfen wird. Schon heute kommen die meisten großen und genauen KI-Modelle von Nicht-EU-Unternehmen. Mit dem AI Act der Europäischen Union wird das kaum besser werden.
Ich bin nicht grundsätzlich gegen eine Regulierung von KI. Aber ich würde mir eine Kultur wünschen, in der wir Data Scientists einfach mal Dinge ausprobieren können, ohne uns schon vorher Gedanken um tausend Regeln und Einschränkungen machen zu müssen. Eine Kultur mit mehr Freude am Experimentieren als am Regulieren!
Zu der „Verteufelung“ von KI gehört in meinen Augen auch die Diskussion um die biometrische Gesichtserkennung. Wenn es nun mal Videoüberwachung an bestimmten öffentlichen Plätzen gibt, warum sollten Strafverfolgungsbehörden diese dann nicht mit einer Technologie auswerten dürfen, die tausend mal schneller und präziser ist als der Mensch? Das erscheint mir unlogisch. Natürlich darf die KI hier keine autarken Entscheidungen treffen, es braucht immer eine Validation durch einen Menschen. Ich glaube aber, dass ein kontrollierter Einsatz der biometrischen Gesichtserkennung und ein gutes Zusammenspiel von Mensch und Maschine sinnvoller wären als das grundsätzliche Verbot der Technologie, das viele fordern.
„Mit dem AI Act kann die EU einen internationalen Standard setzen“
Noah Pokorny, Associate Consultant Technology & Data
Auch wenn ich Raanas Bedenken bezüglich der Wettbewerbsfähigkeit europäischer Unternehmen nachvollziehen kann: Ich bin ein großer Befürworter der Regulierung von KI. Es ist wichtig, dass sich die Europäische Union dieses Themas annimmt und international einen Standard setzen will, so wie sie es bereits mit der DSGVO getan hat.
Wie heute beim AI Act hagelte es auch bei der Datenschutz-Grundverordnung von allen Seiten Kritik: Zu streng! Zu lasch! Zu unkonkret! Das Problem der Verordnung liegt meines Erachtens aber nicht so sehr in einzelnen Formulierungen, sondern in ihrer Umsetzung. Es mangelt an der flächendeckenden und gleichberechtigten Implementierung der DSGVO. Große Player winden sich in jahrelangen Rechtsstreits aus der Affäre, während kleinere Unternehmen in den sauren Apfel beißen müssen. Hinzu kommen Missbrauchsfälle (z.B. Abmahnwellen), die auch wieder vor allem die Kleinen treffen.
Dass beim AI Act nun um einzelne Formulierungen und Definitionen gerungen wird, ist nachvollziehbar. Am Ende wird es aber auch bei diesem Gesetz darauf ankommen, wie es in der Praxis umgesetzt wird. Und ob große Unternehmen dabei genauso zur Rechenschaft gezogen werden wie kleine und mittlere.
„Für Unternehmen wird das Thema noch komplexer, als es ohnehin schon ist“
Sebastian Bluhm, Managing Partner
Natürlich hat der aktuelle Gesetzentwurf noch Schwächen. Hier eine unklare Definition, da eine Formulierung, die in der Theorie super klingt, aber in der Praxis nur schwer umzusetzen ist. Bei aller Kritik im Detail dürfen wir aber eines nicht vergessen: Die Intention des AI Acts ist richtig! Alles, was darin steht, halte ich grundsätzlich für vernünftig.
Gleichzeitig sehe ich aber auch, dass das Gesetz die Ausgangslage für Unternehmen noch komplexer machen wird, als sie ohnehin schon ist. Schon jetzt beobachten wir, dass viele Unternehmen zögern, künstliche Intelligenz einzusetzen. Die Gründe dafür sind vielfältig: Oft fehlen das Know-how und die (personellen wie finanziellen) Ressourcen, um das Thema anzugehen. Es fehlt das Wissen darum, welche Anwendungsfälle möglich sind und welchen strategischen Mehrwert der Einsatz von Daten und KI bringen kann. Hinzu kommt häufig eine diffuse Angst der Mitarbeiter:innen, die künstliche Intelligenz vor allem als Bedrohung wahrnehmen.
In unserer Beratung verfolgen wir deshalb einen holistischen Ansatz, der Strategie- und Technologieentwicklung ebenso abdeckt wie organisatorische Veränderungen und Change-Maßnahmen. Die Regulatorik wird nun als weiterer essenzieller Baustein hinzukommen.
Für Unternehmen bedeutet das Gesetz, dass es noch komplizierter wird, einen Einstieg in das Thema KI zu finden. Für uns als Beratung bedeutet es, dass unsere Leistungen noch wichtiger werden als bisher. Kein Wunder, dass ich ein Fan der Regulierung bin.