# taz.de -- FAQ zum neuen AI Act der EU: KI bekommt Regeln | |
> Künstliche Intelligenz hilft bei der Überwachung, aber auch bei der | |
> Verbreitung von Hass und Fake News. Die EU schafft nun weltweit einmalig | |
> Recht. | |
Bild: Gesichtserkennung kann mit KI erleichtert werden – die Frage nach Echtz… | |
Bisher ist es weltweit einmalig: Die Europäische Union schafft Regeln zum | |
Umgang mit künstlicher Intelligenz (KI). Am Dienstag stimmen die beiden | |
federführenden Ausschüsse des EU-Parlaments über die KI-Verordnung ab, oft | |
ist englischsprachig vom „AI Act“ die Rede. Die Zustimmung gilt als sicher. | |
Unterhändler von EU-Parlament und Mitgliedstaaten haben schon im Dezember | |
alles ausverhandelt. Dennoch stand das Projekt gerade erst auf der Kippe – | |
wegen der FDP. | |
Auf den letzten Metern hatte der kleinste Partner der Bundesregierung in | |
Person von Digitalminister Volker Wissing [1][gedroht, Deutschlands | |
Zustimmung doch noch zu verweigern], um weniger Vorgaben für Unternehmen | |
durchzusetzen. Letztlich stimmte die Bundesregierung [2][doch noch zu im | |
Ausschuss der Ständigen Vertreter], der die finalen Entscheidungen des | |
Ministerrats der EU-Regierungen vorbereitet. | |
Was genau ist der AI Act? | |
Künstliche Intelligenz (KI) ist als Technologie für eine breite Masse an | |
Menschen noch eine verhältnismäßig junge Entwicklung. Den bislang größten | |
Schub erhielt sie, als vor etwas über einem Jahr das generative | |
Sprachmodell ChatGPT des Unternehmens OpenAI an den Start ging. Die App | |
wurde damals zur App mit den schnellsten Nutzerzuwächsen. | |
Doch auch in anderen Bereichen steckt KI: In Bild- und | |
Tonbearbeitungsprogrammen, in ersten medizinischen Anwendungen oder in der | |
Polizeiarbeit zum Beispiel. Weil die Einsatzzwecke zunehmend sensibel sind | |
und die Anwendungsbereiche sich ausweiten, hat die EU schon vor knapp drei | |
Jahren eine Regulierung vorgeschlagen: Der AI Act teilt KI-Anwendungen in | |
Risikoklassen und reguliert diese mehr oder weniger streng. | |
Manche Einsatzzwecke werden auch verboten, zum Beispiel staatliche | |
Scoring-Systeme, die Menschen anhand ihres Verhaltens klassifizieren | |
würden. Bei Verstößen gegen die Regeln drohen Unternehmen Strafen von bis | |
zu 35 Millionen Euro oder bis zu sieben Prozent des weltweiten Gewinns. | |
Was bringen die vereinbarten Regeln für Verbesserungen? | |
Ein Lob kommt beispielsweise vom Verbraucherzentrale Bundesverband (vzbv): | |
„Der AI Act stellt eine Verbesserung für Verbraucher:innen dar, etwa | |
bei den Betroffenenrechten“, sagte dessen Vorständin Ramona Pop. Die neuen | |
Regeln könnten daher die „Akzeptanz und das Vertrauen der | |
Verbraucher:innen in die Technologie stärken“. Auch der | |
Bundesdatenschutzbeauftragte sieht Positives: „Die KI-Verordnung stärkt in | |
vielen Teilen den Datenschutz“, sagte ein Sprecher der Behörde. Gut sei | |
etwa das Verbot von Social Scoring, und das Verbot, mittels Scraping, also | |
dem automatischen Durchsuchen des Internets, Gesichtserkennungsdatenbanken | |
zu erstellen. Die Rechte von Betroffenen würden etwa durch Transparenz- und | |
Qualitätsanforderungen für die Unternehmen gestärkt und durch das Recht, | |
bei einer noch einzurichtenden KI-Aufsichtsbehörde Beschwerde einzulegen. | |
Aber es gibt auch Kritik? | |
Ja. Im Zentrum der Kritik stehen Überwachungsbefugnisse, die vor allem auf | |
Druck der Mitgliedstaaten aufgenommen wurden. „Es ist sehr bedauerlich, | |
dass es kein klares Verbot biometrischer Echtzeit-Fernerkennung im | |
öffentlichen Raum gibt“, sagt der Sprecher des | |
Bundesdatenschutzbeauftragten. | |
Die Gesichtserkennung war in den Verhandlungen stark umstritten gewesen. Da | |
ging es beispielsweise um Situationen, in denen Behörden nachträglich oder | |
in Echtzeit die von Überwachungskameras aufgezeichneten Daten mit | |
biometrischer Gesichtserkennungssoftware durchsuchen. | |
Die europäische Bürgerrechtsorganisation EDRi warnt daher davor, dass die | |
neuen Regelungen dazu beitragen könnten, „die Überwachungsaktivitäten von | |
Polizei und Migrationskontrollbehörden auszuweiten und zu legitimieren“. | |
[3][Die NGO Algorithmwatch] kritisiert darüber hinaus „große Schlupflöcher… | |
für Unternehmen: So hätten die Hersteller von KI-Systemen ein | |
Mitspracherecht bei der Frage, ob ihre Systeme als Hochrisiko-KI, für die | |
besonders strenge Regeln gelten, eingestuft werden. | |
Darüber hinaus gebe es für Bereiche der nationalen Sicherheit, der | |
Strafverfolgung und der Migration Ausnahmen für Hochrisiko-Systeme. „Der | |
Kompromiss zur KI-Verordnung offenbart einen systemischen Fehler bei der | |
EU-Gesetzgebung. Die nationalen Regierungen und die Strafverfolgungslobby | |
haben einen unverhältnismäßig großen Einfluss“, kritisiert | |
Algorithmwatch-Expertin Angela Müller. Das gehe zulasten von | |
Menschenrechten und öffentlichem Interesse. | |
Was passiert, wenn der AI Act doch noch scheitert? | |
Nicht nur Deutschland hatte grundsätzliche Kritik. Auch aus anderen Ländern | |
kam Zurückhaltung – etwa aus Frankreich. Die dortige Regierung hatte | |
ebenfalls für wirtschaftsfreundlichere Regeln lobbyiert. Würde der AI Act | |
scheitern, gäbe es erst einmal gar keine Regulierung. Das heißt: Schutz für | |
Nutzer:innen nur, insofern ihn die aktuelle Gesetzgebung hergibt. Für | |
Unternehmen würde das je nach Sichtweise viel Freiheit oder eben | |
Rechtsunsicherheit bedeuten. Denn dass eine KI-Regulierung auf ewig | |
ausbleiben könnte, ist unwahrscheinlich. | |
Nach der Europawahl im Juni aber werden sich die Mehrheitsverhältnisse im | |
EU-Parlament neu mischen. Auch die EU-Kommission wird neu aufgestellt. Die | |
Befürchtung: Ein deutlicher Rechtsruck würde dazu führen, dass die bislang | |
tendenziell bürgerrechtsfreundliche Position des EU-Parlaments kippt. Gibt | |
es also einen neuen Anlauf in der kommenden Legislaturperiode, wäre das | |
Ergebnis aus Bürger- und Nutzer:innensicht vermutlich schlechter. | |
Wenn der AI Act endgültig verabschiedet ist – lässt sich dann noch etwas | |
ändern? | |
Die letzten Abstimmungen sind derzeit für Mitte April angesetzt, gelten | |
aber nur noch als Formalität. Im Anschluss wird das Gesetzeswerk im | |
Amtsblatt der EU veröffentlicht und tritt 20 Tage später in Kraft – es ist | |
also absehbar, dass das noch [4][vor der Europawahl] passiert. Bis die | |
Regeln tatsächlich wirksam werden, gibt es Übergangsfristen von bis zu drei | |
Jahren. | |
Gleichzeitig sind allerdings die EU-Mitgliedstaaten am Zug: Die haben in | |
bestimmten Bereichen die Möglichkeit, abweichende Regeln festzulegen. Das | |
betrifft zum Beispiel [5][den umstrittenen Punkt der biometrischen | |
Überwachung]. Der Bundesdatenschutzbeauftragte fordert die Bundesregierung | |
auf, hier die Öffnungsklausel zu nutzen. | |
12 Feb 2024 | |
## LINKS | |
[1] /EU-Gesetz-zur-Kuenstlichen-Intelligenz/!5988014 | |
[2] /Abstimmung-ueber-EU-Lieferkettengesetz/!5987552 | |
[3] /Kuenstliche-Intelligenz-via-ChatGPT/!5903102 | |
[4] /Schwerpunkt-Europawahl/!t5533778 | |
[5] /Schwerpunkt-Ueberwachung/!t5007813 | |
## AUTOREN | |
Svenja Bergt | |
## TAGS | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Überwachung | |
Datenschutz | |
Europäische Union | |
Digitalwirtschaft | |
GNS | |
Schwerpunkt Künstliche Intelligenz | |
Schlagloch | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
EU | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
## ARTIKEL ZUM THEMA | |
Deutschland muss KI-Regeln umsetzen: Streitpunkt Überwachung | |
Deutschland muss bald die neuen EU-Regeln zu künstlicher Intelligenz | |
umsetzen. Fachleute fordern Verschärfungen – etwa bei der | |
Gesichtserkennung. | |
Zwischenbilanz einer neuen Technologie: Im KI-Taumel | |
Nach dem ersten Hype um die KI-Anwendung ChatGPT ist einiges im Gange. | |
Entwickler setzen auf einen Wissenschaftsschub durch eine Superintelligenz. | |
Neue Regeln für KI: „Big Brother“ nicht gebannt | |
Die EU bekommt das weltweit erste Gesetz, das den Einsatz Künstlicher | |
Intelligenz regeln soll. Sicherheitsbehörden bekommen einige Freiheiten. | |
Gesetz zur künstlichen Intelligenz: Neue Technologie, neue Überwachung | |
Der AI Act ist beschlossen. Das überwachungs- und wirtschaftsfreundliche | |
Ergebnis ist kein Zufall. Doch es ist gut, dass das Regelwerk jetzt | |
durchkam. | |
Vor finaler Abstimmung: Kann die Welt KI bändigen? | |
Diese Woche werden zwei entscheidende Weichen in Sachen KI gestellt. Doch | |
NGOs und Wissenschaftler:innen sehen problematische Parallelen. | |
Künstliche Intelligenz an Hochschulen: Zauberwort und Risiko | |
Die Hochschulen beschäftigen sich zunehmend mit künstlicher Intelligenz. | |
Das führte zu Euphorie – und der Sorge, durch KI das Lernen zu verlernen. | |
Student entwickelt KI, die KI erkennt: Entlarvende Logik | |
Tim Tlok aus Seevetal hat einen Detektor gebaut, der KI-generierte Texte | |
von menschengemachten unterscheiden kann. KI-geplagte Lehrkräfte freuen | |
sich. | |
AI-Verordnung der EU: Streit um KI-Training mit Artikeln | |
Der neue AI-Act der EU lässt Fragen nach dem Verhältnis von Medien und KI | |
offen. Zum Beispiel: Darf man KIs mit journalistischen Texten füttern? | |
OpenAI-Mitgründer verlässt Unternehmen: Andrej Karpathy bestätigt Abgang | |
Der Forscher will sich zukünftig persönlichen Projekten widmen. Erst im | |
November hatte OpenAI mit der Entlassung von Sam Altman Aufsehen erregt. | |
Abstimmung über EU-Lieferkettengesetz: Noch besteht Hoffnung | |
Möglicherweise kommt das EU-Lieferkettengesetz auch ohne deutsche Stimme | |
durch. Die Berliner Liberalen gelten in Brüssel als unsichere Kantonisten. | |
Bündnis fordert KI-Regeln: Bundesregierung soll handeln | |
Das europäische KI-Gesetz kippelt auf den letzten Metern vor der | |
Verabschiedung. Nun fordert eine breite Allianz die Bundesregierung zum | |
Handeln auf. | |
EU-Gesetz zur Künstlichen Intelligenz: Zittern bei KI-Regulierung | |
Die Bundesregierung zögert beim Ja zum EU-Gesetz zur Künstlichen | |
Intelligenz. Das könnte das weltweite Vorreiterprojekt zum Scheitern | |
bringen. |