# taz.de -- Nach Marathonsitzung: EU einigt sich auf Regeln für KI | |
> Verbote, Pflichten und Geldbußen sind vorgesehen. Doch Verbraucher- und | |
> Bürgerrechtsorganisationen sind besorgt. | |
Bild: Müde? In Bildungseinrichtungen soll die Emotionserkennung mittels KI nic… | |
BERLIN taz | Nach einer [1][zähen letzten Verhandlungsrunde] haben sich die | |
EU-Gremien auf [2][ein Regelwerk zu künstlicher Intelligenz (KI) geeinigt]. | |
Streitpunkt der letzten Verhandlungsrunde war vor allem das Thema KI und | |
Überwachung. Dort standen die Mitgliedstaaten mit ihrem Interesse an | |
möglichst breiten Überwachungsmöglichkeiten dem weitgehend | |
bürgerrechtsfreundlicheren EU-Parlament gegenüber. | |
EU-Kommissionspräsidenten Ursula von der Leyen sprach nach der Einigung von | |
einem „historischen Moment“, da es sich um den weltweit ersten umfassenden | |
Rechtsrahmen zu KI handle. [3][„Das KI-Gesetz überträgt europäische Werte | |
in eine neue Ära“, so von der Leyen]. | |
Kern der neuen Regulierung ist die Einteilung von KI-Systemen in | |
Risikoklassen. Was in die höchste Kategorie fällt, ist verboten – zum | |
Beispiel Systeme zur Emotionserkennung am Arbeitsplatz oder in | |
Bildungseinrichtungen. In die zweithöchste Risikoklasse fallen Systeme, die | |
ein „erhebliches Schadenspotenzial“ etwa für die Demokratie, die Gesundheit | |
oder Sicherheit haben. Für sie soll es eine Reihe an Vorschriften geben | |
sowie Beschwerdemöglichkeiten für Betroffene. Andere Systeme, etwa | |
Chatbots, werden nur wenig oder nicht reguliert. | |
Kurz vor der letzten Verhandlungsrunde [4][war ein Konflikt um die | |
besonders wichtigen und leistungsfähigen KI-Systeme ausgebrochen], die | |
Basismodelle. Diese bilden die Grundlage für zahlreiche weitere | |
Anwendungen. Deutschland hatte gemeinsam mit Frankreich und Italien | |
gefordert, diese Modelle von verpflichtenden Regeln auszunehmen und nur | |
eine Selbstverpflichtung anzustoßen. Die Position setzte sich nicht durch: | |
Wer Basismodelle auf den Markt bringt, muss unter anderem Transparenz- und | |
Dokumentationspflichten erfüllen. Sind es Modelle mit hohem Risiko, gelten | |
weitere Vorschriften, zum Beispiel strengere Tests. | |
## Streitpunkt Überwachung | |
Grund dafür, dass sich die Verhandlungen letztlich so zogen, war ein | |
anderer: der fundamentale Dissens zwischen EU-Parlament und Mitgliedstaaten | |
zum [5][Thema Überwachung]. Letztere wollten möglichst viele Möglichkeiten | |
verankern, biometrische Überwachung mittels KI zu erlauben, also | |
beispielsweise KI-basierte Gesichtserkennung bei Videoüberwachung. | |
Der Kompromiss kommt den Mitgliedstaaten nun weit entgegen: So sind zwar | |
einige grundsätzliche Verbote vorgesehen, etwa die | |
Echtzeit-Gesichtserkennung bei Überwachungsmaßnahmen oder eine biometrische | |
Kategorisierung, bei der sensible Merkmale wie sexuelle Orientierung oder | |
religiöse Überzeugungen verwendet werden. | |
Doch gleichzeitig sind zahlreiche Ausnahmen für Strafverfolgungsbehörden | |
vorgesehen – zum Beispiel, wenn es um die Suche nach Personen geht, die im | |
Verdacht stehen, eine schwere Straftat, zum Beispiel einen bewaffneten | |
Raubüberfall begangen zu haben. | |
„Die EU-Regierungen mussten zugeben, dass KI-Syteme zunehmen für | |
Massenüberwachung, racial profiliung und andere schädliche Zwecke genutzt | |
werden“, kritisiert Sarah Chander von der europäischen | |
Bürgerrechtsorganisation EDRi. Die Einigung enthalte zwar einige begrenzte | |
Fortschritte bei den Menschenrechten, werde aber größtenteils nur eine | |
Hülle für das KI-Recht sein, das Europa brauche. | |
Eine Position, die andere Menschenrechtsorganisationen teilen: „Der AI Act | |
ist nur ein Puzzlestück unter vielen, die wir brauchen werden, um Menschen | |
und Gesellschaften vor den grundlegenden Auswirkungen zu schützen, die | |
KI-Systeme auf unsere Rechte, unsere Demokratie und die gesellschaftliche | |
Machtverteilung haben können“, sagt Angela Müller von der NGO | |
Algorithmwatch. | |
## Ungeklärte Fragen | |
„Zu viele Fragen bleiben unzureichend geregelt, und man verlässt sich zu | |
sehr auf den guten Willen der Unternehmen“, kritisiert Ursula Pachl vom | |
EU-Verbraucherschutzverband BEUC. So würden etwa virtuelle Assistenten oder | |
KI-gesteuerte Spielzeuge nicht ausreichend reguliert – denn sie gelten | |
nicht als Systeme mit hohem Risiko. Auch die Basismodelle würden nicht so | |
stark reguliert wie nötig. So fehle etwa eine Prüfung durch unabhängige | |
Organisationen. | |
Von der Wirtschaft kommt dagegen Kritik aus der gegenteiligen Richtung: So | |
bemängelte etwa der Bundesverband der Deutschen Industrie eine | |
Überregulierung. Der Verband Digitaleurope, der vor allem Unternehmen rund | |
um die IT-Branche vertritt, kritisierte, die Vorschriften würden dazu | |
führen, dass viel Geld in anwaltliche Beratung ausgegeben werden müsse, das | |
nicht in die Bezahlung von KI-Programmierer:innen fließen könne. | |
Für Unternehmen, die sich nicht an die Regeln halten, sind Geldbußen | |
vorgesehen: Je nach Verstoß und Größe des Unternehmens können es bis zu 35 | |
Millionen Euro oder 7 Prozent des weltweiten Umsatzes sein. | |
EU-Parlament und Rat müssen der Einigung noch zustimmen. Das gilt aber als | |
Formsache. Der AI Act soll damit noch vor der Europawahl im kommenden Jahr | |
verabschiedet werden. | |
10 Dec 2023 | |
## LINKS | |
[1] /EU-Gesetzgebung-zu-KI/!5978731 | |
[2] https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artifici… | |
[3] https://ec.europa.eu/commission/presscorner/detail/de/statement_23_6474 | |
[4] /Regulierung-von-kuenstlicher-Intelligenz/!5976981 | |
[5] /Debatte-im-EU-Parlament/!5940600 | |
## AUTOREN | |
Svenja Bergt | |
## TAGS | |
Schwerpunkt Künstliche Intelligenz | |
Europäische Union | |
Bürgerrechte | |
Verbraucherschutz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
## ARTIKEL ZUM THEMA | |
EU-Gesetz zur Künstlichen Intelligenz: Zittern bei KI-Regulierung | |
Die Bundesregierung zögert beim Ja zum EU-Gesetz zur Künstlichen | |
Intelligenz. Das könnte das weltweite Vorreiterprojekt zum Scheitern | |
bringen. | |
Künstliche Intelligenz: Regulierung mit mehr Überwachung | |
Der frische Kompromiss zu künstlicher Intelligenz wird gerade schon wieder | |
aufgeweicht. Bürgerrechtsorganisationen sind verärgert. | |
EU-Einigung auf KI-Gesetz: Mit Überwachung ins KI-Zeitalter | |
Der AI Act steht. Was das mit Schlafmangel, biometrischer Überwachung und | |
der Zuckerlobby zu tun hat – und warum es am Ende doch aufs Geld ankommt. | |
EU-Gesetzgebung zu KI: Kritik nach Marathonsitzung | |
Am Freitag sollte die EU-Einigung zu Künstlicher Intelligenz stehen. Doch | |
das Prozedere und die letzten Streitpunkte sorgen für Proteste. | |
Regulierung von künstlicher Intelligenz: Mehr Vorgaben für KI gefordert | |
Die EU will ihr Regelwerk für künstliche Intelligenz fertig verhandeln. | |
Kurz vor Schluss gibt es nun Streit: Fachleute fordern mehr | |
Verbindlichkeit. |