Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- Nach Marathonsitzung: EU einigt sich auf Regeln für KI
> Verbote, Pflichten und Geldbußen sind vorgesehen. Doch Verbraucher- und
> Bürgerrechtsorganisationen sind besorgt.
Bild: Müde? In Bildungseinrichtungen soll die Emotionserkennung mittels KI nic…
Berlin taz | Nach einer [1][zähen letzten Verhandlungsrunde] haben sich die
EU-Gremien auf [2][ein Regelwerk zu künstlicher Intelligenz (KI) geeinigt].
Streitpunkt der letzten Verhandlungsrunde war vor allem das Thema KI und
Überwachung. Dort standen die Mitgliedstaaten mit ihrem Interesse an
möglichst breiten Überwachungsmöglichkeiten dem weitgehend
bürgerrechtsfreundlicheren EU-Parlament gegenüber.
EU-Kommissionspräsidenten Ursula von der Leyen sprach nach der Einigung von
einem „historischen Moment“, da es sich um den weltweit ersten umfassenden
Rechtsrahmen zu KI handle. [3][„Das KI-Gesetz überträgt europäische Werte
in eine neue Ära“, so von der Leyen].
Kern der neuen Regulierung ist die Einteilung von KI-Systemen in
Risikoklassen. Was in die höchste Kategorie fällt, ist verboten – zum
Beispiel Systeme zur Emotionserkennung am Arbeitsplatz oder in
Bildungseinrichtungen. In die zweithöchste Risikoklasse fallen Systeme, die
ein „erhebliches Schadenspotenzial“ etwa für die Demokratie, die Gesundheit
oder Sicherheit haben. Für sie soll es eine Reihe an Vorschriften geben
sowie Beschwerdemöglichkeiten für Betroffene. Andere Systeme, etwa
Chatbots, werden nur wenig oder nicht reguliert.
Kurz vor der letzten Verhandlungsrunde [4][war ein Konflikt um die
besonders wichtigen und leistungsfähigen KI-Systeme ausgebrochen], die
Basismodelle. Diese bilden die Grundlage für zahlreiche weitere
Anwendungen. Deutschland hatte gemeinsam mit Frankreich und Italien
gefordert, diese Modelle von verpflichtenden Regeln auszunehmen und nur
eine Selbstverpflichtung anzustoßen. Die Position setzte sich nicht durch:
Wer Basismodelle auf den Markt bringt, muss unter anderem Transparenz- und
Dokumentationspflichten erfüllen. Sind es Modelle mit hohem Risiko, gelten
weitere Vorschriften, zum Beispiel strengere Tests.
## Streitpunkt Überwachung
Grund dafür, dass sich die Verhandlungen letztlich so zogen, war ein
anderer: der fundamentale Dissens zwischen EU-Parlament und Mitgliedstaaten
zum [5][Thema Überwachung]. Letztere wollten möglichst viele Möglichkeiten
verankern, biometrische Überwachung mittels KI zu erlauben, also
beispielsweise KI-basierte Gesichtserkennung bei Videoüberwachung.
Der Kompromiss kommt den Mitgliedstaaten nun weit entgegen: So sind zwar
einige grundsätzliche Verbote vorgesehen, etwa die
Echtzeit-Gesichtserkennung bei Überwachungsmaßnahmen oder eine biometrische
Kategorisierung, bei der sensible Merkmale wie sexuelle Orientierung oder
religiöse Überzeugungen verwendet werden.
Doch gleichzeitig sind zahlreiche Ausnahmen für Strafverfolgungsbehörden
vorgesehen – zum Beispiel, wenn es um die Suche nach Personen geht, die im
Verdacht stehen, eine schwere Straftat, zum Beispiel einen bewaffneten
Raubüberfall begangen zu haben.
„Die EU-Regierungen mussten zugeben, dass KI-Syteme zunehmen für
Massenüberwachung, racial profiliung und andere schädliche Zwecke genutzt
werden“, kritisiert Sarah Chander von der europäischen
Bürgerrechtsorganisation EDRi. Die Einigung enthalte zwar einige begrenzte
Fortschritte bei den Menschenrechten, werde aber größtenteils nur eine
Hülle für das KI-Recht sein, das Europa brauche.
Eine Position, die andere Menschenrechtsorganisationen teilen: „Der AI Act
ist nur ein Puzzlestück unter vielen, die wir brauchen werden, um Menschen
und Gesellschaften vor den grundlegenden Auswirkungen zu schützen, die
KI-Systeme auf unsere Rechte, unsere Demokratie und die gesellschaftliche
Machtverteilung haben können“, sagt Angela Müller von der NGO
Algorithmwatch.
## Ungeklärte Fragen
„Zu viele Fragen bleiben unzureichend geregelt, und man verlässt sich zu
sehr auf den guten Willen der Unternehmen“, kritisiert Ursula Pachl vom
EU-Verbraucherschutzverband BEUC. So würden etwa virtuelle Assistenten oder
KI-gesteuerte Spielzeuge nicht ausreichend reguliert – denn sie gelten
nicht als Systeme mit hohem Risiko. Auch die Basismodelle würden nicht so
stark reguliert wie nötig. So fehle etwa eine Prüfung durch unabhängige
Organisationen.
Von der Wirtschaft kommt dagegen Kritik aus der gegenteiligen Richtung: So
bemängelte etwa der Bundesverband der Deutschen Industrie eine
Überregulierung. Der Verband Digitaleurope, der vor allem Unternehmen rund
um die IT-Branche vertritt, kritisierte, die Vorschriften würden dazu
führen, dass viel Geld in anwaltliche Beratung ausgegeben werden müsse, das
nicht in die Bezahlung von KI-Programmierer:innen fließen könne.
Für Unternehmen, die sich nicht an die Regeln halten, sind Geldbußen
vorgesehen: Je nach Verstoß und Größe des Unternehmens können es bis zu 35
Millionen Euro oder 7 Prozent des weltweiten Umsatzes sein.
EU-Parlament und Rat müssen der Einigung noch zustimmen. Das gilt aber als
Formsache. Der AI Act soll damit noch vor der Europawahl im kommenden Jahr
verabschiedet werden.
10 Dec 2023
## LINKS
[1] /EU-Gesetzgebung-zu-KI/!5978731
[2] https://www.europarl.europa.eu/news/en/press-room/20231206IPR15699/artifici…
[3] https://ec.europa.eu/commission/presscorner/detail/de/statement_23_6474
[4] /Regulierung-von-kuenstlicher-Intelligenz/!5976981
[5] /Debatte-im-EU-Parlament/!5940600
## AUTOREN
Svenja Bergt
## TAGS
Schwerpunkt Künstliche Intelligenz
Europäische Union
Bürgerrechte
Verbraucherschutz
Schwerpunkt Künstliche Intelligenz
Schwerpunkt Künstliche Intelligenz
Schwerpunkt Künstliche Intelligenz
Schwerpunkt Künstliche Intelligenz
Schwerpunkt Künstliche Intelligenz
## ARTIKEL ZUM THEMA
EU-Gesetz zur Künstlichen Intelligenz: Zittern bei KI-Regulierung
Die Bundesregierung zögert beim Ja zum EU-Gesetz zur Künstlichen
Intelligenz. Das könnte das weltweite Vorreiterprojekt zum Scheitern
bringen.
Künstliche Intelligenz: Regulierung mit mehr Überwachung
Der frische Kompromiss zu künstlicher Intelligenz wird gerade schon wieder
aufgeweicht. Bürgerrechtsorganisationen sind verärgert.
EU-Einigung auf KI-Gesetz: Mit Überwachung ins KI-Zeitalter
Der AI Act steht. Was das mit Schlafmangel, biometrischer Überwachung und
der Zuckerlobby zu tun hat – und warum es am Ende doch aufs Geld ankommt.
EU-Gesetzgebung zu KI: Kritik nach Marathonsitzung
Am Freitag sollte die EU-Einigung zu Künstlicher Intelligenz stehen. Doch
das Prozedere und die letzten Streitpunkte sorgen für Proteste.
Regulierung von künstlicher Intelligenz: Mehr Vorgaben für KI gefordert
Die EU will ihr Regelwerk für künstliche Intelligenz fertig verhandeln.
Kurz vor Schluss gibt es nun Streit: Fachleute fordern mehr
Verbindlichkeit.
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.