# taz.de -- Vor Inkrafttreten der EU-Regeln: Werkzeugkoffer gegen KI-Auswüchse | |
> Verbände bereiten sich darauf vor, das neue EU-Recht zu Künstlicher | |
> Intellligenz durchzusetzen, welches in Kürze in Kraft tritt. Doch es gibt | |
> Lücken. | |
Bild: Auf der Suche nach Durchblick auf der Digitalkonferenz re:publica | |
BERLIN taz | Beschwerden, Klagen, eine systematische Beobachtung neuer | |
Geschäftsmodelle – die Zivilgesellschaft wappnet sich für die Durchsetzung | |
der neuen europäischen Regeln zu künstlicher Intelligenz (KI). „Mit der | |
Kombination unserer Möglichkeiten haben wir ein ziemlich scharfes Schwert | |
in der Hand“, sagte Jutta Gurkmann, Geschäftsbereichsleiterin für | |
Verbraucherpolitik beim Verbraucherzentrale Bundesverband (vzbv), bei einer | |
Podiumsdiskussion auf der Digitalkonferenz re:publica am Dienstag. | |
Der AI Act, der [1][erst in der vergangenen Woche endgültig verabschiedet] | |
wurde, ist die erste umfassende und verbindliche [2][Regulierung von KI]. | |
Als „Meilenstein in Bezug auf den Schutz von Diskriminierung durch | |
künstliche Intelligenz“, bezeichnete Christiane Rohleder, Staatssekretärin | |
im Verbraucherschutzministerium, das Regelwerk bei der Diskussion. | |
„Es gibt einige Schutzlücken“, widersprach der Recht- und Ethikprofessor | |
Philipp Hacker. Zum Beispiel bei der sogenannten General Purpose AI, also | |
KI-Systemen, die besonders vielfältig einsetzbar sind. Dazu gehören die | |
GPT-Modelle, die auch die Basis für den KI-Chatbot ChatGPT bilden. | |
Für diese Modelle gebe es nämlich eine folgenschwere Ausnahme: Die | |
Vorschriften, die Herstellern von Hochrisikosystemen Auflagen für ihre | |
Trainingsdaten machten, etwa was Diversität und Repräsentativität angeht, | |
gälten für sie nicht. Auf Basis der Trainingsdaten lernt eine KI. Hatte | |
also etwa eine KI zum Generieren von Bildern nur männliche Ärzte in ihren | |
Trainingsdaten, wird sie höchstwahrscheinlich keine Bilder von Ärztinnen | |
erzeugen. „Wir bräuchten hier eine Art Content-Moderation bei den | |
Trainingsdaten selbst“, fordert Hacker. | |
## Österreichische Datenschutz-NGO gegen OpenAI | |
Diese Forderung könnte noch bei einem der ersten Verfahren zum Tragen | |
kommen, die derzeit in Sachen KI laufen. Die österreichische | |
Datenschutz-NGO Noyb hat [3][Beschwerde gegen OpenAI, das Unternehmen | |
hinter ChatGPT, eingereicht]. | |
Der Vorwurf: ChatGPT generiere – mindestens in dem beanstandeten Fall – | |
reproduzierbar falsche persönliche Daten über eine reale Person und sei | |
nicht in der Lage, das zu korrigieren. Ein klassischer Fall strategischer | |
Prozessführung, wie Mitdiskutantin Svea Windwehr von der Gesellschaft für | |
Freiheitsrechte (GFF) erklärt: „Es geht darum, Grund- und Menschenrechte zu | |
stärken und diese anhand von gezielten Fällen durchzusetzen.“ | |
Besonders viele Möglichkeiten haben hier Verbände, die auch zu | |
Verbandsklagen berechtigt sind, wie der vzbv, erklärt Gurkmann: Sie könnten | |
mittlerweile auch Schadensersatz für Betroffene einklagen. Darüber hinaus | |
gebe es weitere Werkzeuge wie die systematische Marktüberwachung etwa | |
neuer, potenziell problematischer Geschäftsmodelle. | |
GFF-Aktivistin Windwehr kritisiert jedoch die prekäre Finanzierung vieler | |
zivilgesellschaftlicher Akteure: „Es ist toll, dass die Zivilgesellschaft | |
als Partner wahrgenommen wird, aber es besteht ein großes | |
Finanzierungsloch.“ Sie fordert nachhaltige Finanzierungswege, etwa einen | |
Fonds, der sich aus staatlichen und privaten Mitteln speist. | |
## Aufsichtsbehörden auf EU- und nationaler Ebene vorgesehen | |
Dabei soll es nicht nur die Zivilgesellschaft übernehmen, den AI Act | |
durchzusetzen. Auch Aufsichtsbehörden sowohl auf EU- als auch auf | |
nationaler Ebene sind vorgesehen. | |
In Deutschland ist noch offen, wie die Aufsicht im Detail umgesetzt wird. | |
Rechtsexperte Hacker fordert dabei ein Denken jenseits der bekannten | |
Strukturen: „Man muss neue Herangehensweisen finden, sonst wird das | |
nichts.“ Schließlich sei es ein Unterschied, ob eine Bank KI einsetzen | |
will, eine medizinische Einrichtung oder eine Schule. Statt einer Arbeit | |
entlang der etablierten Behördengrenzen schlägt Hacker beispielsweise | |
projektbezogene Zusammenarbeit vor. | |
28 May 2024 | |
## LINKS | |
[1] /Kuenstliche-Intelligenz/!6009041 | |
[2] /FAQ-zum-neuen-AI-Act-der-EU/!5991054 | |
[3] /Beschwerde-gegen-OpenAI-in-der-EU/!6007268 | |
## AUTOREN | |
Svenja Bergt | |
## TAGS | |
Schwerpunkt Künstliche Intelligenz | |
Verbraucherschutz | |
Digitalisierung | |
Social-Auswahl | |
künstliche Intelligenz | |
Schwerpunkt Europawahl | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
## ARTIKEL ZUM THEMA | |
Chip-Konzern profitiert von KI-Hype: Nvidia nun wertvollstes Unternehmen | |
Mit einem Börsenwert von rund 3,3 Billionen US-Dollar hat der | |
US-Chiphersteller Microsoft und Apple überholt. Die Nachfrage von Software | |
mit KI hat den Umsatz vervielfacht. | |
EU-Investitionen in KI: Intelligenzrückstand auf China | |
Der Europäische Rechnungshof kritisiert die Investitionsbereitschaft der EU | |
in KI. Gefahren für den Jobmarkt sind auf EU-Ebene aber kein Thema. | |
Künstliche Intelligenz: EU-Regeln für KI kommen | |
Europa beschließt Regeln für den Einsatz von künstlicher Intelligenz. Die | |
Vorgaben zu Chatbots wie ChatGPT gelten Kritikern als zu lasch. | |
KI-Experte über AI-Gesetz der EU: „Deutliche Verbesserungen“ | |
Die EU hat Regeln für künstliche Intelligenz beschlossen. Wann | |
Verbraucher:innen etwas davon mitkriegen werden, erklärt Experte Miika | |
Blinn. | |
Deutschland muss KI-Regeln umsetzen: Streitpunkt Überwachung | |
Deutschland muss bald die neuen EU-Regeln zu künstlicher Intelligenz | |
umsetzen. Fachleute fordern Verschärfungen – etwa bei der | |
Gesichtserkennung. |