# taz.de -- Regulierung von KI-generierten Inhalten: Der Mensch hinkt hinterher | |
> Das Geschäft mit computergenerierten Influencer*innen boomt. Das | |
> ruft rechtliche und ethische Probleme hervor. | |
Bild: Bald werden Bilder wie dieses mit künstlicher Intelligenz produziert | |
Künstlich geschaffene Persönlichkeiten gibt es seit einigen Jahren. Sie | |
haben im Netz Tausende Fans und verdienen für ihre Erschaffer:innen | |
viel Geld. Da wären zum Beispiel Sika Moon und [1][Aitana Lopez], | |
Influencerinnen im sexy Outfit mit pinken Haaren, ins virtuelle Leben | |
gerufen vom spanischen Designer Rubén Cruz. Oder [2][Shudu], ein Schwarzes | |
Model, die ein Konstrukt des Modefotografs Cameron-James Wilson ist. Oder | |
auch [3][Lil Miquela], Instagram-Star und Musikerin, die einem Start-up aus | |
Los Angeles entstammt. | |
[4][Besonders in der Schönheitsindustrie revolutioniert künstliche | |
Intelligenz das Geschäft]. Das liegt daran, dass die KI inzwischen auch | |
Bildbearbeitung kann. Sie hübscht vorhandene Fotos mit Filtern und Montagen | |
zu Beautyshots auf oder generiert gänzlich neue Optiken, ohne dass es je | |
ein Original gegeben hätte. | |
KI ist überall dort im Einsatz, wo zahlende Kund*innen vor ihren | |
Bildschirmen von neuen Inhalten überflutet werden wollen – und sich oft | |
insgeheim nach Idealen sehnen, denen kein echter Mensch gerecht werden | |
kann. Dort, wo Influencer*innen ihr Publikum und ihre Sponsor*innen | |
mit außergewöhnlichen Bildern und Videos bei Laune halten; immer gut | |
gelaunt, immer gut aussehend, immer aktiv und unterwegs, auf Reisen, beim | |
Sport, beim Kochen, beim Tanzen, auf dem Sofa mit der Katze. | |
Je mehr Follower*innen, also je größer das Publikum, desto mehr zahlen die | |
Werbekund*innen. Sie machen das Influencerleben überhaupt erst möglich. | |
Micro-Influencer mit ein paar Tausend Follower*innen verdienen um die | |
50 Euro pro Post, Mega-Influencer mit Millionen Fans bekommen dafür 15.000 | |
Euro. | |
## Authentizität und Illusion | |
Das Modelmachen mit dem Einsatz künstlicher Intelligenz funktioniert so: | |
Ein gutes Bild braucht einen guten Prompt, also eine gute Anweisung. Dann | |
ist die KI dran. Je genauer sie das Verhältnis zwischen Wort und Bild | |
definieren kann, desto besser wird das Ergebnis. Etliche Firmen trainieren | |
ihre Programme genau darauf. Unmengen an Bilddaten brauchen sie dafür. Sie | |
nutzen vor allem die, die öffentlich zugänglich sind. Also die Fotos und | |
Clips, die wir täglich auf Instagram und Tiktok zeigen. Die KI lernt | |
schnell, die Grenzen zwischen menschen- und computergenerierten Inhalten | |
verschwimmen. | |
Während die einen Influencer*innen Produkte, Orte und Events bewerben, | |
bewerben andere sich selbst. Jugendfreie Inhalte landen auf gängigen | |
sozialen Netzwerken wie Instagram und Tiktok, Expliziteres auf Onlyfans | |
oder Fanvue. Dort sind auch pornografische Inhalte erlaubt. Kund*innen | |
legen sich einen Account an und bezahlen für die Abos der Anbieter*innen. | |
Knapp zehn Euro im Monat kostet es, zum Beispiel mit Sika Moon zu chatten | |
oder ihre Bilder und Videos sehen zu dürfen. | |
Wie authentisch menschlich oder illusorisch künstlich die Inhalte sein | |
sollen, kann jede*r für sich entscheiden. Noch lässt sich halbwegs | |
erkennen, wo und wie viel KI dahintersteckt. Wo das nicht mehr möglich ist, | |
könnten verpflichtende Kennzeichnungen helfen. Kamerahersteller wie Canon | |
und Nikon werden künftig die von ihren Kameras geschossenen Bilder mit | |
digitalen Wasserzeichen versehen. Doch es wird auch nötig sein, dass | |
KI-gestützte Programme im Nachhinein erkennen, welche Inhalte von KI | |
erstellt sind. | |
Denn die nächste Revolution des Pornoangebots steht schon bevor: Bald | |
werden KI-generierte Videos gut genug sein, um mit „echten“ Pornoclips | |
konkurrieren zu können. KI-generierte Bewegtbilder gibt es zwar längst. Es | |
sieht aber noch etwas gruselig aus, wenn ein KI-Will-Smith KI-Pasta | |
verschlingt oder fünfbeinige Hundewelpen aus anderen Hunden heraussprudeln. | |
Damit eine KI Videos erschafft, die aussehen wie von einer Filmkamera | |
aufgenommen, muss sie etliche Faktoren berücksichtigen: Physikalische | |
Eigenschaften müssen ebenso stimmen wie Licht und Farbe, ein Bild muss | |
logisch dem vorherigen folgen. Das erfordert größere Datenmengen, als die | |
KI für Texte braucht. Open AI, die Firma, die uns mit ChatGPT ins Staunen | |
versetzt hat, ist schon dran: Ihre Video-KI Sora soll in den nächsten | |
Monaten für alle nutzbar sein. Die ersten Promovideos sehen erschreckend | |
echt aus. | |
## Angst vor Deepfakes | |
Auch wenn die KI noch keine perfekten Videos erstellen kann, gibt es | |
bereits Probleme: hinreichend echt wirkende Deepfakes. Dabei werden etwa | |
Gesichter von realen Personen in bestehende Bilder hineinmontiert. | |
Technisch gesehen ist das für alle Videos möglich. Nach Angaben der | |
Cybersecurity-Firma [5][Deeptrace] jedoch sind 96 Prozent aller Deepfakes | |
im Netz Porno. | |
Erst wurden reihenweise Schauspielerinnen und Sängerinnen Opfer der | |
rufschädigenden Manipulation. Nach Scarlett Johansson und Taylor Swift | |
traf es dann Privatpersonen, Exfreundinnen, Kollegen. Bei den ersten | |
Deepfakes von 2017 etwa konnte man die Täuschung noch leicht erkennen. | |
Sieben Jahre später ist das schon schwerer. | |
Der Schutz der Persönlichkeit gilt im Netz de jure, aber nicht de facto. | |
Verantwortliche sitzen im Ausland oder es stehen technische Hürden im Weg, | |
um Gesetze und Strafen geltend zu machen. Vor Kurzem hat das EU-Parlament | |
den [6][„AI-Act“] beschlossen. Die darin enthaltenen Richtlinien sollen vor | |
Gefahren schützen, auch vor täuschend echt gefälschten Bildern. Europa | |
reagiert damit schneller als andere Kontinente der Welt. Schneller als die | |
künstliche Intelligenz kann der Apparat der Bürokratie aber nicht sein. Sie | |
muss den Nebenwirkungen ihrer Evolution folgen. | |
Der große Unterschied zwischen menschengemachter und KI-generierter | |
Pornografie werde der sein, dass die beteiligten Menschen den entstehenden | |
Bildern im besten Fall zustimmen müssen, sagt Lori Watson von der | |
Washington University. Bei einer KI ohne Bewusstsein sei das nicht nötig. | |
In ihrem Text über Ethik in Pornografie und Sexarbeit schreibt die | |
Philosophieprofessorin, dass die KI eine Dynamik schaffen werde, in der wir | |
genau den Sex bekommen, nach dem wir fragen – und zwar schneller, als wir | |
ein ethisches Verständnis dafür entwickeln würden. | |
25 Mar 2024 | |
## LINKS | |
[1] https://www.instagram.com/fit_aitana/?hl=de | |
[2] https://www.instagram.com/shudu.gram/?hl=de | |
[3] https://www.instagram.com/lilmiquela/?hl=de | |
[4] /Die-KI-App-und-das-Aussehen/!5947912 | |
[5] https://regmedia.co.uk/2019/10/08/deepfake_report.pdf | |
[6] /Neue-Regeln-fuer-KI/!5994919 | |
## AUTOREN | |
Philipp Brandstädter | |
## TAGS | |
Schwerpunkt Künstliche Intelligenz | |
Kolumne Intelligenzbestie | |
Porno | |
Influencer | |
Sex | |
Schönheit | |
Ethik | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Künstliche Intelligenz | |
Schwerpunkt Feministischer Kampftag | |
## ARTIKEL ZUM THEMA | |
Künstliche Intelligenz im Wahlkampf: Wenn Robo-Scholz anruft | |
Pünktlich zum Super-Wahljahr 2024 ist das Zeitalter der KI angebrochen. Die | |
taz hat sich umgehört, was das für die Wahlen bedeutet. | |
Künstliche Intelligenz und Vermüllung: KI killt das Web | |
Jetzt, wo nahezu alle KI benutzen können, gilt vor allem eins: Das Netz | |
quillt vor KI-generiertem Müll über. Ist das Internet noch zu retten? | |
Umgang mit künstlicher Intelligenz: Akzeptanz braucht Transparenz | |
KI bietet Chancen. Um einen guten Umgang mit ihr zu finden, muss es noch | |
viel mehr Transparenz über ihren Einsatz und ihre Risiken geben. | |
Gesetz zur künstlichen Intelligenz: Neue Technologie, neue Überwachung | |
Der AI Act ist beschlossen. Das überwachungs- und wirtschaftsfreundliche | |
Ergebnis ist kein Zufall. Doch es ist gut, dass das Regelwerk jetzt | |
durchkam. | |
Werben mit virtuellen Influencern: Sind die bitte echt? | |
Erste digitale Models und Influencer*innen sind bereits erfolgreich. | |
Aber wie nahbar können KI-generierte und virtuelle Schönheiten sein? |