Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- Regulierung von KI-generierten Inhalten: Der Mensch hinkt hinterher
> Das Geschäft mit computergenerierten Influencer*innen boomt. Das
> ruft rechtliche und ethische Probleme hervor.
Bild: Bald werden Bilder wie dieses mit künstlicher Intelligenz produziert
Künstlich geschaffene Persönlichkeiten gibt es seit einigen Jahren. Sie
haben im Netz Tausende Fans und verdienen für ihre Erschaffer:innen
viel Geld. Da wären zum Beispiel Sika Moon und [1][Aitana Lopez],
Influencerinnen im sexy Outfit mit pinken Haaren, ins virtuelle Leben
gerufen vom spanischen Designer Rubén Cruz. Oder [2][Shudu], ein Schwarzes
Model, die ein Konstrukt des Modefotografs Cameron-James Wilson ist. Oder
auch [3][Lil Miquela], Instagram-Star und Musikerin, die einem Start-up aus
Los Angeles entstammt.
[4][Besonders in der Schönheitsindustrie revolutioniert künstliche
Intelligenz das Geschäft]. Das liegt daran, dass die KI inzwischen auch
Bildbearbeitung kann. Sie hübscht vorhandene Fotos mit Filtern und Montagen
zu Beautyshots auf oder generiert gänzlich neue Optiken, ohne dass es je
ein Original gegeben hätte.
KI ist überall dort im Einsatz, wo zahlende Kund*innen vor ihren
Bildschirmen von neuen Inhalten überflutet werden wollen – und sich oft
insgeheim nach Idealen sehnen, denen kein echter Mensch gerecht werden
kann. Dort, wo Influencer*innen ihr Publikum und ihre Sponsor*innen
mit außergewöhnlichen Bildern und Videos bei Laune halten; immer gut
gelaunt, immer gut aussehend, immer aktiv und unterwegs, auf Reisen, beim
Sport, beim Kochen, beim Tanzen, auf dem Sofa mit der Katze.
Je mehr Follower*innen, also je größer das Publikum, desto mehr zahlen die
Werbekund*innen. Sie machen das Influencerleben überhaupt erst möglich.
Micro-Influencer mit ein paar Tausend Follower*innen verdienen um die
50 Euro pro Post, Mega-Influencer mit Millionen Fans bekommen dafür 15.000
Euro.
## Authentizität und Illusion
Das Modelmachen mit dem Einsatz künstlicher Intelligenz funktioniert so:
Ein gutes Bild braucht einen guten Prompt, also eine gute Anweisung. Dann
ist die KI dran. Je genauer sie das Verhältnis zwischen Wort und Bild
definieren kann, desto besser wird das Ergebnis. Etliche Firmen trainieren
ihre Programme genau darauf. Unmengen an Bilddaten brauchen sie dafür. Sie
nutzen vor allem die, die öffentlich zugänglich sind. Also die Fotos und
Clips, die wir täglich auf Instagram und Tiktok zeigen. Die KI lernt
schnell, die Grenzen zwischen menschen- und computergenerierten Inhalten
verschwimmen.
Während die einen Influencer*innen Produkte, Orte und Events bewerben,
bewerben andere sich selbst. Jugendfreie Inhalte landen auf gängigen
sozialen Netzwerken wie Instagram und Tiktok, Expliziteres auf Onlyfans
oder Fanvue. Dort sind auch pornografische Inhalte erlaubt. Kund*innen
legen sich einen Account an und bezahlen für die Abos der Anbieter*innen.
Knapp zehn Euro im Monat kostet es, zum Beispiel mit Sika Moon zu chatten
oder ihre Bilder und Videos sehen zu dürfen.
Wie authentisch menschlich oder illusorisch künstlich die Inhalte sein
sollen, kann jede*r für sich entscheiden. Noch lässt sich halbwegs
erkennen, wo und wie viel KI dahintersteckt. Wo das nicht mehr möglich ist,
könnten verpflichtende Kennzeichnungen helfen. Kamerahersteller wie Canon
und Nikon werden künftig die von ihren Kameras geschossenen Bilder mit
digitalen Wasserzeichen versehen. Doch es wird auch nötig sein, dass
KI-gestützte Programme im Nachhinein erkennen, welche Inhalte von KI
erstellt sind.
Denn die nächste Revolution des Pornoangebots steht schon bevor: Bald
werden KI-generierte Videos gut genug sein, um mit „echten“ Pornoclips
konkurrieren zu können. KI-generierte Bewegtbilder gibt es zwar längst. Es
sieht aber noch etwas gruselig aus, wenn ein KI-Will-Smith KI-Pasta
verschlingt oder fünfbeinige Hundewelpen aus anderen Hunden heraussprudeln.
Damit eine KI Videos erschafft, die aussehen wie von einer Filmkamera
aufgenommen, muss sie etliche Faktoren berücksichtigen: Physikalische
Eigenschaften müssen ebenso stimmen wie Licht und Farbe, ein Bild muss
logisch dem vorherigen folgen. Das erfordert größere Datenmengen, als die
KI für Texte braucht. Open AI, die Firma, die uns mit ChatGPT ins Staunen
versetzt hat, ist schon dran: Ihre Video-KI Sora soll in den nächsten
Monaten für alle nutzbar sein. Die ersten Promovideos sehen erschreckend
echt aus.
## Angst vor Deepfakes
Auch wenn die KI noch keine perfekten Videos erstellen kann, gibt es
bereits Probleme: hinreichend echt wirkende Deepfakes. Dabei werden etwa
Gesichter von realen Personen in bestehende Bilder hineinmontiert.
Technisch gesehen ist das für alle Videos möglich. Nach Angaben der
Cybersecurity-Firma [5][Deeptrace] jedoch sind 96 Prozent aller Deepfakes
im Netz Porno.
Erst wurden reihenweise Schauspielerinnen und Sängerinnen Opfer der
rufschädigenden Manipulation. Nach Scarlett Johansson und Taylor Swift
traf es dann Privatpersonen, Exfreundinnen, Kollegen. Bei den ersten
Deepfakes von 2017 etwa konnte man die Täuschung noch leicht erkennen.
Sieben Jahre später ist das schon schwerer.
Der Schutz der Persönlichkeit gilt im Netz de jure, aber nicht de facto.
Verantwortliche sitzen im Ausland oder es stehen technische Hürden im Weg,
um Gesetze und Strafen geltend zu machen. Vor Kurzem hat das EU-Parlament
den [6][„AI-Act“] beschlossen. Die darin enthaltenen Richtlinien sollen vor
Gefahren schützen, auch vor täuschend echt gefälschten Bildern. Europa
reagiert damit schneller als andere Kontinente der Welt. Schneller als die
künstliche Intelligenz kann der Apparat der Bürokratie aber nicht sein. Sie
muss den Nebenwirkungen ihrer Evolution folgen.
Der große Unterschied zwischen menschengemachter und KI-generierter
Pornografie werde der sein, dass die beteiligten Menschen den entstehenden
Bildern im besten Fall zustimmen müssen, sagt Lori Watson von der
Washington University. Bei einer KI ohne Bewusstsein sei das nicht nötig.
In ihrem Text über Ethik in Pornografie und Sexarbeit schreibt die
Philosophieprofessorin, dass die KI eine Dynamik schaffen werde, in der wir
genau den Sex bekommen, nach dem wir fragen – und zwar schneller, als wir
ein ethisches Verständnis dafür entwickeln würden.
25 Mar 2024
## LINKS
[1] https://www.instagram.com/fit_aitana/?hl=de
[2] https://www.instagram.com/shudu.gram/?hl=de
[3] https://www.instagram.com/lilmiquela/?hl=de
[4] /Die-KI-App-und-das-Aussehen/!5947912
[5] https://regmedia.co.uk/2019/10/08/deepfake_report.pdf
[6] /Neue-Regeln-fuer-KI/!5994919
## AUTOREN
Philipp Brandstädter
## TAGS
Schwerpunkt Künstliche Intelligenz
Kolumne Intelligenzbestie
Porno
Influencer
Sex
Schönheit
Ethik
Schwerpunkt Künstliche Intelligenz
Blockchain
Schwerpunkt Künstliche Intelligenz
Schwerpunkt Überwachung
Schwerpunkt Feministischer Kampftag
## ARTIKEL ZUM THEMA
Künstliche Intelligenz im Wahlkampf: Wenn Robo-Scholz anruft
Pünktlich zum Super-Wahljahr 2024 ist das Zeitalter der KI angebrochen. Die
taz hat sich umgehört, was das für die Wahlen bedeutet.
Künstliche Intelligenz und Vermüllung: KI killt das Web
Jetzt, wo nahezu alle KI benutzen können, gilt vor allem eins: Das Netz
quillt vor KI-generiertem Müll über. Ist das Internet noch zu retten?
Umgang mit künstlicher Intelligenz: Akzeptanz braucht Transparenz
KI bietet Chancen. Um einen guten Umgang mit ihr zu finden, muss es noch
viel mehr Transparenz über ihren Einsatz und ihre Risiken geben.
Gesetz zur künstlichen Intelligenz: Neue Technologie, neue Überwachung
Der AI Act ist beschlossen. Das überwachungs- und wirtschaftsfreundliche
Ergebnis ist kein Zufall. Doch es ist gut, dass das Regelwerk jetzt
durchkam.
Werben mit virtuellen Influencern: Sind die bitte echt?
Erste digitale Models und Influencer*innen sind bereits erfolgreich.
Aber wie nahbar können KI-generierte und virtuelle Schönheiten sein?
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.