Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- Künstliche Intelligenz und Ethik: Stimmen aus dem Jenseits
> Mit künstlicher Intelligenz klonen Filmstudios Stimmen verstorbener
> Menschen. Das wirft dringende ethische und gesellschaftspolitische Fragen
> auf.
Bild: Der Film „Roadrunner“ lässt den Koch Anthony Bourdain Sätze spreche…
Der Koch und Autor Anthony Bourdain war eine Berühmtheit. Er reiste um die
Welt, um dem Fernsehpublikum die exotischsten Küchen vorzustellen. In der
Sendung „Parts Unknown“ auf CNN probierte er bei einer Familie im
Gazastreifen maqluba, ein traditionell palästinensisches Gericht,
interviewte einen Oppositionspolitiker in Kambodscha und aß mit Barack
Obama in einer Garküche in Hanoi. Bourdain war kein Starkoch à la Jamie
Oliver, sondern ein Reiseschriftsteller in bester amerikanischer Tradition,
der die Welt kulinarisch erschloss und die große Politik mit der
Leichtigkeit eines asiatischen Reisgerichts erklärte. Im Jahr 2018 beging
Bourdain in einem Hotelzimmer in Frankreich Suizid.
Der Dokumentarfilm „Roadrunner“, der im vergangenen Jahr in die
amerikanischen Kinos kam, ist eine Hommage an sein Lebenswerk. An einer
Stelle des Films sagt Bourdain: „Du bist erfolgreich. Ich bin erfolgreich.
Und ich frage mich: Bist du glücklich?“ Wer das Timbre von Bourdains
Raucherstimme im Ohr hat, glaubt tatsächlich den Reisereporter zu hören.
Doch der Koch hat diese Sätze nie gesagt. Artikuliert wurden sie von einer
künstlichen Intelligenz. Die Software, die mit Stimmmaterial des
Verstorbenen trainiert wurde, hat die Sätze aus einer Mail vertont, die
Bourdain vor seinem Tod an einen Freund geschickt hat. Dem Publikum wäre
dies vermutlich nicht aufgefallen, hätte Regisseur Morgan Neville nicht in
der Öffentlichkeit verraten, dass eine KI-Software Bourdains Stimme
synthetisiert hat.
In den Filmstudios produzieren sie nicht mehr nur Spezialeffekte, sondern
auch Stimmklone. So wurde für [1][die Serie „The Mandalorian“ von Disney+]
die Stimme des jungen Mark Hamill synthetisiert. Das Einzige, was man dafür
brauchte, war eine KI und Archivmaterial des ersten „Star Wars“-Films
„Krieg der Sterne“ aus dem Jahr 1977, wo Hamill den Piloten Luke Skywalker
spielt. Das Prinzip: Eine Software zerlegt die Tonspur in einzelne Laute
und setzt die Audioschnipsel per Sprachsynthese zu neuen Wörtern zusammen.
Mit solchen Effekten kann man Menschen wie Sprechpuppen agieren lassen.
Aussehen, Alter, Stimme – das lässt sich am Computer alles modulieren.
Digitalstudios haben sogar schon verstorbene Künstler wie Tupac oder Amy
Winehouse als Hologramm reanimiert und auf Events auftreten lassen.
Etwas gruselig ist es schon, wenn da plötzlich ein Toter auf der Bühne
steht oder Worte verliest, die die Person zu Lebzeiten nie gesagt hat. Die
Frage ist: Wer spricht da eigentlich? Der Computer? Ein Mischwesen? Ein
Verstorbener aus dem Off? Die künstliche Reproduktion des menschlichen
Stimmorgans wirft eine Reihe ethischer Fragen auf: Darf man posthum
Schriftstücke mit der Stimme des Verstorbenen vertonen? Braucht es dafür
eine Einwilligung zu Lebzeiten? Sind Stimmen von Schauspielern in Filmen
Gemeingut? Wie weit darf die Publikumstäuschung gehen?
## Zufällig den eigenen Stimmklon entdeckt
In den USA gab es nach dem Kinostart von „Roadrunner“ eine erregte
Diskussion über Bourdains Stimmklon. [2][Einige Kommentatoren] hoben auf
das Erfordernis der Zustimmung ab, weil das ein rechtliches Mittel sei,
über sich selbst zu bestimmen – auch über den Tod hinaus.
Das war in der Vergangenheit nicht immer der Fall. So erfuhr die
Synchronsprecherin Susan Bennett per Zufall, [3][dass sie die amerikanische
Stimme von Apples Sprachassistentin Siri ist] – die Frau hatte im Jahr 2005
Texte für eine Firma eingesprochen, deren Rechtsnachfolgerin
Spracherkennung an Apple lizenzierte. Auf rechtliche Schritte verzichtete
Bennett.
Die israelische Radiomoderatorin Galit Gura-Eini, die hebräische Stimme des
Navigationsdiensts Waze, [4][klagte indes gegen Apple], weil sie ohne ihr
Einverständnis zur Stimme von Siri wurde. Der Schauspieler Robin Williams,
der unter anderem als Sprecher von Dschinni in „Aladdin“ bekannt wurde und
2014 Suizid beging, sorgte schon zu Lebzeiten vor: In [5][seinem Vertrag
mit Disney] legte er fest, dass die Filmstudios seine Stimme nicht zu
Werbezwecken nutzen dürfen.
Ob Bourdain eine ähnliche Vereinbarung getroffen oder etwas in seinem
Nachlass geregelt hat, ist nicht bekannt. Filmemacher Neville behauptet, er
habe das Einverständnis von dessen Witwe eingeholt. Menschen, die Bourdain
gut kannten, sagen aber, dass er es niemals gewollt hätte, seine Stimme
einem Computer zu leihen. Der Koch sprach immer von „Authentizität“. Aber
was will das schon heißen in einer Zeit, in der man künstliches Fleisch
isst und virtuelle Influencer likt? Wo KI-Systeme wie Rembrandt malen und
wie Beethoven komponieren? Was ist noch echt, was Fake?
## In der Hyperrealität
„Wir haben die reale Welt abgeschafft“, unkte der französische Philosoph
Jean Baudrillard in seinem Werk die „Intelligenz des Bösen“. In der
Hyperrealität ist das Original von der Kopie nicht mehr unterscheidbar. Es
geht hier aber nicht nur um Erkenntnistheorie, sondern auch um ganz
grundsätzliche Fragen der digitalen Identität und Transzendenz. Wo zieht
man die Grenze zwischen Leben und Tod? Müssen für digitale Klontechniken
nicht dieselben Regeln gelten wie für die Reproduktionsmedizin? Sollten
biometrische und genetische Daten, die immer mehr Fleisch an das Skelett
des digitalen Zwillings bringen, nach dem Tod automatisch gelöscht werden?
Müssen Daten nicht auch mal ruhen?
Wohin die digitale Reproduktionstechnik führen kann, zeigt ein Beispiel aus
den USA. [6][2020 haben MIT-Forscher ein Fake-Video produziert], in dem der
ehemalige US-Präsident Richard Nixon in einer [7][Rede an die Nation] mit
gedämpfter Stimme die auf dem Mond zurückgelassenen Raumfahrer Neil
Armstrong und Edwin Aldrin als „tapfere Männer“ betrauert. Die Rede („In
Event of Moon Disaster“) wurde nie gehalten, sondern nur für den Fall
geschrieben, dass die Apollo-11-Mission scheitert.
Da die Mondlandung und anschließende Rückkehr der Astronauten gelangen,
schlummerte das Redemanuskript jahrelang im Archiv des Weißen Hauses. Im
Rahmen eines Multimediaprojekts wurde das Manuskript mit einem Stimmklon
vertont und als Tonspur über das digital rekonstruierte Bildmaterial
gelegt. Wären die Lippenbewegungen nicht so pixelig, könnte man das Video
für eine historische Quelle halten.
Schon seit einigen Jahren [8][geistern sogenannte Deep Fakes durchs Netz],
manipulierte Videos, in denen Gesichter von Prominenten in Pornos montiert
oder Lippenbewegungen von Politikern imitiert werden. Die Software ist zum
Teil frei im Internet erhältlich. Zwar stiftet die Technik auch Nutzen. So
konnte der US-Schauspieler Val Kilmer, der nach einer Rachenkrebserkrankung
seine Stimme verlor, seine Sprachfähigkeit durch einen digitalen Stimmklon
wiederherstellen. Dennoch: Das Manipulationspotenzial ist gewaltig.
## Haltung des Technikglaubens
Filmemacher Neville ficht das nicht an. [9][Er sagt: „Wir können ein
Dokumentations-Ethik-Panel später noch machen.“] Das ist ja so eine
typische Haltung des Technikglaubens: Wir machen erst mal, über Ethik
können wir dann immer noch reden! Dass ein verantwortungsvoller Umgang mit
Technik umgekehrt funktioniert, wollen die Sozialingenieure nicht
wahrhaben. In ihrem mechanistischen Weltbild ist der Mensch ein digitales
Ersatzteillager, dessen Teile man immer wieder neu zusammensetzt.
Doch das Individuum ist mehr als die Summe seiner Daten. Die Stimme ist ein
einzigartiges Identitätsmerkmal, sie gehört zu einem wie die Augen oder
Papillarleisten. Die Freiheit zu entscheiden, wann man etwas sagt und wann
nicht, unterscheidet den Menschen von einem Sprachautomaten, der auf
Knopfdruck losplappert. Doch irgendwie scheint es in unserer
speicherwütigen und [10][authentizitätsversessenen Gesellschaft] ein
Bedürfnis zu geben, die verpasste Vergangenheit in der Gegenwart
abzuspielen.
In Südkorea hat eine Frau den Geburtstag ihrer verstorbenen Tochter
gefeiert, die in der [11][virtuellen Realität] als Avatar wiederbelebt
wurde. Es sind rührende Szenen, wie die Mutter mit einem Datenhandschuh
über das virtuelle Gesicht ihrer Tochter streichelt, als hätte der Tod sie
nie zertrennt. Auf der anderen Seite ist es unheimlich, wie die Technik das
Leben transzendiert und eine neue verkörperte Wirklichkeit schafft.
Die Frage ist: Wollen wir das? Wollen wir eine Gesellschaft, in der man
Tote wie animierte GIFs herunterlädt? Solange es keine Regulierung gibt,
werden die Stimmen aus dem Jenseits nicht verstummen.
17 Feb 2022
## LINKS
[1] /Zuhause-mit-dem-Star-Wars-Franchise/!5683599
[2] https://www.newyorker.com/culture/annals-of-gastronomy/the-ethics-of-a-deep…
[3] https://edition.cnn.com/2013/10/04/tech/mobile/bennett-siri-iphone-voice/in…
[4] https://www.maclife.de/news/siri-verklagt-apple-hebraeische-stimme-nicht-ei…
[5] https://www.theguardian.com/film/2015/mar/31/robin-williams-restricted-use-…
[6] https://www.scientificamerican.com/article/a-nixon-deepfake-a-moon-disaster…
[7] https://www.youtube.com/watch?v=2rkQn-43ixs
[8] /Zauber-und-Gefahr-von-Deepfakes/!5600572
[9] https://www.newyorker.com/culture/annals-of-gastronomy/the-haunting-afterli…
[10] /Eistees-der-Deutschrapper/!5796084
[11] https://www.reuters.com/article/us-southkorea-virtualreality-reunion-idUSK…
## AUTOREN
Adrian Lobe
## TAGS
Deepfake
Datenschutz
Film
Podcast „Vorgelesen“
GNS
Schwerpunkt Künstliche Intelligenz
Deepfake
Schauspiel
Schwerpunkt Krieg in der Ukraine
Kunst
Datenschutz
Debattenkultur
Gender
Serien-Guide
## ARTIKEL ZUM THEMA
Über Silikon-Sexpuppen in Friedrichshain: Der interaktive Sex der Zukunft
Im „Cybrothel“ werden aus Bordellbetreibern jetzt KI-induzierte und
-inspirierte Sexclub-Gestalter. Unser Kolumnist macht sich da so seine
Gedanken.
Clemens J. Setz am Schauspiel Stuttgart: Und der Bildschirm währet ewig
Regisseur Nick Hartnagel wirft in Stuttgart mit einem Drama von Clemens J.
Setz Fragen zu Abschied, Trauer und vor allem zur Medienethik auf.
Cyberattacken auf Bürgermeister: Giffey und der falsche Klitschko
Mehrere EU-Bürgermeister sind auf Fake-Video-Anrufe hereingefallen. Darin
gaben sich Unbekannte als der Kiewer Bürgermeister Vitali Klitschko aus.
Autor über KI-Kunst: „Mehr als nur schnell rechnen“
Kunst, das kommt von Künstlicher Intelligenz: Hanno Rauterberg über den
Traum von kreativen Maschinen.
Künstliche Intelligenz im Krieg: Im Angesicht des Todes
Das ukrainische Militär setzt Gesichtserkennung ein, um tote russische
Soldaten zu identifizieren. Die Technik wirft seit einiger Zeit Fragen auf.
Was heute politisch ist: Überall und nirgendwo
Konsum und Lebensmittel werden zunehmend ideologisiert. Das ist Ausdruck
einer Hyperpolitik: Alles ist politisch, aber immer weniger politikfähig.
Künstliche Intelligenz im Service: Die miauende Robo-Kellnerin
Roboterdesign wirkt oft stereotyp, dabei steckt darin sogar utopisches
Potenzial. Die Dienstleistungs-Zukunft könnte der KI gelten.
Zuhause mit dem „Star Wars“-Franchise: Das unendliche Universum
Krieg ist irgendwie immer. Erträglicher ist er, wenn er sich im
Sci-Fi-Universum abspielt. Gedanken beim Anschauen von „Clone Wars“ und
„Mandalorian“.
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.