# taz.de -- Künstliche Intelligenz und Ethik: Stimmen aus dem Jenseits | |
> Mit künstlicher Intelligenz klonen Filmstudios Stimmen verstorbener | |
> Menschen. Das wirft dringende ethische und gesellschaftspolitische Fragen | |
> auf. | |
Bild: Der Film „Roadrunner“ lässt den Koch Anthony Bourdain Sätze spreche… | |
Der Koch und Autor Anthony Bourdain war eine Berühmtheit. Er reiste um die | |
Welt, um dem Fernsehpublikum die exotischsten Küchen vorzustellen. In der | |
Sendung „Parts Unknown“ auf CNN probierte er bei einer Familie im | |
Gazastreifen maqluba, ein traditionell palästinensisches Gericht, | |
interviewte einen Oppositionspolitiker in Kambodscha und aß mit Barack | |
Obama in einer Garküche in Hanoi. Bourdain war kein Starkoch à la Jamie | |
Oliver, sondern ein Reiseschriftsteller in bester amerikanischer Tradition, | |
der die Welt kulinarisch erschloss und die große Politik mit der | |
Leichtigkeit eines asiatischen Reisgerichts erklärte. Im Jahr 2018 beging | |
Bourdain in einem Hotelzimmer in Frankreich Suizid. | |
Der Dokumentarfilm „Roadrunner“, der im vergangenen Jahr in die | |
amerikanischen Kinos kam, ist eine Hommage an sein Lebenswerk. An einer | |
Stelle des Films sagt Bourdain: „Du bist erfolgreich. Ich bin erfolgreich. | |
Und ich frage mich: Bist du glücklich?“ Wer das Timbre von Bourdains | |
Raucherstimme im Ohr hat, glaubt tatsächlich den Reisereporter zu hören. | |
Doch der Koch hat diese Sätze nie gesagt. Artikuliert wurden sie von einer | |
künstlichen Intelligenz. Die Software, die mit Stimmmaterial des | |
Verstorbenen trainiert wurde, hat die Sätze aus einer Mail vertont, die | |
Bourdain vor seinem Tod an einen Freund geschickt hat. Dem Publikum wäre | |
dies vermutlich nicht aufgefallen, hätte Regisseur Morgan Neville nicht in | |
der Öffentlichkeit verraten, dass eine KI-Software Bourdains Stimme | |
synthetisiert hat. | |
In den Filmstudios produzieren sie nicht mehr nur Spezialeffekte, sondern | |
auch Stimmklone. So wurde für [1][die Serie „The Mandalorian“ von Disney+] | |
die Stimme des jungen Mark Hamill synthetisiert. Das Einzige, was man dafür | |
brauchte, war eine KI und Archivmaterial des ersten „Star Wars“-Films | |
„Krieg der Sterne“ aus dem Jahr 1977, wo Hamill den Piloten Luke Skywalker | |
spielt. Das Prinzip: Eine Software zerlegt die Tonspur in einzelne Laute | |
und setzt die Audioschnipsel per Sprachsynthese zu neuen Wörtern zusammen. | |
Mit solchen Effekten kann man Menschen wie Sprechpuppen agieren lassen. | |
Aussehen, Alter, Stimme – das lässt sich am Computer alles modulieren. | |
Digitalstudios haben sogar schon verstorbene Künstler wie Tupac oder Amy | |
Winehouse als Hologramm reanimiert und auf Events auftreten lassen. | |
Etwas gruselig ist es schon, wenn da plötzlich ein Toter auf der Bühne | |
steht oder Worte verliest, die die Person zu Lebzeiten nie gesagt hat. Die | |
Frage ist: Wer spricht da eigentlich? Der Computer? Ein Mischwesen? Ein | |
Verstorbener aus dem Off? Die künstliche Reproduktion des menschlichen | |
Stimmorgans wirft eine Reihe ethischer Fragen auf: Darf man posthum | |
Schriftstücke mit der Stimme des Verstorbenen vertonen? Braucht es dafür | |
eine Einwilligung zu Lebzeiten? Sind Stimmen von Schauspielern in Filmen | |
Gemeingut? Wie weit darf die Publikumstäuschung gehen? | |
## Zufällig den eigenen Stimmklon entdeckt | |
In den USA gab es nach dem Kinostart von „Roadrunner“ eine erregte | |
Diskussion über Bourdains Stimmklon. [2][Einige Kommentatoren] hoben auf | |
das Erfordernis der Zustimmung ab, weil das ein rechtliches Mittel sei, | |
über sich selbst zu bestimmen – auch über den Tod hinaus. | |
Das war in der Vergangenheit nicht immer der Fall. So erfuhr die | |
Synchronsprecherin Susan Bennett per Zufall, [3][dass sie die amerikanische | |
Stimme von Apples Sprachassistentin Siri ist] – die Frau hatte im Jahr 2005 | |
Texte für eine Firma eingesprochen, deren Rechtsnachfolgerin | |
Spracherkennung an Apple lizenzierte. Auf rechtliche Schritte verzichtete | |
Bennett. | |
Die israelische Radiomoderatorin Galit Gura-Eini, die hebräische Stimme des | |
Navigationsdiensts Waze, [4][klagte indes gegen Apple], weil sie ohne ihr | |
Einverständnis zur Stimme von Siri wurde. Der Schauspieler Robin Williams, | |
der unter anderem als Sprecher von Dschinni in „Aladdin“ bekannt wurde und | |
2014 Suizid beging, sorgte schon zu Lebzeiten vor: In [5][seinem Vertrag | |
mit Disney] legte er fest, dass die Filmstudios seine Stimme nicht zu | |
Werbezwecken nutzen dürfen. | |
Ob Bourdain eine ähnliche Vereinbarung getroffen oder etwas in seinem | |
Nachlass geregelt hat, ist nicht bekannt. Filmemacher Neville behauptet, er | |
habe das Einverständnis von dessen Witwe eingeholt. Menschen, die Bourdain | |
gut kannten, sagen aber, dass er es niemals gewollt hätte, seine Stimme | |
einem Computer zu leihen. Der Koch sprach immer von „Authentizität“. Aber | |
was will das schon heißen in einer Zeit, in der man künstliches Fleisch | |
isst und virtuelle Influencer likt? Wo KI-Systeme wie Rembrandt malen und | |
wie Beethoven komponieren? Was ist noch echt, was Fake? | |
## In der Hyperrealität | |
„Wir haben die reale Welt abgeschafft“, unkte der französische Philosoph | |
Jean Baudrillard in seinem Werk die „Intelligenz des Bösen“. In der | |
Hyperrealität ist das Original von der Kopie nicht mehr unterscheidbar. Es | |
geht hier aber nicht nur um Erkenntnistheorie, sondern auch um ganz | |
grundsätzliche Fragen der digitalen Identität und Transzendenz. Wo zieht | |
man die Grenze zwischen Leben und Tod? Müssen für digitale Klontechniken | |
nicht dieselben Regeln gelten wie für die Reproduktionsmedizin? Sollten | |
biometrische und genetische Daten, die immer mehr Fleisch an das Skelett | |
des digitalen Zwillings bringen, nach dem Tod automatisch gelöscht werden? | |
Müssen Daten nicht auch mal ruhen? | |
Wohin die digitale Reproduktionstechnik führen kann, zeigt ein Beispiel aus | |
den USA. [6][2020 haben MIT-Forscher ein Fake-Video produziert], in dem der | |
ehemalige US-Präsident Richard Nixon in einer [7][Rede an die Nation] mit | |
gedämpfter Stimme die auf dem Mond zurückgelassenen Raumfahrer Neil | |
Armstrong und Edwin Aldrin als „tapfere Männer“ betrauert. Die Rede („In | |
Event of Moon Disaster“) wurde nie gehalten, sondern nur für den Fall | |
geschrieben, dass die Apollo-11-Mission scheitert. | |
Da die Mondlandung und anschließende Rückkehr der Astronauten gelangen, | |
schlummerte das Redemanuskript jahrelang im Archiv des Weißen Hauses. Im | |
Rahmen eines Multimediaprojekts wurde das Manuskript mit einem Stimmklon | |
vertont und als Tonspur über das digital rekonstruierte Bildmaterial | |
gelegt. Wären die Lippenbewegungen nicht so pixelig, könnte man das Video | |
für eine historische Quelle halten. | |
Schon seit einigen Jahren [8][geistern sogenannte Deep Fakes durchs Netz], | |
manipulierte Videos, in denen Gesichter von Prominenten in Pornos montiert | |
oder Lippenbewegungen von Politikern imitiert werden. Die Software ist zum | |
Teil frei im Internet erhältlich. Zwar stiftet die Technik auch Nutzen. So | |
konnte der US-Schauspieler Val Kilmer, der nach einer Rachenkrebserkrankung | |
seine Stimme verlor, seine Sprachfähigkeit durch einen digitalen Stimmklon | |
wiederherstellen. Dennoch: Das Manipulationspotenzial ist gewaltig. | |
## Haltung des Technikglaubens | |
Filmemacher Neville ficht das nicht an. [9][Er sagt: „Wir können ein | |
Dokumentations-Ethik-Panel später noch machen.“] Das ist ja so eine | |
typische Haltung des Technikglaubens: Wir machen erst mal, über Ethik | |
können wir dann immer noch reden! Dass ein verantwortungsvoller Umgang mit | |
Technik umgekehrt funktioniert, wollen die Sozialingenieure nicht | |
wahrhaben. In ihrem mechanistischen Weltbild ist der Mensch ein digitales | |
Ersatzteillager, dessen Teile man immer wieder neu zusammensetzt. | |
Doch das Individuum ist mehr als die Summe seiner Daten. Die Stimme ist ein | |
einzigartiges Identitätsmerkmal, sie gehört zu einem wie die Augen oder | |
Papillarleisten. Die Freiheit zu entscheiden, wann man etwas sagt und wann | |
nicht, unterscheidet den Menschen von einem Sprachautomaten, der auf | |
Knopfdruck losplappert. Doch irgendwie scheint es in unserer | |
speicherwütigen und [10][authentizitätsversessenen Gesellschaft] ein | |
Bedürfnis zu geben, die verpasste Vergangenheit in der Gegenwart | |
abzuspielen. | |
In Südkorea hat eine Frau den Geburtstag ihrer verstorbenen Tochter | |
gefeiert, die in der [11][virtuellen Realität] als Avatar wiederbelebt | |
wurde. Es sind rührende Szenen, wie die Mutter mit einem Datenhandschuh | |
über das virtuelle Gesicht ihrer Tochter streichelt, als hätte der Tod sie | |
nie zertrennt. Auf der anderen Seite ist es unheimlich, wie die Technik das | |
Leben transzendiert und eine neue verkörperte Wirklichkeit schafft. | |
Die Frage ist: Wollen wir das? Wollen wir eine Gesellschaft, in der man | |
Tote wie animierte GIFs herunterlädt? Solange es keine Regulierung gibt, | |
werden die Stimmen aus dem Jenseits nicht verstummen. | |
17 Feb 2022 | |
## LINKS | |
[1] /Zuhause-mit-dem-Star-Wars-Franchise/!5683599 | |
[2] https://www.newyorker.com/culture/annals-of-gastronomy/the-ethics-of-a-deep… | |
[3] https://edition.cnn.com/2013/10/04/tech/mobile/bennett-siri-iphone-voice/in… | |
[4] https://www.maclife.de/news/siri-verklagt-apple-hebraeische-stimme-nicht-ei… | |
[5] https://www.theguardian.com/film/2015/mar/31/robin-williams-restricted-use-… | |
[6] https://www.scientificamerican.com/article/a-nixon-deepfake-a-moon-disaster… | |
[7] https://www.youtube.com/watch?v=2rkQn-43ixs | |
[8] /Zauber-und-Gefahr-von-Deepfakes/!5600572 | |
[9] https://www.newyorker.com/culture/annals-of-gastronomy/the-haunting-afterli… | |
[10] /Eistees-der-Deutschrapper/!5796084 | |
[11] https://www.reuters.com/article/us-southkorea-virtualreality-reunion-idUSK… | |
## AUTOREN | |
Adrian Lobe | |
## TAGS | |
künstliche Intelligenz | |
Deepfake | |
Film | |
Datenschutz | |
GNS | |
Podcast „Vorgelesen“ | |
Kolumne Wirtschaftsweisen | |
Schauspiel | |
Schwerpunkt Krieg in der Ukraine | |
künstliche Intelligenz | |
Schwerpunkt Krieg in der Ukraine | |
Debattenkultur | |
Roboter | |
Serien-Guide | |
## ARTIKEL ZUM THEMA | |
Über Silikon-Sexpuppen in Friedrichshain: Der interaktive Sex der Zukunft | |
Im „Cybrothel“ werden aus Bordellbetreibern jetzt KI-induzierte und | |
-inspirierte Sexclub-Gestalter. Unser Kolumnist macht sich da so seine | |
Gedanken. | |
Clemens J. Setz am Schauspiel Stuttgart: Und der Bildschirm währet ewig | |
Regisseur Nick Hartnagel wirft in Stuttgart mit einem Drama von Clemens J. | |
Setz Fragen zu Abschied, Trauer und vor allem zur Medienethik auf. | |
Cyberattacken auf Bürgermeister: Giffey und der falsche Klitschko | |
Mehrere EU-Bürgermeister sind auf Fake-Video-Anrufe hereingefallen. Darin | |
gaben sich Unbekannte als der Kiewer Bürgermeister Vitali Klitschko aus. | |
Autor über KI-Kunst: „Mehr als nur schnell rechnen“ | |
Kunst, das kommt von Künstlicher Intelligenz: Hanno Rauterberg über den | |
Traum von kreativen Maschinen. | |
Künstliche Intelligenz im Krieg: Im Angesicht des Todes | |
Das ukrainische Militär setzt Gesichtserkennung ein, um tote russische | |
Soldaten zu identifizieren. Die Technik wirft seit einiger Zeit Fragen auf. | |
Was heute politisch ist: Überall und nirgendwo | |
Konsum und Lebensmittel werden zunehmend ideologisiert. Das ist Ausdruck | |
einer Hyperpolitik: Alles ist politisch, aber immer weniger politikfähig. | |
Künstliche Intelligenz im Service: Die miauende Robo-Kellnerin | |
Roboterdesign wirkt oft stereotyp, dabei steckt darin sogar utopisches | |
Potenzial. Die Dienstleistungs-Zukunft könnte der KI gelten. | |
Zuhause mit dem „Star Wars“-Franchise: Das unendliche Universum | |
Krieg ist irgendwie immer. Erträglicher ist er, wenn er sich im | |
Sci-Fi-Universum abspielt. Gedanken beim Anschauen von „Clone Wars“ und | |
„Mandalorian“. |