Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- Technikforscher über neue Intelligenz: „Eine typische Vermenschl…
> Die Rechenleistung von Maschinen überholt das menschliche Gehirn. Von
> „neuer Intelligenz“ will Technikforscher Christopher Coenen nicht
> sprechen.
Bild: Vor denen müssen wir wohl eher keine Angst haben. (Archivbild 2003)
taz.am wochenende: Herr Coenen, Sie bearbeiten mit Kollegen vom [1][Büro
für Technikfolgenabschätzung beim Deutschen Bundestag (TAB)] momentan ein
Projekt zum Thema „Mensch-Maschine-Entgrenzung“. Hat die Politik Angst vor
Künstlicher Intelligenz?
Christopher Coenen: Von Angst würde ich nicht sprechen. Aber manche
Abgeordnete sind besorgt und fragen sich, was sich in der Neuro- und in der
KI-Forschung entwickelt. Sie interessieren sich auch für die aktuellen
Diskussionen um [2][Cyborgs, also Mensch-Technik-Verschmelzungen], und um
Künstliche Intelligenz (KI). Die Politiker wollen wissen, ob diesen
„transhumanistischen“ Diskussionen realistische Zukunftsbilder zugrunde
liegen.
Der Informatiker Jürgen Schmidhuber, der zu Künstlicher Intelligenz
forscht, glaubt, dass in wenigen Jahrzehnten ein einziger Computer die
Rechenkraft der ganzen Menschheit haben wird.
Zweifellos wird die Rechenleistung weiter schnell wachsen. Das ist eine
überzeugende Prognose.
Schmidhuber sagt, das stelle den Menschen als Krone der Schöpfung infrage.
Ich glaube nicht, dass dies ein zutreffendes Bild ist. Diese Angst-Lust
teile ich nicht, dass da etwas kommt, das uns zerstört oder erlöst von
unserer metaphysischen Einsamkeit im All.
Verharmlosen Sie damit nicht die Entwicklung?
Es stimmt, dass die Systeme immer komplexer werden und von den Menschen zum
Teil gar nicht mehr zu verstehen sind. Sie könnten auch außer Kontrolle
geraten. Aber ich sehe nicht, dass daraus eine [3][gänzlich neue Form der
Intelligenz] entsteht.
Sie sehen also keine Anhaltspunkte dafür, dass Künstliche Intelligenz ein
Selbstbewusstsein entwickeln kann?
Nein. Wir haben ja schon kein gutes Verständnis davon, warum wir selbst
selbstbewusst sind. Ein denkendes Wesen mit Bewusstsein und einer
Persönlichkeit wie HAL aus „2001 – Odyssee im Weltraum“ – sehe ich nic…
entstehen.
Was ist der Unterschied zwischen Intelligenz und Selbstbewusstsein?
Selbstbewusstsein ist das Wissen um die eigene Existenz, die Fähigkeit,
sich selbst und seine Handlungen zu reflektieren. Das ist etwas anderes als
Rechenleistung. Wie soll aus der Quantität eine neue Qualität werden?
Würden Sie also sagen, Maschinen können nur instrumentelle Vernunft
erlernen?
Auch wenn quasi eine andere Art von Vernunft in sie hineingebaut würde,
blieben es letztlich Instrumente. Diese Vernunft bliebe deshalb also immer
zweckrational.
Der Historiker Philip Mirowski spricht schon heute von einer
Cyborg-Ökonomie.
Ja, aber das ist etwas anderes: Soziotechnische Systeme, wie das in der
Soziologie genannt wird, werden auf jeden Fall immer komplexer. Ein
Beispiel ist die Börsenwelt. Die Händler verstehen nicht mehr, wie ihre
Systeme funktionieren.
Heißt das, wir sind schon heute der Technik unterworfen?
In gewisser Hinsicht konnten wir uns noch nie unabhängig von Technik
definieren. Das Smartphone, das unser Gespräch hier aufzeichnet, bestimmt
unser Verhalten mit. Der Mensch ist das Technik nutzende Wesen.
Viele Wissenschaftler sind von den Möglichkeiten der Künstlichen
Intelligenz, die sie in Zukunft erwarten, begeistert. Andere warnen: Die KI
könnte das Ende der Menschheit einläuten.
Aber beide Aussagen kommen aus dem gleichen, stark transhumanistisch
geprägten Milieu. Diejenigen, die Diskussionen über solche existenziellen
Risiken anfachen, erhoffen sich zugleich besonders viel von der Künstlichen
Intelligenz. Beispielsweise der [4][Internetunternehmer Elon Musk] oder der
[5][Philosoph Nick Bostrom]. Das ist die Aufmerksamkeitsökonomie: In dieser
ist es fast egal, ob du sagst, irgendeine Entwicklung kann die Welt retten
oder vernichten. Ähnliches findet sich bei den Diskussionen um synthetische
Biologie oder Nanotechnologie: Neuerschaffung oder Untergang der Welt.
Utopie und Dystopie liegen nah beieinander. Wo verorten Sie sich?
Aus der Perspektive der Technikfolgenabschätzung würde ich sagen: Da tun
sich viele interessante Dinge, aber radikal Umstürzendes im
transhumanistischen Sinn sehe ich nicht. Trotzdem habe ich seit Monaten
fast jede Woche eine Interviewanfrage zu dem Thema. Es ist ein Hype.
Wie erklären Sie sich das?
Wir haben umstürzende Veränderungen in unserer Realität, eine vollkommene
Technisierung des Soziallebens, angefangen mit dem Babyphone und endend mit
dem virtuellen Friedhof. Das beunruhigt uns. Wenn wir über Gefahren von
Künstlicher Intelligenz in der Zukunft sprechen, geht es eigentlich um
unsere Gegenwart.
Computersysteme können heute selbst lernen. Ist das nicht eine andere
Qualität als ein Babyphone?
Sicherlich, aber der Mainstream der KI-Forscher unterscheidet zu Recht
zwischen Maschinenlernen und den übertriebenen Visionen zu Künstlicher
Intelligenz. Die Forschung kann sich zum Teil daran orientieren, wie das
menschliche Gehirn funktioniert, aber es geht nicht um die Erschaffung
neuer Wesen. Viele KI-Forscher sind irritiert über die aktuelle Diskussion.
Die fragen sich: Kommt jetzt wieder eine Debatte, die dem Ansehen des Fachs
schadet, wie es sie bis Mitte der 1990er Jahre mehrfach gegeben hat?
Aber seitdem hat sich in der Forschung viel getan. Mittlerweile können
Geräte sogar unsere Gefühle erfassen und simulieren.
Das stimmt zum Teil. Aber das heißt ja nicht, dass uns etwas gegenüber
sitzt, das selbst fühlt. Im Alltag gibt es schon KI, die Gefühle simuliert:
Datingportale nutzen zum Beispiel Bots, die dem Nutzer antworten, und der
denkt, er spricht mit seiner Traumfrau. Aber dieser Bot ist doch trotzdem
nicht jemand, der sich fragt, warum er existiert und ob es einen Gott gibt.
Die Künstliche Intelligenz kann also unkontrollierbar werden, aber nicht
die Macht ergreifen.
„Die Macht ergreifen“, das ist so eine typische Vermenschlichung. Es gibt
das Gedankenspiel des Philosophen Bostrom von einer Künstlichen
Intelligenz, die erschaffen wurde, um Büroklammern herzustellen. Und dann
ordnet diese Künstliche Intelligenz alles dem Ziel unter, Büroklammern
herzustellen. Das endet in einem Universum, das vollständig in Büroklammern
umgearbeitet ist.
Klingt unwahrscheinlich.
Ja, aber es können Systeme geschaffen werden, denen Ziele eingebaut sind,
und wir Menschen unterwerfen uns solchen Systemen. Das kann auch eine
positive Vision sein.
Eine Büroklammern-Maschine ist ja nicht die gefährlichste Vision. Auch im
Militär wird an der KI geforscht. In einem [6][offenen Brief] hat der
berühmte Physiker Stephen Hawking zusammen mit mehr als 16.000 anderen
Wissenschaftlern vor einer „dritten Revolution“ in der Waffentechnik
gewarnt – nach dem Schwarzpulver und der Nukleartechnik.
Die Beunruhigung ist verständlich, weil es um existenzielle Entscheidungen
geht – Leben oder Tod. Wenn wir an diese Geräte Entscheidungen übertragen,
hat das im militärischen Bereich eine andere Qualität als eine
Konsumempfehlung.
Wo sollten wir der KI Grenzen setzen?
Wir sollten keine Entscheidungen, bei denen es um Leben und Tod geht, durch
technische Prozesse ersetzen. So neu ist das Problem aber nicht.
Warum?
Schon heute ist es Realität, etwa in der Medizin oder an der Börse, dass
Entscheidungen auf der Basis technisch erzeugter Handlungsempfehlungen
getroffen werden. Der Mensch versteht nicht, wie es zu den Empfehlungen
kommt, und muss sich darauf verlassen.
Wir haben die Grenze also längst überschritten.
Ja. Aber weiterhin wichtig ist, dass solche Prozesse möglichst transparent
sind. Das wäre eine Art ethische Leitlinie. Das ist in der Realität
allerdings nicht immer möglich. Wenn wir sehr schnell eine Entscheidung
treffen müssen, dann vertrauen wir darauf, dass Technik von gutwilligen
Menschen so eingerichtet wurde, dass wir geeignete Entscheidungsgrundlagen
erhalten. Aber dann bleibt es trotzdem noch unsere Entscheidung, was wir
tun.
Im 19. Jahrhundert haben Arbeiter Maschinen zerstört, weil sie Angst
hatten, überflüssig zu werden. Kommt der Kampf zwischen Mensch und Maschine
zurück?
Nein, es ist auch heute noch ein Kampf zwischen Menschen um Ressourcen. Wir
müssen uns die Frage stellen, was wir aus dem technischen Fortschritt und
dem Produktivitätszuwachs machen. Wir sind nah dran, dass fast alle
stupiden Arbeiten von Maschinen übernommen werden können. Klar ist, dass
viele Jobs wegfallen und durch Technik ersetzt werden, um Kosten zu sparen.
Es ist eine politische Frage, wie wir damit umgehen.
11 Sep 2015
## LINKS
[1] http://www.tab-beim-bundestag.de/de/
[2] /!5056686/
[3] /!5040153/
[4] /!5214394/
[5] http://www.faz.net/aktuell/feuilleton/buecher/nick-bostrom-zukunftsdenker-d…
[6] http://futureoflife.org/AI/open_letter_autonomous_weapons
## AUTOREN
Kersten Augustin
Bigna Fink
## TAGS
Cyborg
Technologie
Schwerpunkt Künstliche Intelligenz
Computer
Nick Bostrom
Stephen Hawking
Schwerpunkt Künstliche Intelligenz
Gehirn
Schwerpunkt Überwachung
Hacking
Drohnen
Schwerpunkt Künstliche Intelligenz
Cyborg
Gehörlose
Cyborg
## ARTIKEL ZUM THEMA
Neues Buch von Nick Bostrom: Würde in der Matrix
Der Blick des Philosophen und Politikberaters Nick Bostrom in die Zukunft
gleicht einer Science-Fiction. Mit beängstigenden Implikationen.
Astrophysiker warnt vor Weltuntergang: Hawking misstraut dem Fortschritt
Eindringlich warnt Stephen Hawking vor den tödlichen Gefahren des
Fortschritts – ob künstliche Intelligenz oder Gentechnik. Und nennt sich
trotzdem Optimist.
Künstliche Intelligenz: Professor Helbing und seine Mission
Dirk Helbing will mit künstlicher Intelligenz die Welt handhabbar machen.
Der Physiker knüpft dazu seit Jahren weltweit ein Netzwerk.
US-Studie zu Fliegengehirnen: Was Fliegen riechen
Banane oder Jasmin? WissenschaftlerInnen können dank leuchtender Moleküle
nachweisen, was Fliegen riechen und fühlen.
Künstliche Intelligenz: Mensch, gib mir deine Daten
Die Entwicklung künstlicher Intelligenz ist ein altes Militärprojekt. Nun
sprechen Forscher von einer Revolution. Gefahr oder Chance?
Bodyhacking: „Der Körper wird digital stimuliert“
Die italienische Hackerin Tatiana Bazzichelli fordert mehr Lust beim
Hacken. Ein Gespräch über Cyborgs, Sex-Toys und politische Neugier.
Robotik und Gesellschaft: Revolution der Maschinenwesen
Autonom agierende Maschinen werden in vielen Bereichen den Menschen
ersetzen. Sie sollen Pflegedienste übernehmen und Kampfroboter sein.
Künstliche Intelligenz im Turing-Test: „Captain Cyborg“
Angeblich hat ein Computer den Turing-Test bestanden und künstliche
Intelligenz bewiesen. Doch es sind Zweifel angebracht.
Mensch und Maschine: Terminator mit menschlichem Antlitz
Schritt für Schritt bauen sie ihren Körper mit Technik aus. Sogenannte
Cyborgs erfreuen sich in Berlin einer kleinen, aber regen Community.
Eintauchen bei den Gehörlosen: Zwischen Genozid und Cyborgs
Gehörlose diskutieren im Netz rege über ihr Verhältnis zum Rest der
Gesellschaft. Gibt es ein Recht auf Taubheit? Oder sollte man gleich Cyborg
werden?
Verschmelzen von Körper und Maschine: Wir Cyborgs
Die Datenbrille Google Glass zeigt, wie wenig Technik und Mensch noch
trennt. Doch die Symbiose aus Körper und Maschine geht noch viel weiter.
Ein kurzer Scan.
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.