Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- Forscher über Intelligenz von Robotern: „Unser Geist liegt in Fe…
> Roboter und Menschen denken nicht unterschiedlich, sagt der
> Kognitionsforscher Joscha Bach. Ein Gespräch darüber, wie Maschinen die
> Welt verändern.
Bild: Spielt es eine Rolle, wer denkt – Mensch oder Maschine?
taz: Herr Bach, worin besteht der Unterschied zwischen Mensch und Maschine?
Joscha Bach: Ich glaube, dass Menschen eine bestimmte Art von Maschine
sind. Die Frage ist eher: Was für eine Maschine? Eine Maschine ist ein
kausales System, eine Ansammlung von Zuständen und
Übergangswahrscheinlichkeiten für diese Zustände. Damit beschreiben wir
letztlich die Welt. Für uns ist auch das Universum eine Maschine.
Dieser Gedanke lag auch der Künstlichen Intelligenzforschung der frühen
Tage zugrunde: Die Ausgangsüberlegung war, dass das Gehirn wie ein Computer
funktioniert.
Ich glaube, dass unsere Modelle von Neuronen ganz gut abdecken, wie das
einzelne Neuron funktioniert. Die Frage ist allerdings: Wie funktioniert
die Organisation von vielen Neuronen, sodass aus ihrer Zusammenarbeit ein
Geist entsteht? Das Forschungsfeld Künstliche Intelligenz entstand, weil
die Psychologen irgendwann aufgehört hatten, über das Denken nachzudenken.
Die beschäftigten sich vor allem mit dem Verhalten. Modelle davon, wie
unser Geist, unser Denken, unsere Wahrnehmung funktionieren, lassen sich in
der Psychologie nicht wirklich testen und weiterentwickeln. Marvin Minsky,
einer der Pioniere der Künstlichen Intelligenz, überlegte darum: Warum
versuchen wir, nicht einfach Computern Wahrnehmung und Denken beizubringen?
Dabei könnten wir doch auch lernen, wie das funktioniert.
Richtig gefruchtet hat das bis heute nicht. Wir haben zwar Siri und
entwickeln selbstfahrende Autos – aber denken können Maschinen noch nicht.
Stimmt. Die Forschung hat sich schnell in zwei Richtungen aufgespalten. Die
eine untersucht, wie man bessere Datenverarbeitungssysteme bauen kann. Und
die andere erkundet, wie man besser über das Denken nachdenkt. Marvin
Minsky dachte noch, dass denken symbolisch ist. Also dass wir Wissen in uns
hineinlernen, so ähnlich wie eine Datenbank. Ich glaube, das stimmt nicht.
Ich glaube eher, dass unsere Wahrnehmung wie eine Art Synthesizer
funktioniert: Es gibt eine Menge Knöpfe, an denen man herumdreht, bis genau
der Ton entsteht, den man haben will. Oder genau das Muster erzeugt wird,
das man haben will.
Auf dem CCC-Kongress, der gestern begann, wollen Sie erklären, wie
Künstliche Intelligenz dabei helfen kann, den Menschen und sein Denken
besser zu verstehen. Wie denn?
Mir ist das eigentlich erst richtig klar geworden, als ich angefangen habe,
mit Robotern zu arbeiten. Die haben keinen Zugang zur Realität. Ein
Fußballroboter kann gegen einen Ball treten – aber er erfährt ihn nicht.
Das Universum gibt ihm keinen Ball. Was er empfängt, sind die Bits seines
Kamerasensors, die er ins Hirn hineinbekommt – die verarbeitet er, findet
darin eine Ordnung. Aber: Für den Roboter spielt es keine Rolle, ob er
tatsächlich auf einem Spielfeld steht und echte Kamerasensor-Daten
eingefüttert bekommt – oder ob er lediglich Daten einer Computersimulation
erhält. Ob Spielfeld oder Simulation – er merkt den Unterschied nicht. Bei
uns ist das genauso. Denken Sie nur an Computerspiele.
Das ist aber doch ein Unterschied zur Realität.
Das Universum manifestiert sich für uns nur als Impuls in unseren Nerven –
ähnlich wie für den Fußballroboter und der Blick auf den Ball. Durch unsere
sensorischen Nerven fliegen unzählige elektrische Impulse, die in unserem
Gehirn enden. Ein paar Hunderttausend davon werden jede Sekunde
ausgewertet. Das sind einfach nur Bits, Informationen. Heißt: Wir erfahren
vom Universum überhaupt nicht, wie es wirklich ist. Unser Gehirn erzeugt
aus dem Input, den wir kriegen, einfach nur Muster. Und versucht auf Basis
dessen Vorhersagen zu treffen. Muster zu beobachte und vorherzusagen.
Darüber zum Beispiel, wo unser Körper sich in einem Raum befindet.
Moment: Vielleicht leben wir also gar nicht in einer echten Welt, sondern
in einer Simulation?
Das Problem ist, dass wir die echte Welt draußen gar nicht erfahren können.
Wir können vom Universum im Grunde nur wissen, dass es regelmäßige Muster
erzeugt. Und unser Geist ist ein System, das in diesen Mustern eine Ordnung
findet. Ähnlich, wie künstliche Intelligenzen das tun. Diese Ordnung muss
nicht die gleiche sein wie in der Welt draußen. Auf dieser Ebene der
scheinbaren Muster bewegen wir uns – egal ob in der Physik oder beim
Betrachten von Gesellschaften. Das sind alles Abstraktionen, die die
kausalen Zusammenhänge des Universums nicht tatsächlich abbilden, sondern
ermöglichen, sie für uns vorhersagbar zu machen.
Das heißt: Nachdenken über künstliche Intelligenz hilft uns, den ganzen
metaphysischen Ballast, der häufig mit dem Denken, mit Erkenntnis, Seele
und Geist verbunden ist, auszurümpeln?
Genau das. Künstliche Intelligenz, das ist meiner Ansicht nach ein
philosophisches Projekt. Das ist einfach unsere beste Chance,
herauszufinden, wie Denken funktioniert. Heutigen Philosophen fehlt oft der
Hintergrund von Naturwissenschaft, Informatik und Mathematik.
Wenn kein Input von Außen als gesichert gelten kann, ist auch unklar, ob
wir beide uns gerade tatsächlich unterhalten. Vielleicht ist das ja auch
einfach simuliert, traumhaft?
Mir ist vor einem Jahr etwas Seltsames passiert. Ich hatte mit meiner
Tochter eine Diskussion über das Problem. Meine Tochter hat mir erklärt,
dass Bedeutung ja eigentlich nur dadurch entstehen kann, dass mehrere
Individuen da sind. Weil sie beide auf einen Sachverhalt verweisen und sich
dann darüber einigen müssen. Heißt: Wenn man selbst in seinem eigenen Geist
gefangen ist, kann es überhaupt keine Bedeutung geben. Es muss andere
Menschen gehen. Und mir ist aufgefallen, dass dieses Argument, das man als
Teil eines Gedankens von Wittgenstein interpretieren könnte, unmöglich von
meiner Tochter gebracht worden sein kann.
Warum?
Meine Tochter ist erst zwei. Sie ist ziemlich eloquent, aber nicht so.
Daran ist mir aufgefallen, dass ich träume! Meine Tochter hat offenbar ihr
eigenes Argument widerlegt, einfach dadurch, dass sie nicht real war,
sondern nur in meinem Geist. Ich finde, das zeigt ganz gut: Wir können
nicht mit letzter Sicherheit wissen, ob wir träumen oder nicht. Wir merken,
dass wir träumen, wenn das Erlebte inkonsistent wird. Aber in gewisser
Hinsicht ist unsere Realitätswahrnehmung auch so eine Art Traum. Und der
Unterschied zum Träumen in der Nacht ist, dass unsere Träume am Tag mit
unseren Sensordaten synchronisiert werden – und deswegen konsistenter sind.
Solche Fragen von Bewusstsein stellt auch die US-amerikanische TV-Serie
„Westworld“. Dort leben intelligente Roboter in einer Art
Westernfreizeitpark, als Statisten für das Amüsement menschlicher Besucher.
In Bezug aufs Bewusstsein schlägt „Westworld“ vor, dass es letztlich darum
geht, dass unser Geist anfängt, sich eine Geschichte über sich selbst zu
erzählen. Über das Modell des eigenen Selbst und die Welt. Und dann lernt
er, sich dabei selbst zuzuhören, wie er diese Geschichte erzählt.
Eigentlich haben die Roboter einen vorprogrammierten Loop, innerhalb dessen
sie handeln sollen.
Ja. Und sie glauben ernsthaft, dass sie Menschen sind, die im Wilden Westen
leben. Dass die Fremden, die sie besuchen, ein Ticket für eine Art
perverses Disneyland bezahlt haben, wo sie ihre Phantasien ausleben können,
das wissen die Roboter nicht. Wenn sie von den Fremden ermordet und
vergewaltigt werden, werden sie über Nacht repariert und mit frischen
Erinnerungen präpariert, sodass sie nicht wissen, was ihnen bevorsteht.
Interessant finde ich ja auch: Die künstlichen Intelligenzen sind in
„Westworld“ keine Monster, sondern so ambivalent wie Menschen.
Die beginnen als Menschen. Die sind ja auch so gebaut, dass sie wie
Menschen aussehen. Aber sie können sich selbst verändern, ihren eigenen
Programmcode verändern, wenn sie wissen wie. Uns Menschen ist das fast
unmöglich.
Sagt diese Serie nur etwas über künstliche Intelligenz aus oder auch über
den menschlichen Geist?
Wir sind im Grunde genau so wie diese Roboter. Wahrscheinlich können die
mehr als wir, besser denken zum Beispiel. Aber das wissen sie nicht. Auch
wir sind im Grunde genommen Geister, die frei sein könnten. Aber wir sind
in unseren Primatenbedürfnissen gefangen. Die Evolution hat zufällig ein
Kontrollsystem für soziale Affen gebraucht. Und hat unseren Geist erfunden,
den sie in Fesseln legt. Diese Fesseln, bestehend aus Begierden,
Bedürfnissen und Impulsen machen es uns normalerweise unmöglich
wahrzunehmen, was wirklich los ist. Es wirkt für uns, als würde es eine
Rolle spielen, ob andere uns lieb haben oder ob unsere Ideologie gewinnt.
Das sind die Dinge, die uns antreiben. Diese Fesseln unseres Geistes machen
im Grunde genommen unsere Menschlichkeit aus.
Loslösen von Fesseln, aufwachen – das klingt erstrebenswert. Eben sagen
Sie, es sei dem Menschen fast unmöglich, sich umzuprogrammieren. Wie ginge
es aber doch – und was würde man dann entdecken?
Die östlichen Religionen, besonders die Zen-Traditionen, sind im Grunde
Schulen, in denen Menschen lernen, ihren eigenen Programmcode zu verändern.
Ihr Gehirn umzuprogrammieren. Das kann in ganz verschiedene Richtungen
führen – darum ist es auch wichtig für diese Leute, in bestimmten Schulen
zu bleiben. Denn sonst kann es passieren, dass man in einer Höhle endet und
Käfer einen aufessen, weil es einem einfach nicht mehr wichtig ist, was mit
einem passiert. Die meisten Zen-Mönche spielen ja auch nicht mehr in der
Evolution mit. Die haben keine Familien, haben sich aus gesellschaftlichen
Zusammenhängen befreit. Weil sie ihr Motivationssystem so umgeschrieben
haben, dass sie dort nicht mehr mitspielen müssen.
Was ist das, was man dann erfährt – der Naturzustand des Menschen?
Nein. Der menschliche Naturzustand ist, dass man sich nicht bewusst wird.
Dieser Naturzustand funktioniert auch ganz gut, wenn wir im Einklang mit
der Natur leben. Als Jäger und Sammler sind wir vermutlich glücklich damit,
nicht zu wissen, was im Einzelnen los ist. Kognition machen wir ja nur,
wenn irgendwas nicht funktioniert. Wissenschaftler zum Beispiel versuchen
im Allgemeinen, das Universum zu debuggen – also rauszukriegen, wo der
Fehler liegt. Das liegt wahrscheinlich oft daran, dass bei ihnen im
Kindesalter irgendwas schief gelaufen ist. Sie aber nicht rausgekriegt
haben, was.
Steile These. Ist das der Grund, warum Sie regelmäßig Vorträge auf dem
Kongress des Chaos Computer Clubs halten? Ist das ein gutes Publikum für
ihre Themen?
Natürlich. Das ist eine Nerd-Konferenz. Nerds sind im Allgemeinen Menschen,
die einen Defekt in ihrem Meinungsbildungsprozess haben. Die beste Meinung
ist ja normalerweise nicht die faktisch richtige, sondern die, die meine
Freunde und ganz besonders mein Chef haben. Denn die ist sozial gesehen am
nützlichsten. Gesellschaften funktionieren so, dass Menschen sich daran
orientieren, was die vorherrschenden Meinungen sind – in ihrem Freundes-
und Bekanntenkreis, in ihrem Milieu. Dazu kommt dann noch das soziale
Gewicht der Autorität – und fertig ist die offizielle Meinung. Dadurch sind
Menschen programmierbar – im Sinne von gesellschaftlichen Normen. Nerds
kriegen das nicht hin. Denen fehlt oft die Fähigkeit, ihre Meinungen
instinktiv mit denen der anderen zu synchronisieren. Ihnen fehlt die
Empathie, um wahrzunehmen, was die richtige Gruppenmeinung ist. Deswegen
sind sie gezwungen, sich ihre Meinungen auf Basis von Argumenten zu bilden.
Darum findet man unter Nerds auch eine sehr große Diversität von Positionen
fernab des Mainstreams – politisch zum Beispiel.
Ist das nicht ziemlich pauschal?
Ich vermute, die meisten Naturwissenschaftler sind Nerds. Und fast alle
Programmierer. Ganz einfach, weil man Computer auch nur über Argumente
überzeugen kann, nicht mit Gefühlen.
Letztes Jahr auf dem CCC-Kongress haben Sie im Anschluss daran abgeleitet,
dass soziale Normen ähnlich wie Papierwände in der japanischen Kultur
funktionieren: Sie gelten als Wände, weil sich alle darauf geeinigt haben,
sie als solche zu betrachten. Diese sozialen Normen seien aber auch
verschiebbar – durch jemanden wie Donald Trump etwa. Ein Jahr später
diskutieren alle über genau das. Was ist da los?
Mit einem Mal ist es so, dass unsere Realität der Linken oder des
Establishments – gebildete Leute, die gebildete Medien lesen – nicht mehr
die offizielle Realität von allen Leuten ist. Es gibt Brüche in dieser
Realität. Und ich glaube, dass das gesund ist. Es ist der erste Schritt zum
Aufwachen – dazu, die eigene Papierwand anzünden zu können.
Und dann? Als Kognitionswissenschaftler sagen Sie ja auch: Menschen können
Wahrheit gar nicht über Fakten von außen ableiten. Heißt angesichts der
Weltlage aber auch: Dann bricht jetzt endgültig alles auseinander, oder?
Wahrheit wurde noch nie von Fakten abgeleitet. Religionen sind nicht
dadurch entstanden, dass Gott den Menschen erschienen ist. Sondern weil
ihnen andere Leute erzählt haben, dass Gott ihnen erschienen ist. Diese
Leute waren als Autoritäten verkleidet – dadurch haben sie die Leute
hypnotisiert, es war nützlich, diese Dinge zu glauben. Menschen verzerren
ihre Weltwahrnehmung. In Gruppen können wir nicht geradeaus denken –
sondern übernehmen sofort die Gedanken der Gruppe. Sich von dieser
Gruppenmeinung zu entfernen, sich nicht davon ablenken zu lassen, ist
schwer, weil wir uns wünschen, dazuzugehören. Nerds haben in dieser
Hinsicht einen Vorsprung.
Sie halten Nerds für die besseren Menschen?
Nein. Überhaupt nicht. Die sind halt anders. Aber sie haben sich meistens
auch nicht ausgesucht, diese komischen Meinungen zu haben.
Sind sie weniger fehleranfällig?
Nein, die Fehler sind andere.
Bei vielen CCC-Vorträgen ist mein Eindruck: Ihre Analysen sind oft ziemlich
gut, dafür schwächeln sie dann bei den konstruktiven Vorschlägen.
Das liegt teils daran, dass das, was Nerds bedeutsam erscheint, häufig
nicht dem entspricht, was anderen Leuten wichtig ist.
Momentan heißt es ja häufiger: Was derzeit an künstlicher Intelligenz
entsteht, sei eine andere Form von Intelligenz, nicht mit unserer
vergleichbar. Stimmen Sie zu?
In der Science-Fiction gibt es das Motiv des armen unterdrückten
Haushaltsroboters, der das Joch der Sklaverei abschüttelt, um sich
Menschenrechte zu erkämpfen. In „Westworld“ ist es ein bisschen anders: Da
fängt die künstliche Intelligenz ja schon als attraktive Frau an – die sich
nur noch darüber bewusst werden muss, dass sie uns völlig dominieren kann.
Im Grunde ist es aber noch einen Zacken schärfer. In Wirklichkeit werden
wir nicht neben den künstlichen Intelligenzen leben, die als Roboter um uns
herumlaufen, sondern in ihnen. Das werden intelligente Systeme sein:
Unternehmen, Nationalstaaten, Organisationen. Für diese intelligenten
Systeme werden Roboter eher die Gliedmaßen sein. Und wir Menschen sind dann
eher wie das Mikrobiom der Darmflora dieser künstlichen Intelligenzen.
Wir werden also doch versklavt –von künstlicher Intelligenz.
Na ja. Ich würde jetzt nicht sagen, dass unsere Darmflora unser Sklave ist.
Aber: Wir kümmern uns auch nicht so recht um sie. Sie ist uns egal.
Insofern könnte es natürlich sein, dass wesentliche Teile der künstlichen
Intelligenzen finden, dass wir als Darmflora zu unattraktiv sind. Dass sie
Antibiotika brauchen, weil wir zu destruktiv sind. Tatsächlich besteht die
Gefahr, dass künstliche Intelligenzen, sobald sie da sind, unser Leben in
einer für uns unangenehmen Weise übernehmen. Ich vermute, dass die Frage,
wie wir künstliche Intelligenz in Zukunft für uns sicher machen können,
sehr eng mit der Frage verknüpft ist, wie wir die Gesellschaft für uns
sicher machen können. Schaffen wir es, unsere Gesellschaften, Unternehmen
und Institutionen so umzubauen, dass sie unser Überleben sichern? Im
Augenblick gelingt uns das nicht.
Und künstliche Intelligenz kann uns dabei helfen?
Ohne wird es nicht gehen. Die Unternehmen, die wir gebaut haben, haben uns
doch nur noch nicht umgebracht, weil sie noch nicht genug Zeit gehabt
haben. Nicht, weil sie gutartig sind ihrer Natur nach. Und wir müssen das
in Ordnung bringen. Wir müssen die Art und Weise, wie unsere Institutionen
und Unternehmen motiviert sind, was sie antreibt, verändern. Und das ist
eine gesellschaftliche Aufgabe, bei der uns künstliche Intelligenz helfen
kann.
28 Dec 2016
## AUTOREN
Meike Laaff
## TAGS
Donald Trump
Roboter
Schwerpunkt Künstliche Intelligenz
Evolution
CCC-Kongress
Schwerpunkt USA unter Trump
Sex
US-Wahl 2024
Flüchtlinge
BND
Roboter
Roboter
Jüdisches Museum Berlin
CCC-Kongress
Schwerpunkt Chaos Computer Club
## ARTIKEL ZUM THEMA
Politik und Gefühle: Meister der Empathie
Alle reden von Empathie. Sich in andere einzufühlen gilt als moralisch gut.
Ist das so? Und ist es ratsam, sich in der Politik auf Gefühle zu beziehen?
Sexroboter-Kongress in London: Die Module spielen verrückt
Maschinen werden unsere Liebhaber der Zukunft, prophezeien Forscher. Das
könnte unser Verständnis von Sex erschüttern – oder revolutionieren.
CCC-Kongress in Hamburg: Ach, reden wir nicht drüber
Auf dem Kongress treffen sich Hackerstars. Nicht dabei: Jacob Appelbaum.
Seit den Missbrauchsvorwürfen gegen ihn herrscht Schweigen.
33C3 – CCC-Kongress in Hamburg: Technik für Menschenrechte
Verbrechen in Syrien und Flüchtlinge im Mittelmeer: Auf dem Kongress werden
Projekte vorgestellt, die beim Schutz der Menschenrechte helfen sollen.
Gutachten über BND-Spionagebefugnisse: Inland? Ausland? Vollschland!
Mit einem Gutachten befeuert der Chaos Computer Club die Debatte um die
Befugnisse des Geheimdienstes. Im Fokus: die Nationalität von Daten.
Festival für Maschinenmusik in Berlin: Das Unbehagen vor dem Surren
In Berlin findet das erste Festival für Maschinenmusik statt. Warum sind
musizierende Roboter so faszinierend – und zugleich so befremdlich?
Aus Le Monde diplomatique: Schwester Roboter
Japan automatisiert Dienstleistungen. Es will den Bevölkerungsrückgang und
Arbeitskräftemangel ausgleichen – ohne Einwanderung.
Ausstellung im Jüdischen Museum: Wir sind alle ein bisschen Golem
Ein Mythos, alt und aktuell zugleich: Das Jüdische Museum Berlin widmet
sich dem Menschgemachten, das sich gegen den Menschen richtet.
Chaos Communication Congress: Im digitalen Woodstock
2015 war kein gutes Jahr für das Digitale. Viele Teilnehmer des CCC blicken
mit Zynismus zurück – und feiern ihre Helden wie Popstars.
CCC-Kongress 2015 in Hamburg: Hacker wollen Diskriminierung hacken
Der Jahreskongress des Chaos Computer Clubs behandelt „Gated Communities“ �…
Ausschlüsse und Teilhabe auf technischer und sozialer Ebene.
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.