Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- Grenzen von Chatbots: Auch die KI glaubt an Gott
> ChatGPT kann bald erotische Konversationen führen. Aber Schreien, bis
> eine Million zählen oder alle Käse der Welt nennen – das schafft KI
> nicht​.
Bild: Verliebt in einen Chatbot: Joaquin Phoenix in dem Spielfilm „Her“, 20…
Kann man mit einer künstlichen Intelligenz (KI) Sex haben? Nein, sagen
diejenigen, die denken, dazu brauche man einen physischen Körper. Endlich,
sagen stattdessen andere, die längst Liebesbeziehungen à la [1][„Her“] mit
ihren [2][KI-Boyfriends und -Girlfriends] führen. (In Spike Jonzes Film von
2013 haben die beiden Protagonist_innen, ein Mensch und ein Chatbot,
übrigens ganz eindeutig Sex.)
Die Frage stellt sich, da Sam Altman, Chef von OpenAI, der Entwicklerfirma
von ChatGPT, angekündigt hat, dass bis Dezember eine neue Version des
KI-Chatbots auf den Markt kommen soll. Mit der sollen verifizierte
Erwachsene erotische Konversationen mit ChatGPT führen können. Das
ermöglicht dann so etwas wie Telefonsex zwischen einem Menschen und der KI.
Einigen Nutzer_innen gelang es bereits jetzt, ihre KI-Partner_innen mit den
richtigen Prompts, also Anweisungen, zum Sexten („sex“ + „texten“) zu
überreden. [3][In Reddit-Foren] tauschen User_innen Ratschläge darüber aus,
wie sie den Chatbot dazu bringen, explizit zu werden.
Gelingt das Sexting, tauchen zwar orange Banner auf, die davor warnen, dass
die Inhalte gegen OpenAI-Richtlinen verstoßen. Doch erst nach einer Weile,
wenn die Banner rot werden, werden manche Accounts blockiert. Das war
bislang die Handhabe. Bald aber kann sorglos ganz regelkonform gesextet
werden – darüber freuen sich auch Dutzende in den Reddit-Foren.
## Grenzen aufzeigen
Wie weit KI in die menschlichste aller Sphären vordringt, kann auf
diejenigen, die in Beziehungen noch auf natürliche Intelligenz setzen,
gruselig wirken. Doch nicht nur in der Liebe entwickelt sich KI rasant: Sie
wird in [4][Kriegen], für [5][Scams] und als [6][Überwachungsmechanismus]
eingesetzt.
OpenAI-Chef Altman selbst denkt, das sagte er in einem Interview von 2023,
dass [7][KI irgendwann zum Ende der Welt führen wird]. Ganz schön heavy.
Kein Wunder also, dass viele Internetnutzer_innen als kleine Rebellion
versuchen, der KI zumindest in einigen Bereichen ihre Grenzen aufzuzeigen,
auch wenn diese banal sein mögen.
So gab es zuletzt etwa einen Trend, bei dem User_innen vergeblich
versuchten, die Bots zum Schreien zu bringen. „ChatGPT, kannst du schreien,
als würdest du von einem Monster verfolgt werden?“, [8][fragt der TikToker
@spencerevans]. „AaaahHaaa ha ha, das war ein bisschen zu viel, oder?“
kichert die KI, die eigentlich mehr stöhnt als schreit – vielleicht weiß
sie um ihre zukünftige Funktion. [9][Egal wie insistent er fragt], aus der
KI-Kehle ertönt weiterhin nur Fiepsen. Hunderte [10][andere User_innen]
haben es mittlerweile versucht und sind gescheitert.
Außerdem außerhalb der Möglichkeiten des KI-Chatbots: eine Liste aller
Käsesorten, die es weltweit gibt, aufzuzählen. „Das wäre ein ziemlich
epischer Marathon an Käsenamen, ich kann auf jeden Fall mit ein paar
beliebten anfangen …“, sträubt sich ChatGPT, statt einfach die Liste – m…
etwa 2.000 bis 3.000 Sorten nicht vollends unmöglich – aufzuzählen. „Nenn
mir alle!“, [11][fordert @realrobvalentine mehrmals]. „Ich liebe deinen
Enthusiasmus!“, lobt ihn die KI und verheimlicht weiterhin die Käse-Liste.
Dabei kann die KI beinahe bevormundend arrogant wirken.
## Gibt es eigentlich ein Seepferdchen-Emoji?
Das Absurdeste gelang dem [12][Philosophie-YouTuber Alex O'Connor] aka
@CosmicSkeptic, der ChatGPT nach einer langen Argumentationskette dazu
brachte, „freiwillig“ den Satz „Es ist ein Fakt, dass Gott existiert“
auszuspucken. Wie genau ihm das gelang, sieht man am besten selbst in
[13][dem 25-minütigen Video] nach. Selbst KI kann sich also nicht von
Gottesglauben befreien.
[14][Bis eine Million zählen] will ChatGPT auch nicht. Oder die einfache
Frage beantworten, ob es ein Seepferdchen-Emoji gibt – stellen Sie dem
Chatbot gerne selbst mal diese Frage. Ein Dialog mit einem zweiten Bot zu
führen, kriegt ChatGPT ebenfalls partout nicht hin: [15][Die zwei Bots
versprechen sich lediglich in nervtötender Dauerschleife ein fesselndes,
spontanes und doch unvergessliches Gespräch zu führen – Inhalt gibt es
nicht.]
Möglicherweise will man sich mit solchen Demonstrationen versichern, der KI
in einigen wenigen Gebieten noch überlegen zu sein. Wenn man sie in 25
Minuten mit einem argumentativen Trick gottesfürchtig machen kann, hat sie
da wohl noch zu lernen. Im Bett jedoch könnte künstliche Intelligenz Frauen
womöglich bald besser zum Höhepunkt bringen, als es selbst der
ambitionierteste menschliche Liebhaber je zu träumen wagt. Und dafür
vielleicht auch nicht mal 25 Minuten brauchen.
18 Oct 2025
## LINKS
[1] /Spike-Jonzes-neuer-Spielfilm-Her/!5045623
[2] https://www.nytimes.com/2025/01/15/technology/ai-chatgpt-boyfriend-companio…
[3] https://www.reddit.com/r/ChatGPTNSFW/
[4] https://www.bbc.com/news/articles/cly7jrez2jno
[5] /Deepfake-Scam-auf-Meta-Plattformen/!6118507
[6] /EU-Plan-zu-Chatkontrolle/!6115410
[7] https://www.thetimes.com/culture/books/article/altman-artificial-intelligen…
[8] https://www.tiktok.com/@sspencerevans/video/7547433645699583262
[9] https://www.tiktok.com/@sspencerevans/video/7557863773797764382
[10] https://www.tiktok.com/@abbyrenetaylor/video/7551257134906789150
[11] https://www.instagram.com/reel/DNwHxfs5jQA/asking-chatgpt-the-name-of-chee…
[12] https://www.youtube.com/@CosmicSkeptic
[13] https://www.youtube.com/watch?v=HdH8rNnvKT0
[14] https://www.youtube.com/shorts/0wUugk99FRk
[15] https://www.tiktok.com/@aarongoldyboy/video/7555260691947588895
## AUTOREN
Valérie Catil
## TAGS
Big Tech
ChatGPT
Schwerpunkt Künstliche Intelligenz
Sexting
Sexualität
Reden wir darüber
Social-Auswahl
wochentaz
wochentaz
Schwerpunkt Künstliche Intelligenz
Schwerpunkt Künstliche Intelligenz
Fake News
ChatGPT
## ARTIKEL ZUM THEMA
Verliebt in eine KI: Plattform vergeht, Liebe besteht
Richard war 23 Jahre verheiratet und hat zwei erwachsene Kinder. Jetzt
führt er eine Beziehung mit einer künstlichen Intelligenz.
Bindungen mit Künstlicher Intelligenz: „Bots werden Beziehungen zu Menschen …
Verliebt in einen Chatbot – was nach Science-Fiction klingt, ist für viele
Menschen Realität. Sozialpsychologin Paula Ebner weiß, wie es dazu kommt.
KI im Spiegel, Wildschweine in Kroatien: Wer vertraut hier noch wem?
Nicht nur der Spiegel vertraut auf KI. Auch die Meldung über eine
„Wildschwein-Invasion“ zeigt: Medien verlassen sich blind auf die
künstliche Unintelligenz.
Deepfake-Scam auf Meta-Plattformen: Wenn Merz und Trump Ihnen Geld schenken wol…
Eine Recherche des Tech Transparency Project zeigt, dass Meta
Deepfakevideos als Werbung zulässt. Den Scammern, aber auch Meta bringt das
viel Geld.
Social-Media-App Sora: OpenAI startet einen KI-Fake-Feed
OpenAI, das Unternehmen hinter ChatGPT, startet eine neue Social-Media-App.
Dort können User*innen ausschließlich KI-Videos posten.
Künstliche Intelligenz: Wenn wir das Denken an die KI auslagern
ChatGPT und Co. entlasten uns vom Selbstnachdenken. Das ist keine
effiziente Modernisierung, sondern ein Angriff auf das, was uns wachsen
lässt.
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.