# taz.de -- Chatbots enttarnen: Zum Glück mit Rechenschwäche | |
> Wie bekommt man heraus, ob das Gegenüber mit einem Gehirn funktioniert | |
> oder mit einem künstlichen neuronalen Netz? Wie die KI enttarnt werden | |
> kann. | |
Bild: Ist das noch ein Mensch oder schon KI? | |
Die Frage war dringend, die Telefonhotline des Mobilfunkanbieters | |
überlastet. Da schob sich auf seiner Webseite dieser Button in mein | |
Blickfeld: „Chat starten“. Sollte das Problem doch noch in diesem | |
Jahrhundert lösbar sein? | |
Falsche Frage. Denn einige Textfragmente später, die als Standardantworten | |
serviert wurden und nichts mit dem Problem zu tun hatten, fragte ich mich: | |
Schickt hier wirklich ein Mensch derart abseitige Antworten? Oder ein Bot? | |
Was für den Menschen sprechen würde: In Sachen [1][Chatbots] hat sich in | |
den vergangenen Monaten bis Jahren einiges getan – deren Antworten sollten | |
passender sein. | |
Allerdings: Die weit entwickelten [2][KI-Modelle], die es mittlerweile | |
gibt, wird sich wohl kaum ein Mobilfunkanbieter für seinen Nichtservice | |
leisten. Doch je weiter die Technologie sich verbreitet, von der | |
Kommunikation mit Kund:innen bis zur [3][politischen Kampagne auf | |
Social-Media-Plattformen], desto häufiger werden wir uns fragen: Wie | |
bekommt man heraus, ob das Gegenüber mit einem Gehirn funktioniert oder | |
mit einem künstlichen neuronalen Netz? | |
Die schlechte Nachricht: Fragen wird nicht helfen, zumindest nicht immer. | |
Es wird Modelle und Anwendungen geben, die extra darauf designt sind, zu | |
verschleiern, dass es sich bei den von ihnen generierten Inhalten nicht um | |
menschlichen Output handelt. Ganz zu schweigen davon, dass diese Anbieter | |
ihr Modell nachjustieren werden, wann immer ein Hack bekannt wird, der zu | |
mehr Transparenz führen könnte. | |
Eine der Enttarnungsstrategien sind Zahlen. Denn zumindest GPT-4, was mit | |
seinem Vorgänger die Basis für ChatGPT bildet, hat eine Schwäche, die eine | |
Studie mehrerer US-amerikanischer Universitäten offengelegt hat: Es kann | |
nicht gut rechnen, gerade bei hohen Zahlen. 987 mal 789? Da würde ein | |
Mensch so etwas sagen wie „Keine Ahnung“ oder „Frag einen Taschenrechner.… | |
Doch ChatGPT antwortet: 777.243. Ein Mensch bräuchte dafür entweder ein | |
ungewöhnliches Rechentalent oder halt einen Taschenrechner. | |
Die KI aber auch: 987 mal 789 ergibt nämlich 778.743. Faustregel laut der | |
Studie: Je mehr Ziffern, desto geringer die Erfolgsquote. Die Ursache ist | |
simpel: Sprachmodelle rechnen nicht, sondern prognostizieren | |
Wahrscheinlichkeiten für das nächste Wort oder den nächsten Satzteil. Sie | |
generieren keine Inhalte, sondern Wörter. Das ist nicht immer das Gleiche, | |
wie schon die ein oder andere Politiker:innen-Rede zeigt. Oder der Chat mit | |
meinem Mobilfunk-Anbieter. Der endete abrupt: Zeitgrenze überschritten. | |
8 Apr 2024 | |
## LINKS | |
[1] /Chatbots-in-der-Kundenbetreuung/!5976785 | |
[2] /Kuenstliche-Intelligenz-und-Vermuellung/!5997952 | |
[3] /Politik-auf-Social-Media/!5997349 | |
## AUTOREN | |
Svenja Bergt | |
## TAGS | |
Kolumne Digitalozän | |
künstliche Intelligenz | |
Telekom | |
Verbraucherschutz | |
Schwerpunkt Künstliche Intelligenz | |
Zukunft | |
Banken | |
Kolumne Digitalozän | |
Kolumne Digitalozän | |
## ARTIKEL ZUM THEMA | |
Fehlende Updates und andere Widrigkeiten: Wenn das Smartphone Käse wird | |
Keine Updates mehr? Für Nutzer:innen von digitalen Geräten ist das | |
leider Alltag. Und dann kann man fast nur verlieren. | |
Beschwerde gegen OpenAI in der EU: Datenschützer kritisieren ChatGPT | |
Dass ChatGPT auch Unsinn liefert, ist bekannt. Wenn die KI-Software | |
allerdings Fake News über Personen ausspuckt, könnte das gegen EU-Recht | |
verstoßen. | |
Das Ende einer KI-Kolumne: Hinterher sind wir alle klüger | |
Die taz und KI-Kolumnist*in Anic T. Wae gehen fortan getrennte Wege. Hier | |
kommen fünf Dinge, die Anics Schöpfer durch sie gelernt haben. | |
Schnelle Banküberweisungen: Schokolade, Socken, leere Versprechen | |
Banken müssen bald superschnelle Überweisungen umsonst anbieten. Was wäre, | |
wenn eine Whatsapp-Nachricht, die sofort ankommt, 5 Euro kostete? | |
Noise Cancelling in Kopfhörern: Stille gibt es bald als Pro-Version | |
Kopfhörer mit Active Noise Cancelling (ANC) unterdrücken | |
Umgebungsgeräusche. Lässt sich bald bestimmen, welche Geräusche wir | |
durchlassen wollen? | |
Flugtaxis im Autopilot: Wissing, Musk und Pippi Langstrumpf | |
Was haben Elon Musk und Volker Wissing gemeinsam? Beide machen sich die | |
Welt, widdewidde, wie sie ihnen gefällt. Zwei mal drei macht vier… |