# taz.de -- ChatGPT und Klimakrise: Chatbots for future? | |
> Kann der Chatbot ChatGPT einen Beitrag zur Lösung drängender Probleme | |
> leisten? Die taz FUTURZWEI-Digitalrubrik nimmt ihn unter die Lupe. | |
Bild: Ernie und Bert sprechen bei den Medientage München über Künstliche Int… | |
[1][taz FUTURZWEI] | Superintelligenz, Sprachgenie und machtvollstes | |
Instrument der Menschheit – das ist nur eine kleine Auswahl an euphorischen | |
Beschreibungen über ChatGPT. | |
Unbestreitbar hat ChatGPT die Informationssuche im Internet – | |
beziehungsweise ganz grundlegend formuliert: die Kommunikation zwischen | |
Mensch und Maschine – stark verändert. Seit November 2022 ist der Chatbot | |
des Techunternehmens OpenAI für alle nutzbar. Mit bisher nie dagewesenem | |
Tempo hat ChatGPT seitdem mehr als 100 Millionen Nutzer*innen weltweit | |
gewonnen und verzeichnet mittlerweile monatlich mehr als 1,5 Milliarden | |
Besuche auf der Website (Stand Juli 2023). Microsoft verspricht sich viel | |
von dem Geschäft mit künstlicher Intelligenz und hat mehrere Milliarden | |
US-Dollar in das Techunternehmen investiert. | |
Anders als Suchmaschinen produziert ChatGPT aus Trainingsdaten | |
menschenähnliche Sprache und Texte zu allen denkbaren Fragen: Rezeptideen, | |
Gedichte, Informationen zu historischen Ereignissen, Werbetexte, | |
Programmier-Codes, Übersetzungen, Briefe ans Finanzamt – die möglichen | |
Einsatzgebiete für ChatGPT sind nahezu unbegrenzt. Aber kann ChatGPT die | |
euphorischen Erwartungen erfüllen, wenn man genauer hinschaut? Wir wollen | |
deswegen untersuchen, ob ChatGPT einen innovativen Beitrag zur Bewältigung | |
der drängenden globalen Probleme leisten kann oder nur die nächste | |
KI-Gelddruckmaschine ist. | |
## ChatGPT ist eine Blackbox | |
Sprachmodelle wie ChatGPT arbeiten mit Vorhersagen. Auf Aufforderung | |
generieren sie eine Antwort, indem sie in den großen Textmengen der | |
Trainingsdaten nach Wortmustern suchen und mithilfe von | |
Wahrscheinlichkeitsverteilungen vorhersagen, welches Wort in Bezug auf die | |
Eingabe das nächste Wort ist. Dabei ist ChatGPT im Wesentlichen eine | |
Blackbox – nicht einmal die Entwickler*innen selbst können wirklich sagen, | |
wie es zu einer bestimmten Antwort kommt. Das mag für kreative Aufgaben gut | |
sein, aber nicht, wenn sachliche und exakte Antworten entscheidend sind, | |
wie etwa bei Fragen zum Klimawandel. | |
Ein Faktencheck der Antworten auf klimabezogene Fragen hat gezeigt, dass | |
ChatGPT in groben Zügen häufig richtig lag. Bei einigen Antworten wurden | |
allerdings Fehler und Ungenauigkeiten in den Details erkannt. So produziert | |
ChatGPT mitunter sogenannte Halluzinationen. Das heißt, dass es | |
Tatsachenbehauptungen aufstellt, die durch keine Quellen verifiziert werden | |
können. Außerdem neigt ChatGPT dazu, lieber sinnlose Vermutungen | |
anzustellen, als unbeantwortbare Fragen zurückzuweisen. | |
Dazu kommt eine Verzerrung im Sprachmodell, die sich dadurch zeigt, dass | |
nicht nur sachliche und neutrale Informationen gegeben werden, sondern auch | |
politisch voreingenommene Antworten, die zwischen linksliberal oder | |
rassistisch schwanken. Dies wird vor allem auf die zum Training | |
eingesetzten Daten und die spezifische Wortwahl bei der Anfrage | |
zurückgeführt. All diese offensichtlichen Schwächen des Modells werden noch | |
dadurch verstärkt, dass Benutzer*innen aufgrund der Eloquenz der | |
Formulierungen von ChatGPT dazu verleitet werden, den generierten Antworten | |
grundsätzlich zu vertrauen. | |
## Das Hauptziel ist Profit | |
Die hohen Rechenkosten des zugrundeliegenden Sprachmodells GPT-3.5 weisen | |
auf ein weiteres Problem von ChatGPT hin: Das Training und der Betrieb | |
benötigen enorm viel Energie. Allein das Training des Sprachmodells dauerte | |
mehrere Monate und konnte aufgrund der benötigten hohen Rechenleistung nur | |
auf eigens dafür entwickelten Supercomputern durchgeführt werden, in die | |
zehntausende Grafikprozessoren verbaut wurden. Auch wenn es bislang keine | |
verlässlichen Zahlen zum Stromverbrauch von ChatGPT selbst gibt, konnte | |
gezeigt werden, dass große Sprachmodelle allein für das Training auf einen | |
Stromverbrauch kommen, der dem täglichen durchschnittlichen Bedarf von acht | |
Millionen Wohnungen in Deutschland entspricht – und da sind Strombedarf der | |
Hardwareproduktion sowie des laufenden Betriebs noch nicht eingerechnet. | |
Der eigentliche Strom- und Ressourcenverbrauch von ChatGPT bleibt aber | |
bislang im Unklaren und ist somit Teil der Blackbox. | |
Immer größere Modelle führen außerdem zu einer Marktkonzentration großer | |
Techunternehmen, deren Hauptziel Profit und nicht das Gemeinwohl ist. Auch | |
OpenAI – einst als gemeinnütziges Forschungsunternehmen gestartet – hat mit | |
dem Einstieg von Microsoft eine Kehrtwende hin zu einem profitgesteuerten | |
Unternehmen vollzogen. Die Funktionsweise und Trainingsdaten der großen | |
Modelle sind nicht öffentlich zugänglich, sondern »geschlossen«, womit sich | |
problematische Entwicklungen verstärken, weil unabhängige Forschung | |
behindert wird, Modelle nicht nachvollziehbar sind und | |
Diskriminierungspotenziale nicht erkannt werden können. Jedoch steht den | |
großen geschlossenen Modellen eine wachsende Open-Source-Bewegung | |
gegenüber, die vielversprechende Fortschritte bei offenen Versionen von | |
Sprachmodellen macht. | |
Von den ursprünglichen Transparenzversprechen, mit dem OpenAI die | |
KI-Branche reformieren wollte, ist mittlerweile nichts mehr übrig. | |
Innovativ ist das nicht, da sich das Unternehmen mit ChatGPT nahtlos | |
einfügt in die Closed-Source KI-Branche, deren Modelle bestehende | |
gesellschaftliche Asymmetrien eher verstärken. Ob ChatGPT zukünftig zur | |
Lösung globaler Probleme beitragen kann und nicht nur den Investoren von | |
OpenAI große Gewinne beschert, wird sich zeigen. Ausschlaggebend wird eine | |
entschiedene, dem Gemeinwohl verpflichtete Gesetzgebung sein, die die | |
Branche zu mehr Transparenz sowohl hinsichtlich der Funktionsweise der | |
Sprachmodelle und der verwendeten Trainingsdaten als auch der | |
Energieverbräuche verpflichtet, sowie die Förderung von | |
Open-Source-Modellen. | |
Dieser Beitrag ist im September 2023 im Magazin [2][taz FUTURZWEI N°26] | |
erschienen. | |
27 Nov 2023 | |
## LINKS | |
[1] /!v=8ce19a8c-38e5-4a30-920c-8176f4c036c0/ | |
[2] https://shop.taz.de/product_info.php?products_id=245406%2F#pk_campaign=F2-2… | |
## AUTOREN | |
Johanna Pohl | |
Maike Gossen | |
## ARTIKEL ZUM THEMA |