Introduction
Introduction Statistics Contact Development Disclaimer Help
# taz.de -- KI in der Verwaltung: Ein Chatbot für den Notfall
> In der Verwaltung hält Künstliche Intelligenz zunehmend Einzug.
> Expert:innen fordern dabei mehr Transparenz – und verweisen auf ein
> Vorbild.
Bild: Lange Wartezeiten? Wäre doch schön, wenn KI auch da helfen könnte
Berlin taz | Was passiert, wenn es in Deutschland oder in einer grenznahen
Region in einem Nachbarland einen nuklearen Notfall gibt? Wer erklärt,
welche Gebiete hierzulande betroffen sind, wie oft wo Radioaktivität
gemessen wird, wie man sich am besten verhält, ob und wo es Jod-Tabletten
gibt, sowie wann es nötig ist, welche zu nehmen?
Wenn es nach den Planungen des Bundesamtes für Strahlenschutz geht, soll
bei dieser Kommunikation ein Chatbot unterstützen. Auf Basis von
künstlicher Intelligenz soll er Fragen aus der Bevölkerung zu „allgemeinen
Handlungsanweisungen im radiologischen Notfall“ beantworten, so die
Kurzbeschreibung des Projekts, das sich laut dem [1][KI-Transparenzregister
des Bundes] derzeit in der Entwicklung befindet.
Der Notfall-Chatbot ist eines von 186 KI-Systemen in der Bundesverwaltung,
die das im Januar gestartete Transparenzregister derzeit auflistet. Manche
sind bereits in Betrieb, andere noch in der Entwicklung, wieder andere
existieren nur als Idee. Aber die Zahl steigt: Vor fünf Jahren umfasste das
Register erst 18 KI-Projekte. Besonders viele, 64, kommen aktuell aus dem
Bereich Energie und Umwelt. Hier geht es häufig darum, Umweltdaten besser
auszuwerten – zum Beispiel zum Verhalten von Vögeln und Fledermäusen in der
Nähe von Windkraftanlagen.
Doch nicht alle KI-Projekte sind so unauffällig, was die Auswirkungen auf
die Rechte von Bürger:innen angeht. Aus anderen Ländern sind schon Fälle
bekannt, in denen Behörden Sozialdaten mittels KI verarbeitet haben – oder
in denen die Technologie eine Rolle bei der Verurteilung von Angeklagten
spielt. Zudem enthält das aktuelle Transparenzregister nur Projekte aus der
Bundesverwaltung. Wer wissen will, wie es im eigenen Bundesland aussieht,
muss selber recherchieren und stößt, je nach Bundesland, auf
unterschiedlich viel Transparenz.
## Konzept für mehr Transparenz
Die Bürgerrechtsorganisation Algorithmwatch hält das für unzureichend – und
hat am Dienstag ein [2][Konzept vorgestellt], wie es besser ginge. Ihre
Forderung: Das Register müsse alle KI-Systeme erfassen, die die öffentliche
Verwaltung nutzt – sowohl von Bund als auch von Ländern. „Verständliche
Informationen sollten das A und O so eines Registers sein“, sagt Alina
Lorenz von der Universität Augsburg und Autorin des Konzepts.
Die Daten müssten außerdem korrekt und aktuell sein. An beiden Punkten hat
Lorenz aktuell Zweifel. Tatsächlich findet sich in der Datenbank manch ein
Eintrag mit dem Status „in Entwicklung“, obwohl der Projektstart schon
einige Jahre zurückliegt und die letzte Aktualisierung des Eintrags über
ein halbes Jahr her ist.
„Es ist wichtig, dass der Staat an Vertrauen gewinnt“, sagte Jonas Botta
vom Deutschen Forschungsinstitut für öffentliche Verwaltung bei der
Vorstellung des Konzepts. Dazu könne Transparenz bei KI-Anwendungen
beitragen. Zwar müsse so ein Register auch Rücksicht auf
Geschäftsinteressen Dritter nehmen, etwa von Unternehmen, die Software
bereitstellen. Diese dürften aber nicht automatisch im Vordergrund stehen.
Im besten Fall ergebe sich hieraus auch ein Anreiz für die Verwaltung,
stärker auf Open-Source-Anwendungen zu setzen. „Das Licht der Transparenz
muss auf so viele Systeme wie möglich fallen“, so Botta. Ein Gesetz müsse
Ausnahmen, etwa wenn es um nationale Sicherheit geht, daher eng definieren.
## Vorbild Niederlande
Als Positivbeispiel gelten die [3][Niederlande, wo es eine umfangreiche
Transparenzdatenbank] gibt, die aktuell knapp 1.000 algorithmische Systeme
verzeichnet. Dass das Nachbarland hier vorangeht, hat allerdings eine
Vorgeschichte: In der sogenannten Kindergeldaffäre in den 2010er Jahren
hatte die Steuerbehörde auf Basis eines diskriminierenden Algorithmus zu
Unrecht von – je nach Quelle – 10.000 bis über 30.000 Familien
Rückzahlungen gefordert. Bei zahlreichen von ihnen sorgten die
ungerechtfertigten Forderungen für einen finanziellen Ruin.
Das Transparenzregister soll dafür sorgen, dass etwas Ähnliches nicht mehr
vorkommt – weil unter anderem erkennbar ist, welche Stelle wofür einen
Algorithmus einsetzt, auf welcher rechtlichen Basis und inwiefern Menschen
die Ergebnisse überprüfen. Auch wie der Algorithmus funktioniert und welche
Daten in das Training eingeflossen sind, wird zumindest grob skizziert.
Expertin Lorenz sieht das niederländische Modell durchaus als Vorbild –
auch wenn an einigen Stellen Verbesserungen nötig seien, etwa bei der
Qualitätssicherung.
Dass bei dem bundesweiten KI-Transparenzregister in naher Zukunft
nachgebessert wird, ist allerdings unwahrscheinlich. Die neue schwarz-rote
Koalition will zwar Verwaltungsabläufe digitalisieren – von mehr
Transparenz dabei ist im [4][Koalitionsvertrag] aber keine Rede. Mehr
Potenzial gibt es womöglich in den Bundesländern: Insbesondere die Grünen
drängen hier auf KI-Regelungen. So haben sie jüngst in Hessen aus der
Opposition heraus ein Gesetz vorgeschlagen, das auch ein
Transparenzregister umfasst – verständliche Erläuterung der Algorithmen
inklusive.
3 Jun 2025
## LINKS
[1] https://maki.beki.bund.de/a/bmi-makimo-app
[2] https://algorithmwatch.org/de/ki-transparenzregister-dtl/
[3] https://algoritmes.overheid.nl/nl
[4] https://www.spd.de/fileadmin/Dokumente/Koalitionsvertrag2025_bf.pdf
## AUTOREN
Svenja Bergt
## TAGS
Schwerpunkt Künstliche Intelligenz
Verwaltung
Bürgerrechte
Algorithmen
Schwerpunkt Künstliche Intelligenz
Schwerpunkt Klimawandel
Schwerpunkt Pressefreiheit
TikTok
## ARTIKEL ZUM THEMA
KI als Psychotherapeut: Auf der Couch mit ChatGPT
Immer mehr Menschen versuchen, ChatGPT zu ihrer Psychotherapeutin zu
machen. Kann KI fehlende Therapieplätze ersetzen?
Blauer Engel für Software: „Den Recyclingansatz brauchen wir auch für Softw…
Informatiker Stefan Naumann hat den Blauen Engel für Software
mitentwickelt. Nachhaltiges Programmieren, sogenanntes Green Coding, soll
Apps nachhaltiger machen.
EU-Abgeordnete zur Digitalstruktur: „Algorithmen kann und muss man regulieren…
Wie kann man Internet-Giganten kontrollieren? Alexandra Geese,
Digital-Expertin im EU-Parlament, kennt die Chancen des Digital Service
Act.
Social-Media-Plattform X: EU-Kommission will Auskunft über Algorithmen
Die EU-Kommission geht weiter gegen X vor. Damit zeigt sie, dass sie nicht
vor Tech-Konzernen einknickt. Die scharen sich aktuell um Trump.
You are viewing proxied material from taz.de. The copyright of proxied material belongs to its original authors. Any comments or complaints in relation to proxied material should be directed to the original authors of the content concerned. Please see the disclaimer for more details.