# taz.de -- Juristin über KI und Migration: „Was an den Grenzen passiert, bl… | |
> Weltweit überwachen Staaten ihre Grenzen mit neuen Technologien. Die | |
> Juristin Petra Molnar warnt vor den Folgen. | |
Bild: Grenze zwischen den USA und Mexiko: Ein Grenzpatrouillenfahrzeug fährt e… | |
taz: Frau Molnar, Sie warnen auch mit Blick auf die kommende | |
Trump-Präsidentschaft vor „hochriskanten und unregulierten | |
Grenztechnologien“, die Folgen für „jeden Aspekt der Migration“ haben. | |
Womit ist zu rechnen? | |
Petra Molnar: Wir leben in einer Welt, die sehr diskriminierend und | |
ausgrenzend ist, wenn es darum geht, wer mobil sein darf und wer nicht. | |
Technologie verschärft diese Unterschiede. Es gibt eine schockierende | |
Bereitschaft von Staaten, den Grenzschutz mit Technologie zu | |
externalisieren und zu militarisieren, ohne dass man darüber spricht, was | |
das vor Ort bewirkt und welche Auswirkungen es auf die Menschenrechte hat. | |
taz: Vor einigen Jahren warnten Menschenrechtler:innen vor einer | |
Migrationsabwehr mit Satelliten, Biometriescannern, Radar, Drohnen. Sie | |
haben ein Buch über die nächste Generation der Grenzschutz-Technologien | |
geschrieben. Wie sieht die aus? | |
Molnar: Die Nutzung und Entwicklung neuer Grenzschutz-Technologien wird | |
exponenziell gesteigert. Die Biometrie in Flüchtlingslagern etwa haben die | |
UN in Kenia und Jordanien vorangetrieben. Es gibt immer mehr automatisierte | |
Überwachung durch experimentelle Projekte wie Roboterhunde, die zuerst 2022 | |
an der Grenze zwischen den USA und Mexiko getestet wurden. Die EU hat | |
Roboter namens Roborder, KI-Lügendetektoren und Software zur | |
automatisierten Stimmerkennung getestet. | |
taz: Wie funktionieren solche Projekte? | |
Molnar: Eines dieser Projekte ist iBorderCtrl. Die KI in Form eines Avatars | |
soll Gesichter und Emotionen erkennen und damit feststellen, ob jemand bei | |
der Einreise lügt. Es wurden Fragen gestellt, um herauszufinden, ob jemand | |
vorhat, Asyl zu beantragen, oder ob es Sicherheitsrisiken gibt. Auf | |
Grundlage der Interaktion wird eine Risikobewertung formuliert – etwa, weil | |
die Person keinen Augenkontakt hergestellt hat, wie es bei Ehrlichkeit zu | |
erwarten wäre. Dann wird eine Warnung im Profil der Person hinterlegt. | |
taz: Wie zuverlässig ist so ein System? | |
Molnar: Ich habe in Kanada Flüchtlinge bei Anhörungen vor Gericht als | |
Anwältin vertreten und gesehen, wie Richter etwa reagierten, wenn jemand | |
keinen Augenkontakt herstellte. Die Richter, also menschliche | |
Entscheidungsträger, konnten sich teils nicht vorstellen, dass das | |
vielleicht an der Religion, eigenen Erfahrungen, den Nerven, an Traumata | |
liegt. Oder daran, dass wir Geschichten ohnehin nicht linear erzählen, | |
geschweige denn komplexe, schwierige Dinge, die uns widerfahren sind. Die | |
Richter hatten damit Schwierigkeiten und zogen teils äußerst problematische | |
Schlussfolgerungen. Wie soll eine KI mit solchen Komplexitäten besser | |
umgehen können? | |
taz: Die EU hat auf Kritik entgegnet, das System sei nur ein Test gewesen. | |
Molnar: Beteiligte Wissenschaftler sagten nach öffentlicher Kritik, sie | |
hätten nicht erkannt, dass das Projekt solche Auswirkungen auf die | |
Menschenrechte haben würde. Aber sprechen Sie mit einem Asylanwalt oder | |
einer Person auf der Flucht – die werden Bedenken daran äußern, was ein | |
solches System bewirkt. Deshalb ist es wichtig, wer bei der Entwicklung | |
solcher Projekte mit im Raum sitzt und wer entscheidet. | |
taz: Welche Technologien gibt es noch? | |
Molnar: Seit einiger Zeit ist eine Schallkanone auf dem Markt, die etwa an | |
der Grenze zwischen Griechenland und der Türkei eingesetzt wurde. Das | |
deutsche Bundesamt für Migration und Flüchtlinge nutzt seit 2017 einen | |
„Dialektidentifizierungsassistenten“ bei Asylanträgen – eine Software, d… | |
prüft, ob jemand beispielsweise aus einer bestimmten Provinz eines Landes | |
stammt und dazu womöglich falsche Angaben macht. Nach öffentlichen | |
Diskussionen hat das Bundesamt den Einsatz allerdings beendet. | |
taz: Wer ist die treibende Kraft hinter dieser Entwicklung? Die | |
Innenministerien oder die Industrie? | |
Molnar: Beide. Innenministerien und Regierungen im Allgemeinen können | |
solche Technologie nicht selbst entwickeln. Sie treten an private Partner | |
heran. Umgekehrt macht auch der Privatsektor seinen Einfluss geltend, um zu | |
bestimmen, was entwickelt wird. Man sieht das auf Foren wie dem World | |
Border Security Congress, ich habe das mehrfach selbst so erlebt: Da steht | |
dann der Migrationsminister und unterhält sich mit einem | |
Drohnenlieferanten. Der Privatsektor sagt: „Ihr habt das Migrationsproblem | |
– wir haben die Lösung“, und das ist eine Drohne oder ein Roboterhund oder | |
Gesichtserkennung. | |
taz: Selbst die Erfinder warnen vor den Risiken einer KI, die keinen | |
gesetzlichen Schranken unterworfen ist. Könnte das den möglichen Einsatz an | |
Grenzen bremsen? | |
Molnar: Menschen sind heute zu Recht besorgt darüber, was KI tut. Aber die | |
Diskussion über die Regulierung kommt nicht voran. Im August trat das | |
EU-Gesetz zur künstlichen Intelligenz in Kraft. Ich war ab 2021 Teil einer | |
Gruppe von Fachleuten namens „Schützen statt überwachen“. Wir forderten | |
unter anderem ein Verbot von KI-Modellen, die Migrationsbewegungen | |
vorhersagen sollen und [1][für Pushbacks eingesetzt werden könnten]. Leider | |
ohne Erfolg. | |
taz: W as hätten solche Bestimmungen in dem Gesetz gebracht? | |
Molnar: Hätte das EU-KI-Gesetz Menschenrechte stärker in den Blick | |
genommen, wären Länder wie Kanada, die USA, Großbritannien und Australien | |
dem wohl gefolgt. Aber viele Regeln wurden im Gesetzgebungsprozess | |
verwässert, nicht nur in Bezug auf Grenztechnologie. Es bietet keinen | |
Anreiz für andere Länder, KI zu regulieren. 2023 haben wir einen Bericht | |
für das Büro des UN-Menschenrechtskommissars verfasst und eine | |
menschenrechtskonforme digitale Grenzverwaltung gefordert. Dazu gehörten | |
auch Moratorien und Verbote bestimmter Grenztechnologie. Nichts davon wurde | |
aufgegriffen. Denn wenn Migration als Problem und die Technologie als | |
Lösung gesehen wird – warum sollte man sie dann regulieren? | |
taz: Dient der Einsatz an den Grenzen dazu, Technologien für eine | |
weitergehende Nutzung im Innern zu testen? | |
Molnar: Ich beschäftige mich seit 2008 mit Migrationsfragen und kann sagen: | |
Was an den Grenzen und in Flüchtlingslagern passiert, bleibt nicht dort. | |
Gesichtserkennung ist heute weitgehend als biometrische Massenüberwachung | |
normalisiert, sogar in Sportstadien. Robohunde wurden 2022 an der Grenze | |
getestet, 2023 setzte die Polizei sie auf den Straßen von New York ein. | |
Einer war sogar weiß mit schwarzen Flecken bemalt, wie ein Dalmatiner. Was | |
in einem Flüchtlingslager passiert, ist dem Durchschnittsbürger vielleicht | |
egal, weil es ihn vermeintlich nicht betrifft. Aber wenn dieselbe | |
Technologie dann Teil unseres öffentlichen Lebens wird, dann fangen die | |
Leute vielleicht an, sich dafür zu interessieren. | |
taz: Werden Asyl- und Visumantragsgespräche zukünftig von Bots geführt? | |
Molnar: Sehr wahrscheinlich ist, dass die teilweise oder vollständige | |
Automatisierung zur Normalität werden könnte. Mit Verweis auf die | |
vermeintliche Effizienz werden diese Dinge durchgesetzt. So sollen Fälle | |
schneller bearbeitet oder abgelehnt werden. | |
taz: Schneller wäre doch besser, oder nicht? | |
Molnar: Manchmal dauert es Jahre bis zu einer Entscheidung. Das System kann | |
also nicht bleiben, wie es ist. Aber die Antwort kann keine technische | |
Lösung sein, die Probleme noch verschlimmert und neue schafft. Wenn man | |
sich tatsächlich um Effizienz sorgt, sollte man etwa vermeiden, wegen | |
diskriminierender Entscheidungen verklagt zu werden. Das ist nämlich eine | |
Folge von KI und wird das auch bleiben. Es gibt bereits entsprechende | |
Entscheidungen in Kanada und UK, immer mehr Menschen sind betroffen, | |
Anwält:innen werden darauf aufmerksam und klagen. Solche Systeme | |
funktionieren nicht richtig und sind eine Verschwendung von Ressourcen. | |
Diese Ressourcen könnten auf ganz andere Weise für eine Reform des Systems | |
genutzt werden. Aber ich glaube nicht, dass das die Priorität ist. Die | |
Priorität ist, dass wir zu viele Menschen haben, die herkommen und man will | |
technische Lösungen schaffen, um sie – vielleicht – schneller loszuwerden. | |
taz: Fühlen sich die Staaten denn langfristig überhaupt verpflichtet, | |
Gerichtsentscheidungen zu respektieren? | |
Molnar: Die Achtung des Rechts [2][geht den Bach runter], das ist ein | |
breiterer Trend. Wir können alle Gerichtsentscheidungen der Welt haben, | |
aber was bringt es, wenn sie nicht respektiert werden? Ich war an der | |
polnisch-weißrussischen Grenze, als es diese Sperrzone gab, es war ein | |
klares Beispiel für die Formbarkeit des Rechts in Krisensituationen. Sofort | |
wurde die etablierte Norm außer Kraft gesetzt, dass Medien Zugang haben. | |
Als jemand, der versucht, das Zusammenspiel zwischen Technologie, Macht und | |
Migration zu verstehen, denke ich, dass wir aus dem Blick verloren haben, | |
dass es echte Menschen sind, die im Mittelpunkt stehen. | |
taz: Die EU verlagert ihren Grenzschutz an Partnerländer in der Sahara, die | |
USA nach Lateinamerika. Gibt es Unterschiede im Vorgehen? | |
Molnar: Die USA bauen auf die Externalisierung ihres Grenzschutzes | |
[3][mithilfe von Mexiko] als direktem Nachbarn und anderen Ländern in | |
Lateinamerika. Das ähnelt der EU, die ihren Grenzschutz bis weit auf den | |
afrikanischen Kontinent ausgebaut hat und die Routen überwacht. Dabei wird | |
nicht nur Geld gezahlt. Es werden auch biometrische Datenbanken in Mexiko | |
erweitert, Grenzschutzkräfte ausgebildet oder Ausrüstung an mittel- und | |
lateinamerikanische Länder gegeben. Die Ausrüstung kommt direkt aus den | |
USA, sehr ähnlich wie in der EU. Beide Regionen lernen da voneinander und | |
kopieren sich gegenseitig. | |
taz: In Afrika wenden sich mittlerweile viele Staaten vom Westen ab. Das | |
unterminiert die EU-Grenzschutzkooperationen. Haben die USA ähnliche | |
Probleme? | |
Molnar: Die Menschen gehen nach Nordamerika, das Geld fließt in die andere | |
Richtung, um sie davon abzuhalten. Das ist ein lukratives Geschäft für | |
viele der Partnerländer. Deshalb gibt es vielleicht keinen Akteur, der die | |
USA als Machtfaktor im Migrationsmanagement auf dem amerikanischen | |
Kontinent entthronen könnte. Russland ist, soweit bekannt, in dieser Region | |
kaum aktiv. Das soll nicht heißen, dass das nicht passieren könnte. Aber | |
die Vormachtstellung der USA ist immer noch sehr stark – durch die | |
Wiederwahl Trumps jetzt umso mehr. | |
taz: Heute kommen immer mehr Menschen aus Afrika über Lateinamerika in die | |
USA, statt über die Sahara in Richtung EU. Woran liegt das? | |
Molnar: Ein Faktor ist wohl, dass die europäischen Migrationsrouten so | |
tödlich geworden sind. Allerdings ist Sicherheit dabei womöglich nicht | |
einmal das wichtigste Thema. Diese neuen Routen, die wir hier sehen, zeigen | |
einmal mehr, dass Menschen in verzweifelten Situationen bereit sind, alles | |
zu versuchen. | |
15 Nov 2024 | |
## LINKS | |
[1] /20-Jahre-Frontex/!6043012 | |
[2] /Doku-zu-EU-Asylpolitik/!6044128 | |
[3] /Folgen-der-US-Wahl/!6047622 | |
## AUTOREN | |
Christian Jakob | |
## TAGS | |
Grenzpolitik | |
Migration | |
wochentaz | |
Schwerpunkt Künstliche Intelligenz | |
Geflüchtete | |
Schwerpunkt Künstliche Intelligenz | |
Jair Bolsonaro | |
US-Wahl 2024 | |
US-Wahl 2024 | |
## ARTIKEL ZUM THEMA | |
USA investieren in KI: Ein 500 Milliarden Dollar-Versprechen | |
Die USA wollen ihre Vormachtstellung in dem Sektor ausbauen – mit massiven | |
Investitionen und Deregulierung. | |
Nach dem Anschlag in Brasilien: Tat eines „geistig Verwirrten“? | |
Der früher in der Partei des rechten Ex-Präsidenten Bolsonaro aktive | |
Attentäter soll alleine gehandelt haben. Doch die Rhetorik der Rechten | |
könnte ihn inspiriert haben. | |
Nominierungen für Trumps Kabinett: Schockwellen selbst bei Republikanern | |
Mit der Nominierung des radikalen Abgeordneten Matt Gaetz als | |
US-Justizminister provoziert Donald Trump Widerspruch sogar in den eigenen | |
Reihen. | |
Melania Trump im russischen Fernsehen: Dominanzgeste aus Moskau | |
Das russische Staatsfernsehen zeigt Nacktbilder der nächsten US-First-Lady | |
Melania Trump. Eine Machtdemonstrationen des Kremls gegenüber Trump. |