# taz.de -- Juristin über KI und Migration: „Was an den Grenzen passiert, bleibt nicht dort“

	# taz.de -- Juristin über KI und Migration: „Was an den Grenzen passiert, bl…

	> Weltweit überwachen Staaten ihre Grenzen mit neuen Technologien. Die
	> Juristin Petra Molnar warnt vor den Folgen.

	Bild: Grenze zwischen den USA und Mexiko: Ein Grenzpatrouillenfahrzeug fährt e…

	taz: Frau Molnar, Sie warnen auch mit Blick auf die kommende
	Trump-Präsidentschaft vor „hochriskanten und unregulierten
	Grenztechnologien“, die Folgen für „jeden Aspekt der Migration“ haben.
	Womit ist zu rechnen?

	Petra Molnar: Wir leben in einer Welt, die sehr diskriminierend und
	ausgrenzend ist, wenn es darum geht, wer mobil sein darf und wer nicht.
	Technologie verschärft diese Unterschiede. Es gibt eine schockierende
	Bereitschaft von Staaten, den Grenzschutz mit Technologie zu
	externalisieren und zu militarisieren, ohne dass man darüber spricht, was
	das vor Ort bewirkt und welche Auswirkungen es auf die Menschenrechte hat.

	taz: Vor einigen Jahren warnten Menschenrechtler:innen vor einer
	Migrationsabwehr mit Satelliten, Biometriescannern, Radar, Drohnen. Sie
	haben ein Buch über die nächste Generation der Grenzschutz-Technologien
	geschrieben. Wie sieht die aus?

	Molnar: Die Nutzung und Entwicklung neuer Grenzschutz-Technologien wird
	exponenziell gesteigert. Die Biometrie in Flüchtlingslagern etwa haben die
	UN in Kenia und Jordanien vorangetrieben. Es gibt immer mehr automatisierte
	Überwachung durch experimentelle Projekte wie Roboterhunde, die zuerst 2022
	an der Grenze zwischen den USA und Mexiko getestet wurden. Die EU hat
	Roboter namens Roborder, KI-Lügendetektoren und Software zur
	automatisierten Stimmerkennung getestet.

	taz: Wie funktionieren solche Projekte?

	Molnar: Eines dieser Projekte ist iBorderCtrl. Die KI in Form eines Avatars
	soll Gesichter und Emotionen erkennen und damit feststellen, ob jemand bei
	der Einreise lügt. Es wurden Fragen gestellt, um herauszufinden, ob jemand
	vorhat, Asyl zu beantragen, oder ob es Sicherheitsrisiken gibt. Auf
	Grundlage der Interaktion wird eine Risikobewertung formuliert – etwa, weil
	die Person keinen Augenkontakt hergestellt hat, wie es bei Ehrlichkeit zu
	erwarten wäre. Dann wird eine Warnung im Profil der Person hinterlegt.

	taz: Wie zuverlässig ist so ein System?

	Molnar: Ich habe in Kanada Flüchtlinge bei Anhörungen vor Gericht als
	Anwältin vertreten und gesehen, wie Richter etwa reagierten, wenn jemand
	keinen Augenkontakt herstellte. Die Richter, also menschliche
	Entscheidungsträger, konnten sich teils nicht vorstellen, dass das
	vielleicht an der Religion, eigenen Erfahrungen, den Nerven, an Traumata
	liegt. Oder daran, dass wir Geschichten ohnehin nicht linear erzählen,
	geschweige denn komplexe, schwierige Dinge, die uns widerfahren sind. Die
	Richter hatten damit Schwierigkeiten und zogen teils äußerst problematische
	Schlussfolgerungen. Wie soll eine KI mit solchen Komplexitäten besser
	umgehen können?

	taz: Die EU hat auf Kritik entgegnet, das System sei nur ein Test gewesen.

	Molnar: Beteiligte Wissenschaftler sagten nach öffentlicher Kritik, sie
	hätten nicht erkannt, dass das Projekt solche Auswirkungen auf die
	Menschenrechte haben würde. Aber sprechen Sie mit einem Asylanwalt oder
	einer Person auf der Flucht – die werden Bedenken daran äußern, was ein
	solches System bewirkt. Deshalb ist es wichtig, wer bei der Entwicklung
	solcher Projekte mit im Raum sitzt und wer entscheidet.

	taz: Welche Technologien gibt es noch?

	Molnar: Seit einiger Zeit ist eine Schallkanone auf dem Markt, die etwa an
	der Grenze zwischen Griechenland und der Türkei eingesetzt wurde. Das
	deutsche Bundesamt für Migration und Flüchtlinge nutzt seit 2017 einen
	„Dialektidentifizierungsassistenten“ bei Asylanträgen – eine Software, d…
	prüft, ob jemand beispielsweise aus einer bestimmten Provinz eines Landes
	stammt und dazu womöglich falsche Angaben macht. Nach öffentlichen
	Diskussionen hat das Bundesamt den Einsatz allerdings beendet.

	taz: Wer ist die treibende Kraft hinter dieser Entwicklung? Die
	Innenministerien oder die Industrie?

	Molnar: Beide. Innenministerien und Regierungen im Allgemeinen können
	solche Technologie nicht selbst entwickeln. Sie treten an private Partner
	heran. Umgekehrt macht auch der Privatsektor seinen Einfluss geltend, um zu
	bestimmen, was entwickelt wird. Man sieht das auf Foren wie dem World
	Border Security Congress, ich habe das mehrfach selbst so erlebt: Da steht
	dann der Migrationsminister und unterhält sich mit einem
	Drohnenlieferanten. Der Privatsektor sagt: „Ihr habt das Migrationsproblem
	– wir haben die Lösung“, und das ist eine Drohne oder ein Roboterhund oder
	Gesichtserkennung.

	taz: Selbst die Erfinder warnen vor den Risiken einer KI, die keinen
	gesetzlichen Schranken unterworfen ist. Könnte das den möglichen Einsatz an
	Grenzen bremsen?

	Molnar: Menschen sind heute zu Recht besorgt darüber, was KI tut. Aber die
	Diskussion über die Regulierung kommt nicht voran. Im August trat das
	EU-Gesetz zur künstlichen Intelligenz in Kraft. Ich war ab 2021 Teil einer
	Gruppe von Fachleuten namens „Schützen statt überwachen“. Wir forderten
	unter anderem ein Verbot von KI-Modellen, die Migrationsbewegungen
	vorhersagen sollen und [1][für Pushbacks eingesetzt werden könnten]. Leider
	ohne Erfolg.

	taz: W as hätten solche Bestimmungen in dem Gesetz gebracht?

	Molnar: Hätte das EU-KI-Gesetz Menschenrechte stärker in den Blick
	genommen, wären Länder wie Kanada, die USA, Großbritannien und Australien
	dem wohl gefolgt. Aber viele Regeln wurden im Gesetzgebungsprozess
	verwässert, nicht nur in Bezug auf Grenztechnologie. Es bietet keinen
	Anreiz für andere Länder, KI zu regulieren. 2023 haben wir einen Bericht
	für das Büro des UN-Menschenrechtskommissars verfasst und eine
	menschenrechtskonforme digitale Grenzverwaltung gefordert. Dazu gehörten
	auch Moratorien und Verbote bestimmter Grenztechnologie. Nichts davon wurde
	aufgegriffen. Denn wenn Migration als Problem und die Technologie als
	Lösung gesehen wird – warum sollte man sie dann regulieren?

	taz: Dient der Einsatz an den Grenzen dazu, Technologien für eine
	weitergehende Nutzung im Innern zu testen?

	Molnar: Ich beschäftige mich seit 2008 mit Migrationsfragen und kann sagen:
	Was an den Grenzen und in Flüchtlingslagern passiert, bleibt nicht dort.
	Gesichtserkennung ist heute weitgehend als biometrische Massenüberwachung
	normalisiert, sogar in Sportstadien. Robohunde wurden 2022 an der Grenze
	getestet, 2023 setzte die Polizei sie auf den Straßen von New York ein.
	Einer war sogar weiß mit schwarzen Flecken bemalt, wie ein Dalmatiner. Was
	in einem Flüchtlingslager passiert, ist dem Durchschnittsbürger vielleicht
	egal, weil es ihn vermeintlich nicht betrifft. Aber wenn dieselbe
	Technologie dann Teil unseres öffentlichen Lebens wird, dann fangen die
	Leute vielleicht an, sich dafür zu interessieren.

	taz: Werden Asyl- und Visumantragsgespräche zukünftig von Bots geführt?

	Molnar: Sehr wahrscheinlich ist, dass die teilweise oder vollständige
	Automatisierung zur Normalität werden könnte. Mit Verweis auf die
	vermeintliche Effizienz werden diese Dinge durchgesetzt. So sollen Fälle
	schneller bearbeitet oder abgelehnt werden.

	taz: Schneller wäre doch besser, oder nicht?

	Molnar: Manchmal dauert es Jahre bis zu einer Entscheidung. Das System kann
	also nicht bleiben, wie es ist. Aber die Antwort kann keine technische
	Lösung sein, die Probleme noch verschlimmert und neue schafft. Wenn man
	sich tatsächlich um Effizienz sorgt, sollte man etwa vermeiden, wegen
	diskriminierender Entscheidungen verklagt zu werden. Das ist nämlich eine
	Folge von KI und wird das auch bleiben. Es gibt bereits entsprechende
	Entscheidungen in Kanada und UK, immer mehr Menschen sind betroffen,
	Anwält:innen werden darauf aufmerksam und klagen. Solche Systeme
	funktionieren nicht richtig und sind eine Verschwendung von Ressourcen.
	Diese Ressourcen könnten auf ganz andere Weise für eine Reform des Systems
	genutzt werden. Aber ich glaube nicht, dass das die Priorität ist. Die
	Priorität ist, dass wir zu viele Menschen haben, die herkommen und man will
	technische Lösungen schaffen, um sie – vielleicht – schneller loszuwerden.

	taz: Fühlen sich die Staaten denn langfristig überhaupt verpflichtet,
	Gerichtsentscheidungen zu respektieren?

	Molnar: Die Achtung des Rechts [2][geht den Bach runter], das ist ein
	breiterer Trend. Wir können alle Gerichtsentscheidungen der Welt haben,
	aber was bringt es, wenn sie nicht respektiert werden? Ich war an der
	polnisch-weißrussischen Grenze, als es diese Sperrzone gab, es war ein
	klares Beispiel für die Formbarkeit des Rechts in Krisensituationen. Sofort
	wurde die etablierte Norm außer Kraft gesetzt, dass Medien Zugang haben.
	Als jemand, der versucht, das Zusammenspiel zwischen Technologie, Macht und
	Migration zu verstehen, denke ich, dass wir aus dem Blick verloren haben,
	dass es echte Menschen sind, die im Mittelpunkt stehen.

	taz: Die EU verlagert ihren Grenzschutz an Partnerländer in der Sahara, die
	USA nach Lateinamerika. Gibt es Unterschiede im Vorgehen?

	Molnar: Die USA bauen auf die Externalisierung ihres Grenzschutzes
	[3][mithilfe von Mexiko] als direktem Nachbarn und anderen Ländern in
	Lateinamerika. Das ähnelt der EU, die ihren Grenzschutz bis weit auf den
	afrikanischen Kontinent ausgebaut hat und die Routen überwacht. Dabei wird
	nicht nur Geld gezahlt. Es werden auch biometrische Datenbanken in Mexiko
	erweitert, Grenzschutzkräfte ausgebildet oder Ausrüstung an mittel- und
	lateinamerikanische Länder gegeben. Die Ausrüstung kommt direkt aus den
	USA, sehr ähnlich wie in der EU. Beide Regionen lernen da voneinander und
	kopieren sich gegenseitig.

	taz: In Afrika wenden sich mittlerweile viele Staaten vom Westen ab. Das
	unterminiert die EU-Grenzschutzkooperationen. Haben die USA ähnliche
	Probleme?

	Molnar: Die Menschen gehen nach Nordamerika, das Geld fließt in die andere
	Richtung, um sie davon abzuhalten. Das ist ein lukratives Geschäft für
	viele der Partnerländer. Deshalb gibt es vielleicht keinen Akteur, der die
	USA als Machtfaktor im Migrationsmanagement auf dem amerikanischen
	Kontinent entthronen könnte. Russland ist, soweit bekannt, in dieser Region
	kaum aktiv. Das soll nicht heißen, dass das nicht passieren könnte. Aber
	die Vormachtstellung der USA ist immer noch sehr stark – durch die
	Wiederwahl Trumps jetzt umso mehr.

	taz: Heute kommen immer mehr Menschen aus Afrika über Lateinamerika in die
	USA, statt über die Sahara in Richtung EU. Woran liegt das?

	Molnar: Ein Faktor ist wohl, dass die europäischen Migrationsrouten so
	tödlich geworden sind. Allerdings ist Sicherheit dabei womöglich nicht
	einmal das wichtigste Thema. Diese neuen Routen, die wir hier sehen, zeigen
	einmal mehr, dass Menschen in verzweifelten Situationen bereit sind, alles
	zu versuchen.

	15 Nov 2024

	## LINKS

	[1] /20-Jahre-Frontex/!6043012
	[2] /Doku-zu-EU-Asylpolitik/!6044128
	[3] /Folgen-der-US-Wahl/!6047622

	## AUTOREN

	Christian Jakob

	## TAGS

	Grenzpolitik
	Migration
	wochentaz
	Schwerpunkt Künstliche Intelligenz
	Geflüchtete
	Schwerpunkt Künstliche Intelligenz
	Satire
	Schwerpunkt Künstliche Intelligenz
	Jair Bolsonaro
	US-Wahl 2024
	US-Wahl 2024

	## ARTIKEL ZUM THEMA

	Milliarden Euro gegen Migration: KI an der Grenze

	Europa baut ein KI-Kontrollsystem an seinen Grenzen auf – finanziert von
	der EU, vorangetrieben von Deutschland. Die Rüstungsindustrie profitiert.

	Mein Leben als Starautor: Die Einreise

	Als aufgehender Stern am Literaturhimmel beschloss ich, mein neues Buch in
	der Türkei drucken zu lassen. Leider hielt ich an der Grenze nicht den
	Mund.

	USA investieren in KI: Ein 500 Milliarden Dollar-Versprechen

	Die USA wollen ihre Vormachtstellung in dem Sektor ausbauen – mit massiven
	Investitionen und Deregulierung.

	Nach dem Anschlag in Brasilien: Tat eines „geistig Verwirrten“?

	Der früher in der Partei des rechten Ex-Präsidenten Bolsonaro aktive
	Attentäter soll alleine gehandelt haben. Doch die Rhetorik der Rechten
	könnte ihn inspiriert haben.

	Nominierungen für Trumps Kabinett: Schockwellen selbst bei Republikanern

	Mit der Nominierung des radikalen Abgeordneten Matt Gaetz als
	US-Justizminister provoziert Donald Trump Widerspruch sogar in den eigenen
	Reihen.

	Melania Trump im russischen Fernsehen: Dominanzgeste aus Moskau

	Das russische Staatsfernsehen zeigt Nacktbilder der nächsten US-First-Lady
	Melania Trump. Eine Machtdemonstrationen des Kremls gegenüber Trump.