When the border policeman is an AI

ArrivalAid is a non-profit organization that supports people with a history of flight and migration to arrive in Germany. The organization accompanies people in all phases of integration, for example with asylum or job applications, but also in overcoming trauma. The interview was shortend and edited for the written form. It was held in German and the long version can be found in the latest episode of our podcast “Direktdurchwahl”, episode 9: Does AI help refugees?

Welche Rolle spielt KI bei ArrivalAid; nutzt ihr eine KI?

Momentan nutzen wir nichts, was ich als künstliche Intelligenz bezeichnen würde. Wir sind noch relativ analog unterwegs: Wir nutzen beispielsweise keine Software, die permanent in Gesprächen für uns dolmetscht – wobei Google Translator manchmal hilfreich sein kann. 

Nutzen Geflüchtete und Menschen mit Migrationshintergrund als Alltagshelfer neben Übersetzungssytemen auch Navigationssysteme?

Ja, auf jeden Fall. Geflüchtete tippen die Adresse in der jeweiligen Landessprache ein oder nutzen die Spracheingabe, wenn sie Schwierigkeiten mit dem Alphabet oder dem Layout der Tastatur haben, und finden dann einfacher den Weg. Diese Systeme sind eine große Hilfe, wenn Menschen zu uns kommen, die wirklich gar kein Deutsch sprechen oder schreiben. 

Neben dem privaten Gebrauch können intelligente Systeme in der Migration auch bei Behörden, Institutionen und staatlichen Einrichtungen zum Einsatz kommen. Sind die Personen, die zu Ihnen kommen, bei Behörden mit KI in Kontakt gekommen?

Nicht direkt mit KI, aber womit wir täglich konfrontiert sind, sind Themen wie das Speichern von Fingerabdrücken oder maschinell lesbare Ausweise. Das hat Auswirkungen auf das Asylverfahren. Wenn jemand zum Beispiel über Griechenland oder Italien in die EU eingereist, werden Fingerabdrücke in zentralen Systemen gespeichert. Wenn die Behörden in Deutschland sehen, dass ein Treffer vorhanden ist, kommen Fragen auf wie: "Warst du in diesem Land? Hast du dort vielleicht einen Asylantrag gestellt? Und ist Deutschland dann überhaupt zuständig für dein Verfahren?" Wenn nicht, muss die Person wieder zurück. Vor allem in den letzten Jahren ist das für die Menschen zu einer großen Angst geworden, wenn sie einreisen.

Woher rührt denn diese Angst?

Viele Geflüchtete, die zu uns kommen, kommen aus autokratischen Strukturen. Wir in Europa sind eine viel größere Transparenz und eine stärkere Kontrolle der Mächtigen, beispielsweise durch bestimmte Gremien oder investigativen Journalismus, gewöhnt. Das gibt es in vielen Ländern nicht. In Ländern wie dem Irak, Syrien, oder auch China weht ein ganz anderer Wind. Für viele Menschen, die zu uns kommen, ist es ein erlerntes Muster, möglichst nicht aufzufallen. Deswegen wollen viele ihre Daten gegenüber offiziellen Stellen nicht preisgeben. In den Staaten oder Systemen, aus denen die Menschen kommen, kann das nämlich bedeuten, dass man aus willkürlichen Gründen im Gefängnis landet oder noch schlimmere Dinge passieren.

Neben dem Speichern der Fingerabdrücke gibt es das System „iBorderCtrl“, eine Art intelligenter Lügendetektor. Auf Grundlage von Videointerviews und von Datenanalysen werden dabei mittels KI Profile von Reisenden oder Geflüchteten erstellt. Dieses System wurde in Ungarn, in Lettland und in Griechenland erprobt. Das EU-Parlament hingegen sieht solche Systeme sehr kritisch und als Gefahr für die Menschenrechte (Quelle). Wie stehen Sie dazu?

Ich habe schon einiges über das System gelesen und würde es gerne im Einsatz sehen. Anscheinend ist die „Trefferquote“ des Systems nicht hoch und die Ergebnisse vorurteilsbelastet. Dunkelhäutige Menschen und Frauen werden häufiger vom System als auffällig markiert als weiße Männer. Das ist in meinen Augen eine Katastrophe. 

Aber grundsätzlich möchte ich technologischen Fortschritt nicht verteufeln. Ich begrüße Systeme, die dazu beitragen, Entscheidungen im Bereich Migration abzusichern oder besser zu machen. Doch dann müssen diese Systeme funktionieren und Abläufe wirklich verbessern. Beim Einsatz von Technik frage ich mich: Was machen die Menschen daraus? Ich habe Angst, dass Grenzpolizist:innen denken könnten, dass die Software die Arbeit an der Grenze besser macht als jeder Mensch und Daten ungeprüft weiterleiten. 

Ein Beispiel dafür, wie KI in der Migration sinnvoll eingesetzt werden kann, ist die Prognose von Fluchtbewegungen. Systeme können mit öffentlich zugänglichen Daten, z.B. zur Stabilität eines Regierungssystems, Vorhersagen über Migration und Fluchtbewegungen treffen. So funktioniert System „Foresight“, das der dänische Flüchtlingsrat mit IBM entwickelt hat. Was halten Sie denn von solchen Systemen?

Das ist ein sehr spannender Ansatz. Könnten wir sicher vorhersagen, aus welchen Ländern oder in welcher Anzahl Geflüchtete zu uns kommen werden, wäre das natürlich für alle eine sehr große Erleichterung. Meine Erfahrung über die letzten Jahre hat gezeigt, dass Migration ein sehr dynamisches Vorhersageumfeld ist. Und ich denke, dass so ein System sicherlich ein wichtiger und guter Ansatz wäre, um weitere Informationen zu bekommen. Ich bezweifle aber, dass das System allein gute Vorhersagen treffen kann. Ich vertraue eher Experten von der UNO oder dem UNHCR, die in den Ländern vor Ort sind und sich austauschen.

Was wünschen Sie sich von der Wissenschaft, was Sie bei der Hilfe für geflüchtete Menschen unterstützen würde?

Das Thema Dolmetschen und Übersetzen ist sehr wichtig für uns. Es wäre hilfreich, eine KI zum Übersetzen zu haben. Denn manchmal kommen Menschen von einem der Termin beim Amt zurück und berichten, dass das Übersetzen nicht funktioniert hat, weil der Dolmetscher zum Beispiel einen anderen Dialekt gesprochen hat. In solchen Fällen ist der menschliche Faktor das Problem. Da wäre es praktisch, eine kleine Box zu haben, die man auf den Tisch stellt und über die man sich in einer Sprache unterhalten kann, die kaum ein Mensch beherrscht, ohne erst einen Termin mit einem Dolmetscher machen zu müssen.

__________________

Weitere Informationen

• Website ArrivalAid 
• Informationen der Europäischen Kommision zum Projekt iBorderCTRL 
• Entschließung des Europäischen Parlaments (2021): Künstliche Intelligenz im Strafrecht und ihre Verwendung durch die Polizei und Justizbehörden in Strafsachen, P9_TA(2021)0405. Zum Dokument (engl.)
• Informationen des dänischen Flüchtlingsrats zum Prognosesystem Foresight. Zum Dokument (engl.)