User Group: Gesellschaft

Liebe Leserinnen und Leser,

vor der Sommerpause möchten wir Ihnen einigen Lesestoff rund um das Thema KI und Public Engagement anbieten. Thematisch hat uns die vergangenen Wochen die Frage beschäftigt, welche Rolle KI in der Migration spielt. Freuen Sie sich auf spannende Interviews in unserer neuen Podcast-Episode. Für die zweite Jahreshälfte haben wir außerdem viele Angebote geplant, deren Termine Sie sich gerne schon vormerken können. Wenn Sie regelmäßig über unsere Public Engagement Veranstaltungen und Themen rund um KI informiert bleiben möchten, können Sie sich auf dieser Seite für den Public Engagement Newsletter anmelden.

Wir wünschen einen schönen Sommer!

Liebe Grüße
Rebecca Beiter und Patrick Klügel

Ankündigungen

Neue Podcast-Episode: Hilft KI Geflüchteten?

Wie wird künstliche Intelligenz (KI) in der Migration und an unseren Grenzen eingesetzt und unterstützen diese Systeme die Menschen? Folge 9 des Cyber Valley Podcasts „Direktdurchwahl: Reden wir über KI“ widmet sich intelligenten Systemen in der Migration. Eine KI kann beim Dolmetschen unterstützen, Fluchtbewegungen vorhersagen – oder Aussagen Geflüchteter auf Lügen analysieren. Die Tübinger Ethik-Professorin Regina Ammicht Quinn spricht mit Rebecca Beiter über ihre Sorgen beim Einsatz von KI in der Migration. Mit welchen Systemen Menschen auf der Flucht in Kontakt kommen, berichtet Martin Rubin, Standortleiter von ArrivalAid Stuttgart.
Zur Podcastfolge

Im Dialog über KI

„forschung leben“, das Magazin der Universität Stuttgart, hat mit Rebecca Beiter über ihre Arbeit gesprochen. Im Interview erklärt sie, warum es wichtig ist, mit der Bevölkerung in Dialog zu treten und wie der konstruktive Dialog zwischen Wissenschaft und Gesellschaft gelingen kann.
Zum Artikel

Neues Zentrum für digitale Bildung

Der KI-Makerspace wird als Praxispartner und Experimentierfeld Mitglied des neu gegründeten Zentrums für Digitale Bildung der Universität Tübingen. Das Makerspace-Team wird so den Transfer von evidenzbasierten und in der Praxis validierten didaktischem Material zum Thema künstliche Intelligenz in den Unterricht aller Schularten weiter voranbringen.
Informationen über das Zentrum

Veranstaltungen

Malen mit Zahlen – kreativ mit künstlicher Intelligenz
29. bis 31. August 2022, KI-Makerspace, Tübingen

Kann KI Kunst? Zusammen mit menschlichen und maschinellen Künstler:innen gehen wir dieser Frage auf den Grund. Über drei Tage hinweg werden die Teilnehmenden nicht nur zeichnen, collagieren und digital gestalten, sondern im kostenlosen Sommerferienprogramm des KI-Makerspace auch mit Kunst-Algorithmen experimentieren, um dann ein eigenes Kunstwerk auf einer Vernissage auszustellen. Anmeldung für Jugendliche zwischen 13 und 17 Jahren per E-Mail an: hallo@ki-maker.space.
Weitere Informationen

Nach der Sommerpause geht es unter anderem mit diesen Veranstaltungen weiter:

Künstliche Intelligenz – Superkraft für Marke und Kommunikation?
26. September 2022, 17:00–19:00 Uhr, Die KAVALLERIE, Tübingen

Die zentralen Elemente klassischer Markenkommunikation wie Bildwelten, Videos, Textinhalte, Sounds und Interaktionsformate lassen sich durch künstliche Intelligenz generieren. Beste Beispiele: aktuelle Deep-Fake-Videos oder Kommunikation mit Web-Bots. Szenarien wie das Metaverse liegen für Unternehmen in der Luft. Welche Möglichkeiten bietet KI für Markenerlebnisse? Diskussionsveranstaltung mit Justus Thies (Max-Planck-Institut für Intelligente Systeme) und Ric Scheuss (TRO GmbH – Sonic Branding).
Anmeldung über www.diekavallerie.de/ride9 oder über events@diekavallerie.de.

Vortrag: Was ist künstliche Intelligenz? 
24. Oktober 2022, 14:00–15:30 Uhr, online

Rebecca Beiter gibt in ihrem Vortrag einen Überblick über KI und wie uns diese bereits jetzt im Alltag betrifft. Sie geht sowohl auf technische als auch auf ethische Aspekte ein und erklärt, welche Regulierungsvorschläge die EU-Kommission zum KI-Einsatz in der Bildung erarbeitet hat.
Das Seminar ist Teil der Tagung des Landesmedienzentrums Baden-Württemberg (LMZ).
Weitere Informationen

Einführung: KI im Unterricht. Überblick über Angebote für Lehrkräfte und Schüler:innen
24. Oktober 2022, 16:00–17:30 Uhr, online

Wie lässt sich ein komplexes Thema wie künstliche Intelligenz (KI) im Unterricht spannend vermitteln? In diesem Seminar geben Expert:innen Antworten auf diese Frage und stellen verschiedene Konzepte und Materialien vor. Das Seminar ist Teil der Tagung des Landesmedienzentrums Baden-Württemberg (LMZ) und richtet sich an Lehrkräfte, Medienpädagog:innen sowie alle Interessierten. 
Weitere Informationen

Interview: Wenn der Grenzpolizist eine KI ist

Mit welchen intelligenten Systemen kommen Menschen in Kontakt, die nach Deutschland kommen? Rebecca Beiter sprach für den Cyber Valley Podcast Direktdurchwahl mit Martin Rubin, Standortleiter von ArrivalAid Stuttgart.

Das System „iBorderCtrl“, eine Art intelligenter Lügendetektor, erstellt mittels KI Profile von Geflüchteten. Das EU-Parlament sieht darin eine Gefahr für die Menschenrechte. Wie stehen Sie dazu?
Ich habe schon einiges über das System gelesen und würde es gerne im Einsatz sehen. Anscheinend ist die „Trefferquote“ des Systems nicht hoch und die Ergebnisse vorurteilsbelastet. Dunkelhäutige Menschen und Frauen werden häufiger vom System als auffällig markiert als weiße Männer. Das ist in meinen Augen eine Katastrophe. Aber grundsätzlich möchte ich technologischen Fortschritt nicht verteufeln. Ich begrüße Systeme, die dazu beitragen, Entscheidungen im Bereich Migration abzusichern oder besser zu machen.
 
Ein Beispiel dafür, wie KI in der Migration sinnvoll eingesetzt werden kann, ist die Prognose von Fluchtbewegungen, zum Beispiel durch das System Foresight.
Ein sehr spannender Ansatz. Könnten wir sicher vorhersagen, aus welchen Ländern oder in welcher Anzahl Geflüchtete zu uns kommen, wäre das eine sehr große Erleichterung. Meine Erfahrung über die letzten Jahre hat gezeigt, dass Migration ein sehr dynamisches Vorhersageumfeld ist. Ich denke, dass so ein System sicherlich ein wichtiger und guter Ansatz wäre, um weitere Informationen zu bekommen. Ich bezweifle aber, dass das System allein gute Vorhersagen treffen kann. Ich vertraue eher Experten von der UNO oder dem UNHCR, die in den Ländern vor Ort sind.
 
Was wünschen Sie sich von der Wissenschaft, was Sie bei der Hilfe für geflüchtete Menschen unterstützen würde?
Das Thema Dolmetschen und Übersetzen ist sehr wichtig für uns. Es wäre hilfreich, eine KI zum Übersetzen zu haben. Denn manchmal kommen Menschen von einem der Termin beim Amt zurück und berichten, dass das Übersetzen nicht funktioniert hat, weil der Dolmetscher zum Beispiel einen anderen Dialekt gesprochen hat. In solchen Fällen ist der menschliche Faktor das Problem. Da wäre es praktisch, eine kleine Box zu haben, die man auf den Tisch stellt und über die man sich in einer Sprache unterhalten kann, die kaum ein Mensch beherrscht, ohne erst einen Termin mit einem Dolmetscher machen zu müssen.

Dieser Textausschnitt wurde für den Newsletter gekürzt. Das ganze Interview können Sie auf unserer Webseite nachlesen.
Zum Interview

Fundstücke

Soll künstliche Intelligenz sich selbst erklären?

Dass Algorithmen viele Dinge können, verblüfft uns nicht mehr. Nun können sie angeblich auch „erklären“. Aber wollen wir das? Diese Frage stellen sich Eric Raidl, Sebastian Bordt, Michèle Finck und Ulrike von Luxburg vom „Exzellenzcluster Maschinelles Lernen: Neue Perspektiven für die Wissenschaft“.
Zum Blog-Artikel

Klimasünder:in KI?

KI kann in vielen Branchen für mehr Nachhaltigkeit eingesetzt werden, beispielsweise im Energiesektor oder in der Landwirtschaft. Dafür benötigt man Daten – und Energie. Wie nachhaltig KI selbst ist, legt Autor Eike Kühl in diesem Artikel für ZEIT online dar.
Zum Artikel

Schnittstelle zwischen Computer und Gehirn

Die australische Firma Cortical Labs testet einen Computer mit echten Gehirnzellen. So sollen Computer Aufgaben lösen, die sonst nur mit biologischer Intelligenz gelöst werden können. Und tatsächlich: Der Prototyp mit Gehirnzellen lernt noch schneller als die Algorithmen einer klassischen KI.
Zum Video

KI-Einsatz im Atomkraftwerk

Forschende am Idaho National Laboratory haben „digitale Zwillinge“ von Atomreaktoren entwickelt. Mithilfe dieser virtuellen Abbilder könnte man Störfälle in Zukunft schneller erkennen und beheben. Außerdem soll diese Technologie dazu beitragen, Reaktoren mittels KI effizienter zu steuern.
Zum Video

Therapeut:in KI

Könnte KI zukünftig in der Gesprächstherapie zum Einsatz kommen? Damit beschäftigt sich Ran D. Anbar in seinem Artikel für Psychology Today. KI-Systeme könnten Menschen beispielsweise helfen, die eigenen Gedanken durch gezieltes Nachfragen zu reflektieren.
Zum Artikel

AI systems can assist with translation, predict flight movements, or analyze satellite imagery of flight routes to ensure that sufficient and appropriate aid arrives. However, at borders, intelligent systems can put our human rights at risk, as recent tests of AI-enabled lie detectors show. Should AI be used in border management? Does AI help refugees? And what is the role of science and AI research in the development of such systems? 

Our guests

Professor Dr. Regina Ammicht Quinn is Professor of Ethics at the International Center for Ethics in Science at the University of Tübingen, and spokesperson for the Center. She is also chair of the independent Cyber Valley Public Advisory Board.

Martin Rubin manages the ArrivalAid branch in Stuttgart. ArrivalAid is a non-profit organization that supports people with a history of flight and migration to arrive in Germany. The organization accompanies people in all phases of integration, for example with asylum or job applications, but also in overcoming trauma.

About Direktdurchwahl

The podcast Direktdurchwahl is online on Spotify, Deezer, Amazon Music/Audible as well as Google Podcasts, Apple Podcasts and YouTube. In addition, horads 88.6, the campus radio station for the Stuttgart/Ludwigsburg region, broadcasts the podcast every second Sunday at 14:00.

In our podcast, we clarify what Cyber Valley scientists are researching. We also present what AI can’t do (yet) or where special challenges currently exist in research and development. Our guests don’t talk about unrealistic visions of the future, but about the real questions that arise in their research. We also ask people from the region for their perspective on the complex topic of AI.

Our podcast Direktdurchwahl is one of many formats of Cyber Valley Public Engagement. Cyber Valley wants ethically and socially reflective research in the field of AI. If you would like to stay up to date on new podcast episodes, formats, and events related to the dialogue on AI, sign up for the Public Engagement Newsletter. 

The interview was shortend and edited for the written form. It was held in German. The long version of the interview can be found in the latest episode of our podcast “Direktdurchwahl“. 

Frau Ammicht Quinn, wie wird KI in der Migration aktuell eingesetzt?

Das einfachste Beispiel sind die Smartphones; also Techniken zur Information und Orientierung, aber auch zur Kontrolle der Menschen. Andere Techniken versuchen zum Beispiel Migrationsströme vorherzusagen, um bessere Versorgungen zu gewährleisten. Es gibt Techniken zur Identifikation, wenn Menschen ohne Papiere und ohne Visum einreisen, die Daten der Menschen mit biometrischen Datenbanken abgleichen. Weitere Techniken dienen der Risikoanalyse, zum Beispiel in Form von Lügendetektoren, die momentan an der griechischen Grenze eingesetzt werden.

Sie sprechen von „Techniken“; ich verwende eher den Begriff „intelligente Systeme“. Gibt es für Sie einen Unterschied?

Was für intelligente Systeme gilt, gilt für alle Techniken auch. Nur verschärft sich die Lage mit intelligenten Systemen, weil sie umfassender umgreifen und schwerer zu kontrollieren sind als beispielsweise eine Waschmaschine.

Wie funktioniert der Lügendetektor genau: Die Menschen werden befragt und nebenbei analysiert ein intelligentes System die Sprache oder den Gesichtsausdruck daraufhin, ob diese Person lügt?

Es ist noch komplexer, da die Asylsuchenden am Bildschirm mit einem Avatar sprechen. Je nach Voreinstellung hat dieser Avatar ein freundliches oder ein sehr strenges Gesicht. Menschen auf der Flucht sind häufig Menschen mit traumatischen Erfahrungen, die auf einen solchen Avatar mit viel größerer Nervosität oder größerem Misstrauen reagieren, als wir tun würden. Momentan erkennt dieses System traumatische Reaktionen als Täuschung oder Lüge und empfiehlt diese Menschen für die Rückführung.
 

Eine gesellschaftliche und politische Verantwortung über Menschenleben kann dadurch an Technik abgeben werden.

Das dürfen wir nicht, weder rechtlich noch moralisch. Es dürfen keine Lebensentscheidungen automatisiert und auch nicht teil automatisiert getroffen werden. Und schon gar nicht an Grenzen, wo es tatsächlich oft Entscheidungen über Leben und Tod sind.
 

… wobei das Beispiel der Lügendetektoren zeigt, dass es ja faktisch bereits getestet wird. 

Genau, sie sind entwickelt worden im EU Projekt „iBorderCTRL“. Bereits in der Entwicklungsphase konnte man sich vorstellen, was mit dieser Technik geschieht. Wir müssen nicht nur sorgfältig mit Grenzsituationen umgehen, sondern sorgfältig überlegen, wohin uns unsere Forschungsfreiheit eigentlich führt. Techniken sind in diesem Sinne eben nie neutral, weil Leitvorstellungen, Werte, Normen, Idealbilder in Techniken eingeschrieben sind.
 

Technik wird allerdings häufig damit assoziiert, neutraler, objektiver zu sein als Menschen. Wenn intelligente Systeme an der Grenze zum Einsatz kommen, geschieht dass dann nicht sogar zum Wohle der migrierenden Menschen? Ist die Technik neutraler, als wenn sie auf andere Menschen an Grenzen träfen?

Menschen sind subjektiv und emotional. Nicht mal Schiedsrichter im Fußball sind wirklich neutral. Mit der Neutralität ist es, glaube ich, weder beim Menschen noch in der Technik wirklich weit her. Aber es ist zu einfach, Menschen und Technik gegenüber zu stellen. Denn Technik im Kontext menschlichen Handelns bedeutet immer, dass Technik auch handelt. Wir handeln mit Technik und Technik handelt mit uns. In diesem Kontext sprechen wir von soziotechnischen Systemen. Wir müssen wissen, dass Konflikte über Technik, die wir haben, immer auch gesellschaftliche Konflikte sind.
 

… die wir versuchen, mit Technik zu lösen. Sollte man überhaupt KI an Grenzen einsetzen?

Keine einfache Frage. Die grundsätzlichen Spielregeln sind: Techniken dürfen keine Lebensentscheidungen treffen, nicht automatisiert und auch nicht teil automatisiert, weil dann immer die Gefahr ist, dass der Technik zu viel Objektivität und Wahrheit zugeschrieben wird. Das Zweite ist: Verantwortung darf nicht abgegeben werden. Und das Dritte: Wir brauchen natürlich Techniken in schwierigen Situationen. Wir brauchen Techniken für die Seenotrettung, sonst sterben noch mehr Menschen im Mittelmeer.

Zugleich wissen wir, dass je stärker technisch überwacht bestimmte Migrationsrouten sind, zum Beispiel mit Drohnen, Wärmebildkameras, Bewegungsmeldern oder Herzschlagsensoren, desto riskantere Wege nehmen Menschen. Mir macht das große Sorgen. Wir haben intelligente Systeme, die schnelle, saubere, neutrale Lösungen versprechen. Doch bei dem Versuch, diese Lösungen herzustellen, entstehen zahlreiche Probleme: Diskriminierungen und Menschenrechtsverletzungen. Wir brauchen politische Lösungen, wie wir mit einer mobilen Weltbevölkerung umgehen, und nicht eine Hochrüstung von Grenzen.
 

In Tübingen gab es vor kurzem eine Tagung zu dem Thema Border Regimes. Haben Sie denn den Eindruck, dass KI-Forschende sich der Verantwortung der Wissenschaft bewusst sind?

Das Problem ist, dass wir hier viel Grundlagenforschung machen, bei der schwer vorstellbar ist, wo sie einmal implementiert werden könnte. Ein klassisches Dilemma: Am Anfang einer Forschung könnte man vieles ändern, um ein mögliches Produkt besser zu machen. Wenn man am Ende ist und weiß, wie es aussehen wird, ist es oft zu spät. Cyber Valley versucht, die Gesellschaft früher in den Prozess der Forschung einzubinden und den Dialog zu starten – das müsste noch in viel größerem Maße stattfinden. Wir als Public Advisory Board fragen junge Menschen, die in Cyber Valley Projekte entwickeln, zwei Dinge: Wo in der besten aller möglichen Welten wird ihre Forschung einmal landen und wo in der schlechtesten aller möglichen Welten? Und was können sie jetzt schon tun, um das zu beeinflussen?
 

Und wie sind die Reaktionen drauf?

Manche sagen: Ich mache Forschung; das hat damit doch gar nichts zu tun. Und andere sind sich dessen sehr bewusst.
 

Im Interview mit ArrivalAid kamen ganz pragmatische, praktische Forderungen an die Wissenschaft auf, zum Beispiel bessere Sprachübersetzungssysteme für seltene Sprachen. Fehlt der Wissenschaft der Bezug zu diesen realen Problemen, die gelöst werden sollten?

Es ist völlig klar, dass wir finanzielle und strukturelle Unterstützung brauchen für gemeinwohlorientierte künstliche Intelligenz. Denn ein hoher Anteil der Forschung wird letztendlich für Konsum, Kommerz und Werbezwecke eingesetzt. Und ja, wir brauchen mehr Teilhabe mit anderen, nicht für andere.
 

Sie waren Staatsrätin für interkulturellen und interreligiösen Dialog als parteiloses Mitglied der Landesregierung in Baden Württemberg. Welche Möglichkeiten sehen Sie, dass KI unterschiedliche Kulturen und religiöse Hintergründe migrierender Menschen zusammenbringt?

Tatsächlich ist Sprache hier ein ganz wesentlicher Teil. Eine weitere Idee sind Lernprogramme, die auf die ganz individuellen Bedürfnisse von Menschen zugeschnitten sind. Man könnte sich Augmented oder Virtual Reality Programm vorstellen mit der Frage: Wie fühlt es sich denn für mich an, durch deine Heimat zu gehen? Alles, was Kontakte sowohl in die alte als auch in die neue Heimat, Orientierung und Information befördert, ist gut. Aber letztendlich geht es darum, anderen mit Wohlwollen und Neugier zu begegnen. Das kann am Bildschirm mittels Technik passieren, aber viel besser tatsächlich in der Wirklichkeit.
 

Wie bewerten Sie denn den Einsatz von KI in der Migration: Stehen Sie dem eher hoffnungsvoll oder eher sorgenvoll gegenüber?

Ich stehe dem sorgenvoll gegenüber. Ein Beispiel: Es gab in Afghanistan Polizeibildungsprojekte. Für diese wurden von den Teilnehmer:innen Namen, Bilder, Fingerabdrücke, und Scans hinterlegt. Nun fürchtet man, dass all diese Daten in den Händen der Taliban sind. Wenn jemand einen Behördengang macht, kann das tödlich sein. Was wir uns unter biometrischen Datenbanken als Lösung vorstellen, ist ein extremes Zukunftsrisiko.

Ein anderes Beispiel: Das Bundesamt für Migration und Flüchtlinge benutzt seit 2019 Spracherkennungs- und Dialekterkennungssoftware. Damit soll festgestellt werden, ob die Menschen wirklich daherkommen, woher sie behaupten. Das ist Unsinn. Das System hat eine extrem hohe Fehlerquote, und Sprachgrenzen halten sich nicht an Ländergrenzen. Und: Tübingen hat seit 2019 eine Liste mit Asylbewerbern, die als potenziell gefährlich gelten. Der Landesdatenschutzbeauftragte hat das nun verboten.
 

Das zeigt auch nochmal, warum es wichtig ist, bei dem Thema KI und Migration die ethische Perspektive einzubeziehen.

Die Ethik ist wie ein Stück Archäologie. Was für Werte liegen denn eigentlich einem technischen Vorhaben zugrunde? Sie ist ein Stück Zukunftsforschung mit der Frage: Wie verändert sich die Gesellschaft durch solche technischen Lösungen? Ist das wünschenswert? Und sie ist eine Strukturanalyse. Ethik analysiert, welche Voraussetzungen wir brauchen, um eine wünschenswerte Lösung zu erreichen, beispielsweise welche Regelungen, Zertifikate, Bildungsprogramme oder Teilhabe brauchen wir, um tatsächlich in einer guten technisierten Gesellschaft leben zu können.
 

Bleiben wir zum Abschluss beim ethischen Blick in die Zukunft: Welche KI-Systeme brauchen wir, damit Migration gut gelingen kann? Wo kann Technik eine Lösung bieten?

Wir brauchen tatsächlich intelligente Lösungen für bürokratische Fragen. Wir brauchen intelligente Lösungen für rechtliche Fragen, für sprachliche Fragen zu Bildungsfragen. Wir brauchen auch intelligente Lösungen, um Gerechtigkeit voranzutreiben. Lösungen, in denen nicht Grenzschutz vor Menschenrechte gestellt wird, sondern umgekehrt. Das geschieht bei der Seenotrettung oder in anderen Situationen, wo flüchtende Menschen dringend auf Hilfe angewiesen sind und wir durch Überwachungstechnologien feststellen können, welche Art von Hilfe wie schnell nötig ist. Aber insbesondere für diesen Kontext Flucht, Vertreibung, Migration müssen wir uns bewusst werden, dass solche Systeme nicht nur für Menschen wie mich gebaut werden – weiß, klar als Frau erkennbar, heterosexuell, wohlhabend – sondern tatsächlich für alle Menschen.

ArrivalAid is a non-profit organization that supports people with a history of flight and migration to arrive in Germany. The organization accompanies people in all phases of integration, for example with asylum or job applications, but also in overcoming trauma. The interview was shortend and edited for the written form. It was held in German and the long version can be found in the latest episode of our podcast “Direktdurchwahl”, episode 9: Does AI help refugees?

Welche Rolle spielt KI bei ArrivalAid; nutzt ihr eine KI?

Momentan nutzen wir nichts, was ich als künstliche Intelligenz bezeichnen würde. Wir sind noch relativ analog unterwegs: Wir nutzen beispielsweise keine Software, die permanent in Gesprächen für uns dolmetscht – wobei Google Translator manchmal hilfreich sein kann. 

Nutzen Geflüchtete und Menschen mit Migrationshintergrund als Alltagshelfer neben Übersetzungssytemen auch Navigationssysteme?

Ja, auf jeden Fall. Geflüchtete tippen die Adresse in der jeweiligen Landessprache ein oder nutzen die Spracheingabe, wenn sie Schwierigkeiten mit dem Alphabet oder dem Layout der Tastatur haben, und finden dann einfacher den Weg. Diese Systeme sind eine große Hilfe, wenn Menschen zu uns kommen, die wirklich gar kein Deutsch sprechen oder schreiben. 

Neben dem privaten Gebrauch können intelligente Systeme in der Migration auch bei Behörden, Institutionen und staatlichen Einrichtungen zum Einsatz kommen. Sind die Personen, die zu Ihnen kommen, bei Behörden mit KI in Kontakt gekommen?

Nicht direkt mit KI, aber womit wir täglich konfrontiert sind, sind Themen wie das Speichern von Fingerabdrücken oder maschinell lesbare Ausweise. Das hat Auswirkungen auf das Asylverfahren. Wenn jemand zum Beispiel über Griechenland oder Italien in die EU eingereist, werden Fingerabdrücke in zentralen Systemen gespeichert. Wenn die Behörden in Deutschland sehen, dass ein Treffer vorhanden ist, kommen Fragen auf wie: "Warst du in diesem Land? Hast du dort vielleicht einen Asylantrag gestellt? Und ist Deutschland dann überhaupt zuständig für dein Verfahren?" Wenn nicht, muss die Person wieder zurück. Vor allem in den letzten Jahren ist das für die Menschen zu einer großen Angst geworden, wenn sie einreisen.

Woher rührt denn diese Angst?

Viele Geflüchtete, die zu uns kommen, kommen aus autokratischen Strukturen. Wir in Europa sind eine viel größere Transparenz und eine stärkere Kontrolle der Mächtigen, beispielsweise durch bestimmte Gremien oder investigativen Journalismus, gewöhnt. Das gibt es in vielen Ländern nicht. In Ländern wie dem Irak, Syrien, oder auch China weht ein ganz anderer Wind. Für viele Menschen, die zu uns kommen, ist es ein erlerntes Muster, möglichst nicht aufzufallen. Deswegen wollen viele ihre Daten gegenüber offiziellen Stellen nicht preisgeben. In den Staaten oder Systemen, aus denen die Menschen kommen, kann das nämlich bedeuten, dass man aus willkürlichen Gründen im Gefängnis landet oder noch schlimmere Dinge passieren.

 

Neben dem Speichern der Fingerabdrücke gibt es das System „iBorderCtrl“, eine Art intelligenter Lügendetektor. Auf Grundlage von Videointerviews und von Datenanalysen werden dabei mittels KI Profile von Reisenden oder Geflüchteten erstellt. Dieses System wurde in Ungarn, in Lettland und in Griechenland erprobt. Das EU-Parlament hingegen sieht solche Systeme sehr kritisch und als Gefahr für die Menschenrechte (Quelle). Wie stehen Sie dazu?

Ich habe schon einiges über das System gelesen und würde es gerne im Einsatz sehen. Anscheinend ist die „Trefferquote“ des Systems nicht hoch und die Ergebnisse vorurteilsbelastet. Dunkelhäutige Menschen und Frauen werden häufiger vom System als auffällig markiert als weiße Männer. Das ist in meinen Augen eine Katastrophe. 

Aber grundsätzlich möchte ich technologischen Fortschritt nicht verteufeln. Ich begrüße Systeme, die dazu beitragen, Entscheidungen im Bereich Migration abzusichern oder besser zu machen. Doch dann müssen diese Systeme funktionieren und Abläufe wirklich verbessern. Beim Einsatz von Technik frage ich mich: Was machen die Menschen daraus? Ich habe Angst, dass Grenzpolizist:innen denken könnten, dass die Software die Arbeit an der Grenze besser macht als jeder Mensch und Daten ungeprüft weiterleiten. 

Ein Beispiel dafür, wie KI in der Migration sinnvoll eingesetzt werden kann, ist die Prognose von Fluchtbewegungen. Systeme können mit öffentlich zugänglichen Daten, z.B. zur Stabilität eines Regierungssystems, Vorhersagen über Migration und Fluchtbewegungen treffen. So funktioniert System „Foresight“, das der dänische Flüchtlingsrat mit IBM entwickelt hat. Was halten Sie denn von solchen Systemen?

Das ist ein sehr spannender Ansatz. Könnten wir sicher vorhersagen, aus welchen Ländern oder in welcher Anzahl Geflüchtete zu uns kommen werden, wäre das natürlich für alle eine sehr große Erleichterung. Meine Erfahrung über die letzten Jahre hat gezeigt, dass Migration ein sehr dynamisches Vorhersageumfeld ist. Und ich denke, dass so ein System sicherlich ein wichtiger und guter Ansatz wäre, um weitere Informationen zu bekommen. Ich bezweifle aber, dass das System allein gute Vorhersagen treffen kann. Ich vertraue eher Experten von der UNO oder dem UNHCR, die in den Ländern vor Ort sind und sich austauschen.

Was wünschen Sie sich von der Wissenschaft, was Sie bei der Hilfe für geflüchtete Menschen unterstützen würde?

Das Thema Dolmetschen und Übersetzen ist sehr wichtig für uns. Es wäre hilfreich, eine KI zum Übersetzen zu haben. Denn manchmal kommen Menschen von einem der Termin beim Amt zurück und berichten, dass das Übersetzen nicht funktioniert hat, weil der Dolmetscher zum Beispiel einen anderen Dialekt gesprochen hat. In solchen Fällen ist der menschliche Faktor das Problem. Da wäre es praktisch, eine kleine Box zu haben, die man auf den Tisch stellt und über die man sich in einer Sprache unterhalten kann, die kaum ein Mensch beherrscht, ohne erst einen Termin mit einem Dolmetscher machen zu müssen.

__________________

Weitere Informationen

• Website ArrivalAid 
• Informationen der Europäischen Kommision zum Projekt iBorderCTRL 
• Entschließung des Europäischen Parlaments (2021): Künstliche Intelligenz im Strafrecht und ihre Verwendung durch die Polizei und Justizbehörden in Strafsachen, P9_TA(2021)0405. Zum Dokument (engl.)
• Informationen des dänischen Flüchtlingsrats zum Prognosesystem Foresight. Zum Dokument (engl.)