Aufrüstung per Algorithmus: Die neue Dimension der EU-Grenzüberwachung

Im Zeitalter des Techno-Autoritarismus: Warum wir über KI und digitale Überwachung sprechen müssen

Die Nutzung von KI ist weitreichend und erstreckt sich auf alle Lebensbereiche. Worüber nicht viel geredet wird, ist, wie KI für die innerstaatliche Überwachung und Kontrolle an den Grenzen benutzt wird. Die technologischen Möglichkeiten bieten nun so umfangreiche und erweiterte Kapazitäten, dass Massenüberwachung und die Auswertung von Daten kein Problem mehr darstellen. Statt Stacheldraht, Grenzpolizei und hohen Zäunen werden nebenher Maßnahmen im Schatten vorbereitet, um sämtliche Aktivitäten genauestens zu kontrollieren. Große Datenmengen, Algorithmen, Biometrie, Drohnen, KI und Kameras sind heute die neue Grundausstattung, um hilfsbedürftige Menschen an den Grenzen abzuweisen oder gar nicht erst ankommen zu lassen.

Unter dem Deckmantel der nationalen „Sicherheit“ agieren nationale Sicherheitsbehörden und Grenzschutzagenturen wie Frontex am Rande der Legalität und darüber hinaus. Nicht nur betrifft es die Menschen an den Grenzen, sondern auch unsere eigene Zukunft und das Risiko, in eine immer weiter technologieabhängigere Abwärtsspirale zu kommen, in der die Vorstellung des allsehenden „Big Brother“ nicht mehr länger Fiktion ist. Das Problem? Diese Systeme agieren oft im Verborgenen und oft ohne jegliche öffentliche Transparenz. Sie werden an Gruppen getestet und eingesetzt, die nichts davon wissen und nichts von der Technik verstehen, was kategorisch ein Einverständnis ausschließt, bevor überhaupt klare Grundrechtsschutz-Mechanismen eingreifen. Damit verschieben die Akteure ihre beauftragte Verantwortung auf datenbasierte Algorithmen und Maschinen und machen Menschenrechtsverletzungen – wie illegale Pushbacks – für die Öffentlichkeit noch schwerer dokumentierbar.

Als borderline-europe beobachten wir die Entwicklungen an den EU-Außengrenzen seit vielen Jahren vor Ort in Berlin und Palermo, Italien, und setzen uns effektiv dafür ein, dass die Menschen auf die menschenrechtswidrige Behandlung an den EU-Grenzen aufmerksam werden. Um das europäische Grenzregime effektiv zu kritisieren, müssen wir heute auch dort hinschauen, wo Technologie als Werkzeug der Abschottung eingesetzt wird.

Unsere Beitragsreihe: „Aufrüstung per Algorithmus“

In den kommenden Wochen beleuchten wir in einer mehrteiligen Recherche-Serie die Schnittstelle von Künstlicher Intelligenz, Überwachungstechnologie, Grenzpolitik, Migration und Menschenrechten:

• Teil 1: Die gläserne Außengrenze – Drohnen, Sensoren & wie Überwachung illegale Pushbacks unsichtbar macht.
• Teil 2: Eurodac & die Vermessung des Körpers – Biometrie-Erfassung und Datenkraken an den Grenzen.
• Teil 3: Grenzen exportieren per Code – Wie die EU digitale Überwachung in Drittstaaten (Tunesien, Niger etc.) verlagert.
• Teil 4: Der EU AI Act – Das Versprechen von Grundrechtsschutz vs. die Freifahrscheine für Sicherheitsbehörden.
• Teil 5: Geschäft mit der Angst – Die Sicherheitsindustrie, EU-Gelder und das Geschäft mit Grenz-KI.
• Teil 6: KI im deutschen/italienischen Asylverfahren – Sprachanalysen, Handyauslesung und die Schwächen von Algorithmen beim BAMF.
• Teil 7: Die automatisierte Binnengrenze – Predictive Policing, automatisierte Kontrollen & Racial Profiling in Deutschland.
• Teil 8: Konklusion und zukünftige Aussichten – Wie die Zivilgesellschaft mit Open-Source-Tools und Gegenüberwachung zurückschlägt.

Begleitet uns ab dieser Woche jeden Donnerstag auf unserer Website sowie auf unseren Social-Media-Kanälen. Verfolgt die Beiträge, teilt die Analysen und helft uns, Licht in die digitalen Schatten der europäischen Grenzpolitik zu bringen.

Teil 1: Über Land, Meer und Himmel: Wie Drohnen die neuen Grenzen vorantreiben

Anstatt in physische Grenzmauern zu investieren, liegt der Fokus zunehmend auf präventiven Maßnahmen und der zunehmenden Verwischung der EU-Außengrenzen. Welche Auswirkungen hat dies auf die Zukunft, und kommen wir einer techno-orientierten Überwachungsstaatlichkeit immer näher?

25. August 2026

Autor: Christopher Chen

Einleitung

Um diese mehrteilige Serie einzuleiten, wurden einige Gedanken zu ihrer Struktur angestellt. Bei einem derart weitreichenden Thema, das Migrationspolitik, digitale Überwachung, Menschenrechtsverletzungen und vieles mehr umfasst, ist es schwierig, überhaupt einen Ausgangspunkt für die Auseinandersetzung mit diesem gewaltigen Themenkomplex zu finden, der Millionen Menschenleben und enorme Summen für Technologien umfasst. Betrachtet man das Thema jedoch aus einer Insider-perspektive, wird die Struktur durchaus deutlich. Es erscheint am sinnvollsten, mit der Perspektive der unmittelbar Betroffenen zu beginnen: den Geflüchteten.

Wir folgen ihrem Weg bis zur Grenze, wo der Prozess der Datenerhebung und -verarbeitung bereits beginnt, noch bevor sie überhaupt Land betreten, da die Grenzen weit über das hinaus verschoben und ausgeweitet wurden, was sie eigentlich sind. Anschließend werden alle erdenklichen Formen personenbezogener Daten erfasst und für eine spätere Nutzung durch Grenzbehörden und den Staat gespeichert, bis wir schließlich in Deutschland ankommen, einem der führenden europäischen Länder im Bereich der digitalen Überwachung und digitalen Grenzkontrolle. 

Dort können wir den gesamten Hintergrund und die inneren Funktionsweisen dieser techno-geopolitischen Systeme betrachten, bei denen „nationale Sicherheit“ als Verkaufsargument dient – zum einen, um eine stärkere staatliche Autorität zu rechtfertigen, und zum anderen, damit Technologieunternehmen ihre wirtschaftliche Verwertung weiter vorantreiben können, alles unter dem Deckmantel und dem Vorwand technologischer Innovation und Verbesserung.

Drohnen…, Drohnen…, Drohnen sind überall!

Egal, wo man als Geflüchteter aufbricht, um ein besseres Leben und bessere Chancen zu finden, muss man ein Transportmittel wählen, um das gewünschte Ziel zu erreichen. Da die Möglichkeiten begrenzt sind, führen die gängigsten Wege meist über das Meer oder über Land. Die vergangenen Jahre haben gezeigt, dass Staaten und Behörden ihren Fokus zunehmend von einer bloßen Verstärkung traditioneller Grenzkontrollen auf präventive Maßnahmen, technologische Überwachung und die Externalisierung von Grenzkontrollen verlagert haben. (Bundeszentrale für politische Bildung, 2025; Metcalfe et al., 2023).

In der Regel beinhaltet dies den Einsatz hochentwickelter, unbemannter Fahrzeuge wie Drohnen. Ihre technischen Fähigkeiten haben sich in den vergangenen Jahren erheblich weiterentwickelt, insbesondere in Verbindung mit den Fortschritten im Bereich der KI, die sie zunehmend automatisiert und unabhängig machen können.

Laut Christian Kaiser, einem deutschen Drohnenhersteller, der von der Deutschen Welle interviewt wurde, können Formen der Einheitenkoordination, Schwarmformationen und autonome Operationen zunehmend von Leitstellen aus gesteuert oder durch spezifische Prompts automatisiert werden, um Fluchtmuster zu analysieren (Deutsche Welle, n.d.). Die Formen und Gestalten dieser Systeme sind längst nicht mehr durch die technischen Grenzen eingeschränkt, die konventionelle Drohnen traditionell definierten.

Fähigkeiten

Neben Luftüberwachungsplattformen wie der Heron 1 werden unbemannte Luftfahrzeuge zunehmend zur Grenzüberwachung eingesetzt. Frontex hat beispielsweise unbemannte Luftfahrzeuge eingesetzt, um Griechenland bei der Grenzkontrolle und der Überwachung vor der eigentlichen EU-Grenze im östlichen Mittelmeer zu unterstützen. Diese Luftfahrzeuge können mit Wärmebildkameras und Radar ausgestattet sein und Live-Videos sowie andere Informationen in Echtzeit an das Frontex-Hauptquartier übertragen (Bundeswehr, 2019; Frontex, 2022).

Auch aquatische und getarnte stationäre Modelle in Form von Solartürmen oder Felsen werden zunehmend fortschrittlicher und leistungsfähiger bei der Erfassung und Verarbeitung von Daten mithilfe von KI (Heinrich-Böll-Stiftung, 2024). Auf diese Weise wird die Reichweite der Grenzüberwachung bereits ausgeweitet, ohne dass sich die Einsatzkräfte physisch vor Ort befinden müssen, wodurch diese präventiv alarmiert werden können.

KI- und datenbasierte Systeme sind zunehmend in die europäischen Grenzinfrastrukturen eingebettet und ermöglichen die Überwachung, Identifizierung und Vorhersage von Migrationsbewegungen (Bundeszentrale für politische Bildung, 2025; Metcalfe et al., 2023).

Ausgestattet mit Wärmebildkameras, Gesichtserkennung und Software zur Bewegungserkennung können solche Systeme über große Gebiete und mit relativ wenig direkter menschlicher Präsenz eingesetzt werden, wodurch sie zunehmend effiziente Instrumente der Grenzüberwachung darstellen. Diese technologische Infrastruktur kann zudem Praktiken wie Pushbacks oder das Abfangen von Menschen ermöglichen, bevor diese europäisches Territorium erreichen, was erhebliche menschenrechtliche und rechtliche Bedenken aufwirft (Heinrich-Böll-Stiftung, 2024; Metcalfe et al., 2023).

Unter normalen Umständen sind Staaten und Schiffe nach Artikel 98 des UNCLOS und dem SOLAS-Übereinkommen rechtlich verpflichtet, Personen in Seenot Hilfe zu leisten (International Maritime Organization [IMO], 1974; United Nations, 1982). Die Nachfrage richtet sich daher nicht mehr nur auf die Erkennung und Identifizierung von Geflüchteten, sondern zunehmend auch auf deren Abfangen. Die Kombination dieser Fähigkeiten mit KI ermöglicht Echtzeit-Kamerabilder, Radar und Bewegungserkennung und schafft damit die Grundlage für Überwachung lange vor dem Erreichen einer Küste – beginnend in dem Moment, in dem Menschen ein Boot betreten oder ihren ersten Schritt machen.

Die Verschiebung der Grenzen ins Niemandsland

Mit all diesen Fortschritten nehmen Grenzen eine völlig neue Dimension an. Sie sind nicht länger auf Land, Meer oder Himmel beschränkt, sondern erstrecken sich überall dorthin, wo Staaten sie haben wollen – sogar in den digitalen Raum. Die Entwicklung sogenannter „smarter Grenzen“ verbindet zunehmend Überwachungstechnologien, Dateninfrastrukturen, KI und externalisierte Formen der Grenzkontrolle (Metcalfe et al., 2023).

All diese Überwachung wird Migration jedoch nicht vollständig stoppen. Stattdessen kann sie Geflüchtete auf gefährlichere Routen drängen und sie dazu zwingen, größere Risiken einzugehen, wodurch sie ihr Leben gefährden. Die Migrations- und Menschenrechtsanwältin Petra Molnar hat vor den menschenrechtlichen Folgen einer zunehmend technologisierten Grenzkontrolle gewarnt. Auch die Forschung zu Europas smarten Grenzen hebt die Risiken hervor, die durch zunehmend restriktive und technologisch vermittelte Migrationskontrollen entstehen (Deutsche Welle, n.d.; Metcalfe et al., 2023).

Damit stellt sich die Frage: Warum tut die EU das? Die Antwort darauf ist äußerst vielschichtig und wird in den folgenden Teilen weiter behandelt werden, um am Ende hoffentlich eine zufriedenstellende und kontextualisierte Antwort zu liefern. Zunächst kann man es jedoch als eine Art „Nichts sehen, nichts hören“ betrachten.

Wenn Geflüchtete abgefangen werden, bevor sie EU-Territorium erreichen – im Luftraum oder auf hoher See –, verringert sich ihre Möglichkeit, Zugang zum europäischen Asylsystem zu erhalten, erheblich. Dadurch können EU-Mitgliedstaaten einen Teil der Verantwortung für die Migrationskontrolle externalisieren, da die rechtliche und politische Verantwortung schwerer zuzuordnen ist, wenn das Abfangen außerhalb des EU-Territoriums stattfindet (Metcalfe et al., 2023).

Stattdessen wird die Verantwortung zunehmend auf Drittstaaten wie Libyen übertragen, die europäische politische und operative Unterstützung bei der Migrationskontrolle erhalten. Aktuelle Berichte dokumentieren eine zunehmende europäische Zusammenarbeit mit Akteuren im Osten Libyens, während die Vereinten Nationen weit verbreitete und systematische Menschenrechtsverletzungen gegenüber Migranten, Asylsuchenden und Geflüchteten im Land dokumentiert haben (Antoniadis et al., 2026; Office of the United Nations High Commissioner for Human Rights [OHCHR] & United Nations Support Mission in Libya [UNSMIL], 2026). Auf diese Weise können europäische Staaten ihr gutes Image bewahren und sich gewissermaßen „nicht die Hände schmutzig machen“.

Fazit

Drohnen sind zu einem beliebten Instrument für politische Zwecke geworden. Wie im Krieg dominieren Drohnen bei ihren vorgesehenen Einsatzmöglichkeiten und werden den Menschen letztlich schrittweise aus der Gleichung nehmen. In diesem Fall reduzieren sie Menschen auf bloße Bedrohungspunkte auf einem Bildschirm und machen sie für politische Entscheidungsträger unsichtbar, wodurch sie im Vergleich zu anderen Menschen unverhältnismäßig behandelt werden. Zudem kommt hinzu, dass die konstante Präsens und Geräusche Druck und Unbehagen bei den Betroffenen auslöst. 

Im zweiten Teil beschäftigen wir uns damit, was am Boden passiert: wie biometrische Gesichtsscans, Gesichtserkennung und die Erfassung privater Daten bei der Ankunft an der Grenze eingesetzt werden.

Literaturverzeichnis

Antoniadis, N., Lüdke, S., & Haidar, A. (2026, 19. August). How Europe is bowing to a Libyan warlord on migration. DER SPIEGEL.

Bundeswehr. (2019, 13. November). Die Drohne Heron 1 – lautlose Aufklärung aus der Luft. https://www.bundeswehr.de/de/ausruestung-technik-bundeswehr/luftsysteme-bundeswehr/drohne-heron-1

Bundeszentrale für politische Bildung. (2025, 4. September). Artificial intelligence in migration management: Opportunities, challenges, and risks. https://www.bpb.de/themen/migration-integration/kurzdossiers/570380/artificial-intelligence-in-migration-management/

Deutsche Welle. (n.d.). How much can AI improve border control security?

Frontex. (2022, 11. Juli). Frontex deploys unmanned aircraft to support Greece with border control. https://prd.frontex.europa.eu/wp-content/uploads/220711-frontex-deploys-unmanned-aircraft-to-support-greece-with-border-control.pdf

Heinrich-Böll-Stiftung. (2024, 8. August). The hidden border security-industrial complex. https://us.boell.org/en/2024/08/08/hidden-border-security-industrial-complex

International Maritime Organization. (1974). International Convention for the Safety of Life at Sea (SOLAS), 1974. https://www.imo.org/

Metcalfe, P., Dencik, L., Chelioudakis, E., & van Eerd, B. (2023). Risking lives: Smart borders, private interests and AI policy in Europe. Data Justice Lab.

Office of the United Nations High Commissioner for Human Rights, & United Nations Support Mission in Libya. (2026). Business as usual: Human rights violations and abuses against migrants, asylum seekers and refugees in Libya. OHCHR.

United Nations. (1982). United Nations Convention on the Law of the Sea. https://www.un.org/depts/los/convention_agreements/texts/unclos/unclos_e.pdf

Teil 2: Du bist der Pass — Wie biometrische Scans an der Grenze zu einer neuen Form des Profilings werden

Längst sind die Zeiten vorbei, in denen die Erhebung und Verarbeitung personenbezogener Daten ausschließlich von Menschen durchgeführt wurde. Der technologische Fortschritt ermöglicht es heute, den Körper selbst zu einer Landschaft aus Identifikationsmerkmalen werden zu lassen. Wird diese Digitalisierung zu einer immer stärkeren Abhängigkeit von Daten anstelle menschlicher Beobachtung führen?

25. August 2026

Autor: Christopher Chen

Einleitung

Wir folgen in Teil 2 weiter dem Weg der Geflüchteten und erreichen schließlich die Küsten eines europäischen Landes. In dem Moment, in dem wir europäischen Boden betreten, entsteht bereits ein Verdacht im Kopf des Grenzbeamten, der uns sieht. Inder selben Zeit übernehmen Langstrecken-Wärmebildkameras, Bewegungssensoren und weitere intelligente Technologien einen Teil der Erfassung und Bewertung unserer Daten. Diese Informationen können anschließend in digitalen Infrastrukturen gespeichert und für eine weitere Verarbeitung zusammengeführt werden.

Nachdem wir mehrere Tage auf See überlebt haben – ohne ausreichende Nahrung, Wasser oder Sicherheit, während unzählige Drohnen ständig über unseren Köpfen flogen und Menschen auf dem Weg bereits gestorben sind – werden wir unmittelbar als potenzielle ausländische Bedrohung wahrgenommen und entsprechend behandelt. Um mit diesem vermeintlichen Risiko umzugehen, setzt die EU zunehmend auf umfassende biometrische Registrierung und Kategorisierung von Reisenden und Geflüchteten. Dabei entstehen erhebliche Fragen hinsichtlich Datenschutz Einwilligung und möglicher Diskriminierung (Kieran et al., 2019).

Von der Zehe bis zum Kopf, vom Finger bis zum Auge, vom Telefon bis zum Server

Die EU hat über die vergangenen Jahre Milliarden in die Sicherung und Digitalisierung ihrer Grenzen investiert. Diese Entwicklung beschleunigte sich insbesondere im Zuge der Sicherheitsdebatten nach den Terroranschlägen vom 11. September 2001 und besonders in Folge des Syrien – Krieges 2015 (Kieran et al., 2019). Jede mögliche Bedrohung soll möglichst zeit- und kosteneffizient erfasst werden. Dies führt zu einer zunehmenden Abhängigkeit von Technologien zur Grenzkontrolle, die große Mengen personenbezogener Informationen verarbeiten und immer detailliertere Kenntnisse über potenzielle Risiken und Bedrohungen liefern sollen. Der Prozess der Datenerhebung und -verarbeitung ist dabei ebenso komplex wie die politischen Aushandlungen im Hintergrund, durch die versucht wird, die Menge der erhobenen Informationen weiter auszubauen, ohne dabei geltendes nationales oder internationales Recht zu verletzen.

Die Verarbeitung beginnt häufig mit der Erfassung verschiedener biometrischer Merkmale, beispielsweise Fingerabdrücken, Gesichtsbildern, Iris-Scans und – je nach rechtlichem und institutionellem Kontext – weiteren personenbezogenen oder biometrischen Daten. Hinzu kommen Informationen, die auf mitgeführten elektronischen Geräten gespeichert sind. Bereits diese Form der Datenerhebung wirft erhebliche Fragen des Datenschutzes auf. Der menschliche Körper wird gewissermaßen zu einem Datensatz, der auf Grundlage eines möglicherweise generalisierten oder nicht hinreichend belegten Verdachts untersucht wird. Dadurch werden die betroffenen Personen automatisch von regulären EU-Bürgern unterschieden, was die Gefahr von Profiling und Diskriminierung erhöht (Kieran et al., 2019).

In bestimmten Situationen können biometrische Registrierungs- und Identifizierungsverfahren zudem verpflichtend sein. Gerade für Geflüchtete stellt sich dadurch die Frage, wie freiwillig eine Einwilligung tatsächlich sein kann, wenn grundlegende Leistungen oder der Zugang zu Essen und Sanitäranlagen mit einer Registrierung verbunden sind. Wenn gleichzeitig Übersetzungen fehlen oder die technischen Abläufe nicht ausreichend erklärt werden, ist kaum gewährleistet, dass die betroffene Person tatsächlich versteht, was mit ihren Daten geschieht. Damit wird die klassische rechtliche Vorstellung einer freien und informierten Einwilligung erheblich problematisiert (Kieran et al., 2019).

Technologische Möglichkeiten: Von der Überwachung zur automatisierten Erkennung

Die technischen Möglichkeiten reichen inzwischen weit über die klassische Passkontrolle hinaus. In Griechenland wurden beispielsweise KI- unterstützte Systeme wie Hyperion und Centaur eingesetzt, um die lückenlose Überwachung, fließende Datenübermittlung und Zugangs- koordination in und um Flüchtlingsunterkünfte technologisch zu gewährleisten. Hinzu kommen mobile Geräte, die es Polizeikräften ermöglichen, Gesichtserkennung und automatisierte Fingerabdruckidentifizierung auch außerhalb stationärer Kontrollstellen einzusetzen. Auch Italien setzt entsprechende Technologien ein. Ein Beispiel ist SARI (Sistema Automatico di Riconoscimento Immagini), ein automatisiertes Bild- und Gesichtserkennungssystem, das von den italienischen Behörden zur Identifizierung von Personen eingesetzt wird. SARI Enterprise wurde für die nachträgliche Gesichtserkennung eingesetzt, während die Echtzeitvariante SARI Real Time aufgrund fehlender ausreichender Rechtsgrundlage von der italienischen Datenschutzbehörde zunächst nicht freigegeben wurde (Giannini, 2024).

Darüber hinaus wurden im Rahmen europäischer Forschungsprojekte Technologien entwickelt und getestet, die noch weiter gehen. Das EU-finanzierte Forschungsprojekt iBorderCtrl untersuchte beispielsweise Systeme, die mithilfe automatisierter Gesichtsanalyse und weiterer biometrischer bzw. verhaltensbezogener Merkmale die Grenzkontrolle unterstützen sollten (Der Spiegel, 2019). Insbesondere innerhalb von Einrichtungen, in denen Geflüchtete registriert und verarbeitet werden, kann diese Kombination aus Kameras, Sensoren, biometrischen Scans und digitalen Datenbanken ein umfassendes Überwachungsökosystem schaffen. Was ursprünglich als Sicherheits- und Identifizierungsmaßnahme gedacht ist, kann dadurch zunehmend den Charakter eines hochgradig kontrollierten Sicherheitsgefängnisses annehmen.

Die Parallelwelt der Datenbanken  

All diese Maßnahmen sind technisch nur durch umfangreiche digitale Datenbanken und Dateninfrastrukturen möglich, die Informationen speichern, verarbeiten und – soweit rechtlich vorgesehen – interoperabel nutzbar machen. Zu den wichtigsten europäischen Systemen gehören unter anderem SIS II (Schengener Informationssystem), VIS (Visa-Informationssystem), Eurodac, ETIAS (European Travel Information and Authorisation System), EES (Entry/Exit System) und ECRIS-TCN. Diese Systeme erfüllen unterschiedliche Zwecke und erfüllen insgesamt eine wichtige Rolle bei europäischen Grenz-, Reise-, Migrations-, Asyl- und Strafverfolgungsprozessen (Metcalfe et al., 2023).

Durch automatisierte biometrische Abgleichverfahren können Behörden Identitäten überprüfen, indem biometrische Merkmale und andere Identifikatoren mit bereits gespeicherten Datensätzen abgeglichen werden. Dabei können beispielsweise Name, Geburtsdatum, biometrische Merkmale und andere Identifikationsdaten miteinander verknüpft werden. Je nach System und rechtlicher Grundlage können dadurch Informationen über frühere Registrierungen, Reisebewegungen oder den jeweiligen Status einer Person zusammengeführt werden. So entsteht schrittweise eine digitale Identität, die weit über den physischen Grenzübertritt hinausreichen kann – und deren Existenz der betroffenen Person möglicherweise nicht vollständig bewusst ist.

Die Verinnerlichung der Grenze und die Widersprüche des Systems

Diese Entwicklung zeigt, dass sich Grenzen nicht nur – wie bereits im vorherigen Text beschrieben – nach außen verlagern und über ihren physischen Standort hinausreichen. Sie werden gleichzeitig in die Menschen selbst projiziert. Die Person trägt die Grenze gewissermaßen mit sich, wohin sie auch geht. Jeder Teil des Körpers kann systematisch erfasst, kategorisiert und operationalisiert werden, um daraus eine digitale Identität zu erzeugen.

Dadurch besteht die Gefahr, dass Menschen zunehmend nicht mehr als Individuen, sondern als Datensätze und Risikoberechnungen wahrgenommen werden (Metcalfe et al., 2023). Hinzu kommt, dass automatisierte Systeme nicht fehlerfrei arbeiten. Fehlerhafte Identifizierungen, problematische Datenspeicherung und algorithmische Verzerrungen können weitreichende Folgen haben – beispielsweise für die Dauer der Datenspeicherung, behördliche Entscheidungen, Inhaftierungen oder Abschiebungen (Kieran et al., 2019).

Besonders problematisch sind unausgewogene Trainingsdaten: Buolamwini und Gebru (2018) zeigten, dass Gesichtserkennungssysteme bei dunkelhäutigen Frauen deutlich häufiger Fehler machten. Algorithmen können dadurch bestehende Verzerrungen übernehmen und bestimmte Gruppen systematisch schlechter erfassen. Gleichzeitig erschweren proprietäre Systeme privater Unternehmen die Transparenz und Kontrolle. Wenn es zu Fehlidentifizierungen kommt, bleibt daher oft unklar, wer dafür verantwortlich ist und welche rechtlichen Möglichkeiten Betroffene haben (Metcalfe et al., 2023).

Fazit

Letztlich werden diese Technologien in einem komplexen und teilweise unklaren rechtlichen Umfeld an Menschen eingesetzt, die den entsprechenden Verfahren nicht immer vollständig und frei zustimmen können. Gleichzeitig ist für die betroffene Person häufig schwer nachvollziehbar, wann ein Verdacht beginnt, welche Daten daraufhin erhoben werden und wann dieser Prozess endet. Die Möglichkeit, sich gegen eine algorithmische Bewertung zu wehren, bleibt dadurch begrenzt. Das Machtverhältnis verschiebt sich zunehmend zugunsten derjenigen, die über die Daten und die technischen Systeme verfügen. Die betroffene Person hat dagegen nur wenige Möglichkeiten, dieses Ungleichgewicht auszugleichen.

Es entsteht ein Kreislauf einseitiger Kontrolle. Mit der Weiterentwicklung dieser Technologien und der kontinuierlichen Erweiterung der zugrunde liegenden Datenbestände wird die Grenze zunehmend digital, mobil und unsichtbar. Die Vorstellung eines umfassenden techno-überwachten Staates erscheint dadurch nicht mehr ausschließlich als dystopische Zukunftsvision, sondern als eine Entwicklung, deren einzelne Bestandteile bereits heute sichtbar sind in unserer Gesellschaft.

Literaturverzeichnis

Buolamwini, J., & Gebru, T. (2018). Gender Shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of the 1st Conference on Fairness, Accountability and Transparency, 81, 77–91.

Der Spiegel. (2019, 26. Juli). iBorderCtrl: Lügendetektor im EU-Grenzschutzprojekt getestet. DER SPIEGEL.

Giannini, A. (2024, 3. Oktober). Law enforcement and facial recognition technologies in Italy – An activist’s update. Digital Freedom Fund.

Kieran, B., Amorós Cascales, F., Thomi, L., & Veit, M. (2019). Are smart walls smart solutions? The impact of technologically-charged borders on human rights in Europe. Global Campus Human Rights Journal, 3, 173–209. https://doi.org/10.25330/483

Metcalfe, P., Dencik, L., Chelioudakis, E., & van Eerd, B. (2023). Risking lives: Smart borders, private interests and AI policy in Europe. Data Justice Lab.