Der Einsatz der KI „Palantir“ zur Bekämpfung und Verfolgung von Straftaten ist seit geraumer Zeit umstritten. Inwiefern kann Software dieser Art verfassungskonform genutzt werden? Wir beleuchten dieses Problem in folgendem Beitrag.

Was ist und kann Palantir? 

Palantir ist eine KI des US-Unternehmens Palantir Technologies, welche speziell für die Verwendung durch Sicherheitsbehörden und militärische Einrichtungen entwickelt wurde. Sie unterstützt bei der Datenanalyse und Zusammenfassung, indem das Programm Daten aus diversen Quellen zusammenträgt, sodass mögliche Gefahren oder deren Zusammenhänge zwischen Personen, Orten, Zeiten und Ereignissen schnell aufgedeckt werden können.

Eine Vielzahl von Institutionen in den USA arbeitet bereits zur Ermittlungsbeschleunigung mit Palantir. Doch auch die europäische Grenzschutzagentur Frontex nutzt die KI zur Migrationsüberwachung. In Deutschland wird Palantir derzeit nur durch die Polizeibehörden einiger Bundesländer verwendet. Insbesondere das Land Hessen wurde im Kontext des Projektes „Hessendata“ für den Einsatz von Palantir bekannt: 2023 entschied das Bundesverfassungsgericht allerdings, dass der Gebrauch der Software auf die bis dato erfolgte Art und Weise verfassungswidrig ist.  

Verfassungsrechtliche Kritik

Das Bundesverfassungsgericht stufte die Verwendung von Palantir als teilweise verfassungswidrig ein, da diese einen schwerwiegenden Eingriff in das Grundrecht auf informationelle Selbstbestimmung darstelle. Konkret wurde kritisiert, dass die zugrunde gelegten Rechtsgrundlagen die Eingriffsintensität in ihrem Ausmaß nicht einschränkten. Beispielsweise sei unklar, welche Datenkategorien für eine Auswertung genutzt werden oder ob im System zwischen Daten von Personen unterschieden wird, die im Verdacht der Begehung von Straftaten stehen und Personen, die als Hinweisgeber fungierten und bloß deswegen im System hinterlegt sind. Zwar gebe es grundsätzlich Raum für die Schaffung rechtskonformer Ermächtigungsgrundlagen zum Einsatz automatisierter Datenanalysetools, solche hätten zum Entscheidungszeitpunkt jedoch nicht bestanden.   

Digitale Souveränität der EU

Abseits von der Ausgestaltung angemessener Rechtsgrundlagen ist die Nutzung der Palantir-Software als solche ebenfalls bedenklich. Palantir Technologies pflegt enge Verbindungen zum US-amerikanischen Staatsapparat. Der Einsatz dieser KI durch europäische bzw. deutsche Behörden stellt in Frage, ob eine Gefahr der digitalen Abhängigkeit von den USA geschaffen wird. Essenzielle Bestandteile der IT-Infrastruktur aus dem Ausland zu beziehen und gerade auf den Schutz sensibler Daten geringen Einfluss ausüben zu können, dürfte den Rechtsstaat mindestens enorm belasten. Insbesondere ist in diesem Zusammenhang zu betonen, dass weder Quellcode noch die Funktionsweise der Algorithmen durch staatliche Hand kontrolliert werden. Auf lange Sicht sind somit viele unterschiedliche Szenarien für Grundrechtsverstöße denkbar.  

Ebenfalls spielt der Cloud Act für die Gefährdung der digitalen Selbstbestimmung der EU eine Rolle. Bei diesem handelt es sich um ein US-Gesetz aus dem Jahr 2018, welches US-Behörden zum Zugriff auf Daten berechtigen kann, welche auf Servern außerhalb der USA gespeichert sind, solange die Server von US-Anbietern kontrolliert werden. Daher besteht die reelle Gefahr, dass sensible Daten von EU-Bürgern aufgrund des Cloud Acts sowie der Verwendung von Palantir zu US-amerikanischen Ermittlungsbehörden gelangen, ohne dass die EU hierauf noch Einfluss hat.     

Zukunft von KI zur Kriminalitätsbekämpfung

Der Einsatz von Palantir im deutschen bzw. europäischen Raum dürfte im Hinblick auf rechtsstaatliche und generell datenschutzrechtliche Bedenken schwierig zu rechtfertigen sein. Gleichwohl wäre es illusorisch, auf KI zu Zwecken der Kriminalitätsbekämpfung kategorisch zu verzichten – Straftäter werden dies auch nicht tun. Im Ergebnis wäre die beste Lösung eine europäische KI-Alternative, welche vergleichbare Funktionen anbietet und durch staatliche Autoritätsfiguren kontrolliert wird. Die juristische Ausarbeitung von Ermächtigungsgrundlagen allein kann das Vertrauen in den Rechtsstaat nicht ausreichend schützen.

Können wir Ihnen helfen?

Falls Sie Unterstützung in rechtlichen Fragen oder bei der Umsetzung von Datenschutzmaßnahmen benötigen, stehen wir Ihnen gerne zur Verfügung. Kontaktieren Sie uns telefonisch unter 0511 374 98 150 oder per E-Mail unter kontakt@recht-im-internet.de.