Rechtliche „Updates“ zu Palantir
Die US-Software, die Sicherheitsbehörden dabei helfen soll, schneller Zusammenhänge zu erkennen und so Straftaten verhindern soll, steht weiterhin in der Kritik. Rechtlich steht Palantir (zumindest teilweise) auf wackligen Beinen.
Palantir und KI
Palantir ist eine US-Software des gleichnamigen Herstellers, die Polizei und Geheimdiensten hilft, große Datenmengen automatisiert zu analysieren, um Verbindungen zwischen Verdächtigen zu finden und Straftaten zu verhindern. Binnen Sekunden sollen potentielle Straftäter aufgespürt werden, indem Künstliche Intelligenz gewaltige Datenmengen aus Social-Media-Inhalten, Bildern, Funkzellenabfragen, Melde- und Vorgangsdaten durchsucht und miteinander verknüpft.
Debattiert wird von Bund und Ländern derzeit über den Einsatz der KI-fähigen Software „Gotham“ der US-amerikanischen Firma Palantir. Sie gilt als weltweit führendes KI-fähiges Instrument zur automatisierten Datenanalyse. Palantir entwickelte sie in enger Zusammenarbeit mit der CIA und anderen US-Behörden.
Fehlende Rechtsgrundlage in Baden-Württemberg
Das Innenministerium in Baden-Württemberg hat im März einen Fünfjahresvertrag mit Palantir für die Nutzung der Software unterzeichnet. Die Kosten liegen bei rund 25 Millionen Euro. Heikel hieran ist die Tatsache, dass es gar keine rechtliche Grundlage für die Nutzung der Software gibt. Anders ist dies beispielsweise in Bayern, wo die bayrische Landesregierung im vergangenen Jahr mit der Änderung des „Polizeiaufgabengesetzes“ (PAG) eine rechtliche Grundlage geschaffen hat. Es erlaubt den bayrischen Polizeibehörden nun das sog. „Data Mining“ – also das automatisierte Zusammenführen und Auswerten großer Datenmengen, so wie Palantir es ermöglicht.
Souveränität oder Effektivität?
Der Einsatz und die Debatte um Palantir betrifft vor allem folgendes Spannungsverhältnis: Die Beschlüsse der Innenministerkonferenz, die alle 16 Länder einstimmig gefasst hatten, hatten als Zielsetzung festgehalten, dass Europa im Sicherheitsbereich unabhängiger von außereuropäischen IT-Anbietern werden müsse. Statt Palantir soll ein gemeinsames System entwickelt werden, das europäische Souveränität gewährleistet. Denn Kritiker warnen insbesondere vor mangelnder Datensicherheit. Neben fehleranfälligen oder diskriminierenden Algorithmen ist problematisch, dass deutsche Sicherheitsbehörden ein System eines privaten Unternehmens mit Sitz in einem Nicht-EU-Staat verwenden und somit möglicherweise nicht mit dem Gebot digitaler Souveränität (= Hoheit des Staates über die von ihm verwendeten informationstechnischen Systeme) vereinbar ist. Das Gebot findet seine verfassungsrechtliche Grundlage im Rechtsstaatsprinzip gemäß Art. 20 Abs. 3 GG und im Grundrecht auf informationelle Selbstbestimmung aus Art. 2 Abs. 1 i.V.m. Art. 1 Abs. 1 GG. Setzt der Staat ein von Dritten entwickeltes KI-System ein, wird in Folge dessen die Kontrolle über das KI-System erschwert.
Diesen Bedenken wird zumeist entgegengehalten, dass die Palantir-Software effektiver als vergleichbare europäische Systeme ist. Dies hat zur Folge, dass mit dem Einsatz die Sicherheit der Bevölkerung umfassender und besser geschützt werden kann als ohne. So sei unter Hinzunahme der Software die Verhinderung eines Terroranschlags laut den Sicherheitsbehörden möglich gewesen, die so ohne die Software nicht möglich gewesen wäre.
Da das Grundgesetz jedoch keine Sicherheit um jeden Preis kennt, sondern stets ein Ausgleich widerstreitender Interessen im Sinn hat, kann die Software und die darin enthaltene Künstliche Intelligenz jedoch nur als Hilfsmittel bei der Ermittlungsarbeit, nicht aber als Entscheidungsabnehmer fungieren.
