Zivilgesellschaftliche Organisationen wenden sich gegen die aktuellen Pläne des Bundesinnenministeriums, die KI-gestützte Überwachung der Bevölkerung deutlich auszubauen. Ähnliche Vorhaben waren bereits von der Ampel-Regierung geplant, wurden von Sachverständigen jedoch scharf kritisiert, da bereits damals erhebliche Zweifel an der Vereinbarkeit der geplanten Befugnisse mit höherrangigem Verfassungs- und Europarecht bestanden.
Der offene Brief kritisiert insbesondere die erneut geplante umfassende biometrische Überwachung im Internet und die KI-gestützte Analyse polizeilicher Datenbanken durch private Unternehmen wie Palantir scharf.
Sehr geehrter Herr Bundeskanzler Merz,
sehr geehrter Herr Vizekanzler Klingbeil,
sehr geehrter Herr Bundesminister des Innern Dobrindt,
sehr geehrte Frau Bundesministerin der Justiz Hubig,
der bekannt gewordene Referentenentwurf zur „Stärkung digitaler Ermittlungsbefugnisse in der Polizeiarbeit“ zeigt, dass die Bundesregierung massenhafte biometrische Überwachung sowie KI-gestützte „Superdatenbanken“ einführen möchte.
Konkret sieht der Entwurf zum einen vor, das gesamte öffentliche Internet, insbesondere also auch Social Media-Plattformen und öffentliche Chat-Gruppen, mit den biometrischen Daten gesuchter Personen abzugleichen. Bundeskriminalamt und Bundespolizei sollen diese Befugnis nicht nur zur Bekämpfung von Terrorismus erhalten, sondern als Standardmaßnahme für nahezu alle Tätigkeiten, die in ihren Aufgabenbereich fallen, insbesondere auch zur Identifikation und Aufenthaltsermittlung von Personen, die keiner Straftat verdächtig sind. Gleiches gilt für das Bundesamt für Migration und Flüchtlinge, das dieses Instrument ohne jeden Bezug zu einer Straftat oder einer Gefährdung der öffentlichen Sicherheit zur Feststellung der Identität von Personen nutzen können soll.
Ein solcher Abgleich von biometrischen Daten ist technisch jedoch nur möglich, wenn riesige Gesichtsdatenbanken aller Menschen, die im Internet abgebildet sind, angelegt werden. Solche Gesichtsdatenbanken sind nach Artikel 5 der KI-Verordnung eine verbotene Praxis, da sie Massenüberwachung und umfassende Profilbildung ermöglichen und zu schweren Verstößen gegen Grundrechte, einschließlich des Rechts auf Privatsphäre, führen können. Sie können außerdem zu einem Abschreckungseffekt auf die Grundrechtsausübung führen. So könnten es Menschen etwa vermeiden, Fotos und Videos im Netz zu teilen oder Tätigkeiten nachzugehen, von denen Aufnahmen im Netz veröffentlicht werden könnten.
Wir fordern Sie daher auf, sich gegen jede Form der biometrischen Auswertung des Internets in Deutschland einzusetzen.
Darüber hinaus sieht der Gesetzentwurf vor, es zukünftig Bundespolizei und Bundeskriminalamt zu ermöglichen, automatisiert persönliche Daten aus bisher getrennten Datenbanken in eine „Superdatenbank“ zusammenzuführen und zur Analyse weiterzuverarbeiten. Diese KI-gestützte Auswertung riesiger Datenmengen birgt erhebliche Risiken für Grund- und Menschenrechte. Sie ermöglicht die umfassende Profilbildung von Individuen und beschränkt sich nicht auf Tatverdächtige, sondern umfasst auch Opfer, Zeugen und andere Personen, die zufälligerweise in polizeilichen Datenbanken erfasst sind. Die Nachvollziehbarkeit der Ergebnisse für die Polizeibehörden ist nicht gesichert, wenn private Unternehmen den zugrundeliegenden Code nicht offenlegen und bereits an sich unzureichend nachvollziehbare KI-Elemente integriert sind. Der Einsatz von KI birgt zudem ein hohes Risiko für die Diskriminierung bereits marginalisierter Gruppen der Bevölkerung. Bisherige Gesetzesgrundlagen für solche automatisierten Auswertungen in Hessen und Hamburg sind vor dem Bundesverfassungsgericht gescheitert. Er bringt also erhebliche rechtliche Unsicherheiten mit sich.
Ganz besonders bedenklich ist der laut aktueller Berichterstattung geplante Einsatz von Palantir zur Umsetzung der automatisierten Datenanalysen. Palantir ist eng verbunden mit dem Tech-Milliardär Peter Thiel, der bekennender Anhänger der Trump-Regierung und explizit der Auffassung ist, dass Demokratie nicht mit Freiheit vereinbar sei. Beim Einsatz von Palantir erhält das US-Unternehmen beziehungsweise seine Tochtergesellschaften Zugriff auf alle Daten der Polizeibehörden und kann sie potenziell in die USA übermitteln. Der Einsatz der Software gefährdet daher auch in ganz erheblichem Maße die digitale Souveränität Deutschlands.
Wir fordern Sie auf, sich für den Schutz aller Menschen und das Recht auf ein Leben frei von Massenüberwachung und Kontrolle einzusetzen. Palantir darf nicht in Deutschland eingesetzt werden.
Insgesamt sieht der Referentenentwurf Maßnahmen vor, die in keinem angemessenen Verhältnis zu dem vermuteten Gewinn an Sicherheit stehen. Als Zivilgesellschaft haben wir die Erwartung, dass die Bundesregierung Gesetze vorlegt, die nicht ständig an der Grenze der Verfassungswidrigkeit und des Europarechts – und sogar darüber hinaus – segeln. Solche Gesetze führen nicht nur zu Grundrechtsverletzungen und Überwachung von Unschuldigen, sondern auch zu jahrelanger Rechtsunsicherheit, in der sich die Strafverfolgungsbehörden nicht auf die Rechtmäßigkeit ihrer Instrumente verlassen können. In der Vergangenheit wurde viel Geld und Zeit – beispielsweise bei der Vorratsdatenspeicherung – verloren, die man in die grundrechtskonforme Weiterentwicklung der Strafverfolgungsbehörden hätte investieren können.
Nicht zuletzt im Kontext erstarkender rechtsextremer Parteien muss der Aufbau einer Überwachungsinfrastruktur, wie sie das Gesetzespaket durch biometrische Abgleiche und KI-Datenanalyse vorsieht, verhindert werden. Demokratische Kräfte müssen vielmehr gemeinsam die Möglichkeit des institutionellen Machtmissbrauchs minimieren.
Wir fordern Sie deshalb dazu auf, den aktuellen Entwurf zurückzuziehen und sich stattdessen für grundrechtskonforme Polizeiarbeit und für Rechtsstaatlichkeit einzusetzen.
Mit freundlichen Grüßen
AG KRITIS
AlgorithmWatch
Amnesty International Deutschland
Anoxinon e.V.
Chaos Computer Club
D64 – Zentrum für digitalen Fortschritt
Datenpunks e.V.
Deutsche Aidshilfe
Digitale Freiheit
Digitale Gesellschaft e.V.
Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF)
Humanistische Union e.V.
Innovationsverbund Öffentliche Gesundheit e.V.
kleindatenverein
LOAD e.V. – Verein für liberale Netzpolitik
netzforma* e.V. – Verein für feministische Netzpolitik
Pena.ger, die bundesweite Online-Beratungsstelle für Geflüchtete
Republikanischer Anwältinnen- und Anwälteverein e.V. (RAV)
SUPERRR
Topio e.V.
