ICE in den USA will KI aus der personalisierten Werbung für staatliche Verfolgung einsetzen. Das ist massiver Missbrauch ziviler Datentechnologie. Zweckbindung für KI-Modelle kann genau das verhindern.
https://verfassungsblog.de/von-personalisierter-werbung-zur-staatlichen-verfolgung/
(mit @HannahRuschemeier )
#purposelimitation #AI #ICE
https://purposelimitation.ai
@RainerMuehlhoff @HannahRuschemeier
Das ist IMO der falsche Ansatz. Es gibt auch andere statistische Methoden neben KI, die man dafür einsetzen kann.
Datensparsamkeit muss der Anspruch sein. Denn nur Daten die nicht anfallen, können nicht missbraucht werden.
@Kaesekuchen @RainerMuehlhoff und was machen wir mit den Daten die schon da sind? Wie Datensparsamkeit in der Realität der aktuellen Datenökonomie operationalisierbar machen?
@HannahRuschemeier @RainerMuehlhoff
Löschen lassen. Entsprechende Gesetzgebung, dass das Sammeln und Speichern von Daten von EU-Bürgern einschränkt und dann verfolgen.
@Kaesekuchen @RainerMuehlhoff diese Gesetzgebung gibt es mit der DSGVO. Systemische Durchsetzungsdefizite bestehen u.a. aber auch deshalb weil an einzelne Datenverarbeitungsvorgänge und Datensubjekte angeknüpft wird, die bei Massendatenverarbeitung nicht identifizierbar sind. Deshalb sollte Zweckbindung eine Ebene höher angesiedelt werden, dazu auch unsere diversen papers zu dem Thema
@HannahRuschemeier @RainerMuehlhoff
Die Beweispflicht muss beim Diensteanbieter sein. Wenn dieser z.B. nicht zeigen kann, dass nur Volljährige Erwachsene, die zugestimmt haben, in den Daten sind, dann sind diese Daten komplett zu löschen.
Eine breite Durchsetzung der bestehenden Gesetze ist zu bevorzugen. Strafen bis hin zum Ausschluss aus dem EU-Binnenmarkt.
Wenn weitere Gesetze wer Weg sein sollen, dann sollte persönliche Haftung der Geschäftsführung, Ingenieure zielführender sein.
@Kaesekuchen @RainerMuehlhoff die Durchsetzung bestehender Vorgaben ist definitiv wichtig, kein Dissens. Allerdings hängt effektiver Vollzug von ganz unterschiedlichen Faktoren ab: Rechtsauffassung der Aufsichtsbehörden, Ressourcen, rechtlicher Rahmen, um nur einige zu nennen. Wenn Sie sich die Forschung zur DSGVO Umsetzung anschauen, hatte die Höhe der Bußgelder bisher wenig Auswirkungen auf die Compliance. Eine Ausschluss von europäischen Binnenmarkt ist komplex, da Sie faktisch unterschiedliche Akteure einbeziehen müssen, die datenschutzrechtlich nicht verantwortlich sind. Auch die Durchsetzung von Löschpflichten nach der DSGVO erfordert eine Identifizierung des Datenverarbeitungsvorgangs und der betroffenen Subjekte, das in der Breite umzusetzen ist schlicht nicht mehr möglich.
Jul 1, 2026, 7:16 AM@RainerMuehlhoff @HannahRuschemeier Dara habe ich erhebliche Zweifel. Spätestens wenn man eine Regierung wie der derzeitige in den USA hat oder einen Innenminister - nennen wir ihn mal Dobrindt - die geltendes Recht eher als unverbindliche Vorschläge interpretieren, wird's schwer. Datensparsamkeit, Anonymisierung, kurze Retention und v.a. deren strikte Durchsetzung beim Verantwortlichen halte ich für den besseren Weg. Daten, die nicht da sind, kann man nicht missbrauchen.
@falk @RainerMuehlhoff gute Punkte, wir haben aber ja massive Datenbestände die existieren und aus denen auch weiterhin neue Daten abgeleitet werden können. Das Szenario das jede Regierung Regeln missbrauchen kann ist kein Gegenargument gegen rechtliche Regulierung.
Jul 9, 2026, 1:11 PM@HannahRuschemeier @RainerMuehlhoff Nein, ganz im Gegenteil. “Die wissen sowieso schon viel" ist keine Rechtfertigung dafür, jetzt auch alles Weitere hinzunehmen.
@falk @RainerMuehlhoff genau, deswegen schlagen wir ja Zweckbindung für KI Modelle vor. Das schließt Einschränkungen bei der Datenneuerhebung, Datensparsamkeit etc. ja keinesfalls aus.
Jul 9, 2026, 1:27 PM@HannahRuschemeier @RainerMuehlhoff Missverständnis: ich bin nicht contra Regulierung, im Gegenteil. Ich bezweifle nur, dass das allein trägt, weil wir auf die typischerweise US-basierten KI-Unternehmen schlicht keinen Durchgriff haben (oder warum schaffen wir es nicht, Meta & co. sinnvoll zu regulieren?) und - siehe akt. Rechtsprechung (EuGH Urteil vom 18.06.2026 - C-484/24) diese Daten trotz illegaler Erhebung voraussichtlich trotzdem genutzt werden dürften und würden.
@falk @RainerMuehlhoff wir haben imho gute Regulierungsinstrumente im Datenschutz, Durchsetzung hängt aber von diversen Faktoren ab, u.a. auch vom politischen Willen. Unser Vorschlag ergänzt die bestehenden Vorgaben aber sinnvoll, weil wir Datenverarbeitungen haben die erlaubt, aber kontrollierbar sein müssen. Wie zB für öffentlich finanzierte med. Forschung, dazu unsere paper.
Das erwähnte EuGH Urteil ist mE nach eine Sonderkonstellation, welche die MS in ihren VerfahrensO regeln können und sollen