Das Wichtigste

Eine Datenschutz-Folgenabschätzung ist bei KI-Systemen mit Überwachungspotenzial zwingend erforderlich.
Das System zur Ertrinkungserkennung wurde vor der vollständigen Prüfung in Betrieb genommen.
Der Bremer Datenschutzbeauftragte stoppte das Projekt aufgrund fehlender rechtlicher Grundlagen.

Einordnung

Der Fall zeigt, dass auch technisch sinnvolle Anwendungen an datenschutzrechtlichen Anforderungen scheitern können. KI-gestützte Überwachungssysteme im öffentlichen Raum müssen vor Inbetriebnahme gründlich geprüft werden. Das Bremer Schwimmbad plant eine Nachholung der Folgenabschätzung.

Was das für Sie heisst

Wirkt schon jetzt

Wer KI-Systeme mit Überwachungsfunktion plant, muss frühzeitig eine Datenschutz-Folgenabschätzung durchführen, sonst droht Stillstand.

Wer davon profitiert: Entwickler, die Datenschutz-Vorgaben von Anfang an in ihre KI-Projekte einbauen, vermeiden nachträglichen Reparaturaufwand.

Analyse von KI-Implementierungen auf Einhaltung datenschutzrechtlicher Anforderungen vor Produktivstart.