Niederländische DPA stellt mangelnde Vorbereitung von Unternehmen auf Algorithmen und KI fest, wird Leitlinien bereitstellen

Sechzehnhundert Unternehmen wurden am 16. April 2025 von der Autoriteit Persoonsgegevens (AP) befragt. Die Umfrage ergab, dass sich die niederländische Geschäftswelt unzureichend auf den Umgang mit Algorithmen vorbereitet fühlt, die personenbezogene Daten verarbeiten. Die AP wird mit Unternehmen zusammenarbeiten, um Informationen und praktische Tools bereitzustellen. Diese Initiative folgt auf die Feststellung, dass die meisten Unternehmen unsicher sind, ob sie Algorithmen zur Verarbeitung personenbezogener Daten einsetzen, und oft nicht wissen, welche Art von Algorithmen sie verwenden.

Die Umfrageergebnisse zeigen, dass Unternehmen, wenn sie Algorithmen zur Verarbeitung personenbezogener Daten einsetzen, häufig über keine spezifischen Kenntnisse der beteiligten Algorithmentypen verfügen. Unternehmen berichten auch von einem unzureichenden Verständnis der relevanten Regeln und Risiken, die mit der algorithmischen Verarbeitung verbunden sind. Eine erhebliche Abhängigkeit von Lieferanten oder anderen externen Parteien beim Erwerb von Software, die Algorithmen verwendet, beeinflusst die Beschaffungspraktiken und schränkt die Kontrolle über Nutzungsrisiken ein. Die AP wird die Verantwortlichkeiten der Lieferanten prüfen und Leitlinien zur Algorithmenbeschaffung bereitstellen, wobei sie eine kritische Berücksichtigung von Zweck und Risiken während des Kaufprozesses fördert, um nachteilige Folgen für Kunden zu vermeiden.

Nach diesen Erkenntnissen trat die AP mit Unternehmen in Kontakt und identifizierte mehrere nächste Schritte. Die AP plant, mehr praktische Tools zu veröffentlichen und Konsultationen zum verantwortungsvollen Einsatz von Algorithmen durchzuführen, wie die jüngste Konsultation zur Sicherstellung einer sinnvollen menschlichen Intervention bei algorithmischen Entscheidungen. Die AP entwickelt außerdem eine Checkliste, um Unternehmen bei der Verwaltung der Rechte von Personen zu unterstützen, die von algorithmischen Entscheidungen betroffen sind. Die AP wird sich weiterhin mit Unternehmen austauschen, um Best Practices für die Einrichtung und Implementierung von Algorithmen zu sammeln, die personenbezogene Daten verarbeiten.

Die zunehmende Einführung von Systemen der künstlichen Intelligenz (KI) in verschiedenen Sektoren, wie von der Autoriteit Persoonsgegevens (AP) am 16. April 2025 hervorgehoben, stellt Organisationen stets vor die Herausforderung, die Einhaltung des Datenschutzes zu gewährleisten.

Originaltitel: Bedrijfsleven geeft zichzelf onvoldoende voor omgang met algoritmes