Disparate Datenschutzrisiken bei medizinischer KI
Eine Studie zeigt, dass Datenschutzrisiken medizinischer KI-Systeme je nach Modell- und Nutzungskontext stark variieren können.
Medizinische KI ist nicht automatisch „datenschutzfreundlich“: Eine neue Arbeit weist darauf hin, dass die Risiken für Betroffene je nach KI-Setup deutlich auseinandergehen können.
Was passiert ist
Die peer-reviewte Studie „Disparate privacy risks from medical AI“ untersucht, wie sich Datenschutzrisiken medizinischer KI-Systeme in unterschiedlichen Szenarien unterscheiden. Der Fokus liegt dabei auf der Frage, welche konkreten Mechanismen zu abweichenden Schutzbedarfen führen.
Die Autorinnen und Autoren argumentieren, dass Datenschutz nicht als einheitliche Eigenschaft betrachtet werden sollte, sondern als Ergebnis aus Modellverhalten, Datenlage und Einsatzkontext. Daraus folgt laut Studie, dass ein „One-size-fits-all“-Ansatz in Datenschutzbewertungen zu kurz greifen kann.
Warum das wichtig ist
Für das Gesundheitswesen bedeutet das: Datenschutzprüfungen und Auflagen sollten stärker auf konkrete Risikoprofile der jeweiligen KI-Anwendung ausgerichtet werden, statt sich nur an allgemeinen technischen Kategorien zu orientieren. Das betrifft insbesondere Clinical Decision Support, wenn Modelle in Workflows integriert werden und dadurch zusätzliche Angriffspunkte für Re-Identifikation oder unerwünschte Informationsabflüsse entstehen können.
In der Praxis heißt das auch: Einkauf, IT-Security und Compliance müssen Datenschutz als fortlaufende Bewertung verstehen, nicht als einmalige Freigabe. Gerade bei KI in der Medizinischen Bildgebung und anderen datenintensiven Anwendungen können Unterschiede im Trainings- und Inferenzbetrieb zu sehr unterschiedlichen Datenschutzfolgen führen.
Quellen: PubMed