EU startet Konsultation zu KI-Transparenzpflichten

Die EU-Kommission startet eine öffentliche Konsultation zu Entwürfen für Transparenzpflichten nach dem AI Act. Damit will sie Leitlinien für Kommunikation und Nachvollziehbarkeit von KI-Systemen im Gesundheitskontext präzisieren.

Was passiert ist

Die Europäische Kommission hat eine Konsultation zu Entwürfen für Leitlinien zu den Transparenzpflichten eröffnet, die sich aus dem AI Act ergeben. Ziel ist es, festzulegen, wie Transparenz im Betrieb von KI-Systemen praktisch umgesetzt werden kann.

Für den Gesundheitssektor ist das relevant, weil Transparenzanforderungen direkt auf die Nutzer- und Patientenseite einzahlen: etwa durch verständliche Informationen zu KI-Nutzungen, Zweckbindung und Erklärbarkeit im Sinne der vorgesehenen Funktionen.

Die Konsultation richtet sich damit nicht nur an Anbieter, sondern auch an Organisationen, die KI im klinischen Alltag einsetzen und die Anforderungen an Information und Dokumentation erfüllen müssen.

Warum das wichtig ist

Transparenz ist im medizinischen KI-Betrieb mehr als ein formales Pflichtfeld. Wenn KI-Entscheidungen oder Empfehlungen in Diagnostik- oder Entscheidungsprozesse eingebunden sind, hängt die Akzeptanz im Team und die Prüfbarkeit im Audit daran, wie konsistent und verständlich die Informationen zum System bereitgestellt werden.

Die geplanten Leitlinien können zudem die Implementierung von Clinical Decision Support (CDS) konkret beeinflussen, etwa durch klarere Vorgaben dazu, was Nutzer wissen müssen, welche Hinweise zu KI-Einsatzfällen gegeben werden und wie Verantwortlichkeiten dokumentiert werden. Für die Branche bedeutet das: Transparenzkonzepte werden voraussichtlich stärker in Produktdesign, Informationsmaterialien und Betriebsanweisungen verankert.

Quellen: European Commission Digital Strategy