Mensch-KI-Zusammenarbeit in klinischen Pfaden: Überblick
Eine Scoping Review bündelt empirische Studien zur Human-AI-Collaboration in klinischen Workflows und zeigt, wie sich Mensch-Maschine-Interaktion in echte Pfade einbettet.
Klinische KI wird zunehmend als Teamleistung mit Menschen beschrieben. Eine aktuelle Scoping Review ordnet empirische Studien zur Human-AI-Collaboration entlang realer klinischer Pfade.
Was passiert ist
Die Studie „Human-AI Collaboration in Healthcare: A Scoping Review“ sichtet empirische Arbeiten zur Zusammenarbeit von Menschen und KI in klinischen Pfaden. Der Fokus liegt dabei auf der Mensch-Maschine-Interaktion und der Einbettung in den klinischen Kontext.Human-AI Collaboration in Healthcare: A Scoping Review
Die Review unterscheidet Beiträge nach ihrem klinischen Einsatzszenario und danach, wie Verantwortlichkeiten zwischen Behandlern und KI-Systemen aufgeteilt werden. Damit adressiert sie weniger die reine Modellleistung, sondern stärker die Frage, wie Entscheidungen in Teams zustande kommen.Human-AI Collaboration in Healthcare: A Scoping Review
Warum das wichtig ist
Für das Gesundheitswesen verschiebt sich der Bewertungsmaßstab von „funktioniert das Modell?“ zu „funktioniert das Zusammenspiel?“. Human-AI-Collaboration ist besonders relevant für Clinical Decision Support, weil sich Akzeptanz, Verantwortungszuweisung und Fehlerkaskaden direkt aus dem Workflow ergeben.
Die Ergebnisse sind auch für KI-Ethik praktisch: Wenn Rollen und Übergaben im klinischen Pfad nicht klar sind, steigt das Risiko für Fehlentscheidungen durch Overreliance, fehlende Nachvollziehbarkeit oder unpassende Eskalationswege. Für Krankenhäuser und Hersteller bedeutet das, Implementierungen stärker als soziotechnische Systeme zu planen und zu prüfen, nicht nur als technische Integrationen.
Quellen: Human-AI Collaboration in Healthcare: A Scoping Review