Avsnitt
-
Automation Bias. Ein Begriff, den viele noch nie gehört haben – und der trotzdem längst Teil unseres klinischen Alltags ist.
Denn jedes Mal, wenn ein KI-System eine Empfehlung abgibt, passiert etwas ganz Menschliches:
Wir neigen dazu, ihr zu folgen. Selbst dann, wenn unser eigener Blick etwas anderes sagt. 
Nicht aus Bequemlichkeit. Nicht aus Inkompetenz.
Sondern weil unser Gehirn unter Druck genau so funktioniert.
In dieser Folge von “Radiologie: Klartext” geht es um genau dieses Phänomen – und warum es weit mehr ist als ein theoretisches Risiko.
Ich spreche über eine Studie, die wir selbst durchgeführt haben. Über Radiologinnen und Radiologen mit bis zu 15 Jahren Erfahrung, die systematisch falschen KI-Vorschlägen gefolgt sind. Und über eine Fehlerart, bei der Erfahrung plötzlich kaum noch schützt.
Aber es geht nicht nur um Zahlen.
Es geht um Vertrauen.
Um Verantwortung.
Und um die unbequeme Frage: Was passiert mit uns als Fach, wenn wir anfangen, dem System mehr zu glauben als uns selbst?
Kapitel:
00:00 Warum ich damals auf der Bühne angegangen wurde
01:19 Was Automation Bias wirklich ist
02:57 Die Studie – und was sie zeigt
04:25 Der gefährlichste Fehler
05:10 Warum unser Gehirn so reagiert
07:27 KI hilft – aber du lernst nichts
08:19 Wenn KI falsch liegt
09:40 Wer haftet eigentlich?
11:21 Wie du mit KI arbeiten solltest
12:40 Das eigentliche Problem: Deskilling
13:48 Wohin sich die Radiologie entwickelt
🔗 Die Publikation zu Automation Bias, an der ich mitgewirkt habe: https://pubs.rsna.org/doi/10.1148/radiol.222176
🔗 Links zu den anderen erwähnten Publikationen:
Automation Bias Mosier KL, Skitka LJ. Human decision makers and automated decision aids: Made for each other? In: Parasuraman R, Mouloua M (Eds.), Automation and Human Performance. Erlbaum, 1996: 201–220.
Mosier KL, Skitka LJ, Heers S, Burdick M. Automation bias: Decision making and performance in high-tech cockpits. Int J Aviat Psychol 1998; 8(1): 47–63.
Chassagnon G et al. Can incorrect artificial intelligence (AI) results impact radiologists, and if so, what can we do about it? A multi-reader pilot study of lung cancer detection with chest radiography. European Radiology 2023. DOI: 10.1007/s00330-023-09747-1
Bernstein MH et al. Can incorrect artificial intelligence (AI) results impact radiologists, and if so, what can we do about it? A multi-reader pilot study of lung cancer detection with chest radiography. European Radiology 2023. DOI: 10.1007/s00330-023-09747-1
Rezazade Mehrizi MH et al. The impact of AI suggestions on radiologists' decisions: a pilot study of explainability and attitudinal priming interventions in mammography examination. Scientific Reports 2023. DOI: 10.1038/s41598-023-36435-3
Bernstein MH et al. Randomized Study of the Impact of AI on Perceived Legal Liability for Radiologists. NEJM AI 2024/2025. DOI: 10.1056/AIoa2400785
Bundesärztekammer. Stellungnahme „Künstliche Intelligenz in der Medizin." 2025. Verfügbar unter: bundesaerztekammer.de
Mehr Infos & Kurse auf meiner Lernplattform:
🌐 www.lernrad.com
📩 Für Anfragen: [email protected]
⸻
#RadiologieKlartext #Radiologie #AutomationBias #KIinderMedizin #Medizin #Weiterbildung #Radiologe #KünstlicheIntelligenz #Diagnostik #Patientensicherheit #Gesundheitssystem #Radiology #Podcast -
Saknas det avsnitt?
