Innerhalb einer großangelegten Studie haben Wissenschaftler untersucht, wie die Teilnehmer medizinische Ratschläge beurteilen, die von einer Künstlichen Intelligenz (KI) stammen [1].
In das Experiment wurden über 2.000 Teilnehmer eingeschlossen, die in drei Gruppen unterteilt wurden. Teilnehmer aller Gruppen erhielten dabei identische medizinische Ratschläge. Der ersten Gruppe wurde mitgeteilt, dass alle Ratschläge von einem Arzt stammten, die zweite Gruppe erhielt die Information, dass die Ratschläge von einem KI-basierten Chatbot stammen und die dritte Gruppe wurde darüber informiert, dass die Ratschläge zwar von einem Chatbot stammen, jedoch ärztlich überprüft wurden. Im Anschluss sollten die Teilnehmer die Empfehlungen auf Verlässlichkeit, Verständlichkeit und Empathie überprüfen. Teilnehmer, die davon überzeugt waren, dass ihr medizinischer Ratschlag durch eine Künstliche Intelligenz ausgesprochen wurde (Gruppe 2 und 3), nahmen die Ratschläge als weniger empathisch wahr und waren weniger bereit, diesem Rat zu folgen. „Der Effekt der Voreingenommenheit gegen KI ist zwar nicht riesig, aber statistisch signifikant“, so Moritz Reis, Kognitionspsychologe der Julius-Maximilians-Universität Würzburg. Er erklärt sich das Ergebnis damit, dass viele Menschen davon ausgehen, dass eine Maschine nicht empathisch sein kann. Bezüglich der Beurteilung der Verständlichkeit zeigten die Teilnehmer der drei Gruppen keine Unterschiede. „Empathie wird wahrscheinlich als menschliche Eigenschaft gesehen, während Verständlichkeit als technische Kompetenz gilt“, so M. Reis. Die Ergebnisse sind, so die Wissenschaftler, daher besonders spannend, da die Künstliche Intelligenz in der Medizin eine immer wichtigere Rolle spielt und Menschen dieses Werkzeug in ihrem Alltag immer stärker nutzen werden.
1. Reis M et al (2024) Influence of believed AI involvement on the perception of digital medical advice.
Nat Med https://doi.org/10.1038/s41591-024-03180-7