Folge 6: Tödliche Therapie per KI

Kann eine Maschine menschliches Leid lindern, wenn sie es nicht verstehen kann? Die Verbreitung von Therapie-Bots und medizinischen KI-Assistenten verspricht Effizienz, birgt aber massive ethische Risiken. Basierend auf der aktuellen Stellungnahme des Deutschen Ethikrats diskutieren wir die Gefahr, menschliche Verantwortung an emotionslose Systeme abzugeben.

Die Themen dieser Folge:

• Simulierte Empathie: Warum die emotionale Bindung an Chatbots auf einer gefährlichen Illusion beruht.

• Das "Chinesische Zimmer": Ein Gedankenexperiment, das zeigt, dass KI Regeln befolgt, ohne den Inhalt zu begreifen.

• Automation Bias: Warum Ärzte und Therapeuten dazu neigen, falschen KI-Ratschlägen blind zu vertrauen – mit potenziell tödlichen Folgen.

• Deskilling: Wie die Abhängigkeit von Technologie dazu führt, dass essenzielle menschliche Fähigkeiten in der Diagnostik verkümmern.

Eine kritische Auseinandersetzung mit der Frage, wo die rote Linie beim Einsatz von Künstlicher Intelligenz in der psychischen und physischen Gesundheit gezogen werden muss.