Oxford-Studie entlarvt: Warum ChatGPT bei echten Patienten scheitert

Häufig gestellte Fragen

Warum versagen KI-Chatbots bei echten Patienten trotz guter Testergebnisse?

Das Problem liegt in der Interaktion: Patienten liefern unvollständige Informationen und verstehen KI-Antworten falsch. Benchmark-Tests mit Multiple-Choice-Fragen bilden diese Kommunikationsprobleme nicht ab. Die Modelle besitzen medizinisches Wissen, können aber nicht strukturiert nachfragen oder Missverständnisse klären.

Sind medizinische KI-Chatbots grundsätzlich ungeeignet für die Patientenberatung?

Nicht grundsätzlich, aber aktuell ja. Spezialisierte Chatbots müssten strukturierte Anamnesen erheben, Notfälle erkennen und transparent ihre Grenzen kommunizieren. Sie bräuchten strenge Regulierung als Medizinprodukt und dürften keine Diagnosen stellen. Solche Systeme existieren noch nicht marktreif.

Welche Risiken entstehen, wenn Patienten ChatGPT für Gesundheitsfragen nutzen?

Nutzer ignorieren bis 73 Prozent der korrekten Diagnosevorschläge oder verstehen sie falsch. In über der Hälfte der Fälle wird die Dringlichkeit unterschätzt. Das kann dazu führen, dass Patienten bei ernsthaften Erkrankungen nicht rechtzeitig ärztliche Hilfe suchen.

Können Schulungen die Kommunikation zwischen Patienten und KI verbessern?

Teilweise. Wie bei der klassischen Internetsuche sind effektive Abfragen und Interpretationen erlernbare Fähigkeiten. Doch selbst medizinische Experten haben laut früheren Studien Kommunikationsprobleme mit Sprachmodellen. Das deutet auf ein grundlegendes Systemdesign-Problem hin.

Wann werden KI-Chatbots im Gesundheitswesen praxistauglich sein?

Nicht in naher Zukunft. Vor einem Einsatz braucht es umfassende Tests mit echten Nutzern, neue Regulierungsrahmen, Haftungsklärung und technische Integration. Qualitätsgeprüfte Chatbots könnten über Krankenkassen angeboten werden – aber nur als optionales Angebot, nie als Zwang.

Quellen: Heise, Bild, Aerzteblatt