ChatGPT in der medizinischen Dokumentation – zulässig oder fahrlässig?

• Die Verarbeitung von Patientendaten über chatgpt.com ist nicht zulässig.
• Auch die Eingabe scheinbar anonymisierter Befunde in ChatGPT ist rechtlich heikel und ein datenschutzrechtliches Risiko.
• Zulässige Alternative: ein LLM mit AVV, DSGVO-Konformität und Hosting in der EU/Deutschland, z. B. FasterDoc.

Warum ChatGPT.com für Patientendaten tabu ist

Über die frei zugängliche Website von ChatGPT erhalten Sie keinen Auftragsverarbeitungsvertrag (AVV). Ohne AVV fehlt die rechtliche Grundlage, um personenbezogene Daten zu verarbeiten, erst recht Gesundheitsdaten, die nach DSGVO Art. 9 besonders geschützt sind. Hinzu kommt, dass Inhalte grundsätzlich zur Modellverbesserung genutzt werden können; und selbst wenn Opt-out-Mechanismen existieren, fehlt eine belastbare, vertragliche Zusicherung für den klinischen Einsatz. Neben dem eingegebenen Text entstehen Metadaten wie IP-Adresse, Zeitpunkte und Gerätefingerabdrücke, die Rückschlüsse auf Praxis, Klinik oder geografische Lage erlauben. In Summe macht das die Nutzung von ChatGPT.com für jegliche patientenbeziehbare Informationen unzulässig.