Am 2. Juni 2026 berichtet „Le Canard enchaîné“, dass Doctolib Informationen seiner Nutzer an große US-amerikanische KI-Unternehmen – Microsoft, Google und Anthropic – weiterleitet und dass diese Daten zum Trainieren von Modellen verwendet würden. Das Unternehmen bestreitet dies entschieden: Die von seinem Assistenten verarbeiteten Notizen fließen nicht in das Training ein, die Verarbeitung erfolgt isoliert. Im Mittelpunkt der Angelegenheit steht ein 2024 eingeführtes Tool, das 79 Euro pro Monat kostet und das die Konsultation mithört, transkribiert und in weniger als fünfzehn Sekunden eine Zusammenfassung erstellt. Eine halbe Million Ärzte nutzt die Plattform.

Lassen wir das Gericht einmal beiseite. Wer beim Training der Modelle Recht hat, wird anhand der Fakten entschieden, nicht aufgrund von Empörung. Das Thema, das uns interessiert, liegt woanders und überdauert die Antwort von Doctolib, wie auch immer diese ausfallen mag.

Hinter dem Arzt steht eine Warteschlange

Die ärztliche Schweigepflicht stellt man sich als ein persönliches Gespräch vor. Der Patient, der Arzt, eine geschlossene Tür. Die Realität gleicht einer russischen Matroschka-Puppe. Hinter dem Arzt steht der Softwarehersteller. Hinter dem Hersteller der Cloud-Anbieter. Hinter dem Cloud-Anbieter der Anbieter des KI-Modells. Und hinter jedem von ihnen stehen wiederum ihre eigenen Subunternehmer. Jede Ebene ist eine Schachtel, die man öffnet, um eine weitere darin zu finden.

Ein Sprechstundenassistent, der mitschreibt und zusammenfasst, lässt das Ganze nicht auf dem Praxiscomputer laufen. Er stützt sich auf Modelle, die von US-amerikanischen Akteuren bereitgestellt werden. Das hinter verschlossenen Türen geführte Gespräch durchläuft also eine technische Kette, deren Glieder und Rechtsordnungen dem Arzt, der doch für die Wahrung des Arztgeheimnisses verantwortlich ist, unbekannt sind. Die öffentliche Debatte hat ausnahmsweise einmal die richtige Frage gestellt: Wer kontrolliert technisch gesehen die Gesundheitsdaten, wenn KI in die Praxis Einzug hält?

Das Gütesiegel deckt das Regal ab, nicht die Steckdose

Als Gegenmaßnahme wird häufig die Zertifizierung angeführt. Host für Gesundheitsdaten, Einhaltung der DSGVO, Verarbeitung in Europa. All das gibt es, all das ist wichtig, und nichts davon reicht aus. Die HDS-Zertifizierung regelt das Hosting. Sie sagt nichts darüber aus, unter welcher Gerichtsbarkeit die Modellinferenz erfolgt, noch wer morgen gezwungen werden könnte, das offenzulegen, was er verarbeitet hat.

Genau hier liegt die Abhängigkeit. Der US-amerikanische CLOUD Act ermächtigt die US-Behörden, von einem US-Unternehmen die Daten zu verlangen, die es besitzt, unabhängig davon, wo diese gespeichert sind. Verschlüsselung, Isolierung und ein konformer Vertrag verringern das Risiko, beseitigen es jedoch nicht, wenn die Technologie und das Unternehmen, das sie betreibt, ausländischem Recht unterliegen. Auf dem Papier steht „Ja“. Der Zugriff bleibt für jemand anderen möglich.

Weder verbieten noch die Augen verschließen

Um es klar zu sagen: Der Beratungsassistent leistet einen echten Dienst. Die Zeit, die beim Papierkram eingespart wird, weiß ein Arzt zu schätzen. Es geht nicht darum, KI in der Praxis zu verbieten oder zu verkünden, dass ein französisches Tool ausreicht, um irgendetwas zu schützen. Es geht darum, die gesamte Kette zu betrachten und in voller Kenntnis der Sachlage zu entscheiden: Welche Daten, für welchen Zweck, von wem verarbeitet, nach welchem Recht ausgeführt und letztendlich von wem einklagbar.

Die Souveränität über Gesundheitsdaten lässt sich nicht an der Nationalität der Anwendung ablesen, die man öffnet. Sie zeigt sich in der russischen Matroschka-Puppe, bis hin zur letzten Schachtel. Solange man nicht alle Schachteln geöffnet hat, schützt man kein Geheimnis. Man vertraut, was nicht dasselbe ist.

Quellen