KI und Datenschutz in der Arztpraxis sind untrennbar miteinander verbunden. Während künstliche Intelligenz neue Möglichkeiten zur Unterstützung medizinischer und administrativer Arbeitsprozesse eröffnet, entstehen gleichzeitig Fragen hinsichtlich der Verarbeitung vertraulicher Informationen, der medizinischen Qualität und der ärztlichen Verantwortung. Gerade im Gesundheitswesen gelten aufgrund der besonderen Sensibilität medizinischer Informationen erhöhte Anforderungen an den Einsatz digitaler Technologien.
Für Ärztinnen und Ärzte stellt sich deshalb nicht nur die Frage, welche Aufgaben künstliche Intelligenz übernehmen kann. Ebenso wichtig ist es, unter welchen technischen, rechtlichen und organisatorischen Voraussetzungen entsprechende Anwendungen eingesetzt werden dürfen. Der professionelle Umgang mit KI erfordert daher neben medizinischer Fachkompetenz auch ein grundlegendes Verständnis des Datenschutzes, der Informationssicherheit und der Grenzen automatisierter Entscheidungsunterstützung.
Inhaltsverzeichnis anzeigen
- Datenschutz als Voraussetzung für den professionellen KI-Einsatz
- Das Schweizer Datenschutzgesetz
- Das ärztliche Berufsgeheimnis
- Was sind besonders schützenswerte Gesundheitsdaten?
- Anonymisierung und Pseudonymisierung
- Was geschieht mit den eingegebenen Informationen?
- Cloudbasierte und lokal betriebene KI-Systeme
- Auswahl einer geeigneten KI-Anwendung
- Patienteninformation und Einwilligung
- KI-gestützte Aufzeichnung ärztlicher Konsultationen
- Künstliche Intelligenz als Medizinprodukt
- Ärztliche Verantwortung und Haftung
- Qualitätskontrolle und medizinische Dokumentation
- Ethische Aspekte künstlicher Intelligenz
- Typische Situationen aus dem ärztlichen Alltag
- Was tun bei einer Datenschutzverletzung?
- Checkliste für den KI-Einsatz in der Arztpraxis
- Fazit
- Weiterführende Beiträge
- Literatur und rechtliche Grundlagen
Datenschutz als Voraussetzung für den professionellen KI-Einsatz
Die Einführung künstlicher Intelligenz in medizinische Arbeitsprozesse ist nicht ausschliesslich eine technische Herausforderung. Sie betrifft gleichzeitig unterschiedliche Bereiche der ärztlichen Tätigkeit, die jeweils eigenständige Anforderungen stellen.
So kann eine KI-Anwendung datenschutzrechtlich geeignet sein, ohne eine ausreichende medizinische Qualität zu gewährleisten. Umgekehrt kann ein leistungsfähiges diagnostisches System unter bestimmten Bedingungen die datenschutzrechtlichen Voraussetzungen für seinen Einsatz nicht erfüllen.
Für eine differenzierte Beurteilung ist deshalb ein grundlegendes Verständnis der verwendeten Technologie erforderlich. Die entsprechenden Grundlagen werden in den Beiträgen Was ist künstliche Intelligenz? und Grosse Sprachmodelle – Large Language Models (LLMs) ausführlich dargestellt.
Vier Säulen eines verantwortungsvollen KI-Einsatzes
01 – Datenschutz
Rechtmässige, transparente, verhältnismässige und zweckgebundene Verarbeitung personenbezogener Informationen.
02 – Informationssicherheit
Schutz medizinischer Informationen vor unberechtigtem Zugriff, unzulässiger Veränderung und Verlust sowie Gewährleistung ihrer erforderlichen Verfügbarkeit.
03 – Medizinische Qualität
Fachliche Zuverlässigkeit, klinische Eignung und Überprüfbarkeit der erzeugten Ergebnisse.
04 – Ärztliche Verantwortung
Bewahrung der ärztlichen Entscheidungsfähigkeit, Wahrung des Berufsgeheimnisses und Erfüllung der ärztlichen Sorgfaltspflichten.
Eigene didaktische Darstellung zentraler Voraussetzungen für den professionellen Einsatz künstlicher Intelligenz im Gesundheitswesen. Keine formale rechtliche oder regulatorische Klassifikation.
Erst die gemeinsame Berücksichtigung dieser vier Bereiche ermöglicht eine umfassende Beurteilung der vorgesehenen Anwendung. Dabei müssen sowohl das verwendete System als auch der konkrete medizinische Arbeitsprozess betrachtet werden.
Eine technische Sicherheitsmassnahme kann beispielsweise das Risiko eines unberechtigten Datenzugriffs reduzieren, ohne gleichzeitig die medizinische Richtigkeit der generierten Ergebnisse zu verbessern.
Ebenso wenig lässt sich aus einer hohen medizinischen Leistungsfähigkeit eines Systems ableiten, dass sämtliche datenschutzrechtlichen und berufsrechtlichen Voraussetzungen erfüllt sind.
Die unterschiedlichen Anwendungsmöglichkeiten und die damit verbundenen medizinischen Anforderungen werden im Beitrag Künstliche Intelligenz in der Hausarztpraxis näher erläutert.
Das Schweizer Datenschutzgesetz
Die Bearbeitung personenbezogener Informationen durch private Arztpraxen unterliegt in der Schweiz insbesondere dem Bundesgesetz über den Datenschutz (DSG, SR 235.1). Das vollständig revidierte Datenschutzgesetz trat am 1. September 2023 in Kraft [1].
Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) weist darauf hin, dass auch KI-gestützte Datenbearbeitungen unmittelbar vom Datenschutzgesetz erfasst werden [2]. Die Verwendung einer neuen Technologie entbindet somit nicht von den bestehenden datenschutzrechtlichen Verpflichtungen.
Das Schweizer Datenschutzgesetz verwendet den Begriff der Datenbearbeitung. Dieser umfasst unterschiedliche Formen des Umgangs mit Personendaten, beispielsweise deren Beschaffung, Speicherung, Verwendung, Veränderung, Bekanntgabe und Löschung.
Hierzu können auch die Eingabe medizinischer Informationen in ein Sprachmodell, das Hochladen von Dokumenten und die Speicherung personenbezogener KI-generierter Ergebnisse gehören.
Zentrale Grundsätze der Datenbearbeitung
| Grundsatz | Bedeutung beim KI-Einsatz |
|---|---|
| Rechtmässigkeit | Die Datenbearbeitung muss mit der geltenden Rechtsordnung vereinbar sein. |
| Verhältnismässigkeit | Es sollen nur diejenigen Informationen bearbeitet werden, die für die jeweilige Aufgabe erforderlich sind. |
| Zweckbindung | Personendaten dürfen nur zu einem bestimmten und für die betroffene Person erkennbaren Zweck beschafft und grundsätzlich nur in einer mit diesem Zweck vereinbaren Weise weiterbearbeitet werden. |
| Transparenz | Die Datenbearbeitung muss für die betroffenen Personen entsprechend den gesetzlichen Anforderungen nachvollziehbar sein. |
| Richtigkeit | Es müssen angemessene Massnahmen getroffen werden, um unrichtige oder im Hinblick auf den Bearbeitungszweck unvollständige Personendaten zu berichtigen, zu löschen oder zu vernichten. |
| Speicherbegrenzung | Personendaten sind zu vernichten oder zu anonymisieren, sobald sie für den Bearbeitungszweck nicht mehr erforderlich sind. Gesetzliche Aufbewahrungspflichten müssen berücksichtigt werden. |
| Datensicherheit | Geeignete technische und organisatorische Massnahmen müssen ein dem jeweiligen Risiko angemessenes Schutzniveau gewährleisten. |
Vereinfachte redaktionelle Darstellung ausgewählter Grundsätze des Schweizer Datenschutzgesetzes, insbesondere der Artikel 6 bis 8 DSG sowie der gesetzlichen Informationspflichten [1].
Besonders relevante Bestimmungen
Für die Auswahl und Verwendung künstlicher Intelligenz in der Arztpraxis sind unter anderem folgende Bestimmungen von Bedeutung:
- Art. 5 DSG: Begriffsbestimmungen und besonders schützenswerte Personendaten.
- Art. 6 DSG: Grundsätze der Datenbearbeitung.
- Art. 7 DSG: Datenschutz durch Technikgestaltung und datenschutzfreundliche Voreinstellungen.
- Art. 8 DSG: Datensicherheit.
- Art. 9 DSG: Bearbeitung durch Auftragsbearbeiter.
- Art. 16 und 17 DSG: Bekanntgabe von Personendaten ins Ausland.
- Art. 19 DSG: Informationspflicht bei der Beschaffung von Personendaten.
- Art. 21 DSG: Automatisierte Einzelentscheidungen.
- Art. 22 DSG: Datenschutz-Folgenabschätzung.
- Art. 24 DSG: Meldung von Verletzungen der Datensicherheit.
- Art. 30 und 31 DSG: Persönlichkeitsverletzungen und mögliche Rechtfertigungsgründe.
Je nach Trägerschaft einer medizinischen Einrichtung können zusätzlich oder anstelle des Bundesdatenschutzrechts kantonale Datenschutzbestimmungen zur Anwendung gelangen. Der vorliegende Beitrag orientiert sich primär an privat geführten Schweizer Arztpraxen.
Rechtmässige Datenbearbeitung und Einwilligung
Bei der Anwendung des Schweizer Datenschutzgesetzes ist zu berücksichtigen, dass sich die rechtliche Systematik teilweise von jener der europäischen Datenschutz-Grundverordnung (DSGVO) unterscheidet.
Für private Verantwortliche besteht nach Schweizer Datenschutzrecht nicht grundsätzlich die Verpflichtung, für jede einzelne Datenbearbeitung einen gesonderten Rechtfertigungsgrund nachzuweisen.
Allerdings müssen die gesetzlichen Bearbeitungsgrundsätze eingehalten werden. Liegt eine Persönlichkeitsverletzung vor, beispielsweise infolge einer unzulässigen Bekanntgabe besonders schützenswerter Personendaten, ist zu beurteilen, ob ein gesetzlich vorgesehener Rechtfertigungsgrund besteht.
Als mögliche Rechtfertigungsgründe kommen insbesondere die Einwilligung der betroffenen Person, ein überwiegendes privates oder öffentliches Interesse oder eine gesetzliche Grundlage in Betracht.
Ist eine Einwilligung erforderlich, muss diese den gesetzlichen Anforderungen entsprechen. Bei der Bearbeitung besonders schützenswerter Personendaten muss die erforderliche Einwilligung ausdrücklich erfolgen.
Unabhängig davon sind die Anforderungen des ärztlichen Berufsgeheimnisses gesondert zu berücksichtigen.
Privacy by Design und Privacy by Default
Datenschutz sollte bereits bei der technischen Gestaltung eines Systems berücksichtigt werden. Beispielsweise können Zugriffsbeschränkungen, eine kontrollierte Datenspeicherung und die Begrenzung der bearbeiteten Informationen von Beginn an Bestandteil einer KI-Anwendung sein.
Darüber hinaus müssen geeignete Voreinstellungen eine möglichst datenschutzfreundliche Nutzung ermöglichen. Beide Prinzipien werden als Privacy by Design beziehungsweise Privacy by Default bezeichnet.
Für die Arztpraxis bedeutet dies unter anderem, dass nicht erst die einzelnen Anwenderinnen und Anwender bei jeder Verwendung eines Systems für sämtliche datenschutzrelevanten Einstellungen verantwortlich sein sollten.
Vielmehr sollten zentrale organisatorische und technische Schutzmassnahmen bereits im Rahmen der Einführung der jeweiligen Anwendung festgelegt werden.
Hierzu können beispielsweise beschränkte Benutzerberechtigungen, verbindliche Vorgaben zur Datenbearbeitung, kontrollierte Speicherfristen und die Deaktivierung nicht benötigter Funktionen gehören.
Merksatz: Datenschutz beginnt nicht erst bei der Eingabe medizinischer Informationen in eine KI-Anwendung, sondern bereits bei der Auswahl, Konfiguration und organisatorischen Einführung des Systems.
Das ärztliche Berufsgeheimnis
Neben dem Datenschutzgesetz stellt das ärztliche Berufsgeheimnis gemäss Art. 321 des Schweizerischen Strafgesetzbuches (StGB) eine zentrale rechtliche Grundlage für den Umgang mit vertraulichen Patienteninformationen dar [3].
Die Verpflichtung zur Verschwiegenheit betrifft nicht nur Diagnosen und medizinische Befunde. Auch andere im Rahmen der ärztlichen Tätigkeit bekannt gewordene vertrauliche Informationen können dem Berufsgeheimnis unterliegen.
Hierzu kann beispielsweise bereits die Tatsache gehören, dass sich eine bestimmte Person in ärztlicher Behandlung befindet.
Datenschutz und Berufsgeheimnis sind nicht identisch
Während das Datenschutzrecht die Bearbeitung personenbezogener Informationen regelt, schützt das Berufsgeheimnis insbesondere die Vertraulichkeit der Informationen innerhalb des Behandlungsverhältnisses.
Deshalb müssen bei der Weitergabe medizinischer Informationen an externe Dienstleister beide rechtlichen Bereiche berücksichtigt werden. Ein datenschutzrechtlich geeigneter Vertrag beantwortet nicht automatisch sämtliche Fragen des Berufsgeheimnisses.
Auch die Verwendung technisch verschlüsselter Übertragungsverfahren allein stellt noch keinen ausreichenden Nachweis für die Zulässigkeit einer Bekanntgabe medizinischer Informationen dar.
Externe Dienstleister und Hilfspersonen
Auch externe IT-Dienstleister können unter bestimmten Voraussetzungen in die ärztliche Tätigkeit eingebunden werden. Dabei muss insbesondere geklärt werden, ob eine zulässige Auftragsbearbeitung und eine ausreichende Einbindung in die Geheimhaltungspflichten vorliegen.
Ob ein externer Dienstleister als Hilfsperson im Sinne des ärztlichen Berufsgeheimnisses eingeordnet werden kann, hängt von seiner konkreten Tätigkeit und seiner Einbindung in den ärztlichen Arbeitsprozess ab.
Die blosse Bezeichnung eines Unternehmens als Auftragsbearbeiter oder technischer Dienstleister genügt hierfür nicht zwangsläufig.
Gerade bei international betriebenen KI-Anwendungen können sich zusätzliche Fragen hinsichtlich des Zugriffs auf medizinische Informationen und der Durchsetzbarkeit von Geheimhaltungspflichten ergeben [4].
Hierbei ist insbesondere zu unterscheiden, ob der Dienstleister personenbezogene Informationen ausschliesslich im Auftrag der Arztpraxis bearbeitet oder ob er diese zusätzlich für eigene Zwecke verwendet.
Vor einer entsprechenden Nutzung sollten die technischen und vertraglichen Bedingungen deshalb sorgfältig geprüft werden.
Wichtig: Eine Anwendung ist nicht allein deshalb für medizinische Informationen geeignet, weil der Anbieter mit Datenschutzkonformität, Verschlüsselung oder einer sicheren Cloud-Infrastruktur wirbt. Auch die Anforderungen des ärztlichen Berufsgeheimnisses müssen unter den konkreten Einsatzbedingungen erfüllt sein.
Was sind besonders schützenswerte Gesundheitsdaten?
Daten über die Gesundheit gehören nach Art. 5 DSG zu den besonders schützenswerten Personendaten. Hierzu zählen zahlreiche Informationen, die im Rahmen der täglichen ärztlichen Tätigkeit erhoben, bearbeitet und dokumentiert werden.
Allerdings beschränkt sich der Schutz personenbezogener Informationen nicht auf den eigentlichen medizinischen Befund. Auch administrative Angaben und Kombinationen verschiedener Informationen können eine Identifizierung ermöglichen.
Dabei sind nicht sämtliche administrativen Angaben für sich genommen besonders schützenswerte Personendaten. Ihre Verknüpfung mit medizinischen Informationen kann jedoch einen entsprechenden Personenbezug herstellen.
Typische Informationen aus der Arztpraxis
Direkte Identifikatoren und identifizierende Stammdaten
- Name und Vorname
- Adresse
- Geburtsdatum
- Versicherungsnummer
- Patientennummer
Medizinische Informationen
- Anamnese
- Diagnosen
- Laborbefunde
- Medikation
- Arztberichte
Indirekte Identifikatoren
- Seltene Erkrankungen
- Ungewöhnlicher Beruf
- Kleiner Wohnort
- Spezifische Ereignisse
- Exakte Behandlungsdaten
Digitale Zusatzinformationen
- DICOM-Metadaten
- PDF-Metadaten
- Patientenfotografien
- Sprachaufzeichnungen
- Dateinamen und Dokumenteigenschaften
Beispiele für direkt oder indirekt identifizierende Informationen im medizinischen Umfeld. Ob einzelne Angaben eine Identifizierung ermöglichen, hängt vom jeweiligen Kontext und den verfügbaren zusätzlichen Informationen ab.
Insbesondere bei der Übermittlung vollständiger medizinischer Dokumente besteht die Gefahr, dass neben den sichtbaren Informationen weitere personenbezogene Angaben bearbeitet werden.
Verborgene Informationen in digitalen Dokumenten
Ein scheinbar anonymisierter Arztbericht kann beispielsweise weiterhin identifizierende Informationen in seinen Dokumenteigenschaften, Kommentaren, früheren Bearbeitungsversionen oder eingebetteten Textschichten enthalten.
Auch das optische Abdecken eines Patientennamens innerhalb eines PDF-Dokumentes gewährleistet nicht zwangsläufig, dass die zugrunde liegenden Textinformationen tatsächlich entfernt wurden.
Deshalb sollte sich eine zuverlässige Anonymisierung nicht ausschliesslich auf die Kontrolle der sichtbaren Dokumentinhalte beschränken.
Besonderheiten radiologischer Bilddaten
Radiologische Untersuchungen im DICOM-Format (Digital Imaging and Communications in Medicine) können neben den eigentlichen Bildinformationen zahlreiche patienten- und untersuchungsbezogene Metadaten enthalten.
Hierzu gehören beispielsweise:
- Patientennamen und Patientenidentifikationsnummern.
- Geburtsdaten und Untersuchungszeitpunkte.
- Untersuchungsnummern und eindeutige Identifikatoren.
- Angaben zur medizinischen Einrichtung und zu beteiligten Personen.
- Freitextinformationen und herstellerspezifische Metadaten.
Darüber hinaus können Patientendaten unmittelbar in die Bilddarstellung eingebrannt sein. Auch nach einer Konvertierung in ein anderes Bildformat können solche Informationen weiterhin sichtbar bleiben.
Bei bestimmten dreidimensionalen CT- und MRT-Datensätzen des Kopfes kann ausserdem die Rekonstruktion der äusseren Gesichtsmerkmale ein zusätzliches Identifikationsrisiko darstellen.
Die Entfernung einzelner DICOM-Attribute oder die Konvertierung einer radiologischen Untersuchung in ein JPEG-Bild stellt somit für sich genommen keinen ausreichenden Nachweis einer wirksamen Anonymisierung dar.
Unabhängig von der datenschutzrechtlichen Eignung muss bei einer KI-gestützten Bildanalyse ausserdem geprüft werden, ob das verwendete System für die konkrete diagnostische Aufgabe ausreichend geeignet ist.
Die entsprechenden technologischen und medizinischen Einschränkungen werden im Beitrag Grenzen künstlicher Intelligenz ausführlich diskutiert.
Besonderheit radiologischer Bilddaten: Eine wirksame Anonymisierung erfordert gegebenenfalls sowohl die Bearbeitung der Metadaten als auch die Kontrolle der eigentlichen Bildinformationen. Je nach Untersuchungsverfahren müssen zusätzliche Identifikationsmöglichkeiten berücksichtigt werden.
Anonymisierung und Pseudonymisierung
Im Zusammenhang mit künstlicher Intelligenz werden die Begriffe Anonymisierung und Pseudonymisierung häufig synonym verwendet. Tatsächlich handelt es sich jedoch um unterschiedliche Verfahren mit verschiedenen datenschutzrechtlichen Konsequenzen.
Anonymisierung
Bei einer wirksamen Anonymisierung werden personenbezogene Informationen so verändert, dass eine Zuordnung zu einer konkreten Person unter Berücksichtigung der vernünftigerweise verfügbaren Identifizierungsmöglichkeiten nicht mehr möglich ist.
Hierzu kann es erforderlich sein, neben direkten Identifikatoren auch bestimmte indirekte Identifikatoren zu entfernen oder zu verallgemeinern.
Ob eine ausreichende Anonymisierung vorliegt, hängt dabei nicht allein von den innerhalb eines einzelnen Dokumentes enthaltenen Informationen ab. Auch mögliche Verknüpfungen mit anderen verfügbaren Datenbeständen müssen berücksichtigt werden.
Die Anonymisierung ursprünglich personenbezogener Informationen stellt ihrerseits eine Datenbearbeitung dar. Auch dieser vorgelagerte Arbeitsschritt muss deshalb unter geeigneten datenschutzrechtlichen und technischen Bedingungen erfolgen.
Pseudonymisierung
Bei einer Pseudonymisierung werden identifizierende Angaben beispielsweise durch eine Nummer, einen Code oder eine andere Bezeichnung ersetzt.
Die Zuordnung zu einer konkreten Person bleibt grundsätzlich möglich, sofern zusätzliche Informationen oder geeignete Verknüpfungsmöglichkeiten vorhanden sind.
Pseudonymisierte Daten bleiben bei fortbestehendem Personenbezug Personendaten. Sofern es sich um medizinische Informationen handelt, können sie weiterhin als besonders schützenswerte Personendaten einzustufen sein.
Die Pseudonymisierung stellt eine wichtige technische und organisatorische Schutzmassnahme dar. Sie ersetzt jedoch nicht die Prüfung der rechtlichen Voraussetzungen für eine anschliessende Datenbearbeitung.
| Merkmal | Pseudonymisierung | Anonymisierung |
|---|---|---|
| Direkte Identifikatoren | Entfernt oder ersetzt | Entfernt oder ausreichend verändert |
| Personenzuordnung | Mit zusätzlichen Informationen möglich | Mit vernünftigerweise verfügbaren Mitteln nicht möglich |
| Datenschutzrecht | Bei fortbestehendem Personenbezug weiterhin anwendbar | Bei wirksamer Anonymisierung grundsätzlich kein Personenbezug mehr |
| Reidentifikationsrisiko | Weiterhin vorhanden | Durch geeignete Verfahren so weit reduziert, dass eine Identifizierung mit vernünftigerweise verfügbaren Mitteln nicht mehr möglich ist |
Vereinfachte didaktische Gegenüberstellung. Die rechtliche Beurteilung des Personenbezugs erfordert eine Berücksichtigung der konkreten Bearbeitungsbedingungen und verfügbaren Identifizierungsmöglichkeiten.
Ein fiktives Beispiel aus der Hausarztpraxis
VON PERSONENBEZOGENEN DATEN ZUR ABSTRAHIERTEN FALLVIGNETTE
01 – Personenbezogene Ausgangsinformation
Herr Max Muster, geboren am 17.03.1964, wohnhaft in einer kleinen Gemeinde, einziger Berufsfischer des Ortes, stellte sich am 12.11.2026 mit seit mehreren Wochen progredienter Belastungsdyspnoe vor.
↓
02 – Entfernung des Namens
Patient 027, geboren am 17.03.1964, wohnhaft in einer kleinen Gemeinde, einziger Berufsfischer des Ortes, stellte sich am 12.11.2026 mit seit mehreren Wochen progredienter Belastungsdyspnoe vor.
↓
03 – Medizinisch abstrahierte Fallvignette
Ein Patient im Alter zwischen 60 und 65 Jahren berichtet über eine seit mehreren Wochen zunehmende Belastungsdyspnoe.
Sämtliche Informationen sind frei erfunden. Das Beispiel verdeutlicht unterschiedliche Grade der Entfernung identifizierender Merkmale. Es stellt keinen Nachweis dar, dass eine entsprechend bearbeitete reale Fallbeschreibung unter allen Umständen ausreichend anonymisiert wäre.
Bereits im zweiten Beispiel wurde der Name des Patienten durch einen numerischen Identifikator ersetzt. Dennoch könnten die Kombination aus Geburtsdatum, Wohnort, ungewöhnlicher beruflicher Tätigkeit und Untersuchungszeitpunkt weiterhin eine Identifizierung ermöglichen.
Erst durch die zusätzliche Abstraktion einzelner Angaben lässt sich das Identifikationsrisiko weiter reduzieren.
Bei der Abstraktion medizinischer Informationen muss allerdings darauf geachtet werden, dass keine für die klinische Fragestellung relevanten Angaben verloren gehen. Falls beispielsweise eine berufliche Exposition diagnostisch bedeutsam ist, sollte diese in geeigneter abstrahierter Form erhalten bleiben.
Hierbei dürfen durch die Bearbeitung weder neue medizinische Tatsachen hinzugefügt noch die vorhandenen klinischen Informationen inhaltlich verfälscht werden.
Eine Anonymisierung ist deshalb immer auch im Zusammenhang mit dem vorgesehenen Verwendungszweck zu beurteilen.
Datensparsame Arbeitsaufträge
Für zahlreiche Tätigkeiten ist die Übermittlung vollständiger medizinischer Dokumente nicht erforderlich. Häufig genügt eine gezielte Zusammenstellung derjenigen Informationen, die für den jeweiligen Arbeitsauftrag tatsächlich benötigt werden.
Bei der Erstellung eines allgemeinen Informationsblattes über arterielle Hypertonie sind beispielsweise keine individuellen Patienteninformationen notwendig.
Auch bei der Entwicklung medizinischer Dokumentationsvorlagen oder bei der Erprobung neuer Arbeitsprozesse können häufig vollständig fiktive Fallvignetten verwendet werden.
Eine präzise Formulierung des Arbeitsauftrages kann somit nicht nur die Qualität der erzeugten Ergebnisse verbessern, sondern auch dazu beitragen, die zu bearbeitende Datenmenge zu begrenzen.
Weiterführende Informationen hierzu finden Sie im Beitrag Prompt Engineering – richtig fragen.
Merksatz: Namen zu entfernen bedeutet nicht automatisch, medizinische Informationen wirksam zu anonymisieren. Auch pseudonymisierte Informationen dürfen nicht ohne Prüfung der rechtlichen und technischen Voraussetzungen an externe KI-Anwendungen übermittelt werden.
Was geschieht mit den eingegebenen Informationen?
Bei der Verwendung eines Sprachmodells sieht der Anwender in der Regel nur die Eingabemaske und die anschliessend erzeugte Antwort. Die dahinterliegenden technischen Bearbeitungsschritte sind dagegen häufig nicht unmittelbar erkennbar.
Je nach System können Eingaben beispielsweise an externe Server übertragen, vorübergehend gespeichert, protokolliert oder an weitere Dienste weitergeleitet werden.
Auch hochgeladene Dokumente, Bilddaten, Audioaufzeichnungen und die aus diesen Informationen erzeugten Ergebnisse können Gegenstand entsprechender Bearbeitungsvorgänge sein.
Welche technischen Komponenten bei der Verwendung eines Sprachmodells beteiligt sein können, wird im Beitrag Wie funktioniert ChatGPT? näher erläutert.
Die möglichen Stationen einer KI-Anfrage
Vereinfachte Darstellung möglicher Datenbearbeitungsschritte einer cloudbasierten KI-Anwendung. Nicht alle dargestellten Vorgänge erfolgen bei jedem Anbieter oder bei jeder Systemkonfiguration. Einzelne Bearbeitungsvorgänge können auch parallel stattfinden oder nach der Ausgabe des Ergebnisses fortbestehen.
Speicherung ist nicht mit Modelltraining gleichzusetzen
Bei der Beurteilung einer KI-Anwendung muss zwischen unterschiedlichen Formen der Informationsbearbeitung unterschieden werden. Während bestimmte Informationen lediglich zur Bearbeitung einer Anfrage benötigt werden, können andere beispielsweise zur Fehleranalyse, Sicherheitsüberwachung oder Verbesserung des Systems verwendet werden.
Dementsprechend bedeutet eine deaktivierte Nutzung von Eingaben für das Modelltraining nicht automatisch, dass keine Speicherung oder sonstige Bearbeitung erfolgt.
Auch die Deaktivierung des sichtbaren Chatverlaufs oder einer Erinnerungsfunktion ist nicht zwangsläufig mit einer vollständigen Löschung sämtlicher serverseitig bearbeiteter Informationen verbunden.
Für eine differenzierte Beurteilung sollten insbesondere folgende Funktionen getrennt betrachtet werden:
- Die technische Bearbeitung der aktuellen Anfrage.
- Die Speicherung von Eingaben und generierten Antworten.
- Die Protokollierung von Nutzungsvorgängen.
- Die Speicherung von Informationen zur Unterstützung zukünftiger Interaktionen.
- Die Verwendung von Informationen zur Verbesserung oder zum Training von KI-Modellen.
- Die mögliche Weitergabe von Informationen an zusätzliche technische Dienste.
Diese Funktionen können abhängig vom Anbieter, dem verwendeten Produkt, der Vertragsform und den gewählten Einstellungen unterschiedlich ausgestaltet sein.
Eine einzelne datenschutzbezogene Einstellung innerhalb einer KI-Anwendung erlaubt deshalb in der Regel keine abschliessende Beurteilung sämtlicher Datenbearbeitungsvorgänge.
Verarbeitung für zusätzliche Zwecke
Besondere Aufmerksamkeit erfordert die mögliche Verwendung personenbezogener medizinischer Informationen zur Weiterentwicklung eines Sprachmodells. Eine solche Nutzung kann über den ursprünglichen Behandlungs- oder Dokumentationszweck hinausgehen.
Die FMH weist in ihren rechtlichen Überlegungen auf die damit verbundenen Anforderungen hin [5]. Insbesondere muss eine Verwendung medizinischer Personendaten für zusätzliche Zwecke eigenständig rechtlich beurteilt werden.
Wird eine KI-Anwendung beispielsweise zur Erstellung einer medizinischen Konsultationsnotiz eingesetzt, folgt daraus nicht automatisch die Zulässigkeit einer zusätzlichen Nutzung der eingegebenen Patientendaten für das Training eines Sprachmodells.
Eine zur medizinischen Dokumentation zulässige Datenbearbeitung ist deshalb von einer möglichen Weiterverwendung der Informationen für eigene Zwecke des Anbieters zu unterscheiden.
Soweit für eine solche zusätzliche Bearbeitung eine Einwilligung erforderlich ist, muss diese den gesetzlichen Anforderungen entsprechen und die vorgesehene Zweckänderung erfassen.
Externe Funktionen und zusätzliche technische Dienste
Moderne KI-Anwendungen können neben dem eigentlichen Sprachmodell weitere Funktionen bereitstellen. Hierzu gehören beispielsweise Internetrecherchen, die Bearbeitung hochgeladener Dokumente, externe Datenbankabfragen und die Anbindung anderer Softwareanwendungen.
Abhängig von der technischen Umsetzung können bei der Nutzung solcher Funktionen zusätzliche Datenübertragungen stattfinden.
Deshalb sollte eine datenschutzrechtliche Beurteilung nicht ausschliesslich das verwendete Sprachmodell berücksichtigen, sondern auch die innerhalb des jeweiligen Arbeitsprozesses aktivierten Zusatzfunktionen.
Dies ist insbesondere dann relevant, wenn medizinische Informationen mit einer automatisierten Literaturrecherche oder anderen externen Informationsabfragen verbunden werden.
Für die wissenschaftliche Recherche sollten personenbezogene Patienteninformationen grundsätzlich nur dann verwendet werden, wenn deren Bearbeitung tatsächlich erforderlich und unter den gegebenen Bedingungen zulässig ist.
Weitere Informationen zur methodisch kontrollierten Nutzung künstlicher Intelligenz bei wissenschaftlichen Recherchen finden Sie im Beitrag KI und medizinische Literaturrecherche.
Merksatz: «Keine Verwendung für das Modelltraining» bedeutet weder automatisch «keine Datenspeicherung» noch «für die Verarbeitung von Patientendaten geeignet».
Cloudbasierte und lokal betriebene KI-Systeme
Sprachmodelle können auf unterschiedlichen technischen Infrastrukturen betrieben werden. Für die datenschutzrechtliche Beurteilung ist deshalb nicht nur die Art des verwendeten Modells, sondern insbesondere dessen konkrete Betriebsumgebung relevant.
Cloudbasierte KI-Anwendungen
Bei einem cloudbasierten System erfolgt die Bearbeitung zumindest teilweise auf extern betriebenen Servern. Dadurch können leistungsfähige KI-Modelle genutzt werden, ohne dass die Arztpraxis selbst über die entsprechende technische Infrastruktur verfügen muss.
Allerdings sind insbesondere der Datenstandort, die vertragliche Ausgestaltung der Datenbearbeitung, mögliche Unterauftragnehmer und die Zugriffsrechte Dritter abzuklären.
Dabei können sich unterschiedliche cloudbasierte Anwendungen erheblich hinsichtlich ihrer technischen Sicherheitsmassnahmen, der verfügbaren Administrationsmöglichkeiten und ihrer vertraglichen Regelungen unterscheiden.
Ein cloudbasierter Betrieb ist deshalb nicht grundsätzlich mit einer unzulässigen Bearbeitung medizinischer Informationen gleichzusetzen.
Lokal betriebene KI-Systeme
Demgegenüber kann ein lokal betriebenes Sprachmodell auf einem Computer oder einem Server innerhalb einer kontrollierten medizinischen Infrastruktur ausgeführt werden.
Damit lassen sich externe Datenübertragungen unter geeigneten Bedingungen reduzieren oder vermeiden. Dennoch müssen auch bei lokalen Systemen die Datensicherheit, die Zugriffskontrolle und die medizinische Qualität gewährleistet werden.
Insbesondere sollte überprüft werden, ob die verwendete Software tatsächlich sämtliche für den Arbeitsprozess erforderlichen Bearbeitungsschritte lokal ausführt.
Auch bei einer lokal installierten Anwendung können beispielsweise durch externe Zusatzfunktionen, Fehlerprotokollierungen, Fernwartung oder technische Hintergrunddienste Datenübertragungen erfolgen.
Ein lokal betriebenes System ist somit nicht automatisch datenschutzkonform. Ebenso wenig ist seine medizinische Zuverlässigkeit allein aufgrund der lokalen Betriebsumgebung gewährleistet.
CLOUDBASIERTE KI
↕
↕
LOKAL BETRIEBENE KI
↕
Kontrollierte Infrastruktur
Schematischer Vergleich zweier idealtypischer Betriebsmodelle. In der Praxis existieren zusätzlich hybride Systeme und unterschiedlich ausgestaltete kontrollierte Cloud-Umgebungen. Die Darstellung der lokal betriebenen KI setzt voraus, dass keine zusätzlichen externen Datenbearbeitungsvorgänge stattfinden.
Datenbearbeitung im Ausland
Bei einer grenzüberschreitenden Bearbeitung personenbezogener Informationen gelten zusätzliche datenschutzrechtliche Voraussetzungen.
Nach Art. 16 und 17 DSG ist insbesondere zu prüfen, ob personenbezogene Informationen in einen Staat mit einem angemessenen Datenschutzniveau bekannt gegeben werden oder ob andere gesetzlich vorgesehene Voraussetzungen beziehungsweise Garantien für die Bekanntgabe erfüllt sind.
Ausserdem muss geklärt werden, ob das ärztliche Berufsgeheimnis unter den konkreten Bearbeitungsbedingungen ausreichend gewahrt werden kann.
Ein ausgewiesener Schweizer Serverstandort beantwortet diese Fragen nicht zwangsläufig vollständig. Beispielsweise können Supportzugriffe, Unterauftragnehmer oder weitere technische Dienste einen zusätzlichen Auslandbezug begründen.
Auch die Staatszugehörigkeit des Anbieters und der geografische Standort der Server sind nicht zwangsläufig identisch mit sämtlichen Orten, an denen auf die bearbeiteten Informationen zugegriffen werden kann.
Für die Beurteilung sollten deshalb die tatsächlichen Datenflüsse, die beteiligten Unternehmen und die möglichen Zugriffsrechte berücksichtigt werden.
Die Position der FMH
Die FMH empfiehlt im Rahmen ihrer Ausführungen zum Umgang mit grossen Sprachmodellen, den Schutz vertraulicher medizinischer Informationen besonders zu berücksichtigen und geeignete, kontrollierte technische Lösungen einzusetzen [6].
Lokal betriebene Sprachmodelle können unter entsprechenden technischen und organisatorischen Voraussetzungen dazu beitragen, eine externe Bekanntgabe medizinischer Informationen zu vermeiden.
Damit ist jedoch nicht zwangsläufig der grundsätzliche Verzicht auf Cloud-Technologien verbunden. Entscheidend ist vielmehr, ob die konkrete Bearbeitung nachvollziehbar und ausreichend abgesichert ist.
Für die Verwendung personenbezogener medizinischer Informationen müssen die datenschutzrechtlichen, berufsrechtlichen und technischen Voraussetzungen unabhängig von der gewählten Betriebsform beurteilt werden.
Grundprinzip: Weder ein Schweizer Serverstandort noch ein lokal betriebenes Sprachmodell oder ein kostenpflichtiges KI-Abonnement stellen für sich genommen einen ausreichenden Nachweis der rechtlichen und medizinischen Eignung einer Anwendung dar. Massgebend sind die konkreten Datenbearbeitungsvorgänge, die technischen Schutzmassnahmen, die vertraglichen Rahmenbedingungen und der vorgesehene medizinische Verwendungszweck.
Auswahl einer geeigneten KI-Anwendung
Bei der Auswahl künstlicher Intelligenz für eine Arztpraxis sollte nicht ausschliesslich die Leistungsfähigkeit des Sprachmodells berücksichtigt werden.
Ebenso relevant sind die Vertragsbedingungen, die vorgesehenen Verarbeitungszwecke, die technischen Sicherheitsmassnahmen und die Kontrollmöglichkeiten des Anwenders.
Die Auswahl einer geeigneten KI-Anwendung setzt deshalb zunächst eine möglichst präzise Definition der vorgesehenen Arbeitsprozesse voraus. Erst auf dieser Grundlage lässt sich beurteilen, welche technischen Funktionen benötigt werden und welche datenschutzrechtlichen, medizinischen und organisatorischen Anforderungen erfüllt sein müssen.
Allgemeine KI-Anwendungen und professionelle Lösungen
Viele KI-Anbieter unterscheiden zwischen allgemein zugänglichen Anwendungen, kostenpflichtigen Einzelplatzlösungen und professionellen Unternehmensangeboten. Diese können sich sowohl hinsichtlich der verfügbaren Funktionen als auch der Bedingungen zur Datenverarbeitung unterscheiden.
Ein kostenpflichtiges Abonnement ist jedoch kein eigenständiger Nachweis einer ausreichenden Eignung für medizinische Personendaten. Auch ein ausdrücklich als medizinisch bezeichnetes Produkt muss hinsichtlich seiner konkreten Zweckbestimmung und Vertragsbedingungen beurteilt werden.
Darüber hinaus können sich die Bedingungen der Datenbearbeitung innerhalb desselben Produktangebotes abhängig von der jeweiligen Vertragsform, den administrativen Einstellungen und den aktivierten Zusatzfunktionen unterscheiden.
Die Beurteilung sollte sich deshalb stets auf das konkret verwendete Produkt und dessen tatsächliche Konfiguration beziehen.
Welche Informationen sollten vom Anbieter vorliegen?
| Prüfbereich | Zentrale Fragestellung |
|---|---|
| Verarbeitungszweck | Für welche Zwecke werden Eingaben, Dokumente und erzeugte Ergebnisse verwendet? Erfolgt eine Bearbeitung ausschliesslich im Auftrag der Arztpraxis oder auch für eigene Zwecke des Anbieters? |
| Datenspeicherung | Welche Informationen werden gespeichert und wie lange bleiben sie verfügbar? Werden auch Nutzungsprotokolle und Sicherungskopien erstellt? |
| Modelltraining | Werden medizinische Informationen zur Verbesserung oder Weiterentwicklung des Systems genutzt? Kann eine solche Verwendung verbindlich ausgeschlossen werden? |
| Verarbeitungsstandort | In welchen Ländern werden Informationen verarbeitet oder gespeichert? Von welchen Ländern aus können administrative oder technische Zugriffe erfolgen? |
| Auftragsbearbeitung | Besteht eine geeignete vertragliche Regelung der Pflichten des Dienstleisters? Sind die zulässigen Bearbeitungszwecke und die Geheimhaltung ausreichend geregelt? |
| Unterauftragnehmer | Welche weiteren Unternehmen oder technischen Dienste sind an der Datenbearbeitung beteiligt? Wie werden Änderungen bei den Unterauftragnehmern geregelt? |
| Zugriffsschutz | Welche Personen können auf medizinische Informationen zugreifen? Bestehen geeignete Benutzerberechtigungen, Authentifizierungsverfahren und Kontrollmöglichkeiten? |
| Informationssicherheit | Welche Sicherheitsmassnahmen, Verschlüsselungsverfahren und Kontrollmechanismen bestehen? Wie werden Sicherheitsvorfälle erkannt, bearbeitet und gemeldet? |
| Löschkonzept | Wie können Informationen gelöscht werden und welche Ausnahmen von der Löschung bestehen? Was geschieht mit den Daten nach Beendigung des Vertragsverhältnisses? |
| Medizinische Eignung | Für welche medizinischen Aufgaben ist das System vorgesehen? Welche wissenschaftlichen, technischen und gegebenenfalls regulatorischen Nachweise liegen vor? |
Eigene praxisorientierte Zusammenstellung von Prüffragen zur Systemauswahl. Sie ersetzt keine vollständige rechtliche, technische oder regulatorische Evaluation.
Auftragsbearbeitung und fortbestehende Verantwortung
Gemäss den Erläuterungen des EDÖB entbindet die Übertragung einer Datenbearbeitung an einen externen Dienstleister den Auftraggeber nicht von seiner datenschutzrechtlichen Verantwortung [7].
Nach Art. 9 DSG darf die Bearbeitung von Personendaten einem Auftragsbearbeiter übertragen werden, wenn die Daten nur so bearbeitet werden, wie der Verantwortliche selbst dies tun dürfte, und keine gesetzliche oder vertragliche Geheimhaltungspflicht die Übertragung verbietet.
Der Verantwortliche muss sich insbesondere vergewissern, dass der Auftragsbearbeiter in der Lage ist, die Datensicherheit zu gewährleisten.
Die Weiterübertragung einer Datenbearbeitung an zusätzliche Auftragsbearbeiter bedarf grundsätzlich der vorgängigen Genehmigung durch den Verantwortlichen.
Arztpraxen müssen deshalb geeignete Dienstleister auswählen, die vorgesehenen Bearbeitungen vertraglich regeln und angemessene Kontrollmöglichkeiten sicherstellen.
Dabei ist insbesondere zu beachten, dass ein Vertrag zur Auftragsbearbeitung nicht automatisch sämtliche Bearbeitungsvorgänge des Anbieters legitimiert.
Verwendet ein Anbieter medizinische Informationen zusätzlich für eigene Zwecke, beispielsweise zur Weiterentwicklung seiner KI-Modelle, muss diese Bearbeitung gesondert rechtlich beurteilt werden.
Auch die Anforderungen des ärztlichen Berufsgeheimnisses und einer möglichen Bekanntgabe von Personendaten ins Ausland bleiben bestehen.
Datenschutz-Folgenabschätzung
Kann eine geplante Datenbearbeitung mit einem hohen Risiko für die Persönlichkeit oder die Grundrechte der betroffenen Personen verbunden sein, ist nach Art. 22 DSG grundsätzlich vorgängig eine Datenschutz-Folgenabschätzung erforderlich, sofern keine gesetzliche Ausnahme greift.
Gerade bei umfangreicher Verarbeitung medizinischer Informationen, neuartigen Technologien oder komplexen automatisierten Arbeitsprozessen sollte deshalb geprüft werden, ob eine entsprechende Folgenabschätzung notwendig ist.
Hierbei werden die vorgesehene Bearbeitung, die möglichen Risiken und geeignete Massnahmen zu deren Reduktion systematisch betrachtet.
Eine Datenschutz-Folgenabschätzung umfasst insbesondere:
- Die Beschreibung der vorgesehenen Datenbearbeitung.
- Die Beurteilung der mit der Bearbeitung verbundenen Risiken für die Persönlichkeit und die Grundrechte der betroffenen Personen.
- Die Darstellung geeigneter Massnahmen zur Verringerung dieser Risiken.
- Die Beurteilung der nach Umsetzung der vorgesehenen Schutzmassnahmen verbleibenden Risiken.
Bleibt trotz der vorgesehenen Massnahmen ein hohes Risiko bestehen, sind gegebenenfalls die zusätzlichen Anforderungen gemäss Art. 23 DSG zu berücksichtigen.
Die Notwendigkeit einer Datenschutz-Folgenabschätzung ergibt sich somit nicht allein aus der Tatsache, dass künstliche Intelligenz verwendet wird. Entscheidend sind insbesondere die Art, der Umfang, die Umstände und der Zweck der konkreten Datenbearbeitung.
Die Eignung regelmässig überprüfen
Vertragsbedingungen, technische Funktionen und die Architektur einer KI-Anwendung können sich im Laufe der Zeit verändern.
Eine einmalige Beurteilung der datenschutzrechtlichen und medizinischen Eignung sollte deshalb nicht als dauerhaft gültige Freigabe für sämtliche zukünftigen Versionen des jeweiligen Systems verstanden werden.
Insbesondere bei Änderungen der Datenbearbeitungsbedingungen, der beteiligten Dienstleister, der medizinischen Zweckbestimmung oder wesentlicher technischer Funktionen ist eine erneute Beurteilung zu erwägen.
Weiterführende Informationen zur Auswahl, Erprobung und Beurteilung von KI-Anwendungen finden Sie im Beitrag Professioneller Umgang mit KI.
Praxisempfehlung: Dokumentieren Sie vor der Einführung einer KI-Anwendung den vorgesehenen Verwendungszweck, die zulässigen Eingabedaten, die geprüften Vertragsbedingungen und die erforderlichen medizinischen Kontrollmassnahmen. Überprüfen Sie diese Freigabe bei wesentlichen Änderungen des Systems erneut.
Patienteninformation und Einwilligung
Ein wesentlicher Bestandteil einer vertrauensvollen Arzt-Patienten-Beziehung ist der transparente Umgang mit medizinischen Informationen. Die Einführung künstlicher Intelligenz kann deshalb eine Anpassung bestehender Informations- und Aufklärungsprozesse erforderlich machen.
Dabei sollte zwischen der datenschutzrechtlichen Information, der Einwilligung in eine bestimmte Datenbearbeitung und der medizinischen Aufklärung im Zusammenhang mit diagnostischen oder therapeutischen Massnahmen unterschieden werden.
Informationspflicht und Einwilligung unterscheiden
Die Information über eine Datenbearbeitung ist rechtlich nicht mit der Einwilligung in diese Datenbearbeitung gleichzusetzen.
Die datenschutzrechtliche Informationspflicht gemäss Art. 19 DSG soll insbesondere gewährleisten, dass die betroffene Person über die Beschaffung und den vorgesehenen Umgang mit ihren Personendaten angemessen informiert wird.
Zu den gesetzlich vorgesehenen Mindestinformationen gehören insbesondere die Identität und die Kontaktdaten des Verantwortlichen, der Bearbeitungszweck sowie gegebenenfalls die Empfänger oder Kategorien von Empfängern der Personendaten.
Bei einer Bekanntgabe von Personendaten ins Ausland sind zusätzliche gesetzliche Informationsanforderungen zu berücksichtigen.
Ob darüber hinaus eine ausdrückliche Einwilligung erforderlich ist, hängt unter anderem vom Zweck der Bearbeitung, der Einbindung externer Dienstleister, dem Berufsgeheimnis und den Umständen des konkreten Einsatzes ab.
Deshalb lässt sich weder eine allgemeine Einwilligungspflicht für jede KI-Anwendung noch eine generelle Erlaubnis zur Bearbeitung medizinischer Informationen ohne Einwilligung ableiten [4,5].
Ist eine Einwilligung erforderlich, muss diese nach angemessener Information freiwillig erfolgen. Bei besonders schützenswerten Personendaten muss die erforderliche Einwilligung ausdrücklich erfolgen.
Datenschutzrechtliche Information und medizinische Aufklärung
Von der datenschutzrechtlichen Informationspflicht ist die ärztliche Aufklärung im Zusammenhang mit medizinischen Massnahmen zu unterscheiden.
Nicht jede Verwendung künstlicher Intelligenz innerhalb einer Arztpraxis führt zwangsläufig zu einer zusätzlichen medizinischen Aufklärungspflicht.
So ist die sprachliche Überarbeitung eines bereits ärztlich erstellten und geprüften Dokumentes anders zu beurteilen als die Verwendung eines KI-Systems, dessen diagnostische oder therapeutische Vorschläge einen wesentlichen Einfluss auf die weitere Behandlung haben können.
Ob und in welchem Umfang eine KI-Anwendung im Rahmen der medizinischen Aufklärung erläutert werden muss, hängt insbesondere von ihrer konkreten Rolle innerhalb des Behandlungsprozesses und ihrer Bedeutung für die Entscheidungsfindung der betroffenen Person ab.
Unabhängig davon bleiben die datenschutzrechtlichen Informationspflichten und die Anforderungen des ärztlichen Berufsgeheimnisses bestehen.
Welche Informationen sind für Patienten relevant?
Abhängig von der vorgesehenen Anwendung können insbesondere folgende Aspekte von Bedeutung sein:
- Der Zweck der KI-gestützten Bearbeitung.
- Die Art der bearbeiteten medizinischen Informationen.
- Die Beteiligung externer Dienstleister.
- Der Ort der Datenbearbeitung und eine mögliche Bekanntgabe ins Ausland.
- Die Speicherung und mögliche Weiterbearbeitung der Daten.
- Die Rolle der künstlichen Intelligenz innerhalb des medizinischen Arbeitsprozesses.
- Die weiterhin bestehende ärztliche Kontrolle.
- Relevante Einschränkungen und Risiken der Anwendung.
- Gegebenenfalls verfügbare Alternativen zur KI-gestützten Bearbeitung.
Die entsprechende Patienteninformation sollte verständlich formuliert und an die tatsächlichen technischen und organisatorischen Bedingungen angepasst werden.
Allgemein gehaltene Aussagen zur Verwendung moderner digitaler Technologien sind insbesondere dann nicht ausreichend, wenn eine konkret vorgesehene Datenbearbeitung weitergehende Informations- oder Einwilligungsanforderungen auslöst.
Automatisierte Einzelentscheidungen
Eine besondere datenschutzrechtliche Bedeutung können Entscheidungen haben, die ausschliesslich auf einer automatisierten Bearbeitung beruhen und für die betroffene Person mit einer Rechtsfolge verbunden sind oder sie erheblich beeinträchtigen.
Für solche automatisierten Einzelentscheidungen enthält Art. 21 DSG besondere Bestimmungen.
Diese sehen unter anderem eine entsprechende Information der betroffenen Person und grundsätzlich die Möglichkeit vor, den eigenen Standpunkt darzulegen und eine Überprüfung durch eine natürliche Person zu verlangen. Gesetzlich vorgesehene Ausnahmen sind zu berücksichtigen.
Nicht jede Verwendung eines KI-generierten Vorschlags stellt bereits eine automatisierte Einzelentscheidung im Sinne dieser Bestimmung dar.
Wird ein entsprechender Vorschlag durch eine medizinische Fachperson tatsächlich eigenständig geprüft und im Rahmen einer ärztlichen Beurteilung berücksichtigt, unterscheidet sich dieser Arbeitsprozess von einer ausschliesslich automatisiert getroffenen Entscheidung.
Eine rein formale Bestätigung eines KI-generierten Ergebnisses ohne ausreichende inhaltliche Auseinandersetzung sollte jedoch nicht mit einer eigenständigen ärztlichen Entscheidungsfindung gleichgesetzt werden.
Wichtig: Eine Patienteneinwilligung ersetzt weder die notwendige Datensicherheit noch die fachliche Eignung einer KI-Anwendung oder andere zwingende rechtliche Voraussetzungen. Ebenso wenig ersetzt eine allgemeine Patienteninformation eine im konkreten Fall erforderliche Einwilligung.
KI-gestützte Aufzeichnung ärztlicher Konsultationen
Eine besondere Herausforderung stellen KI-Anwendungen dar, die während einer ärztlichen Konsultation Gespräche erfassen und anschliessend automatisch medizinische Dokumentationsentwürfe erstellen.
Solche Systeme werden im englischsprachigen Raum häufig als Ambient AI Scribes bezeichnet.
Sie können die Dokumentationsarbeit unterstützen. Allerdings werden dabei unter Umständen weit mehr Informationen bearbeitet als bei einer nachträglichen Eingabe ausgewählter medizinischer Stichpunkte.
Die möglichen Vorteile solcher Systeme und die bisher vorliegenden wissenschaftlichen Untersuchungen zur zeitlichen Entlastung werden im Beitrag Künstliche Intelligenz in der Hausarztpraxis ausführlich diskutiert.
Besonderheiten der Gesprächserfassung
Neben der eigentlichen Anamnese können persönliche Äusserungen, Informationen über Angehörige und weitere vertrauliche Gesprächsinhalte erfasst werden.
Abhängig von der technischen Umsetzung können ausserdem Audioaufzeichnungen, Transkriptionen und daraus erzeugte medizinische Zusammenfassungen entstehen.
Diese unterschiedlichen Formen der Datenbearbeitung müssen getrennt betrachtet werden.
Während die abschliessend freigegebene medizinische Dokumentation Bestandteil der Krankengeschichte werden kann, ist die dauerhafte Speicherung der vollständigen Audioaufzeichnung oder des gesamten Gesprächstranskripts nicht zwangsläufig erforderlich.
Deshalb sollte eindeutig geklärt sein:
- Ob das Gespräch vollständig oder nur teilweise erfasst wird.
- Ob Audioinformationen lokal oder auf externen Servern bearbeitet werden.
- Ob eine Audioaufzeichnung dauerhaft oder nur vorübergehend gespeichert wird.
- Ob vollständige Gesprächstranskripte erstellt werden.
- Welche Personen auf Audioinformationen, Transkriptionen und Dokumentationsentwürfe zugreifen können.
- Ob eine Bearbeitung der Informationen für zusätzliche Zwecke erfolgt.
- Wann die jeweiligen Informationen gelöscht werden.
- Welche Informationen nach ärztlicher Kontrolle in die Krankengeschichte übernommen werden.
Auch eine Anwendung, die nach Angaben des Anbieters keine dauerhaften Audioaufzeichnungen speichert, kann während der Gesprächserfassung besonders schützenswerte Personendaten bearbeiten.
Der Verzicht auf eine dauerhafte Speicherung entbindet deshalb nicht von der Beurteilung der übrigen Datenbearbeitungsvorgänge.
Einwilligung vor der Gesprächsaufnahme
Bei einer Aufzeichnung nichtöffentlicher Gespräche sind neben dem Datenschutzgesetz und dem ärztlichen Berufsgeheimnis insbesondere die strafrechtlichen Bestimmungen zur unbefugten Aufnahme von Gesprächen zu beachten.
Hierzu gehören insbesondere Art. 179bis und Art. 179ter des Schweizerischen Strafgesetzbuches [3].
Während Art. 179bis StGB unter anderem die unbefugte Aufnahme fremder nichtöffentlicher Gespräche betrifft, regelt Art. 179ter StGB insbesondere die unbefugte Aufnahme eines nichtöffentlichen Gesprächs durch einen Gesprächsteilnehmer.
Vor einer entsprechenden Aufzeichnung muss deshalb grundsätzlich die Einwilligung aller Gesprächsteilnehmer eingeholt werden, sofern keine gesetzliche Ausnahme vorliegt.
Dies betrifft gegebenenfalls auch anwesende Angehörige, Dolmetscher oder andere am Gespräch beteiligte Personen.
Bei technisch anders ausgestalteten Verfahren, beispielsweise einer unmittelbaren Gesprächstranskription ohne dauerhafte Audiodatei, müssen die konkreten Erfassungsvorgänge und deren rechtliche Einordnung gesondert geprüft werden.
Die Patienten sollten vor Beginn der Erfassung darüber informiert werden, welchem Zweck diese dient, wie die Gesprächsinformationen bearbeitet werden und welche ärztlichen Kontrollmechanismen vorgesehen sind.
Die Arztpraxis sollte einen alternativen Dokumentationsprozess vorsehen, falls Patienten eine solche Erfassung ablehnen.
Eine angemessene medizinische Versorgung sollte nicht davon abhängig gemacht werden, dass Patienten einer für die Behandlung nicht erforderlichen Gesprächsaufzeichnung zustimmen.
Vom Gespräch zur freigegebenen Dokumentation
↓
↓
↓
↓
Didaktisches Ablaufschema. Datenschutz, Zugriffsschutz, Aufbewahrung und Löschung müssen für sämtliche Bearbeitungsschritte separat geregelt werden. Die Darstellung stellt kein rechtlich oder wissenschaftlich validiertes Implementierungsmodell dar.
Medizinische Kontrolle des Dokumentationsentwurfs
Auch bei technisch zuverlässig funktionierenden Dokumentationsassistenten können Fehler während der Gesprächserkennung, der Zuordnung einzelner Aussagen oder der anschliessenden Zusammenfassung entstehen.
Besonders relevant sind beispielsweise:
- Die fehlerhafte Wiedergabe medizinischer Fachbegriffe.
- Die Verwechslung von Arzneimitteln, Dosierungen und Zahlenwerten.
- Die falsche Zuordnung von Aussagen zu einzelnen Gesprächsteilnehmern.
- Die Auslassung medizinisch relevanter Informationen.
- Die Verwechslung anamnestischer Angaben mit ärztlich erhobenen Befunden.
- Die Umwandlung einer Verdachtsdiagnose in eine scheinbar gesicherte Diagnose.
- Die Ergänzung nicht dokumentierter medizinischer Informationen.
Ein KI-generierter Dokumentationsentwurf sollte deshalb vor seiner Übernahme in die Krankengeschichte sorgfältig überprüft und gegebenenfalls korrigiert werden.
Die Möglichkeit einer automatisierten Übertragung in die Praxissoftware darf nicht dazu führen, dass notwendige fachliche Kontrollschritte entfallen.
Orientierung durch die Innovation-Sandbox des Kantons Zürich
Die Innovation-Sandbox des Kantons Zürich hat sich gemeinsam mit juristischen und medizinischen Fachpersonen ausführlich mit den rechtlichen Voraussetzungen KI-gestützter medizinischer Dokumentation beschäftigt [8].
Die entsprechenden Materialien behandeln unter anderem Fragen des Datenschutzes, der Gesprächsaufzeichnung, der ärztlichen Verantwortung und der regulatorischen Einordnung medizinischer Dokumentationsassistenten.
Sie können bei der Beurteilung solcher Anwendungen als zusätzliche praxisorientierte Orientierung dienen.
Allerdings handelt es sich bei den veröffentlichten Empfehlungen nicht um eigenständige rechtsverbindliche Vorschriften. Die rechtliche Beurteilung der konkret vorgesehenen Anwendung bleibt erforderlich.
Merksatz: Ein KI-gestützter Dokumentationsassistent sollte einen ärztlich zu überprüfenden Entwurf erstellen. Die automatisierte Erfassung eines Gesprächs und die Generierung eines medizinischen Textes ersetzen weder die erforderliche Patienteninformation und Einwilligung noch die fachliche Freigabe der Dokumentation.
Künstliche Intelligenz als Medizinprodukt
Nicht jede im Gesundheitswesen verwendete Software ist automatisch ein Medizinprodukt. Entscheidend für die regulatorische Einordnung ist insbesondere die vom Hersteller festgelegte Zweckbestimmung.
Auch KI-basierte Software kann unter die Schweizer Medizinprodukteverordnung (MepV) fallen, sofern die entsprechenden Voraussetzungen erfüllt sind [9].
Der Einsatz künstlicher Intelligenz stellt dabei für sich genommen noch kein Kriterium dar, das eine Software automatisch zu einem Medizinprodukt macht.
Administrative und medizinische Zweckbestimmung
Eine Software, die ausschliesslich die sprachliche Überarbeitung medizinischer Berichte unterstützt, ist anders zu beurteilen als ein System, das patientenspezifische diagnostische oder therapeutische Empfehlungen erzeugt.
Bei der regulatorischen Beurteilung sind stets die konkreten Softwarefunktionen und die vom Hersteller vorgesehene Verwendung zu berücksichtigen.
Eine Anwendung zur medizinischen Dokumentation kann beispielsweise ausschliesslich der Erfassung, Strukturierung und sprachlichen Aufbereitung bereits vorhandener Informationen dienen.
Erweitert sich ihr Funktionsumfang dagegen um eine patientenspezifische medizinische Analyse, diagnostische Vorschläge oder therapeutische Empfehlungen, kann dies eine andere regulatorische Einordnung erforderlich machen.
| Softwarefunktion | Regulatorische Orientierung |
|---|---|
| Allgemeine Textverarbeitung | Üblicherweise keine eigenständige medizinische Zweckbestimmung. |
| Terminverwaltung und Praxisorganisation | Vorwiegend organisatorische Funktion ohne eigenständige medizinische Zweckbestimmung. |
| Medizinische Dokumentationsunterstützung | Abhängig vom Funktionsumfang und der vorgesehenen Zweckbestimmung. Eine ausschliesslich dokumentierende Funktion ist von einer zusätzlichen medizinischen Analyse zu unterscheiden. |
| Patientenspezifische diagnostische Analyse | Kann eine medizinische Zweckbestimmung aufweisen und entsprechend medizinprodukterechtlich relevant sein. |
| Automatisierte medizinische Bildanalyse | Bei diagnostischer Zweckbestimmung regelmässig medizinprodukterechtlich relevant. Die regulatorischen Anforderungen richten sich nach der konkreten Zweckbestimmung und Klassifizierung. |
Didaktische Orientierung anhand typischer Softwarefunktionen. Keine verbindliche regulatorische Einzelfallbeurteilung oder Zuordnung zu einer bestimmten Medizinprodukteklasse.
Allgemeine Sprachmodelle und spezialisierte medizinische Systeme
Allgemein zugängliche Sprachmodelle können aufgrund ihrer technischen Eigenschaften zahlreiche medizinische Fragestellungen bearbeiten und medizinisch formulierte Antworten erzeugen.
Diese Fähigkeit allein stellt jedoch keinen Nachweis dar, dass das betreffende System für eine medizinische Zweckbestimmung entwickelt, klinisch validiert oder entsprechend den medizinprodukterechtlichen Anforderungen in Verkehr gebracht wurde.
Die Möglichkeit, einen radiologischen Befund zu formulieren, eine Differenzialdiagnose zu erstellen oder ein medizinisches Bild zu analysieren, darf deshalb nicht mit einer regulatorischen oder klinischen Eignung für die betreffende diagnostische Aufgabe gleichgesetzt werden.
Insbesondere bei der Verwendung allgemein zugänglicher Sprachmodelle ausserhalb der vom Anbieter vorgesehenen Zweckbestimmung können zusätzliche medizinische und rechtliche Risiken entstehen.
Die technologischen Hintergründe und die Möglichkeiten beziehungsweise Grenzen solcher Anwendungen werden in den Beiträgen Grosse Sprachmodelle – Large Language Models (LLMs) und Grenzen künstlicher Intelligenz ausführlich dargestellt.
Konformität und klinische Eignung
Bei medizinischer Software sind gegebenenfalls die erforderlichen Konformitätsnachweise zu berücksichtigen.
Darüber hinaus sollten die wissenschaftliche Validierung, die vorgesehene Patientenpopulation, bekannte Einschränkungen und die Bedingungen der klinischen Verwendung geprüft werden.
Denn auch die regulatorische Konformität einer Software bedeutet nicht, dass diese für sämtliche medizinischen Fragestellungen oder Patientengruppen geeignet ist.
Gerade bei spezialisierten radiologischen KI-Anwendungen ist zu berücksichtigen, für welche Untersuchungsverfahren, anatomischen Regionen, diagnostischen Fragestellungen und technischen Rahmenbedingungen das jeweilige System vorgesehen ist.
Ein für die Detektion einer bestimmten Pathologie entwickeltes und entsprechendes Medizinprodukterecht erfüllendes System ist beispielsweise nicht automatisch zur umfassenden diagnostischen Beurteilung der gesamten Untersuchung geeignet.
Die klinische Verwendung muss deshalb unter Berücksichtigung der konkreten Zweckbestimmung, der Gebrauchsinformationen und der verfügbaren wissenschaftlichen Erkenntnisse erfolgen.
Grundprinzip: Die technische Fähigkeit eines KI-Systems, eine medizinische Aussage zu erzeugen, seine regulatorische Konformität und seine klinische Eignung für eine konkrete Fragestellung sind unterschiedliche Aspekte, die separat beurteilt werden müssen.
Ärztliche Verantwortung und Haftung
Die Verwendung künstlicher Intelligenz verändert die verfügbaren Möglichkeiten zur Informationsverarbeitung. Sie hebt jedoch die ärztlichen Sorgfaltspflichten nicht auf.
Insbesondere muss beurteilt werden, ob das verwendete System für die vorgesehene Aufgabe geeignet ist und in welchem Umfang eine fachliche Kontrolle seiner Ergebnisse erforderlich ist.
Die Verwendung künstlicher Intelligenz ist deshalb nicht ausschliesslich als technische Unterstützung, sondern auch im Zusammenhang mit der Verantwortung für die Gestaltung und Durchführung medizinischer Arbeitsprozesse zu betrachten.
Verantwortung innerhalb des eigenen Kontrollbereichs
Der gemeinsame rechtliche Leitfaden von SAMW und FMH betrachtet die Haftung beim Einsatz künstlicher Intelligenz insbesondere im Zusammenhang mit dem fachlichen Kontrollbereich der behandelnden Ärzte [10].
Dabei können sowohl die Auswahl des Systems als auch die Überprüfung und konkrete Verwendung seiner Ergebnisse relevant sein.
Zu den ärztlich zu berücksichtigenden Aspekten können insbesondere gehören:
- Die Eignung der verwendeten Anwendung für die vorgesehene medizinische Aufgabe.
- Die Berücksichtigung der vorgesehenen medizinischen Zweckbestimmung.
- Die Beachtung bekannter technischer und klinischer Einschränkungen.
- Die ausreichende Qualität der zugrunde liegenden medizinischen Informationen.
- Die angemessene Kontrolle der erzeugten Ergebnisse.
- Die eigenständige Beurteilung diagnostischer und therapeutischer Konsequenzen.
- Die nachvollziehbare Dokumentation behandlungsrelevanter Entscheidungen.
Eine mögliche Haftung von Herstellern, Anbietern, Betreibern oder medizinischen Einrichtungen bleibt davon unberührt.
Die Verwendung eines KI-Systems bedeutet somit nicht zwangsläufig, dass behandelnde Ärzte für sämtliche technischen Fehler unabhängig von deren Erkennbarkeit und den jeweiligen Umständen verantwortlich sind.
Die rechtliche Beurteilung hängt vielmehr vom konkreten Sachverhalt, den jeweiligen Zuständigkeiten und den anwendbaren rechtlichen Bestimmungen ab.
Die Übernahme KI-generierter Ergebnisse
Übernimmt ein Arzt eine KI-generierte Aussage in seine medizinische Beurteilung, muss er sich mit deren fachlichem Inhalt auseinandersetzen.
Dies gilt insbesondere für diagnostische Aussagen, therapeutische Empfehlungen, Medikationsangaben und medizinisch relevante prognostische Einschätzungen.
Die Tatsache, dass eine Information durch ein KI-System erzeugt wurde, stellt für sich genommen keine Rechtfertigung für ihre ungeprüfte Übernahme dar.
Auch die Übereinstimmung einer KI-generierten Aussage mit der vorläufigen ärztlichen Einschätzung stellt keinen unabhängigen Nachweis ihrer Richtigkeit dar.
Sprachmodelle können dazu neigen, bereits innerhalb des Arbeitsauftrages formulierte Annahmen zu übernehmen oder zu bestätigen.
Diese als Sycophancy bezeichnete Problematik wird im Beitrag Wenn KI uns recht gibt ausführlich erläutert.
Automation Bias – die unkritische Übernahme automatisierter Vorschläge
Eine besondere Herausforderung besteht darin, dass Menschen dazu neigen können, technisch erzeugten Empfehlungen ein übermässiges Vertrauen entgegenzubringen.
Dieses Phänomen wird als Automation Bias bezeichnet.
Im medizinischen Alltag kann dies bedeuten, dass eine überzeugend formulierte KI-Antwort weniger kritisch hinterfragt wird als eine vergleichbare Aussage aus einer anderen Informationsquelle.
Dabei lassen sich zwei unterschiedliche Formen entsprechender Fehler unterscheiden.
- Commission Errors: Eine unzutreffende automatisierte Empfehlung wird übernommen, obwohl die zugrunde liegenden medizinischen Informationen Anlass zu einer kritischen Überprüfung geben.
- Omission Errors: Eine medizinisch relevante Information oder Pathologie wird übersehen, weil das unterstützende System keinen entsprechenden Hinweis erzeugt hat.
In der Radiologie kann ein Automation Bias beispielsweise dazu führen, dass eine durch ein KI-System markierte Struktur unkritisch als pathologischer Befund interpretiert wird.
Umgekehrt besteht die Gefahr, dass ein nicht markierter pathologischer Befund weniger aufmerksam gesucht oder fälschlicherweise als ausgeschlossen betrachtet wird.
Deshalb sollte insbesondere bei klinisch relevanten Fragestellungen, soweit es der vorgesehene Arbeitsprozess erlaubt, zunächst eine eigenständige ärztliche Beurteilung erfolgen.
Anschliessend können geeignete KI-Anwendungen als zusätzliche Informations- oder Reflexionshilfe eingesetzt werden.
Auch bei Arbeitsabläufen, in denen eine KI-Analyse der ärztlichen Beurteilung vorausgeht, müssen geeignete Mechanismen zur unabhängigen fachlichen Kontrolle bestehen.
Mehrere KI-Meinungen ersetzen kein ärztliches Konsilium
Durch die Verwendung unterschiedlicher Sprachmodelle oder die Simulation verschiedener fachlicher Betrachtungsperspektiven können zusätzliche medizinische Überlegungen entwickelt werden.
Allerdings darf die Übereinstimmung mehrerer KI-generierter Antworten nicht mit einer unabhängigen fachärztlichen Bestätigung einer Diagnose gleichgesetzt werden.
Unterschiedliche Modelle können vergleichbare Fehler aufweisen, ähnliche Trainingsinformationen verwenden oder durch dieselben unzutreffenden Ausgangsannahmen beeinflusst werden.
Auch mehrere innerhalb eines Sprachmodells simulierte Expertenperspektiven stellen keine tatsächlich voneinander unabhängigen medizinischen Fachpersonen dar.
Die Möglichkeiten und Grenzen dieses methodischen Ansatzes werden im Beitrag KI als virtuelle Expertenrunde ausführlich dargestellt.
Merksatz: Die Delegation eines Arbeitsschrittes an künstliche Intelligenz ist nicht mit der Delegation der ärztlichen Verantwortung gleichzusetzen. KI-generierte Vorschläge müssen entsprechend ihrer medizinischen Bedeutung eigenständig und fachlich angemessen beurteilt werden.
Qualitätskontrolle und medizinische Dokumentation
Die Qualität KI-generierter Inhalte sollte nicht anhand ihrer sprachlichen Überzeugungskraft beurteilt werden. Vielmehr müssen die medizinische Richtigkeit, die Vollständigkeit der Informationen und der Erhalt diagnostischer Unsicherheiten im Vordergrund stehen.
Hierfür empfiehlt sich eine strukturierte, an die jeweilige Aufgabe angepasste Qualitätskontrolle.
Fünf Schritte zur Kontrolle medizinischer KI-Ergebnisse
Sind die eingegebenen medizinischen Informationen korrekt, ausreichend und für die Fragestellung geeignet? Ist ihre Bearbeitung innerhalb der verwendeten Anwendung zulässig?
Wurden relevante Informationen ausgelassen, verändert oder ohne Grundlage ergänzt? Sind Zahlenwerte, Einheiten, Arzneimittelbezeichnungen und Zeitangaben korrekt wiedergegeben?
Sind diagnostische und therapeutische Aussagen fachlich plausibel und durch geeignete medizinische Informationsquellen ausreichend belegt? Wurden klinisch relevante Alternativen und Warnzeichen angemessen berücksichtigt?
Wurden Vermutungen, Differenzialdiagnosen und gesicherte Befunde korrekt voneinander abgegrenzt? Sind fehlende Informationen und relevante Einschränkungen nachvollziehbar dargestellt?
Erst nach ausreichender Kontrolle und gegebenenfalls notwendiger Korrektur dürfen die medizinisch relevanten Inhalte entsprechend ihrem vorgesehenen Zweck weiterverwendet werden.
Eigener didaktischer Vorschlag für eine strukturierte fachliche Kontrolle. Kein wissenschaftlich validiertes Qualitätssicherungsinstrument. Der erforderliche Kontrollumfang richtet sich nach der konkreten Anwendung und den möglichen medizinischen Konsequenzen eines Fehlers.
Standardisierte Arbeitsanweisungen zur Qualitätssicherung
Bei wiederkehrenden medizinischen Arbeitsprozessen können standardisierte Arbeitsanweisungen dazu beitragen, die Anforderungen an die erzeugten Ergebnisse einheitlich zu definieren.
Hierzu können beispielsweise verbindliche Vorgaben zur Übernahme medizinischer Originalinformationen, zur Kennzeichnung diagnostischer Unsicherheiten und zur abschliessenden fachlichen Kontrolle gehören.
Solche Anforderungen lassen sich unter anderem in geeigneten Musterprompts oder umfassenderen Masterprompts formulieren.
Dabei ist jedoch zu berücksichtigen, dass ein Sprachmodell ausdrückliche Anweisungen zur Qualitätssicherung nicht zwangsläufig vollständig und zuverlässig umsetzt.
Eine durch das Sprachmodell selbst durchgeführte Ergebniskontrolle stellt zudem keine unabhängige fachliche Überprüfung dar.
Weiterführende Informationen zur Entwicklung standardisierter Arbeitsanweisungen finden Sie im Beitrag Vom Prompt zum Masterprompt.
Wissenschaftliche Aussagen und Literaturreferenzen überprüfen
Besondere Aufmerksamkeit erfordern KI-generierte wissenschaftliche Aussagen, Literaturreferenzen und quantitative Studienergebnisse.
Sprachmodelle können bibliografische Angaben erzeugen, die formal überzeugend erscheinen, jedoch unvollständig, fehlerhaft oder vollständig erfunden sind.
Auch tatsächlich existierende wissenschaftliche Publikationen können inhaltlich unzutreffend wiedergegeben oder hinsichtlich ihrer klinischen Bedeutung überinterpretiert werden.
Medizinisch relevante wissenschaftliche Aussagen sollten deshalb anhand geeigneter Originalquellen oder anderer verlässlicher medizinischer Informationsquellen überprüft werden.
Dies betrifft insbesondere Aussagen, aus denen diagnostische oder therapeutische Konsequenzen abgeleitet werden.
Die methodischen Voraussetzungen einer KI-gestützten wissenschaftlichen Recherche werden im Beitrag KI und medizinische Literaturrecherche ausführlich dargestellt.
Dokumentation des KI-Einsatzes
Hat ein KI-generiertes Ergebnis relevante Auswirkungen auf die medizinische Behandlung, sollten die entsprechenden Informationen angemessen nachvollziehbar dokumentiert werden.
Je nach Bedeutung des Einsatzes können hierbei die verwendete Anwendung, der Zweck ihrer Nutzung, die relevanten Ergebnisse und deren ärztliche Bewertung von Interesse sein.
Die FMH weist darauf hin, dass patientenbezogene und behandlungsrelevante KI-Ergebnisse in der Krankengeschichte dokumentiert werden sollen [5].
Allerdings ist daraus keine allgemeine Verpflichtung abzuleiten, sämtliche rein sprachlichen oder administrativen Bearbeitungsschritte vollständig zu archivieren.
Der Umfang der Dokumentation muss sich an der konkreten medizinischen und rechtlichen Relevanz orientieren.
Bei der Verwendung eines KI-Systems zur Unterstützung einer klinisch relevanten Entscheidung können insbesondere folgende Angaben sinnvoll sein:
- Die verwendete KI-Anwendung und gegebenenfalls die relevante Modell- oder Softwareversion.
- Der Zeitpunkt und der Zweck ihrer Verwendung.
- Die für die Entscheidungsfindung relevanten KI-generierten Informationen.
- Die vorgenommenen fachlichen Überprüfungen und gegebenenfalls erforderlichen Korrekturen.
- Die abschliessende ärztliche Beurteilung.
- Die diagnostischen oder therapeutischen Konsequenzen.
Die Dokumentation sollte dabei nachvollziehbar erkennen lassen, welche Aussagen auf ärztlich erhobenen Befunden, auf KI-generierten Vorschlägen oder auf anderen medizinischen Informationsquellen beruhen.
Gleichzeitig sollte vermieden werden, dass durch eine unverhältnismässige Speicherung vollständiger Eingaben, Gesprächstranskripte oder KI-generierter Inhalte zusätzliche datenschutzrechtliche Risiken entstehen.
Praxisinterne Qualitätsstandards
Für regelmässig verwendete KI-Anwendungen empfiehlt sich die Entwicklung praxisinterner Qualitätsstandards.
Diese sollten insbesondere festlegen, für welche Aufgaben die jeweilige Anwendung freigegeben wurde, welche Personen zu ihrer Verwendung berechtigt sind und welche Kontrollschritte vor einer weiteren Verwendung der Ergebnisse erforderlich sind.
Darüber hinaus sollten Kriterien definiert werden, bei deren Nichterfüllung eine KI-generierte Information nicht übernommen oder die betreffende Anwendung vorübergehend nicht weiterverwendet werden darf.
Hierzu können beispielsweise wiederholt auftretende medizinisch relevante Fehler, nicht nachvollziehbare diagnostische Aussagen oder unzulässige Datenbearbeitungsvorgänge gehören.
Die ausgewählten Qualitätsstandards sollten in regelmässigen Abständen und bei wesentlichen technischen Änderungen des Systems überprüft werden.
Praxisempfehlung: Definieren Sie für jeden KI-gestützten medizinischen Arbeitsprozess geeignete Qualitätskriterien, fachliche Zuständigkeiten und verbindliche Freigabeschritte. Der erforderliche Kontrollaufwand richtet sich insbesondere nach den möglichen Auswirkungen eines fehlerhaften Ergebnisses.
Ethische Aspekte künstlicher Intelligenz
Neben rechtlichen und technischen Voraussetzungen sollten beim Einsatz künstlicher Intelligenz auch grundlegende medizinethische Überlegungen berücksichtigt werden.
Hierzu gehören insbesondere die Autonomie der Patienten, die Vermeidung von Schäden, die Förderung des Patientenwohls und eine gerechte medizinische Versorgung.
Diese vier klassischen medizinethischen Prinzipien behalten auch unter den Bedingungen einer zunehmend digitalisierten und KI-gestützten Medizin ihre Bedeutung.
Autonomie und Transparenz
Patientinnen und Patienten sollten entsprechend der Bedeutung einer KI-Anwendung verstehen können, welche Rolle diese in ihrer medizinischen Versorgung spielt.
Insbesondere bei relevanten diagnostischen und therapeutischen Entscheidungen muss nachvollziehbar bleiben, wer die Entscheidung trifft und welche Informationen ihr zugrunde liegen.
Die Verwendung einer KI-Anwendung sollte nicht dazu führen, dass Patienten den Eindruck gewinnen, eine medizinische Empfehlung sei allein aufgrund ihrer technischen Herkunft objektiver oder zuverlässiger als eine ärztliche Beurteilung.
Vielmehr sollten relevante Unsicherheiten, Einschränkungen und gegebenenfalls verfügbare Alternativen in einer verständlichen Form kommuniziert werden.
Die Autonomie der Patienten umfasst auch die Möglichkeit, Fragen zum Einsatz künstlicher Intelligenz zu stellen und sich im Rahmen der rechtlichen und medizinischen Gegebenheiten an der Entscheidungsfindung zu beteiligen.
Vermeidung von Schäden und Förderung des Patientenwohls
Der Einsatz künstlicher Intelligenz sollte sich an einem nachvollziehbaren medizinischen oder organisatorischen Nutzen orientieren.
Eine Anwendung kann beispielsweise dazu beitragen, medizinische Informationen besser zu strukturieren, administrative Arbeitsabläufe zu vereinfachen oder zusätzliche diagnostische Betrachtungsperspektiven zu eröffnen.
Gleichzeitig können fehlerhafte Ergebnisse, übersehene medizinische Informationen und unzureichend kontrollierte automatisierte Empfehlungen zusätzliche Risiken für Patienten verursachen.
Auch datenschutzrechtliche Verletzungen können erhebliche Auswirkungen auf das Wohlbefinden, die persönliche Integrität und das Vertrauen betroffener Personen haben.
Die Einführung künstlicher Intelligenz sollte deshalb nicht ausschliesslich aufgrund ihrer technischen Leistungsfähigkeit erfolgen. Vielmehr müssen der erwartete Nutzen und die möglichen Risiken im Zusammenhang mit dem konkreten medizinischen Arbeitsprozess beurteilt werden.
Vermeidung von Benachteiligungen
KI-Systeme können Verzerrungen aus ihren Trainingsdaten übernehmen. Dadurch besteht beispielsweise die Möglichkeit, dass unterschiedliche Altersgruppen, Bevölkerungsgruppen oder klinische Konstellationen nicht gleichermassen zuverlässig berücksichtigt werden.
Solche Verzerrungen können unter anderem durch eine unzureichende Repräsentation bestimmter Patientengruppen, unterschiedliche Datenqualitäten oder bereits innerhalb der Ausgangsdaten vorhandene Ungleichheiten entstehen.
Auch bei radiologischen KI-Anwendungen können Unterschiede zwischen den Entwicklungs- und Validierungsdaten einerseits und der tatsächlich untersuchten Patientenpopulation andererseits die klinische Leistungsfähigkeit beeinflussen.
Medizinische Anwendungen sollten deshalb hinsichtlich ihrer Eignung für die tatsächlich betreute Patientenpopulation beurteilt werden.
Darüber hinaus sollten Patienten, die aufgrund persönlicher Präferenzen, sprachlicher Schwierigkeiten oder fehlender technischer Möglichkeiten bestimmte digitale Anwendungen nicht nutzen möchten oder können, nicht ohne sachlich gerechtfertigten Grund medizinisch benachteiligt werden.
Bewahrung der persönlichen Arzt-Patienten-Beziehung
Eine mögliche zeitliche Entlastung durch künstliche Intelligenz kann zusätzliche Ressourcen für die persönliche Patientenbetreuung schaffen.
Andererseits besteht die Gefahr, dass technische Systeme zunehmend zwischen Arzt und Patient treten.
Gerade bei komplexen Erkrankungen, belastenden Diagnosen und individuellen Therapieentscheidungen bleibt die persönliche ärztliche Kommunikation von zentraler Bedeutung.
Ein Sprachmodell kann medizinische Informationen sprachlich verständlich aufbereiten oder Vorschläge für eine empathische Formulierung erzeugen.
Es kann jedoch nicht die persönliche Kenntnis des Patienten, die individuelle ärztliche Erfahrung oder die zwischenmenschliche Verantwortung innerhalb einer konkreten Behandlungssituation ersetzen.
Die Einführung künstlicher Intelligenz sollte deshalb nicht allein anhand wirtschaftlicher Kriterien bewertet werden.
Ebenso relevant sind ihre Auswirkungen auf die Qualität der Versorgung, die Autonomie der Patienten und die Integrität der Arzt-Patienten-Beziehung.
Verantwortungsvoller Umgang mit technischen Ressourcen
Auch der Ressourcenverbrauch digitaler Technologien gehört zu den Aspekten einer verantwortungsvollen Verwendung künstlicher Intelligenz.
Die FMH berücksichtigt in ihren Empfehlungen zum Umgang mit grossen Sprachmodellen auch die ökologische Verantwortung beim Einsatz entsprechender Systeme [6].
Nicht jede Aufgabe erfordert die Verwendung besonders leistungsfähiger Modelle oder umfangreicher automatisierter Bearbeitungsvorgänge.
Eine angemessene Auswahl technischer Ressourcen, präzise formulierte Arbeitsaufträge und die Vermeidung unnötiger Wiederholungen können dazu beitragen, einen unverhältnismässigen Einsatz entsprechender Systeme zu begrenzen.
Der Ressourcenverbrauch sollte dabei gemeinsam mit dem erwarteten medizinischen und organisatorischen Nutzen betrachtet werden, ohne die erforderliche Qualität oder Sicherheit der jeweiligen Anwendung zu beeinträchtigen.
Medizinethisches Grundprinzip: Künstliche Intelligenz sollte nicht zum Selbstzweck eingesetzt werden. Ihre Verwendung muss sich am Patientenwohl, an der Vermeidung von Schäden, an der Wahrung der Patientenautonomie und an einer verantwortungsvollen medizinischen Versorgung orientieren.
Typische Situationen aus dem ärztlichen Alltag
Die datenschutzrechtlichen und medizinischen Anforderungen lassen sich anhand typischer Anwendungssituationen besonders anschaulich verdeutlichen.
Dabei wird deutlich, dass unterschiedliche KI-Anwendungen selbst innerhalb derselben Arztpraxis sehr unterschiedliche Anforderungen an den Datenschutz, die medizinische Qualitätskontrolle und die ärztliche Verantwortung stellen können.
Die nachfolgenden Beispiele sind frei erfunden und dienen ausschliesslich der Fortbildung. Sie stellen keine verbindliche Beurteilung einzelner Produkte oder konkreter rechtlicher Sachverhalte dar.
01 – Erstellung eines allgemeinen Patienteninformationsblattes
Situation: Eine Hausarztpraxis möchte mithilfe eines Sprachmodells ein allgemein verständliches Informationsblatt über arterielle Hypertonie erstellen.
Datenschutz: Für diese Aufgabe sind keine personenbezogenen Patienteninformationen erforderlich. Auch andere vertrauliche Informationen aus dem Praxisalltag müssen nicht übermittelt werden.
Medizinische Qualität: Die Informationen müssen hinsichtlich ihrer medizinischen Richtigkeit, Aktualität und Verständlichkeit überprüft werden. Allgemeine Empfehlungen sollten mit aktuellen medizinischen Leitlinien vereinbar sein.
Beurteilung: Vergleichsweise gut geeignete Einstiegsanwendung, sofern keine vertraulichen Informationen übermittelt werden und eine fachliche Freigabe vor der Weitergabe an Patienten erfolgt.
Merksatz: Nicht jede medizinische KI-Anwendung erfordert die Bearbeitung personenbezogener Gesundheitsdaten.
02 – Hochladen eines vollständigen Entlassungsberichtes
Situation: Ein vollständiger Spitalbericht soll mithilfe eines allgemein zugänglichen Sprachmodells zusammengefasst werden.
Datenschutz: Das Dokument enthält identifizierende Angaben und besonders schützenswerte medizinische Informationen. Auch ausserhalb des sichtbaren Dokumentinhaltes können personenbezogene Informationen vorhanden sein.
Medizinische Qualität: Die Zusammenfassung kann wichtige Informationen auslassen, zeitliche Zusammenhänge verändern oder medizinische Aussagen unzutreffend wiedergeben. Besonders relevant sind hierbei Diagnosen, Medikationsänderungen und Empfehlungen zur weiteren Behandlung.
Beurteilung: Ohne geprüfte rechtliche und technische Voraussetzungen darf der personenbezogene Bericht nicht an das externe System übermittelt werden. Gegebenenfalls kann eine vorab unter geeigneten Bedingungen erstellte, ausreichend anonymisierte Zusammenfassung verwendet werden.
Merksatz: Auch eine rein administrative oder sprachliche Bearbeitung medizinischer Dokumente kann eine datenschutzrechtlich relevante Verarbeitung besonders schützenswerter Personendaten darstellen.
03 – Diskussion einer abstrahierten klinischen Fallvignette
Situation: Ein Arzt möchte ergänzende differenzialdiagnostische Überlegungen zu einer klinischen Konstellation erhalten.
Datenschutz: Die Informationen werden vor der Eingabe unter geeigneten Bedingungen so abstrahiert, dass eine Zuordnung zu einer konkreten Person mit vernünftigerweise verfügbaren Mitteln nicht mehr möglich ist. Medizinisch relevante Informationen müssen dabei erhalten bleiben.
Medizinische Qualität: Das Sprachmodell kann falsche, unvollständige oder unangemessen gewichtete Differenzialdiagnosen erzeugen. Auch schwerwiegende Erkrankungen können übersehen werden. Bereits im Arbeitsauftrag formulierte diagnostische Vermutungen können die Antwort beeinflussen.
Beurteilung: Eine mögliche ergänzende Reflexionshilfe, sofern eine ausreichende Anonymisierung, die Eignung der Anwendung und eine unabhängige ärztliche Prüfung gewährleistet sind. Die KI-Anfrage darf notwendige diagnostische oder therapeutische Massnahmen nicht verzögern.
Merksatz: Eine KI-generierte Differenzialdiagnose erweitert möglicherweise den ärztlichen Betrachtungshorizont, stellt jedoch keine unabhängige diagnostische Bestätigung dar.
04 – Hochladen einer radiologischen Untersuchung
Situation: Eine radiologische Aufnahme soll durch eine multimodale KI-Anwendung beurteilt werden.
Datenschutz: Neben sichtbaren Patienteninformationen können DICOM-Metadaten, eingebrannte Identifikatoren oder andere identifizierende Bildinformationen vorhanden sein. Auch die Konvertierung in ein anderes Bildformat gewährleistet keine vollständige Anonymisierung.
Medizinische Qualität: Die Fähigkeit zur Bildverarbeitung ist nicht mit einer ausreichenden diagnostischen Validierung gleichzusetzen. Allgemeine multimodale Sprachmodelle können radiologische Befunde übersehen, anatomische Strukturen verwechseln oder nicht vorhandene Pathologien beschreiben.
Beurteilung: Datenschutzrechtliche Eignung, medizinische Zweckbestimmung und diagnostische Leistungsfähigkeit müssen unabhängig voneinander geprüft werden. Eine allgemeine Bildanalysefunktion ersetzt keine fachärztliche Befundung.
Merksatz: Die technische Fähigkeit eines KI-Systems, radiologische Bilder zu analysieren, stellt keinen Nachweis seiner diagnostischen Eignung dar.
05 – Überprüfung einer komplexen Medikation
Situation: Ein Sprachmodell soll eine umfangreiche Medikamentenliste auf mögliche Interaktionen untersuchen.
Datenschutz: Neben direkten Identifikatoren können auch seltene Medikamentenkombinationen in Verbindung mit weiteren klinischen Angaben zum Personenbezug beitragen.
Medizinische Qualität: Übersehene Interaktionen, falsche Dosierungsangaben und veraltete Arzneimittelinformationen können erhebliche Folgen haben. Zudem können für die Beurteilung relevante Informationen wie Nierenfunktion, Leberfunktion, Begleiterkrankungen und weitere eingenommene Substanzen fehlen.
Beurteilung: Eine allgemeine KI-Anwendung ersetzt keine geeignete, aktuelle Arzneimitteldatenbank und keine fachlich abgesicherte Medikationsprüfung. Insbesondere dürfen aus einer ungeprüften KI-Antwort keine unmittelbaren Medikationsänderungen abgeleitet werden.
Merksatz: Eine nicht durch künstliche Intelligenz erkannte Arzneimittelinteraktion ist nicht mit dem Ausschluss einer Interaktion gleichzusetzen.
06 – Automatische Dokumentation eines Patientengesprächs
Situation: Ein digitales Dokumentationssystem zeichnet die Konsultation auf und erstellt daraus einen medizinischen Bericht.
Datenschutz: Es werden besonders sensible Gesprächsinhalte und möglicherweise weitere personenbezogene Informationen verarbeitet. Audioaufzeichnungen, Transkriptionen und die abschliessende medizinische Dokumentation müssen hinsichtlich ihrer jeweiligen Datenbearbeitung getrennt beurteilt werden.
Medizinische Qualität: Fehlinterpretationen, Auslassungen und falsche Zuordnungen von Gesprächsinhalten sind möglich. Insbesondere können anamnestische Angaben mit ärztlich erhobenen Befunden verwechselt oder medizinische Unsicherheiten unzutreffend wiedergegeben werden.
Beurteilung: Erforderlich sind ein geeignetes System, eine zulässige Datenbearbeitung, eine angemessene Patienteninformation und die notwendigen Einwilligungen. Bei der Aufzeichnung nichtöffentlicher Gespräche ist grundsätzlich vor Beginn der Aufnahme die Einwilligung sämtlicher Gesprächsteilnehmer einzuholen, sofern keine gesetzliche Ausnahme vorliegt. Vor der Übernahme in die Krankengeschichte muss eine zuverlässige ärztliche Ergebniskontrolle erfolgen.
Merksatz: Die automatisch erzeugte Konsultationsnotiz ist zunächst ein Dokumentationsentwurf und keine abschliessend freigegebene medizinische Dokumentation.
07 – Automatisierte medizinische Patientenanfragen
Situation: Ein KI-Chatbot soll Patientenanfragen beantworten und gegebenenfalls über die Dringlichkeit einer Konsultation entscheiden.
Datenschutz: Patienten können umfangreiche vertrauliche Gesundheitsinformationen eingeben. Die Bearbeitungszwecke, die beteiligten Dienstleister, die Speicherung der Informationen und die Zugriffsrechte müssen deshalb eindeutig geregelt sein.
Medizinische Qualität: Eine fehlerhafte Dringlichkeitseinschätzung kann zu einer verzögerten medizinischen Versorgung führen. Auch missverständliche Beschreibungen von Symptomen, fehlende klinische Informationen und sprachliche Schwierigkeiten können die Zuverlässigkeit der Einschätzung beeinträchtigen.
Beurteilung: Besonders anspruchsvoller Anwendungsbereich mit erhöhten Anforderungen an die regulatorische Einordnung, klinische Validierung, Eskalationsmechanismen und medizinische Aufsicht. Bei ausschliesslich automatisiert getroffenen Entscheidungen sind gegebenenfalls auch die besonderen datenschutzrechtlichen Anforderungen gemäss Art. 21 DSG zu berücksichtigen. Patienten müssen bei potenziell dringlichen Erkrankungen einen geeigneten Zugang zu medizinischen Fachpersonen beziehungsweise zur Notfallversorgung haben.
Merksatz: Ein administrativer Praxis-Chatbot ist hinsichtlich seiner medizinischen Risiken grundsätzlich anders zu beurteilen als ein System zur automatisierten diagnostischen Einschätzung oder medizinischen Triage.
Die dargestellten Beispiele verdeutlichen, dass sich die Eignung einer KI-Anwendung nur im Zusammenhang mit ihrer konkreten Verwendung beurteilen lässt.
Während bei einem allgemeinen Patienteninformationsblatt insbesondere die fachliche Qualität der erzeugten Inhalte im Vordergrund steht, müssen bei der Verarbeitung vertraulicher Patientendaten oder bei der Unterstützung klinischer Entscheidungen zusätzliche Anforderungen berücksichtigt werden.
Weitere praktische Anwendungsmöglichkeiten werden im Beitrag Künstliche Intelligenz in der Hausarztpraxis ausführlich erläutert.
Was tun bei einer Datenschutzverletzung?
Auch bei sorgfältiger Organisation kann es vorkommen, dass vertrauliche medizinische Informationen unbeabsichtigt an eine ungeeignete KI-Anwendung übermittelt werden.
Beispielsweise kann ein Mitarbeiter versehentlich einen vollständigen Arztbericht statt einer anonymisierten Zusammenfassung hochladen oder medizinische Informationen innerhalb eines nicht für diese Datenbearbeitung freigegebenen Benutzerkontos eingeben.
In einer solchen Situation sollte der Vorfall weder ignoriert noch allein durch das Löschen des sichtbaren Chatverlaufs als erledigt betrachtet werden.
Je nach technischer Umsetzung können die übermittelten Informationen weiterhin auf externen Servern, in Protokolldateien oder in anderen technischen Systemen vorhanden sein.
Strukturiertes Vorgehen bei einem Vorfall
- Weitere Datenübertragungen unterbinden: Die unzulässige Verwendung der betreffenden Anwendung unverzüglich beenden und gegebenenfalls weitere Zugriffe auf die betroffenen Informationen einschränken.
- Art und Umfang des Vorfalls feststellen: Ermitteln, welche Informationen betroffen sind, wann sie übermittelt wurden und welche Personen identifiziert werden können.
- Anwendung und Datenempfänger identifizieren: Die verwendete Software, das Benutzerkonto, mögliche Datenempfänger und relevante Einstellungen zur Speicherung und Weiterverarbeitung feststellen.
- Verantwortliche Personen informieren: Die innerhalb der Praxis zuständigen Personen unverzüglich benachrichtigen und bei Bedarf den Anbieter sowie geeignete Datenschutz- oder IT-Sicherheitsfachpersonen hinzuziehen.
- Folgen begrenzen: Möglichkeiten zur Sperrung, Löschung oder sonstigen Begrenzung der weiteren Datenbearbeitung prüfen. Gegebenenfalls sind geeignete Nachweise über die ergriffenen Massnahmen einzuholen.
- Vorfall dokumentieren: Den zeitlichen Ablauf, die betroffenen Datenkategorien, die Risikobeurteilung und die ergriffenen Massnahmen nachvollziehbar festhalten. Erforderliche Beweisinformationen sollten unter geeigneten Sicherheitsbedingungen erhalten bleiben.
- Gesetzliche Melde- und Informationspflichten beurteilen: Prüfen, ob eine Meldung an den EDÖB und eine Information der betroffenen Personen oder weitere rechtliche Massnahmen erforderlich sind.
Wann muss der EDÖB informiert werden?
Nach Art. 24 DSG muss der Verantwortliche dem Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten eine Verletzung der Datensicherheit so rasch als möglich melden, wenn diese voraussichtlich zu einem hohen Risiko für die Persönlichkeit oder die Grundrechte der betroffenen Personen führt [1].
Eine Verletzung der Datensicherheit kann insbesondere vorliegen, wenn Personendaten unbeabsichtigt oder widerrechtlich verloren gehen, gelöscht, vernichtet oder verändert beziehungsweise Unbefugten offengelegt oder zugänglich gemacht werden.
Nicht jeder datenschutzrechtliche Verstoss ist automatisch eine meldepflichtige Verletzung der Datensicherheit. Entscheidend sind die konkreten Umstände und das daraus resultierende Risiko für die betroffenen Personen.
Bei der Risikobeurteilung können insbesondere folgende Aspekte von Bedeutung sein:
- Die Sensibilität und der Umfang der betroffenen Informationen.
- Die Anzahl der möglicherweise betroffenen Personen.
- Die Möglichkeit einer direkten oder indirekten Identifizierung.
- Die tatsächlichen und potenziellen Datenempfänger.
- Die Möglichkeiten einer weiteren Verbreitung oder missbräuchlichen Verwendung.
- Die möglichen gesundheitlichen, persönlichen, beruflichen oder sozialen Auswirkungen.
- Die Wirksamkeit bereits ergriffener Schutzmassnahmen.
Ein Auftragsbearbeiter muss dem Verantwortlichen eine Verletzung der Datensicherheit so rasch als möglich melden.
Die betroffenen Personen sind durch den Verantwortlichen zu informieren, wenn dies zu ihrem Schutz erforderlich ist oder der EDÖB dies verlangt. Die gesetzlich vorgesehenen Möglichkeiten einer Einschränkung, eines Aufschubs oder eines Verzichts auf die Information sind gegebenenfalls zu berücksichtigen.
Zusätzlich können sich aus dem ärztlichen Berufsgeheimnis, aus vertraglichen Verpflichtungen oder aus weiteren anwendbaren Bestimmungen zusätzliche Anforderungen ergeben.
Anders als die europäische Datenschutz-Grundverordnung sieht Art. 24 des Schweizer Datenschutzgesetzes keine allgemein festgelegte Meldefrist von 72 Stunden vor. Die gesetzlich erforderliche Meldung hat vielmehr so rasch als möglich zu erfolgen.
Sofern weitere Datenschutzbestimmungen, insbesondere die europäische Datenschutz-Grundverordnung, auf die konkrete Datenbearbeitung anwendbar sind, müssen deren Anforderungen gesondert berücksichtigt werden.
Wichtig: Das Löschen einer KI-Konversation bedeutet nicht zwangsläufig, dass sämtliche bereits übermittelten Informationen aus allen beteiligten technischen Systemen entfernt wurden. Ein möglicher Datenschutzvorfall muss unabhängig davon beurteilt und gegebenenfalls gemeldet werden.
Aus Datenschutzvorfällen lernen
Neben der unmittelbaren Begrenzung möglicher Folgen sollte auch untersucht werden, wodurch der Vorfall begünstigt wurde.
Mögliche Ursachen können unzureichend definierte Nutzungsvorgaben, fehlende Schulungen, eine Verwechslung verschiedener Benutzerkonten oder technisch nicht ausreichend abgesicherte Arbeitsabläufe sein.
Abhängig von der festgestellten Ursache können organisatorische Anpassungen, zusätzliche technische Schutzmassnahmen oder eine erneute Schulung des Praxisteams erforderlich sein.
Ziel sollte nicht allein die Bearbeitung eines einzelnen Vorfalls sein, sondern auch die Vermeidung vergleichbarer zukünftiger Ereignisse.
Checkliste für den KI-Einsatz in der Arztpraxis
Vor der Einführung einer KI-Anwendung sollten die wesentlichen Voraussetzungen überprüft und innerhalb der Praxis verbindlich geregelt werden.
Dabei empfiehlt es sich, nicht lediglich eine bestimmte Software grundsätzlich freizugeben, sondern die Freigabe mit konkreten Arbeitsprozessen, zulässigen Datenkategorien und erforderlichen fachlichen Kontrollmassnahmen zu verbinden.
Die folgende Checkliste dient als Orientierung für die interne Vorbereitung. Sie kann entsprechend der Grösse der Praxis, der technischen Infrastruktur und dem vorgesehenen Anwendungsbereich erweitert werden.
01 – Zweck und Anwendungsbereich
☐ Der vorgesehene Arbeitsprozess ist eindeutig definiert.
☐ Die medizinische und organisatorische Eignung des Systems wurde beurteilt.
☐ Nicht zugelassene Anwendungsbereiche wurden festgelegt.
02 – Datenschutz und Berufsgeheimnis
☐ Die verarbeiteten Datenkategorien sind bekannt.
☐ Die Datenbearbeitung und gegebenenfalls erforderlichen Rechtfertigungsgründe wurden geprüft.
☐ Die Anforderungen des Berufsgeheimnisses werden berücksichtigt.
☐ Die Notwendigkeit einer Datenschutz-Folgenabschätzung wurde abgeklärt.
03 – Anbieter und technische Infrastruktur
☐ Verarbeitungsstandorte und mögliche Unterauftragnehmer sind bekannt.
☐ Erforderliche vertragliche Regelungen zur Auftragsbearbeitung liegen vor.
☐ Speicherung, Weiterverarbeitung und Löschung der Informationen sind geregelt.
☐ Angemessene Zugriffsschutz- und Sicherheitsmassnahmen bestehen.
04 – Medizinische Qualität
☐ Die Anwendung wurde hinsichtlich ihrer konkreten medizinischen Aufgabe beurteilt.
☐ Notwendige regulatorische Voraussetzungen wurden überprüft.
☐ Zuständigkeiten für Kontrolle, Korrektur und Freigabe sind definiert.
☐ Der Umgang mit fehlerhaften KI-Ergebnissen ist geregelt.
05 – Organisation und Patienteninformation
☐ Das Praxisteam wurde hinsichtlich der zulässigen Nutzung geschult.
☐ Die erforderliche Patienteninformation wurde vorbereitet.
☐ Notwendige Einwilligungen und alternative Abläufe sind vorgesehen.
☐ Ein Verfahren für Datenschutz- und Sicherheitsvorfälle besteht.
☐ Eine regelmässige Neubewertung der Anwendung ist vorgesehen.
Eigene redaktionelle Checkliste auf Grundlage der behandelten Themenbereiche. Sie ist weder ein wissenschaftlich validiertes Qualitätssicherungsinstrument noch ein Zertifizierungsinstrument oder ein Nachweis vollständiger Rechtskonformität.
Die Prüfung vor jeder einzelnen Eingabe
Unabhängig von einer allgemeinen Freigabe der KI-Anwendung sollten Mitarbeiter vor der Verarbeitung medizinischer Informationen beurteilen, ob die jeweilige Eingabe tatsächlich erforderlich und innerhalb der definierten Nutzungsvorgaben zulässig ist.
Dabei kann bereits eine kurze Prüfung dazu beitragen, unnötige Datenübertragungen und die Verwendung ungeeigneter KI-Anwendungen zu vermeiden.
Drei Fragen vor jeder medizinischen KI-Anfrage:
- Benötige ich für diese Aufgabe tatsächlich personenbezogene Informationen?
- Ist die vorgesehene Anwendung für die Verarbeitung dieser Informationen und den konkreten Verwendungszweck freigegeben?
- Kann ich die fachliche Qualität des erzeugten Ergebnisses ausreichend überprüfen?
Ist eine dieser Voraussetzungen nicht erfüllt, sollte der vorgesehene Arbeitsprozess entsprechend angepasst oder auf die KI-Anwendung verzichtet werden.
Insbesondere sollte überprüft werden, ob sich das angestrebte Ergebnis auch ohne die Übermittlung personenbezogener medizinischer Informationen erreichen lässt.
Eine präzise Definition des Arbeitsauftrages kann wesentlich dazu beitragen, die benötigte Datenmenge zu begrenzen. Entsprechende methodische Ansätze werden im Beitrag Prompt Engineering – richtig fragen näher erläutert.
Datenschutz und Qualitätskontrolle in standardisierte Arbeitsprozesse integrieren
Bei regelmässig wiederkehrenden Aufgaben empfiehlt es sich, die datenschutzrechtlichen und medizinischen Anforderungen in verbindliche Arbeitsanweisungen zu integrieren.
Dies betrifft beispielsweise die Erstellung medizinischer Dokumentationsentwürfe, die sprachliche Überarbeitung ärztlicher Berichte oder die Durchführung wissenschaftlicher Recherchen.
Innerhalb solcher Arbeitsanweisungen können insbesondere die zulässigen Datenkategorien, die zu verwendenden Systeme, die erforderlichen fachlichen Kontrollschritte und die Zuständigkeiten für die abschliessende Freigabe definiert werden.
Auch entsprechend formulierte Masterprompts können dazu beitragen, bestimmte Anforderungen an die Bearbeitung medizinischer Informationen und die Qualität der erzeugten Ergebnisse zu standardisieren.
Allerdings stellen solche Anweisungen innerhalb eines Sprachmodells keine eigenständige technische Datenschutzmassnahme dar. Ein Masterprompt kann weder eine unzulässige Übertragung personenbezogener Informationen verhindern noch vertragliche Geheimhaltungspflichten oder technische Zugriffsbeschränkungen ersetzen.
Weitere Informationen zur Entwicklung standardisierter Arbeitsanweisungen finden Sie im Beitrag Vom Prompt zum Masterprompt.
Fazit
KI und Datenschutz in der Arztpraxis stellen keine grundsätzlich unvereinbaren Anforderungen dar. Ein professioneller Einsatz künstlicher Intelligenz setzt jedoch voraus, dass die rechtlichen, technischen und medizinischen Rahmenbedingungen der jeweiligen Anwendung ausreichend berücksichtigt werden.
Insbesondere müssen das Schweizer Datenschutzgesetz, das ärztliche Berufsgeheimnis und die Anforderungen an die medizinische Qualität unabhängig voneinander geprüft werden. Dabei kommt der Auswahl geeigneter Systeme und der sorgfältigen Beurteilung ihrer Datenbearbeitung eine zentrale Bedeutung zu.
Weder die technische Leistungsfähigkeit eines Sprachmodells noch ein kostenpflichtiges Abonnement, ein Schweizer Serverstandort oder der Ausschluss einer Verwendung medizinischer Informationen für das Modelltraining stellen für sich genommen einen ausreichenden Nachweis der Eignung einer KI-Anwendung dar.
Für einen ersten Einstieg bieten sich Anwendungen an, bei denen keine personenbezogenen medizinischen Informationen verarbeitet werden müssen. Komplexere Arbeitsprozesse mit vertraulichen Patientendaten erfordern dagegen eine entsprechend vertiefte technische, rechtliche und organisatorische Evaluation.
Darüber hinaus bleibt die ärztliche Verantwortung für die fachliche Beurteilung und Verwendung KI-generierter Ergebnisse von zentraler Bedeutung. Künstliche Intelligenz kann ärztliche Arbeitsprozesse unterstützen, jedoch nicht die notwendige medizinische Fachkompetenz und Sorgfalt ersetzen.
Entscheidend ist deshalb nicht nur die Frage, welche Aufgaben mithilfe künstlicher Intelligenz bearbeitet werden können. Ebenso wichtig ist die Beurteilung, unter welchen Voraussetzungen ihre Verwendung einen tatsächlichen medizinischen oder organisatorischen Nutzen bietet.
Datenschutz, Informationssicherheit und medizinische Qualitätskontrolle sollten deshalb nicht als Hindernisse einer digitalen Transformation verstanden werden. Vielmehr bilden sie die Voraussetzungen dafür, künstliche Intelligenz langfristig und vertrauenswürdig in die medizinische Versorgung zu integrieren.
Wie sich diese Anforderungen in einem professionellen medizinischen Arbeitsprozess zusammenführen lassen, wird im abschliessenden Beitrag unserer Artikelserie Professioneller Umgang mit KI ausführlich dargestellt.
Professioneller KI-Einsatz bedeutet nicht nur, zu wissen, welche Fragen man einer künstlichen Intelligenz stellen kann. Ebenso wichtig ist es, zu wissen, welche Informationen man ihr anvertrauen darf und welche Entscheidungen weiterhin einer eigenständigen ärztlichen Beurteilung bedürfen.
Hinweis: Dieser Beitrag orientiert sich primär an den rechtlichen Rahmenbedingungen privat geführter Arztpraxen in der Schweiz. Er dient der medizinischen Fortbildung und allgemeinen Orientierung. Er ersetzt keine individuelle rechtliche Beratung oder verbindliche Beurteilung konkreter KI-Anwendungen. Die jeweils geltenden gesetzlichen Bestimmungen, gegebenenfalls anwendbare kantonale Regelungen und aktuellen Empfehlungen sind zu berücksichtigen.
Weiterführende Beiträge
Dieser Beitrag ist Bestandteil unserer zwölfteiligen Artikelserie zur künstlichen Intelligenz in der Medizin. Die folgenden Beiträge vertiefen die technologischen Grundlagen, die methodischen Voraussetzungen und die praktischen Möglichkeiten eines verantwortungsvollen KI-Einsatzes im ärztlichen Alltag.
Technologische Grundlagen
- 01 – Was ist künstliche Intelligenz?
Technologische Grundlagen, unterschiedliche Formen künstlicher Intelligenz und zentrale Begriffe. - 02 – Grosse Sprachmodelle – Large Language Models (LLMs)
Funktionsweise, Möglichkeiten und grundlegende Eigenschaften grosser Sprachmodelle. - 03 – Wie funktioniert ChatGPT?
Technische Funktionsweise, Datenverarbeitung und unterschiedliche Anwendungsmöglichkeiten moderner Sprachmodelle.
Medizinische Qualität und methodische Risiken
- 04 – Grenzen künstlicher Intelligenz
Halluzinationen, fehlerhafte Informationen und Einschränkungen der medizinischen Zuverlässigkeit. - 05 – Wenn KI uns recht gibt
Sycophancy, Confirmation Bias und die Bedeutung einer unabhängigen medizinischen Beurteilung. - 08 – KI als virtuelle Expertenrunde
Strukturierte Diskussion medizinischer Fragestellungen aus unterschiedlichen Betrachtungsperspektiven.
Praktische Anwendung und Qualitätssicherung
- 06 – Prompt Engineering – richtig fragen
Präzise und strukturierte Arbeitsaufträge zur Verbesserung medizinischer KI-Ergebnisse. - 07 – Vom Prompt zum Masterprompt
Standardisierte Arbeitsanweisungen für wiederkehrende medizinische Aufgaben. - 09 – Künstliche Intelligenz in der Hausarztpraxis
Konkrete Anwendungsmöglichkeiten in der medizinischen Dokumentation, Patientenkommunikation und Praxisorganisation. - 11 – KI und medizinische Literaturrecherche
Methodisch kontrollierte wissenschaftliche Recherche und Überprüfung KI-generierter Literaturangaben. - 12 – Professioneller Umgang mit KI
Integration künstlicher Intelligenz in qualitätsgesicherte und verantwortungsvolle ärztliche Arbeitsprozesse.
Literatur und rechtliche Grundlagen
- Schweizerische Eidgenossenschaft. Bundesgesetz über den Datenschutz (Datenschutzgesetz, DSG) vom 25. September 2020. SR 235.1. Fedlex – Gesetzestext.
- Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB). KI und Datenschutz. Veröffentlicht am 24. September 2025. Offizielle Veröffentlichung.
- Schweizerische Eidgenossenschaft. Schweizerisches Strafgesetzbuch (StGB) vom 21. Dezember 1937. SR 311.0. Insbesondere Art. 321 (Berufsgeheimnis) sowie Art. 179bis und Art. 179ter (unbefugtes Abhören und Aufnehmen beziehungsweise unbefugtes Aufnehmen von Gesprächen). Fedlex – Gesetzestext.
- Schweizerische Akademie der Medizinischen Wissenschaften (SAMW), Verbindung der Schweizer Ärztinnen und Ärzte (FMH). Rechtlicher Leitfaden für die Praxis. Kapitel 7.2: Datenschutz in der Arztpraxis. Online-Leitfaden.
- FMH. Generative künstliche Intelligenz: Rechtliche Überlegungen. Offizielle Veröffentlichung.
- FMH. Empfehlungen der FMH zum Umgang mit grossen Sprachmodellen (LLMs) im ärztlichen Alltag. Die acht Empfehlungen der FMH.
- Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB). Outsourcing (Auftragsdatenbearbeitung). Offizielle Informationen.
- Kanton Zürich. Innovation-Sandbox für KI. KI in der medizinischen Dokumentation – Rechtsgrundlagen und Empfehlungen. 2025. Online-Bericht.
- Swissmedic. Häufige Patientenfragen zu Medizinprodukten. Informationen zur Definition von Medizinprodukten und medizinischer Software. Offizielle Informationen.
- Schweizerische Akademie der Medizinischen Wissenschaften (SAMW), Verbindung der Schweizer Ärztinnen und Ärzte (FMH). Rechtlicher Leitfaden für die Praxis. Kapitel 6.7: KI in der Medizin. Online-Leitfaden.
Redaktionsstand: 18. November 2026.

