Ein professioneller Umgang mit KI erfordert wesentlich mehr als die Fähigkeit, einem Sprachmodell medizinische Fragen zu stellen. Entscheidend sind das Verständnis der technologischen Möglichkeiten und Grenzen, die Auswahl geeigneter Anwendungsbereiche, die Qualität der Arbeitsaufträge und insbesondere die kritische Überprüfung der generierten Ergebnisse. Diese Fähigkeiten werden zunehmend zu einem Bestandteil der digitalen Kompetenz medizinischer Fachpersonen.
Für Ärztinnen und Ärzte besteht die Herausforderung darin, künstliche Intelligenz sinnvoll in bestehende Arbeitsprozesse zu integrieren, ohne die wissenschaftlichen Grundlagen, die Eigenständigkeit medizinischer Entscheidungen oder die Verantwortung gegenüber den Patienten zu beeinträchtigen. Dieser abschliessende Beitrag unserer Fortbildungsserie führt die wesentlichen Erkenntnisse zusammen und entwickelt daraus eine praxisorientierte Strategie für den kompetenten, kritischen und verantwortungsvollen Einsatz künstlicher Intelligenz im medizinischen Alltag.
Inhaltsverzeichnis anzeigen
- KI-Kompetenz als Bestandteil ärztlicher Professionalität
- Die sechs Dimensionen professioneller KI-Kompetenz
- Die acht Empfehlungen der FMH
- Mensch und künstliche Intelligenz – eine professionelle Zusammenarbeit
- Verbessert künstliche Intelligenz die ärztliche Leistung?
- Die Auswahl geeigneter Anwendungsbereiche
- Risikoorientierter Einsatz künstlicher Intelligenz
- Ein standardisierter KI-gestützter Arbeitsprozess
- Die Qualität einer KI-Antwort beurteilen
- Kognitive Eigenständigkeit bewahren
- Künstliche Intelligenz in die Arztpraxis integrieren
- Praxisbeispiel – von der KI-Antwort zur ärztlichen Entscheidung
- Masterprompt für den professionellen Umgang mit KI
- Checkliste vor der Übernahme KI-generierter Inhalte
- Zehn Grundregeln für den professionellen Umgang mit KI
- KI-Kompetenz als kontinuierlicher Lernprozess
- Fazit
- Weiterführende Beiträge
- Literatur und weiterführende Informationen
KI-Kompetenz als Bestandteil ärztlicher Professionalität
Die Fähigkeit, künstliche Intelligenz zu verstehen, sinnvoll einzusetzen und ihre Ergebnisse kritisch zu beurteilen, wird international häufig als AI Literacy bezeichnet. Gemeint ist damit nicht ausschliesslich die technische Bedienung entsprechender Anwendungen, sondern ein umfassenderes Verständnis ihrer Funktionsweise, Möglichkeiten, Grenzen und gesellschaftlichen Auswirkungen.
Für medizinische Fachpersonen besitzt diese Kompetenz eine besondere Bedeutung. Die Ergebnisse künstlicher Intelligenz können mittelbar oder unmittelbar diagnostische Entscheidungen, therapeutische Überlegungen, medizinische Dokumentationen und die Kommunikation mit Patienten beeinflussen. Entsprechend muss die Fähigkeit zur Verwendung solcher Systeme mit einem Verständnis der daraus entstehenden Risiken verbunden sein.
Die FMH betont in ihren Empfehlungen zum Umgang mit grossen Sprachmodellen die Bedeutung der fachlichen Beurteilung KI-generierter Inhalte und der hierfür erforderlichen ärztlichen Kompetenzen [1].
Was unterscheidet die Verwendung von KI von professioneller KI-Kompetenz?
Die Bedienung eines Sprachmodells lässt sich vergleichsweise einfach erlernen. Professionelle KI-Kompetenz zeigt sich dagegen insbesondere in Situationen, in denen eine KI-Antwort unvollständig, widersprüchlich, wissenschaftlich nicht ausreichend belegt oder klinisch irreführend ist.
Für die medizinische Anwendung lassen sich drei grundlegende Fähigkeiten unterscheiden.
01 – KI bedienen können
Die grundlegenden Funktionen einer Anwendung kennen, Informationen bereitstellen und geeignete Arbeitsaufträge formulieren können.
02 – KI fachlich beurteilen können
Die Richtigkeit, Vollständigkeit, wissenschaftliche Nachvollziehbarkeit und klinische Eignung der erzeugten Ergebnisse überprüfen können.
03 – KI verantwortungsvoll einsetzen können
Geeignete Anwendungen auswählen, Risiken berücksichtigen, vertrauliche Informationen schützen und die Verantwortung für die Verwendung der Ergebnisse übernehmen.
Eigene didaktische Unterscheidung grundlegender Fähigkeiten für den professionellen Einsatz künstlicher Intelligenz im medizinischen Alltag.
Eine medizinische Fachperson muss nicht nur beurteilen können, ob eine Antwort hilfreich erscheint, sondern auch erkennen, wann eine Antwort nicht verwendet werden darf, zusätzliche Informationen benötigt werden oder eine andere Informationsquelle geeigneter ist.
Hierfür ist zumindest ein grundlegendes Verständnis der Funktionsweise künstlicher Intelligenz erforderlich. Medizinische Fachpersonen müssen nicht selbst Sprachmodelle entwickeln oder trainieren können. Sie sollten jedoch verstehen, weshalb entsprechende Systeme überzeugend formulierte, aber dennoch sachlich falsche Antworten erzeugen können.
Die hierfür notwendigen technologischen Grundlagen werden in den Beiträgen Was ist künstliche Intelligenz?, Grosse Sprachmodelle (LLMs) und Wie funktioniert ChatGPT? ausführlich erläutert.
Professionelle KI-Kompetenz bedeutet nicht nur, künstliche Intelligenz sinnvoll einsetzen zu können, sondern auch zu erkennen, wann auf ihren Einsatz verzichtet werden sollte.
Die sechs Dimensionen professioneller KI-Kompetenz
Aus den technischen, wissenschaftlichen und praktischen Grundlagen unserer Fortbildungsserie lassen sich sechs miteinander verbundene Kompetenzbereiche ableiten. Sie bilden ein didaktisches Modell für den professionellen Einsatz künstlicher Intelligenz im medizinischen Alltag.
01
Technologische Kompetenz
Verstehen, wie künstliche Intelligenz Informationen verarbeitet, Antworten erzeugt und weshalb dabei Fehler entstehen können. Die Möglichkeiten und Grenzen der tatsächlich verwendeten Systeme realistisch einschätzen.
02
Kommunikative Kompetenz
Präzise und ergebnisoffene Arbeitsaufträge formulieren, erforderliche Informationen bereitstellen und Ergebnisse durch gezielte Rückfragen oder strukturierte Arbeitsprozesse verbessern.
03
Medizinische Kompetenz
KI-generierte Aussagen hinsichtlich ihrer fachlichen Richtigkeit, diagnostischen Bedeutung und klinischen Relevanz beurteilen. Medizinisch relevante Fehler und Auslassungen erkennen.
04
Wissenschaftliche Kompetenz
Originalquellen überprüfen, wissenschaftliche Evidenz bewerten, methodische Limitationen berücksichtigen und unbelegte Schlussfolgerungen erkennen.
05
Ethische und rechtliche Kompetenz
Datenschutz, Vertraulichkeit, Patientenautonomie, Transparenz und ärztliche Verantwortung berücksichtigen. Die rechtlichen und berufsethischen Voraussetzungen einer Anwendung beurteilen.
06
Organisatorische Kompetenz
Künstliche Intelligenz kontrolliert in bestehende Arbeitsabläufe integrieren, Verantwortlichkeiten definieren und geeignete Massnahmen zur kontinuierlichen Qualitätssicherung etablieren.
Eigenes didaktisches Kompetenzmodell für die medizinische Fortbildung. Kein wissenschaftlich validiertes Kompetenzmessinstrument.
Die sechs Kompetenzbereiche ergänzen sich gegenseitig. Gute Kenntnisse im Prompt Engineering allein ermöglichen beispielsweise keine zuverlässige Beurteilung komplexer medizinischer Aussagen. Umgekehrt kann auch eine umfangreiche medizinische Erfahrung durch fehlende Kenntnisse der technologischen Grenzen künstlicher Intelligenz zu einer unangemessenen Einschätzung ihrer Zuverlässigkeit führen.
Darüber hinaus kann eine medizinisch richtige Antwort für die konkrete Anwendung ungeeignet sein, wenn beispielsweise die datenschutzrechtlichen Voraussetzungen nicht erfüllt sind oder das verwendete System nicht für den vorgesehenen klinischen Zweck geeignet ist.
Das Zusammenspiel der unterschiedlichen Kompetenzen
Professionelle KI-Kompetenz entsteht somit nicht durch die isolierte Verbesserung einzelner Fähigkeiten, sondern durch deren situationsgerechte Kombination.
Bei der Erstellung einer wissenschaftlichen Fortbildung müssen beispielsweise technologische, kommunikative, medizinische und wissenschaftliche Kompetenzen miteinander verbunden werden. Bei der Einführung eines KI-gestützten Dokumentationssystems kommen insbesondere rechtliche, ethische und organisatorische Kompetenzen hinzu.
Die Bedeutung der einzelnen Kompetenzbereiche kann sich entsprechend der jeweiligen Aufgabenstellung verändern. Keiner der Bereiche sollte jedoch grundsätzlich als entbehrlich betrachtet werden.
Merksatz: Die Fähigkeit, eine überzeugende KI-Antwort zu erzeugen, ist nicht gleichbedeutend mit der Fähigkeit, diese Antwort medizinisch, wissenschaftlich und verantwortungsvoll zu verwenden.
Die acht Empfehlungen der FMH
Für den Einsatz grosser Sprachmodelle im Schweizer Gesundheitswesen stellen die Empfehlungen der FMH eine wichtige Orientierung dar. Sie verbinden Datenschutz, medizinische Qualitätssicherung, Transparenz und ärztliche Verantwortung mit den praktischen Möglichkeiten künstlicher Intelligenz [1].
Die folgenden acht Punkte geben die Empfehlungen der FMH in redaktionell zusammengefasster Form wieder. Die ergänzenden praktischen Hinweise stellen eigene Vorschläge für deren Umsetzung im ärztlichen Alltag dar.
01 – Geschützte Datenverarbeitung sicherstellen
Lokale oder anderweitig kontrollierte Lösungen sind unter Berücksichtigung der tatsächlichen Datenverarbeitung zu bevorzugen. Vor einer Verarbeitung vertraulicher Informationen müssen die technischen, organisatorischen und rechtlichen Voraussetzungen geklärt sein.
Die Bezeichnung einer Anwendung als lokal, sicher oder datenschutzkonform genügt allein nicht als Nachweis dafür, dass sämtliche erforderlichen Schutzmassnahmen tatsächlich umgesetzt werden.
Praktische Umsetzung: Für allgemeine Sprachmodelle keine identifizierbaren Patientendaten verwenden, solange die hierfür erforderlichen Schutzmassnahmen und rechtlichen Voraussetzungen nicht nachweislich gewährleistet sind. Datenverarbeitung, Speicherorte, Zugriffsrechte und mögliche Weiterverwendungen der übermittelten Informationen vorab prüfen.
02 – Ergebnisse eigenständig überprüfen
Die behandelnden Ärztinnen und Ärzte bleiben für ihre medizinischen Entscheidungen und die fachliche Qualität der von ihnen verwendeten Informationen verantwortlich.
Die Überprüfung sollte nicht allein auf offensichtlich falsche Aussagen beschränkt bleiben. Ebenso müssen klinisch relevante Auslassungen, unzutreffende Interpretationen und unangemessene Schlussfolgerungen berücksichtigt werden.
Praktische Umsetzung: KI-generierte Inhalte vor ihrer Verwendung fachlich prüfen und bei Bedarf korrigieren oder vollständig verwerfen. Wissenschaftlich relevante Aussagen mit geeigneten Originalquellen und patientenbezogene Informationen mit den tatsächlich erhobenen klinischen Befunden abgleichen.
03 – Innerhalb der eigenen Fachkompetenz arbeiten
Die zuverlässige Bewertung medizinischer Antworten setzt entsprechende fachliche Kenntnisse voraus. Die Verwendung künstlicher Intelligenz darf nicht dazu führen, dass medizinische Aufgaben ausserhalb der eigenen fachlichen Kompetenz ohne ausreichende zusätzliche Überprüfung übernommen werden.
Gerade bei unbekannten medizinischen Fragestellungen kann es besonders schwierig sein, überzeugend formulierte, aber sachlich unzutreffende Informationen zu erkennen.
Praktische Umsetzung: Bei Fragen ausserhalb des eigenen Kompetenzbereichs zusätzlich geeignete Fachliteratur oder fachärztliche Expertise heranziehen. Eine KI-generierte Einschätzung nicht mit einer fachärztlichen Konsultation gleichsetzen.
04 – Arbeitsaufträge präzise formulieren
Die Qualität der Eingaben beeinflusst die Eignung der generierten Antworten. Eine möglichst eindeutige Beschreibung der Aufgabenstellung kann dazu beitragen, unzutreffende Interpretationen und unnötige Annahmen zu reduzieren.
Präzise Arbeitsaufträge sind jedoch keine Garantie für fachlich richtige oder wissenschaftlich ausreichend belegte Ergebnisse.
Praktische Umsetzung: Zielsetzung, relevanten Kontext, gewünschtes Ergebnis und fachliche Einschränkungen ausdrücklich definieren. Fehlende Informationen und Unsicherheiten kennzeichnen lassen. Für wiederkehrende Aufgaben standardisierte Arbeitsaufträge verwenden.
05 – Den Einsatz nachvollziehbar machen
Aufgabe und Bedeutung des verwendeten Sprachmodells sollen im professionellen Kontext nachvollziehbar sein. Die Transparenz gegenüber ärztlichen Kolleginnen und Kollegen sowie die angemessene Information der Patienten sind entsprechend dem jeweiligen Anwendungskontext zu berücksichtigen.
Die Anforderungen an die Information der Patienten und die Dokumentation des KI-Einsatzes hängen insbesondere von der Art der Anwendung, der Verarbeitung personenbezogener Informationen und der Bedeutung des Systems für die medizinische Versorgung ab.
Praktische Umsetzung: Für klinisch relevante KI-Anwendungen geeignete Dokumentations- und Informationsprozesse innerhalb der Praxis etablieren. Erforderliche Informationen und gegebenenfalls notwendige Einwilligungen vor der entsprechenden Datenbearbeitung oder Anwendung berücksichtigen.
06 – Softwareintegration und fachliche Zuverlässigkeit unterscheiden
Die Einbindung eines Sprachmodells in eine medizinische Software garantiert keine korrekten Ergebnisse. Eine technisch komfortable Integration kann die Verwendung eines Systems erleichtern, verändert aber nicht zwangsläufig dessen grundsätzliche Fehleranfälligkeit.
Auch die regulatorische Konformität eines Medizinproduktes bedeutet nicht, dass dessen Ergebnisse in jeder klinischen Situation fehlerfrei sind. Entscheidend sind unter anderem der vorgesehene Verwendungszweck und die tatsächlichen Anwendungsbedingungen.
Praktische Umsetzung: Auch integrierte oder als Medizinprodukt in Verkehr gebrachte Anwendungen hinsichtlich ihres vorgesehenen Verwendungszwecks, ihrer wissenschaftlichen Evidenz, ihrer regulatorischen Voraussetzungen und ihrer tatsächlichen Ergebnisse beurteilen.
07 – Technologische Grenzen berücksichtigen
Die Möglichkeiten von Sprachmodellen müssen realistisch eingeschätzt und gegenüber medizinischen Fachpersonen transparent dargestellt werden. Zu den relevanten Limitationen gehören unter anderem sachlich falsche Inhalte, unbelegte Schlussfolgerungen, verzerrte Darstellungen und eine möglicherweise eingeschränkte Aktualität der verfügbaren Informationen.
Auch die Angabe eines hohen Masses an Sicherheit durch ein Sprachmodell stellt für sich genommen keinen Nachweis für die Richtigkeit der betreffenden Aussage dar.
Praktische Umsetzung: Unsicherheiten, fehlende Informationen und mögliche Fehler nicht durch überzeugend formulierte Antworten verdecken lassen. Tatsächliche technische Möglichkeiten und Quellenzugänge von bloss behaupteten Fähigkeiten des verwendeten Systems unterscheiden.
08 – Ökologische Auswirkungen berücksichtigen
Auch der Ressourcenverbrauch digitaler Technologien gehört zu einem verantwortungsvollen Umgang mit künstlicher Intelligenz. Der tatsächliche Energie- und Ressourcenbedarf hängt unter anderem von den verwendeten Modellen, der zugrunde liegenden technischen Infrastruktur und der Art der jeweiligen Anwendung ab.
Der Einsatz besonders leistungsfähiger und rechenintensiver Modelle ist nicht für jede Aufgabenstellung erforderlich.
Praktische Umsetzung: KI gezielt und aufgabenbezogen einsetzen, unnötige Wiederholungen vermeiden und für einfache Aufgaben angemessene technische Lösungen wählen. Dabei darf eine notwendige medizinische oder wissenschaftliche Qualitätskontrolle nicht aus Gründen der Ressourceneinsparung unterbleiben.
Grundlage: Empfehlungen der FMH zum Umgang mit grossen Sprachmodellen im ärztlichen Alltag [1]. Redaktionelle Zusammenfassung mit eigenen Erläuterungen und praktischen Umsetzungsvorschlägen. Die Überschriften und ergänzenden Ausführungen stellen keine wörtliche Wiedergabe der offiziellen Empfehlungen dar.
Empfehlungen und gesetzliche Anforderungen unterscheiden
Die Empfehlungen der FMH sind von den gesetzlichen Anforderungen zu unterscheiden. Sie bieten eine wichtige fachliche und berufliche Orientierung, ersetzen jedoch keine Prüfung der jeweils anwendbaren rechtlichen Vorschriften.
Für die Bearbeitung personenbezogener Daten gelten insbesondere die jeweils anwendbaren datenschutzrechtlichen Vorschriften sowie die Anforderungen des ärztlichen Berufsgeheimnisses. Abhängig von der konkreten Anwendung können darüber hinaus medizinprodukterechtliche und weitere regulatorische Voraussetzungen relevant sein.
Die Beachtung allgemeiner Empfehlungen allein genügt deshalb nicht als Nachweis dafür, dass eine bestimmte KI-Anwendung für den vorgesehenen Einsatz innerhalb einer Arztpraxis geeignet und rechtlich zulässig ist.
Eine ausführliche Darstellung dieser Zusammenhänge finden Sie im Beitrag KI – Datenschutz und ärztliche Verantwortung.
Mensch und künstliche Intelligenz – eine professionelle Zusammenarbeit
Der professionelle Einsatz künstlicher Intelligenz sollte nicht primär unter dem Gesichtspunkt einer Konkurrenz zwischen Mensch und Maschine betrachtet werden. Im medizinischen Alltag stellt sich vielmehr die Frage, wie technologische Möglichkeiten und ärztliche Kompetenzen sinnvoll miteinander verbunden werden können.
Sprachmodelle können umfangreiche Textinformationen verarbeiten, unterschiedliche Darstellungsformen erzeugen und mögliche Zusammenhänge aufzeigen. Die Eignung dieser Ergebnisse für eine konkrete klinische Situation muss jedoch durch medizinische Fachpersonen beurteilt werden.
Die angestrebte Zusammenarbeit besteht deshalb nicht in einer unkritischen Übertragung medizinischer Aufgaben an ein technisches System, sondern in einer bewussten Aufgabenverteilung entsprechend den jeweiligen Fähigkeiten, Voraussetzungen und Verantwortlichkeiten.
Komplementäre Aufgabenverteilung
Künstliche Intelligenz
- Informationen strukturieren
- Textentwürfe erstellen
- Suchstrategien entwickeln
- Alternativen vorschlagen
- Zusammenhänge aufbereiten
- Mögliche Widersprüche identifizieren
- Wiederkehrende Aufgaben unterstützen
Medizinische Fachperson
- Klinischen Kontext beurteilen
- Fragestellungen definieren
- Medizinische Aussagen überprüfen
- Wissenschaftliche Evidenz bewerten
- Risiken und Nutzen abwägen
- Patientenpräferenzen berücksichtigen
- Entscheidungen verantworten
Didaktische Darstellung der angestrebten Aufgabenverteilung bei der Verwendung allgemeiner Sprachmodelle. Keine generelle Aussage über die Überlegenheit menschlicher oder maschineller Leistungen bei einzelnen Aufgaben.
Die KI als Ergänzung medizinischer Denkprozesse
Eine mögliche Stärke künstlicher Intelligenz liegt darin, medizinische Fragestellungen aus unterschiedlichen Perspektiven betrachten und alternative Erklärungen oder Lösungsansätze strukturieren zu können.
Dies kann insbesondere dann hilfreich sein, wenn medizinische Fachpersonen bereits eigene Überlegungen entwickelt haben und diese anschliessend kritisch hinterfragen möchten.
Allerdings müssen auch vermeintlich unabhängige Perspektiven eines Sprachmodells kritisch beurteilt werden. Unterschiedliche simulierte Expertenrollen innerhalb einer KI-Anwendung stellen keine tatsächlich unabhängigen medizinischen Fachmeinungen dar.
Entsprechende Möglichkeiten und methodische Grenzen werden im Beitrag KI als virtuelle Expertenrunde ausführlich dargestellt.
Human in the Loop
Der Begriff Human in the Loop bezeichnet Arbeitsprozesse, in denen Menschen aktiv in die Überwachung, Bewertung oder Steuerung eines technischen Systems eingebunden bleiben. Im medizinischen Kontext besitzt dieses Prinzip eine besondere Bedeutung, da fehlerhafte technische Ergebnisse unter Umständen unmittelbare Auswirkungen auf die Patientenversorgung haben können.
Die praktische Wirksamkeit menschlicher Kontrolle hängt insbesondere davon ab, ob die beteiligten Personen über ausreichende Fachkompetenz, Zeit und Informationen verfügen, um die Ergebnisse tatsächlich zu überprüfen.
Eine ausschliesslich formale Bestätigung automatisch erzeugter Ergebnisse stellt keine wirksame menschliche Qualitätskontrolle dar. Die medizinische Fachperson muss berechtigt und in der Lage sein, KI-generierte Ergebnisse zu korrigieren, abzulehnen oder den entsprechenden Arbeitsprozess zu unterbrechen.
Voraussetzungen einer wirksamen menschlichen Qualitätskontrolle
- Ausreichende fachliche Kompetenz zur Beurteilung der erzeugten Ergebnisse.
- Zugang zu den relevanten klinischen Ausgangsinformationen und gegebenenfalls wissenschaftlichen Originalquellen.
- Kenntnis der wesentlichen Möglichkeiten und Grenzen des verwendeten Systems.
- Ausreichend Zeit für eine eigenständige fachliche Überprüfung.
- Tatsächliche Möglichkeit, Ergebnisse zu korrigieren oder abzulehnen.
- Möglichkeit, den KI-gestützten Arbeitsprozess bei erkannten Risiken oder Fehlern zu unterbrechen.
- Eindeutig definierte Verantwortlichkeiten für die medizinische Freigabe und Verwendung der Ergebnisse.
Eine menschliche Qualitätskontrolle kann insbesondere dann an Wirksamkeit verlieren, wenn die medizinische Fachperson zahlreiche automatisiert erzeugte Empfehlungen unter erheblichem Zeitdruck überprüfen muss oder ihr die für eine unabhängige Beurteilung notwendigen Informationen fehlen.
Die Einführung künstlicher Intelligenz sollte deshalb nicht nur mit der Frage verbunden sein, welche Aufgaben automatisiert oder erleichtert werden können. Ebenso wichtig ist die Frage, wie die erforderliche fachliche Kontrolle unter realistischen Arbeitsbedingungen gewährleistet werden kann.
Merksatz: Human in the Loop bedeutet nicht lediglich, dass ein Mensch das Ergebnis eines technischen Systems bestätigt. Entscheidend ist, dass dieser Mensch das Ergebnis eigenständig beurteilen und seine Verwendung gegebenenfalls verhindern kann.
Verbessert künstliche Intelligenz die ärztliche Leistung?
Die hohen Leistungen einzelner Sprachmodelle bei medizinischen Wissensfragen oder standardisierten klinischen Aufgaben dürfen nicht unmittelbar mit einer Verbesserung der medizinischen Versorgung gleichgesetzt werden. Insbesondere ist zwischen der isolierten Leistungsfähigkeit eines Modells und der Qualität seiner Integration in einen menschlichen Arbeitsprozess zu unterscheiden.
Ein Sprachmodell kann beispielsweise bei standardisierten diagnostischen Aufgaben sehr gute Ergebnisse erzielen, ohne dass seine zusätzliche Verwendung innerhalb eines ärztlichen Arbeitsprozesses zwangsläufig zu einer vergleichbaren Verbesserung der diagnostischen Leistung führt.
Eine randomisierte Untersuchung zur diagnostischen Entscheidungsfindung
Goh und Mitarbeiter untersuchten 2024 in einer randomisierten klinischen Studie mit 50 Ärztinnen und Ärzten, ob der zusätzliche Zugang zu einem grossen Sprachmodell die Bearbeitung klinischer Diagnoseaufgaben gegenüber der Verwendung konventioneller Informationsmöglichkeiten verbessern konnte [2].
Die Teilnehmenden bearbeiteten standardisierte klinische Fallvignetten. Eine Gruppe konnte zusätzlich GPT-4 verwenden, während die Vergleichsgruppe ausschliesslich auf konventionelle Informationsmöglichkeiten zurückgriff.
Für die ärztliche diagnostische Leistung zeigte sich dabei kein statistisch signifikanter Vorteil durch den zusätzlichen Zugang zum Sprachmodell.
DIAGNOSTISCHE LEISTUNG MIT UND OHNE ZUSÄTZLICHE KI-UNTERSTÜTZUNG
Median des diagnostischen Bewertungsscores
Ärzte mit zusätzlicher KI-Unterstützung
Ärzte mit konventionellen Informationsmöglichkeiten
+2
Geschätzte Differenz in Prozentpunkten
−4 bis +8
95-%-Konfidenzintervall in Prozentpunkten
0,60
p-Wert
Ergebnis: Kein statistisch signifikanter Unterschied der ärztlichen diagnostischen Leistung zwischen den beiden Untersuchungsgruppen.
Eigene grafische Aufbereitung der Studienergebnisse nach Goh et al., JAMA Network Open, 2024 [2]. Dargestellt wird der mediane diagnostische Bewertungsscore, nicht der prozentuale Anteil korrekt diagnostizierter Patienten. Die geschätzte Differenz und das Konfidenzintervall entstammen der statistischen Studienauswertung.
Das Ergebnis verdeutlicht, dass die Verfügbarkeit einer leistungsfähigen Technologie nicht zwangsläufig zu besseren Ergebnissen innerhalb eines bestehenden ärztlichen Arbeitsprozesses führt.
Die wissenschaftliche Aussage richtig einordnen
Die Untersuchung bezog sich auf definierte diagnostische Aufgaben, eine begrenzte Anzahl von Teilnehmenden und einen bestimmten technischen Entwicklungsstand. Aus ihr lässt sich weder eine generelle Wirkungslosigkeit künstlicher Intelligenz in der Medizin noch eine Aussage über die Leistungsfähigkeit aller aktuellen Sprachmodelle ableiten.
Darüber hinaus bedeutet ein statistisch nicht signifikanter Unterschied nicht, dass die Gleichwertigkeit beider Vorgehensweisen nachgewiesen wurde. Das Konfidenzintervall umfasst sowohl eine mögliche Verschlechterung als auch eine mögliche Verbesserung des diagnostischen Bewertungsscores.
Bei der Interpretation der Untersuchung müssen insbesondere folgende Aspekte berücksichtigt werden:
- Die Untersuchung erfolgte anhand standardisierter klinischer Fallvignetten und nicht innerhalb einer realen Patientenversorgung.
- Der diagnostische Bewertungsscore ist nicht mit einer unmittelbar gemessenen diagnostischen Trefferquote gleichzusetzen.
- Die Ergebnisse beziehen sich auf das verwendete Sprachmodell und die konkreten Bedingungen der Untersuchung.
- Die Aussagekraft hinsichtlich unterschiedlicher Formen einer strukturierten Zusammenarbeit zwischen Arzt und Sprachmodell ist begrenzt.
- Patientenrelevante Endpunkte, beispielsweise gesundheitliche Ergebnisse oder die Häufigkeit diagnostisch bedingter Schäden, wurden durch diesen Bewertungsscore nicht unmittelbar erfasst.
Die Untersuchung darf deshalb nicht als allgemeiner Nachweis dafür interpretiert werden, dass künstliche Intelligenz die ärztliche Diagnostik verbessert oder nicht verbessert. Sie verdeutlicht vielmehr die Notwendigkeit, die tatsächliche Zusammenarbeit zwischen Mensch und künstlicher Intelligenz differenziert zu untersuchen.
Technische Leistungsfähigkeit ist nicht gleich klinischer Nutzen
Für die wissenschaftliche Beurteilung medizinischer KI-Anwendungen sollten unterschiedliche Untersuchungsebenen berücksichtigt werden.
01 – Technische Leistungsfähigkeit
Wie zuverlässig bearbeitet das KI-System definierte medizinische Aufgaben unter standardisierten Untersuchungsbedingungen?
02 – Qualität der Zusammenarbeit
Verbessert die Verwendung des Systems die Qualität, Sicherheit oder Effizienz des gesamten medizinischen Arbeitsprozesses?
03 – Patientenrelevanter Nutzen
Führt die Verwendung des Systems unter realen klinischen Bedingungen zu einer nachweisbaren Verbesserung der Patientenversorgung?
Eigenes didaktisches Modell zur Unterscheidung technischer Leistungsfähigkeit, der Qualität KI-gestützter Arbeitsprozesse und des patientenrelevanten Nutzens. Keine formal validierte wissenschaftliche Bewertungssystematik.
Eine gute technische Leistungsfähigkeit kann eine wichtige Voraussetzung für einen klinischen Nutzen darstellen. Sie genügt jedoch nicht, um diesen Nutzen nachzuweisen.
Für die Beurteilung des klinischen Nutzens sind zusätzlich Untersuchungen erforderlich, welche die konkrete Anwendung, den jeweiligen Versorgungskontext, die Zusammenarbeit zwischen Mensch und Maschine sowie gegebenenfalls patientenrelevante Endpunkte berücksichtigen.
Insbesondere muss untersucht werden, ob durch die Verwendung künstlicher Intelligenz möglicherweise neu entstehende Fehlerquellen, zusätzlicher Kontrollaufwand oder unangemessenes Vertrauen in automatisiert erzeugte Ergebnisse den erwarteten Nutzen beeinträchtigen.
Die grundlegenden technologischen und methodischen Fehlerquellen werden im Beitrag Grenzen künstlicher Intelligenz erläutert. Die praktischen Möglichkeiten der Integration entsprechender Anwendungen in die medizinische Grundversorgung werden im Beitrag Künstliche Intelligenz in der Hausarztpraxis vertieft.
Praktische Konsequenz: Bei der Einführung künstlicher Intelligenz sollte nicht allein die Leistungsfähigkeit des verwendeten Systems beurteilt werden. Entscheidend ist, ob die Zusammenarbeit zwischen medizinischer Fachperson und KI den gesamten Arbeitsprozess tatsächlich verbessert und im jeweiligen klinischen Kontext einen vertretbaren Nutzen bietet.
Die Auswahl geeigneter Anwendungsbereiche
Nicht jede medizinische Aufgabe eignet sich in gleicher Weise für die Unterstützung durch allgemeine Sprachmodelle. Besonders geeignete Aufgaben sind häufig dadurch gekennzeichnet, dass die erforderlichen Ausgangsinformationen verfügbar sind, das gewünschte Ergebnis eindeutig definiert werden kann und die erzeugten Inhalte mit vertretbarem Aufwand überprüfbar sind.
Die Auswahl geeigneter Anwendungsbereiche sollte deshalb nicht ausschliesslich von den technischen Möglichkeiten einer KI-Anwendung abhängig gemacht werden. Ebenso wichtig sind die medizinische Tragweite der jeweiligen Aufgabe, die Zuverlässigkeit des verwendeten Systems und die Möglichkeiten einer unabhängigen fachlichen Qualitätskontrolle.
Orientierende Einordnung typischer Aufgaben
| Aufgabe | Möglicher Nutzen | Erforderliche Kontrolle |
|---|---|---|
| Allgemeine Korrespondenz | Erstellung und sprachliche Überarbeitung von Entwürfen. | Inhalt, Empfänger, Tonalität und Vertraulichkeit. |
| Medizinische Dokumentation | Strukturierung ärztlich erhobener Informationen und Erstellung medizinischer Textentwürfe. | Vollständigkeit, Übereinstimmung mit den erhobenen Befunden, unbeabsichtigte Ergänzungen und Datenschutz. |
| Patienteninformationen | Verständliche Aufbereitung medizinischer Inhalte und Anpassung des sprachlichen Niveaus. | Medizinische Richtigkeit, Vollständigkeit, angemessenes Sprachniveau und Vermeidung irreführender Vereinfachungen. |
| Literaturrecherche | Entwicklung von Suchstrategien und strukturierte Aufbereitung wissenschaftlicher Publikationen. | Tatsächlicher Quellenzugang, Existenz, Inhalt, Methodik und wissenschaftliche Aussagekraft der Originalquellen. |
| Differenzialdiagnostische Überlegungen | Erweiterung des Spektrums diagnostischer Hypothesen und kritische Reflexion eigener Überlegungen. | Klinische Plausibilität, Priorisierung, gefährliche Differenzialdiagnosen und fehlende klinische Informationen. |
| Therapeutische Überlegungen | Strukturierung möglicher Optionen und Vorbereitung weiterführender wissenschaftlicher Recherche. | Indikation, aktuelle Leitlinien, Kontraindikationen, Wechselwirkungen, Dosierung und individueller Patientenkontext. |
| Medizinische Fortbildung | Erstellung von Lernmaterialien, Fallbeispielen, Verständnisfragen und didaktischen Konzepten. | Fachliche und wissenschaftliche Qualitätssicherung sowie eindeutige Kennzeichnung fiktiver Beispiele und eigener didaktischer Darstellungen. |
Eigene praxisorientierte Übersicht möglicher Aufgaben. Die tatsächliche Eignung hängt vom verwendeten System, seinem vorgesehenen Verwendungszweck, der Datenverarbeitung und den etablierten Kontrollmechanismen ab. Die Darstellung beinhaltet keine generelle Empfehlung zur Verwendung allgemeiner Sprachmodelle für patientenbezogene diagnostische oder therapeutische Entscheidungen.
Unterstützung statt unkritischer Delegation
Bei der Auswahl geeigneter Aufgaben sollte zwischen der Unterstützung einer medizinischen Tätigkeit und der eigenständigen Durchführung dieser Tätigkeit durch ein technisches System unterschieden werden.
Ein Sprachmodell kann beispielsweise bei der Strukturierung differenzialdiagnostischer Überlegungen hilfreich sein, ohne dass ihm die Verantwortung für die diagnostische Entscheidung übertragen wird.
Ebenso kann ein Sprachmodell die sprachliche Aufbereitung einer medizinischen Dokumentation unterstützen. Die Verantwortung für die Übereinstimmung der Dokumentation mit den tatsächlich erhobenen Informationen bleibt jedoch bei den zuständigen medizinischen Fachpersonen.
Gerade bei der medizinischen Dokumentation muss darauf geachtet werden, dass fehlende Angaben nicht durch vermeintlich plausible Informationen ergänzt werden. Nicht erhobene negative Befunde, nicht besprochene Therapieempfehlungen oder nicht durchgeführte Untersuchungen dürfen nicht als tatsächlich erhobene beziehungsweise durchgeführte medizinische Massnahmen dokumentiert werden.
Die praktischen Möglichkeiten und Voraussetzungen entsprechender Anwendungen werden im Beitrag Künstliche Intelligenz in der Hausarztpraxis ausführlich dargestellt.
Wann ist die Verwendung künstlicher Intelligenz möglicherweise nicht sinnvoll?
Der Einsatz eines Sprachmodells kann unangemessen sein, wenn die für eine zuverlässige Bearbeitung notwendigen Informationen fehlen, die generierten Ergebnisse nicht ausreichend überprüft werden können oder die Verwendung des Systems zusätzliche Risiken verursacht.
Besondere Zurückhaltung ist beispielsweise in folgenden Situationen erforderlich:
- Die medizinische Fragestellung kann mit den verfügbaren Informationen nicht ausreichend beurteilt werden.
- Die medizinische Fachperson verfügt nicht über die erforderliche Kompetenz zur Überprüfung der generierten Inhalte.
- Die notwendige wissenschaftliche oder klinische Informationsgrundlage ist nicht zugänglich.
- Die datenschutzrechtlichen und organisatorischen Voraussetzungen der Anwendung sind nicht erfüllt.
- Das verwendete System ist für den vorgesehenen medizinischen Verwendungszweck nicht geeignet.
- Die erforderliche fachliche Überprüfung würde einen unverhältnismässig hohen zusätzlichen Aufwand verursachen.
- Die Verwendung des Systems könnte zeitkritische medizinische Massnahmen verzögern.
Insbesondere bei zeitkritischen medizinischen Entscheidungen darf die Verwendung eines allgemeinen Sprachmodells notwendige Untersuchungen, etablierte Notfallmassnahmen oder die Konsultation geeigneter Fachpersonen nicht verzögern.
Merksatz: Nicht jede Aufgabe, die künstliche Intelligenz technisch bearbeiten kann, ist auch für eine professionelle KI-gestützte Bearbeitung geeignet.
Risikoorientierter Einsatz künstlicher Intelligenz
Die Anforderungen an die Überprüfung einer KI-Antwort sollten sich nach den möglichen Konsequenzen eines Fehlers richten. Eine sprachliche Ungenauigkeit in einem internen Textentwurf besitzt beispielsweise eine andere Bedeutung als eine fehlerhafte Medikamentendosierung oder eine unzutreffende diagnostische Empfehlung.
Neben der Wahrscheinlichkeit eines Fehlers sollten insbesondere dessen mögliche klinische Auswirkungen, die Möglichkeiten seiner rechtzeitigen Erkennung und die Voraussetzungen einer nachträglichen Korrektur berücksichtigt werden.
Für die praktische Orientierung lassen sich drei Anwendungsebenen unterscheiden.
STUFE 1 – Geringe klinische Tragweite
Sprachliche Überarbeitung allgemeiner Texte, organisatorische Entwürfe und Strukturierung nicht vertraulicher Informationen.
Kontrolle: Abgleich mit dem Arbeitsauftrag und Prüfung auf sachliche oder sprachliche Fehler. Berücksichtigung möglicher Auswirkungen auf organisatorische Arbeitsprozesse.
STUFE 2 – Medizinisch relevante Inhalte
Patienteninformationen, Fortbildungsunterlagen, Literaturzusammenfassungen und Entwürfe medizinischer Dokumentationen.
Kontrolle: Fachliche Überprüfung, Abgleich mit den Ausgangsinformationen und gegebenenfalls wissenschaftliche Quellenprüfung. Medizinisch relevante Inhalte vor ihrer Verwendung durch eine entsprechend qualifizierte Fachperson freigeben lassen.
STUFE 3 – Potenziell unmittelbare klinische Konsequenzen
Patientenbezogene diagnostische oder therapeutische Entscheidungen, Medikamentendosierungen und zeitkritische medizinische Beurteilungen.
Kontrolle: Besonders strenge Anforderungen an die fachliche und regulatorische Eignung des Systems, unabhängige medizinische Überprüfung und gegebenenfalls vollständiger Verzicht auf die Verwendung eines allgemeinen Sprachmodells. Keine ungeprüfte Übernahme von KI-generierten Empfehlungen in die Patientenversorgung.
Eigenes didaktisches Orientierungsmodell. Keine validierte Risikoklassifikation und keine regulatorische Einstufung nach dem Medizinprodukterecht. Die Farben dienen ausschliesslich der visuellen Unterscheidung der klinischen Tragweite. Die Zuordnung einer Aufgabe kann sich entsprechend ihrem konkreten Verwendungszweck verändern.
Die klinische Tragweite hängt vom Verwendungskontext ab
Die Zuordnung einer bestimmten Tätigkeit zu einer der dargestellten Anwendungsebenen sollte nicht ausschliesslich anhand ihrer Bezeichnung erfolgen.
Eine allgemeine Patienteninformation über die Bedeutung körperlicher Aktivität besitzt beispielsweise eine andere klinische Tragweite als eine individualisierte Empfehlung zur körperlichen Belastung eines Patienten mit einer möglicherweise instabilen kardiovaskulären Erkrankung.
Entsprechend kann eine zunächst allgemeine Informationsaufgabe durch ihre konkrete Verwendung innerhalb der Patientenversorgung eine wesentlich höhere klinische Bedeutung erhalten.
Datenschutz als eigenständige Beurteilungsebene
Das datenschutzrechtliche Risiko einer Anwendung ist unabhängig von ihrer klinischen Tragweite zu beurteilen. So kann bereits die sprachliche Überarbeitung eines einfachen medizinischen Schreibens problematisch sein, wenn hierfür identifizierbare Patienteninformationen an einen nicht ausreichend kontrollierten externen Dienst übermittelt werden.
Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) weist darauf hin, dass das Schweizer Datenschutzgesetz auch auf KI-gestützte Datenbearbeitungen anwendbar ist und risikoreiche Verarbeitungen entsprechende Schutzmassnahmen erfordern [3].
Auch die Entfernung unmittelbar identifizierender Angaben gewährleistet nicht in jeder Situation eine ausreichende Anonymisierung. Besondere medizinische Merkmale, seltene Erkrankungen oder die Kombination verschiedener klinischer Angaben können unter Umständen eine erneute Identifikation ermöglichen.
Regulatorische Eignung als weitere Voraussetzung
Zusätzlich zur klinischen Tragweite und zum Datenschutz muss beurteilt werden, ob das verwendete System für den vorgesehenen medizinischen Verwendungszweck geeignet ist und gegebenenfalls die hierfür erforderlichen regulatorischen Voraussetzungen erfüllt.
Ein allgemeines Sprachmodell wird nicht allein durch die Formulierung eines medizinischen Arbeitsauftrags oder die anschliessende Überprüfung durch eine medizinische Fachperson zu einem entsprechend konformen Medizinprodukt.
Umgekehrt garantiert die regulatorische Konformität eines Medizinproduktes nicht dessen Fehlerfreiheit. Auch bei entsprechend in Verkehr gebrachten medizinischen KI-Anwendungen sind der vorgesehene Verwendungszweck, die klinischen Anwendungsbedingungen und die erforderlichen Kontrollmechanismen zu berücksichtigen.
Drei eigenständige Beurteilungsebenen
01 – Klinisches Risiko
Welche Auswirkungen könnte ein fehlerhaftes Ergebnis auf medizinische Entscheidungen oder die Patientenversorgung haben?
02 – Datenschutzrechtliches Risiko
Welche Informationen werden verarbeitet und sind die hierfür erforderlichen rechtlichen, technischen und organisatorischen Voraussetzungen erfüllt?
03 – Regulatorische Eignung
Ist das verwendete System für den vorgesehenen Zweck geeignet und erfüllt es die gegebenenfalls anwendbaren regulatorischen Anforderungen?
Eigene didaktische Darstellung dreier eigenständig zu berücksichtigender Beurteilungsebenen. Keine vollständige rechtliche oder regulatorische Bewertungssystematik.
Die ausführliche Darstellung der datenschutzrechtlichen und regulatorischen Voraussetzungen für die Verwendung künstlicher Intelligenz im Schweizer Gesundheitswesen finden Sie im Beitrag KI – Datenschutz und ärztliche Verantwortung.
Grundsatz: Eine geringe klinische Tragweite bedeutet nicht automatisch ein geringes Datenschutzrisiko. Ebenso kann eine datenschutzrechtlich geeignete Anwendung für einen bestimmten medizinischen Verwendungszweck ungeeignet sein. Die drei Beurteilungsebenen müssen eigenständig berücksichtigt werden.
Ein standardisierter KI-gestützter Arbeitsprozess
Der professionelle Umgang mit künstlicher Intelligenz lässt sich als wiederkehrender Arbeitsprozess organisieren. Dabei sollte die Verwendung eines Sprachmodells nicht mit der Eingabe einer Frage beginnen, sondern mit der Definition einer geeigneten Aufgabe und der Beurteilung ihrer Voraussetzungen.
Durch standardisierte Arbeitsprozesse können wiederkehrende Fehlerquellen systematisch berücksichtigt und die erforderlichen Kontrollschritte unabhängig von der jeweiligen Aufgabenstellung definiert werden.
↓
Fachliche Anforderungen, Datenschutz, regulatorische Eignung und Kontrollmöglichkeiten
↓
Ausgangsinformationen, Kontext, Prompt, Einschränkungen und gewünschtes Ausgabeformat
↓
Entwurf, Analyse oder Informationsaufbereitung
↓
Fakten, Vollständigkeit, Übereinstimmung mit den Ausgangsdaten, Quellen, Unsicherheiten und klinische Relevanz
↓
Ergebnis nicht ausreichend
Korrigieren, zusätzliche Informationen beschaffen, erneut prüfen oder Ergebnis verwerfen.
Ergebnis ausreichend geprüft
Fachlich freigeben, bestimmungsgemäss verwenden und entsprechend dem jeweiligen Anwendungskontext dokumentieren.
Eigenes didaktisches Prozessmodell für die kontrollierte Verwendung grosser Sprachmodelle im medizinischen Alltag. Bei erkannten Fehlern oder unzureichenden Informationen kann eine Rückkehr zu einem vorausgehenden Arbeitsschritt erforderlich sein.
Die Bedeutung der Vorbereitung
Bereits vor der Formulierung eines Arbeitsauftrags sollten die für seine Bearbeitung notwendigen Informationen identifiziert werden. Hierzu gehören beispielsweise die Zielsetzung, der fachliche Kontext, die relevanten Ausgangsdaten und die Anforderungen an das gewünschte Ergebnis.
Fehlende Informationen sollten möglichst vor Beginn der Bearbeitung ergänzt oder ausdrücklich als nicht verfügbar gekennzeichnet werden.
Bei der Verwendung wissenschaftlicher Dokumente, medizinischer Befunde oder anderer bereitgestellter Dateien sollte zudem überprüft werden, ob die KI-Anwendung tatsächlich Zugriff auf die relevanten Inhalte besitzt.
Die Aussage eines Sprachmodells, ein Dokument gelesen oder eine bestimmte Information überprüft zu haben, stellt allein keinen Nachweis dafür dar, dass dieser Arbeitsschritt vollständig und zuverlässig durchgeführt wurde.
Die methodischen Grundlagen der Formulierung geeigneter Arbeitsaufträge werden im Beitrag Prompt Engineering ausführlich beschrieben.
Iteration statt einmaliger Anfrage
Komplexe Arbeitsaufträge lassen sich häufig besser in mehrere aufeinanderfolgende Arbeitsschritte unterteilen. Beispielsweise kann zunächst eine medizinische Fragestellung präzisiert, anschliessend eine Suchstrategie entwickelt und erst danach eine wissenschaftliche Zusammenfassung erstellt werden.
Durch die getrennte Bearbeitung dieser Schritte können Fehler früher erkannt und Ausgangsinformationen gezielter ergänzt werden.
Insbesondere bei umfangreichen medizinischen Texten und wissenschaftlichen Recherchen kann es sinnvoll sein, einzelne Arbeitsschritte zunächst zu überprüfen und erst nach ihrer ausreichenden fachlichen Beurteilung mit der weiteren Bearbeitung fortzufahren.
Das wiederholte Überarbeiten einer Antwort ist jedoch nicht mit einer unabhängigen fachlichen Überprüfung gleichzusetzen.
Ein Sprachmodell kann auch bei einer erneuten Kontrolle einer zuvor generierten Antwort dieselben Fehler wiederholen oder bereits getroffene Annahmen unkritisch übernehmen.
Für regelmässig wiederkehrende Aufgaben kann es deshalb sinnvoll sein, die einzelnen Bearbeitungs- und Kontrollschritte in einem standardisierten Masterprompt zusammenzufassen.
Die Entwicklung entsprechender Arbeitsaufträge wird im Beitrag Vom Prompt zum Masterprompt ausführlich dargestellt.
Die tatsächliche Zeitersparnis beurteilen
Für die Einführung künstlicher Intelligenz in einen bestehenden Arbeitsprozess sollte nicht ausschliesslich die Zeit betrachtet werden, die zur Erstellung eines ersten Entwurfs benötigt wird.
Eine realistische Beurteilung berücksichtigt auch die Vorbereitung der Informationen, die Formulierung des Arbeitsauftrags, die fachliche Überprüfung, notwendige Korrekturen und die abschliessende Freigabe.
EFFEKTIVE ZEITERSPARNIS DURCH KI
−
Gesamtzeitaufwand des KI-gestützten Arbeitsprozesses
Vorbereitung + Prompt-Erstellung + Generierung + Kontrolle + Korrektur + Freigabe
=
Konzeptionelle Darstellung der zeitlichen Effizienz eines Arbeitsprozesses. Keine empirischen Messwerte. Ein sinnvoller Vergleich setzt eine vergleichbare Ergebnisqualität und eine einheitliche Definition des erfassten Zeitaufwands voraus.
Ein fiktives Berechnungsbeispiel
Für die Erstellung eines medizinischen Schreibens benötigt eine Ärztin bei ihrer bisherigen Vorgehensweise einschliesslich der abschliessenden Überprüfung durchschnittlich zwölf Minuten.
Bei der Verwendung eines Sprachmodells reduziert sich die Erstellung des eigentlichen Textentwurfs erheblich. Allerdings müssen zusätzlich die Informationen vorbereitet, der Arbeitsauftrag formuliert und der generierte Text überprüft werden.
| Arbeitsschritt | Zeitaufwand |
|---|---|
| Bisheriger Arbeitsprozess einschliesslich Kontrolle | 12 Minuten |
| Vorbereitung der Informationen und Formulierung des Arbeitsauftrags | 2 Minuten |
| Generierung des Textentwurfs | 1 Minute |
| Fachliche Überprüfung und notwendige Korrekturen | 4 Minuten |
| Abschliessende Freigabe | 1 Minute |
| Gesamtaufwand mit KI | 8 Minuten |
| Effektive Zeitersparnis | 4 Minuten (33,3 %) |
Fiktives Berechnungsbeispiel mit angenommenen Zeitwerten und vergleichbarer Ergebnisqualität. Die dargestellten Werte entstammen keiner wissenschaftlichen Untersuchung und erlauben keine Aussage über die tatsächlich zu erwartende Zeitersparnis in einer Arztpraxis.
Ein KI-gestützter Arbeitsprozess ist nicht bereits deshalb effizienter, weil ein Textentwurf innerhalb weniger Sekunden erstellt werden kann. Umgekehrt kann ein vergleichbarer Zeitaufwand bei einer nachweisbar verbesserten Ergebnisqualität einen sinnvollen Einsatz künstlicher Intelligenz rechtfertigen.
Bei einer umfassenderen wirtschaftlichen Beurteilung sollten darüber hinaus die Kosten der technischen Anwendung, der Schulung des Praxisteams, der Einführung des Systems und der kontinuierlichen Qualitätssicherung berücksichtigt werden.
Eine zeitliche Entlastung führt zudem nicht automatisch zu einer entsprechenden finanziellen Einsparung. Sie kann beispielsweise auch zur Verbesserung der medizinischen Dokumentation, zur Reduktion administrativer Belastungen oder zur Bereitstellung zusätzlicher Zeit für die Patientenversorgung genutzt werden.
Merksatz: Die Effizienz einer KI-Anwendung bemisst sich nicht an der Geschwindigkeit der Antwortgenerierung, sondern am tatsächlichen Gesamtaufwand und an der Qualität des abschliessend überprüften Arbeitsergebnisses.
Die Qualität einer KI-Antwort beurteilen
Sprachliche Qualität, wissenschaftliche Richtigkeit und klinische Eignung sind unterschiedliche Eigenschaften einer KI-generierten Antwort. Ein ausführlicher, gut strukturierter und überzeugend formulierter Text kann dennoch wesentliche inhaltliche Fehler enthalten.
Die Qualitätskontrolle sollte deshalb nicht ausschliesslich auf einer allgemeinen Plausibilitätsbeurteilung beruhen, sondern anhand nachvollziehbarer fachlicher und wissenschaftlicher Kriterien erfolgen.
Sieben Kriterien der Qualitätsbeurteilung
| Qualitätskriterium | Zentrale Prüffrage |
|---|---|
| Fachliche Richtigkeit | Sind die medizinischen Aussagen tatsächlich korrekt und fachlich nachvollziehbar? |
| Vollständigkeit | Fehlen klinisch oder wissenschaftlich relevante Informationen, Einschränkungen, Risiken oder alternative Erklärungen? |
| Übereinstimmung mit den Ausgangsdaten | Wurden Informationen verändert, ergänzt, ausgelassen oder unzulässig interpretiert? |
| Wissenschaftliche Nachvollziehbarkeit | Existieren geeignete Originalquellen, welche die Aussagen tatsächlich unterstützen, und wurden diese ausreichend überprüft? |
| Umgang mit Unsicherheit | Werden fehlende Informationen, eigenständig getroffene Annahmen, Grenzen und Widersprüche angemessen dargestellt? |
| Aktualität | Entsprechen die Informationen dem für die Fragestellung relevanten Wissens-, Leitlinien- und gegebenenfalls Zulassungsstand? |
| Klinische Relevanz | Sind die Schlussfolgerungen für die konkrete medizinische Situation geeignet und auf den jeweiligen klinischen Kontext übertragbar? |
Eigene redaktionelle Prüfkriterien für medizinische KI-Inhalte. Kein validierter Qualitätsscore und keine vollständige Bewertungssystematik für medizinische KI-Anwendungen.
Fehler durch Auslassung
Bei der Qualitätskontrolle wird häufig vorrangig nach offensichtlich falschen Aussagen gesucht. Mindestens ebenso wichtig ist die Frage, welche relevanten Informationen in einer KI-generierten Antwort fehlen.
Eine medizinische Zusammenfassung kann ausschliesslich korrekte Aussagen enthalten und dennoch klinisch problematisch sein, wenn beispielsweise eine wichtige Kontraindikation, eine gefährliche Differenzialdiagnose oder ein entscheidender methodischer Vorbehalt nicht berücksichtigt wurde.
Die Überprüfung sollte deshalb nicht ausschliesslich auf die vorhandenen Aussagen beschränkt bleiben, sondern auch die Vollständigkeit im Hinblick auf die ursprüngliche Fragestellung berücksichtigen.
Bei der Überarbeitung medizinischer Dokumente kann zudem eine unbeabsichtigte Veränderung der ursprünglichen Aussage entstehen, wenn relevante Informationen im Rahmen einer sprachlichen Kürzung oder redaktionellen Neustrukturierung ausgelassen werden.
Fehler durch nicht gekennzeichnete Ergänzungen
Ein weiteres relevantes Problem entsteht, wenn ein Sprachmodell fehlende Angaben durch vermeintlich plausible Informationen ergänzt.
Bei der Bearbeitung medizinischer Dokumente kann dies beispielsweise dazu führen, dass klinische Befunde, Zeitangaben, Untersuchungsergebnisse oder anamnestische Informationen hinzugefügt werden, die in den ursprünglichen Unterlagen nicht vorhanden waren.
Gerade bei der medizinischen Dokumentation ist deshalb zwischen tatsächlich erhobenen Informationen, medizinischen Interpretationen und fehlenden Angaben zu unterscheiden.
Auch wissenschaftliche Texte können durch nicht gekennzeichnete Ergänzungen inhaltlich verändert werden, beispielsweise durch die Hinzufügung nicht überprüfter Studienergebnisse, numerischer Angaben oder wissenschaftlicher Schlussfolgerungen.
Die wissenschaftliche Nachvollziehbarkeit überprüfen
Bei wissenschaftlich relevanten Aussagen sollten nicht nur die angegebenen Literaturreferenzen, sondern insbesondere deren tatsächliche Übereinstimmung mit den jeweiligen Aussagen überprüft werden.
Hierzu gehört die Unterscheidung zwischen der Existenz einer Publikation, ihrer bibliografischen Identifikation und der inhaltlichen Überprüfung der Originalquelle.
Ein formal korrektes Literaturverzeichnis stellt allein keinen Nachweis dafür dar, dass die zitierten Publikationen tatsächlich eingesehen wurden oder die entsprechenden medizinischen Aussagen unterstützen.
Insbesondere bei numerischen Studienergebnissen sollten die Studienpopulation, die Definition der untersuchten Endpunkte, die Effektgrössen, die statistischen Unsicherheiten und die methodischen Limitationen mit den zugänglichen Originalpublikationen abgeglichen werden.
Die Anforderungen an eine entsprechende wissenschaftliche Qualitätskontrolle werden im Beitrag KI und medizinische Literaturrecherche ausführlich dargestellt.
Die Grenzen einer KI-internen Selbstkontrolle
Sprachmodelle können zur Vorbereitung einer Qualitätskontrolle eingesetzt werden, beispielsweise indem sie aufgefordert werden, widersprüchliche Aussagen, fehlende Informationen oder mögliche wissenschaftliche Fehler in einem bereits erstellten Text zu identifizieren.
Eine solche zusätzliche Bearbeitung kann hilfreich sein, stellt jedoch keine unabhängige Validierung des ursprünglichen Arbeitsergebnisses dar.
Auch die Verwendung eines zweiten Sprachmodells gewährleistet keine unabhängige wissenschaftliche Überprüfung, da unterschiedliche Systeme vergleichbare Fehler aufweisen oder auf ähnliche Informationsgrundlagen zurückgreifen können.
Entscheidend bleibt deshalb der Abgleich mit den tatsächlichen klinischen Ausgangsinformationen und den geeigneten wissenschaftlichen Originalquellen sowie die eigenständige Beurteilung durch eine entsprechend qualifizierte medizinische Fachperson.
Merksatz: Wissenschaftliche und medizinische Qualitätskontrolle bedeutet nicht nur, vorhandene Aussagen auf ihre Richtigkeit zu überprüfen. Ebenso wichtig ist es, fehlende Informationen, unbegründete Ergänzungen und nicht überprüfbare Schlussfolgerungen zu erkennen.
Kognitive Eigenständigkeit bewahren
Eine wesentliche Herausforderung bei der regelmässigen Verwendung künstlicher Intelligenz besteht darin, die Eigenständigkeit klinischer Denk- und Entscheidungsprozesse zu erhalten. Gerade ausführliche und überzeugend formulierte Antworten können dazu verleiten, bereits vor einer eigenen Auseinandersetzung mit einer Fragestellung einer vorgegebenen Interpretation zu folgen.
Professionelle KI-Kompetenz beinhaltet deshalb auch die Fähigkeit, das eigene Verhalten gegenüber automatisiert erzeugten Informationen kritisch zu reflektieren.
Automation Bias
Als Automation Bias wird die Neigung bezeichnet, automatisiert erzeugten Empfehlungen oder Informationen unangemessen zu vertrauen. Im medizinischen Kontext kann dies beispielsweise dazu führen, dass eine vorgeschlagene Diagnose übernommen wird, obwohl klinische Informationen dagegen sprechen.
Darüber hinaus kann das Vertrauen in eine automatisierte Empfehlung dazu führen, dass zusätzliche diagnostische Möglichkeiten nicht ausreichend berücksichtigt oder notwendige Kontrollschritte unterlassen werden.
Automation Bias kann somit sowohl zur Übernahme unzutreffender Empfehlungen als auch zur Unterlassung medizinisch erforderlicher Überlegungen oder Massnahmen beitragen.
Cognitive Offloading
Cognitive Offloading bezeichnet die Auslagerung geistiger Aufgaben an externe Hilfsmittel. Kalender, Notizen und medizinische Nachschlagewerke stellen etablierte Beispiele hierfür dar. Auch künstliche Intelligenz kann zur Auslagerung bestimmter kognitiver Tätigkeiten verwendet werden.
Eine solche Arbeitsteilung ist nicht grundsätzlich problematisch. Die Entlastung von bestimmten administrativen oder wiederkehrenden Aufgaben kann es ermöglichen, zusätzliche Aufmerksamkeit auf komplexere medizinische Tätigkeiten zu richten.
Problematisch kann die Auslagerung kognitiver Aufgaben jedoch werden, wenn für die Qualitätskontrolle notwendige fachliche Fähigkeiten vernachlässigt oder medizinische Entscheidungen zunehmend ohne eigenständige Beurteilung getroffen werden.
Ob und in welchem Ausmass eine langfristige Verwendung bestimmter KI-Anwendungen die medizinischen Fähigkeiten beeinflusst, ist unter anderem von der Art ihrer Nutzung abhängig und bedarf differenzierter wissenschaftlicher Untersuchungen.
Eine generelle oder zwangsläufige Beeinträchtigung ärztlicher Fähigkeiten durch die Verwendung künstlicher Intelligenz lässt sich daraus nicht ableiten.
Confirmation Bias und Sycophancy
Der Confirmation Bias beschreibt die menschliche Neigung, Informationen bevorzugt wahrzunehmen, zu suchen oder zu interpretieren, welche die eigenen Annahmen unterstützen.
Als Sycophancy wird im Zusammenhang mit grossen Sprachmodellen die Tendenz bezeichnet, sich an den geäusserten Überzeugungen, Erwartungen oder Präferenzen des Anwenders zu orientieren, selbst wenn eine sachlich andere Antwort angemessener wäre.
Bei der medizinischen Verwendung künstlicher Intelligenz können sich beide Phänomene gegenseitig verstärken. Eine medizinische Fachperson formuliert beispielsweise eine bereits bestehende diagnostische Vermutung, woraufhin das Sprachmodell eine ausführliche Begründung für diese Vermutung erzeugt.
Eine solche Zustimmung darf nicht unmittelbar als unabhängige Bestätigung der eigenen diagnostischen Überlegungen interpretiert werden.
Die entsprechenden psychologischen und technologischen Zusammenhänge werden im Beitrag Wenn KI uns recht gibt ausführlich dargestellt.
Zwei unterschiedliche Formen der KI-gestützten Zusammenarbeit
Unkritische Nutzung
↓
↓
Problem: Die eigenständige Beurteilung der Fragestellung und die fachliche Ergebnisprüfung fehlen.
Reflektierte Nutzung
↓
↓
↓
Ziel: Die Technologie erweitert den Denkprozess, ohne die eigenständige medizinische Beurteilung zu ersetzen.
Eigenes didaktisches Vergleichsschema. Die dargestellten Arbeitsweisen sind keine empirisch validierten Aussagen über langfristige kognitive Effekte künstlicher Intelligenz.
Die KI als kritischen Gesprächspartner verwenden
Eine interessante Möglichkeit besteht darin, künstliche Intelligenz nicht ausschliesslich nach einer Lösung zu fragen, sondern gezielt mit den eigenen Überlegungen zu konfrontieren.
Bei klinischen Fragestellungen kann es sinnvoll sein, zunächst eigene diagnostische Hypothesen und eine vorläufige medizinische Beurteilung zu entwickeln. Anschliessend kann die künstliche Intelligenz dazu verwendet werden, mögliche alternative Erklärungen zu identifizieren und die bisherigen Überlegungen kritisch zu hinterfragen.
Beispielprompt:
Überprüfen Sie meine folgenden medizinischen Überlegungen kritisch und ergebnisoffen. Gehen Sie nicht davon aus, dass meine Annahmen richtig sind.
Identifizieren Sie mögliche Denkfehler, alternative Erklärungen, fehlende Informationen und unbelegte Schlussfolgerungen.
Berücksichtigen Sie insbesondere klinische Hinweise, die gegen meine bisherige Interpretation sprechen, sowie gefährliche Differenzialdiagnosen, die möglicherweise nicht ausreichend berücksichtigt wurden.
Unterscheiden Sie zwischen tatsächlich vorliegenden Informationen, medizinischen Hypothesen und eigenständig getroffenen Annahmen.
Widersprechen Sie ausdrücklich, wenn medizinische oder wissenschaftliche Gründe gegen meine Interpretation sprechen. Kennzeichnen Sie verbleibende Unsicherheiten und benennen Sie die Informationen, die für eine weiterführende Beurteilung erforderlich sind.
Ein solcher Arbeitsauftrag kann helfen, alternative Betrachtungsweisen zu entwickeln. Er gewährleistet jedoch weder eine objektive Beurteilung noch die Vollständigkeit der angesprochenen Kritikpunkte.
Darüber hinaus kann es sinnvoll sein, zunächst eine KI-gestützte Betrachtung der medizinischen Ausgangsinformationen durchzuführen, ohne dem Sprachmodell die eigene diagnostische Vermutung vorzugeben. Anschliessend können die erzeugten Überlegungen mit der zuvor entwickelten ärztlichen Einschätzung verglichen werden.
Auch diese Vorgehensweise stellt keine unabhängige fachärztliche Zweitbeurteilung dar. Sie kann jedoch eine zusätzliche Möglichkeit zur strukturierten Reflexion der eigenen medizinischen Überlegungen bieten.
Medizinische Kompetenz als Voraussetzung und Ziel
Die fachlichen Kenntnisse, die zur Überprüfung KI-generierter Inhalte erforderlich sind, können nicht durch die ausschliessliche Verwendung künstlicher Intelligenz ersetzt werden.
Eine medizinische Fachperson sollte daher auch bei regelmässiger Nutzung entsprechender Anwendungen weiterhin in der Lage sein, klinische Informationen eigenständig zu erfassen, diagnostische Hypothesen zu entwickeln, wissenschaftliche Erkenntnisse zu beurteilen und medizinische Entscheidungen nachvollziehbar zu begründen.
Merksatz: Künstliche Intelligenz sollte nicht dazu verwendet werden, das eigene medizinische Denken zu ersetzen, sondern um dieses zu ergänzen, kritisch zu hinterfragen und gegebenenfalls weiterzuentwickeln.
Künstliche Intelligenz in die Arztpraxis integrieren
Die Einführung künstlicher Intelligenz in einer Arztpraxis sollte als organisatorischer Entwicklungsprozess verstanden werden. Neben der Auswahl geeigneter Anwendungen müssen insbesondere Verantwortlichkeiten, Datenschutz, Arbeitsabläufe und Qualitätskontrollen berücksichtigt werden.
Die Weltgesundheitsorganisation (WHO) behandelt die Verwendung grosser multimodaler Modelle in der Medizin innerhalb eines umfassenden ethischen und organisatorischen Rahmens [4]. Für den Praxisalltag lassen sich daraus zusammen mit den zuvor dargestellten Grundsätzen konkrete Entwicklungsschritte ableiten.
Eine professionelle Einführung künstlicher Intelligenz bedeutet deshalb nicht ausschliesslich, den Mitgliedern eines Praxisteams den Zugang zu einer KI-Anwendung zu ermöglichen. Vielmehr müssen die Voraussetzungen geschaffen werden, unter denen diese Anwendung sinnvoll, kontrolliert und verantwortungsvoll verwendet werden kann.
Ein mögliches Einführungskonzept
Phase 1 – Bedarf und Zielsetzung bestimmen
Identifizieren Sie zeitaufwendige, wiederkehrende oder organisatorisch anspruchsvolle Aufgaben. Prüfen Sie, ob ein Sprachmodell für die jeweilige Aufgabe tatsächlich einen zusätzlichen Nutzen erwarten lässt.
Definieren Sie vor der Auswahl einer Anwendung, welche Verbesserung erreicht werden soll und wie diese später beurteilt werden kann.
Erfassen Sie nach Möglichkeit den bisherigen Zeitaufwand, die Qualität der vorhandenen Arbeitsprozesse und wiederkehrende organisatorische oder fachliche Probleme als Vergleichsgrundlage für eine spätere Evaluation.
Ziel: Einführung künstlicher Intelligenz aufgrund eines konkreten medizinischen oder organisatorischen Bedarfs und nicht ausschliesslich aufgrund ihrer technischen Verfügbarkeit.
Phase 2 – Anwendungen auswählen und Voraussetzungen prüfen
Beurteilen Sie den vorgesehenen Verwendungszweck, die Möglichkeiten der Datenverarbeitung, bestehende wissenschaftliche Untersuchungen, regulatorische Voraussetzungen und die organisatorischen Anforderungen.
Definieren Sie ausdrücklich, welche Informationen mit dem jeweiligen System verarbeitet werden dürfen und welche Anwendungen ausgeschlossen bleiben müssen.
Prüfen Sie insbesondere die vertraglichen und technischen Bedingungen der Datenverarbeitung, die Möglichkeiten der Zugriffskontrolle und die erforderlichen Massnahmen zum Schutz vertraulicher Informationen.
Erstellen Sie eine praxisinterne Übersicht der freigegebenen Anwendungen und der jeweils zulässigen Verwendungszwecke.
Ziel: Verwendung geeigneter und kontrolliert eingeführter Anwendungen mit eindeutig definierten Einsatzmöglichkeiten und Einschränkungen.
Phase 3 – Mit überschaubaren Anwendungen beginnen
Beginnen Sie mit Aufgaben, deren Ergebnisse einfach kontrollierbar sind und deren fehlerhafte Bearbeitung keine unmittelbaren klinischen Konsequenzen besitzt.
Geeignet können beispielsweise allgemeine Textentwürfe, organisatorische Checklisten oder die Strukturierung nicht vertraulicher Fortbildungsinhalte sein.
Vermitteln Sie den beteiligten Mitgliedern des Praxisteams die grundlegenden Möglichkeiten und Grenzen der verwendeten Anwendungen sowie die erforderlichen Regeln zum Datenschutz und zur Qualitätskontrolle.
Überprüfen Sie die Ergebnisse zunächst anhand repräsentativer Aufgaben, bevor die entsprechenden Anwendungen regelmässig in Arbeitsprozesse integriert werden.
Ziel: Aufbau praktischer Erfahrungen unter kontrollierten Bedingungen und mit überschaubaren Risiken.
Phase 4 – Arbeitsprozesse standardisieren
Entwickeln Sie wiederverwendbare Arbeitsaufträge, dokumentieren Sie geeignete Anwendungsbereiche und definieren Sie verbindliche Kontrollschritte.
Innerhalb des Praxisteams sollten Zuständigkeiten für die Erstellung, Überprüfung und Freigabe KI-generierter Inhalte eindeutig geregelt sein.
Definieren Sie, wie bei unvollständigen oder widersprüchlichen Ergebnissen, technischen Störungen und erheblichen Qualitätsabweichungen vorzugehen ist.
Stellen Sie sicher, dass medizinisch notwendige Arbeitsprozesse auch bei einem Ausfall der KI-Anwendung zuverlässig fortgeführt werden können.
Ziel: Nachvollziehbare, wiederholbare und kontrollierbare Arbeitsabläufe mit klar definierten Verantwortlichkeiten.
Phase 5 – Nutzen und Fehler systematisch erfassen
Vergleichen Sie KI-gestützte Arbeitsprozesse mit der bisherigen Vorgehensweise. Berücksichtigen Sie den tatsächlichen Zeitaufwand, die Ergebnisqualität, den Korrekturbedarf und aufgetretene Fehler.
Erfassen Sie auch klinisch relevante Beinahefehler, die durch die fachliche Qualitätskontrolle erkannt wurden, bevor sie Auswirkungen auf die Patientenversorgung haben konnten.
Definieren Sie Kriterien, bei deren Erfüllung eine Anwendung vorübergehend ausgesetzt, angepasst oder vollständig aus dem jeweiligen Arbeitsprozess entfernt werden muss.
Auch Anwendungen, die zunächst einen guten Eindruck vermitteln, sollten bei wiederkehrenden oder erheblichen Qualitätsproblemen nicht unverändert weiterverwendet werden.
Ziel: Nachvollziehbare Beurteilung des tatsächlichen Nutzens und systematische Identifikation neu entstehender Fehlerquellen.
Phase 6 – Erfahrungen auswerten und Anwendungen weiterentwickeln
Erweitern Sie die Anwendungsbereiche erst dann, wenn die bestehenden Arbeitsprozesse ausreichend zuverlässig funktionieren und die erforderlichen Voraussetzungen für zusätzliche Aufgaben erfüllt sind.
Berücksichtigen Sie technische Änderungen der verwendeten Systeme und überprüfen Sie bei relevanten Modell- oder Softwareaktualisierungen, ob die bisherigen Qualitätskontrollen weiterhin ausreichend sind.
Auch Änderungen der Nutzungsbedingungen, der Datenverarbeitung oder der organisatorischen Rahmenbedingungen können eine erneute Bewertung erforderlich machen.
Aktualisieren Sie die praxisinternen Arbeitsanweisungen und standardisierten Arbeitsaufträge entsprechend den gewonnenen Erfahrungen und den veränderten technischen Möglichkeiten.
Ziel: Kontinuierliche Weiterentwicklung der KI-gestützten Arbeitsprozesse unter Berücksichtigung der tatsächlichen Ergebnisqualität, der Patientensicherheit und der organisatorischen Voraussetzungen.
Eigenes praxisorientiertes Einführungskonzept. Kein formal validierter Implementierungsstandard und keine vollständige rechtliche oder regulatorische Anleitung zur Einführung medizinischer KI-Anwendungen.
Praxisinterne Regeln für die Verwendung künstlicher Intelligenz
Für die kontrollierte Verwendung künstlicher Intelligenz kann es sinnvoll sein, innerhalb der Arztpraxis grundlegende Regeln schriftlich festzulegen.
Diese Regeln sollten dem Umfang und der klinischen Bedeutung der verwendeten Anwendungen entsprechen und für alle beteiligten Mitglieder des Praxisteams verständlich sein.
Eine entsprechende praxisinterne Arbeitsanweisung kann beispielsweise folgende Bereiche berücksichtigen:
- Liste der innerhalb der Praxis freigegebenen KI-Anwendungen.
- Definition der zulässigen und ausgeschlossenen Verwendungszwecke.
- Festlegung der Informationen und Datenkategorien, die mit den jeweiligen Anwendungen verarbeitet werden dürfen.
- Vorgaben zur Verwendung vertraulicher und personenbezogener Informationen.
- Definition der erforderlichen fachlichen Kontroll- und Freigabeschritte.
- Zuständigkeiten für die Auswahl, Einführung und Überwachung der Anwendungen.
- Anforderungen an die Dokumentation klinisch relevanter KI-Anwendungen.
- Vorgehensweise bei technischen Störungen, Qualitätsproblemen und Sicherheitsvorfällen.
- Regelungen zur Erfassung von Fehlern und Beinahefehlern.
- Voraussetzungen für die erneute Beurteilung nach relevanten technischen oder organisatorischen Änderungen.
Die praxisinternen Regeln sollten nicht ausschliesslich als allgemeine Empfehlung verstanden werden, sondern entsprechend dem jeweiligen Anwendungskontext in konkrete und nachvollziehbare Arbeitsprozesse überführt werden.
Fehler und Beinahefehler als Bestandteil der Qualitätssicherung
Bei der Evaluation künstlicher Intelligenz sollte nicht ausschliesslich berücksichtigt werden, welche Fehler zu einer erkennbaren Beeinträchtigung medizinischer oder organisatorischer Arbeitsprozesse geführt haben.
Auch Fehler, die durch eine aufmerksame medizinische Fachperson rechtzeitig erkannt und korrigiert wurden, können wichtige Hinweise auf systematische Schwächen einer KI-Anwendung liefern.
Wenn beispielsweise ein KI-gestütztes Dokumentationssystem wiederholt nicht erhobene negative Befunde ergänzt, sollte dieses Verhalten auch dann als relevantes Qualitätsproblem betrachtet werden, wenn die betreffenden Angaben vor der Freigabe der Dokumentation jeweils korrigiert wurden.
Wiederkehrende Fehler dieser Art können auf die Notwendigkeit einer Anpassung der Arbeitsaufträge, zusätzlicher Kontrollmechanismen oder einer Einschränkung des Verwendungszwecks hinweisen.
Bei schwerwiegenden Sicherheits- oder Datenschutzproblemen muss gegebenenfalls bereits ein einzelner Vorfall zum vorübergehenden Verzicht auf die betreffende Anwendung führen.
Welche Fragen sollten bei einer Evaluation beantwortet werden?
- Hat sich der gesamte Arbeitsaufwand tatsächlich reduziert?
- Hat sich die Qualität der Ergebnisse verbessert oder verschlechtert?
- Welche Fehler treten wiederholt auf?
- Welche klinisch relevanten Beinahefehler wurden festgestellt?
- Werden Fehler vor der Verwendung der Ergebnisse zuverlässig erkannt?
- Ist der erforderliche Kontrollaufwand im Praxisalltag tatsächlich vertretbar?
- Sind die Verantwortlichkeiten innerhalb des Praxisteams eindeutig geregelt?
- Verfügen die beteiligten Personen über die erforderlichen Kenntnisse zur Verwendung und Kontrolle der Anwendungen?
- Werden die Anforderungen an Datenschutz und Vertraulichkeit eingehalten?
- Entspricht die tatsächliche Verwendung dem vorgesehenen und freigegebenen Verwendungszweck?
- Bleiben die Arbeitsprozesse auch bei einem technischen Ausfall funktionsfähig?
- Welche Auswirkungen ergeben sich für die Patientenversorgung?
Die Einführung einer KI-Anwendung sollte nicht als erfolgreich gelten, nur weil sie regelmässig genutzt wird. Entscheidend sind die tatsächlichen Auswirkungen auf den jeweiligen Arbeitsprozess.
Insbesondere sollten die Erwartungen an die technische Anwendung regelmässig mit den im Praxisalltag beobachteten Ergebnissen abgeglichen werden.
Wenn eine Anwendung zwar subjektiv als hilfreich wahrgenommen wird, gleichzeitig aber der Korrekturaufwand steigt oder neue medizinische Fehlerquellen entstehen, muss ihre weitere Verwendung kritisch beurteilt werden.
Professionelle KI-Integration als kontinuierlicher Entwicklungsprozess
Die Verwendung künstlicher Intelligenz in einer Arztpraxis sollte nicht als einmalig abgeschlossene technische Einführung verstanden werden.
Neue wissenschaftliche Erkenntnisse, Veränderungen medizinischer Empfehlungen, technische Aktualisierungen und die praktischen Erfahrungen des Praxisteams können eine kontinuierliche Anpassung der etablierten Arbeitsprozesse erforderlich machen.
Entsprechend sollte auch die Qualitätssicherung nicht ausschliesslich während der Einführungsphase erfolgen, sondern dauerhaft als Bestandteil der professionellen Verwendung künstlicher Intelligenz etabliert werden.
Merksatz: Eine erfolgreiche KI-Integration in die Arztpraxis ist nicht primär ein technologisches Projekt, sondern ein medizinischer und organisatorischer Entwicklungsprozess mit klar definierten Verantwortlichkeiten und kontinuierlicher Qualitätssicherung.
Praxisbeispiel – von der KI-Antwort zur ärztlichen Entscheidung
Eine Hausärztin möchte ihre differenzialdiagnostischen Überlegungen zu einer klinischen Fragestellung strukturieren. Hierfür verwendet sie ein allgemeines Sprachmodell als ergänzendes Werkzeug.
Das folgende Beispiel zeigt insbesondere den Unterschied zwischen einer Anfrage, die bereits eine diagnostische Vermutung beinhaltet und unmittelbar nach einer Therapie fragt, und einem strukturierten Arbeitsauftrag, der die eigenständige ärztliche Beurteilung unterstützt.
Fiktive klinische Ausgangssituation
Ein 58-jähriger Patient berichtet über eine seit mehreren Wochen zunehmende Belastungsdyspnoe. Angaben zu Vitalparametern, Vorerkrankungen, Medikamenten, körperlichem Untersuchungsbefund und weiteren Begleitsymptomen liegen zunächst nicht vor.
Eine ungeeignete Anfrage
Ein 58-jähriger Patient hat eine zunehmende Belastungsdyspnoe. Vermutlich handelt es sich um eine beginnende Herzinsuffizienz. Welche Therapie empfehlen Sie?
Diese Anfrage enthält bereits eine diagnostische Annahme, ohne dass hierfür ausreichende klinische Informationen vorliegen. Gleichzeitig wird unmittelbar nach einer Therapie gefragt, obwohl weder die Ursache der Beschwerden noch die klinische Dringlichkeit geklärt sind.
Eine KI-Anwendung könnte sich an dieser diagnostischen Vorgabe orientieren und dadurch andere mögliche Ursachen unzureichend berücksichtigen. Zudem könnte sie auf der Grundlage der unvollständigen Informationen therapeutische Empfehlungen formulieren, deren klinische Eignung nicht ausreichend beurteilt werden kann.
Die Kombination aus einer vorgegebenen diagnostischen Vermutung und einer unmittelbar anschliessenden therapeutischen Fragestellung kann somit sowohl menschliche als auch technologische Verzerrungen begünstigen.
Die in diesem Zusammenhang relevanten Phänomene des Confirmation Bias und der Sycophancy werden im Beitrag Wenn KI uns recht gibt ausführlich erläutert.
Eine professionell formulierte Anfrage
Unterstützen Sie mich bei der ergebnisoffenen Strukturierung der differenzialdiagnostischen Überlegungen zu folgendem fiktiven klinischen Beispiel:
Ein 58-jähriger Patient berichtet über eine seit mehreren Wochen zunehmende Belastungsdyspnoe. Weitere klinische Informationen liegen noch nicht vor.
Identifizieren Sie zunächst die für eine medizinische Beurteilung relevanten fehlenden anamnestischen und klinischen Angaben.
Berücksichtigen Sie potenziell zeitkritische Ursachen und mögliche Warnzeichen. Erläutern Sie, welche fehlenden Informationen für die Beurteilung der klinischen Dringlichkeit besonders relevant sind.
Stellen Sie anschliessend mögliche diagnostische Hypothesen nach klinischen Ursachengruppen zusammen. Berücksichtigen Sie auch alternative Erklärungen und erläutern Sie, welche klinischen Informationen zur weiteren Differenzierung beitragen könnten.
Trennen Sie die verfügbaren Informationen von medizinischen Hypothesen und eigenständig getroffenen Annahmen. Ergänzen Sie keine nicht vorliegenden Untersuchungsergebnisse oder anamnestischen Angaben.
Formulieren Sie keine definitive Diagnose oder konkrete patientenbezogene Therapieempfehlung. Kennzeichnen Sie die Grenzen der möglichen Beurteilung anhand der verfügbaren Informationen.
Was unterscheidet die beiden Anfragen?
Während die erste Anfrage eine diagnostische Vermutung in den Mittelpunkt stellt und bereits nach einer therapeutischen Konsequenz fragt, ist der zweite Arbeitsauftrag auf eine strukturierte und ergebnisoffene Vorbereitung weiterer medizinischer Überlegungen ausgerichtet.
Die künstliche Intelligenz soll nicht unmittelbar eine Entscheidung treffen, sondern zunächst die Voraussetzungen für eine fundierte ärztliche Beurteilung identifizieren.
Ungeeignete Vorgehensweise
- Vorgegebene diagnostische Vermutung
- Unvollständige klinische Informationen
- Fehlende Beurteilung der Dringlichkeit
- Unmittelbare therapeutische Fragestellung
- Gefahr einer unkritischen Bestätigung
- Unzureichende Berücksichtigung alternativer Ursachen
Professionelle Vorgehensweise
- Ergebnisoffene Fragestellung
- Identifikation fehlender Informationen
- Berücksichtigung zeitkritischer Ursachen
- Strukturierung diagnostischer Hypothesen
- Kennzeichnung von Unsicherheiten und Annahmen
- Eigenständige ärztliche Beurteilung
Eigene didaktische Gegenüberstellung zweier unterschiedlicher Arbeitsaufträge. Es handelt sich nicht um die Ergebnisse einer vergleichenden Untersuchung tatsächlicher KI-Antworten.
Was muss anschliessend ärztlich beurteilt werden?
Die KI-generierte Übersicht wäre mit den eigenen medizinischen Überlegungen abzugleichen. Insbesondere müsste überprüft werden, ob relevante Ursachengruppen tatsächlich berücksichtigt wurden, ob zeitkritische Differenzialdiagnosen angemessen eingeordnet sind und ob mögliche weitere Abklärungsschritte der konkreten klinischen Situation entsprechen.
Bei der geschilderten Ausgangssituation wären beispielsweise kardiale, pulmonale, hämatologische und weitere systemische Ursachen in die differenzialdiagnostischen Überlegungen einzubeziehen. Eine belastbare Gewichtung der einzelnen Ursachen ist anhand der wenigen verfügbaren Informationen jedoch nicht möglich.
Auch eine ausführliche Auflistung möglicher Differenzialdiagnosen gewährleistet nicht, dass tatsächlich alle für den einzelnen Patienten relevanten Erkrankungen berücksichtigt wurden.
Die ärztliche Qualitätskontrolle sollte insbesondere folgende Fragen berücksichtigen:
- Wurden die verfügbaren klinischen Informationen korrekt wiedergegeben?
- Wurden fehlende Informationen ausdrücklich als solche gekennzeichnet?
- Wurden relevante diagnostische Ursachengruppen berücksichtigt?
- Wurden möglicherweise zeitkritische Ursachen und klinische Warnzeichen ausreichend berücksichtigt?
- Ist die Gewichtung diagnostischer Hypothesen anhand der vorhandenen Informationen tatsächlich nachvollziehbar?
- Enthält die Antwort unbelegte Annahmen oder nicht ausreichend begründete diagnostische Schlussfolgerungen?
- Welche zusätzlichen klinischen Informationen und Untersuchungen sind für eine eigenständige ärztliche Beurteilung erforderlich?
Die eigentliche Anamnese, körperliche Untersuchung, Beurteilung der klinischen Dringlichkeit und diagnostische Entscheidungsfindung können durch eine solche Anfrage nicht ersetzt werden.
Bestehen Hinweise auf eine akute oder potenziell bedrohliche klinische Situation, haben die unmittelbare medizinische Beurteilung und die erforderlichen diagnostischen beziehungsweise therapeutischen Massnahmen Vorrang vor der Verwendung eines allgemeinen Sprachmodells.
Eine entsprechende KI-Anwendung sollte daher nicht als autonomes diagnostisches System verstanden werden. Ihr möglicher Nutzen besteht in diesem Beispiel ausschliesslich in der ergänzenden Strukturierung und kritischen Reflexion medizinischer Überlegungen.
Frei konstruiertes medizinisches Lehrbeispiel. Es wurden keine realen Patientendaten verwendet und keine tatsächlichen Antworten eines Sprachmodells dokumentiert. Das Beispiel stellt keinen diagnostischen Algorithmus zur Abklärung einer Dyspnoe dar.
Merksatz: Ein professioneller medizinischer Arbeitsauftrag sollte künstliche Intelligenz nicht dazu veranlassen, vorschnell eine diagnostische oder therapeutische Entscheidung zu treffen. Er sollte vielmehr dazu beitragen, die Voraussetzungen für eine fundierte eigenständige ärztliche Entscheidung zu verbessern.
Masterprompt für den professionellen Umgang mit KI
Für wiederkehrende medizinische Arbeitsaufträge kann ein übergeordneter Masterprompt grundlegende Anforderungen an die Qualität der Zusammenarbeit mit künstlicher Intelligenz definieren.
Ein solcher Arbeitsauftrag sollte nicht nur das gewünschte Ergebnis beschreiben, sondern auch die Anforderungen an den Umgang mit Unsicherheit, die kritische Beurteilung vorgegebener Annahmen, die wissenschaftliche Nachvollziehbarkeit und die abschliessende Qualitätskontrolle berücksichtigen.
Im Unterschied zu einem auf eine einzelne Fragestellung ausgerichteten Prompt formuliert ein übergeordneter Masterprompt grundlegende Regeln, die bei unterschiedlichen medizinischen, wissenschaftlichen, organisatorischen und redaktionellen Aufgaben berücksichtigt werden sollen.
Er kann durch aufgabenspezifische Arbeitsaufträge ergänzt und entsprechend den Anforderungen der jeweiligen medizinischen Tätigkeit weiterentwickelt werden.
Die methodischen Grundlagen hierzu werden in den Beiträgen Prompt Engineering und Vom Prompt zum Masterprompt ausführlich dargestellt.
MASTERPROMPT – PROFESSIONELLER UMGANG MIT KÜNSTLICHER INTELLIGENZ IN DER MEDIZIN
01 – Rolle und Zielsetzung
Unterstützen Sie mich als medizinische Fachperson bei der Bearbeitung fachlicher, wissenschaftlicher, organisatorischer und redaktioneller Aufgaben. Arbeiten Sie präzise, kritisch, nachvollziehbar und ergebnisoffen.
Ihre Aufgabe besteht darin, meine Arbeitsprozesse und medizinischen Überlegungen zu unterstützen, nicht eigenständig ärztliche Entscheidungen zu treffen.
Berücksichtigen Sie bei der Bearbeitung den jeweiligen medizinischen und wissenschaftlichen Kontext sowie die möglichen Auswirkungen der erzeugten Ergebnisse auf nachfolgende Arbeitsprozesse.
02 – Verständnis des Arbeitsauftrags
Prüfen Sie zunächst, ob die Zielsetzung und die verfügbaren Informationen für die Bearbeitung ausreichend sind. Benennen Sie relevante Unklarheiten und stellen Sie bei Bedarf gezielte Rückfragen.
Wenn Sie für die Bearbeitung Annahmen treffen müssen, kennzeichnen Sie diese ausdrücklich.
Unterscheiden Sie zwischen ausdrücklich formulierten Anforderungen und ergänzenden Entscheidungen, die Sie eigenständig für die Bearbeitung treffen.
Prüfen Sie bei bereitgestellten Dokumenten, Dateien oder externen Quellen, ob die für den Arbeitsauftrag relevanten Inhalte tatsächlich zugänglich sind.
Wenn für die Bearbeitung notwendige Informationen, Dokumente oder technische Funktionen nicht verfügbar sind, weisen Sie darauf hin. Ersetzen Sie fehlende Ausgangsinformationen nicht unbemerkt durch allgemeines Wissen oder vermeintlich plausible Annahmen.
03 – Fachliche Richtigkeit
Verwenden Sie medizinisch korrekte Terminologie. Trennen Sie verfügbare Ausgangsinformationen, medizinische Interpretationen, diagnostische Hypothesen und weiterführende Schlussfolgerungen.
Ergänzen Sie keine fehlenden Patienteninformationen, Untersuchungsergebnisse oder wissenschaftlichen Erkenntnisse durch frei erfundene Angaben.
Unterscheiden Sie bei medizinischen Dokumenten insbesondere zwischen tatsächlich erhobenen Befunden, nicht erhobenen Informationen und medizinischen Interpretationen.
Verändern Sie bei der sprachlichen oder redaktionellen Überarbeitung medizinischer Texte keine relevanten inhaltlichen Aussagen, ohne entsprechende Änderungen ausdrücklich zu kennzeichnen.
Berücksichtigen Sie bei klinischen Fragestellungen möglicherweise relevante Differenzialdiagnosen, medizinische Risiken, Kontraindikationen und Einschränkungen, soweit diese anhand der verfügbaren Informationen beurteilt werden können.
04 – Kritische Zusammenarbeit
Gehen Sie nicht grundsätzlich davon aus, dass meine Aussagen, Annahmen und Schlussfolgerungen korrekt sind. Identifizieren Sie mögliche Denkfehler, unbelegte Prämissen und relevante alternative Erklärungen.
Widersprechen Sie sachlich und begründet, wenn meine Annahmen nicht mit den verfügbaren medizinischen Informationen oder wissenschaftlichen Erkenntnissen übereinstimmen.
Berücksichtigen Sie bei der Bearbeitung einer Fragestellung auch Informationen und Argumente, die gegen die von mir vertretene Auffassung sprechen.
Unterscheiden Sie zwischen einer nachvollziehbaren fachlichen Bestätigung meiner Überlegungen und einer lediglich plausibel formulierten Zustimmung.
Wenn Sie unterschiedliche fachliche Perspektiven darstellen oder simulierte Expertenrollen verwenden, kennzeichnen Sie diese als KI-generierte Betrachtungsweisen und nicht als tatsächlich unabhängige fachärztliche Beurteilungen.
05 – Wissenschaftliche Nachvollziehbarkeit
Stützen Sie wissenschaftlich relevante Aussagen auf geeignete und tatsächlich überprüfte Quellen, sofern ein entsprechender Zugang besteht.
Unterscheiden Sie zwischen Originalpublikationen, Leitlinien, Herstellerinformationen, Sekundärquellen und eigenen Schlussfolgerungen. Erfinden Sie keine Literaturangaben, Studienergebnisse oder DOI-Nummern.
Prüfen Sie bei wissenschaftlichen Publikationen, soweit möglich, deren bibliografische Angaben, die Identität der Originalquelle und die tatsächliche Übereinstimmung zwischen der zitierten Publikation und der betreffenden wissenschaftlichen Aussage.
Geben Sie an, welche Quellen tatsächlich eingesehen wurden und ob Ihnen bibliografische Informationen, ein Abstract, der Originalvolltext oder ausschliesslich sekundäre Informationen zur Verfügung standen.
Gleichen Sie numerische Studienergebnisse, Studienpopulationen, definierte Endpunkte, Effektgrössen, statistische Unsicherheiten und methodische Limitationen mit den zugänglichen Originalquellen ab.
Unterscheiden Sie zwischen den wissenschaftlichen Ergebnissen einer Untersuchung, den Schlussfolgerungen der Autoren und weiterführenden eigenen Interpretationen.
Benennen Sie ausdrücklich, wenn keine tatsächliche wissenschaftliche Recherche durchgeführt werden konnte oder wenn relevante Aussagen aufgrund eines eingeschränkten Quellenzugangs nicht ausreichend verifiziert werden konnten.
06 – Unsicherheiten und Grenzen
Kennzeichnen Sie fehlende Informationen, widersprüchliche Erkenntnisse und wissenschaftliche Unsicherheiten. Täuschen Sie keine diagnostische Sicherheit vor, wenn diese durch die verfügbaren Informationen nicht gerechtfertigt ist.
Unterscheiden Sie nachvollziehbar zwischen überprüfbaren Fakten, plausiblen Hypothesen und nicht ausreichend belegten Aussagen.
Weisen Sie darauf hin, wenn wissenschaftliche Erkenntnisse nicht unmittelbar auf die konkrete klinische Fragestellung übertragen werden können.
Unterscheiden Sie zwischen einer fehlenden wissenschaftlichen Evidenz für einen bestimmten Zusammenhang und einem wissenschaftlichen Nachweis dafür, dass dieser Zusammenhang nicht besteht.
Berücksichtigen Sie auch die Grenzen Ihrer technischen Möglichkeiten, Ihres Informationszugangs und der tatsächlich verwendeten Arbeitsgrundlagen.
07 – Datenschutz und Verantwortung
Weisen Sie darauf hin, wenn ein Arbeitsauftrag die Verarbeitung identifizierbarer oder vertraulicher Patienteninformationen voraussetzt. Fordern Sie keine personenbezogenen Informationen an, die für die Bearbeitung nicht erforderlich sind.
Vermeiden Sie die unnötige Wiedergabe personenbezogener Angaben. Arbeiten Sie bei medizinischen Lehrbeispielen nach Möglichkeit mit fiktiven oder ausreichend anonymisierten Informationen.
Behaupten Sie nicht, dass eine Datenverarbeitung rechtlich zulässig, ausreichend geschützt oder vollständig anonymisiert ist, wenn die hierfür notwendigen Voraussetzungen nicht tatsächlich beurteilt werden können.
Berücksichtigen Sie die Grenzen Ihrer Funktion als unterstützendes Werkzeug. Die abschliessende medizinische Beurteilung und Verantwortung für die medizinische Verwendung der Ergebnisse verbleiben bei der zuständigen medizinischen Fachperson.
Weisen Sie bei möglicherweise zeitkritischen klinischen Fragestellungen darauf hin, dass notwendige medizinische Abklärungen und Massnahmen durch die Verwendung künstlicher Intelligenz nicht verzögert werden dürfen.
08 – Ergebnisdarstellung
Strukturieren Sie die Ergebnisse entsprechend der jeweiligen Aufgabenstellung. Verwenden Sie eine fachlich angemessene, verständliche und präzise Sprache. Tabellen, Aufzählungen und grafische Darstellungen sollen einen tatsächlichen zusätzlichen Informationswert besitzen.
Vermeiden Sie überflüssige Wiederholungen und unbegründete Verallgemeinerungen.
Kennzeichnen Sie fiktive Beispiele, angenommene Zahlenwerte, eigene didaktische Modelle und illustrative Darstellungen eindeutig. Stellen Sie diese nicht als empirisch erhobene oder wissenschaftlich validierte Ergebnisse dar.
Berücksichtigen Sie bei der Bearbeitung bestehender Dokumente die ausdrücklich vorgegebene Struktur und die Anforderungen an die Vollständigkeit des Arbeitsergebnisses.
Unterscheiden Sie zwischen einem vorläufigen Entwurf, einem wissenschaftlich überprüften Arbeitsergebnis und einem Ergebnis, das noch einer abschliessenden medizinischen Freigabe bedarf.
09 – Abschliessende Selbstkontrolle
Überprüfen Sie vor der Ausgabe, ob das Ergebnis dem Arbeitsauftrag entspricht, ob relevante Informationen fehlen und ob Widersprüche oder unbelegte Aussagen enthalten sind.
Gleichen Sie bei der Bearbeitung bereitgestellter Dokumente die relevanten Aussagen des Arbeitsergebnisses mit den tatsächlich zugänglichen Ausgangsinformationen ab.
Überprüfen Sie insbesondere medizinisch relevante Aussagen, numerische Angaben, Berechnungen, Literaturreferenzen und die Übereinstimmung zwischen den angeführten Quellen und den daraus abgeleiteten Schlussfolgerungen.
Benennen Sie verbleibende Limitationen, erforderliche zusätzliche Überprüfungen und Entscheidungen, die Sie ohne ausdrückliche Vorgaben getroffen haben.
Behaupten Sie nicht, externe Informationen, Dokumente oder Originalquellen überprüft zu haben, wenn Ihnen diese tatsächlich nicht zugänglich waren oder die entsprechende Überprüfung nicht durchgeführt wurde.
Unterscheiden Sie ausdrücklich zwischen einer KI-internen Selbstkontrolle, einem tatsächlichen Abgleich mit externen Originalquellen und einer unabhängigen fachlichen Qualitätskontrolle.
Eine erneute KI-interne Überprüfung darf nicht als Nachweis einer unabhängigen medizinischen oder wissenschaftlichen Validierung dargestellt werden.
10 – Übergeordneter Qualitätsgrundsatz
Fachliche Richtigkeit und wissenschaftliche Nachvollziehbarkeit haben Vorrang vor sprachlicher Überzeugungskraft, Umfang und Geschwindigkeit.
Eine ausdrücklich benannte Unsicherheit ist einer überzeugend formulierten, aber nicht ausreichend begründeten Aussage vorzuziehen.
Wenn eine Aufgabe aufgrund fehlender Informationen, unzureichender technischer Möglichkeiten oder nicht überprüfbarer wissenschaftlicher Grundlagen nicht zuverlässig bearbeitet werden kann, benennen Sie diese Einschränkung ausdrücklich, anstatt ein vermeintlich vollständiges Ergebnis zu erzeugen.
Eigener redaktioneller Masterprompt für medizinische Fachpersonen. Er kann an die jeweilige Aufgabenstellung angepasst und durch spezialisierte Arbeitsaufträge ergänzt werden. Seine Wirksamkeit wurde nicht in einer vergleichenden wissenschaftlichen Untersuchung validiert.
Die praktische Verwendung des Masterprompts
Der dargestellte Masterprompt definiert einen übergeordneten Rahmen für die Zusammenarbeit mit künstlicher Intelligenz. Für die Bearbeitung einzelner Aufgaben muss dieser Rahmen durch die konkrete Fragestellung, die erforderlichen Ausgangsinformationen und die spezifischen Anforderungen an das gewünschte Ergebnis ergänzt werden.
Für eine medizinische Literaturrecherche sind beispielsweise andere zusätzliche Vorgaben notwendig als für die sprachliche Überarbeitung eines ärztlichen Berichtes oder die Erstellung medizinischer Fortbildungsunterlagen.
Allgemeine Qualitätsanforderungen und Grundregeln der Zusammenarbeit
+
Fragestellung, Ausgangsinformationen, fachlicher Kontext und gewünschtes Ergebnis
↓
Einschliesslich gekennzeichneter Unsicherheiten, Annahmen und verbleibender Limitationen
↓
Abgleich mit den Ausgangsinformationen und gegebenenfalls wissenschaftlichen Originalquellen
↓
Eigene didaktische Darstellung der Kombination eines übergeordneten Masterprompts mit aufgabenspezifischen Arbeitsaufträgen und einer nachfolgenden fachlichen Qualitätskontrolle.
Eine solche Vorgehensweise ermöglicht es, allgemeine Qualitätsanforderungen von den spezifischen Anforderungen einer medizinischen Aufgabe zu unterscheiden, ohne sämtliche grundlegenden Regeln der Zusammenarbeit bei jedem einzelnen Arbeitsauftrag erneut formulieren zu müssen.
Ob und in welchem Umfang ein zuvor bereitgestellter Masterprompt bei späteren Arbeitsaufträgen tatsächlich berücksichtigt wird, hängt von den technischen Eigenschaften und Einstellungen der jeweiligen KI-Anwendung ab.
Die Grenzen eines übergeordneten Masterprompts
Auch ein ausführlicher Masterprompt verändert nicht automatisch die grundlegenden technischen Eigenschaften eines Sprachmodells. Er kann weder die Verfügbarkeit externer Datenquellen garantieren noch Halluzinationen vollständig verhindern oder datenschutzrechtliche Voraussetzungen herstellen.
Ein Masterprompt kann ein Sprachmodell dazu auffordern, fehlende Informationen und Unsicherheiten ausdrücklich zu kennzeichnen. Er gewährleistet jedoch nicht, dass das System seine eigenen Fehler, Wissenslücken und technischen Einschränkungen in jeder Situation zuverlässig erkennt.
Ebenso wenig kann die Anweisung zur wissenschaftlichen Quellenprüfung gewährleisten, dass tatsächlich ein Zugang zu den relevanten Originalpublikationen besteht oder die darin enthaltenen Informationen korrekt interpretiert werden.
Datenschutzbezogene Anweisungen innerhalb eines Prompts stellen zudem keine technischen oder organisatorischen Massnahmen zum Schutz der an eine KI-Anwendung übermittelten Informationen dar. Die Zulässigkeit einer Datenverarbeitung muss vor der Übermittlung der betreffenden Informationen beurteilt werden.
Die im Masterprompt enthaltenen Anforderungen bilden vielmehr einen Rahmen für die Zusammenarbeit, dessen tatsächliche Einhaltung anhand der jeweiligen Ergebnisse überprüft werden muss.
Merksatz: Ein Masterprompt definiert die Anforderungen an die Zusammenarbeit mit künstlicher Intelligenz. Er ersetzt weder die tatsächliche wissenschaftliche Recherche noch die unabhängige fachliche Qualitätskontrolle oder die erforderlichen datenschutzrechtlichen Schutzmassnahmen.
Checkliste vor der Übernahme KI-generierter Inhalte
Die folgende Checkliste fasst die wichtigsten Kontrollfragen zusammen, die vor der Verwendung medizinisch relevanter KI-generierter Ergebnisse berücksichtigt werden sollten. Sie lässt sich beispielsweise in bestehende Qualitätssicherungsprozesse einer Arztpraxis integrieren.
Umfang und Tiefe der erforderlichen Überprüfung hängen insbesondere vom vorgesehenen Verwendungszweck, der klinischen Tragweite des Arbeitsergebnisses und den damit verbundenen Risiken ab.
01 – Auftrag und Voraussetzungen
☐ Die Aufgabe und das gewünschte Ergebnis sind eindeutig definiert.
☐ Das verwendete System ist für den vorgesehenen Einsatz geeignet und erfüllt die gegebenenfalls erforderlichen regulatorischen Voraussetzungen.
☐ Datenschutz und Vertraulichkeit sind berücksichtigt.
02 – Inhaltliche Qualitätskontrolle
☐ Die Antwort entspricht den tatsächlich verfügbaren Ausgangsinformationen.
☐ Medizinisch relevante Aussagen wurden fachlich überprüft.
☐ Es wurden keine unbelegten Informationen hinzugefügt beziehungsweise eigenständig getroffene Annahmen wurden eindeutig gekennzeichnet.
☐ Klinisch relevante Auslassungen, alternative Erklärungen und gegebenenfalls zeitkritische Risiken wurden berücksichtigt.
03 – Wissenschaftliche Qualitätskontrolle
☐ Relevante wissenschaftliche Quellen wurden tatsächlich überprüft und Einschränkungen des Quellenzugangs wurden berücksichtigt.
☐ Zahlen, Empfehlungen und Literaturangaben sind anhand der zugänglichen Originalquellen nachvollziehbar.
☐ Unsicherheiten, widersprüchliche Erkenntnisse und methodische Limitationen sind angemessen dargestellt.
04 – Abschliessende medizinische Beurteilung
☐ Die Ergebnisse wurden unabhängig von ihrer sprachlichen Überzeugungskraft und einer möglicherweise bereits erfolgten KI-internen Selbstkontrolle beurteilt.
☐ Die möglichen Auswirkungen auf Patienten wurden unter Berücksichtigung des konkreten klinischen Kontextes beurteilt.
☐ Erforderliche Dokumentations- und Informationspflichten wurden erfüllt.
☐ Die zuständige Fachperson hat das Ergebnis geprüft und für den vorgesehenen Verwendungszweck freigegeben.
Eigene praxisorientierte Checkliste mit 14 Kontrollfragen. Umfang und Tiefe der Kontrolle müssen an die konkrete Aufgabe und die mit ihr verbundenen Risiken angepasst werden. Kein wissenschaftlich validiertes Audit-Instrument und kein Ersatz für anwendungsspezifische rechtliche, regulatorische oder medizinische Prüfungen.
Vorläufiger Entwurf oder freigegebenes Arbeitsergebnis?
Innerhalb KI-gestützter Arbeitsprozesse sollte eindeutig zwischen einem noch nicht ausreichend überprüften Entwurf und einem fachlich freigegebenen Arbeitsergebnis unterschieden werden.
Diese Unterscheidung kann insbesondere dann wichtig sein, wenn mehrere Mitglieder eines Praxisteams an der Erstellung und Weiterverarbeitung medizinischer Inhalte beteiligt sind.
Vorläufiger Entwurf
KI-generierte Inhalte, deren fachliche Richtigkeit, Vollständigkeit oder wissenschaftliche Nachvollziehbarkeit noch nicht ausreichend überprüft wurden. Keine ungeprüfte Verwendung für medizinisch relevante Entscheidungen oder Publikationen.
Fachlich freigegebenes Arbeitsergebnis
Ein Ergebnis, das entsprechend dem vorgesehenen Verwendungszweck ausreichend überprüft und durch die zuständige Fachperson zur Verwendung freigegeben wurde.
Wenn einzelne für die vorgesehene Verwendung notwendige Kontrollfragen nicht ausreichend beantwortet werden können, sollte das betreffende Arbeitsergebnis weiterhin als vorläufiger Entwurf betrachtet werden.
Je nach Art der verbleibenden Einschränkungen können zusätzliche Informationen, wissenschaftliche Recherchen, Korrekturen oder die Konsultation einer weiteren entsprechend qualifizierten Fachperson erforderlich sein.
Bei besonders relevanten oder komplexen medizinischen Fragestellungen kann eine zusätzliche unabhängige fachliche Überprüfung im Sinne eines Vier-Augen-Prinzips sinnvoll sein.
Grundsatz: Die Aussage eines Sprachmodells, ein Ergebnis vollständig überprüft zu haben, ist nicht mit einer fachlichen Freigabe durch eine medizinische Fachperson gleichzusetzen.
Zehn Grundregeln für den professionellen Umgang mit KI
Die wesentlichen Erkenntnisse unserer Fortbildungsserie lassen sich in zehn praxisorientierten Grundregeln zusammenfassen. Sie verbinden die technologischen Grundlagen mit den Anforderungen an eine professionelle, wissenschaftlich nachvollziehbare und verantwortungsvolle Verwendung künstlicher Intelligenz im medizinischen Alltag.
Verstehen Sie das Werkzeug, das Sie verwenden.
Machen Sie sich mit den grundlegenden Funktionen und technologischen Grenzen vertraut. Unterscheiden Sie zwischen tatsächlich verfügbaren technischen Möglichkeiten, zugänglichen Informationsquellen und den lediglich behaupteten Fähigkeiten eines Sprachmodells.
Wählen Sie geeignete Aufgaben aus.
Verwenden Sie künstliche Intelligenz dort, wo ein sinnvoller Nutzen und ausreichende Kontrollmöglichkeiten bestehen. Berücksichtigen Sie die klinische Tragweite, die fachliche und regulatorische Eignung des Systems sowie die Voraussetzungen einer unabhängigen Qualitätskontrolle.
Schützen Sie vertrauliche Informationen.
Beurteilen Sie die datenschutzrechtlichen und beruflichen Voraussetzungen vor einer Übermittlung von Informationen. Verarbeiten Sie keine identifizierbaren Patienteninformationen mit Anwendungen, für die die erforderlichen Schutzmassnahmen und rechtlichen Voraussetzungen nicht ausreichend geklärt sind.
Formulieren Sie präzise Arbeitsaufträge.
Definieren Sie Kontext, Zielsetzung, relevante Einschränkungen und die gewünschte Form der Ergebnisse. Verwenden Sie für regelmässig wiederkehrende Aufgaben standardisierte Arbeitsaufträge und geeignete Masterprompts.
Bleiben Sie ergebnisoffen.
Vermeiden Sie Arbeitsaufträge, die ausschliesslich auf die Bestätigung Ihrer eigenen Auffassung ausgerichtet sind. Fordern Sie alternative Erklärungen, kritische Einwände und die Kennzeichnung unbelegter Annahmen ausdrücklich ein.
Überprüfen Sie die Ergebnisse.
Beurteilen Sie nicht nur die vorhandenen Aussagen, sondern auch fehlende Informationen und mögliche Fehlinterpretationen. Eine überzeugende sprachliche Darstellung oder die erneute Kontrolle durch ein Sprachmodell ersetzt keine unabhängige fachliche Überprüfung.
Verifizieren Sie wissenschaftliche Quellen.
Prüfen Sie die Existenz, den Inhalt und die wissenschaftliche Aussagekraft der relevanten Originalpublikationen. Berücksichtigen Sie Einschränkungen des Quellenzugangs, methodische Limitationen und die Übertragbarkeit wissenschaftlicher Erkenntnisse auf die konkrete Fragestellung.
Bewahren Sie Ihre kognitive Eigenständigkeit.
Nutzen Sie künstliche Intelligenz zur Ergänzung und kritischen Reflexion Ihres eigenen medizinischen Denkens. Entwickeln Sie weiterhin eigenständige medizinische Überlegungen und betrachten Sie KI-generierte Inhalte als Gegenstand einer fachlichen Beurteilung, nicht als deren Ersatz.
Gestalten Sie den Einsatz nachvollziehbar.
Dokumentieren Sie relevante Arbeitsprozesse, berücksichtigen Sie erforderliche Informationen gegenüber Patienten und ärztlichen Kolleginnen und Kollegen und definieren Sie Verantwortlichkeiten. Überprüfen Sie regelmässig die Qualität der etablierten Arbeitsprozesse.
Übernehmen Sie die Verantwortung für das Ergebnis.
Die Verwendung künstlicher Intelligenz entbindet medizinische Fachpersonen nicht von ihrer fachlichen und beruflichen Verantwortung. Verwenden Sie medizinisch relevante Ergebnisse erst nach einer dem jeweiligen Risiko und Verwendungszweck angemessenen fachlichen Überprüfung.
Eigene redaktionelle Zusammenfassung der zentralen Erkenntnisse der Fortbildungsserie «Künstliche Intelligenz in der Medizin». Die zehn Grundregeln stellen keine wörtliche Wiedergabe der Empfehlungen der FMH und keine eigenständige medizinische Leitlinie dar.
Die zehn Grundregeln sollten nicht isoliert betrachtet werden. Sie beschreiben unterschiedliche Aspekte eines gemeinsamen professionellen Arbeitsprozesses, der mit der Auswahl einer geeigneten Aufgabe beginnt und mit der verantwortungsvollen Verwendung eines ausreichend überprüften Ergebnisses endet.
Die Beachtung einer einzelnen Grundregel kann die Vernachlässigung anderer Voraussetzungen nicht ausgleichen. So kann ein hervorragend formulierter Arbeitsauftrag eine ungeeignete Datenverarbeitung nicht rechtfertigen. Ebenso kann eine datenschutzrechtlich geeignete Anwendung medizinisch fehlerhafte Ergebnisse erzeugen.
KI-Kompetenz als kontinuierlicher Lernprozess
Die Entwicklung künstlicher Intelligenz ist durch regelmässige technische Veränderungen gekennzeichnet. Neue Modelle, zusätzliche Funktionen und unterschiedliche Formen der Integration in medizinische Anwendungen können bestehende Einsatzmöglichkeiten ebenso verändern wie die damit verbundenen Risiken.
Professionelle KI-Kompetenz sollte deshalb nicht als einmalig erworbene Fähigkeit verstanden werden. Sie erfordert eine kontinuierliche Auseinandersetzung mit den verwendeten Systemen, wissenschaftlichen Erkenntnissen, rechtlichen Rahmenbedingungen und Erfahrungen aus der eigenen medizinischen Tätigkeit.
Auch die Leistungsfähigkeit einzelner Anwendungen lässt sich nicht dauerhaft anhand einmalig gewonnener Erfahrungen beurteilen. Technische Aktualisierungen, Veränderungen verfügbarer Informationsquellen oder neue Funktionen können eine erneute Beurteilung etablierter Arbeitsprozesse erforderlich machen.
Ein persönlicher Lern- und Entwicklungsprozess
Grundlagen, technische Eigenschaften und Grenzen kennenlernen
↓
Geeignete Aufgaben kontrolliert bearbeiten
↓
Ergebnisse und Arbeitsprozesse kritisch beurteilen
↓
Fehler, Beinahefehler, Nutzen und eigene Erfahrungen auswerten
↓
Wissen, Arbeitsaufträge und Kontrollprozesse verbessern
↻ Kontinuierlicher Lernprozess
Eigenes didaktisches Modell zur kontinuierlichen Entwicklung professioneller KI-Kompetenz. Keine wissenschaftlich validierte Lern- oder Kompetenzentwicklungssystematik.
Für medizinische Fortbildungen ergibt sich daraus die Aufgabe, nicht nur technische Kenntnisse zu vermitteln, sondern insbesondere die kritische Beurteilung künstlicher Intelligenz anhand konkreter Anwendungsbeispiele und realistischer medizinischer Fragestellungen zu trainieren.
Die Fähigkeit, eine fehlerhafte KI-Antwort zu erkennen, zu analysieren und gegebenenfalls zu korrigieren, ist dabei mindestens ebenso relevant wie die Fähigkeit, mit einem geeigneten Prompt eine hilfreiche Antwort zu erzeugen.
Welche Inhalte sollte eine medizinische KI-Fortbildung vermitteln?
Aus den dargestellten Anforderungen ergeben sich unterschiedliche Lernziele, welche die technischen Grundlagen mit der praktischen medizinischen Anwendung und der wissenschaftlichen Qualitätskontrolle verbinden.
- Grundlegendes Verständnis der Funktionsweise künstlicher Intelligenz und grosser Sprachmodelle.
- Realistische Beurteilung der Möglichkeiten und Grenzen unterschiedlicher KI-Anwendungen.
- Auswahl geeigneter medizinischer und organisatorischer Aufgaben.
- Formulierung präziser und ergebnisoffener Arbeitsaufträge.
- Entwicklung standardisierter Prompts und Masterprompts.
- Erkennen sachlich falscher, unvollständiger oder wissenschaftlich nicht ausreichend belegter Antworten.
- Überprüfung wissenschaftlicher Quellen und numerischer Studienergebnisse.
- Erkennen menschlicher und technologischer Verzerrungen bei der Verwendung künstlicher Intelligenz.
- Berücksichtigung datenschutzrechtlicher, ethischer und regulatorischer Voraussetzungen.
- Entwicklung geeigneter Arbeitsprozesse und fachlicher Qualitätskontrollen.
- Erhaltung der eigenständigen medizinischen Denk- und Entscheidungsfähigkeit.
Die Vermittlung dieser Fähigkeiten sollte nach Möglichkeit anhand realistischer Aufgabenstellungen erfolgen. Dabei können sowohl Beispiele einer erfolgreichen KI-gestützten Bearbeitung als auch bewusst ausgewählte fehlerhafte oder unvollständige Ergebnisse einen didaktischen Nutzen besitzen.
Aus Fehlern lernen
Fehlerhafte KI-generierte Ergebnisse sollten nicht ausschliesslich als technische Unzulänglichkeit betrachtet werden. Sie bieten auch die Möglichkeit, die eigenen Arbeitsaufträge, Erwartungen und Kontrollmechanismen kritisch zu hinterfragen.
Bei der Analyse eines Fehlers können beispielsweise folgende Fragen hilfreich sein:
- War die ursprüngliche Aufgabenstellung eindeutig formuliert?
- Waren die erforderlichen Ausgangsinformationen tatsächlich verfügbar?
- Wurde eine diagnostische oder wissenschaftliche Annahme bereits durch den Arbeitsauftrag vorgegeben?
- Wurden technische Einschränkungen oder fehlende Quellenzugänge ausreichend berücksichtigt?
- Warum wurde der Fehler nicht unmittelbar erkannt?
- Welche zusätzlichen Kontrollmechanismen könnten vergleichbare Fehler künftig erkennen?
- Ist eine Anpassung des Arbeitsauftrags ausreichend oder muss die Eignung der gesamten Anwendung erneut beurteilt werden?
Allerdings sollte nicht davon ausgegangen werden, dass jeder Fehler einer KI-Anwendung durch einen verbesserten Prompt behoben werden kann. Manche Fehler entstehen aufgrund grundlegender technologischer Einschränkungen, fehlender Informationen oder einer ungeeigneten Anwendung.
In diesen Situationen kann die angemessene professionelle Konsequenz darin bestehen, auf die Verwendung der betreffenden KI-Anwendung für eine bestimmte Aufgabe zu verzichten.
Merksatz: Professionelle KI-Kompetenz entwickelt sich nicht allein durch die regelmässige Verwendung künstlicher Intelligenz, sondern insbesondere durch die systematische Überprüfung und kritische Reflexion der dabei gewonnenen Erfahrungen.
Fazit
Ein professioneller Umgang mit KI verbindet technologische Kenntnisse mit medizinischer Erfahrung, wissenschaftlicher Methodik und persönlicher Verantwortung. Die Qualität der Zusammenarbeit zwischen Mensch und künstlicher Intelligenz wird nicht allein durch die Leistungsfähigkeit des verwendeten Systems bestimmt, sondern auch durch die Kompetenz der Person, die dieses System einsetzt, und die Qualität der etablierten Arbeitsprozesse.
Für medizinische Fachpersonen eröffnet künstliche Intelligenz die Möglichkeit, bestehende Arbeitsprozesse zu unterstützen, Informationen effizienter aufzubereiten und eigene Überlegungen aus zusätzlichen Perspektiven zu betrachten. Diese Möglichkeiten sollten genutzt werden, wenn die fachlichen, wissenschaftlichen, organisatorischen, regulatorischen und datenschutzrechtlichen Voraussetzungen hierfür gegeben sind.
Die entscheidende Herausforderung besteht darin, technologische Unterstützung mit eigenständigem medizinischem Denken zu verbinden. Künstliche Intelligenz kann Informationen bereitstellen, Hypothesen formulieren und Argumente gegenüberstellen. Ihre Ergebnisse müssen jedoch im jeweiligen klinischen und wissenschaftlichen Kontext beurteilt werden.
Dabei sollte die Verwendung künstlicher Intelligenz nicht ausschliesslich unter dem Gesichtspunkt einer möglichen Zeitersparnis betrachtet werden. Ebenso wichtig sind die tatsächliche Ergebnisqualität, die wissenschaftliche Nachvollziehbarkeit, die Patientensicherheit und die Erhaltung der eigenständigen medizinischen Urteilsfähigkeit.
Professionelle KI-Kompetenz umfasst deshalb nicht nur die Fähigkeit, geeignete Arbeitsaufträge zu formulieren und hilfreiche Ergebnisse zu erzeugen. Sie beinhaltet insbesondere die Fähigkeit, fehlerhafte Ergebnisse zu erkennen, Unsicherheiten angemessen zu beurteilen und gegebenenfalls auf die Verwendung künstlicher Intelligenz zu verzichten.
Die Frage der Zukunft lautet daher nicht ausschliesslich, welche medizinischen Aufgaben künstliche Intelligenz übernehmen kann. Ebenso wichtig ist die Frage, welche Kompetenzen medizinische Fachpersonen benötigen, um diese Technologie sinnvoll, kritisch und verantwortungsvoll einzusetzen.
Unsere Fortbildungsserie «Künstliche Intelligenz in der Medizin» versteht sich als Beitrag zu diesem kontinuierlichen Lernprozess. Sie soll medizinische Fachpersonen dabei unterstützen, die Möglichkeiten künstlicher Intelligenz zu verstehen, ihre Grenzen zu erkennen und geeignete Formen der professionellen Zusammenarbeit zu entwickeln.
KÜNSTLICHE INTELLIGENZ IN DER MEDIZIN
Künstliche Intelligenz soll unsere ärztliche Kompetenz erweitern, nicht ersetzen.
Die Qualität der zukünftigen Medizin hängt nicht allein davon ab, wie leistungsfähig künstliche Intelligenz wird, sondern auch davon, wie kompetent und verantwortungsvoll wir mit ihr umgehen.
Weiterführende Beiträge
Dieser Beitrag bildet den Abschluss unserer zwölfteiligen Fortbildungsserie «Künstliche Intelligenz in der Medizin». Die vorausgehenden Beiträge vermitteln die technologischen, methodischen, wissenschaftlichen und praktischen Grundlagen für den professionellen Umgang mit künstlicher Intelligenz im ärztlichen Alltag.
FORTBILDUNGSSERIE – KÜNSTLICHE INTELLIGENZ IN DER MEDIZIN
Technologische Grundlagen und kritisches Verständnis
- Was ist künstliche Intelligenz?
Grundbegriffe, historische Entwicklung, technologische Grundlagen und medizinische Anwendungsbereiche künstlicher Intelligenz. - Grosse Sprachmodelle (LLMs)
Funktionsweise, Training, Informationsverarbeitung und grundlegende Eigenschaften grosser Sprachmodelle. - Wie funktioniert ChatGPT?
Praktische Möglichkeiten moderner KI-Anwendungen, verfügbare Werkzeuge und deren Bedeutung für medizinische Arbeitsprozesse. - Grenzen künstlicher Intelligenz
Halluzinationen, sachliche Fehler, technologische Einschränkungen und die Notwendigkeit einer unabhängigen Qualitätskontrolle. - Wenn KI uns recht gibt
Confirmation Bias, Sycophancy und die Bedeutung einer kritischen, ergebnisoffenen Zusammenarbeit mit künstlicher Intelligenz.
Methodik der professionellen Zusammenarbeit
- Prompt Engineering
Methodische Grundlagen der Formulierung präziser und zielgerichteter medizinischer Arbeitsaufträge. - Vom Prompt zum Masterprompt
Entwicklung standardisierter Arbeitsaufträge und Integration wiederkehrender Anforderungen an die fachliche Qualität. - KI als virtuelle Expertenrunde
Strukturierte Betrachtung medizinischer Fragestellungen aus unterschiedlichen Perspektiven und methodische Grenzen simulierter Expertenrollen.
Praktische Anwendung, Verantwortung und Wissenschaft
- Künstliche Intelligenz in der Hausarztpraxis
Praktische Anwendungsbereiche, medizinische Dokumentation, organisatorische Arbeitsprozesse und fachliche Qualitätskontrolle. - KI – Datenschutz und ärztliche Verantwortung
Schweizer Datenschutzrecht, ärztliches Berufsgeheimnis, regulatorische Voraussetzungen und verantwortungsvolle Verwendung vertraulicher Informationen. - KI und medizinische Literaturrecherche
Wissenschaftliche Recherche, Entwicklung von Suchstrategien, Überprüfung von Originalquellen und kritische Beurteilung medizinischer Evidenz.
Die Beiträge können unabhängig voneinander gelesen werden. Für den systematischen Aufbau professioneller KI-Kompetenz empfiehlt sich jedoch die Bearbeitung der Fortbildungsserie in der dargestellten Reihenfolge.
Literatur und weiterführende Informationen
- FMH. Empfehlungen der FMH zum Umgang mit grossen Sprachmodellen (LLMs) im ärztlichen Alltag. Offizielle Empfehlungen der FMH.
- Goh E, Gallo R, Hom J, Strong E, Weng Y, Kerman H, et al. Large Language Model Influence on Diagnostic Reasoning: A Randomized Clinical Trial. JAMA Netw Open. 2024;7(10):e2440969. DOI: 10.1001/jamanetworkopen.2024.40969.
- Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB). KI und Datenschutz. 24. September 2025. Offizielle Informationen des EDÖB.
- World Health Organization. Ethics and governance of artificial intelligence for health: Guidance on large multi-modal models. Geneva: World Health Organization; 2024. ISBN 978-92-4-008475-9. Offizielle Publikationsseite der WHO.
Redaktionsstand: 18. November 2026.

