09 | Künstliche Intelligenz in der Hausarztpraxis

Künstliche Intelligenz in der Hausarztpraxis eröffnet neue Möglichkeiten, medizinische Informationen zu verarbeiten, administrative Aufgaben zu vereinfachen und ärztliche Arbeitsprozesse zu unterstützen. Insbesondere grosse Sprachmodelle ermöglichen Anwendungen, für die bislang entweder spezialisierte Software oder ein erheblicher personeller und zeitlicher Aufwand erforderlich waren. Dazu gehören die medizinische Dokumentation, die Aufbereitung wissenschaftlicher Informationen, die Patientenkommunikation sowie die strukturierte Betrachtung klinischer Fragestellungen.

Allerdings bedeutet die Verfügbarkeit leistungsfähiger KI-Systeme nicht automatisch eine Verbesserung der medizinischen Versorgung. Entscheidend ist vielmehr, für welche Aufgaben künstliche Intelligenz eingesetzt wird, wie zuverlässig die erzeugten Ergebnisse überprüft werden können und in welcher Weise sich die Technologie in bestehende ärztliche Arbeitsprozesse integrieren lässt. Gerade in der Hausarztmedizin sollte die Einführung künstlicher Intelligenz deshalb von einer realistischen Nutzen-Risiko-Abwägung begleitet werden.

Inhaltsverzeichnis anzeigen
  1. Die Rolle künstlicher Intelligenz in der Hausarztmedizin
  2. Anwendungsbereiche im ärztlichen Alltag
  3. Medizinische Dokumentation und digitale Schreibassistenten
  4. Arztberichte und medizinische Korrespondenz
  5. Patientenkommunikation und Gesundheitskompetenz
  6. Unterstützung der diagnostischen Entscheidungsfindung
  7. Medikamentenanamnese und Arzneimittelsicherheit
  8. Unterstützung bei der bildgebenden Diagnostik
  9. Wissenschaftliche Literatur und medizinische Fortbildung
  10. Praxisorganisation und Qualitätsmanagement
  11. Anwendungen nach ihrem Risikoprofil beurteilen
  12. Praktische Prompts für die Hausarztpraxis
  13. Schrittweise Integration in den Praxisalltag
  14. Zeitersparnis und Wirtschaftlichkeit
  15. Die Empfehlungen der FMH
  16. Fazit
  17. Weiterführende Beiträge
  18. Literatur

Die Rolle künstlicher Intelligenz in der Hausarztmedizin

Die Hausarztmedizin ist durch ein besonders breites Aufgabenspektrum gekennzeichnet. Neben der Diagnostik und Therapie akuter und chronischer Erkrankungen gehören die Prävention, die langfristige Betreuung multimorbider Patienten, die Koordination fachärztlicher Untersuchungen sowie umfangreiche administrative Tätigkeiten zum ärztlichen Alltag.

Ein erheblicher Teil dieser Aufgaben besteht aus der Verarbeitung, Bewertung und Kommunikation von Informationen. Genau hier liegen wichtige potenzielle Anwendungsbereiche künstlicher Intelligenz.

Die Nutzung entsprechender Technologien setzt allerdings ein grundlegendes Verständnis ihrer Funktionsweise voraus. Insbesondere sollte zwischen der Fähigkeit eines Systems, medizinische Informationen sprachlich überzeugend darzustellen, und seiner tatsächlichen medizinischen Zuverlässigkeit unterschieden werden.

Eine Einführung in die technologischen Grundlagen und unterschiedlichen Formen künstlicher Intelligenz finden Sie im Beitrag Was ist künstliche Intelligenz?.

Unterschiedliche Formen medizinischer KI

Grundsätzlich sollte zwischen verschiedenen technologischen Konzepten und Anwendungsbereichen unterschieden werden:

  • Generative künstliche Intelligenz: Erstellung, Überarbeitung, Zusammenfassung und Strukturierung von Texten und anderen Inhalten.
  • Prädiktive künstliche Intelligenz: Datenbasierte Abschätzung definierter Ereignisse oder Risiken anhand trainierter Modelle.
  • Diagnostische KI-Systeme: Analyse medizinischer Daten, beispielsweise radiologischer Bilder, elektrokardiografischer Signale oder ophthalmologischer Untersuchungen.
  • KI-gestützte Automatisierung: Unterstützung wiederkehrender administrativer und organisatorischer Arbeitsprozesse.

Die jeweiligen Kategorien können sich überschneiden und beschreiben teilweise unterschiedliche technologische Verfahren, teilweise deren konkrete Anwendungsbereiche. Beispielsweise kann ein diagnostisches System sowohl prädiktive als auch generative Komponenten enthalten.

Im Mittelpunkt dieses Beitrages stehen jedoch grosse Sprachmodelle und generative KI, da diese zahlreiche unterschiedliche hausärztliche Aufgaben unterstützen können.

Allgemeine Sprachmodelle und spezialisierte medizinische Systeme

Ein allgemein verfügbares Sprachmodell wie ChatGPT ist nicht mit einem für eine definierte klinische Fragestellung entwickelten und validierten medizinischen System gleichzusetzen.

Grosse Sprachmodelle wurden insbesondere darauf trainiert, sprachliche und andere in den Trainingsdaten enthaltene Zusammenhänge zu verarbeiten. Ihre Fähigkeit, medizinische Fachsprache zu verwenden und komplexe medizinische Zusammenhänge darzustellen, ist deshalb für sich genommen kein Nachweis einer ausreichenden klinischen Zuverlässigkeit.

Medizinische KI-Anwendungen müssen entsprechend ihrer konkreten Zweckbestimmung, ihrer Leistungsfähigkeit, ihrer regulatorischen Einordnung und den Bedingungen ihres Einsatzes beurteilt werden. Eine überzeugende sprachliche Antwort ist hierfür kein ausreichendes Qualitätskriterium.

Auch die Integration eines Sprachmodells in eine medizinische Software oder dessen Vermarktung als medizinischer Assistent stellt für sich genommen keinen Nachweis einer ausreichenden klinischen Validierung dar.

Weiterführende Informationen zur Funktionsweise und zu den grundlegenden Eigenschaften entsprechender Modelle finden Sie im Beitrag Grosse Sprachmodelle – Large Language Models (LLMs).

Merksatz: Die entscheidende Frage lautet nicht, ob künstliche Intelligenz eine medizinische Aufgabe bearbeiten kann, sondern ob sie diese unter den konkreten Anwendungsbedingungen ausreichend zuverlässig und sicher bearbeiten kann.

Anwendungsbereiche im ärztlichen Alltag

Die Einsatzmöglichkeiten generativer KI lassen sich entlang der unterschiedlichen Tätigkeitsbereiche einer Hausarztpraxis strukturieren. Dabei reicht das Spektrum von einfachen sprachlichen Arbeitshilfen bis hin zu Anwendungen mit unmittelbarem Einfluss auf diagnostische und therapeutische Entscheidungen.

01 – Dokumentation

Anamnese, Konsultationsnotizen, Verlaufsberichte und Zusammenfassungen.

02 – Kommunikation

Arztbriefe, Zuweisungen, Patienteninformationen und sprachliche Überarbeitung.

03 – Medizinische Analyse

Strukturierung klinischer Fragestellungen und ergänzende diagnostische Überlegungen.

04 – Wissenschaft

Literaturrecherche, Studienanalyse und Aufbereitung medizinischer Leitlinien.

05 – Praxisorganisation

Arbeitsanweisungen, Qualitätsmanagement und organisatorische Kommunikation.

06 – Fortbildung

Medizinische Wissensvermittlung, Fallanalysen und Schulung des Praxisteams.

Schematische Übersicht möglicher Einsatzbereiche generativer künstlicher Intelligenz in der Hausarztpraxis. Die Darstellung beinhaltet keine Bewertung der klinischen Wirksamkeit einzelner Anwendungen.

Für den Einstieg sind insbesondere Aufgaben geeignet, bei denen die erzeugten Ergebnisse mit vertretbarem Aufwand überprüft und gegebenenfalls korrigiert werden können. Bei komplexen medizinischen Entscheidungen steigen dagegen die Anforderungen an die Validierung und Qualitätskontrolle erheblich.

Dabei ist nicht jede technisch verfügbare Funktion für die Verarbeitung medizinischer Informationen geeignet. Beispielsweise können der Upload von Dokumenten, die Verwendung externer Recherchefunktionen oder die Verarbeitung von Audioaufzeichnungen mit unterschiedlichen Datenverarbeitungsvorgängen verbunden sein.

Eine Übersicht über die technischen Möglichkeiten moderner KI-Anwendungen finden Sie im Beitrag Wie funktioniert ChatGPT?.

Medizinische Dokumentation und digitale Schreibassistenten

Die Unterstützung der medizinischen Dokumentation gehört zu den besonders praxisnahen Anwendungsbereichen generativer KI. Hausärztliche Konsultationen beinhalten häufig eine Vielzahl medizinischer Informationen, die anschliessend strukturiert dokumentiert werden müssen.

Ein Sprachmodell kann beispielsweise bereits vorhandene Stichpunkte in eine übersichtliche Konsultationsnotiz überführen oder umfangreiche Verlaufsinformationen sprachlich verdichten.

Von der Spracherkennung zur generativen Dokumentation

Für die medizinische Dokumentation stehen unterschiedliche technische Verfahren zur Verfügung. Dabei sollte zwischen drei grundlegenden Konzepten unterschieden werden:

  • Klassische medizinische Spracherkennung: Übertragung eines ärztlichen Diktats in geschriebenen Text.
  • Generative Dokumentationsunterstützung: Sprachliche und strukturelle Aufbereitung bereits vorhandener medizinischer Stichpunkte, Diktate oder Dokumente.
  • Ambient AI Scribes: Verarbeitung eines geführten Arzt-Patienten-Gesprächs und Erstellung eines daraus abgeleiteten medizinischen Dokumentationsentwurfs.

Während bei der klassischen Spracherkennung insbesondere Fehler in der Erfassung und Wiedergabe gesprochener Inhalte auftreten können, entstehen bei der generativen Dokumentation zusätzliche Fehlerquellen durch die Auswahl, Zusammenfassung, Interpretation und sprachliche Neugestaltung der Informationen.

Die Übergänge zwischen den unterschiedlichen technischen Verfahren können fliessend sein, da moderne Dokumentationssysteme häufig sowohl Spracherkennung als auch generative Funktionen miteinander verbinden.

Strukturierung medizinischer Informationen

Für die strukturierte medizinische Dokumentation kann unter anderem das SOAP-Schema verwendet werden. Die Abkürzung steht für Subjective, Objective, Assessment und Plan.

Abschnitt Inhalt
S – Subjective Anamnese, Beschwerden und subjektive Angaben der Patientin oder des Patienten.
O – Objective Klinische Befunde, Vitalparameter, Laborwerte und apparative Untersuchungsergebnisse.
A – Assessment Dokumentierte ärztliche Beurteilung und diagnostische Einordnung.
P – Plan Festgelegtes diagnostisches und therapeutisches Vorgehen sowie Verlaufskontrollen.

Wird künstliche Intelligenz ausschliesslich zur Dokumentationsunterstützung verwendet, darf sie fehlende ärztliche Beurteilungen oder therapeutische Entscheidungen nicht eigenständig ergänzen.

Insbesondere muss zwischen tatsächlich dokumentierten Negativbefunden und fehlenden Informationen unterschieden werden. Das Fehlen einer Angabe zu Arzneimittelallergien darf beispielsweise nicht automatisch in die Aussage «Keine bekannten Arzneimittelallergien» umgewandelt werden.

Für wiederkehrende Dokumentationsaufgaben empfiehlt sich deshalb die Entwicklung einer standardisierten Arbeitsanweisung mit ausdrücklich definierten Anforderungen an die inhaltliche Bearbeitung.

Das entsprechende Vorgehen wird im Beitrag Vom Prompt zum Masterprompt ausführlich erläutert.

Ambient AI Scribes – KI-gestützte Dokumentationsassistenten

Eine Weiterentwicklung der klassischen medizinischen Spracherkennung stellen sogenannte Ambient AI Scribes dar. Diese Systeme verarbeiten das während einer Konsultation geführte Gespräch und erstellen daraus einen strukturierten medizinischen Dokumentationsentwurf.

Im Gegensatz zur konventionellen Diktatfunktion wird nicht lediglich gesprochener Text in geschriebenen Text umgewandelt. Vielmehr werden Gesprächsinhalte ausgewählt, zusammengefasst und entsprechend einer vorgegebenen Dokumentationsstruktur aufbereitet.

Damit können entsprechende Systeme grundsätzlich dazu beitragen, den während oder nach einer Konsultation erforderlichen Dokumentationsaufwand zu reduzieren.

Allerdings können sie klinische Informationen, die während des Gesprächs nicht erfasst oder nicht ausdrücklich übermittelt wurden, nicht zuverlässig berücksichtigen. Dies betrifft beispielsweise nicht verbal formulierte Untersuchungsbefunde und klinische Beobachtungen.

KI-GESTÜTZTE KONSULTATIONSDOKUMENTATION

Ärztliches Patientengespräch
↓
Zulässige Erfassung und Verarbeitung des Gesprächs
↓
KI-generierter Dokumentationsentwurf
↓
Ärztliche Kontrolle, Ergänzung und gegebenenfalls Korrektur
↓
Freigegebene medizinische Dokumentation

Didaktisches Ablaufschema eines KI-gestützten Dokumentationsprozesses. Die konkrete technische Umsetzung ist vom jeweiligen System abhängig. Die Darstellung entspricht keinem wissenschaftlich validierten Implementierungsmodell.

Voraussetzung für die Verwendung entsprechender Systeme sind insbesondere die datenschutzrechtliche Zulässigkeit, die erforderliche Patienteninformation und eine gegebenenfalls notwendige Einwilligung sowie geeignete technische und organisatorische Sicherheitsmassnahmen.

Dabei muss unter anderem berücksichtigt werden, ob Audioaufzeichnungen gespeichert werden, welche Informationen an externe Dienstleister übermittelt werden, wo die Datenverarbeitung erfolgt und zu welchen weiteren Zwecken die erfassten Informationen verwendet werden dürfen.

Die Verwendung eines entsprechenden Systems während einer ärztlichen Konsultation sollte für die beteiligten Personen transparent sein.

Eine ausführliche Darstellung der rechtlichen und datenschutzbezogenen Anforderungen in der Schweiz finden Sie im Beitrag KI – Datenschutz und ärztliche Verantwortung.

Wissenschaftliche Evidenz zur Dokumentationsentlastung

Lukac und Mitarbeiter untersuchten 2025 in einer randomisierten Studie zwei digitale Dokumentationsassistenten bei 238 ambulant tätigen Ärzten aus 14 Fachdisziplinen [1].

Für eines der untersuchten Systeme zeigte sich gegenüber der Kontrollgruppe eine statistisch signifikante Reduktion der dokumentationsbezogenen Schreibzeit um 9,5 %. Beim zweiten System betrug die Veränderung minus 1,7 % und war statistisch nicht signifikant.

Bei der Interpretation dieser Ergebnisse ist zu berücksichtigen, dass sich der untersuchte Endpunkt auf die Schreibzeit innerhalb der elektronischen medizinischen Dokumentation bezog. Die Ergebnisse sind deshalb nicht mit einer entsprechenden Reduktion der gesamten ärztlichen Arbeitszeit oder der Dauer einer Konsultation gleichzusetzen.

VERÄNDERUNG DER DOKUMENTATIONSBEZOGENEN SCHREIBZEIT

Randomisierte Studie mit 238 ambulant tätigen Ärzten – Lukac et al., 2025

Nabla – Reduktion um 9,5 %

95%-KI: −17,2 % bis −1,8 %; p = 0,02

DAX Copilot – Reduktion um 1,7 %

95%-KI: −9,4 % bis +5,9 %; p = 0,66

0 %5 %10 %

Reduktion der dokumentationsbezogenen Schreibzeit

Eigene grafische Darstellung der berichteten Punktschätzungen gegenüber der Kontrollgruppe [1]. Die Konfidenzintervalle sind textlich angegeben. Beim zweiten System schliesst das Konfidenzintervall sowohl eine Reduktion als auch eine Zunahme der Schreibzeit ein. Aus unterschiedlichen Signifikanzniveaus lässt sich keine statistisch gesicherte Überlegenheit eines Systems gegenüber dem anderen ableiten.

Ausserdem berichteten die teilnehmenden Ärzte über gelegentliche klinisch relevante Ungenauigkeiten in den erzeugten Dokumentationen. Mögliche Verbesserungen hinsichtlich Arbeitsbelastung und beruflicher Erschöpfung bedürfen weiterer Bestätigung.

Die Ergebnisse verdeutlichen, dass ein dokumentationsbezogener Nutzen möglich ist, jedoch wesentlich von der konkreten Anwendung und deren Integration abhängt.

Da die Untersuchung unter definierten organisatorischen und technischen Bedingungen durchgeführt wurde, können die berichteten Ergebnisse nicht ohne Weiteres auf andere Dokumentationssysteme, Praxisinformationssysteme oder die Schweizer Hausarztmedizin übertragen werden.

Für die einzelne Hausarztpraxis bleibt deshalb insbesondere die Überprüfung der tatsächlich erreichbaren Nettozeitersparnis unter Berücksichtigung des erforderlichen Kontroll- und Korrekturaufwands von Bedeutung.

Typische Fehler bei der automatisierten Dokumentation

Besondere Aufmerksamkeit erfordern falsch zugeordnete Gesprächsinhalte, übersehene Angaben, fehlerhaft wiedergegebene Zahlen und nicht dokumentierte, aber durch das Sprachmodell ergänzte Befunde.

Ebenso problematisch ist die Umwandlung einer diagnostischen Überlegung in eine vermeintlich gesicherte Diagnose.

Bei der Kontrolle KI-generierter medizinischer Dokumentationen sollten deshalb insbesondere folgende Aspekte berücksichtigt werden:

  • Vollständigkeit der klinisch relevanten Informationen.
  • Korrekte Zuordnung der Angaben zur Patientin, zum Patienten oder zu anderen erwähnten Personen.
  • Korrekte Wiedergabe von Zeitangaben, Zahlenwerten, Dosierungen und Einheiten.
  • Unterscheidung zwischen dokumentierten Negativbefunden und fehlenden Informationen.
  • Erhalt der ursprünglichen diagnostischen Sicherheit.
  • Korrekte Wiedergabe der tatsächlich festgelegten diagnostischen und therapeutischen Massnahmen.
  • Erkennung nicht dokumentierter und durch das Modell hinzugefügter Informationen.

Die nachträgliche ärztliche Kontrolle sollte sich dabei nicht ausschliesslich auf die sprachliche Plausibilität des erzeugten Textes beschränken. Gerade überzeugend formulierte, aber medizinisch unzutreffende Ergänzungen können bei einer oberflächlichen Durchsicht übersehen werden.

Die grundlegenden Ursachen entsprechender Modellfehler werden im Beitrag Grenzen künstlicher Intelligenz ausführlich dargestellt.

Merksatz: Ein KI-generierter Dokumentationsentwurf ist noch keine freigegebene medizinische Dokumentation. Die Verantwortung für die Vollständigkeit und Richtigkeit der endgültigen Dokumentation bleibt bei den hierfür zuständigen medizinischen Fachpersonen.

Arztberichte und medizinische Korrespondenz

Die Erstellung medizinischer Korrespondenz stellt einen weiteren Anwendungsbereich dar, bei dem generative KI insbesondere sprachliche und strukturelle Unterstützung leisten kann.

Hierzu gehören beispielsweise Zuweisungsschreiben an Fachärzte, medizinische Verlaufsberichte, Rückfragen an Spitäler oder die Zusammenfassung umfangreicher Untersuchungsergebnisse.

Der potenzielle Nutzen entsprechender Anwendungen besteht insbesondere darin, bereits vorhandene medizinische Informationen in eine für den jeweiligen Empfänger geeignete und nachvollziehbare Form zu überführen.

Zuweisungen präziser formulieren

Eine gute fachärztliche Zuweisung sollte die klinische Ausgangssituation, die wesentlichen Vorbefunde und die konkrete medizinische Fragestellung nachvollziehbar darstellen.

Ein Sprachmodell kann dabei helfen, relevante Informationen aus bereits dokumentierten Angaben zu extrahieren, Wiederholungen zu reduzieren und die Fragestellung sprachlich zu präzisieren.

Dabei sollte die ärztlich festgelegte Fragestellung erhalten bleiben. Insbesondere darf das Sprachmodell die Dringlichkeit einer Untersuchung nicht eigenständig verändern oder zusätzliche diagnostische beziehungsweise therapeutische Entscheidungen in das Zuweisungsschreiben aufnehmen.

Beispiel für einen Arbeitsauftrag:

«Erstellen Sie aus den nachfolgenden medizinischen Stichpunkten ein strukturiertes Zuweisungsschreiben an die Kardiologie. Gliedern Sie den Text in klinische Ausgangssituation, relevante Vorbefunde, bisherige Massnahmen und konkrete Fragestellung. Ergänzen Sie keine nicht dokumentierten Informationen. Kennzeichnen Sie fehlende oder widersprüchliche Angaben. Verändern Sie weder die ärztlich festgelegte Fragestellung noch die dokumentierte Dringlichkeit der Zuweisung.»

Die Qualität eines entsprechenden Arbeitsauftrags kann durch eine präzise Definition der gewünschten Struktur, der Zielgruppe und der zulässigen inhaltlichen Bearbeitung verbessert werden.

Weitere Informationen hierzu finden Sie im Beitrag Prompt Engineering – richtig fragen.

Zusammenfassung umfangreicher Vorbefunde

Insbesondere bei multimorbiden Patienten können über längere Zeiträume zahlreiche Berichte unterschiedlicher Fachdisziplinen vorliegen. Eine KI-gestützte Zusammenfassung kann hier zur besseren Übersicht beitragen.

Allerdings muss die Zusammenfassung anhand der Originaldokumente überprüft werden. Dabei sind insbesondere Datumsangaben, Veränderungen im zeitlichen Verlauf, relevante Negativbefunde und widersprüchliche Aussagen zu berücksichtigen.

Bei medizinisch relevanten Informationen empfiehlt es sich ausserdem, die jeweilige Originalquelle oder das entsprechende Dokument ausdrücklich zuzuordnen.

Besondere Aufmerksamkeit erfordern die zeitliche Einordnung von Untersuchungsergebnissen, die Unterscheidung zwischen früheren und aktuellen Diagnosen sowie Veränderungen der medikamentösen Therapie.

Ein Medikament, das in einem älteren Austrittsbericht erwähnt wird, gehört beispielsweise nicht zwangsläufig zur aktuellen Medikation. Ebenso darf eine im Rahmen einer früheren Untersuchung diskutierte Differenzialdiagnose nicht ohne weitere Prüfung als gegenwärtig gesicherte Diagnose übernommen werden.

Widersprüchliche Angaben in den Originaldokumenten sollten deshalb nicht eigenständig durch das Sprachmodell aufgelöst, sondern für die anschliessende ärztliche Beurteilung ausdrücklich gekennzeichnet werden.

Praxisempfehlung: Bei der KI-gestützten Zusammenfassung umfangreicher medizinischer Dokumente sollte für entscheidungsrelevante Informationen eine nachvollziehbare Zuordnung zum jeweiligen Originaldokument erhalten bleiben. Dadurch kann die anschliessende ärztliche Überprüfung erleichtert werden.

Patientenkommunikation und Gesundheitskompetenz

Medizinische Fachinformationen sind für Patientinnen und Patienten häufig schwer verständlich. Dies betrifft insbesondere radiologische Befunde, Laborergebnisse, komplexe Diagnosen und die Erläuterung therapeutischer Möglichkeiten.

Sprachmodelle können ärztlich geprüfte Informationen in eine verständlichere Sprache übertragen und dadurch die Erstellung individueller Patienteninformationen unterstützen.

Ein möglicher Nutzen besteht darin, medizinische Fachbegriffe, diagnostische Zusammenhänge und bereits ärztlich erläuterte therapeutische Massnahmen in einer Form darzustellen, die dem jeweiligen Informationsbedürfnis besser entspricht.

Medizinische Fachsprache verständlich machen

Der Arbeitsauftrag sollte sich dabei nicht auf die allgemeine Anweisung beschränken, einen Befund zu vereinfachen. Vielmehr empfiehlt es sich, die gewünschte Zielgruppe und die Grenzen der sprachlichen Bearbeitung ausdrücklich zu definieren.

Insbesondere sollten medizinische Zusammenhänge verständlich erläutert werden, ohne die ursprüngliche Aussage zu verändern oder vorhandene diagnostische Unsicherheiten abzuschwächen.

Auch bereits ärztlich festgelegte Warnhinweise, Empfehlungen zur Verlaufskontrolle und Hinweise auf erforderliche weitere Untersuchungen müssen bei der sprachlichen Überarbeitung erhalten bleiben.

Beispiel für einen Arbeitsauftrag:

«Formulieren Sie die nachfolgenden ärztlich geprüften Informationen in einer allgemein verständlichen Sprache. Erläutern Sie notwendige medizinische Fachbegriffe. Verändern Sie weder den medizinischen Inhalt noch die diagnostische Sicherheit der Aussagen. Erhalten Sie sämtliche dokumentierten Warnhinweise und Empfehlungen zur weiteren Abklärung. Ergänzen Sie keine eigenen Therapieempfehlungen und vermeiden Sie nicht begründete beruhigende Aussagen.»

Sprachliche Empathie als Chance und Risiko

In einer 2023 veröffentlichten Untersuchung verglichen Ayers und Mitarbeiter ärztliche Antworten mit ChatGPT-generierten Antworten auf 195 öffentlich gestellte medizinische Fragen [2].

Bei 78,6 % der insgesamt 585 Bewertungen bevorzugten die medizinischen Gutachter die KI-generierten Antworten. Zudem bewerteten sie diese hinsichtlich der wahrgenommenen Qualität und sprachlich vermittelten Empathie günstiger.

BEVORZUGTE ANTWORTEN IN DER GUTACHTERBEWERTUNG

78,6 %
21,4 %
KI-generierte Antworten
Ärztliche Antworten

Eigene Darstellung nach Ayers et al., 2023 [2]. Grundlage sind 585 Gutachterbewertungen zu 195 medizinischen Fragen aus einem öffentlichen Internetforum. Die Darstellung zeigt die Präferenz der Gutachter, nicht die diagnostische Genauigkeit, die Präferenz realer Patienten oder den klinischen Behandlungserfolg.

Die Untersuchung weist jedoch wichtige Einschränkungen auf. So handelte es sich nicht um reale ärztliche Konsultationen. Ausserdem waren die KI-generierten Antworten deutlich länger.

Die medizinische Richtigkeit der Antworten war Bestandteil der allgemeinen Qualitätsbewertung, wurde jedoch nicht als eigenständiger Endpunkt mit einer separaten quantitativen Auswertung untersucht.

Aus den Ergebnissen lässt sich deshalb weder eine generelle medizinische Überlegenheit KI-generierter Antworten noch eine Verbesserung der realen Patientenversorgung ableiten.

Eine empathisch formulierte Antwort kann nicht mit einer fachlich zuverlässigen Beratung gleichgesetzt werden. Ebenso wenig entspricht die sprachliche Simulation von Empathie dem persönlichen empathischen Verhalten einer medizinischen Fachperson.

Gleichwohl zeigen die Ergebnisse, weshalb Sprachmodelle für die Erstellung ärztlich kontrollierter Kommunikationsentwürfe interessant sein können.

Die Gefahr einer unangemessenen Bestätigung

Die Fähigkeit grosser Sprachmodelle, verständnisvolle und bestätigende Antworten zu formulieren, kann insbesondere bei der medizinischen Patientenkommunikation auch problematisch sein.

Beispielsweise können unzutreffende Vorstellungen über Krankheitsursachen, nicht begründete Erwartungen an eine Therapie oder voreilige diagnostische Schlussfolgerungen sprachlich bestätigt werden.

Ein verständnisvoll formulierter medizinischer Text sollte deshalb nicht zwangsläufig eine Bestätigung der vom Patienten vertretenen medizinischen Annahmen beinhalten.

Diese Problematik steht in engem Zusammenhang mit der sogenannten Sycophancy, der Tendenz grosser Sprachmodelle, sich an den Annahmen und Erwartungen des Anwenders zu orientieren.

Eine ausführliche Darstellung dieses Phänomens finden Sie im Beitrag Wenn KI uns recht gibt.

Mehrsprachige Patienteninformationen

Gerade in der Schweiz mit ihren unterschiedlichen Landessprachen und einer sprachlich heterogenen Bevölkerung können KI-gestützte Übersetzungen eine zusätzliche Arbeitshilfe darstellen.

Bei medizinisch relevanten Übersetzungen müssen jedoch nicht nur grammatikalische Richtigkeit, sondern auch die korrekte Übertragung medizinischer Inhalte, Dosierungen, Zeitangaben und Warnhinweise berücksichtigt werden.

Auch sprachliche Feinheiten können medizinisch relevant sein. Dies betrifft beispielsweise die Unterscheidung zwischen einer empfohlenen und einer zwingend erforderlichen Massnahme oder zwischen einer möglichen und einer gesicherten Diagnose.

Eine sprachlich überzeugende Übersetzung ist daher nicht zwangsläufig eine medizinisch korrekte Übersetzung.

Insbesondere bei Aufklärungsgesprächen, komplexen Therapieentscheidungen und sprachlich anspruchsvollen klinischen Situationen können professionelle Dolmetscherdienste weiterhin erforderlich sein.

Darüber hinaus sollte sichergestellt werden, dass die Patientinnen und Patienten die für sie wesentlichen medizinischen Informationen tatsächlich verstanden haben. Die blosse Bereitstellung einer KI-generierten Übersetzung reicht hierfür nicht aus.

Merksatz: Künstliche Intelligenz kann die sprachliche Vermittlung medizinischer Informationen unterstützen. Sie ersetzt jedoch weder das persönliche Arzt-Patienten-Gespräch noch die individuelle medizinische Aufklärung.

Unterstützung der diagnostischen Entscheidungsfindung

Die Unterstützung klinischer Entscheidungen gehört zu den besonders anspruchsvollen Anwendungsbereichen künstlicher Intelligenz. Grosse Sprachmodelle können medizinische Informationen miteinander verknüpfen, diagnostische Überlegungen strukturieren und unterschiedliche Interpretationsmöglichkeiten darstellen.

Eine mögliche Anwendung besteht darin, ergänzend zur eigenen klinischen Beurteilung nach bislang nicht berücksichtigten Differenzialdiagnosen oder fehlenden Informationen zu fragen.

Dabei muss jedoch zwischen der strukturierten Aufbereitung medizinischer Überlegungen durch ein allgemeines Sprachmodell und der Verwendung eines für eine konkrete klinische Aufgabe entwickelten und validierten Entscheidungsunterstützungssystems unterschieden werden.

Künstliche Intelligenz als ergänzende Denkperspektive

Statt einem Sprachmodell die vollständige diagnostische Entscheidung zu übertragen, kann es gezielt zur kritischen Reflexion einer bereits selbstständig erarbeiteten klinischen Einschätzung eingesetzt werden.

Hierbei sind insbesondere folgende Aufgaben denkbar:

  • Strukturierung komplexer klinischer Informationen.
  • Darstellung zusätzlicher diagnostischer Überlegungen.
  • Identifikation möglicherweise fehlender anamnestischer Angaben.
  • Hinterfragen einer vorläufigen diagnostischen Einordnung.
  • Vorbereitung einer interdisziplinären fachlichen Diskussion.

Allerdings können die erzeugten Vorschläge unvollständig, falsch gewichtet oder medizinisch unzutreffend sein. Auch das Fehlen einer relevanten Differenzialdiagnose in einer KI-Antwort besitzt keinen diagnostischen Ausschlusswert.

Ebenso wenig stellt die wiederholte Nennung einer bestimmten Differenzialdiagnose einen Nachweis ihrer klinischen Wahrscheinlichkeit dar.

Eine strukturierte Erweiterung dieses Ansatzes besteht darin, eine medizinische Fragestellung aus unterschiedlichen simulierten fachlichen Perspektiven zu betrachten. Die Möglichkeiten und Grenzen eines solchen Vorgehens werden im Beitrag KI als virtuelle Expertenrunde ausführlich dargestellt.

Verbessert künstliche Intelligenz tatsächlich die ärztliche Diagnostik?

Goh und Mitarbeiter untersuchten diese Frage 2024 in einer randomisierten Studie mit 50 Ärzten [3]. Die Teilnehmer bearbeiteten klinische Fallvignetten entweder mit Unterstützung eines grossen Sprachmodells und konventionellen Informationsquellen oder ausschliesslich mithilfe konventioneller Ressourcen.

Die Bewertung erfolgte anhand eines standardisierten Bewertungssystems, welches die Qualität der diagnostischen Überlegungen erfassen sollte.

DIAGNOSTIC REASONING SCORE

Randomisierte Studie mit 50 Ärzten – Goh et al., 2024

Ärzte mit KI-Unterstützung – 76 %

Ärzte ohne KI-Unterstützung – 74 %

0 %25 %50 %75 %100 %

Adjustierte Differenz: +2 Prozentpunkte

95%-KI: −4 bis +8 Prozentpunkte; p = 0,60

Kein statistisch signifikanter Unterschied

Eigene grafische Darstellung nach Goh et al., 2024 [3]. Dargestellt sind die medianen Ergebnisse eines standardisierten Bewertungssystems für diagnostische Überlegungen, keine klinischen Diagnosetrefferquoten. Das Konfidenzintervall der adjustierten Differenz schliesst sowohl eine Verschlechterung als auch eine Verbesserung der untersuchten Leistung ein.

Die Verfügbarkeit des Sprachmodells führte demnach unter den untersuchten Bedingungen zu keiner statistisch signifikanten Verbesserung der ärztlichen diagnostischen Leistung.

Das Ergebnis ist allerdings nicht mit dem Nachweis einer fehlenden Wirksamkeit oder einer grundsätzlichen Gleichwertigkeit der beiden untersuchten Vorgehensweisen gleichzusetzen.

Bemerkenswert war, dass das Sprachmodell in einer zusätzlichen explorativen Analyse bei alleiniger Bearbeitung der Fallvignetten bessere Ergebnisse erzielte als die ärztliche Kontrollgruppe.

Die Untersuchung war jedoch auf ein einzelnes Modell und eine begrenzte Anzahl vorbereiteter Fallvignetten beschränkt. Sie erlaubt daher keine Schlussfolgerung zugunsten einer autonomen KI-Diagnostik in der realen Patientenversorgung.

Darüber hinaus unterscheidet sich die Bearbeitung vorbereiteter klinischer Fallvignetten wesentlich von der tatsächlichen hausärztlichen Tätigkeit. Im klinischen Alltag müssen relevante Informationen zunächst durch Anamnese, körperliche Untersuchung und gegebenenfalls weitere diagnostische Massnahmen erhoben werden.

Die Studie verdeutlicht insbesondere, dass eine hohe Leistungsfähigkeit eines Sprachmodells bei standardisierten Testaufgaben nicht zwangsläufig zu einer entsprechenden Verbesserung der ärztlichen Leistung bei gemeinsamer Bearbeitung derselben Aufgaben führt.

Für eine erfolgreiche Integration künstlicher Intelligenz in medizinische Arbeitsprozesse sind deshalb nicht nur die Fähigkeiten des verwendeten Systems, sondern auch die konkrete Gestaltung der Zusammenarbeit zwischen Mensch und KI zu berücksichtigen.

Wichtige Erkenntnis: Die Leistungsfähigkeit eines Sprachmodells und der tatsächlich erreichbare Nutzen einer Zusammenarbeit zwischen Arzt und KI sind zwei unterschiedliche Fragestellungen.

Die ärztliche Beurteilung sollte am Anfang stehen

Eine sinnvolle Vorgehensweise kann darin bestehen, zunächst eine eigene klinische Einschätzung zu erarbeiten und erst anschliessend die KI-generierten Überlegungen einzubeziehen.

Dadurch soll verhindert werden, dass sich die ärztliche Argumentation vorschnell an einer überzeugend formulierten KI-Antwort orientiert. Eine vollständige Vermeidung solcher kognitiven Beeinflussungen lässt sich allerdings auch durch diese Vorgehensweise nicht garantieren.

Umgekehrt sollte auch die ursprüngliche ärztliche Einschätzung nicht bereits als gesicherte Schlussfolgerung in die Fragestellung übernommen werden. Andernfalls besteht die Möglichkeit, dass das Sprachmodell seine Antwort an einer vorgegebenen Interpretation ausrichtet und diese unkritisch bestätigt.

Die Tendenz grosser Sprachmodelle zur Bestätigung vorgegebener Annahmen und Erwartungen wird im Beitrag Wenn KI uns recht gibt ausführlich erläutert.

Bei der anschliessenden Beurteilung der KI-generierten Überlegungen sollte insbesondere zwischen tatsächlich neuen Informationen, plausiblen alternativen Erklärungen und lediglich anders formulierten Wiederholungen bereits bekannter Gesichtspunkte unterschieden werden.

Entscheidungsrelevante medizinische Aussagen müssen anhand der klinischen Ausgangsinformationen, geeigneter wissenschaftlicher Quellen und der eigenen ärztlichen Fachkompetenz überprüft werden.

Insbesondere bei zeitkritischen medizinischen Fragestellungen darf die ergänzende Verwendung eines Sprachmodells notwendige diagnostische oder therapeutische Massnahmen nicht verzögern.

Praxisempfehlung: Verwenden Sie allgemeine Sprachmodelle zur ergänzenden Reflexion medizinischer Fragestellungen, nicht zur eigenständigen Festlegung diagnostischer oder therapeutischer Entscheidungen. Überprüfen Sie auch überzeugend formulierte Antworten kritisch und behalten Sie die ursprüngliche klinische Informationsgrundlage im Blick.

Medikamentenanamnese und Arzneimittelsicherheit

Bei der Betreuung multimorbider Patienten gehört die regelmässige Überprüfung der Medikation zu den wichtigen hausärztlichen Aufgaben. Dabei müssen unter anderem Wirkstoffe, Dosierungen, Einnahmezeitpunkte, mögliche Doppelverordnungen und individuelle Risikofaktoren berücksichtigt werden.

Generative KI kann dabei helfen, bereits vorliegende Informationen übersichtlich zu strukturieren und potenziell relevante Prüffragen zu identifizieren.

Medikationslisten strukturieren

Ein Sprachmodell kann beispielsweise unübersichtliche Medikamentenlisten tabellarisch aufbereiten. Fehlende Dosierungen oder nicht eindeutig zuordenbare Handelsnamen sollten dabei ausdrücklich gekennzeichnet und nicht selbstständig ergänzt werden.

Bei der Zusammenführung mehrerer Medikationslisten aus unterschiedlichen medizinischen Berichten ist zudem die zeitliche Zuordnung der jeweiligen Angaben von besonderer Bedeutung.

Ein in einem älteren Arztbericht aufgeführtes Arzneimittel darf nicht ohne weitere Prüfung als Bestandteil der aktuellen Medikation übernommen werden.

Ebenso lässt sich aus dem Fehlen eines Medikamentes in einem neueren Dokument nicht zwangsläufig ableiten, dass dieses tatsächlich abgesetzt wurde.

Bei der KI-gestützten Aufbereitung entsprechender Informationen empfiehlt es sich deshalb, folgende Angaben möglichst eindeutig voneinander zu unterscheiden:

  • Dokumentierter Handelsname und Wirkstoff.
  • Arzneimittelstärke und Darreichungsform.
  • Verordnete Dosierung und Einnahmezeitpunkte.
  • Regelmässige Medikation und Bedarfsmedikation.
  • Datum und Herkunft der jeweiligen Medikationsangabe.
  • Ausdrücklich dokumentierte Änderungen oder Beendigungen einer Therapie.
  • Fehlende, unklare oder widersprüchliche Informationen.

Die Zuordnung eines Handelsnamens zu einem bestimmten Wirkstoff muss bei Unklarheiten anhand geeigneter Arzneimittelinformationen überprüft werden. Dies gilt insbesondere bei Präparaten aus unterschiedlichen Ländern, Kombinationspräparaten und ähnlich lautenden Handelsnamen.

Die abschliessende Beurteilung der tatsächlich eingenommenen Medikation erfordert einen Abgleich mit den verfügbaren medizinischen Unterlagen und gegebenenfalls eine Rücksprache mit der Patientin beziehungsweise dem Patienten.

Arzneimittelinteraktionen und Kontraindikationen

Die zuverlässige Beurteilung von Arzneimittelinteraktionen erfordert aktuelle und geeignete Arzneimittelinformationen. Allgemeine Sprachmodelle können dies ohne entsprechende validierte Informationsgrundlage nicht zuverlässig gewährleisten.

Deshalb müssen potenzielle Interaktionen, Kontraindikationen und Dosierungsangaben anhand aktueller Fachinformationen und geeigneter Arzneimitteldatenbanken überprüft werden.

Darüber hinaus sind patientenbezogene Faktoren wie Nierenfunktion, Leberfunktion, Alter, Begleiterkrankungen und weitere Medikationen zu berücksichtigen.

Auch nicht verschreibungspflichtige Arzneimittel, pflanzliche Präparate und Nahrungsergänzungsmittel können für die Beurteilung von Arzneimittelinteraktionen relevant sein.

Ein allgemeines Sprachmodell kann weder die Vollständigkeit einer Medikamentenanamnese noch die zuverlässige Identifikation sämtlicher relevanter Interaktionen garantieren.

Insbesondere darf das Fehlen eines Interaktionshinweises in einer KI-generierten Antwort nicht als Nachweis für die Unbedenklichkeit einer Arzneimittelkombination interpretiert werden.

Für die Schweiz steht unter anderem die offizielle Arzneimittelinformationsplattform zur Verfügung:

Swissmedic – Arzneimittelinformation

Die dort verfügbaren Fachinformationen bilden eine wichtige Informationsgrundlage. Sie sind jedoch nicht mit einem automatisierten, umfassenden Interaktionsprüfsystem gleichzusetzen.

Für die konkrete Beurteilung komplexer Arzneimittelkombinationen können deshalb ergänzend geeignete Interaktionsdatenbanken und klinisch-pharmakologische Beratungsangebote erforderlich sein.

Grenzen bei Dosierungs- und Therapieempfehlungen

Besondere Vorsicht ist bei der Verwendung allgemeiner Sprachmodelle für patientenspezifische Dosierungsberechnungen, Dosisanpassungen und Empfehlungen zur Änderung einer bestehenden Medikation erforderlich.

Fehlerhafte Annahmen hinsichtlich der Nierenfunktion, der Arzneimittelstärke oder der tatsächlichen Einnahme können erhebliche klinische Konsequenzen haben.

Dies gilt insbesondere bei Arzneimitteln mit geringer therapeutischer Breite sowie bei komplexen Medikationsschemata.

Eine KI-generierte Berechnung oder Therapieempfehlung muss deshalb anhand geeigneter Fachinformationen, gegebenenfalls validierter Berechnungsverfahren und der konkreten klinischen Situation überprüft werden.

Die eigenständige Änderung einer bestehenden Medikation sollte einem allgemeinen Sprachmodell nicht übertragen werden.

Merksatz: Eine KI-generierte Liste möglicher Arzneimittelinteraktionen ist eine Sammlung von Prüfhypothesen und kein validierter Interaktionscheck. Das Fehlen eines entsprechenden Hinweises stellt keinen Nachweis für die Sicherheit einer Arzneimittelkombination dar.

Unterstützung bei der bildgebenden Diagnostik

Die Auswahl geeigneter bildgebender Untersuchungen und die klinische Einordnung radiologischer Befunde gehören ebenfalls zum hausärztlichen Alltag.

Generative KI kann hier insbesondere bei der Vorbereitung einer radiologischen Zuweisung, der Strukturierung klinischer Fragestellungen und der sprachlichen Aufbereitung bereits vorliegender Befunde unterstützen.

Dabei sollte grundsätzlich zwischen der Verarbeitung schriftlicher radiologischer Informationen und der eigenständigen diagnostischen Analyse medizinischer Bilddaten unterschieden werden.

Auswahl geeigneter Untersuchungsverfahren

Bei der Entscheidung zwischen Sonografie, konventioneller Radiografie, Computertomografie und Magnetresonanztomografie sind die konkrete klinische Fragestellung, diagnostische Aussagekraft, potenzielle Kontraindikationen und gegebenenfalls die Strahlenexposition zu berücksichtigen.

Sprachmodelle können diese Aspekte übersichtlich darstellen. Allerdings müssen Aussagen zur tatsächlichen Indikation anhand geeigneter aktueller Empfehlungen und unter Berücksichtigung der individuellen klinischen Situation überprüft werden.

Hierbei sollte insbesondere berücksichtigt werden, welche klinisch relevante Information von der vorgesehenen Untersuchung erwartet wird und in welcher Weise das Untersuchungsergebnis das weitere medizinische Vorgehen beeinflussen könnte.

Die technische Möglichkeit, eine bestimmte anatomische Struktur oder pathologische Veränderung mit einem bildgebenden Verfahren darzustellen, begründet für sich genommen noch keine medizinische Indikation.

Ebenso ist eine technisch aufwendigere Untersuchung nicht zwangsläufig mit einem höheren klinischen Nutzen verbunden.

Für die Auswahl geeigneter Untersuchungsverfahren sind deshalb neben der individuellen klinischen Beurteilung insbesondere geeignete evidenzbasierte Zuweisungs- und Indikationsempfehlungen von Bedeutung.

Bei unklaren oder komplexen Fragestellungen bleibt die direkte fachliche Rücksprache mit der Radiologie eine wichtige Möglichkeit zur Optimierung des diagnostischen Vorgehens.

Radiologische Befunde verständlich aufbereiten

Ein weiteres Anwendungsgebiet besteht in der Übertragung eines radiologischen Befundes in eine allgemein verständliche Sprache. Dabei sollte insbesondere die ursprüngliche diagnostische Sicherheit erhalten bleiben.

Radiologische Befundformulierungen enthalten häufig bewusst gewählte sprachliche Differenzierungen, welche die diagnostische Wahrscheinlichkeit, die methodischen Grenzen einer Untersuchung oder die verbleibende diagnostische Unsicherheit ausdrücken.

Bei der sprachlichen Vereinfachung dürfen diese Unterschiede nicht verloren gehen.

Radiologische Formulierung Unzulässige Vereinfachung Angemessene Erläuterung
Kein sicherer Nachweis einer Fraktur. Ein Knochenbruch ist ausgeschlossen. In der Untersuchung zeigt sich kein eindeutiger Hinweis auf einen Knochenbruch.
Am ehesten entzündliche Veränderung. Es liegt eine Entzündung vor. Die Veränderung spricht am ehesten für eine Entzündung, ist aber nicht eindeutig.
Nicht abschliessend charakterisierbare Läsion. Gutartige Veränderung. Eine Veränderung, deren genaue Art anhand der vorliegenden Untersuchung nicht sicher bestimmt werden kann.

Eigene didaktische Beispiele zur Bedeutung des Erhalts diagnostischer Unsicherheiten bei der sprachlichen Überarbeitung radiologischer Befunde.

Auch Aussagen zur zeitlichen Entwicklung einer radiologischen Veränderung müssen korrekt wiedergegeben werden. Begriffe wie «grössenstationär», «regredient» oder «progredient» beziehen sich auf einen konkreten Untersuchungsvergleich und dürfen nicht ohne Berücksichtigung des ursprünglichen Befundkontextes interpretiert werden.

Darüber hinaus müssen im Originalbefund enthaltene Empfehlungen zur weiteren Abklärung oder Verlaufskontrolle erhalten bleiben.

Eine sprachliche Aufbereitung radiologischer Befunde darf nicht dazu führen, dass aus einer radiologischen Verdachtsdiagnose eine vermeintlich gesicherte klinische Diagnose entsteht.

Medizinische Bildanalyse durch allgemeine KI-Anwendungen

Die Möglichkeit, medizinische Bilddaten in eine multimodale KI-Anwendung hochzuladen, stellt für sich genommen keinen Nachweis einer ausreichenden diagnostischen Eignung dar.

Für eine klinische Bildanalyse müssen unter anderem die Qualität und Vollständigkeit der verfügbaren Bilddaten, die Untersuchungsmethode, die Zweckbestimmung des Systems und dessen wissenschaftlich nachgewiesene Leistungsfähigkeit berücksichtigt werden.

Dies betrifft insbesondere die Beurteilung umfangreicher CT- und MRT-Untersuchungen, bei denen unterschiedliche Bildserien, Rekonstruktionen, Kontrastmittelphasen oder Sequenzen gemeinsam ausgewertet werden müssen.

Einzelne Bildschirmaufnahmen oder exportierte JPEG-Bilder enthalten häufig nur einen begrenzten Teil der ursprünglich verfügbaren diagnostischen Informationen.

Darüber hinaus können diagnostisch relevante Bildinformationen durch die Auswahl des Bildausschnittes, die Fenstereinstellung, die Bildkompression oder eine unzureichende räumliche Auflösung verloren gehen.

Ein Sprachmodell, das einzelne medizinische Bilder sprachlich beschreiben kann, ist deshalb nicht automatisch in der Lage, eine vollständige radiologische Untersuchung zuverlässig zu beurteilen.

Eine allgemeine KI-Anwendung sollte nicht mit einem validierten radiologischen Diagnostiksystem verwechselt werden.

Weiterführende Informationen zu den technischen Möglichkeiten multimodaler Sprachmodelle finden Sie im Beitrag Wie funktioniert ChatGPT?.

Datenschutz bei der Verarbeitung radiologischer Informationen

Neben schriftlichen radiologischen Befunden können auch medizinische Bilddaten personenbezogene Informationen enthalten.

Dies betrifft sowohl die in den Metadaten von DICOM-Dateien gespeicherten Informationen als auch unmittelbar in das Bild eingeblendete Patientendaten. Darüber hinaus kann bei bestimmten Untersuchungen eine Identifikation anhand der dargestellten anatomischen Strukturen möglich sein.

Das Entfernen des Patientennamens allein ist deshalb nicht zwangsläufig ausreichend, um medizinische Bilddaten tatsächlich zu anonymisieren.

Vor der Verarbeitung radiologischer Informationen durch externe KI-Anwendungen müssen die datenschutzrechtlichen und berufsrechtlichen Voraussetzungen des jeweiligen Einsatzes geklärt sein.

Eine vertiefende Darstellung dieser Anforderungen finden Sie im Beitrag KI – Datenschutz und ärztliche Verantwortung.

Merksatz: Die sprachliche Aufbereitung eines radiologischen Befundes, die Unterstützung bei der Auswahl eines Untersuchungsverfahrens und die eigenständige diagnostische Analyse medizinischer Bilddaten sind drei unterschiedliche Aufgaben mit jeweils spezifischen Anforderungen an Qualität, Validierung und medizinische Verantwortung.

Wissenschaftliche Literatur und medizinische Fortbildung

Die kontinuierliche Aktualisierung des medizinischen Wissens stellt angesichts der zunehmenden Anzahl wissenschaftlicher Veröffentlichungen eine erhebliche Herausforderung dar.

KI-Anwendungen mit geeigneten Recherchefunktionen können dabei helfen, wissenschaftliche Themen zu strukturieren, Suchbegriffe zu entwickeln und relevante Publikationen zu identifizieren.

Dabei muss zwischen der Generierung einer Antwort auf Grundlage der trainierten Modellparameter und einer tatsächlich durchgeführten Recherche in wissenschaftlichen Datenbanken oder anderen geeigneten Informationsquellen unterschieden werden.

Ein Sprachmodell ohne entsprechenden Quellenzugang kann keine zuverlässige Aussage darüber treffen, ob seine Antwort den aktuellen Stand der wissenschaftlichen Literatur vollständig berücksichtigt.

Auch bei Verwendung integrierter Recherchefunktionen ist nicht gewährleistet, dass sämtliche für die jeweilige Fragestellung relevanten Publikationen identifiziert werden.

Wissenschaftliche Informationen aufbereiten

Sofern die Originalpublikation tatsächlich zugänglich ist, können Sprachmodelle beispielsweise bei der strukturierten Darstellung folgender Aspekte unterstützen:

  • Wissenschaftliche Fragestellung.
  • Studiendesign und Untersuchungsmethodik.
  • Patientenpopulation und Einschlusskriterien.
  • Primäre und sekundäre Endpunkte.
  • Wesentliche Ergebnisse und statistische Unsicherheiten.
  • Limitationen und Übertragbarkeit auf die eigene klinische Tätigkeit.

Voraussetzung bleibt allerdings, dass sämtliche relevanten Aussagen anhand der Originalquelle überprüft werden. Insbesondere darf eine KI-generierte Literaturzusammenfassung nicht mit einer systematischen wissenschaftlichen Literaturrecherche verwechselt werden.

Auch ist zu unterscheiden, ob die jeweilige Zusammenfassung auf dem vollständigen Text einer wissenschaftlichen Originalpublikation, einem Abstract oder einer Sekundärquelle beruht.

Ein Abstract enthält häufig nicht alle Informationen, die für eine differenzierte Beurteilung der Studienmethodik, der statistischen Ergebnisse und möglicher Limitationen erforderlich sind.

Besondere Aufmerksamkeit erfordern die korrekte Wiedergabe von Studienpopulationen, Endpunkten, Effektgrössen, Konfidenzintervallen und statistischen Signifikanzangaben.

Darüber hinaus sollte zwischen statistischer Signifikanz und klinischer Relevanz unterschieden werden.

Auch bei statistisch signifikanten Untersuchungsergebnissen ist zu prüfen, ob das Ausmass des beobachteten Effektes für die konkrete klinische Fragestellung tatsächlich von Bedeutung ist.

Medizinische Leitlinien und Therapieempfehlungen

Für die hausärztliche Tätigkeit sind neben wissenschaftlichen Originalpublikationen insbesondere medizinische Leitlinien und evidenzbasierte Handlungsempfehlungen von Bedeutung.

Ein Sprachmodell kann hierbei unterstützen, relevante Empfehlungen zu identifizieren, umfangreiche Leitliniendokumente zu strukturieren und unterschiedliche Empfehlungen vergleichend darzustellen.

Dabei müssen jedoch die Aktualität, der Geltungsbereich und die Zielgruppe der jeweiligen Leitlinie berücksichtigt werden.

Medizinische Empfehlungen können sich beispielsweise aufgrund unterschiedlicher nationaler Versorgungssysteme, verfügbarer Arzneimittel, regulatorischer Voraussetzungen oder wissenschaftlicher Bewertungsmethoden voneinander unterscheiden.

Eine für ein anderes Gesundheitssystem entwickelte Empfehlung ist deshalb nicht zwangsläufig unverändert auf die Schweizer Hausarztmedizin übertragbar.

Auch die Stärke einer Empfehlung und die Qualität der zugrunde liegenden wissenschaftlichen Evidenz dürfen bei einer KI-gestützten Zusammenfassung nicht verloren gehen.

Individuelle medizinische Fortbildung

Darüber hinaus können Sprachmodelle bei der Erstellung individueller Lernmaterialien, der Aufbereitung medizinischer Klassifikationen, der Wiederholung wissenschaftlicher Grundlagen und der Entwicklung fiktiver klinischer Fallbeispiele eingesetzt werden.

Ein möglicher Vorteil besteht darin, dass Inhalte hinsichtlich ihres Umfangs, ihres Schwierigkeitsgrades und ihrer Darstellungsform an den jeweiligen Lernbedarf angepasst werden können.

Beispielsweise lassen sich komplexe medizinische Zusammenhänge zunächst in einer übersichtlichen Darstellung aufbereiten und anschliessend durch gezielte Fragen, differenzierte Erläuterungen und klinische Beispiele vertiefen.

Auch die Entwicklung von Übungsfragen, didaktischen Fallvignetten oder ergänzenden Materialien für interne Fortbildungen kann durch Sprachmodelle unterstützt werden.

Allerdings müssen auch didaktisch überzeugend aufbereitete medizinische Inhalte vor ihrer Verwendung fachlich überprüft werden.

Dies gilt insbesondere dann, wenn entsprechende Materialien nicht ausschliesslich dem eigenen Lernen dienen, sondern an medizinische Mitarbeitende, Studierende oder ärztliche Kolleginnen und Kollegen weitergegeben werden.

Die Möglichkeiten und Grenzen KI-gestützter Literaturrecherche, die Überprüfung bibliografischer Angaben und die systematische Auswertung wissenschaftlicher Publikationen werden im Beitrag KI und medizinische Literaturrecherche ausführlich behandelt.

Merksatz: Künstliche Intelligenz kann die Erschliessung und Aufbereitung wissenschaftlicher Informationen erleichtern. Die Qualität der medizinischen Erkenntnisse ergibt sich jedoch aus der zugrunde liegenden wissenschaftlichen Evidenz und nicht aus der sprachlichen Qualität ihrer KI-generierten Darstellung.

Praxisorganisation und Qualitätsmanagement

Neben medizinischen Aufgaben bietet insbesondere die Praxisorganisation zahlreiche Möglichkeiten zur Verwendung generativer KI. Viele entsprechende Tätigkeiten lassen sich zunächst ohne die Verarbeitung personenbezogener Patientendaten erproben.

Ein wesentlicher Vorteil dieses Anwendungsbereiches besteht darin, dass die Ergebnisse häufig anhand bereits bestehender organisatorischer Vorgaben und interner Erfahrungen überprüft werden können.

Standardisierte Arbeitsanweisungen

Ein Sprachmodell kann beispielsweise Entwürfe für organisatorische Arbeitsanweisungen erstellen. Dazu gehören Ablaufbeschreibungen, Checklisten, interne Kommunikationsstandards und vorbereitende Unterlagen für Teamsitzungen.

Im Bereich des Qualitätsmanagements lassen sich ausserdem bereits bestehende Dokumente sprachlich vereinheitlichen, übersichtlicher strukturieren und auf innere Widersprüche untersuchen.

Hierbei kann insbesondere die Entwicklung standardisierter Arbeitsanweisungen, sogenannter Standard Operating Procedures (SOP), unterstützt werden.

Mögliche Anwendungsbereiche sind beispielsweise:

  • Organisatorische Abläufe bei der Aufnahme neuer Patienten.
  • Strukturierung interner Kommunikationsprozesse.
  • Erstellung organisatorischer Checklisten.
  • Vorbereitung interner Schulungen.
  • Dokumentation von Qualitätsmanagementprozessen.
  • Überarbeitung bestehender organisatorischer Arbeitsanweisungen.

Bei der Entwicklung medizinisch relevanter Arbeitsanweisungen müssen jedoch die tatsächlich geltenden fachlichen, gesetzlichen und organisatorischen Anforderungen berücksichtigt werden.

Eine durch ein Sprachmodell erzeugte Arbeitsanweisung stellt zunächst einen Entwurf dar. Erst nach der Überprüfung durch die hierfür zuständigen Fachpersonen und der formellen Freigabe kann sie als verbindliche interne Arbeitsanweisung verwendet werden.

Für wiederkehrende Aufgaben kann es sinnvoll sein, die Anforderungen an die Erstellung und Überarbeitung entsprechender Dokumente in einem Masterprompt zu hinterlegen.

Die Entwicklung solcher standardisierten Arbeitsanweisungen für Sprachmodelle wird im Beitrag Vom Prompt zum Masterprompt ausführlich erläutert.

Unterstützung des Praxisteams

Auch medizinische Praxisassistentinnen und Praxisassistenten können von geeigneten KI-Anwendungen profitieren. Denkbar sind insbesondere die Vorbereitung organisatorischer Patienteninformationen, die Erstellung von Schulungsmaterialien und die Überarbeitung standardisierter Kommunikationsvorlagen.

Medizinisch relevante Inhalte müssen jedoch entsprechend den jeweiligen Zuständigkeiten geprüft und freigegeben werden.

Die Einführung künstlicher Intelligenz in den Praxisalltag sollte deshalb mit einer klaren Definition der zugelassenen Anwendungsbereiche und der jeweiligen Verantwortlichkeiten verbunden sein.

Insbesondere sollte innerhalb des Praxisteams bekannt sein, welche KI-Anwendungen verwendet werden dürfen, welche Informationen verarbeitet werden dürfen und welche Ergebnisse vor ihrer weiteren Verwendung einer ärztlichen beziehungsweise organisatorischen Freigabe bedürfen.

Die Verwendung künstlicher Intelligenz darf nicht dazu führen, dass bestehende medizinische Zuständigkeiten oder fachliche Kompetenzgrenzen unbemerkt verändert werden.

Administrative Kommunikation

Weitere Anwendungen umfassen die sprachliche Überarbeitung von E-Mails, die Erstellung allgemeiner Praxisinformationen und die Vorbereitung organisatorischer Bekanntmachungen.

Gerade solche Aufgaben eignen sich für einen Einstieg in die praktische Nutzung künstlicher Intelligenz, da weder diagnostische Entscheidungen noch patientenbezogene Informationen zwingend erforderlich sind.

Allerdings können auch administrative Dokumente vertrauliche Informationen enthalten. Dies betrifft beispielsweise personenbezogene Angaben zu Mitarbeitenden, interne wirtschaftliche Informationen oder Inhalte aus vertraulicher geschäftlicher Korrespondenz.

Die datenschutzrechtliche und organisatorische Beurteilung einer KI-Anwendung darf sich deshalb nicht ausschliesslich auf die Verarbeitung medizinischer Patientendaten beschränken.

Auswertung organisatorischer Informationen

KI-Anwendungen mit geeigneten Funktionen zur Datenanalyse können darüber hinaus bei der Aufbereitung nicht personenbezogener statistischer Praxisinformationen unterstützen.

Beispielsweise lassen sich aggregierte Daten zu Terminvolumen, organisatorischen Abläufen oder Qualitätsindikatoren tabellarisch darstellen und grafisch aufbereiten.

Auch hierbei müssen die verwendeten Ausgangsdaten, die Berechnungsmethoden und die Interpretation der Ergebnisse nachvollziehbar bleiben.

Insbesondere sollten aus rein beschreibenden statistischen Zusammenhängen keine unbegründeten kausalen Schlussfolgerungen über organisatorische oder medizinische Prozesse abgeleitet werden.

Bei der Verwendung von KI für das Qualitätsmanagement ergibt sich der tatsächliche Nutzen somit erst aus der Verbindung nachvollziehbarer Daten, geeigneter Bewertungsmethoden und der anschliessenden fachlichen Interpretation.

Praxisempfehlung: Beginnen Sie mit überschaubaren organisatorischen Aufgaben, deren Ergebnisse sich anhand bestehender Vorgaben zuverlässig überprüfen lassen. Definieren Sie klare Zuständigkeiten für die Prüfung und Freigabe KI-generierter Arbeitsentwürfe.

Anwendungen nach ihrem Risikoprofil beurteilen

Nicht jede Verwendung künstlicher Intelligenz in einer Arztpraxis ist mit denselben Anforderungen verbunden. Die nachfolgende Einteilung soll verdeutlichen, wie unterschiedlich die möglichen Konsequenzen fehlerhafter KI-Ergebnisse sein können.

Für die Beurteilung einer konkreten Anwendung ist dabei nicht allein die technische Leistungsfähigkeit des verwendeten Systems von Bedeutung. Ebenso relevant sind die Art der verarbeiteten Informationen, die möglichen Konsequenzen eines Fehlers und die Frage, ob dieser vor der weiteren Verwendung des Ergebnisses zuverlässig erkannt werden kann.

Relatives Risikoprofil Anwendungsbeispiele Anforderungen
Vergleichsweise gering Allgemeine administrative Texte, organisatorische Vorlagen und nicht patientenbezogene Arbeitsentwürfe. Inhaltliche Kontrolle, Beachtung der Vertraulichkeit und organisatorische Freigabe.
Erhöht Arztbriefe, medizinische Dokumentation, Patienteninformationen und Übersetzungen. Fachliche Kontrolle, Abgleich mit Originalinformationen und zulässige Datenverarbeitung.
Hoch Differenzialdiagnostik, Medikationsprüfung, Therapieplanung und medizinische Bildanalyse. Besondere Anforderungen an Evidenz, Validierung, Systemauswahl und eigenständige ärztliche Prüfung.
Besonders kritisch Autonome Diagnosen, unkontrollierte Therapieentscheidungen und automatisierte medizinische Triage ohne geeignete Absicherung. Keine unkontrollierte Verwendung allgemeiner Sprachmodelle für entsprechende Entscheidungen.

Eigene didaktische Einteilung typischer Anwendungsbereiche. Es handelt sich weder um eine wissenschaftlich validierte Risikoklassifikation noch um eine regulatorische Klassifikation von KI-Systemen oder Medizinprodukten. Die Einteilung dient ausschliesslich der Veranschaulichung unterschiedlicher Anforderungen an die Auswahl, Verwendung und Kontrolle von KI-Anwendungen.

Die tatsächliche Risikobeurteilung hängt stets von der konkreten Anwendung, den verarbeiteten Informationen, möglichen Fehlerfolgen und den vorhandenen Kontrollmechanismen ab.

Auch eine scheinbar einfache administrative Aufgabe kann beispielsweise aufgrund vertraulicher personenbezogener Informationen datenschutzrechtlich problematisch sein.

Umgekehrt kann eine medizinisch anspruchsvolle Fragestellung im Rahmen einer fiktiven Fortbildungssituation mit einem geringeren unmittelbaren klinischen Risiko verbunden sein als dieselbe Fragestellung im Rahmen einer tatsächlichen Patientenversorgung.

Die dargestellten Risikoprofile beziehen sich somit nicht ausschliesslich auf den Inhalt einer Aufgabe, sondern insbesondere auf den jeweiligen Anwendungskontext.

Fünf Fragen zur Beurteilung einer KI-Anwendung

Vor der Integration einer KI-Anwendung in den hausärztlichen Alltag empfiehlt es sich, folgende Fragen zu beantworten:

  1. Zielsetzung: Welche konkrete Aufgabe soll durch künstliche Intelligenz unterstützt werden?
  2. Datenverarbeitung: Welche Informationen müssen hierfür verarbeitet werden und ist diese Verarbeitung zulässig?
  3. Fehlerfolgen: Welche medizinischen, organisatorischen oder datenschutzrechtlichen Konsequenzen könnte ein fehlerhaftes Ergebnis haben?
  4. Überprüfbarkeit: Kann die Qualität des Ergebnisses vor seiner weiteren Verwendung mit vertretbarem Aufwand ausreichend zuverlässig überprüft werden?
  5. Verantwortung: Wer ist für die fachliche Kontrolle und die abschliessende Freigabe des Ergebnisses zuständig?

Je schwerwiegender die potenziellen Konsequenzen eines Fehlers und je schwieriger dessen zuverlässige Erkennung sind, desto höher sind die Anforderungen an die Auswahl, Validierung und kontrollierte Verwendung des jeweiligen KI-Systems.

Dabei ist auch zu berücksichtigen, dass die nachträgliche menschliche Kontrolle nicht sämtliche technischen oder methodischen Einschränkungen eines Systems kompensieren kann.

Insbesondere können subtile Fehler, unvollständige Informationen oder überzeugend formulierte falsche Schlussfolgerungen auch bei einer fachlich versierten Durchsicht unentdeckt bleiben.

Die Möglichkeit einer ärztlichen Kontrolle allein rechtfertigt deshalb nicht automatisch die Verwendung eines für die jeweilige klinische Aufgabe ungeeigneten KI-Systems.

Weiterführende Informationen zur systematischen Auswahl geeigneter KI-Anwendungen, zur Qualitätssicherung und zur Integration überprüfbarer Arbeitsprozesse finden Sie im abschliessenden Beitrag unserer Artikelserie Professioneller Umgang mit KI.

Grundprinzip: Je grösser die möglichen Konsequenzen eines fehlerhaften KI-Ergebnisses, desto höher sind die Anforderungen an die Eignung des verwendeten Systems, die wissenschaftliche Evidenz, die fachliche Kontrolle und die abschliessende Freigabe.

Praktische Prompts für die Hausarztpraxis

Für wiederkehrende Aufgaben empfiehlt sich die Verwendung standardisierter Arbeitsanweisungen. Diese können entsprechend den zuvor erläuterten Prinzipien des Prompt Engineering und der Entwicklung von Masterprompts gestaltet werden.

Während ein einfacher Prompt einen konkreten Arbeitsauftrag für eine einzelne Aufgabe formuliert, können in einem Masterprompt zusätzlich verbindliche Anforderungen an die Bearbeitungsmethodik, die Ergebnisstruktur und die Qualitätskontrolle festgelegt werden.

Weiterführende Informationen hierzu finden Sie in den Beiträgen Prompt Engineering – richtig fragen und Vom Prompt zum Masterprompt.

Die nachfolgenden Musterprompts dienen der didaktischen Veranschaulichung. Sie wurden nicht als klinische Entscheidungsunterstützungssysteme validiert. Bei der praktischen Verwendung sind insbesondere die Anforderungen an die zulässige Verarbeitung medizinischer Informationen zu beachten.

Für die erste Erprobung empfiehlt sich die Verwendung fiktiver Fallvignetten, nicht personenbezogener Informationen oder tatsächlich anonymisierter Daten.

01 – Medizinische Konsultationsnotiz erstellen

Arbeitsauftrag:

Erstellen Sie aus den nachfolgenden Stichpunkten eine strukturierte medizinische Konsultationsnotiz.

Gliedern Sie die Informationen in Anamnese, klinischen Befund, ärztliche Beurteilung und festgelegtes weiteres Vorgehen.

Übernehmen Sie ausschliesslich die bereitgestellten Angaben. Kennzeichnen Sie fehlende oder widersprüchliche Informationen. Ergänzen Sie keine nicht dokumentierten Befunde, Diagnosen oder therapeutischen Entscheidungen.

Unterscheiden Sie zwischen ausdrücklich dokumentierten Negativbefunden und fehlenden Informationen.

Überprüfen Sie abschliessend, ob Zahlenwerte, Einheiten, Zeitangaben, Arzneimitteldosierungen und diagnostische Unsicherheiten korrekt übernommen wurden.

Kennzeichnen Sie das Ergebnis als ärztlich zu überprüfenden Dokumentationsentwurf.

02 – Fachärztliches Zuweisungsschreiben formulieren

Arbeitsauftrag:

Formulieren Sie auf Grundlage der bereitgestellten Informationen ein präzises fachärztliches Zuweisungsschreiben.

Stellen Sie die klinische Ausgangssituation, relevante Vorerkrankungen, vorhandene Untersuchungsergebnisse und bisherige Massnahmen übersichtlich dar.

Heben Sie die konkrete fachärztliche Fragestellung hervor. Verwenden Sie eine professionelle medizinische Fachsprache und ergänzen Sie keine fehlenden medizinischen Informationen.

Verändern Sie weder die ärztlich festgelegte Fragestellung noch die dokumentierte Dringlichkeit der Zuweisung.

Erhalten Sie die ursprüngliche diagnostische Sicherheit der Aussagen. Kennzeichnen Sie fehlende oder widersprüchliche Angaben gesondert.

03 – Medizinische Informationen patientengerecht erläutern

Arbeitsauftrag:

Übertragen Sie die nachfolgenden ärztlich geprüften medizinischen Informationen in eine allgemein verständliche Sprache.

Erläutern Sie unvermeidbare medizinische Fachbegriffe. Bewahren Sie die ursprüngliche Aussage, insbesondere vorhandene diagnostische Unsicherheiten.

Verzichten Sie auf eigenständige diagnostische Interpretationen, unbegründete Beruhigung und zusätzliche Therapieempfehlungen.

Erhalten Sie sämtliche dokumentierten Warnhinweise, Empfehlungen zur weiteren diagnostischen Abklärung und ärztlich festgelegten Verlaufskontrollen.

Verwenden Sie eine respektvolle und verständliche Sprache, ohne unzutreffende medizinische Annahmen zu bestätigen.

04 – Klinische Überlegungen kritisch hinterfragen

Arbeitsauftrag:

Betrachten Sie die folgende klinische Fallvignette als ergänzende kritische Perspektive zu einer bereits erfolgten ärztlichen Beurteilung.

Unterscheiden Sie dokumentierte Informationen von diagnostischen Annahmen. Stellen Sie mögliche alternative Erklärungen dar und identifizieren Sie fehlende Angaben, welche die diagnostische Einordnung beeinflussen könnten.

Übernehmen Sie die vorläufige ärztliche Einschätzung nicht unkritisch. Stellen Sie nachvollziehbar dar, welche Informationen für beziehungsweise gegen die diskutierten diagnostischen Möglichkeiten sprechen.

Weisen Sie gegebenenfalls auf zu prüfende Warnzeichen hin. Behaupten Sie nicht, dass nicht erwähnte Befunde oder Erkrankungen ausgeschlossen sind.

Vermeiden Sie definitive Diagnosen sowie ungesicherte Wahrscheinlichkeitsangaben. Kennzeichnen Sie sämtliche Vorschläge als ärztlich zu überprüfende Überlegungen.

Weisen Sie ausdrücklich auf relevante Unsicherheiten und die Grenzen der verfügbaren Informationen hin.

05 – Medikationsliste strukturieren

Arbeitsauftrag:

Überführen Sie die bereitgestellten Medikationsangaben in eine übersichtliche Tabelle mit den Spalten Arzneimittel, dokumentierter Wirkstoff, Arzneimittelstärke, Dosierung, Einnahmezeitpunkt, Datum und Herkunft der jeweiligen Angabe.

Unterscheiden Sie, soweit ausdrücklich dokumentiert, zwischen regelmässiger Medikation, Bedarfsmedikation und bereits beendeten Arzneimitteltherapien.

Kennzeichnen Sie unvollständige Angaben und mögliche Widersprüche. Ergänzen Sie keine nicht dokumentierten Wirkstoffe, Dosierungen oder Einnahmeempfehlungen.

Leiten Sie aus dem Fehlen eines Arzneimittels in einem neueren Dokument nicht eigenständig dessen Absetzen ab.

Nehmen Sie keine eigenständigen Medikationsänderungen vor. Eine Prüfung der Arzneimittelsicherheit muss separat anhand geeigneter aktueller Fachinformationen erfolgen.

Kennzeichnen Sie das Ergebnis als noch nicht abschliessend überprüfte Medikationsübersicht.

06 – Wissenschaftliche Publikation analysieren

Arbeitsauftrag:

Analysieren Sie die bereitgestellte medizinische Originalpublikation hinsichtlich Fragestellung, Studiendesign, Population, Methoden, Endpunkten, Ergebnissen und Limitationen.

Unterscheiden Sie zwischen den tatsächlich berichteten Studienergebnissen, den Schlussfolgerungen der Autoren und eigenen Interpretationen.

Überprüfen Sie quantitative Angaben anhand der zugänglichen Originalinformationen. Berücksichtigen Sie insbesondere die Studienpopulation, Effektgrössen, Konfidenzintervalle und statistische Signifikanz.

Ordnen Sie wesentliche quantitative Aussagen nach Möglichkeit den entsprechenden Textabschnitten, Tabellen oder Abbildungen der Originalpublikation zu.

Kennzeichnen Sie ausdrücklich, wenn lediglich das Abstract oder Teile der Publikation vorliegen. Ergänzen Sie keine nicht überprüfbaren Studienergebnisse oder bibliografischen Angaben.

Beurteilen Sie abschliessend die mögliche Relevanz für die Hausarztmedizin, ohne eine nicht belegte klinische Wirksamkeit zu behaupten.

07 – Standardisierte Arbeitsanweisung für die Praxis erstellen

Arbeitsauftrag:

Entwickeln Sie auf Grundlage der bereitgestellten organisatorischen Vorgaben einen Entwurf einer standardisierten Arbeitsanweisung für eine Hausarztpraxis.

Gliedern Sie das Dokument in Zielsetzung, Geltungsbereich, Zuständigkeiten, Ablauf, Dokumentation und Qualitätskontrolle.

Unterscheiden Sie bereits verbindlich festgelegte organisatorische Vorgaben von ergänzenden Vorschlägen.

Kennzeichnen Sie medizinische, rechtliche und organisatorische Aspekte, die vor der Freigabe gesondert überprüft werden müssen.

Ergänzen Sie einen Abschnitt zur Dokumentenpflege mit Angaben zu Version, Freigabedatum, verantwortlicher Fachperson und vorgesehener Überprüfung.

Erfinden Sie keine gesetzlichen oder regulatorischen Anforderungen. Kennzeichnen Sie das Ergebnis ausdrücklich als Entwurf einer noch nicht freigegebenen Arbeitsanweisung.

Durch die Verwendung solcher standardisierten Arbeitsaufträge lassen sich wiederkehrende Aufgaben einheitlicher gestalten. Die Qualität der Ergebnisse muss dennoch bei jeder neuen Anwendung überprüft werden.

Auch ausdrücklich formulierte Anforderungen an die Vollständigkeit, die wissenschaftliche Genauigkeit und die abschliessende Selbstkontrolle garantieren nicht, dass ein Sprachmodell sämtliche Vorgaben zuverlässig einhält.

Insbesondere sollte eine durch das Sprachmodell selbst durchgeführte Qualitätskontrolle nicht mit einer unabhängigen ärztlichen oder wissenschaftlichen Überprüfung gleichgesetzt werden.

Bei komplexeren Fragestellungen können ergänzend unterschiedliche fachliche Betrachtungsperspektiven in den Arbeitsauftrag integriert werden. Ein entsprechendes Konzept wird im Beitrag KI als virtuelle Expertenrunde vorgestellt.

Praxisempfehlung: Entwickeln Sie für häufig wiederkehrende Aufgaben eine kleine Sammlung erprobter und versionierter Musterprompts. Definieren Sie für jeden Arbeitsauftrag den zulässigen Anwendungsbereich, die erforderlichen Eingabedaten und die Kriterien der abschliessenden Qualitätskontrolle.

Schrittweise Integration in den Praxisalltag

Die Einführung künstlicher Intelligenz sollte nicht ausschliesslich als technische Anschaffung verstanden werden. Vielmehr handelt es sich um die Veränderung bestehender Arbeitsprozesse mit entsprechenden organisatorischen und fachlichen Konsequenzen.

Der tatsächliche Nutzen einer KI-Anwendung ergibt sich nicht allein aus der Leistungsfähigkeit des jeweiligen Systems, sondern insbesondere aus dessen Integration in einen sinnvoll definierten und überprüfbaren Arbeitsprozess.

Mit überschaubaren Aufgaben beginnen

Für die erste praktische Erprobung bieten sich Tätigkeiten an, bei denen keine patientenbezogenen Informationen verarbeitet werden und mögliche Fehler vergleichsweise einfach erkannt werden können.

Hierzu gehören beispielsweise die sprachliche Überarbeitung allgemeiner Praxisinformationen, die Erstellung organisatorischer Checklisten oder die Entwicklung von Arbeitsvorlagen.

Erst nach ausreichender Erfahrung mit den grundlegenden Funktionen und Grenzen sollten komplexere Anwendungen in Betracht gezogen werden.

Dabei darf eine erfolgreiche Erprobung anhand einfacher administrativer Aufgaben nicht als Nachweis für die Eignung desselben Systems zur Bearbeitung medizinisch anspruchsvoller Fragestellungen interpretiert werden.

Jeder zusätzliche Anwendungsbereich erfordert eine gesonderte Beurteilung seiner fachlichen, technischen und datenschutzrechtlichen Voraussetzungen.

SECHS SCHRITTE ZUR KI-INTEGRATION IN DER ARZTPRAXIS

1. Geeignete Aufgaben identifizieren

Wiederkehrende Arbeitsprozesse mit einem nachvollziehbaren Verbesserungspotenzial auswählen.

2. Nutzen und Risiken beurteilen

Mögliche Fehlerfolgen, Datenschutzanforderungen und notwendige Kontrollmechanismen definieren.

3. Geeignete Systeme auswählen

Technische Funktionen, Zweckbestimmung, Datenverarbeitung und fachliche Eignung überprüfen.

4. Arbeitsabläufe erproben

Mit geeigneten Testaufgaben und fiktiven Fällen Erfahrungen sammeln. Qualitätskriterien anhand der Ergebnisse konkretisieren.

5. Qualitätskriterien und Zuständigkeiten festlegen

Kontrolle, Korrektur, Dokumentation und Freigabe verbindlich organisieren. Das Praxisteam entsprechend schulen.

6. Nutzen und Sicherheit regelmässig evaluieren

Zeitaufwand, Fehler, Akzeptanz und Auswirkungen auf die Arbeitsqualität beurteilen. Bei Bedarf Arbeitsprozesse verändern oder die Anwendung aussetzen.

Eigener didaktischer Vorschlag zur schrittweisen Einführung generativer KI. Die Darstellung entspricht keinem wissenschaftlich validierten Implementierungsmodell. Grundlegende Sicherheitsanforderungen und Verantwortlichkeiten müssen bereits vor der Erprobung festgelegt werden.

Das gesamte Praxisteam einbeziehen

Die Einführung neuer digitaler Werkzeuge betrifft in der Regel nicht nur die behandelnden Ärzte. Auch medizinische Praxisassistentinnen und Praxisassistenten sowie weitere Mitarbeitende müssen die vorgesehenen Arbeitsabläufe, Zuständigkeiten und Grenzen kennen.

Insbesondere sollte klar definiert sein, welche KI-Anwendungen für welche Aufgaben verwendet werden dürfen und welche Ergebnisse vor einer weiteren Nutzung fachlich kontrolliert werden müssen.

Hierzu empfiehlt sich die Entwicklung einer praxisinternen Regelung zur Verwendung künstlicher Intelligenz.

Diese sollte insbesondere folgende Aspekte berücksichtigen:

  • Die für den Praxisbetrieb zugelassenen KI-Anwendungen.
  • Die ausdrücklich definierten Anwendungsbereiche.
  • Die zulässigen und unzulässigen Formen der Datenverarbeitung.
  • Die fachlichen Zuständigkeiten innerhalb des Praxisteams.
  • Die Anforderungen an die Kontrolle und Freigabe generierter Inhalte.
  • Den Umgang mit festgestellten Fehlern und sicherheitsrelevanten Ereignissen.
  • Die regelmässige Überprüfung der eingesetzten Systeme und Arbeitsprozesse.

Eine gemeinsame Schulung des Praxisteams kann dazu beitragen, ein grundlegendes Verständnis für die Möglichkeiten und Grenzen künstlicher Intelligenz zu entwickeln.

Dabei sollten nicht ausschliesslich die technischen Funktionen vorgestellt werden. Ebenso wichtig ist die Vermittlung typischer Fehlerquellen, beispielsweise erfundener Informationen, fehlerhafter Zusammenfassungen und unkritischer Bestätigungen vorgegebener Annahmen.

Entsprechende Grundlagen werden in den Beiträgen Grenzen künstlicher Intelligenz und Wenn KI uns recht gibt ausführlich behandelt.

Qualitätskriterien und Freigabeverfahren definieren

Für die einzelnen Anwendungsbereiche sollten konkrete Kriterien festgelegt werden, anhand derer die erzeugten Ergebnisse überprüft werden können.

Bei medizinischen Dokumentationsentwürfen sind dies beispielsweise die vollständige Wiedergabe relevanter Informationen, die korrekte Übernahme von Zahlenwerten und die Vermeidung nicht dokumentierter Ergänzungen.

Bei wissenschaftlichen Literaturzusammenfassungen stehen dagegen die korrekte Zuordnung der Quellen, die Wiedergabe der tatsächlichen Untersuchungsergebnisse und die nachvollziehbare Darstellung wissenschaftlicher Unsicherheiten im Vordergrund.

Die allgemeinen Anforderungen an die Qualität eines KI-generierten Ergebnisses können somit nicht für sämtliche Anwendungen unverändert übernommen werden.

Vor der Einführung eines neuen Arbeitsprozesses sollte ausserdem definiert werden, welche Fehler als besonders schwerwiegend einzustufen sind und unter welchen Voraussetzungen eine Anwendung nicht weiterverwendet werden darf.

Hierzu gehören beispielsweise wiederholt auftretende klinisch relevante Dokumentationsfehler, nicht zuverlässig überprüfbare Ergebnisse oder unzulässige Datenverarbeitungsvorgänge.

Ein System, dessen Fehler durch die vorgesehenen Kontrollmechanismen nicht ausreichend zuverlässig erkannt werden können, sollte für den betreffenden Arbeitsprozess nicht freigegeben werden.

Regelmässige Neubewertung

KI-Anwendungen können sich durch Modellaktualisierungen, veränderte technische Funktionen oder neue Vertragsbedingungen verändern. Deshalb sollte eine einmalige Bewertung nicht als dauerhaft gültige Freigabe verstanden werden.

Bei wesentlichen Änderungen empfiehlt sich eine erneute Überprüfung der relevanten Funktionen und Qualitätsanforderungen.

Auch unveränderte Arbeitsanweisungen können nach einer Modellaktualisierung zu anderen Ergebnissen führen. Für besonders relevante wiederkehrende Aufgaben kann es deshalb sinnvoll sein, eine kleine Sammlung standardisierter Testfälle mit zuvor definierten Qualitätsanforderungen vorzuhalten.

Eine solche Sammlung ermöglicht eine vergleichende Überprüfung der erzeugten Ergebnisse, ersetzt jedoch keine formelle klinische Validierung des jeweiligen Systems.

Neben den technischen Veränderungen sollten regelmässig auch die tatsächlichen Erfahrungen des Praxisteams berücksichtigt werden.

Insbesondere ist zu prüfen, ob der ursprünglich erwartete Nutzen eingetreten ist, welche Fehler beobachtet wurden und ob der erforderliche Kontrollaufwand in einem angemessenen Verhältnis zur erzielten Arbeitsentlastung steht.

Weitere Informationen zur professionellen Auswahl, Kontrolle und Integration künstlicher Intelligenz finden Sie im Beitrag Professioneller Umgang mit KI.

Merksatz: Die Einführung künstlicher Intelligenz in einer Arztpraxis ist kein einmaliger technischer Vorgang, sondern ein kontinuierlicher organisatorischer Lern- und Qualitätsmanagementprozess.

Zeitersparnis und Wirtschaftlichkeit

Die wirtschaftliche Beurteilung künstlicher Intelligenz sollte sich nicht allein an den Kosten eines Softwareabonnements oder an der Geschwindigkeit der Textgenerierung orientieren.

Entscheidend ist vielmehr der gesamte Arbeitsaufwand eines Prozesses. Dazu gehören die Vorbereitung der Eingaben, die Erstellung der Arbeitsanweisung, die Kontrolle der Ergebnisse und gegebenenfalls deren Korrektur.

Eine innerhalb weniger Sekunden generierte Antwort kann beispielsweise einen erheblichen nachträglichen Überprüfungsaufwand erfordern, wenn medizinische Aussagen, Literaturreferenzen oder quantitative Angaben nicht unmittelbar nachvollziehbar sind.

Auch die wiederholte Überarbeitung unzureichender Ergebnisse kann den ursprünglich erwarteten zeitlichen Vorteil erheblich reduzieren.

Die tatsächliche Nettozeitersparnis

NETTOZEITERSPARNIS DURCH KI

Bisheriger Zeitaufwand

−

Vorbereitung + KI-Bearbeitung + Kontrolle + Korrektur

=

Tatsächliche Nettozeitersparnis pro Arbeitsvorgang

Vereinfachte didaktische Darstellung der arbeitsvorgangsbezogenen Nettozeitersparnis. Übergeordnete Aufwendungen für Systemeinführung, Schulung, Wartung und Qualitätsmanagement müssen bei einer umfassenden Wirtschaftlichkeitsbetrachtung zusätzlich berücksichtigt werden.

Je einfacher und standardisierter ein wiederkehrender Arbeitsprozess ist, desto eher lässt sich der tatsächliche Zeitaufwand vergleichen.

Voraussetzung für einen aussagekräftigen Vergleich ist jedoch, dass die Ergebnisse des bisherigen Arbeitsprozesses und des KI-gestützten Arbeitsprozesses hinsichtlich ihrer erforderlichen Qualität vergleichbar sind.

Wird beispielsweise die Erstellung eines medizinischen Dokumentes durch KI beschleunigt, anschliessend jedoch auf eine notwendige fachliche Kontrolle verzichtet, kann die reduzierte Bearbeitungszeit nicht ohne Weiteres als organisatorischer Vorteil bewertet werden.

Fiktives Berechnungsbeispiel

Angenommen, die Erstellung eines standardisierten medizinischen Schreibens benötigt bisher durchschnittlich acht Minuten. Mit KI-Unterstützung reduziert sich der gesamte Arbeitsaufwand einschliesslich Vorbereitung, Kontrolle und Korrektur auf fünf Minuten.

Werden täglich zehn entsprechende Schreiben erstellt, ergibt sich die nachfolgende hypothetische Zeitersparnis.

Berechnungsgrundlage Wert
Bisheriger Zeitaufwand pro Schreiben 8 Minuten
Zeitaufwand mit KI einschliesslich Vorbereitung, Kontrolle und Korrektur 5 Minuten
Nettozeitersparnis pro Schreiben 3 Minuten
Anzahl Schreiben pro Arbeitstag 10
Zeitersparnis pro Arbeitstag 30 Minuten
Zeitersparnis bei 220 Arbeitstagen 110 Stunden pro Jahr

Rein hypothetisches Berechnungsbeispiel. Die verwendeten Zahlen beruhen nicht auf einer wissenschaftlichen Untersuchung oder einer gemessenen hausärztlichen Zeitersparnis. Zusätzliche Aufwendungen für Einführung, Schulung, Systempflege und Qualitätsmanagement sind nicht eingerechnet.

Das Beispiel verdeutlicht allerdings, weshalb bereits geringfügige Zeitersparnisse bei häufig wiederkehrenden Aufgaben organisatorisch relevant sein können.

Bei einer angenommenen Arbeitszeit von acht Stunden pro Arbeitstag entsprächen die berechneten 110 Stunden einem Arbeitszeitvolumen von 13,75 Arbeitstagen pro Jahr.

Dabei handelt es sich um eine rechnerische Entsprechung und nicht zwangsläufig um tatsächlich frei verfügbare zusätzliche Arbeitstage.

Andererseits kann bei komplexen medizinischen Aufgaben der erforderliche Kontrollaufwand so hoch sein, dass kein zeitlicher Vorteil entsteht.

Die Wirtschaftlichkeit im konkreten Praxisbetrieb überprüfen

Für eine umfassende wirtschaftliche Beurteilung sollten neben der tatsächlichen Zeitersparnis auch die mit dem KI-Einsatz verbundenen zusätzlichen Aufwendungen berücksichtigt werden.

Hierzu gehören insbesondere:

  • Lizenz- und Abonnementkosten.
  • Kosten für die technische Integration in bestehende Praxissoftware.
  • Zeitaufwand für die Entwicklung geeigneter Arbeitsanweisungen.
  • Schulung der beteiligten Mitarbeitenden.
  • Aufwendungen für Datenschutz und technische Sicherheit.
  • Regelmässige Qualitätskontrollen und Systemüberprüfungen.
  • Zusätzlicher Aufwand aufgrund fehlerhafter oder unvollständiger Ergebnisse.

Auch qualitative Vorteile können für die Beurteilung relevant sein. Beispielsweise kann eine einheitlichere Struktur medizinischer Dokumente die Orientierung in umfangreichen Patientenunterlagen erleichtern.

Allerdings sollten solche Vorteile möglichst anhand nachvollziehbarer Kriterien beurteilt und nicht allein aufgrund des subjektiven Eindrucks einer modernen oder besonders komfortablen Arbeitsumgebung angenommen werden.

Für die einzelne Hausarztpraxis empfiehlt sich deshalb eine zeitlich begrenzte Erprobungsphase mit einer vergleichenden Erfassung des Arbeitsaufwands vor und nach der Einführung des jeweiligen KI-gestützten Arbeitsprozesses.

Neben der durchschnittlichen Bearbeitungszeit sollten dabei auch die Häufigkeit notwendiger Korrekturen, die Qualität der erzeugten Ergebnisse und gegebenenfalls auftretende sicherheitsrelevante Fehler berücksichtigt werden.

Zeitersparnis ist nicht mit finanzieller Einsparung gleichzusetzen

Eine rechnerisch ermittelte Arbeitszeitersparnis führt nicht zwangsläufig zu einer entsprechenden Reduktion der Personalkosten.

Vielmehr hängt der wirtschaftliche und organisatorische Nutzen davon ab, in welcher Weise die gewonnenen zeitlichen Ressourcen tatsächlich verwendet werden können.

In einer Hausarztpraxis kann eine Entlastung bei administrativen und dokumentationsbezogenen Tätigkeiten beispielsweise zusätzliche Zeit für Patientengespräche, die Beurteilung komplexer medizinischer Fragestellungen oder die Koordination der weiteren Versorgung ermöglichen.

Eine Verbesserung entsprechender Versorgungsprozesse stellt möglicherweise einen relevanten Nutzen dar, auch wenn hierdurch keine unmittelbare finanzielle Einsparung entsteht.

Qualität vor Geschwindigkeit: Eine Zeitersparnis ist nur dann ein tatsächlicher Vorteil, wenn die erforderliche medizinische und organisatorische Qualität erhalten bleibt. Der Nutzen künstlicher Intelligenz sollte anhand des vollständigen Arbeitsprozesses und nicht allein anhand der Geschwindigkeit der Antwortgenerierung beurteilt werden.

Die Empfehlungen der FMH

Für Schweizer Hausärztinnen und Hausärzte stellen die Empfehlungen der FMH zum Umgang mit grossen Sprachmodellen eine wichtige Orientierung dar [4].

Die acht Empfehlungen betreffen unterschiedliche Aspekte der technischen, fachlichen, organisatorischen und gesellschaftlichen Verantwortung beim professionellen Einsatz generativer KI.

Sie verdeutlichen insbesondere, dass die Verwendung künstlicher Intelligenz nicht losgelöst von der ärztlichen Fachkompetenz, der Verantwortung für medizinische Entscheidungen und den Anforderungen an eine sichere Datenverarbeitung betrachtet werden darf.

Für die praktische Umsetzung in einer Hausarztpraxis lassen sich aus den Empfehlungen unterschiedliche organisatorische und fachliche Konsequenzen ableiten.

Themenbereich der FMH-Empfehlung Praktische Konsequenz für die Hausarztpraxis
1. Kontrollierte Datenverarbeitung Geeignete Systeme auswählen und den Schutz vertraulicher Informationen sicherstellen. Die Zulässigkeit der jeweiligen Datenverarbeitung vor der Verwendung prüfen.
2. Ärztliche Ergebniskontrolle KI-generierte Inhalte vor ihrer Verwendung überprüfen und bei Bedarf korrigieren. Entscheidungsrelevante Informationen anhand geeigneter Quellen kontrollieren.
3. Vorhandene Fachkompetenz KI nur für Aufgaben einsetzen, deren fachliche Qualität ausreichend beurteilt werden kann. Fehlende medizinische Fachkompetenz nicht durch ein Sprachmodell ersetzen.
4. Präzise Arbeitsanweisungen Wiederkehrende Aufgaben durch geeignete Prompts und Qualitätsvorgaben standardisieren. Die Grenzen der zulässigen Bearbeitung ausdrücklich definieren.
5. Nachvollziehbarkeit und Transparenz Den Einsatz der KI entsprechend seiner Bedeutung nachvollziehbar dokumentieren und erforderliche Patienteninformationen berücksichtigen.
6. Inhaltliche Qualität trotz technischer Integration Auch in Praxissoftware integrierte KI-Funktionen hinsichtlich ihrer medizinischen Eignung überprüfen. Eine komfortable technische Integration nicht mit einem Nachweis klinischer Zuverlässigkeit gleichsetzen.
7. Realistische Erwartungen Technologische Grenzen kennen und offen kommunizieren. Den tatsächlichen Nutzen einer Anwendung anhand geeigneter Kriterien beurteilen.
8. Ökologische Verantwortung Den Einsatz digitaler Ressourcen am tatsächlichen Nutzen ausrichten und Umweltaspekte berücksichtigen. Unnötige und unverhältnismässig aufwendige Verarbeitungsvorgänge vermeiden.

Redaktionelle, sinngemässe Zusammenfassung der acht FMH-Empfehlungen und Übertragung auf typische hausärztliche Arbeitsprozesse. Die dargestellten praktischen Konsequenzen enthalten ergänzende redaktionelle Erläuterungen und sind nicht als wörtliche Wiedergabe oder eigenständige offizielle Empfehlungen der FMH zu verstehen. Massgebend bleibt der vollständige Originaltext.

Zu den acht Empfehlungen der FMH zum Umgang mit grossen Sprachmodellen im ärztlichen Alltag

Datenschutz und ärztliche Verantwortung

Besonders bei der Verarbeitung medizinischer Informationen müssen die Anforderungen des Schweizer Datenschutzrechts und des ärztlichen Berufsgeheimnisses berücksichtigt werden.

Dabei ist nicht allein entscheidend, ob eine KI-Anwendung medizinische Informationen technisch verarbeiten kann. Vielmehr muss geprüft werden, ob die entsprechende Datenverarbeitung unter den konkreten Bedingungen zulässig und ausreichend abgesichert ist.

Das Entfernen des Patientennamens allein führt beispielsweise nicht zwangsläufig zu einer ausreichenden Anonymisierung medizinischer Daten.

Auch Kombinationen verschiedener medizinischer und personenbezogener Angaben können unter bestimmten Voraussetzungen eine Identifikation der betroffenen Person ermöglichen.

Darüber hinaus müssen bei der Beurteilung einer KI-Anwendung die jeweiligen Datenverarbeitungsvorgänge, vertraglichen Rahmenbedingungen, Speicherfristen und möglichen Weitergaben an externe Dienstleister berücksichtigt werden.

Eine allgemeine datenschutzrechtliche Aussage des Anbieters reicht deshalb nicht zwangsläufig aus, um die Zulässigkeit sämtlicher durch die Praxis vorgesehener Anwendungen zu beurteilen.

Die rechtlichen und datenschutzbezogenen Voraussetzungen für den professionellen Einsatz künstlicher Intelligenz werden im folgenden Beitrag dieser Artikelserie KI – Datenschutz und ärztliche Verantwortung gesondert behandelt.

Die ärztliche Verantwortung bleibt bestehen

Die Verwendung künstlicher Intelligenz verändert nicht die Notwendigkeit einer eigenständigen ärztlichen Beurteilung medizinischer Informationen.

Dies betrifft sowohl die Übernahme KI-generierter Inhalte in die medizinische Dokumentation als auch die Verwendung modellbasierter Vorschläge bei diagnostischen oder therapeutischen Überlegungen.

Eine durch ein Sprachmodell formulierte Empfehlung darf nicht allein aufgrund ihrer sprachlichen Überzeugungskraft als zutreffend betrachtet werden.

Ebenso wenig ersetzt die Übereinstimmung mehrerer KI-Anwendungen oder simulierter fachlicher Perspektiven eine unabhängige wissenschaftliche beziehungsweise ärztliche Überprüfung.

Die Verantwortung für die medizinische Verwendung der generierten Inhalte verbleibt bei den hierfür zuständigen Fachpersonen. Davon unberührt bleiben mögliche weitere Verantwortlichkeiten von Herstellern, Anbietern und anderen Beteiligten.

Grundprinzip: Die technische Unterstützung eines ärztlichen Arbeitsprozesses durch künstliche Intelligenz ist nicht mit der Übertragung der ärztlichen Verantwortung auf das verwendete System gleichzusetzen.

Fazit

Künstliche Intelligenz in der Hausarztpraxis bietet zahlreiche Möglichkeiten zur Unterstützung medizinischer, wissenschaftlicher und administrativer Arbeitsprozesse. Besonders praxisnah sind Anwendungen zur medizinischen Dokumentation, zur sprachlichen Aufbereitung von Informationen und zur Strukturierung wiederkehrender Aufgaben.

Während wissenschaftliche Untersuchungen bei bestimmten Dokumentationssystemen bereits auf eine mögliche zeitliche Entlastung hinweisen, ist eine generelle Verbesserung ärztlicher diagnostischer Entscheidungen durch die Verwendung grosser Sprachmodelle aus den dargestellten Studien nicht ableitbar.

Auch eine von medizinischen Gutachtern positiv bewertete sprachliche Qualität und Empathie KI-generierter Antworten stellt keinen Nachweis einer generellen medizinischen Überlegenheit oder einer Verbesserung der tatsächlichen Patientenversorgung dar.

Die wissenschaftlichen Untersuchungen verdeutlichen vielmehr, dass zwischen der technischen Leistungsfähigkeit eines KI-Systems, seiner tatsächlichen Integration in einen medizinischen Arbeitsprozess und dem daraus resultierenden klinischen Nutzen unterschieden werden muss.

Der professionelle Einsatz künstlicher Intelligenz erfordert daher eine differenzierte Beurteilung der jeweiligen Aufgabe, geeignete technische Rahmenbedingungen und eine zuverlässige fachliche Qualitätskontrolle.

Für Hausarztpraxen empfiehlt sich ein schrittweiser Einstieg mit überschaubaren und gut kontrollierbaren Arbeitsprozessen. Im weiteren Verlauf sollten Nutzen, Risiken, tatsächliche Zeitersparnis und Auswirkungen auf die medizinische Qualität regelmässig überprüft werden.

Eine zentrale Voraussetzung hierfür ist die Entwicklung entsprechender Kompetenzen innerhalb des gesamten Praxisteams. Dazu gehören sowohl ein grundlegendes Verständnis künstlicher Intelligenz als auch die Fähigkeit, geeignete Arbeitsaufträge zu formulieren, erzeugte Inhalte kritisch zu beurteilen und die Grenzen der verwendeten Systeme zu erkennen.

Das langfristige Ziel sollte nicht darin bestehen, möglichst viele ärztliche Tätigkeiten durch künstliche Intelligenz zu ersetzen. Vielmehr geht es darum, geeignete Arbeitsprozesse sinnvoll zu unterstützen und dadurch gegebenenfalls zusätzliche zeitliche Ressourcen für die eigentliche Patientenversorgung zu gewinnen.

Wie sich künstliche Intelligenz unter Berücksichtigung dieser Anforderungen langfristig in professionelle medizinische Arbeitsprozesse integrieren lässt, wird im abschliessenden Beitrag unserer Artikelserie Professioneller Umgang mit KI zusammenfassend dargestellt.

Die Qualität einer digital unterstützten Hausarztpraxis bemisst sich nicht daran, wie viel künstliche Intelligenz sie verwendet, sondern daran, wie sinnvoll, sicher und verantwortungsvoll sie diese zum Nutzen ihrer Patientinnen und Patienten einsetzt.

Weiterführende Beiträge

Dieser Beitrag ist Teil unserer zwölfteiligen Fachartikelserie zur künstlichen Intelligenz in der Medizin. Die folgenden Beiträge vertiefen die technologischen Grundlagen, die Gestaltung geeigneter Arbeitsaufträge und die Anforderungen an eine sichere und verantwortungsvolle Verwendung künstlicher Intelligenz im medizinischen Alltag.

Literatur

  1. Lukac PJ, Turner W, Vangala S, Chin AT, Khalili J, Shih YCT, et al. Ambient AI Scribes in Clinical Practice: A Randomized Trial. NEJM AI. 2025;2(12). DOI: 10.1056/aioa2501000. Frei zugängliches Autorenmanuskript.
  2. Ayers JW, Poliak A, Dredze M, Leas EC, Zhu Z, Kelley JB, et al. Comparing Physician and Artificial Intelligence Chatbot Responses to Patient Questions Posted to a Public Social Media Forum. JAMA Intern Med. 2023;183(6):589–596. DOI: 10.1001/jamainternmed.2023.1838. Volltext.
  3. Goh E, Gallo R, Hom J, Weng Y, Kerman H, Cool JA, et al. Large Language Model Influence on Diagnostic Reasoning: A Randomized Clinical Trial. JAMA Netw Open. 2024;7(10):e2440969. DOI: 10.1001/jamanetworkopen.2024.40969.
  4. FMH. Empfehlungen der FMH zum Umgang mit grossen Sprachmodellen (LLMs) im ärztlichen Alltag. Verbindung der Schweizer Ärztinnen und Ärzte. Offizielle Veröffentlichung. Abgerufen am 18.11.2026.
Nach oben scrollen