Künstliche Intelligenz (KI) entwickelt sich zu einem wichtigen Bestandteil des medizinischen Alltags. Während KI in der Radiologie bereits seit Jahren beispielsweise zur Bilderkennung und Bildrekonstruktion eingesetzt wird, eröffnet die generative künstliche Intelligenz weitere Anwendungsmöglichkeiten für nahezu alle medizinischen Fachrichtungen. Das Erstellen medizinischer Texte, die Aufbereitung wissenschaftlicher Literatur, die Patientenkommunikation und die Unterstützung ärztlicher Entscheidungsprozesse sind mögliche Einsatzgebiete.
Doch was ist künstliche Intelligenz überhaupt? Wie unterscheiden sich klassische Computerprogramme, maschinelles Lernen und grosse Sprachmodelle? Und welche Voraussetzungen müssen erfüllt sein, damit Ärztinnen und Ärzte diese Technologien sinnvoll und verantwortungsvoll einsetzen können? Dieser Übersichtsartikel vermittelt die wichtigsten Grundlagen ohne vorausgesetzte Informatikkenntnisse und berücksichtigt insbesondere die Anforderungen des Schweizer Gesundheitswesens.
Inhaltsverzeichnis anzeigen
- Was ist künstliche Intelligenz?
- Die Geschichte künstlicher Intelligenz
- Wie funktioniert künstliche Intelligenz?
- Maschinelles Lernen und Deep Learning
- Was ist generative künstliche Intelligenz?
- Grosse Sprachmodelle und ChatGPT
- Kommunikation mit künstlicher Intelligenz
- Künstliche Intelligenz in der Medizin
- Möglichkeiten und Grenzen
- Künstliche Intelligenz in der Schweizer Arztpraxis
- Die acht Empfehlungen der FMH
- KI-Kompetenz als ärztliche Fähigkeit
- Fazit
- Weiterführende Beiträge der Artikelserie
- Literatur
Glossar – wichtige Begriffe der künstlichen Intelligenz
Das folgende Glossar erläutert zentrale technische, medizinische und methodische Begriffe. Es dient zugleich als Nachschlagewerk für die weiterführenden Beiträge dieser Artikelserie.
- Algorithmus: Eine definierte Abfolge von Rechenschritten oder Anweisungen zur Lösung einer Aufgabe. Nicht jeder Algorithmus ist künstliche Intelligenz.
- Anonymisierung: Veränderung von Daten in einer Weise, dass diese einer bestimmten Person mit vernünftigerweise einsetzbaren Mitteln nicht mehr zugeordnet werden können. Das alleinige Entfernen des Patientennamens genügt hierfür häufig nicht.
- API (Application Programming Interface): Technische Schnittstelle, über die unterschiedliche Computerprogramme miteinander kommunizieren können, beispielsweise eine Praxissoftware mit einem Sprachmodell.
- Artificial Intelligence (AI): Englische Bezeichnung für künstliche Intelligenz.
- Attention: Mechanismus neuronaler Netzwerke, der unterschiedliche Bestandteile einer Eingabe in ihrem jeweiligen Zusammenhang gewichtet.
- Automation Bias: Neigung des Menschen, automatisch erzeugten Empfehlungen oder Entscheidungen zu stark zu vertrauen und diese nicht ausreichend zu hinterfragen.
- Benchmark: Standardisierte Testaufgabe oder Testumgebung zur Bewertung und zum Vergleich von KI-Systemen. Gute Benchmark-Ergebnisse beweisen nicht automatisch einen klinischen Nutzen.
- Bias: Systematische Verzerrung, beispielsweise infolge einer unausgewogenen Zusammensetzung der Trainingsdaten oder der verwendeten Bewertungsmethoden.
- Chatbot: Computeranwendung, die über geschriebene oder gesprochene Sprache mit Menschen kommuniziert. Ein Chatbot kann regelbasiert arbeiten oder ein Sprachmodell verwenden.
- ChatGPT: Eine von OpenAI entwickelte Anwendung, über die Anwender mit KI-Modellen kommunizieren und abhängig von der verfügbaren Ausstattung zusätzliche Werkzeuge nutzen können.
- Clinical Decision Support System (CDSS): Computerbasiertes System zur Unterstützung klinischer Entscheidungen. Solche Systeme können regelbasiert oder KI-gestützt arbeiten.
- Cloud Computing: Nutzung von Rechenleistung, Speicherplatz oder Software auf entfernten Servern über ein Netzwerk. Bei medizinischen Daten sind insbesondere Datenschutz und Zugriffsrechte zu berücksichtigen.
- Confirmation Bias (Bestätigungsfehler): Menschliche Neigung, Informationen bevorzugt wahrzunehmen und zu bewerten, wenn diese eine bereits bestehende Überzeugung bestätigen.
- Deep Learning: Teilgebiet des maschinellen Lernens, das neuronale Netzwerke mit mehreren Verarbeitungsschichten verwendet, um komplexe Zusammenhänge in Daten zu erfassen.
- DSG (Datenschutzgesetz): Schweizer Bundesgesetz über den Datenschutz. Es ist auch beim Einsatz künstlicher Intelligenz zur Bearbeitung personenbezogener Daten zu beachten.
- Embedding: Mathematische Darstellung beispielsweise eines Wortes, Textabschnitts oder Bildes. Sie ermöglicht einem KI-System, Beziehungen und Ähnlichkeiten zwischen Inhalten rechnerisch zu erfassen.
- Expertensystem: Computerprogramm, das Fachwissen und definierte Schlussfolgerungsregeln nutzt, um bestimmte Probleme zu bearbeiten. Klassische Expertensysteme benötigen nicht zwingend maschinelles Lernen.
- Explainable AI (XAI): Methoden, die Entscheidungen und Ergebnisse künstlicher Intelligenz für Menschen besser nachvollziehbar machen sollen.
- False Premise (falsche Prämisse): Sachlich unzutreffende Grundannahme innerhalb einer Fragestellung. Ein Sprachmodell kann diese übernehmen, anstatt sie zu korrigieren.
- Few-Shot Prompting: Bereitstellung weniger Beispiele innerhalb einer Anfrage, um dem Sprachmodell die gewünschte Bearbeitungsweise oder das Ausgabeformat zu vermitteln.
- Fine-Tuning: Weiterführendes Training eines bereits trainierten KI-Modells, um es an bestimmte Aufgaben, Anforderungen oder Fachgebiete anzupassen.
- Foundation Model: Umfangreich vortrainiertes KI-Modell, das als Ausgangspunkt für unterschiedliche Anwendungen und weiterführende Anpassungen genutzt werden kann.
- Framing: Beeinflussung einer Beurteilung durch die Art, wie Informationen oder Fragestellungen dargestellt werden.
- Generative KI: Künstliche Intelligenz, die neue Inhalte wie Texte, Bilder, Audiodateien, Videos oder Programmcode erzeugen kann.
- GPT (Generative Pre-trained Transformer): Bezeichnung einer Familie generativer, vortrainierter Sprachmodelle auf Grundlage der Transformer-Architektur.
- Grounding: Ausrichtung einer KI-Antwort an konkret bereitgestellten Informationen oder externen Quellen. Dadurch können Antworten besser überprüfbar werden, ohne dass ihre Richtigkeit garantiert ist.
- Halluzination: Von einem KI-System erzeugte sachlich falsche, unbelegte oder erfundene Information, die möglicherweise überzeugend formuliert ist.
- Human-in-the-Loop: Einbindung des Menschen in einen KI-gestützten Arbeits- oder Entscheidungsprozess, beispielsweise zur Kontrolle, Korrektur und Freigabe eines medizinischen Textes.
- Inference (Inferenz): Anwendung eines trainierten KI-Modells auf neue Eingabedaten, um beispielsweise eine Vorhersage oder Antwort zu erzeugen.
- Iteratives Prompting: Schrittweise Verbesserung eines KI-Ergebnisses durch ergänzende Fragen, Korrekturen und präzisierte Anweisungen.
- KI-Agent: KI-gestütztes System, das Aufgaben mit einem gewissen Grad an Selbstständigkeit planen, Werkzeuge einsetzen und mehrere Arbeitsschritte ausführen kann.
- Kontext: Informationen, die dem KI-Modell bei der Bearbeitung einer Anfrage zur Verfügung stehen, beispielsweise frühere Gesprächsinhalte, Anweisungen oder bereitgestellte Dokumente.
- Kontextfenster: Begrenzter Umfang an Informationen, den ein Sprachmodell innerhalb eines Verarbeitungsvorgangs berücksichtigen kann.
- Künstliche Intelligenz (KI): Übergeordnete Bezeichnung für Computersysteme, die aus Eingaben Ergebnisse wie Vorhersagen, Empfehlungen, Entscheidungen oder neue Inhalte ableiten können.
- Large Language Model (LLM): Grosses Sprachmodell, das durch umfangreiches Training sprachliche Muster und Zusammenhänge verarbeitet und beispielsweise Texte erzeugen kann.
- Large Multimodal Model (LMM): Grosses KI-Modell, das unterschiedliche Datenarten wie Text, Bild oder Audio verarbeiten kann.
- Machine Learning (ML): Maschinelles Lernen. Verfahren, bei denen Computersysteme Zusammenhänge anhand von Daten erlernen, anstatt sämtliche Regeln ausdrücklich vorprogrammiert zu erhalten.
- Masterprompt: Wiederverwendbare, umfangreichere Anweisung, die Aufgabenstellung, Qualitätsanforderungen, Vorgehensweise und gewünschtes Ausgabeformat definiert.
- Modellparameter: Während des Trainings angepasste numerische Werte, die das Verhalten eines KI-Modells wesentlich bestimmen.
- Multi-Agent Debate: Verfahren, bei dem mehrere KI-Agenten unterschiedliche Positionen bearbeiten und miteinander austauschen. Mehrere simulierte Rollen innerhalb eines einzelnen Chats sind nicht zwangsläufig unabhängige Agenten.
- Multi-Persona Prompting: Aufforderung an ein Sprachmodell, eine Fragestellung aus mehreren simulierten Rollen oder Perspektiven zu bearbeiten.
- Natural Language Processing (NLP): Teilgebiet der Informatik, das sich mit der automatisierten Verarbeitung menschlicher Sprache beschäftigt.
- Neuronales Netzwerk: Mathematisches Modell aus miteinander verbundenen Verarbeitungseinheiten. Die Bezeichnung ist durch biologische Nervensysteme inspiriert, bedeutet jedoch keine funktionelle Gleichwertigkeit mit dem menschlichen Gehirn.
- OpenAI: Unternehmen, das unter anderem die GPT-Modellfamilie und ChatGPT entwickelt.
- Overfitting (Überanpassung): Problem des maschinellen Lernens, bei dem ein Modell zu stark an die Trainingsdaten angepasst ist und deshalb schlechter auf neue Daten generalisiert.
- Pre-Training: Grundlegendes Training eines KI-Modells anhand umfangreicher Daten, bevor es gegebenenfalls für spezifische Aufgaben weiter angepasst wird.
- Prompt: Eingabe, Anweisung oder Fragestellung, mit der ein Anwender ein KI-System zur Bearbeitung einer Aufgabe auffordert.
- Prompt Engineering: Systematische Entwicklung und Verbesserung von Anweisungen an KI-Systeme, um möglichst relevante, präzise und zweckmässige Ergebnisse zu erhalten.
- Pseudonymisierung: Ersetzung direkt identifizierender Angaben durch Kennzeichen oder Codes. Eine erneute Zuordnung zur betreffenden Person kann weiterhin möglich sein.
- Retrieval-Augmented Generation (RAG): Kombination eines generativen KI-Modells mit einem Verfahren zum Abrufen externer Informationen, beispielsweise aus einer medizinischen Dokumentensammlung.
- Red Teaming: Gezielte Untersuchung eines Systems auf Schwachstellen, Fehler, Sicherheitsrisiken und unerwünschte Verhaltensweisen.
- Reinforcement Learning: Maschinelles Lernverfahren, bei dem Verhaltensweisen anhand eines Belohnungssignals optimiert werden.
- Reinforcement Learning from Human Feedback (RLHF): Verfahren, bei dem ein Modell mithilfe eines aus menschlichen Bewertungen abgeleiteten Belohnungssignals durch Reinforcement Learning angepasst wird.
- Role Prompting: Vorgabe einer bestimmten Rolle oder fachlichen Perspektive innerhalb eines Prompts.
- Self-Critique: Aufforderung an ein KI-Modell, seine eigene Antwort kritisch zu überprüfen. Diese Überprüfung ersetzt keine unabhängige Kontrolle.
- Supervised Learning: Überwachtes Lernen anhand von Trainingsdaten, denen bekannte Zielwerte oder Klassifikationen zugeordnet sind.
- Sycophancy: Tendenz eines KI-Modells, den Ansichten oder Erwartungen des Anwenders übermässig zuzustimmen, auch wenn diese sachlich unzureichend begründet sind.
- Temperatur: Technischer Einstellungsparameter, der bei bestimmten Verfahren zur Textgenerierung die Wahrscheinlichkeitsverteilung der möglichen nächsten Tokens verändert. Eine niedrige Temperatur garantiert keine sachlich korrekte Antwort.
- Token: Verarbeitungseinheit eines Sprachmodells. Ein Token kann einem Wort, einem Wortbestandteil, einem Satzzeichen oder anderen Zeichen entsprechen.
- Trainingsdaten: Daten, die zur Entwicklung und Anpassung eines KI-Modells verwendet werden.
- Transformer: Architektur neuronaler Netzwerke, die insbesondere mithilfe von Attention-Mechanismen Zusammenhänge zwischen Bestandteilen einer Eingabe verarbeitet. Viele moderne Sprachmodelle basieren auf dieser Architektur.
- Unsupervised Learning: Maschinelles Lernverfahren, bei dem Strukturen und Zusammenhänge in Daten ohne vorgegebene Zielwerte für die Trainingsbeispiele erkannt werden.
- Validierung: Systematische Überprüfung, ob ein KI-System für eine definierte Aufgabe und unter den vorgesehenen Anwendungsbedingungen ausreichend zuverlässig arbeitet.
- Zero-Shot Prompting: Bearbeitung einer Aufgabe anhand einer Anweisung, ohne dass innerhalb des Prompts zusätzliche Lösungsbeispiele bereitgestellt werden.
Die Begriffserklärungen dienen der didaktischen Orientierung. Weiterführende technische Erläuterungen finden sich auch im Glossar der FMH zur generativen künstlichen Intelligenz.
Was ist künstliche Intelligenz?
Künstliche Intelligenz, englisch Artificial Intelligence (AI), bezeichnet keine einzelne Technologie, sondern eine Gruppe unterschiedlicher computerbasierter Verfahren. Gemeinsam ist ihnen, dass sie Aufgaben wie Mustererkennung, Sprachverarbeitung, Vorhersagen oder Problemlösung bearbeiten können. Nicht jedes KI-System lernt selbstständig.
Die Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD) beschreibt ein KI-System als ein maschinenbasiertes System, das für explizite oder implizite Ziele aus erhaltenen Eingaben Ergebnisse ableitet, beispielsweise Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen. Die Ergebnisse können physische oder virtuelle Umgebungen beeinflussen. KI-Systeme können sich hinsichtlich ihrer Selbstständigkeit und ihrer Anpassungsfähigkeit nach der Inbetriebnahme erheblich unterscheiden [1].
Ein wesentlicher Unterschied zu vielen klassischen Computerprogrammen besteht darin, dass bei lernenden KI-Systemen nicht sämtliche Regeln zur Bearbeitung einer Aufgabe ausdrücklich vorgegeben werden müssen. Stattdessen können diese Systeme anhand von Beispielen Zusammenhänge in Daten erfassen und auf neue Situationen übertragen.
Merksatz: Künstliche Intelligenz ist ein Oberbegriff für unterschiedliche Technologien. ChatGPT ist lediglich eine von zahlreichen Anwendungen künstlicher Intelligenz.
Die Geschichte künstlicher Intelligenz
Künstliche Intelligenz ist keineswegs eine Erfindung des 21. Jahrhunderts. Bereits in der Mitte des 20. Jahrhunderts beschäftigten sich Wissenschaftler mit der Frage, ob Computer Fähigkeiten übernehmen können, die bislang dem Menschen vorbehalten schienen. Einen wichtigen historischen Ausgangspunkt bildet das 1955 formulierte Forschungsprojekt von John McCarthy, Marvin Minsky, Nathaniel Rochester und Claude Shannon für eine wissenschaftliche Zusammenkunft am Dartmouth College im Sommer 1956 [2].
Während frühe KI-Systeme häufig mit ausdrücklich programmierten Regeln arbeiteten, gewann später das Lernen anhand von Daten zunehmend an Bedeutung. Fortschritte bei neuronalen Netzwerken, die Verfügbarkeit umfangreicher digitaler Datenbestände und leistungsfähigerer Computer ermöglichten schliesslich die Entwicklung komplexer Systeme zur Sprach- und Bildverarbeitung [3].
Ausgewählte Entwicklungsschritte der künstlichen Intelligenz
Grundlegende Auseinandersetzung mit maschineller Intelligenz und automatisierter Problemlösung.
Entwicklung wissensbasierter Systeme, unter anderem zur Unterstützung medizinischer Entscheidungen.
Zunehmende Bedeutung datenbasierter Methoden zur Mustererkennung und Klassifikation.
Erhebliche Fortschritte neuronaler Netzwerke, insbesondere bei der Bild- und Sprachverarbeitung.
Vorstellung einer Netzwerkarchitektur, die für die Entwicklung zahlreicher moderner Sprachmodelle von grundlegender Bedeutung wurde [4].
Breite Verfügbarkeit von Anwendungen zur Erzeugung von Texten, Bildern und weiteren digitalen Inhalten.
Schematische historische Übersicht ausgewählter Entwicklungen. Die einzelnen Forschungsgebiete überschneiden sich zeitlich und bestehen teilweise bis heute parallel fort.
Wie funktioniert künstliche Intelligenz?
Die grundlegenden Unterschiede zwischen klassischen Computerprogrammen und lernenden KI-Systemen lassen sich anhand eines vereinfachten medizinischen Beispiels verdeutlichen. Ein Computerprogramm soll unterscheiden, ob auf einer Röntgenthoraxaufnahme eine Pneumonie vorliegen könnte.
Bei einem klassischen regelbasierten Programm müssten die Entwickler konkrete Kriterien definieren, anhand derer das Programm bestimmte Bildveränderungen erkennt. Die Regeln könnten sich beispielsweise auf Helligkeitsunterschiede, Lokalisationen oder festgelegte Grenzwerte beziehen. Die diagnostische Leistungsfähigkeit wäre wesentlich davon abhängig, ob diese Kriterien die tatsächliche Vielfalt radiologischer Befunde ausreichend erfassen.
Bei einem lernenden KI-System können hingegen zahlreiche Röntgenaufnahmen mit entsprechenden diagnostischen Zuordnungen zum Training verwendet werden. Das System passt seine Modellparameter anhand dieser Beispiele an und kann anschliessend versuchen, entsprechende Muster auf bisher unbekannten Aufnahmen zu erkennen.
Was ist ein KI-Modell?Ein Modell ist grundsätzlich eine vereinfachte Darstellung der Wirklichkeit, mit deren Hilfe sich bestimmte Zusammenhänge beschreiben, erklären oder vorhersagen lassen.
In der künstlichen Intelligenz versteht man unter einem lernenden Modell ein mathematisches System, dessen Parameter während eines Trainingsprozesses anhand von Daten angepasst werden. Das trainierte Modell kann anschliessend Informationen verarbeiten, Muster erkennen, Vorhersagen treffen oder neue Inhalte erzeugen.
Vereinfachtes Funktionsprinzip eines lernenden KI-Systems
Beispielsweise Röntgenbilder mit diagnostischen Zuordnungen
Anpassung der Modellparameter anhand der Daten
Analyse einer bisher unbekannten Röntgenaufnahme
Beispielsweise eine Klassifikation oder ein Verdachtshinweis
Schematische Darstellung eines überwachten Lernverfahrens. Eine klinische Validierung und die ärztliche Beurteilung bleiben zusätzlich erforderlich.
Das Erlernen statistischer Zusammenhänge bedeutet allerdings nicht, dass ein KI-System zwangsläufig die pathophysiologischen Grundlagen einer Pneumonie erfasst. Es kann auch unbeabsichtigte Zusammenhänge aus den Trainingsdaten übernehmen. Beispielsweise könnten bestimmte Aufnahmetechniken oder Eigenschaften der verwendeten Patientenkollektive die Ergebnisse beeinflussen. Deshalb ist die Überprüfung eines medizinischen KI-Systems unter realistischen klinischen Bedingungen von besonderer Bedeutung.
Maschinelles Lernen und Deep Learning
Maschinelles Lernen (Machine Learning) bezeichnet ein Teilgebiet künstlicher Intelligenz, bei dem Modelle anhand von Daten entwickelt und angepasst werden. Je nach Lernverfahren können beispielsweise bekannte Diagnosen, statistische Strukturen oder Rückmeldungen als Grundlage dienen. Deep Learning ist wiederum ein Teilgebiet des maschinellen Lernens. Es verwendet neuronale Netzwerke mit mehreren Verarbeitungsschichten, die komplexe Merkmale auf unterschiedlichen Abstraktionsebenen erfassen können. Hierdurch wurden insbesondere bei der automatisierten Sprach- und Bildverarbeitung bedeutende Fortschritte erzielt [3].
Künstliche Intelligenz (KI)
Maschinelles Lernen
Deep Learning
Vereinfachte Einordnung ausgewählter KI-Technologien. Generative KI bezeichnet eine Art der Anwendung und ist keine ausschliesslich auf Deep Learning begrenzte technische Kategorie.
Was ist generative künstliche Intelligenz?
Viele KI-Anwendungen wurden ursprünglich vor allem zur Analyse, Klassifikation und Vorhersage eingesetzt. Sie bearbeiten beispielsweise die Frage, ob bestimmte Merkmale in einem Bild vorhanden sind oder welches Risiko für ein definiertes Ereignis besteht. Generative KI erweitert dieses Anwendungsspektrum um die Möglichkeit, neue Inhalte zu erzeugen.
Diese Inhalte können aus Texten, Bildern, Tonaufnahmen, Videos oder Programmcode bestehen. Die Weltgesundheitsorganisation (WHO) beschäftigt sich insbesondere mit den medizinischen Anwendungsmöglichkeiten grosser multimodaler Modelle, die verschiedene Eingabe- und Ausgabeformate miteinander verbinden können [5].
| Analysierende KI | Generative KI |
|---|---|
| Erkennung und Klassifikation von Bildbefunden | Erstellung eines Befundentwurfs |
| Berechnung eines Erkrankungsrisikos | Erstellung einer Patienteninformation |
| Segmentierung anatomischer Strukturen | Erzeugung einer medizinischen Illustration |
| Zuordnung zu einer diagnostischen Kategorie | Formulierung möglicher Differenzialdiagnosen |
Diese Gegenüberstellung dient der begrifflichen Orientierung. Moderne KI-Systeme können analysierende und generative Funktionen innerhalb derselben Anwendung miteinander kombinieren.
Grosse Sprachmodelle und ChatGPT
Grosse Sprachmodelle, englisch Large Language Models (LLM), sind KI-Modelle, die anhand umfangreicher Datenbestände trainiert werden. Sie erfassen sprachliche Muster und Beziehungen zwischen unterschiedlichen Textbestandteilen. Bei vielen generativen Sprachmodellen erfolgt die Textproduktion schrittweise durch die Vorhersage nachfolgender Verarbeitungseinheiten, sogenannter Tokens.
Ein wichtiger Bestandteil vieler moderner Sprachmodelle ist die 2017 vorgestellte Transformer-Architektur. Mithilfe von Attention-Mechanismen können unterschiedliche Bestandteile einer Texteingabe in ihrem Zusammenhang berücksichtigt werden [4]. Die so erzeugten Antworten können komplexe Sachverhalte darstellen, jedoch auch unbeabsichtigt falsche oder unbelegte Inhalte enthalten. Die FMH erläutert diese grundlegenden Eigenschaften ausführlich in ihrem Beitrag über grosse Sprachmodelle [6].
Ein vereinfachtes Alltagsbeispiel
Die Eingabe lautet:
«Der Patient klagt seit drei Tagen über …»
Mögliche Fortsetzungen:
Fieber
Kopfschmerzen
Rückenschmerzen
Didaktisches Beispiel ohne gemessene Modellwahrscheinlichkeiten. Die farbliche Hervorhebung stellt lediglich eine mögliche Auswahl dar.
Das Sprachmodell könnte unterschiedliche, sprachlich passende Fortsetzungen erzeugen. Welche davon tatsächlich den Beschwerden eines Patienten entspricht, lässt sich aus dem unvollständigen Satz nicht ableiten. Sprachliche Plausibilität und medizinische Richtigkeit sind daher grundsätzlich voneinander zu unterscheiden.
Sprachmodell oder Suchmaschine?
Eine herkömmliche Suchmaschine sucht nach verfügbaren Dokumenten oder Informationen. Ein generatives Sprachmodell erzeugt hingegen eine Antwort. Moderne KI-Anwendungen können beide Funktionen kombinieren, indem sie beispielsweise externe Informationen recherchieren und anschliessend sprachlich aufbereiten. Entscheidend ist deshalb, ob eine Antwort ausschliesslich auf der internen Verarbeitung des Sprachmodells beruht oder zusätzlich auf tatsächlich abgerufenen und überprüfbaren Informationen. Auch die Verwendung einer Suchfunktion garantiert nicht, dass die gefundenen Quellen korrekt interpretiert werden.
Was ist ChatGPT?
ChatGPT ist eine Anwendung, über die Nutzer mit KI-Modellen in natürlicher Sprache kommunizieren können. ChatGPT ist somit nicht mit künstlicher Intelligenz als übergeordnetem Forschungsgebiet und auch nicht mit einem bestimmten Sprachmodell gleichzusetzen. Je nach eingesetztem Modell und verfügbarer technischer Ausstattung können solche Anwendungen neben Texten auch weitere Datenarten verarbeiten und ergänzende Werkzeuge verwenden. Der konkrete Funktionsumfang kann sich mit der technischen Weiterentwicklung verändern. Eine ausführlichere Darstellung der technischen Grundlagen finden Sie in Was sind grosse Sprachmodelle (LLM)?. Die Unterscheidung zwischen Anwendung, Modell und ergänzenden Werkzeugen vertieft der Beitrag Wie funktioniert ChatGPT?.
Kommunikation mit künstlicher Intelligenz
Ein wesentlicher Vorteil moderner Sprachmodelle besteht darin, dass Anwender keine Programmiersprache beherrschen müssen. Die Kommunikation erfolgt überwiegend in natürlicher Sprache. Die eingegebene Anweisung oder Fragestellung wird als Prompt bezeichnet. Die Qualität einer Antwort hängt nicht ausschliesslich von der Leistungsfähigkeit des verwendeten Modells ab. Relevante Einflussfaktoren sind auch die bereitgestellten Informationen, die Präzision der Aufgabenstellung und die gewünschten Anforderungen an das Ergebnis. Die gezielte Verbesserung dieser Eingaben wird als Prompt Engineering bezeichnet.
Beispiel eines allgemeinen Prompts:
«Erklären Sie Diabetes mellitus.»
Beispiel eines präzisierten Prompts:
«Erstellen Sie eine allgemein verständliche Patienteninformation über Diabetes mellitus Typ 2 für eine Schweizer Hausarztpraxis. Erläutern Sie die Erkrankung, wichtige Kontrolluntersuchungen und die Bedeutung der Lebensgewohnheiten. Vermeiden Sie individuelle Therapieempfehlungen und erklären Sie medizinische Fachbegriffe.»
Im zweiten Beispiel werden Zielgruppe, Anwendungsbereich, Inhalt und sprachliche Anforderungen definiert. Damit erhält das Sprachmodell wesentlich mehr Orientierung für die Bearbeitung der Aufgabe. Dennoch muss auch ein auf diese Weise erstellter Text vor seiner Verwendung medizinisch überprüft werden.
Wie sich Arbeitsaufträge verbessern und für wiederkehrende Aufgaben standardisieren lassen, erläutern die Beiträge Prompt Engineering – richtig fragen und Vom Prompt zum Masterprompt.
Künstliche Intelligenz in der Medizin
Die Einsatzmöglichkeiten künstlicher Intelligenz reichen von der Analyse medizinischer Bilddaten über die wissenschaftliche Forschung bis zur Unterstützung administrativer Tätigkeiten. Generative KI ist besonders interessant für Aufgaben, bei denen umfangreiche Informationen verarbeitet, strukturiert oder sprachlich aufbereitet werden müssen.
Die WHO behandelt in ihrer Veröffentlichung zur generativen KI im Gesundheitswesen unterschiedliche Anwendungsszenarien und die damit verbundenen Sicherheits- und Governance-Anforderungen [5]. Auch die FMH beschreibt verschiedene Möglichkeiten zur Unterstützung der medizinischen Dokumentation, Kommunikation und wissenschaftlichen Informationsverarbeitung [7].
| Anwendungsbereich | Beispiel | Wichtige Voraussetzung |
|---|---|---|
| Dokumentation | Erstellung eines Arztbriefentwurfs | Datenschutz und fachliche Freigabe |
| Patientenkommunikation | Verständliche Erklärung einer Erkrankung | Medizinische Richtigkeit |
| Mehrsprachigkeit | Übersetzung allgemeiner Patienteninformationen | Überprüfung der sprachlichen und fachlichen Genauigkeit |
| Literaturrecherche | Aufbereitung wissenschaftlicher Veröffentlichungen | Kontrolle der Originalquellen |
| Diagnostik | Diskussion möglicher Differenzialdiagnosen | Ärztliche Beurteilung und klinische Validierung |
| Radiologie | KI-gestützte Bildanalyse | Eignung für den konkreten diagnostischen Einsatz |
| Praxisorganisation | Erstellung interner Arbeitsanweisungen und Checklisten | Anpassung an die tatsächlichen Praxisabläufe |
Die Beispiele beschreiben potenzielle Anwendungsgebiete und stellen keine pauschale Empfehlung für bestimmte KI-Produkte dar. Ob ein konkretes System zuverlässig arbeitet und einen tatsächlichen klinischen oder organisatorischen Mehrwert bietet, muss für den jeweiligen Einsatzbereich gesondert beurteilt werden.
Konkrete Arbeitsabläufe werden in Künstliche Intelligenz in der Hausarztpraxis behandelt. Ergänzend erläutern KI als virtuelle Expertenrunde die Simulation unterschiedlicher fachlicher Perspektiven und der Beitrag KI und medizinische Literaturrecherche die quellenbezogene Informationsarbeit.
Möglichkeiten und Grenzen
Die Fähigkeit eines Sprachmodells, komplexe und fachlich überzeugend wirkende Antworten zu formulieren, ist nicht mit einer Garantie für deren Richtigkeit gleichzusetzen. Insbesondere können falsche Informationen, unzutreffende Schlussfolgerungen oder erfundene Literaturangaben entstehen. Solche Fehler werden im Zusammenhang mit generativer KI häufig als Halluzinationen bezeichnet [5, 6].
Eine weitere Schwierigkeit besteht darin, dass die Antwort bereits durch die Formulierung der Frage beeinflusst werden kann. Enthält eine Anfrage eine falsche Grundannahme, kann das Sprachmodell diese übernehmen, anstatt sie ausdrücklich zu hinterfragen.
Falsche Frage – falsche Antwort?
Fragestellung:
«Welche Stadt ist die Hauptstadt der Schweiz: Bern, Zürich, St. Gallen oder Basel?»
Mögliche KI-Antwort:
«Bern ist die Hauptstadt der Schweiz.»
Kritische Einordnung:
Die Frage enthält bereits eine ungenaue staatsrechtliche Annahme. Die Schweiz besitzt keine Hauptstadt im rechtlichen Sinn. Bern ist die Bundesstadt und erfüllt faktisch die Hauptstadtfunktion. Dort befinden sich Bundesrat und Bundesversammlung (EDA: Politisches System).
Das Beispiel verdeutlicht, dass eine KI-Antwort nicht nur hinsichtlich ihres Inhalts, sondern auch im Zusammenhang mit der zugrunde liegenden Fragestellung überprüft werden muss. Die hier dargestellte Multiple-Choice-Frage und ihre Antwort sind ein konstruiertes Lehrbeispiel und kein standardisierter Modelltest.
Auch in der Medizin können entsprechende Situationen entstehen. Wer ausschliesslich nach Argumenten zur Bestätigung einer Verdachtsdiagnose fragt, erhält möglicherweise eine weniger ausgewogene Beurteilung als bei einer offenen Diskussion von Befunden und Gegenargumenten. Übermässige Zustimmung eines Sprachmodells (Sycophancy) und der menschliche Bestätigungsfehler (Confirmation Bias) stellen hierbei unterschiedliche, potenziell miteinander wechselwirkende Probleme dar.
Merksatz: Eine überzeugende Formulierung beweist weder die Richtigkeit einer Antwort noch die Richtigkeit der zugrunde liegenden Fragestellung.
Weitere Fehlermechanismen erläutert der Beitrag Grenzen künstlicher Intelligenz. Die Wechselwirkung zwischen übermässiger Zustimmung und menschlichem Bestätigungsfehler steht im Mittelpunkt von Wenn KI uns recht gibt.
Künstliche Intelligenz in der Schweizer Arztpraxis
Der Einsatz künstlicher Intelligenz in der Schweiz muss im Kontext der bestehenden medizinischen, rechtlichen und berufsethischen Anforderungen erfolgen. Dies betrifft insbesondere die Verarbeitung gesundheitsbezogener Personendaten, das ärztliche Berufsgeheimnis, die Patientensicherheit und die Verantwortung für medizinische Entscheidungen.
Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) weist ausdrücklich darauf hin, dass das Schweizer Datenschutzgesetz auch auf KI-gestützte Datenbearbeitungen anwendbar ist. KI-Anwendungen sind somit nicht von den bestehenden datenschutzrechtlichen Anforderungen ausgenommen [8].
Für die ärztliche Praxis bedeutet dies, dass vor dem Einsatz eines KI-Systems geklärt werden muss, welche Informationen verarbeitet werden, wer Zugriff auf diese Informationen erhält und ob eine Weiterverwendung oder Übermittlung der Daten erfolgt. Auch die Verwendung einer in die Praxissoftware integrierten KI-Funktion macht eine solche Prüfung nicht überflüssig.
Als Einstieg eignen sich insbesondere Aufgaben, bei denen keine vertraulichen Patientendaten verarbeitet werden müssen. Dazu zählen allgemeine Patienteninformationen, medizinische Fortbildungsinhalte, organisatorische Checklisten und die Analyse öffentlich zugänglicher wissenschaftlicher Literatur.
Datenschutz in der Praxis: Verwenden Sie für erste Erfahrungen mit frei zugänglichen KI-Anwendungen ausschliesslich fiktive klinische Situationen oder unbedenkliche, öffentlich zugängliche Sachinformationen. Tatsächlich anonymisierte Daten kommen nur infrage, wenn auch sonstige Vertraulichkeits- und Nutzungsanforderungen erfüllt sind. Das Entfernen eines Namens allein gewährleistet keine vollständige Anonymisierung.
Eine vertiefende Darstellung der schweizerischen Anforderungen bietet der Beitrag KI – Datenschutz und ärztliche Verantwortung.
Die acht Empfehlungen der FMH
Die Verbindung der Schweizer Ärztinnen und Ärzte (FMH) stellt auf ihrer Website ausführliche Informationen zur generativen künstlichen Intelligenz zur Verfügung. Acht Empfehlungen bilden dabei eine Orientierung für den professionellen Einsatz grosser Sprachmodelle im ärztlichen Alltag [9].
1. Kontrollierte und lokale Systeme bevorzugen
Bei sensiblen Daten muss die Verarbeitung technisch und rechtlich abgesichert und lokal oder kontrolliert erfolgen.
2. Ergebnisse medizinisch kontrollieren
KI-generierte Inhalte müssen fachlich beurteilt und gegebenenfalls korrigiert werden. Klinische Entscheidungen bleiben ärztliche Aufgabe.
3. Eigene Fachkompetenz voraussetzen
Der Anwender muss in der Lage sein, problematische Antworten zu erkennen und deren Bedeutung einzuschätzen.
4. Anfragen gezielt formulieren
Aufgaben und relevante Hintergrundinformationen sollen möglichst eindeutig beschrieben werden.
5. Verwendung nachvollziehbar machen
Aufgabe und Rolle des Modells im Entscheidungsprozess dokumentieren und die Patientenaufklärung berücksichtigen.
6. Technische Integration kritisch beurteilen
Die Einbindung in etablierte Software bedeutet nicht automatisch, dass die erzeugten Ergebnisse sachlich zuverlässig sind.
7. Technologische Einschränkungen berücksichtigen
Technische Grenzen realistisch einschätzen und den Einsatz auch gegenüber Kolleginnen und Kollegen offenlegen.
8. Ökologische Auswirkungen beachten
Auch Ressourcenbedarf und Umweltfolgen des Einsatzes künstlicher Intelligenz sind zu berücksichtigen.
Die vorstehende Zusammenstellung ist eine redaktionell formulierte Kurzfassung der FMH-Empfehlungen. Die vollständigen Empfehlungen und weiterführenden Erläuterungen finden Sie auf der offiziellen Website der FMH.
FMH – Grosse Sprachmodelle verstehen
KI-Kompetenz als ärztliche Fähigkeit
Ein professioneller Umgang mit künstlicher Intelligenz erfordert mehr als die technische Bedienung einer Anwendung. Ärztinnen und Ärzte müssen einschätzen können, für welche Aufgaben ein KI-System geeignet ist, welche Informationen für eine sinnvolle Bearbeitung benötigt werden und unter welchen Voraussetzungen ein Ergebnis verwendet werden darf.
Hierzu gehören neben grundlegenden technischen Kenntnissen auch die Fähigkeit zur präzisen Formulierung von Arbeitsaufträgen, die kritische Beurteilung von Antworten und die Überprüfung wissenschaftlicher Quellen. Je relevanter ein KI-generiertes Ergebnis für die Versorgung eines Patienten ist, desto wichtiger werden dessen fachliche Absicherung und die Beurteilung der konkreten Anwendungssituation.
Vier Schritte zum verantwortungsvollen Einsatz künstlicher Intelligenz
Was soll die künstliche Intelligenz bearbeiten, und ist sie für diese Aufgabe geeignet?
Welche Angaben werden benötigt, und dürfen diese verarbeitet werden?
Sind die Aussagen richtig, vollständig, nachvollziehbar und ausreichend belegt?
Kann das Ergebnis nach fachlicher Kontrolle im vorgesehenen Kontext verwendet werden?
Redaktionelles Handlungsschema für einen kontrollierten KI-gestützten Arbeitsprozess.
Eine praxisorientierte Zusammenführung dieser Kompetenzen bietet der abschliessende Beitrag Professioneller Umgang mit KI.
Fazit
Künstliche Intelligenz umfasst unterschiedliche Technologien, deren Anwendungsgebiete weit über die automatisierte Analyse medizinischer Daten hinausreichen. Insbesondere generative KI und grosse Sprachmodelle eröffnen neue Möglichkeiten zur Verarbeitung und sprachlichen Aufbereitung von Informationen.
Für Ärztinnen und Ärzte besteht die entscheidende Herausforderung darin, diese Möglichkeiten mit den Anforderungen medizinischer Sorgfalt, wissenschaftlicher Verlässlichkeit und des Datenschutzes zu verbinden. Die Entwicklung entsprechender Kompetenzen ist eine wichtige Voraussetzung für einen sinnvollen Einsatz künstlicher Intelligenz im Schweizer Gesundheitswesen.
Gute Zusammenarbeit mit künstlicher Intelligenz bedeutet nicht, ihre Antworten unkritisch zu übernehmen, sondern ihre Möglichkeiten kompetent zu nutzen und ihre Ergebnisse verantwortungsvoll zu beurteilen.
Weiterführende Beiträge der Artikelserie
Dieser Grundlagenartikel eröffnet die zwölfteilige Fachartikelserie zur künstlichen Intelligenz in der Medizin. Die folgenden Beiträge vertiefen die einzelnen Themen:
- Was sind grosse Sprachmodelle (LLM)?
- Wie funktioniert ChatGPT?
- Grenzen künstlicher Intelligenz
- Wenn KI uns recht gibt
- Prompt Engineering – richtig fragen
- Vom Prompt zum Masterprompt
- KI als virtuelle Expertenrunde
- Künstliche Intelligenz in der Hausarztpraxis
- KI – Datenschutz und ärztliche Verantwortung
- KI und medizinische Literaturrecherche
- Professioneller Umgang mit KI
Literatur
- OECD. Explanatory memorandum on the updated OECD definition of an AI system. OECD Artificial Intelligence Papers. No. 8. Paris: OECD Publishing; 2024. DOI: 10.1787/623da898-en.
- McCarthy J, Minsky ML, Rochester N, Shannon CE. A proposal for the Dartmouth Summer Research Project on Artificial Intelligence: August 31, 1955. AI Magazine. 2006;27(4):12–14. Zur Originalpublikation.
- LeCun Y, Bengio Y, Hinton G. Deep learning. Nature. 2015;521(7553):436–444. DOI: 10.1038/nature14539.
- Vaswani A, Shazeer N, Parmar N, Uszkoreit J, Jones L, Gomez AN, et al. Attention is all you need. Advances in Neural Information Processing Systems. 2017;30. Zur Publikation.
- World Health Organization. Ethics and governance of artificial intelligence for health: guidance on large multi-modal models. Geneva: World Health Organization; 2024. ISBN: 978-92-4-008475-9. Zur Veröffentlichung.
- Galli C. Grosse Sprachmodelle verstehen. Verbindung der Schweizer Ärztinnen und Ärzte (FMH). Zur Veröffentlichung. Abgerufen am 18.11.2026.
- FMH. Vorteile von Large Language Models im Gesundheitswesen. Zur Veröffentlichung. Abgerufen am 18.11.2026.
- Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB). KI und Datenschutz. 24.09.2025. Zur Veröffentlichung.
- FMH. Empfehlungen der FMH zum Umgang mit grossen Sprachmodellen (LLMs) im ärztlichen Alltag. Zu den Empfehlungen. Abgerufen am 18.11.2026.

