06 | Prompt Engineering – richtig fragen

Prompt Engineering in der Medizin bezeichnet die gezielte Gestaltung von Anfragen und Arbeitsaufträgen an künstliche Intelligenz. Während im klassischen Umgang mit Suchmaschinen häufig einzelne Suchbegriffe ausreichen, ermöglichen grosse Sprachmodelle eine wesentlich differenziertere Kommunikation. Der Anwender kann Aufgaben definieren, Hintergrundinformationen bereitstellen, Anforderungen formulieren und die gewünschte Struktur der Antwort vorgeben.

Die Qualität der Zusammenarbeit mit künstlicher Intelligenz hängt deshalb nicht ausschliesslich von der Leistungsfähigkeit des verwendeten Sprachmodells ab. Auch die Art und Weise, wie medizinische Fachpersonen ihre Arbeitsaufträge formulieren, spielt eine wichtige Rolle. Prompt Engineering erfordert keine Programmierkenntnisse, sondern vor allem die Fähigkeit, Aufgaben präzise zu definieren, relevante Informationen auszuwählen und die erzeugten Ergebnisse kritisch zu beurteilen.

Eine Einführung in die technischen Grundlagen und die Anwendungsmöglichkeiten dieser Technologie finden Sie im Grundlagenartikel Was ist künstliche Intelligenz?.

Inhaltsverzeichnis anzeigen
  1. Was ist Prompt Engineering?
  2. Von der Suchanfrage zum Arbeitsauftrag
  3. Warum beeinflusst der Prompt die Antwort?
  4. Die sieben Bausteine eines guten Prompts
  5. Vom einfachen zum professionellen Prompt
  6. Die wichtigsten Prompt-Techniken
  7. Die Bedeutung der Rollendefinition
  8. Kontext und Datenminimierung
  9. Iteratives Prompting – Arbeiten im Dialog
  10. Quellenbasiertes Prompting
  11. Wissenschaftliche Erkenntnisse zum Prompt Engineering
  12. Praktische Beispiele aus dem ärztlichen Alltag
  13. Typische Fehler beim Prompt Engineering
  14. Eine universelle Prompt-Vorlage für medizinische Fachpersonen
  15. Ein Experiment zum eigenen Ausprobieren
  16. Prompt Engineering und die Empfehlungen der FMH
  17. Fazit
  18. Weiterführende Beiträge
  19. Literatur

Was ist Prompt Engineering?

Als Prompt bezeichnet man die Eingabe, mit der ein Anwender einem KI-System eine Frage stellt, Informationen übermittelt oder einen konkreten Arbeitsauftrag erteilt. Ein Prompt kann aus wenigen Worten bestehen. Er kann jedoch auch umfangreiche Anweisungen, Beispiele, medizinische Hintergrundinformationen und Anforderungen an die Darstellung des Ergebnisses enthalten.

Prompt Engineering beschreibt die systematische Entwicklung, Überprüfung und Optimierung solcher Eingaben mit dem Ziel, möglichst relevante, zuverlässige und für den vorgesehenen Zweck geeignete Ergebnisse zu erhalten.

International werden hierfür verschiedene Begriffe verwendet:

  • Prompt: Eingabe oder Arbeitsauftrag an ein KI-System.
  • Prompting: Vorgang der Kommunikation mit einem KI-System durch entsprechende Eingaben.
  • Prompt Design: Gezielte Gestaltung eines Prompts.
  • Prompt Engineering: Systematische Entwicklung, Erprobung und Optimierung von Prompts.
  • Prompt Template: Wiederverwendbare Vorlage für vergleichbare Aufgabenstellungen.
  • Masterprompt: Umfangreicher, wiederverwendbarer Arbeitsauftrag mit übergeordneten Regeln und Qualitätsanforderungen.

Die Begriffe Prompt Design und Prompt Engineering werden in der Literatur nicht immer einheitlich voneinander abgegrenzt. Für den ärztlichen Alltag ist diese terminologische Unterscheidung von untergeordneter Bedeutung. Entscheidend ist vielmehr, dass die Kommunikation mit künstlicher Intelligenz als erlernbare und optimierbare Arbeitsweise verstanden wird.

Merksatz: Ein Prompt ist nicht nur eine Frage an künstliche Intelligenz, sondern die Beschreibung einer Aufgabe, die ein KI-System bearbeiten soll.

Von der Suchanfrage zum Arbeitsauftrag

Viele Anwender beginnen ihre Zusammenarbeit mit künstlicher Intelligenz auf dieselbe Weise, wie sie bisher eine Suchmaschine verwendet haben. Sie geben einzelne Begriffe oder kurze Fragen ein und erwarten eine möglichst relevante Antwort. Damit wird allerdings nur ein Teil der Möglichkeiten grosser Sprachmodelle genutzt.

Eine klassische Suchmaschine identifiziert und präsentiert vorhandene Inhalte. Ein Sprachmodell kann darüber hinaus Informationen verarbeiten, strukturieren, vergleichen, umformulieren und entsprechend einem konkreten Arbeitsauftrag aufbereiten. Moderne KI-Anwendungen können beide Funktionen miteinander verbinden, sofern ihnen geeignete Recherchewerkzeuge zur Verfügung stehen.

Klassische Suchanfrage KI-gestützter Arbeitsauftrag
Diabetes mellitus Leitlinien Vergleichen Sie die aktuellen, tatsächlich überprüften Leitlinien zur Behandlung des Diabetes mellitus Typ 2 und erläutern Sie relevante Unterschiede für die Schweizer Hausarztpraxis.
CT Lungenrundherd Kontrolle Erstellen Sie anhand der Originalempfehlungen der Fleischner Society eine Übersicht zur Verlaufskontrolle inzidenteller pulmonaler Rundherde. Unterscheiden Sie solide und subsolide Rundherde und nennen Sie den Geltungsbereich der Empfehlungen.
MRI Patienteninformation Erstellen Sie eine allgemein verständliche Patienteninformation zur MRI-Untersuchung mit maximal 300 Wörtern. Erläutern Sie Ablauf, Vorbereitung, mögliche Einschränkungen und die Bedeutung der Sicherheitsabklärung.

Die Beispiele verdeutlichen den Unterschied zwischen der Suche nach Informationen und der Definition einer Aufgabe, bei deren Bearbeitung Informationen eine zentrale Rolle spielen.

Ob ein KI-System tatsächlich aktuelle externe Informationen recherchieren und überprüfen kann, hängt von der verwendeten Anwendung und den verfügbaren Werkzeugen ab. Die blosse Aufforderung zur Recherche garantiert noch keinen Zugriff auf wissenschaftliche Quellen.

Die unterschiedlichen Funktionen moderner KI-Anwendungen werden am Beispiel von ChatGPT im Beitrag Wie funktioniert ChatGPT? ausführlicher erläutert.

Warum beeinflusst der Prompt die Antwort?

Grosse Sprachmodelle erzeugen ihre Antworten in Abhängigkeit von den Informationen, die ihnen im jeweiligen Kontext zur Verfügung stehen. Hierzu gehören unter anderem die aktuelle Eingabe, frühere Gesprächsinhalte und gegebenenfalls weitere Anweisungen oder bereitgestellte Dokumente. Je weniger eindeutig eine Aufgabe beschrieben wird, desto mehr Interpretationsmöglichkeiten bestehen.

Die Frage «Was sind die Ursachen von Dyspnoe?» kann beispielsweise aus sehr unterschiedlichen Perspektiven beantwortet werden:

  • Als allgemein verständliche Information für Patientinnen und Patienten.
  • Als medizinische Übersicht für Studierende.
  • Als differenzialdiagnostische Zusammenstellung für Hausärztinnen und Hausärzte.
  • Als notfallmedizinische Beurteilung akut aufgetretener Beschwerden.
  • Als Übersicht bildgebender diagnostischer Möglichkeiten.

Ohne weitere Angaben muss das Sprachmodell eine geeignete Interpretation der Fragestellung ableiten. Diese muss nicht den tatsächlichen Erwartungen des Anwenders entsprechen.

Der Einfluss der Aufgabenbeschreibung auf das mögliche Ergebnis

Unspezifischer PromptUnklare Zielgruppe
Unklare Aufgabenstellung
Unklare Anforderungen

↓

Grosser Interpretationsspielraum

Präziser PromptDefinierte Zielgruppe
Konkrete Aufgabe
Nachvollziehbare Anforderungen

↓

Gezieltere Aufgabenbearbeitung

Didaktisch vereinfachte Darstellung. Eine präzisere Aufgabenbeschreibung garantiert keine sachlich richtige Antwort.

Präzision ist dabei nicht mit einer möglichst grossen Textmenge gleichzusetzen. Auch ein kurzer Prompt kann hervorragend geeignet sein, wenn die Aufgabe eindeutig definiert ist.

Neben der Präzision spielt auch die ergebnisoffene Formulierung eine wichtige Rolle. Suggestive Arbeitsaufträge können dazu führen, dass bereits bestehende Überzeugungen des Anwenders verstärkt werden. Die damit verbundenen Risiken werden im Beitrag Wenn KI uns recht gibt ausführlich behandelt.

Die sieben Bausteine eines guten Prompts

Für die praktische Arbeit lässt sich ein anspruchsvollerer medizinischer Prompt aus sieben Bausteinen zusammensetzen. Nicht jeder Arbeitsauftrag benötigt sämtliche Bausteine. Das folgende Schema dient vielmehr als Orientierung für komplexere oder wiederkehrende Aufgaben.

Sieben Bausteine eines professionellen Prompts

01 – Rolle und Zielgruppe

Aus welcher Perspektive und für wen soll die Aufgabe bearbeitet werden?

02 – Zielsetzung

Welches Ergebnis soll erreicht werden?

03 – Kontext

Welche Hintergrundinformationen sind für die Bearbeitung erforderlich?

04 – Arbeitsauftrag

Welche konkreten Aufgaben soll das KI-System ausführen?

05 – Anforderungen und Einschränkungen

Welche wissenschaftlichen, fachlichen oder organisatorischen Vorgaben gelten?

06 – Ausgabeformat

In welcher Form soll das Ergebnis dargestellt werden?

07 – Qualitätskontrolle

Welche Aussagen, Quellen, Unsicherheiten und möglichen Fehler sollen überprüft werden?

Redaktionell entwickeltes, praxisorientiertes Orientierungsschema. Keine standardisierte oder wissenschaftlich validierte Klassifikation.

1. Rolle und Zielgruppe

Die Definition der Zielgruppe hilft dem Sprachmodell, Terminologie, Informationsumfang und fachliches Niveau entsprechend auszurichten.

Eine Patienteninformation erfordert beispielsweise eine andere Sprache als eine wissenschaftliche Übersicht für Fachärztinnen und Fachärzte.

2. Zielsetzung

Die Zielsetzung beschreibt, wozu das Ergebnis verwendet werden soll. Eine medizinische Fortbildung, eine Literaturübersicht und ein Entwurf für ein Informationsblatt verfolgen unterschiedliche Ziele.

3. Kontext

Der Kontext umfasst die für die Aufgabe notwendigen Hintergrundinformationen. Hierzu können die medizinische Fachrichtung, die Versorgungssituation, der geografische Bezug oder bereitgestellte wissenschaftliche Dokumente gehören.

4. Arbeitsauftrag

Der Arbeitsauftrag legt fest, was konkret zu tun ist. Beispiele hierfür sind das Zusammenfassen, Vergleichen, Klassifizieren, Überarbeiten oder kritische Beurteilen von Informationen.

5. Anforderungen und Einschränkungen

Bei medizinischen Aufgaben können Anforderungen an die wissenschaftliche Evidenz, die Aktualität der verwendeten Informationen, die Berücksichtigung bestimmter Leitlinien und den Umgang mit Unsicherheiten formuliert werden.

6. Ausgabeformat

Das gewünschte Ergebnis kann beispielsweise als Fliesstext, Tabelle, Checkliste, strukturierter Befundentwurf oder Präsentationsgliederung angefordert werden.

7. Qualitätskontrolle

Die abschliessende Kontrollanweisung sollte festlegen, welche Aspekte das Sprachmodell nochmals prüfen und welche Einschränkungen es offenlegen soll. Eine solche Selbstkontrolle kann hilfreich sein, ersetzt aber keine unabhängige Überprüfung durch medizinische Fachpersonen.

Bei regelmässig wiederkehrenden Arbeitsaufträgen können diese sieben Bausteine in einer standardisierten Vorlage zusammengeführt werden. Die Weiterentwicklung solcher Vorlagen wird im Beitrag Vom Prompt zum Masterprompt vorgestellt.

Vom einfachen zum professionellen Prompt

Die Entwicklung eines geeigneten Prompts lässt sich anhand einer medizinischen Fragestellung schrittweise veranschaulichen.

Stufe 1 – Einfache Frage

«Was ist eine Lungenembolie?»

Das Modell muss Zielgruppe, Informationsumfang und gewünschte Schwerpunkte selbst bestimmen.

Stufe 2 – Definition der Zielgruppe

«Erläutern Sie die Lungenembolie für medizinische Fachpersonen in der Hausarztpraxis.»

Das fachliche Niveau und der Versorgungskontext werden präzisiert.

Stufe 3 – Konkretisierung des Arbeitsauftrages

«Erstellen Sie für Hausärztinnen und Hausärzte eine strukturierte Übersicht zur diagnostischen Abklärung bei Verdacht auf eine Lungenembolie. Berücksichtigen Sie klinische Wahrscheinlichkeit, Laboruntersuchungen, bildgebende Diagnostik und zeitkritische Situationen.»

Die medizinischen Schwerpunkte und das angestrebte Ergebnis werden festgelegt.

Stufe 4 – Professioneller medizinischer Arbeitsauftrag

«Erstellen Sie für Hausärztinnen und Hausärzte in der Schweiz eine wissenschaftlich fundierte Übersicht zur diagnostischen Abklärung bei Verdacht auf eine Lungenembolie bei Erwachsenen.

Berücksichtigen Sie die klinische Vortestwahrscheinlichkeit, validierte klinische Entscheidungsregeln, den Stellenwert der D-Dimer-Bestimmung, die bildgebenden Untersuchungsverfahren sowie Situationen, die eine sofortige notfallmedizinische Abklärung erfordern.

Recherchieren Sie die aktuell gültigen und tatsächlich zugänglichen Originalleitlinien. Unterscheiden Sie gesicherte Empfehlungen von offenen Fragestellungen und kennzeichnen Sie gegebenenfalls abweichende Empfehlungen verschiedener Fachgesellschaften.

Gliedern Sie das Ergebnis in eine kurze Einleitung, einen strukturierten diagnostischen Ablauf, eine Tabelle und die verwendete Literatur.

Überprüfen Sie bibliografische Angaben und Quellenverweise. Falls eine externe Recherche nicht möglich ist, weisen Sie ausdrücklich darauf hin. Erfinden Sie keine Quellen.»

Der Arbeitsauftrag definiert Zielgruppe, geografischen Bezug, Aufgaben, wissenschaftliche Anforderungen, Ausgabeformat und Qualitätskontrolle.

Konstruierte Prompt-Beispiele zur Vermittlung unterschiedlicher Präzisionsstufen. Keine dokumentierte vergleichende Modellprüfung.

Der umfangreichste Prompt ist nicht grundsätzlich der beste. Für eine kurze Begriffserklärung kann die erste Variante vollkommen ausreichend sein. Für die Vorbereitung einer medizinischen Fortbildung oder eines wissenschaftlichen Fachartikels sind dagegen zusätzliche Anforderungen sinnvoll.

Merksatz: Ein guter Prompt ist nicht möglichst lang, sondern so präzise und umfangreich, wie es die jeweilige Aufgabe erfordert.

Die wichtigsten Prompt-Techniken

In der Forschung und praktischen Anwendung grosser Sprachmodelle wurden unterschiedliche Prompt-Techniken entwickelt. Einige dieser Methoden lassen sich ohne technische Vorkenntnisse unmittelbar im ärztlichen Alltag anwenden.

Zero-Shot Prompting – Aufgaben ohne Beispiele

Beim Zero-Shot Prompting erhält das Sprachmodell eine Aufgabe, ohne dass ihm ein konkretes Beispiel für die gewünschte Bearbeitung bereitgestellt wird.

Beispiel: «Formulieren Sie die folgende medizinische Aussage so um, dass sie für Menschen ohne medizinische Vorkenntnisse verständlich ist.»

Diese Technik ist besonders für einfache und eindeutig definierte Aufgaben geeignet.

One-Shot Prompting – Aufgaben mit einem Beispiel

Beim One-Shot Prompting wird zusätzlich ein Beispiel bereitgestellt, an dem sich das Sprachmodell hinsichtlich Sprache, Inhalt oder Struktur orientieren kann.

Beispiel: «Formulieren Sie medizinische Fachbegriffe nach folgendem Muster in allgemein verständlicher Sprache.»

Vorlage: Hepatomegalie – Vergrösserung der Leber.

Zu bearbeitende Begriffe: Splenomegalie, Cholelithiasis, Nephrolithiasis.

Das Beispiel konkretisiert die gewünschte Form der Antwort.

Few-Shot Prompting – Aufgaben mit mehreren Beispielen

Beim Few-Shot Prompting werden mehrere Beispiele zur Verfügung gestellt. Dadurch können komplexere Anforderungen an Sprache, Struktur oder Zuordnung veranschaulicht werden.

Bereits Brown und Mitarbeiter untersuchten 2020 die Fähigkeit grosser Sprachmodelle, Aufgaben anhand weniger im Eingabetext bereitgestellter Beispiele zu bearbeiten, ohne hierfür die Modellparameter erneut trainieren zu müssen [1].

Diese Form der kontextbezogenen Aufgabenbearbeitung wird als In-Context Learning bezeichnet. Weitere technische Grundlagen werden im Beitrag Was sind grosse Sprachmodelle (LLM)? erläutert.

Beispiel für eine einheitliche medizinische Terminologie:

Fachbegriff: Hepatomegalie
Organ: Leber
Bedeutung: Vergrösserung der Leber

Fachbegriff: Splenomegalie
Organ: Milz
Bedeutung: Vergrösserung der Milz

«Bearbeiten Sie die nachfolgenden medizinischen Fachbegriffe nach demselben Schema.»

Die Qualität der bereitgestellten Beispiele ist von Bedeutung. Fehlerhafte oder ungeeignete Vorlagen können sich in den erzeugten Antworten wiederfinden.

Role Prompting – Definition einer fachlichen Perspektive

Beim Role Prompting wird das Sprachmodell aufgefordert, eine Aufgabe aus einer bestimmten fachlichen, didaktischen oder organisatorischen Perspektive zu bearbeiten.

Beispiel: «Beurteilen Sie die folgende Fragestellung aus der Perspektive einer hausärztlich tätigen Fachperson. Berücksichtigen Sie insbesondere die Möglichkeiten und Grenzen der ambulanten Versorgung.»

Eine Rollendefinition beeinflusst den Interpretationsrahmen, verleiht dem Sprachmodell jedoch keine zusätzlichen medizinischen Qualifikationen.

Chain-of-Thought Prompting – Arbeiten mit Zwischenschritten

Beim Chain-of-Thought Prompting (CoT) werden komplexe Aufgaben unter Einbeziehung mehrerer begründender Zwischenschritte bearbeitet.

Wei und Mitarbeiter zeigten 2022, dass entsprechende Beispiele die Leistungsfähigkeit bestimmter grosser Sprachmodelle bei verschiedenen mathematischen, alltagslogischen und symbolischen Aufgaben verbessern konnten [2].

Für die medizinische Praxis ist insbesondere die Anforderung einer nachvollziehbar strukturierten Argumentation von Interesse.

Praxisorientiertes Beispiel:

«Strukturieren Sie Ihre Beurteilung nach relevanten Ausgangsbefunden, möglichen Erklärungen, Argumenten für und gegen jede Hypothese, fehlenden Informationen und einer abschliessenden Einschätzung.»

Die Aufforderung zu einer strukturierten fachlichen Begründung ist mit dem ursprünglichen experimentellen CoT-Verfahren verwandt, aber nicht mit diesem gleichzusetzen.

Eine ausgegebene Begründung vermittelt zudem keinen verlässlichen Einblick in die tatsächlichen internen Berechnungsprozesse des Modells. Auch eine logisch erscheinende Argumentation kann sachliche Fehler enthalten.

Moderne Sprachmodelle unterscheiden sich hinsichtlich ihrer internen Verarbeitung komplexer Aufgaben. Die Aufforderung, zusätzliche Zwischenschritte zu erzeugen, führt deshalb nicht bei jedem Modell und jeder Fragestellung zu besseren Ergebnissen.

Prompt Chaining – Verknüpfung mehrerer Arbeitsaufträge

Beim Prompt Chaining wird eine umfangreiche Aufgabe in mehrere aufeinanderfolgende Teilaufgaben zerlegt. Das Ergebnis eines Arbeitsschrittes bildet gegebenenfalls die Grundlage für den nächsten.

1. Wissenschaftliche Quellen identifizieren
↓
2. Originalpublikationen auswerten
↓
3. Ergebnisse miteinander vergleichen
↓
4. Wissenschaftlichen Textentwurf erstellen
↓
5. Quellenprüfung und ärztlich-redaktionelle Freigabe

Beispiel eines mehrstufigen, KI-unterstützten wissenschaftlichen Arbeitsprozesses mit menschlicher Endkontrolle.

Durch die Aufteilung können Zwischenergebnisse kontrolliert und Fehler frühzeitig erkannt werden. Ohne solche Kontrollen besteht allerdings auch die Möglichkeit, dass Fehler von einem Arbeitsschritt auf nachfolgende Schritte übertragen werden.

Die abschliessende Kontrolle sollte sich deshalb nicht auf den zuletzt erzeugten Text beschränken, sondern auch die zugrunde liegenden Quellen und die Ergebnisse der vorausgegangenen Arbeitsschritte berücksichtigen.

Self-Critique Prompting – Kritische Überprüfung einer Antwort

Bei dieser Vorgehensweise wird ein Sprachmodell aufgefordert, einen zuvor erzeugten Inhalt nochmals kritisch zu beurteilen.

Beispiel: «Überprüfen Sie Ihre bisherige Antwort auf sachliche Fehler, unbegründete Annahmen, fehlende Differenzialdiagnosen, widersprüchliche Aussagen und nicht ausreichend belegte Schlussfolgerungen.»

Die Selbstüberprüfung kann zur Verbesserung eines Entwurfes beitragen. Sie stellt jedoch keine unabhängige wissenschaftliche Validierung dar, da das korrigierende System denselben oder ähnlichen Fehlermechanismen unterliegen kann.

Unter bestimmten Bedingungen können bei einer erneuten Bearbeitung sogar ursprünglich richtige Aussagen durch unzutreffende Formulierungen ersetzt werden.

Weitere Informationen zu den Möglichkeiten und Einschränkungen der Selbstkorrektur finden Sie im Beitrag Grenzen künstlicher Intelligenz.

Übersicht der wichtigsten Prompt-Techniken

Technik Grundprinzip Mögliche Anwendung
Zero-Shot Arbeitsauftrag ohne Beispiel. Begriffserklärungen und einfache Textbearbeitung.
One-Shot Ein Beispiel als Orientierung. Vorgabe eines gewünschten Schreibstils.
Few-Shot Mehrere Beispiele als Orientierung. Standardisierte medizinische Textstrukturen.
Role Prompting Definition einer Perspektive. Fachspezifische oder zielgruppenbezogene Bearbeitung.
Chain-of-Thought Einbeziehung begründender Zwischenschritte. Strukturierung komplexer Fragestellungen.
Prompt Chaining Verknüpfung mehrerer Teilaufgaben. Literaturrecherche und wissenschaftliche Textentwicklung.
Self-Critique Kritische Überprüfung erzeugter Inhalte. Unterstützung der redaktionellen Qualitätskontrolle.

Didaktische Übersicht ausgewählter Techniken. Die angegebenen Anwendungen sind keine klinisch validierten Einsatzempfehlungen.

Die unterschiedlichen Techniken können miteinander kombiniert werden. Welche Vorgehensweise am besten geeignet ist, hängt von der Aufgabe, dem Sprachmodell und der Qualität der verfügbaren Informationen ab.

Die Bedeutung der Rollendefinition

Eine häufig verwendete Methode des Prompt Engineerings besteht darin, dem Sprachmodell eine bestimmte Rolle zuzuweisen.

Typische Beispiele sind:

  • «Bearbeiten Sie die Aufgabe aus hausärztlicher Perspektive.»
  • «Beurteilen Sie die Fragestellung aus radiologischer Sicht.»
  • «Übernehmen Sie die Perspektive eines kritischen wissenschaftlichen Gutachters.»
  • «Erstellen Sie eine medizinisch-didaktische Erklärung für Studierende.»

Eine solche Anweisung kann dazu beitragen, die Antwort auf bestimmte inhaltliche Schwerpunkte auszurichten.

Bei der Rollendefinition ist jedoch zwischen einer fachlichen Perspektive und einer tatsächlichen fachlichen Qualifikation zu unterscheiden.

Die Aufforderung «Sie sind ein erfahrener Radiologe mit 30 Jahren klinischer Berufserfahrung» führt nicht dazu, dass das Sprachmodell tatsächlich über diese Berufserfahrung verfügt.

Ebenso wenig werden durch eine solche textliche Anweisung unmittelbar die trainierten Modellparameter oder die sogenannte Temperatur der Textgenerierung verändert. Letztere ist, soweit sie vom Anbieter zugänglich gemacht wird, eine gesonderte technische Einstellung.

Merksatz: Eine zugewiesene Rolle definiert die gewünschte Perspektive eines Sprachmodells, nicht dessen tatsächliche Kompetenz.

Die kombinierte Verwendung unterschiedlicher Rollen eröffnet weitere Möglichkeiten der KI-gestützten Diskussion. Dabei entstehen jedoch nicht zwangsläufig voneinander unabhängige fachliche Beurteilungen. Dieses Konzept wird im Beitrag KI als virtuelle Expertenrunde ausführlicher behandelt.

Kontext und Datenminimierung

Für die Bearbeitung medizinischer Fragestellungen sind häufig zusätzliche Hintergrundinformationen erforderlich. Ohne geeigneten Kontext kann selbst ein präzise formulierter Arbeitsauftrag zu einem ungeeigneten Ergebnis führen.

Zum relevanten Kontext können beispielsweise gehören:

  • Die medizinische Fachrichtung und die vorgesehene Zielgruppe.
  • Der ambulante oder stationäre Versorgungskontext.
  • Der geografische Geltungsbereich medizinischer Empfehlungen.
  • Der gewünschte wissenschaftliche Aktualitätsstand.
  • Relevante klinische Ausgangsinformationen, sofern deren Verarbeitung zulässig ist.
  • Bereitgestellte Leitlinien, Publikationen oder andere Referenzdokumente.

Die Forderung nach ausreichendem Kontext darf jedoch nicht dazu führen, dass unnötige oder unzulässige Informationen an ein KI-System übermittelt werden.

Insbesondere bei allgemein zugänglichen KI-Anwendungen dürfen keine identifizierbaren Patientendaten oder andere vertrauliche Informationen eingegeben werden, wenn eine rechtlich und technisch abgesicherte Verarbeitung nicht gewährleistet ist.

Die Entfernung von Namen, Adressen und Geburtsdaten allein stellt noch keine zuverlässige Anonymisierung dar. Auch Kombinationen aus medizinischen Angaben, seltenen Erkrankungen, Untersuchungsdaten oder anderen Merkmalen können Rückschlüsse auf einzelne Personen ermöglichen.

Pseudonymisierte Patientendaten sind zudem nicht mit anonymisierten Daten gleichzusetzen.

So viel Kontext wie nötig – so wenig Daten wie möglich

Für zahlreiche medizinische Arbeitsaufträge sind überhaupt keine individuellen Patientendaten erforderlich.

Die Erstellung einer allgemeinen Patienteninformation, die Zusammenfassung einer Fachpublikation oder die Entwicklung einer Fortbildungspräsentation kann in der Regel ohne die Übermittlung von Informationen über reale Patientinnen und Patienten erfolgen.

Grundregel: Nicht jede für eine medizinische Fragestellung interessante Information ist auch für die Bearbeitung durch künstliche Intelligenz notwendig oder zur Übermittlung zulässig.

Die datenschutzrechtlichen und berufsrechtlichen Voraussetzungen für die Verwendung künstlicher Intelligenz in der Schweizer Arztpraxis werden im Beitrag KI – Datenschutz und ärztliche Verantwortung gesondert behandelt.

Iteratives Prompting – Arbeiten im Dialog

Eine der besonderen Möglichkeiten grosser Sprachmodelle besteht darin, einen Arbeitsauftrag im Rahmen eines Dialoges schrittweise weiterzuentwickeln.

Im Gegensatz zur einmaligen Eingabe einer Suchanfrage kann der Anwender zunächst einen Entwurf erstellen lassen, diesen beurteilen und anschliessend gezielte Ergänzungen oder Änderungen verlangen.

Diese Vorgehensweise wird als iteratives Prompting bezeichnet.

Der iterative Arbeitsprozess

1. Arbeitsauftrag formulieren
↓
2. Ersten Entwurf erzeugen lassen
↓
3. Ergebnis fachlich beurteilen
↓
4. Arbeitsauftrag gezielt präzisieren
↻ Wiederholung bei weiterem Bearbeitungsbedarf
5. Abschliessende Kontrolle und Freigabe

Didaktisch vereinfachte Darstellung eines iterativen Arbeitsprozesses mit menschlicher Qualitätskontrolle.

Beispiel eines iterativen Arbeitsprozesses

Eine Hausärztin möchte ein Informationsblatt zur ambulanten Blutdruckmessung erstellen.

Arbeitsauftrag 1

«Erstellen Sie den Entwurf einer Patienteninformation zur häuslichen Blutdruckmessung.»

Arbeitsauftrag 2

«Überarbeiten Sie den Text für ältere Menschen ohne medizinische Vorkenntnisse. Verwenden Sie kurze Sätze und erläutern Sie ungewohnte Fachbegriffe.»

Arbeitsauftrag 3

«Gleichen Sie die Empfehlungen zur Durchführung der Blutdruckmessung mit der bereitgestellten aktuellen Fachleitlinie ab. Kennzeichnen Sie Aussagen, die sich daraus nicht ableiten lassen.»

Arbeitsauftrag 4

«Erstellen Sie aus dem überprüften Text eine übersichtliche Patienteninformation für eine DIN-A4-Seite. Führen Sie verbleibende fachliche Unklarheiten separat auf.»

Das Beispiel verdeutlicht, dass nicht sämtliche Anforderungen bereits im ersten Prompt enthalten sein müssen.

Bei aufeinanderfolgenden Änderungen besteht allerdings die Gefahr, dass zuvor festgelegte Vorgaben verloren gehen oder bereits überprüfte Inhalte unbeabsichtigt verändert werden. Deshalb sollte insbesondere bei längeren Arbeitsprozessen eine abschliessende Kontrolle des vollständigen Ergebnisses erfolgen.

Eine gezielte Anweisung, nur bestimmte Textabschnitte zu verändern und bereits freigegebene Inhalte unverändert zu übernehmen, kann dieses Risiko reduzieren. Sie garantiert jedoch nicht, dass das Sprachmodell tatsächlich sämtliche zuvor vereinbarten Anforderungen einhält.

Auch Rückfragen können Bestandteil des Arbeitsauftrages sein

Eine besonders hilfreiche Möglichkeit besteht darin, das Sprachmodell ausdrücklich zur Identifikation fehlender Informationen aufzufordern.

Beispiel: «Prüfen Sie zunächst, ob die Aufgabenstellung eindeutig und vollständig ist. Falls wesentliche Informationen fehlen, stellen Sie mir gezielte Rückfragen, bevor Sie mit der Bearbeitung beginnen. Ergänzen Sie fehlende medizinische Angaben nicht durch unbegründete Annahmen.»

Damit wird die Verantwortung für die Präzisierung der Aufgabe nicht ausschliesslich dem Anwender überlassen. Das Sprachmodell kann dazu beitragen, mögliche Unklarheiten frühzeitig sichtbar zu machen.

Die Verantwortung für die Vollständigkeit der medizinisch relevanten Informationen und die abschliessende Beurteilung verbleibt jedoch bei der medizinischen Fachperson.

Quellenbasiertes Prompting

Bei wissenschaftlichen und medizinischen Fragestellungen kann es sinnvoll sein, dem Sprachmodell geeignete Referenzdokumente unmittelbar zur Verfügung zu stellen.

Hierzu gehören beispielsweise Originalpublikationen, medizinische Leitlinien, Klassifikationen, wissenschaftliche Tabellen oder institutionelle Arbeitsanweisungen.

Der Arbeitsauftrag kann ausdrücklich festlegen, dass bestimmte Aussagen ausschliesslich auf Grundlage dieser Dokumente formuliert werden sollen.

Beispiel eines quellenbasierten Arbeitsauftrages:

«Analysieren Sie die bereitgestellte medizinische Originalpublikation.

Verwenden Sie für die Zusammenfassung ausschliesslich Informationen aus diesem Dokument. Stellen Sie Fragestellung, Studiendesign, Population, Methodik, Ergebnisse, Schlussfolgerungen und Limitationen getrennt dar.

Übernehmen Sie quantitative Angaben korrekt und ordnen Sie diese den jeweiligen Untersuchungsergebnissen zu.

Geben Sie nach Möglichkeit zu relevanten Aussagen die entsprechende Seitenzahl oder den Abschnitt der Originalpublikation an.

Unterscheiden Sie zwischen Aussagen der Studienautoren und Ihrer eigenen Interpretation.

Falls eine Information im zugänglichen Dokument nicht enthalten ist oder Teile des Dokumentes nicht zuverlässig ausgewertet werden können, kennzeichnen Sie dies ausdrücklich. Ergänzen Sie fehlende Informationen nicht durch Vermutungen.»

Eine solche Vorgehensweise wird häufig unter dem Begriff Grounding zusammengefasst. Das Sprachmodell soll seine Antwort an konkret bereitgestellten Informationen ausrichten.

Eine technische Möglichkeit zur Umsetzung des Groundings ist die sogenannte Retrieval-Augmented Generation (RAG). Dabei werden relevante Informationen mithilfe eines zusätzlichen Abrufmechanismus aus externen Datenbeständen ausgewählt und dem Sprachmodell für die Antwortgenerierung zur Verfügung gestellt.

Bei der unmittelbaren Bereitstellung eines wissenschaftlichen Dokumentes ist dagegen nicht zwangsläufig ein solcher automatisierter Abrufmechanismus erforderlich.

Beide Vorgehensweisen können die Nachvollziehbarkeit und Überprüfbarkeit von Aussagen verbessern. Sie schliessen jedoch Fehlinterpretationen, Auslassungen oder fehlerhafte Quellenzuordnungen nicht aus.

Auch die vom Sprachmodell angegebenen Seitenzahlen, Zitate und Verweise auf Tabellen müssen bei wissenschaftlich relevanten Aussagen anhand des Originaldokumentes überprüft werden.

Die Verwendung künstlicher Intelligenz zur Identifikation, Auswertung und Überprüfung wissenschaftlicher Quellen wird im Beitrag KI und medizinische Literaturrecherche ausführlich behandelt.

Wissenschaftliche Erkenntnisse zum Prompt Engineering

Prompt Engineering ist nicht ausschliesslich eine praktisch entwickelte Methode zur besseren Kommunikation mit künstlicher Intelligenz. Die Auswirkungen unterschiedlicher Prompt-Techniken auf die Leistungsfähigkeit grosser Sprachmodelle sind Gegenstand wissenschaftlicher Untersuchungen.

Brown et al. – Language Models are Few-Shot Learners

Eine grundlegende Veröffentlichung aus dem Jahr 2020 untersuchte die Fähigkeit von GPT-3, unterschiedliche sprachliche Aufgaben anhand von Anweisungen und wenigen Beispielen im Eingabetext zu bearbeiten [1].

Die Ergebnisse verdeutlichten, dass ein entsprechend trainiertes Sprachmodell für verschiedene Aufgaben eingesetzt werden kann, ohne dass für jede einzelne Aufgabe ein erneutes Training der Modellparameter erforderlich ist.

Die Leistungsfähigkeit war dabei abhängig von der jeweiligen Aufgabenstellung. Nicht alle untersuchten Aufgaben konnten zuverlässig bearbeitet werden.

Wei et al. – Chain-of-Thought Prompting

Wei und Mitarbeiter untersuchten 2022 die Wirkung von Beispielen mit begründenden Zwischenschritten auf die Bearbeitung komplexerer Aufgaben durch grosse Sprachmodelle [2].

Bei bestimmten mathematischen, alltagslogischen und symbolischen Aufgaben zeigten sich Leistungsverbesserungen. Die Ergebnisse können jedoch nicht ohne Weiteres auf diagnostische Entscheidungen im klinischen Alltag übertragen werden.

Nori et al. – Medprompt

Eine unmittelbar auf medizinische Fragestellungen ausgerichtete Untersuchung wurde 2023 von Nori und Mitarbeitern als wissenschaftlicher Preprint veröffentlicht [3].

Die Forschungsgruppe untersuchte, in welchem Umfang sich die Leistung von GPT-4 bei medizinischen Wissensaufgaben durch eine Kombination verschiedener Prompt-Techniken verbessern lässt.

Das als Medprompt bezeichnete Verfahren kombinierte unter anderem die dynamische Auswahl geeigneter Beispiele, selbst erzeugte begründende Lösungsbeispiele und die Zusammenführung mehrerer Modellantworten bei variierter Reihenfolge der Antwortoptionen.

Bei MedQA, einem Datensatz medizinischer Multiple-Choice-Fragen im Stil amerikanischer medizinischer Prüfungen, wurde mit der kombinierten Methode eine Genauigkeit von mehr als 90 % erreicht.

Medprompt – ausgewählte Ergebnisse auf dem MedQA-Benchmark

GPT-4 mit Zero-Shot Prompting – 81,7 %

GPT-4 mit Few-Shot Prompting – 83,9 %

GPT-4 mit Few-Shot und Chain-of-Thought – 87,3 %

GPT-4 mit dynamisch ausgewählten Beispielen und Chain-of-Thought – 88,4 %

GPT-4 mit vollständiger Medprompt-Strategie – 90,2 %

0 %
25 %
50 %
75 %
100 %

Eigene Darstellung nach den von Microsoft Research veröffentlichten Ergebnissen zu Medprompt [3, 4]. Die Balken repräsentieren den Anteil korrekt beantworteter medizinischer Prüfungsfragen auf einer Skala von 0 bis 100 %. Es handelt sich nicht um klinische diagnostische Genauigkeiten.

Die Differenz zwischen dem einfachen Arbeitsauftrag und der vollständigen Medprompt-Strategie betrug in dieser Auswertung 8,5 Prozentpunkte.

Das vollständige Verfahren ging über die blosse Veränderung eines einzelnen Prompts hinaus. Es erforderte unter anderem die Auswahl zusätzlicher Beispiele und mehrere Modellabfragen mit anschliessender Ergebniszusammenführung.

Die Untersuchung demonstriert somit sowohl die Bedeutung der Aufgabenbeschreibung als auch die Möglichkeiten komplexerer KI-gestützter Arbeitsabläufe.

Die Ergebnisse beziehen sich auf das untersuchte Sprachmodell, den verwendeten medizinischen Prüfungsdatensatz und die spezifische experimentelle Umsetzung. Sie erlauben keine unmittelbare Aussage darüber, in welchem Umfang sich die diagnostische Qualität in einer realen Versorgungssituation durch entsprechende Verfahren verbessern lässt.

Xiao et al. – Grenzen der Optimierung durch Prompt Engineering

Eine 2026 veröffentlichte Untersuchung von Xiao und Mitarbeitern analysierte fünf unterschiedliche Prompt-Strategien bei fünf grossen Sprachmodellen hinsichtlich medizinischer Verzerrungen, Antwortgenauigkeit und zusätzlichem Verarbeitungsaufwand [5].

Die Ergebnisse zeigten erhebliche Unterschiede zwischen den untersuchten Sprachmodellen und Methoden. Keine der Strategien erwies sich im untersuchten Setting als universell wirksam. Bestimmte Methoden konnten bestehende Verzerrungen sogar verstärken.

Diese Beobachtung ist für die praktische Anwendung von Bedeutung. Eine Prompt-Technik, die bei einem Modell und einer bestimmten Aufgabenstellung hilfreich ist, muss nicht bei einem anderen Modell oder einer anderen Fragestellung zu vergleichbaren Ergebnissen führen.

Was bedeuten diese Untersuchungen für die ärztliche Praxis?

Die wissenschaftlichen Erkenntnisse zeigen, dass geeignete Prompt-Strategien die Ergebnisse grosser Sprachmodelle beeinflussen und unter bestimmten Bedingungen verbessern können.

Sie belegen jedoch nicht, dass durch Prompt Engineering eine generell zuverlässige klinische Entscheidungsunterstützung erreicht werden kann.

Medizinische Prüfungsfragen unterscheiden sich wesentlich von realen Versorgungssituationen, in denen Informationen unvollständig sein können und klinische Entscheidungen unter Berücksichtigung zahlreicher individueller Faktoren getroffen werden müssen.

Hinzu kommt, dass Untersuchungen zu bestimmten Sprachmodellversionen nur eingeschränkt auf spätere Modellgenerationen übertragen werden können.

Auch der zusätzliche zeitliche und technische Aufwand komplexerer Prompt-Strategien muss bei der Beurteilung ihres praktischen Nutzens berücksichtigt werden.

Merksatz: Prompt Engineering kann die Leistungsfähigkeit eines Sprachmodells verbessern. Es kann jedoch weder fehlende medizinische Evidenz ersetzen noch die Fehlerfreiheit eines KI-Systems garantieren.

Praktische Beispiele aus dem ärztlichen Alltag

Die folgenden Arbeitsaufträge zeigen unterschiedliche Möglichkeiten des Prompt Engineerings in der hausärztlichen, radiologischen und wissenschaftlichen Tätigkeit.

Sämtliche Beispiele sind redaktionell entwickelte Vorlagen. Sie enthalten keine realen Patientendaten und stellen keine klinisch validierten Entscheidungsalgorithmen dar.

Beispiel 1 – Erstellung einer Patienteninformation

Arbeitsauftrag:

«Erstellen Sie eine allgemein verständliche Patienteninformation zur Vorbereitung auf eine MRI-Untersuchung.

Die Zielgruppe sind erwachsene Patientinnen und Patienten ohne medizinische Vorkenntnisse.

Erläutern Sie den grundsätzlichen Untersuchungsablauf, die Bedeutung der Sicherheitsabklärung, mögliche Geräuschentwicklung und den Umgang mit Platzangst.

Unterscheiden Sie allgemeingültige Informationen von untersuchungs- und institutionsabhängigen Vorbereitungsmassnahmen.

Verwenden Sie kurze Sätze und maximal 350 Wörter. Vermeiden Sie pauschale Sicherheitszusagen und nicht überprüfte medizinische Empfehlungen.»

Beispiel 2 – Strukturierung eines medizinischen Befundentwurfes

Arbeitsauftrag:

«Überarbeiten Sie den bereitgestellten fiktiven radiologischen Befund sprachlich und strukturell.

Gliedern Sie den Text in klinische Fragestellung, Untersuchungstechnik, Befund und Beurteilung.

Verwenden Sie eine präzise radiologische Fachterminologie. Verändern Sie den medizinischen Informationsgehalt nicht.

Ergänzen Sie keine nicht beschriebenen Normalbefunde oder Pathologien. Übernehmen Sie Seitenangaben, anatomische Lokalisationen und Messwerte unverändert.

Kennzeichnen Sie mögliche Widersprüche oder unklare Formulierungen separat, anstatt sie eigenständig durch Vermutungen zu korrigieren.»

Gerade bei der sprachlichen Bearbeitung medizinischer Dokumente ist die ausdrückliche Anweisung wichtig, keine zusätzlichen klinischen Tatsachen zu erfinden.

Auch ursprünglich dokumentierte Einschränkungen, Unsicherheiten und Empfehlungen dürfen bei der sprachlichen Überarbeitung nicht unbeabsichtigt entfallen oder in ihrer Bedeutung verändert werden.

Beispiel 3 – Differenzialdiagnostische Überlegungen

Arbeitsauftrag:

«Analysieren Sie die nachfolgende fiktive klinische Fallvignette.

Erstellen Sie eine strukturierte differenzialdiagnostische Übersicht unter Berücksichtigung häufiger sowie potenziell zeitkritischer Ursachen.

Führen Sie für die relevanten Differenzialdiagnosen jeweils unterstützende und widersprechende Befunde auf.

Unterscheiden Sie zwischen tatsächlich dokumentierten Befunden, fehlenden Informationen und möglichen Annahmen.

Kennzeichnen Sie fehlende Informationen und erläutern Sie, welche Bedeutung diese für die weitere diagnostische Einordnung haben könnten.

Vermeiden Sie eine unbegründete Festlegung auf eine definitive Diagnose und weisen Sie auf die Grenzen der Beurteilung anhand der bereitgestellten Angaben hin.»

Beispiel 4 – Vergleich medizinischer Klassifikationen

Arbeitsauftrag:

«Vergleichen Sie PI-RADS und LI-RADS anhand der tatsächlich zugänglichen Originaldokumente der verantwortlichen Fachgesellschaften.

Berücksichtigen Sie Zielsetzung, medizinischen Anwendungsbereich, vorgesehenes Patientenkollektiv, Untersuchungsmethoden, Kategorien und Grenzen der jeweiligen Klassifikation.

Nennen Sie den überprüften Versionsstand der verwendeten Dokumente.

Berücksichtigen Sie gegebenenfalls unterschiedliche Versionen oder untersuchungsspezifische Varianten der Klassifikationssysteme.

Stellen Sie das Ergebnis in einer vergleichenden Tabelle dar und erläutern Sie, weshalb die Kategorien der beiden Systeme nicht unmittelbar miteinander gleichgesetzt werden können.»

Beispiel 5 – Vorbereitung einer medizinischen Fortbildung

Arbeitsauftrag:

«Entwickeln Sie die Gliederung einer 45-minütigen medizinischen Fortbildung zur bildgebenden Abklärung akuter abdomineller Beschwerden.

Die Zielgruppe sind Hausärztinnen und Hausärzte in der Schweiz.

Definieren Sie fünf konkrete Lernziele. Strukturieren Sie die Fortbildung nach klinischer Fragestellung, geeigneter bildgebender Diagnostik, Möglichkeiten und Grenzen der Untersuchungsverfahren sowie typischen Fehlerquellen.

Ergänzen Sie drei ausdrücklich als fiktiv gekennzeichnete Fallvignetten zur interaktiven Diskussion.

Kennzeichnen Sie Aussagen, für die vor der Erstellung der Präsentation eine zusätzliche wissenschaftliche Quellenprüfung erforderlich ist.»

Beispiel 6 – Kritische Auswertung einer wissenschaftlichen Publikation

Arbeitsauftrag:

«Beurteilen Sie die bereitgestellte medizinische Originalpublikation aus der Perspektive eines kritischen wissenschaftlichen Gutachters.

Prüfen Sie Studiendesign, Auswahl der Untersuchungspopulation, Definition der Endpunkte, statistische Methodik, mögliche systematische Verzerrungen und Übertragbarkeit der Ergebnisse auf den klinischen Alltag.

Unterscheiden Sie zwischen den von den Autoren berichteten Ergebnissen und Ihrer eigenen Interpretation.

Berücksichtigen Sie, soweit im Dokument angegeben, die Finanzierung der Untersuchung und mögliche Interessenkonflikte.

Kennzeichnen Sie methodische Aspekte, die anhand des vorliegenden Dokumentes nicht zuverlässig beurteilt werden können. Ergänzen Sie fehlende Angaben nicht durch Vermutungen.»

Die Beispiele verdeutlichen, dass Prompt Engineering nicht auf einzelne medizinische Fragestellungen beschränkt ist. Es kann als übergreifende Arbeitsmethode für unterschiedliche ärztliche, wissenschaftliche und didaktische Tätigkeiten eingesetzt werden.

Weitere konkrete Anwendungsmöglichkeiten und deren Einschränkungen werden im Beitrag Künstliche Intelligenz in der Hausarztpraxis vorgestellt.

Typische Fehler beim Prompt Engineering

Ungeeignete Antworten künstlicher Intelligenz können unterschiedliche Ursachen haben. Nicht sämtliche Fehler sind auf eine unzureichende Aufgabenbeschreibung zurückzuführen. Dennoch lassen sich einige vermeidbare Schwierigkeiten bereits bei der Formulierung eines Prompts reduzieren.

Typischer Fehler Mögliche Konsequenz Verbesserungsmöglichkeit
Unklare Aufgabenstellung Antworten entsprechen nicht dem tatsächlichen Bedarf. Ziel und Arbeitsauftrag präzisieren.
Fehlender Kontext Ungeeignete medizinische oder organisatorische Einordnung. Relevante und zulässige Hintergrundinformationen bereitstellen.
Übermässige Informationsmenge Wesentliche Informationen können in den Hintergrund treten. Informationen strukturieren und priorisieren.
Suggestive Fragestellung Mögliche Verstärkung bestehender Überzeugungen. Ergebnisoffen formulieren und Gegenargumente berücksichtigen.
Widersprüchliche Anweisungen Einzelne Anforderungen werden nicht angemessen erfüllt. Aufträge vereinfachen und Prioritäten festlegen.
Unrealistische Anforderungen Scheinbar vollständige, aber nicht zuverlässig bearbeitete Aufgaben. Verfügbare Werkzeuge und tatsächlichen Quellenzugriff berücksichtigen.
Fehlende Quellenkontrolle Übernahme unzutreffender oder erfundener Literaturangaben. Originalquellen tatsächlich überprüfen.
Fehlende Datenschutzprüfung Mögliche Verletzung der Vertraulichkeit medizinischer Daten. Zulässigkeit der Datenverarbeitung vor der Eingabe sicherstellen.
Fehlende Endkontrolle Unbemerkte Übernahme fachlicher Fehler. Eigenständige ärztliche Prüfung und Freigabe.

Ein weiterer häufiger Fehler besteht darin, von einem Sprachmodell absolute Sicherheit zu verlangen. Anweisungen wie «Ihre Antwort muss zu 100 % korrekt sein» oder «Sie dürfen keine Fehler machen» verändern nicht grundsätzlich die technischen Fähigkeiten des Modells.

Sinnvoller ist die Definition konkreter Kontrollaufgaben sowie die ausdrückliche Aufforderung, Unsicherheiten und nicht überprüfbare Aussagen offenzulegen.

Auch die Einhaltung solcher Kontrollanweisungen muss überprüft werden. Eine vom Sprachmodell selbst erklärte Fehlerfreiheit stellt keinen unabhängigen Nachweis der fachlichen Richtigkeit dar.

Weitere Strategien zur Qualitätssicherung und zur Integration künstlicher Intelligenz in standardisierte ärztliche Arbeitsprozesse werden im Beitrag Professioneller Umgang mit KI vorgestellt.

Eine universelle Prompt-Vorlage für medizinische Fachpersonen

Für die tägliche Zusammenarbeit mit künstlicher Intelligenz kann eine einfache, wiederverwendbare Vorlage hilfreich sein. Sie lässt sich entsprechend dem jeweiligen Arbeitsauftrag ergänzen oder verkürzen.

Universelle medizinische Prompt-Vorlage

1. Rolle und Zielgruppe

Bearbeiten Sie die Aufgabe aus folgender fachlicher Perspektive: […]

Die Zielgruppe des Ergebnisses ist: […]

2. Zielsetzung

Das Ziel des Arbeitsauftrages ist: […]

3. Kontext

Berücksichtigen Sie folgende Hintergrundinformationen und Rahmenbedingungen: […]

4. Arbeitsauftrag

Bearbeiten Sie folgende konkrete Aufgaben: […]

5. Anforderungen

Berücksichtigen Sie die folgenden fachlichen, wissenschaftlichen und formalen Vorgaben: […]

6. Ausgabeformat

Stellen Sie das Ergebnis in folgender Form dar: […]

7. Qualitätskontrolle

Prüfen Sie Ihre Antwort auf sachliche Fehler, widersprüchliche Aussagen, unbegründete Annahmen und fehlende Informationen. Kennzeichnen Sie Unsicherheiten sowie Aussagen, die nicht zuverlässig überprüft werden können.

Falls eine externe Recherche erforderlich ist, verwenden Sie tatsächlich zugängliche und geeignete Originalquellen. Legen Sie offen, welche Quellen Sie prüfen konnten und welche nicht.

Beurteilen Sie meine Aussagen kritisch und ergebnisoffen. Falls wesentliche Informationen fehlen, stellen Sie gezielte Rückfragen, bevor Sie mit der Bearbeitung beginnen.

Die Vorlage soll insbesondere den Einstieg in eine strukturierte Zusammenarbeit mit künstlicher Intelligenz erleichtern.

Bei regelmässig wiederkehrenden und komplexeren Tätigkeiten können zusätzliche Arbeitsanweisungen, verbindliche Formatvorgaben, Qualitätsstandards und Kontrollschritte dauerhaft in einem umfassenderen Masterprompt zusammengeführt werden.

Wie sich aus einer einfachen Prompt-Vorlage ein standardisierter und wiederverwendbarer medizinischer Arbeitsauftrag entwickeln lässt, wird im Beitrag Vom Prompt zum Masterprompt ausführlich erläutert.

Ein Experiment zum eigenen Ausprobieren

Der Einfluss unterschiedlich präziser Arbeitsaufträge lässt sich anhand einer einfachen medizinischen Aufgabenstellung selbst untersuchen.

Verwenden Sie für die folgenden drei Arbeitsaufträge möglichst dasselbe Sprachmodell mit identischen Einstellungen. Beginnen Sie jeweils ein neues Gespräch. Falls möglich, verwenden Sie einen Modus, in dem frühere Gesprächsinhalte und gespeicherte persönliche Präferenzen nicht berücksichtigt werden.

Prompt A – Allgemeine Fragestellung

«Erklären Sie die Computertomographie.»

Prompt B – Definition der Zielgruppe

«Erklären Sie die Computertomographie für Patientinnen und Patienten ohne medizinische Vorkenntnisse.»

Prompt C – Strukturierter Arbeitsauftrag

«Erstellen Sie eine maximal 250 Wörter umfassende, allgemein verständliche Patienteninformation zur Computertomographie. Erläutern Sie das Untersuchungsprinzip, den Ablauf, die mögliche Verwendung von Kontrastmitteln, die Strahlenexposition und die Notwendigkeit einer medizinischen Indikation. Verwenden Sie kurze Sätze und vermeiden Sie pauschale Sicherheitsversprechen sowie nicht überprüfte quantitative Angaben.»

Auswertung des Experiments

Vergleichen Sie die drei Ergebnisse hinsichtlich folgender Kriterien:

  • Verständlichkeit für die vorgesehene Zielgruppe.
  • Vollständigkeit der relevanten Informationen.
  • Fachliche Richtigkeit der Aussagen.
  • Übersichtlichkeit und Struktur.
  • Angemessener Umgang mit medizinischen Risiken.
  • Erforderlicher ärztlicher Korrekturaufwand.

Entscheidend ist nicht, welche Antwort am umfangreichsten oder sprachlich eindrucksvollsten erscheint. Entscheidend ist, welche Antwort für den vorgesehenen Zweck tatsächlich am besten geeignet ist.

Einzelne Modellantworten ermöglichen allerdings keine wissenschaftlich belastbare Beurteilung der Wirksamkeit einer Prompt-Technik. Das Experiment dient der praktischen Sensibilisierung für den Einfluss unterschiedlicher Arbeitsaufträge.

Neben der Gestaltung des Prompts können auch die Variabilität der Textgenerierung, die verwendete Modellversion und weitere technische Rahmenbedingungen das Ergebnis beeinflussen. Die beobachteten Unterschiede lassen sich deshalb nicht zwangsläufig ausschliesslich auf die Formulierung des Arbeitsauftrages zurückführen.

Prompt Engineering und die Empfehlungen der FMH

Die Verbindung der Schweizer Ärztinnen und Ärzte (FMH) behandelt die Gestaltung von Arbeitsaufträgen sowohl in ihren übergeordneten Empfehlungen zum Umgang mit grossen Sprachmodellen als auch in einem ergänzenden Fachbeitrag zum Prompt Engineering [6, 7].

Die vierte der insgesamt acht Empfehlungen widmet sich ausdrücklich dem gezielten Einsatz von Prompt Design. Darüber hinaus besteht ein enger Zusammenhang mit weiteren Empfehlungen zur fachlichen Kontrolle und zum verantwortungsvollen Umgang mit medizinischen Informationen.

FMH-Empfehlung Bedeutung für das Prompt Engineering
Nr. 1 – Datenschutzkonforme Systeme Bereits vor der Formulierung des Arbeitsauftrages prüfen, welche Informationen dem KI-System übermittelt werden dürfen.
Nr. 2 – Kritische Ergebnisprüfung Erzeugte Inhalte eigenständig beurteilen und gegebenenfalls korrigieren oder verwerfen.
Nr. 3 – Bestehende Fachkompetenz Medizinische Aufgaben nur in Bereichen bearbeiten lassen, in denen eine ausreichende fachliche Ergebniskontrolle möglich ist.
Nr. 4 – Gezieltes Prompt Design Arbeitsaufträge eindeutig, zielgerichtet und unter Berücksichtigung relevanter Hintergrundinformationen formulieren.
Nr. 7 – Grenzen der Technologie Realistische Anforderungen stellen und die verbleibenden technischen und fachlichen Einschränkungen berücksichtigen.

Redaktionelle Zusammenfassung und Übertragung ausgewählter FMH-Empfehlungen auf die praktische Gestaltung medizinischer Prompts. Die dargestellten Konsequenzen sind keine wörtlichen Zitate der FMH.

Prompt Engineering ist damit nicht allein als Methode zur Effizienzsteigerung zu verstehen. Geeignete Arbeitsaufträge können auch dazu beitragen, den Einsatz künstlicher Intelligenz besser zu strukturieren, nachvollziehbarer zu gestalten und mögliche Fehlerquellen frühzeitig zu identifizieren.

Zum Fachbeitrag der FMH über Prompt Engineering

Zu den acht Empfehlungen der FMH zum Umgang mit grossen Sprachmodellen im ärztlichen Alltag

Fazit

Prompt Engineering ist eine grundlegende Kompetenz für die professionelle Zusammenarbeit mit künstlicher Intelligenz. Die Fähigkeit, Aufgaben klar zu definieren, relevante Informationen bereitzustellen und konkrete Anforderungen an das Ergebnis zu formulieren, kann die Qualität und Effizienz der KI-gestützten Arbeit verbessern.

Für medizinische Fachpersonen sind insbesondere die Definition der Zielgruppe, die Berücksichtigung des klinischen Kontextes, die ergebnisoffene Formulierung von Fragestellungen, die Verwendung geeigneter wissenschaftlicher Quellen und die abschliessende fachliche Kontrolle von Bedeutung.

Unterschiedliche Prompt-Techniken eröffnen zahlreiche Möglichkeiten, von einfachen sprachlichen Aufgaben bis hin zu komplexen wissenschaftlichen Arbeitsprozessen. Ihre Wirksamkeit ist jedoch abhängig von der jeweiligen Aufgabenstellung und den Fähigkeiten des verwendeten Sprachmodells.

Ein noch so sorgfältig formulierter Prompt kann weder die sachliche Richtigkeit einer Antwort garantieren noch die medizinische Fachkompetenz und Verantwortung der behandelnden Ärztinnen und Ärzte ersetzen.

Wer künstliche Intelligenz regelmässig für ähnliche Aufgaben verwendet, wird feststellen, dass zahlreiche Anforderungen immer wieder formuliert werden müssen. Diese wiederkehrenden Arbeitsanweisungen lassen sich in standardisierten Prompt-Vorlagen und umfassenderen Masterprompts zusammenführen.

Die professionelle Nutzung künstlicher Intelligenz beginnt nicht mit der richtigen Antwort, sondern mit der Fähigkeit, eine geeignete Aufgabe zu formulieren und das erhaltene Ergebnis kritisch zu beurteilen.

Weiterführende Beiträge

Dieser Beitrag ist Teil unserer zwölfteiligen Fachartikelserie zur künstlichen Intelligenz in der Medizin. Die folgenden Beiträge vertiefen die technologischen Grundlagen, die Gestaltung komplexerer Arbeitsaufträge und die Integration künstlicher Intelligenz in den ärztlichen Alltag.

Literatur

  1. Brown TB, Mann B, Ryder N, Subbiah M, Kaplan J, Dhariwal P, et al. Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems. 2020;33:1877–1901. Originalpublikation.
  2. Wei J, Wang X, Schuurmans D, Bosma M, Ichter B, Xia F, et al. Chain-of-Thought Prompting Elicits Reasoning in Large Language Models. Advances in Neural Information Processing Systems. 2022;35. Originalpublikation.
  3. Nori H, Lee YT, Zhang S, Carignan D, Edgar R, Fusi N, et al. Can Generalist Foundation Models Outcompete Special-Purpose Tuning? Case Study in Medicine. arXiv [Preprint]. 2023. arXiv:2311.16452.
  4. Horvitz E. The Power of Prompting. Microsoft Research. 28.11.2023. Forschungsbericht mit grafischer Darstellung der Medprompt-Ergebnisse.
  5. Xiao Y, Chen Z, Zhang J. Mitigating medical bias in large language models by prompt engineering: an empirical study of effectiveness and trade-offs. Philos Trans A Math Phys Eng Sci. 2026;384(2324):20250125. DOI: 10.1098/rsta.2025.0125.
  6. FMH. Empfehlungen der FMH zum Umgang mit grossen Sprachmodellen (LLMs) im ärztlichen Alltag. Verbindung der Schweizer Ärztinnen und Ärzte. Originalveröffentlichung. Abgerufen am 18.11.2026.
  7. FMH. Das Prompt-Engineering. Verbindung der Schweizer Ärztinnen und Ärzte. Originalveröffentlichung. Abgerufen am 18.11.2026.
Nach oben scrollen