02 | Was sind grosse Sprachmodelle (LLM)?

Grosse Sprachmodelle, englisch Large Language Models (LLM), bilden die technologische Grundlage zahlreicher moderner Anwendungen künstlicher Intelligenz. Sie können medizinische Fachtexte formulieren, wissenschaftliche Veröffentlichungen zusammenfassen, Informationen strukturieren und komplexe Fragestellungen bearbeiten. Ihre Fähigkeit, sich in natürlicher Sprache auszudrücken, vermittelt dabei bisweilen den Eindruck, mit einem fachkundigen menschlichen Gesprächspartner zu kommunizieren.

Für den verantwortungsvollen Einsatz solcher Systeme im ärztlichen Alltag ist es jedoch wichtig, ihre grundlegende Funktionsweise zu verstehen. Wie entsteht ein grosses Sprachmodell? Was geschieht während des Trainings? Wie verarbeitet es eine Fragestellung, und weshalb kann es sowohl medizinisch korrekte als auch vollkommen falsche Antworten erzeugen? Die Kenntnis dieser Mechanismen erleichtert die Beurteilung KI-generierter Informationen und ermöglicht einen gezielteren Einsatz in der medizinischen Praxis.

Dieser Beitrag vertieft die technischen Grundlagen unserer Artikelserie zur künstlichen Intelligenz in der Medizin. Eine Einführung in die unterschiedlichen KI-Technologien sowie ein umfangreiches Glossar finden Sie im Grundlagenartikel Was ist künstliche Intelligenz?.

Inhaltsverzeichnis anzeigen
  1. Was ist ein Sprachmodell?
  2. Tokens – die Bausteine der Sprache
  3. Wie entsteht eine Antwort?
  4. Wie wird ein Sprachmodell trainiert?
  5. Modellparameter – das erlernte Wissen
  6. Transformer und Attention
  7. Lernen durch menschliches Feedback
  8. Kontext und Kontextfenster
  9. Lernen, Kontext und Gedächtnis
  10. Verfügen Sprachmodelle über Wissen?
  11. Die Integration externer Wissensquellen
  12. Warum unterscheiden sich KI-Antworten?
  13. Sprachmodelle in der medizinischen Praxis
  14. Bedeutung für die Schweizer Arztpraxis
  15. Fazit
  16. Weiterführende Beiträge
  17. Literatur

Was ist ein Sprachmodell?

Ein Sprachmodell ist ein mathematisches Modell, das statistische Zusammenhänge sprachlicher Einheiten abbildet. Generative Sprachmodelle können auf der Grundlage einer vorgegebenen Eingabe weitere sprachliche Inhalte erzeugen. Hierzu nutzen sie Zusammenhänge, die während des Trainings anhand umfangreicher Datenbestände erfasst wurden.

Die Bezeichnung Large Language Model bezieht sich insbesondere auf den erheblichen Umfang des Modells, seiner Trainingsdaten und seiner numerischen Parameter. Eine allgemein verbindliche Mindestgrösse, ab der ein Sprachmodell als LLM bezeichnet wird, existiert nicht.

Moderne grosse Sprachmodelle sind nicht ausschliesslich auf einzelne Aufgaben wie Übersetzungen oder Textkorrekturen spezialisiert. Ein entsprechend trainiertes Modell kann zahlreiche unterschiedliche sprachliche Aufgaben bearbeiten, ohne dass für jede einzelne Aufgabe ein neues Modell entwickelt werden muss [1].

Grundprinzip: Ein grosses Sprachmodell verarbeitet Sprache mithilfe mathematischer Verfahren. Seine Fähigkeit, medizinische Fachsprache zu verwenden, ist nicht mit einer ärztlichen Ausbildung oder klinischer Erfahrung gleichzusetzen.

Tokens – die Bausteine der Sprache

Computer können menschliche Sprache nicht unmittelbar in ihrer schriftlichen Form verarbeiten. Bevor ein modernes Sprachmodell eine Texteingabe analysiert, wird diese deshalb in kleinere Einheiten zerlegt. Diese Verarbeitungseinheiten werden als Tokens bezeichnet. Der entsprechende Verarbeitungsschritt heisst Tokenisierung.

Ein Token kann einem vollständigen Wort, einem Wortbestandteil, einem Satzzeichen oder anderen Zeichen beziehungsweise Zeichenfolgen entsprechen. Wie ein bestimmter Text zerlegt wird, hängt vom verwendeten Tokenisierungsverfahren ab. Anschliessend werden die Tokens durch numerische Kennungen repräsentiert und für die Verarbeitung im neuronalen Netzwerk in mathematische Darstellungen überführt.

Beispiel einer vereinfachten Tokenisierung

Ausgangswort: Blutdruckmessung

Blut
druck
mess
ung

Schematische Darstellung. Die tatsächliche Zerlegung kann sich zwischen verschiedenen Sprachmodellen unterscheiden.

Die Unterscheidung zwischen Wörtern und Tokens ist für den Anwender insbesondere deshalb relevant, weil technische Beschränkungen von Sprachmodellen häufig in Tokens angegeben werden. Dies betrifft unter anderem den Umfang der Informationen, die innerhalb eines Verarbeitungsvorgangs berücksichtigt werden können, und die maximal mögliche Länge einer Antwort.

Wie entsteht eine Antwort?

Viele generative Sprachmodelle arbeiten nach einem autoregressiven Prinzip. Dabei wird auf der Grundlage der bereits vorhandenen Tokenfolge eine Wahrscheinlichkeitsverteilung für mögliche nachfolgende Tokens berechnet. Nach Auswahl eines Tokens wird dieses der bisherigen Sequenz hinzugefügt. Der Vorgang wiederholt sich, bis ein vorgesehenes Abbruchkriterium erreicht ist, beispielsweise das Ende der Antwort oder eine technische Längenbegrenzung [1, 2].

Dieses Prinzip lässt sich anhand einer einfachen Satzergänzung nachvollziehen. Angenommen, die Eingabe lautet: «Die häufigste Ursache einer bakteriellen ambulant erworbenen Pneumonie ist …». Unterschiedliche Fortsetzungen können sprachlich plausibel sein. Welche davon medizinisch richtig ist, hängt jedoch unter anderem von der betrachteten Patientenpopulation, der Definition und der zugrunde liegenden wissenschaftlichen Evidenz ab.

Didaktisches Beispiel einer Wahrscheinlichkeitsverteilung

Die Eingabe lautet: «Der Patient klagt über …»

Husten – 40 %

Schmerzen – 30 %

Schwindel – 20 %

Weitere Fortsetzungen – 10 %

Rein hypothetische, frei gewählte Zahlen zur Veranschaulichung einer Wahrscheinlichkeitsverteilung. Es handelt sich weder um gemessene Modellwahrscheinlichkeiten noch um klinische Häufigkeiten. Zugunsten der Verständlichkeit werden vollständige Wörter anstelle einzelner Tokens dargestellt.

Die Wahrscheinlichkeit einer sprachlichen Fortsetzung ist nicht mit der Wahrscheinlichkeit eines medizinischen Sachverhaltes gleichzusetzen. Ein Sprachmodell kann eine statistisch plausible Aussage erzeugen, obwohl diese im konkreten klinischen Zusammenhang unzutreffend ist.

Merksatz: Die Wahrscheinlichkeit eines nachfolgenden Tokens ist keine diagnostische Wahrscheinlichkeit und kein unmittelbares Mass für die wissenschaftliche Richtigkeit einer Aussage.

Warum auf diese Weise überzeugend formulierte, aber sachlich falsche Informationen entstehen können, erläutert der Beitrag Grenzen künstlicher Intelligenz.

Wie wird ein Sprachmodell trainiert?

Die Entwicklung eines grossen Sprachmodells erfolgt häufig in mehreren Trainingsphasen. Dabei ist insbesondere zwischen dem grundlegenden Training eines Modells und seiner anschliessenden Anpassung an konkrete Aufgaben oder gewünschte Verhaltensweisen zu unterscheiden.

Pre-Training – das grundlegende Training

Während des Pre-Trainings verarbeitet das Modell umfangreiche Datenbestände. Bei autoregressiven Sprachmodellen besteht eine zentrale Trainingsaufgabe darin, nachfolgende Tokens vorherzusagen. Die Trainingssequenz liefert dabei selbst die Information darüber, welches Token tatsächlich als Nächstes folgt. Ein solches Verfahren wird als selbstüberwachtes Lernen bezeichnet.

Mithilfe einer mathematischen Verlustfunktion wird beurteilt, wie gut die Modellvorhersagen mit den vorgegebenen Zielinformationen übereinstimmen. Entsprechende Optimierungsverfahren passen anschliessend die Parameter des neuronalen Netzwerkes an. Durch die vielfache Wiederholung dieses Vorgangs kann das Modell zunehmend komplexe sprachliche und inhaltliche Zusammenhänge erfassen [1].

Schematischer Ablauf des Pre-Trainings

1. Trainingssequenz
«Das Herz befindet sich im Thorax.»
↓
2. Vorhersageaufgabe
«Das Herz befindet sich im …»
↓
3. Vergleich mit der Trainingssequenz
Erfassung der Abweichung zwischen Modellvorhersage und tatsächlicher Fortsetzung
↓
4. Anpassung der Modellparameter
↻
Wiederholung anhand weiterer Trainingssequenzen

Didaktisch vereinfachtes Schema eines autoregressiven Trainingsverfahrens. Die tatsächliche Optimierung erfolgt anhand zahlreicher Tokenvorhersagen.

Im Verlauf des Trainings erfasst das Modell nicht nur grammatikalische Regelmässigkeiten. Es kann auch Beziehungen zwischen Begriffen, typische Argumentationsstrukturen, fachsprachliche Ausdrucksweisen und faktische Zusammenhänge in seinen Parametern abbilden.

Die Bedeutung der Trainingsdaten

Die Zusammensetzung der Trainingsdaten beeinflusst, welche sprachlichen, fachlichen und kulturellen Zusammenhänge ein Modell erfasst. Medizinische Informationen können aus wissenschaftlichen Veröffentlichungen, Lehrbüchern, öffentlich verfügbaren Webseiten oder anderen Datenquellen stammen. Welche Quellen tatsächlich verwendet wurden, ist insbesondere bei proprietären Modellen nicht immer vollständig nachvollziehbar.

Trainingsdaten können zudem widersprüchliche, veraltete oder systematisch verzerrte Informationen enthalten. Die FMH weist in diesem Zusammenhang auf die Bedeutung kultureller und geografischer Verzerrungen hin [3]. Für die medizinische Praxis ist dies relevant, wenn beispielsweise internationale Empfehlungen ohne entsprechende Prüfung auf nationale Versorgungsbedingungen übertragen werden.

Fine-Tuning – die gezielte Anpassung

Ein bereits vortrainiertes Sprachmodell kann durch weitere Trainingsschritte an bestimmte Anforderungen angepasst werden. Dieses Verfahren wird als Fine-Tuning bezeichnet. Dabei können beispielsweise die Verarbeitung medizinischer Fachsprache, die Befolgung von Anweisungen oder bestimmte Formen der Textgenerierung optimiert werden.

Eine medizinische Spezialisierung bedeutet allerdings nicht automatisch, dass das betreffende Modell für konkrete diagnostische oder therapeutische Entscheidungen ausreichend validiert ist. Die technische Anpassung und der Nachweis einer klinischen Eignung sind unterschiedliche Vorgänge.

Modellparameter – das erlernte Wissen

Modellparameter sind numerische Werte innerhalb eines neuronalen Netzwerkes, die während des Trainings angepasst werden. Sie beeinflussen, wie Informationen verarbeitet und welche Ergebnisse bei einer bestimmten Eingabe erzeugt werden.

Modellparameter dürfen nicht mit einzelnen gespeicherten Fakten verwechselt werden. Es existiert normalerweise kein eindeutig identifizierbarer Parameter, in dem beispielsweise die Definition einer Pneumonie oder der Normalwert eines Laborparameters hinterlegt ist. Vielmehr werden erlernte Zusammenhänge verteilt über zahlreiche Netzwerkparameter repräsentiert.

Wie gross ist ein grosses Sprachmodell?

Ein historisches Beispiel für die Entwicklung grosser Sprachmodelle ist GPT-3, das 2020 in einer wissenschaftlichen Originalpublikation beschrieben wurde. Die grösste untersuchte Modellvariante verfügte über 175 Milliarden Parameter [1].

GPT-3 (2020)

175 Milliarden

Modellparameter

Historisch dokumentierte Modellgrösse nach Brown et al. [1]. Die Angabe beschreibt keine aktuelle Modellversion.

Eine höhere Parameterzahl ist für sich genommen kein Qualitätsnachweis. Neben der Architektur spielen unter anderem die Qualität der Trainingsdaten, die verwendeten Trainingsverfahren und die Anpassung an den vorgesehenen Aufgabenbereich eine Rolle. Ein kleineres, gezielt angepasstes Modell kann bei einer definierten Aufgabe bessere Ergebnisse erzielen als ein grösseres, weniger geeignetes Modell.

Transformer und Attention

Eine wesentliche technologische Grundlage zahlreicher moderner Sprachmodelle bildet die Transformer-Architektur. Sie wurde 2017 von Vaswani und Mitarbeitern in der Originalpublikation «Attention Is All You Need» vorgestellt [2]. Ein zentrales Merkmal dieser Architektur ist die Verwendung von Attention-Mechanismen zur Verarbeitung von Beziehungen zwischen verschiedenen Bestandteilen einer Eingabesequenz.

Für das Verständnis natürlicher Sprache ist nicht allein die Bedeutung eines isolierten Wortes entscheidend. Ebenso wichtig ist der Zusammenhang, in dem dieses Wort verwendet wird. Der Attention-Mechanismus ermöglicht es einem Modell, Informationen aus unterschiedlichen verfügbaren Positionen einer Sequenz miteinander zu verknüpfen und unterschiedlich zu gewichten.

Ein Beispiel aus dem medizinischen Sprachgebrauch

Die Bedeutung des Wortes «Herd» lässt sich ohne weiteren Zusammenhang nicht eindeutig bestimmen. In der Alltagssprache kann damit ein Küchengerät gemeint sein. In der medizinischen Sprache kann es sich hingegen um eine umschriebene pathologische Veränderung handeln.

Identisches Wort – unterschiedliche Bedeutung

Alltagssprache

Die Küche verfügt über einen modernen Herd.

Medizinische Fachsprache

In der Leber zeigt sich ein hypodens imponierender Herd.

Didaktische Darstellung der Kontextabhängigkeit von Sprache. Die farblichen Markierungen stellen keine gemessenen Attention-Gewichte dar.

Die Verarbeitung des sprachlichen Zusammenhangs ermöglicht eine kontextabhängige Repräsentation einzelner Tokens. Hierdurch kann ein Sprachmodell beispielsweise medizinische Fachbegriffe von gleichlautenden Ausdrücken der Alltagssprache unterscheiden.

Attention ist allerdings nicht mit menschlicher Aufmerksamkeit im psychologischen Sinne gleichzusetzen. Es handelt sich um ein mathematisches Verfahren zur Informationsverarbeitung innerhalb eines neuronalen Netzwerkes.

Lernen durch menschliches Feedback

Ein ausschliesslich vortrainiertes Sprachmodell ist nicht zwangsläufig dafür optimiert, Fragen zu beantworten oder Arbeitsaufträge zuverlässig zu befolgen. Die Vorhersage sprachlicher Fortsetzungen und die Erfüllung einer konkreten Anwenderanforderung sind unterschiedliche Zielsetzungen.

Deshalb werden viele Sprachmodelle nach dem Pre-Training durch zusätzliche Verfahren angepasst. Ein historisch bedeutsames Beispiel ist das von Ouyang und Mitarbeitern 2022 beschriebene Reinforcement Learning from Human Feedback (RLHF) [4].

Bei dem beschriebenen Verfahren wurden zunächst geeignete Beispielantworten für ein zusätzliches überwachtes Training verwendet. Anschliessend bewerteten Menschen unterschiedliche Modellantworten. Anhand dieser Bewertungen wurde ein sogenanntes Reward Model trainiert, das als Grundlage für die weitere Optimierung mittels Reinforcement Learning diente.

Vereinfachte Darstellung der Modellentwicklung

Pre-Training
Aufbau grundlegender sprachlicher und inhaltlicher Fähigkeiten
↓
Überwachtes Fine-Tuning
Anpassung anhand geeigneter Beispielantworten
↓
Menschliches Feedback
Bewertung und Vergleich unterschiedlicher Antworten
↓
Reward Model und Reinforcement Learning
Modellierung menschlicher Präferenzen und darauf basierende Optimierung des Sprachmodells
↓
Angepasstes Sprachmodell
Anpassung an gewünschte Antwort- und Verhaltensweisen

Schematische Darstellung in Anlehnung an das bei InstructGPT beschriebene Trainingsverfahren [4]. Andere Sprachmodelle können abweichende Optimierungsverfahren verwenden.

Durch solche Anpassungen können Sprachmodelle besser auf konkrete Aufgabenstellungen eingehen. Allerdings ist die menschliche Bewertung einer Antwort nicht zwangsläufig mit ihrer objektiven Richtigkeit gleichzusetzen. Eine freundlich formulierte, überzeugende oder den Erwartungen des Anwenders entsprechende Antwort kann weiterhin sachliche Fehler enthalten.

Die Frage, weshalb Sprachmodelle bisweilen unkritisch den Ansichten ihrer Anwender zustimmen, wird im Beitrag Wenn KI uns recht gibt vertieft.

Kontext und Kontextfenster

Um eine Fragestellung bearbeiten zu können, benötigt ein Sprachmodell nicht nur die während des Trainings erworbenen Fähigkeiten, sondern auch Informationen zur aktuellen Aufgabe. Die Gesamtheit der für einen Verarbeitungsvorgang bereitgestellten Informationen wird als Kontext bezeichnet.

Zum Kontext können die aktuelle Fragestellung, frühere Gesprächsinhalte, ergänzende Anweisungen, bereitgestellte Dokumente und Ergebnisse externer Informationsrecherchen gehören. Das Kontextfenster beschreibt die technisch begrenzte Länge der Tokenfolge, die ein Modell innerhalb eines Verarbeitungsvorgangs berücksichtigen kann. Je nach Modell und Anwendung müssen dabei auch die für die Antwort benötigten Tokens berücksichtigt werden.

Informationsquellen innerhalb eines Kontextfensters

Aufgabenstellung
Frühere Gesprächsinhalte
Dokumente und Daten
Ergänzende Anweisungen
↓
Verarbeitung durch das Sprachmodell
↓
Generierung einer kontextbezogenen Antwort

Ein grosses Kontextfenster garantiert keine vollständige Informationsverarbeitung

Selbst wenn ein Sprachmodell technisch umfangreiche Dokumente verarbeiten kann, bedeutet dies nicht zwangsläufig, dass sämtliche darin enthaltenen Informationen gleich zuverlässig berücksichtigt werden.

Liu und Mitarbeiter untersuchten diesen Zusammenhang anhand zweier experimenteller Aufgaben: der Beantwortung von Fragen mithilfe mehrerer Dokumente und dem gezielten Abruf einzelner Informationen aus längeren Eingaben. Bei den untersuchten Modellen konnte bereits die Position einer relevanten Information innerhalb des Kontextes die Bearbeitungsqualität beeinflussen. Besonders Informationen in der Mitte längerer Eingaben wurden teilweise weniger zuverlässig berücksichtigt [5].

Die Untersuchung wurde 2024 veröffentlicht und beschreibt das Verhalten der damals untersuchten Modelle. Ihre Ergebnisse dürfen nicht unverändert auf sämtliche späteren Modellgenerationen übertragen werden. Sie verdeutlichen jedoch, weshalb die technische Möglichkeit zur Verarbeitung langer Texte allein kein ausreichendes Qualitätskriterium darstellt.

Praktische Konsequenz: Bei der Bearbeitung umfangreicher medizinischer Dokumente empfiehlt es sich, zentrale Fragestellungen eindeutig zu formulieren und besonders wichtige Informationen gezielt überprüfen zu lassen. Eine vollständige Berücksichtigung sämtlicher Dokumenteninhalte darf nicht ungeprüft vorausgesetzt werden.

Methodische Empfehlungen zur Formulierung geeigneter Arbeitsaufträge finden Sie im Beitrag Prompt Engineering – richtig fragen.

Lernen, Kontext und Gedächtnis

Wer regelmässig mit einem Sprachmodell arbeitet, kann den Eindruck gewinnen, dass das System zunehmend mit der eigenen Arbeitsweise vertraut wird. Es berücksichtigt beispielsweise wiederkehrende Anforderungen, sprachliche Präferenzen oder bereits besprochene Themen. Hierbei müssen jedoch unterschiedliche technische Vorgänge voneinander abgegrenzt werden.

Vorgang Technisches Prinzip Beispiel
Training Anpassung der Modellparameter Weiterentwicklung eines medizinischen Sprachmodells
Kontextverarbeitung Berücksichtigung aktuell bereitgestellter Informationen Überarbeitung eines zuvor formulierten Arztbriefes
In-Context Learning Anpassung der Aufgabenbearbeitung anhand von Anweisungen oder Beispielen im Kontext ohne Veränderung der Modellparameter Übernahme einer vorgegebenen Befundstruktur
Personalisierung und Memory-Funktionen Erneute Bereitstellung ausgewählter gespeicherter oder aus früheren Interaktionen abgeleiteter Informationen durch die Anwendung Berücksichtigung eines bevorzugten Schreibstils

Ein Sprachmodell muss seine Parameter nicht verändern, um eine neu bereitgestellte Anweisung zu berücksichtigen. Brown und Mitarbeiter beschrieben bereits 2020 die Fähigkeit grosser Sprachmodelle, Aufgaben anhand von Beispielen innerhalb einer Eingabe zu bearbeiten, ohne hierfür ein erneutes Training durchzuführen [1].

Davon zu unterscheiden sind Funktionen einer Anwendung, die Informationen über einzelne Verarbeitungsvorgänge hinaus speichern und bei späteren Anfragen erneut bereitstellen können. Welche Informationen gespeichert werden, wie lange sie verfügbar bleiben und ob Anwender sie kontrollieren können, hängt von der jeweiligen Anwendung und ihrer Konfiguration ab.

Merksatz: Wenn eine KI-Anwendung frühere Anweisungen berücksichtigt, bedeutet dies nicht automatisch, dass das zugrunde liegende Sprachmodell durch die Zusammenarbeit mit dem Anwender neu trainiert wurde.

Für wiederkehrende medizinische Arbeitsaufträge empfiehlt sich daher eine ausdrücklich formulierte und separat dokumentierte Arbeitsanweisung. Wie eine solche Anweisung entwickelt werden kann, erläutert der Beitrag Vom Prompt zum Masterprompt.

Die technischen Unterschiede zwischen dem Sprachmodell und den zusätzlichen Funktionen einer KI-Anwendung werden in Wie funktioniert ChatGPT? ausführlicher behandelt.

Verfügen Sprachmodelle über Wissen?

Die Frage, ob grosse Sprachmodelle über Wissen oder Verständnis verfügen, lässt sich nicht allein durch eine Beschreibung ihrer mathematischen Funktionsweise beantworten. Sie berührt auch grundsätzliche Fragen der Kognitionswissenschaft und der Definition menschlichen Verstehens.

Aus technischer Sicht können Sprachmodelle während des Trainings faktische Zusammenhänge in ihren Parametern repräsentieren. Sie können diese erlernten Zusammenhänge bei der Bearbeitung neuer Aufgaben nutzen. Die Fähigkeit, medizinisch relevante Informationen wiederzugeben und miteinander zu kombinieren, lässt sich experimentell untersuchen.

Singhal und Mitarbeiter untersuchten 2023 die Fähigkeiten grosser Sprachmodelle anhand verschiedener medizinischer Frage-Antwort-Datensätze. Hierzu entwickelten sie mit MultiMedQA eine Testumgebung, die sowohl medizinische Prüfungsfragen als auch Fragestellungen aus der Forschung und von medizinischen Laien umfasste. Neben der Beantwortung standardisierter Fragen wurden auch frei formulierte Antworten hinsichtlich ihrer fachlichen Qualität, möglicher Fehler und potenzieller Risiken bewertet [6].

Die Untersuchung dokumentierte erhebliche Fähigkeiten bei der Verarbeitung medizinischer Fragestellungen, zugleich aber relevante Einschränkungen. Die korrekte Beantwortung medizinischer Testfragen ist nicht mit dem Nachweis einer sicheren Anwendung bei realen Patienten gleichzusetzen.

Sprachliche Kompetenz ist keine klinische Erfahrung

Eine erfahrene Ärztin oder ein erfahrener Arzt beurteilt eine klinische Situation nicht allein anhand sprachlicher Informationen. Anamnese, körperliche Untersuchung, apparative Diagnostik, individuelle Risikofaktoren und klinische Erfahrung beeinflussen die Entscheidungsfindung. Ein Sprachmodell verarbeitet hingegen diejenigen Informationen, die ihm durch seine Eingaben oder ergänzende technische Systeme zugänglich gemacht werden.

Auch wenn ein Sprachmodell differenzierte medizinische Argumentationen erzeugen kann, lässt sich daraus weder ein menschliches Bewusstsein noch eine mit ärztlicher Erfahrung gleichwertige Kompetenz ableiten. Entscheidend für die medizinische Anwendung ist letztlich nicht die philosophische Einordnung des Systems, sondern die nachgewiesene Zuverlässigkeit seiner Ergebnisse unter den vorgesehenen Einsatzbedingungen.

Medizinische Konsequenz: Ein Sprachmodell kann medizinisches Wissen repräsentieren und bei Testaufgaben erfolgreich anwenden, ohne deshalb über eine nachgewiesene klinische Handlungskompetenz zu verfügen.

Diese Unterscheidung ist auch relevant, wenn einem Sprachmodell unterschiedliche fachärztliche Rollen zugewiesen werden. Der Beitrag KI als virtuelle Expertenrunde erläutert die Möglichkeiten und Grenzen derartiger Verfahren.

Die Integration externer Wissensquellen

Die während des Trainings erfassten Zusammenhänge sind in den Modellparametern repräsentiert. Die entsprechenden Informationen lassen sich nicht ohne Weiteres einzeln aktualisieren oder einer bestimmten Originalquelle zuordnen. Dies stellt insbesondere bei wissenschaftlichen und medizinischen Fragestellungen eine relevante Einschränkung dar.

Eine Möglichkeit zur Ergänzung des modellintern repräsentierten Wissens ist die Integration externer Informationsquellen. Ein entsprechendes technisches Konzept wird als Retrieval-Augmented Generation (RAG) bezeichnet. Lewis und Mitarbeiter beschrieben 2020 ein Verfahren, bei dem ein vortrainiertes Sprachmodell mit einer externen Informationssammlung kombiniert wurde [7].

Bei einer entsprechenden Anwendung werden relevante Dokumente oder Textabschnitte gesucht. Die abgerufenen Informationen fliessen anschliessend in die Generierung der Antwort ein. Die konkrete technische Umsetzung kann sich zwischen verschiedenen RAG-Systemen unterscheiden.

Retrieval-Augmented Generation (RAG)

Medizinische Fragestellung
↓
Abruf relevanter Informationen
Beispielsweise Leitlinien oder wissenschaftliche Dokumente
↓
Bereitstellung der gefundenen Inhalte für das Sprachmodell
↓
Generierung einer quellenbezogenen Antwort
↓
Unabhängige fachliche Kontrolle der Aussagen und Quellen

Vereinfachtes Funktionsschema einer RAG-Anwendung, ergänzt um die für den medizinischen Einsatz erforderliche fachliche Kontrolle.

Ein Beispiel aus der ärztlichen Praxis

Eine Hausärztin möchte wissen, welche Untersuchungen eine aktuelle medizinische Leitlinie bei einer bestimmten klinischen Fragestellung empfiehlt. Ein Sprachmodell ohne Zugriff auf diese Leitlinie kann versuchen, eine Antwort anhand seiner erlernten Informationen zu formulieren. Ein System mit geeigneter Informationsrecherche kann hingegen zunächst die betreffende Leitlinie abrufen und deren Inhalte bei der Antwort berücksichtigen.

Allerdings kann auch eine quellenbezogene Antwort fehlerhaft sein. Das System könnte eine unpassende Veröffentlichung auswählen, relevante Abschnitte übersehen oder die Empfehlungen unzutreffend interpretieren. Der Zugriff auf externe Informationen verbessert die Voraussetzungen für eine überprüfbare Antwort, ersetzt jedoch nicht die Kontrolle der Originalquelle.

Externe Recherche ist nicht mit wissenschaftlicher Validierung gleichzusetzen

Nicht jede webgestützte KI-Recherche entspricht einer bestimmten RAG-Architektur. Ebenso wenig ist die Anzeige eines Literaturverweises ein Beweis dafür, dass die betreffende Publikation vollständig eingesehen und ihre Aussage richtig verstanden wurde.

Wie wissenschaftliche Quellen recherchiert, überprüft und für medizinische Fragestellungen ausgewertet werden können, erläutert der Beitrag KI und medizinische Literaturrecherche.

Warum unterscheiden sich KI-Antworten?

Wer einem generativen Sprachmodell dieselbe Frage mehrfach stellt, erhält möglicherweise unterschiedlich formulierte und gelegentlich auch inhaltlich voneinander abweichende Antworten. Dies kann unter anderem mit den eingesetzten Verfahren zur Auswahl nachfolgender Tokens zusammenhängen.

Bei bestimmten Generierungsverfahren wird ein technischer Parameter verwendet, der als Temperatur bezeichnet wird. Er beeinflusst die Wahrscheinlichkeitsverteilung, aus der nachfolgende Tokens ausgewählt werden können. Eine niedrigere Temperatur bevorzugt stärker die vom Modell höher bewerteten Fortsetzungen, während eine höhere Temperatur vielfältigere Fortsetzungen ermöglichen kann.

Eine niedrige Temperatur ist jedoch kein Verfahren zur wissenschaftlichen Faktenprüfung. Auch eine reproduzierbar erzeugte Antwort kann sachlich unzutreffend sein. Ebenso können der verfügbare Kontext, die Modellversion, die verwendeten Werkzeuge und weitere technische Einstellungen das Ergebnis beeinflussen.

Nicht alle KI-Anwendungen ermöglichen es dem Anwender, die Temperatur oder andere Generierungsparameter selbst einzustellen. Auch eine niedrige Temperatureinstellung gewährleistet nicht unter allen technischen Bedingungen identische Antworten.

Merksatz: Reproduzierbarkeit, sprachliche Präzision und wissenschaftliche Richtigkeit sind unterschiedliche Qualitätsmerkmale einer KI-generierten Antwort.

Sprachmodelle in der medizinischen Praxis

Eine besondere Stärke grosser Sprachmodelle besteht in der Verarbeitung unstrukturierter beziehungsweise frei formulierter Informationen. Gerade in der Medizin sind viele relevante Informationen nicht ausschliesslich in standardisierten Datenfeldern dokumentiert, sondern in Anamnesetexten, Verlaufsnotizen, Arztbriefen oder radiologischen Befunden.

Sprachmodelle können dazu eingesetzt werden, solche Informationen zu strukturieren, sprachlich zu überarbeiten oder gezielt relevante Angaben zu extrahieren. Für die medizinische Verwendung ist jedoch entscheidend, dass keine nicht dokumentierten Sachverhalte als tatsächlich erhobene Befunde ausgegeben werden.

Beispiel einer medizinischen Dokumentation

Fiktive ärztliche Stichworte:

Patient, 62 Jahre, seit drei Tagen trockener Husten, Temperatur 37,8 °C, keine Dyspnoe, auskultatorisch vesikuläres Atemgeräusch.

Geeigneter Formulierungsvorschlag:

Bei dem 62-jährigen Patienten besteht seit drei Tagen trockener Husten ohne Dyspnoe. Die dokumentierte Körpertemperatur beträgt 37,8 °C. Auskultatorisch zeigt sich ein vesikuläres Atemgeräusch.

Problematischer Formulierungsvorschlag:

Der 62-jährige Patient leidet unter einem unkomplizierten viralen Atemwegsinfekt. Hinweise auf eine Pneumonie bestehen nicht.

Kritische Beurteilung:

Der zweite Formulierungsvorschlag ergänzt eine ätiologische Diagnose und eine diagnostische Schlussfolgerung, die anhand der vorliegenden Angaben nicht ausreichend gesichert sind. Insbesondere lässt sich eine Pneumonie anhand der genannten Befunde allein nicht zuverlässig ausschliessen. Die Aufgabe bestand lediglich darin, die dokumentierten Informationen sprachlich aufzubereiten.

Redaktionell konstruiertes Lehrbeispiel mit fiktiven Patientendaten. Es handelt sich nicht um tatsächlich erhobene Antworten eines bestimmten Sprachmodells.

Das Beispiel verdeutlicht einen grundsätzlichen Unterschied zwischen sprachlicher Aufbereitung und medizinischer Interpretation. Während bei der sprachlichen Aufbereitung der dokumentierte Sachverhalt erhalten bleiben soll, können bei einer medizinischen Interpretation zusätzliche Hypothesen erforderlich sein. Diese müssen jedoch fachlich begründet und entsprechend als solche gekennzeichnet werden.

Weitere praktische Anwendungsbeispiele finden Sie im Beitrag Künstliche Intelligenz in der Hausarztpraxis.

Bedeutung für die Schweizer Arztpraxis

Die von der FMH bereitgestellten Informationen zu grossen Sprachmodellen richten sich insbesondere an medizinische Fachpersonen. Sie unterstreichen die Bedeutung eines kritischen Verständnisses dieser Systeme für deren Integration in den ärztlichen Alltag [3].

Für die Schweizer Arztpraxis ist unter anderem die unterschiedliche geografische Herkunft medizinischer Informationen von Bedeutung. Ein allgemein trainiertes Sprachmodell kann beispielsweise Empfehlungen aus internationalen Leitlinien mit nationalen Regelungen vermischen. Dies kann sich auf Arzneimittelzulassungen, Vergütungsfragen, Vorsorgeempfehlungen oder organisatorische Versorgungsstrukturen auswirken.

Bei entsprechend relevanten Fragestellungen sollte deshalb ausdrücklich angegeben werden, dass sich die Antwort auf die Schweiz beziehen muss. Anschliessend sind die massgeblichen schweizerischen Quellen zu kontrollieren. Eine solche Kontextvorgabe verbessert die Ausrichtung der Fragestellung, garantiert jedoch keine korrekte Berücksichtigung sämtlicher nationaler Besonderheiten.

Modelltraining und Speicherung medizinischer Informationen

Für die ärztliche Praxis ist zudem die bereits erläuterte Unterscheidung zwischen Modelltraining, Kontextverarbeitung und Datenspeicherung von besonderer Bedeutung. Auch wenn eine Anwendung eingegebene Informationen nicht unmittelbar zum Training ihrer Modellparameter verwendet, können diese Informationen beispielsweise zur Bearbeitung von Anfragen übertragen oder gespeichert werden.

Der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte (EDÖB) weist darauf hin, dass das schweizerische Datenschutzgesetz des Bundes auf KI-gestützte Datenbearbeitungen anwendbar ist. Insbesondere müssen Zweck und mögliche Weiterverwendung personenbezogener Daten berücksichtigt werden [8].

Vor der Verarbeitung vertraulicher medizinischer Informationen sind deshalb die tatsächlichen technischen und vertraglichen Bedingungen des verwendeten Systems sowie die anwendbaren datenschutzrechtlichen und berufsrechtlichen Anforderungen zu prüfen. Eine Aussage des Anbieters, wonach eingegebene Daten nicht für das Modelltraining verwendet werden, reicht allein nicht aus, um die datenschutzrechtliche Eignung einer Anwendung für den ärztlichen Einsatz zu beurteilen.

Wichtige Unterscheidung: Der Ausschluss einer Verwendung von Patientendaten für das Modelltraining bedeutet weder, dass keine Datenspeicherung erfolgt, noch dass die Daten ausschliesslich lokal verarbeitet werden.

Die rechtlichen und berufsethischen Voraussetzungen werden ausführlich im Beitrag KI – Datenschutz und ärztliche Verantwortung erläutert.

Weiterführende Informationen zu den technischen Grundlagen und zum professionellen Einsatz grosser Sprachmodelle finden sich auf der offiziellen Website der FMH:

FMH – Grosse Sprachmodelle verstehen

Fazit

Grosse Sprachmodelle erfassen während des Trainings komplexe sprachliche und inhaltliche Zusammenhänge. Bei der Bearbeitung einer Fragestellung kombinieren sie ihre erlernten Fähigkeiten mit den aktuell bereitgestellten Informationen. Ihre Ergebnisse entstehen durch mathematische Verarbeitungsverfahren, deren Optimierungsziele nicht zwangsläufig mit wissenschaftlicher oder medizinischer Richtigkeit übereinstimmen.

Für den ärztlichen Anwender ist deshalb insbesondere die Unterscheidung zwischen Modelltraining, Kontextverarbeitung, Datenspeicherung und externer Informationsrecherche wichtig. Sie bildet die Grundlage für eine gezielte Kommunikation mit künstlicher Intelligenz und für die kritische Beurteilung ihrer Ergebnisse.

Wie diese Kenntnisse in einen strukturierten und verantwortungsvollen ärztlichen Arbeitsprozess integriert werden können, fasst der Beitrag Professioneller Umgang mit KI zusammen.

Wer verstehen möchte, weshalb künstliche Intelligenz Fehler macht, muss zunächst verstehen, wie ihre Antworten entstehen.

Weiterführende Beiträge

Dieser Beitrag ist Teil unserer zwölfteiligen Fachartikelserie zur künstlichen Intelligenz in der Medizin.

Literatur

  1. Brown TB, Mann B, Ryder N, Subbiah M, Kaplan J, Dhariwal P, et al. Language Models are Few-Shot Learners. Advances in Neural Information Processing Systems. 2020;33. Originalarbeit auf arXiv.
  2. Vaswani A, Shazeer N, Parmar N, Uszkoreit J, Jones L, Gomez AN, Kaiser L, Polosukhin I. Attention Is All You Need. Advances in Neural Information Processing Systems. 2017;30. Originalarbeit auf arXiv.
  3. Galli C. Grosse Sprachmodelle verstehen. Verbindung der Schweizer Ärztinnen und Ärzte (FMH). Zur Veröffentlichung. Abgerufen am 18.11.2026.
  4. Ouyang L, Wu J, Jiang X, Almeida D, Wainwright CL, Mishkin P, et al. Training language models to follow instructions with human feedback. Advances in Neural Information Processing Systems. 2022;35. Originalarbeit auf arXiv.
  5. Liu NF, Lin K, Hewitt J, Paranjape A, Bevilacqua M, Petroni F, Liang P. Lost in the Middle: How Language Models Use Long Contexts. Transactions of the Association for Computational Linguistics. 2024;12:157–173. DOI: 10.1162/tacl_a_00638.
  6. Singhal K, Azizi S, Tu T, Mahdavi SS, Wei J, Chung HW, et al. Large language models encode clinical knowledge. Nature. 2023;620(7972):172–180. DOI: 10.1038/s41586-023-06291-2. Frei zugänglicher Volltext.
  7. Lewis P, Perez E, Piktus A, Petroni F, Karpukhin V, Goyal N, et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems. 2020;33. Originalarbeit auf arXiv.
  8. Eidgenössischer Datenschutz- und Öffentlichkeitsbeauftragter (EDÖB). KI und Datenschutz. Veröffentlicht am 24.09.2025. Zur offiziellen Veröffentlichung.
Nach oben scrollen