Sprachmodell
Ein Sprachmodell ist ein Verfahren, das aus großen Textmengen gelernt hat, Sprache fortzusetzen — die Grundlage heutiger KI-Assistenten.
Ein Sprachmodell ist ein Verfahren, das aus sehr großen Textmengen gelernt hat, wie Sprache weitergeht. Gibt man ihm einen Anfang, setzt es ihn fort — Wort für Wort, jeweils mit dem, was nach allem Gelernten wahrscheinlich folgt. Auf dieser einfachen Grundlage beruhen die heutigen KI-Assistenten.
Die großen Modelle der letzten Jahre haben dabei Fähigkeiten gezeigt, die niemand eigens einprogrammiert hat: Sie beantworten Fragen, fassen zusammen, übersetzen, schreiben in verlangtem Ton, erklären und rechnen in Grenzen. Im Englischen heißen sie Large Language Models, abgekürzt LLM.
Was es ist — und was nicht
Ein Sprachmodell ist keine Datenbank. Es speichert keine Texte, in denen es nachschlagen könnte, sondern Muster. Deshalb kann es über fast alles flüssig sprechen und sich zugleich in einer einfachen Tatsache irren.
Es ist auch kein denkendes Wesen, auch wenn das Gespräch so wirkt. Es hat kein Wissen darüber, ob seine Aussage stimmt, und kein eigenes Ziel. Was wie Verständnis aussieht, ist die sehr gut gelernte Form von Antworten, die Menschen auf ähnliche Fragen gegeben haben.
Und es weiß von sich aus nichts über die Gegenwart. Das Gelernte endet an einem Stichtag. Was danach geschah — eine neue Leitlinie, ein neues Gesetz, eine geänderte Sprechzeit —, kennt das Modell nur, wenn es ihm im Gespräch mitgegeben wird oder wenn es mit einer Suche verbunden ist.
Stärken
Alles, was mit der Form von Sprache zu tun hat: einen schwer verständlichen Text einfacher fassen, einen Entwurf glätten, eine Gliederung vorschlagen, einen langen Text kürzen, in eine andere Sprache übertragen, Varianten einer Formulierung anbieten, aus Stichpunkten einen Brief machen.
Dazu das Ordnen und Sortieren von Texten — Rückmeldungen nach Themen gruppieren, aus einem Dokument bestimmte Angaben herausziehen — und das geduldige Erklären: Ein Modell beantwortet dieselbe Frage zum fünften Mal ohne Ungeduld und auf dem gewünschten Niveau.
Schwächen
Verlässlichkeit bei Tatsachen. Ein Modell kann Falsches behaupten, und es klingt dabei genauso sicher wie bei Richtigem. Je genauer die verlangte Angabe — Dosis, Datum, Quelle, Paragraf —, desto größer das Risiko.
Dazu Einseitigkeiten aus dem Lernmaterial: Was dort überwiegt, prägt die Antworten. Ein Modell, das überwiegend aus englischsprachigen Quellen gelernt hat, beschreibt das Gesundheitswesen anderer Länder genauer als das deutsche und überträgt dortige Verhältnisse gelegentlich hierher.
Und fehlende Beständigkeit: Dieselbe Frage kann bei zweimaligem Stellen zwei verschiedene Antworten ergeben. Für kreative Aufgaben ist das erwünscht, für Auskünfte nicht.
Was das für Einrichtungen bedeutet
Sprachmodelle berühren Praxen und Kliniken an drei Stellen. Als Vermittler: Menschen fragen einen Assistenten nach Symptomen, Behandlungen und Ärzten. Was er antwortet, hängt auch davon ab, was er über eine Einrichtung im Netz findet — klar formulierte, aktuelle, übereinstimmende Angaben werden eher richtig wiedergegeben.
Als Werkzeug im Haus: für Entwürfe von Texten, Stellenanzeigen, Patienteninformationen, für Übersetzungen, zur Unterstützung bei der Dokumentation. Der Nutzen ist real, und er hängt daran, dass ein Mensch das Ergebnis prüft und verantwortet.
Als Bestandteil von Produkten: Praxissoftware, Diktier- und Dokumentationslösungen, Telefonassistenten und Terminsysteme enthalten zunehmend solche Modelle, oft ohne dass es groß angekündigt wird. Bei der Auswahl lohnt die Frage, was genau die Funktion tut, wo die Daten dabei hingehen und was geschieht, wenn sie sich irrt.
Die Datenfrage
Die großen Modelle laufen in den Rechenzentren ihrer Anbieter. Was eingegeben wird, verlässt das Haus. Bei Texten mit Patientenbezug ist das eine Verarbeitung besonders geschützter Daten durch einen Dritten und berührt die Schweigepflicht.
Kostenlose Verbraucherangebote sind dafür nicht gedacht; je nach Einstellungen können Eingaben dort zur Weiterentwicklung der Modelle verwendet werden. Für den beruflichen Einsatz gibt es Angebote mit vertraglichen Zusicherungen, Verarbeitung in Europa oder Modelle, die im eigenen Haus betrieben werden. Welche Lösung für welchen Zweck zulässig ist, gehört mit dem Datenschutzbeauftragten geklärt.
Bis das geklärt ist, gilt eine einfache Regel für das ganze Team: Nichts eingeben, was einen Patienten oder Kollegen erkennbar macht.
Regeln für den Einsatz
In den meisten Einrichtungen wird längst mit solchen Werkzeugen gearbeitet — von Einzelnen, mit privaten Konten, ohne Absprache. Ein Verbot ändert daran wenig. Wirksamer sind wenige klare Regeln:
- welche Werkzeuge für dienstliche Zwecke freigegeben sind
- welche Daten nie hineingehören
- dass jedes Ergebnis geprüft wird, bevor es verwendet wird
- dass Texte für Patienten fachlich freigegeben werden wie jeder andere Text
- wer bei Fragen ansprechbar ist
Für Systeme, die als Medizinprodukt gelten oder in sensiblen Bereichen eingesetzt werden, gelten zusätzlich gesetzliche Anforderungen, auf europäischer Ebene auch eine eigene Regulierung für Künstliche Intelligenz mit Pflichten für Betreiber. Das ist ein Feld in Bewegung.
Eine brauchbare Faustregel
Ein Sprachmodell ist gut bei Aufgaben, bei denen man das Ergebnis selbst beurteilen kann — ein Text, den man liest und für gut oder schlecht befindet. Es ist riskant bei Aufgaben, bei denen man ihm glauben müsste — eine Auskunft, die man nicht überprüfen kann. Wer es für das Erste nutzt und für das Zweite nachschlägt, hat den größten Teil des Nutzens und den kleinsten des Risikos.
Erstgespräch
Sprechen wir über Ihre digitale Sichtbarkeit.
Wir sehen uns Ihre Situation an und sagen Ihnen, was zuerst lohnt — kostenfrei und unverbindlich.