Jenseits von ChatGPT: Generative AI im Gesundheitswesen

Generative AI ist eine leistungsstarke Technologie, die auf der Grundlage vorhandener Daten neue Datenpunkte kreieren kann. Es sind zahlreiche Anwendungen denkbar. Aus diesem Grund beschäftigen sich Medien seit einiger Zeit intensiv mit ChatGPT – ein so genanntes Large Language Model (LLM), das Generative AI für Text und Sprache einsetzt. Während es auch andere Modelle zur Erzeugung von Bildern, Audiodateien und weiteren synthetischen Daten gibt, konzentriert sich dieser Blogbeitrag auf das Potenzial von LLMs und geht insbesondere auf die Vorteile und Herausforderungen bei der Anwendung dieser Technologie im Gesundheitswesen ein.

Um mehr über LLMs und ihr Potenzial zu erfahren, lesen Sie auch unseren Blogpost „ChatGPT: Generieren Sie Umsatz statt nur Text!“

Was sind also die vielversprechendsten Anwendungsfälle für Generative AI im Gesundheitswesen? Anhand der Stärken dieser Technologie lassen sich die Anwendungsfälle hauptsächlich in die folgenden Kategorien einteilen:

1. Texterstellung auf der Basis von Stichworten
2. Automatisierte Dialoge  
3. Gewinnung von Informationen aus Daten
4. Erzeugung synthetischer Daten
5. Auffinden von Dokumenten und Informationen

1. Verwaltungsaufgaben mit Generative AI optimieren

Großes Potenzial für eine automatisierte Texterstellung liegt in der Verringerung des Verwaltungsaufwands für Healthcare Professionals wie Ärzt:innen oder Pfleger:innen. Anhand weniger Notizen lässt sich ein vollständiger Befund erstellen. Umgekehrt können auch medizinische Informationen aus einem Befund extrahiert werden, um damit den Abrechnungsprozess zu automatisieren. In der Schweiz, wo mehr als zwei Drittel der Hausärzt:innen den Zeitaufwand für administrative Arbeiten als großes Problem empfinden, könnte Generative AI wesentlich zu deren Entlastung beitragen.

2. Die Patienteninteraktion durch medizinische Chatbots transformieren

Ein weiteres Gebiet, bei dem Generative AI viel Potenzial bietet, sind medizinische Chatbots. Obwohl diese bereits heute weit verbreitet sind, werden die jüngsten Fortschritte diesen Trend auf eine vollkommen neue Ebene heben. Indem sie Fragen immer besser verstehen und mit zunehmend natürlicher Sprache antworten, wird man Chatbots vermehrt als erste Ansprechpartner anstelle von Menschen akzeptieren. So kann Wissen in einem bestimmten Bereich gesammelt und verdichtet werden, um immer präzisere Antworten zu generieren. 

Sowohl Patient:innen, die nach Rat suchen, als auch Wissenschaftler:innen, die Sekundärforschung betreiben, werden davon profitieren. Wenngleich dies nicht die Kernkompetenz von ChatGPT ist, kann Generative AI auch hervorragende Übersetzungen erstellen und Chatbots damit einem viel größeren Publikum zugänglich machen.

3. Wissensmanagement und die Suche nach neuen Wirkstoffen

Weitere Stärken von LLMs sind die Extraktion von Informationen aus Daten und die Suche nach Dokumenten. Daraus ergibt sich ein weiterer Anwendungsbereich: das Wissensmanagement in Organisationen. Vor allem für große Healthcare-Unternehmen stellen der strukturierte Umgang mit Dokumenten und der Informationsaustausch zwischen verschiedenen Abteilungen oft eine Herausforderung dar. Mithilfe von Generative AI lässt sich Know-how extrahieren und verdichten und so für die Mitarbeiter:innen besser verständlich machen. Dies erspart nicht zuletzt den Fachkräften, die für die Wissensweitergabe zuständig sind, viel Zeit und Mühe. Zudem kann damit sichergestellt werden, dass die verschiedenen Teams und Abteilungen über dieselbe Wissensbasis verfügen.

Im Gesundheitswesen könnte das einen schnellen Zugang zu relevanten Patienteninformationen oder medizinischem Know-how ermöglichen. In der Notaufnahme, im Außendienst oder bei Rettungseinsätzen geraten Healthcare Professionals oft in Situationen mit vielen Unbekannten. Hier könnte eine Lösung wie ChatGPT die notwendigen Informationen für die Behandlung von Patienten schnell und in kompakter Form liefern.

Die Fähigkeiten von LLMs zur Informationsextraktion können auch genutzt werden, um neue Substanzen als Alternative zu verfügbaren Wirkstoffen zu identifizieren. Durch die Kombination verschiedener Tools für die Literatursuche und -einbettung, die Molekülsuche und die Einkaufskontrolle mit einer Websuche und einem Planer für die chemische Synthese konnte das GPT4-Modell alternative, auf dem Markt erhältliche Chemikalien für ein bestimmtes Medikament identifizieren. 

Dies eröffnet der Pharmaindustrie ungeahnte Möglichkeiten. Allerdings ist der potenzielle Schaden ebenso groß, wenn diese Technologie für die Suche nach Alternativen zu schädlichen Substanzen eingesetzt wird. Darüber hinaus müssen die Ergebnisse sorgfältig geprüft werden, da ChatGPT oft zu selbstsicher ist und mögliche Fehler oder Unsicherheiten nicht kommuniziert. Aber die mögliche Effizienzsteigerung bei der Entdeckung von Arzneimitteln ist mit Sicherheit verlockend, und wir erwarten große Fortschritte in diesem Bereich.

4. Synthetische Daten mit Generative AI erstellen

Eine große Herausforderung für das maschinelle Lernen im Gesundheitswesen besteht darin, dass insbesondere sensible Daten oft nicht freigegeben werden und somit nicht in ausreichender Menge verfügbar sind. Mit synthetischen Daten könnten generative KI und LLMs einen Teil zur Lösung dieses Problems beitragen.

Als Forscher:innen der Universität Texas ChatGPT daraufhin testeten, strukturierte Informationen aus unstrukturierten Texten aus dem Gesundheitswesen zu extrahieren, stellten sie fest, dass „der exklusive Einsatz von ChatGPT für Aufgaben im Gesundheitswesen nicht angemessen ist, da es nicht speziell für diesen Bereich trainiert wurde“. Anstatt LLMs direkt in einer Zero-Shot-Umgebung anzuwenden, nutzten sie deshalb LLMs zum Erzeugen einer großen Menge gelabelter synthetischer Daten. In ihrer Publikation halten sie fest, dass die „vorgeschlagene Pipeline die Leistung des lokalen Modells im Vergleich zur Zero-Shot-Leistung der LLMs erheblich verbessert“.

In einem Bericht prognostiziert Gartner, dass KI-Modelle bis 2030 mit mehr synthetischen als echten Daten arbeiten werden. Geht man sorgfältig und verantwortungsbewusst damit um, können synthetische Daten zu einem wichtigen Faktor bei der Entwicklung von KI im Gesundheitssektor werden.

5. Medizinische Fragen mit Generative AI beantworten

Es gibt bereits LLMs, die speziell für die Beantwortung medizinischer Fragen entwickelt wurden, wie etwa MedPaLM von Google Research und DeepMind Was die Beantwortung medizinischer Prüfungsfragen betrifft, kann es dieses Modell bereits mit Ärzt:innen aufnehmen. Die Entwicklung zielt darauf ab, sichere und hilfreiche Antworten auf Fragen von medizinischen Fachkräften und Patient:innen zu liefern. BioGPT von Microsoft ist ein weiteres gesundheitsspezifisches Sprachmodell, das in klinischen Studien zur Unterstützung medizinischer Diagnosen verwendet wird.

Derzeit ist Generative AI lediglich ein Werkzeug, das medizinischem Fachpersonal das Leben erleichtern, dieses aber keineswegs ersetzen soll. Langfristig ist jedoch absehbar, dass sie mehr und mehr Aufgaben selbstständig ausführen wird. Die Situation könnte sich grundlegend verändern, und früher oder später werden es möglicherweise die Ärzt:innen sein, die die Generative AI bei kritischen Entscheidungen unterstützen.

Herausforderungen bei der Ausschöpfung des vollen Potenzials von Generative AI

Generative AI verfügt über ein immenses Potenzial im Gesundheitswesen, doch die praktische Umsetzung bringt große Herausforderungen mit sich. Eine der größten Hürden ist die Datensicherheit, die im Gesundheitswesen von entscheidender Bedeutung ist. Der Schutz der Privatsphäre und der Rechte von Patient:innen müssen beim Einsatz von Generative AI unbedingt gewährleistet sein. Darüber hinaus ist es wichtig, spezielle Filter in Lösungen einzusetzen, um das Potenzial für falsche oder schädliche Inhalte zu minimieren.

Beim Einsatz von Generative AI in Ihrem Unternehmen gilt es, all diese Faktoren zu berücksichtigen. Um Generative AI nutzen zu können, müssen Sie sich auf die von anderen bereitgestellten, vortrainierten Modelle verlassen, da das Training eigener Modelle zu kostspielig wäre. OpenAI hat daher das ChatGPT zugrunde liegende Modell über eine Programmierschnittstelle (API) zugänglich gemacht. Erst eine Feinabstimmung des Modells oder die Verwendung Ihrer eigenen Daten machen es für Ihre persönlichen Zwecke nutzbar.

Das Modell wird darauf beschränkt, nur Fragen zu beantworten, die auf den von Ihnen bereitgestellten Daten beruhen. So können Sie die vom Modell produzierten Ergebnisse bis zu einem gewissen Grad steuern. Durch eigene Qualitätskontrollen ist eine zusätzliche Anpassung möglich, bevor das Resultat den Endnutzer:innen angezeigt wird.

Der Nachteil: Bei einer derartigen Nutzung können Sie nicht verhindern, dass sensible Daten zu OpenAI hochgeladen werden, wenn Sie deren Modell oder ein anderes kommerziell verfügbares Modell verwenden. Es kommen jedoch ständig neue Modelle auf den Markt, die zum Teil auch lokal laufen, sodass ein problematischer Datenaustausch verhindert und der Datenschutz leichter gewährleistet werden kann. Dabei ist jedoch zu beachten, dass viele dieser Modelle aktuell nur zu Forschungszwecken lizenziert werden können.

Der Einsatz von Generative AI im Gesundheitswesen könnte jedoch auch größere ethische Implikationen haben, die ebenfalls gründlich beleuchtet werden müssen. Es ist schwierig, alle Folgewirkungen dieser neuen Technologie vorherzusehen. So wäre es denkbar, dass Patient:innen künftig eher einem Chatbot vertrauen als medizinischem Fachkräften, was wiederum sowohl negative als auch positive Folgen haben könnte. Zunächst muss jedenfalls eine gründliche Risikoanalyse des jeweiligen Szenarios durchgeführt werden. Von den Risiken und potenziellen Schäden wird es abhängen, ob der gesamte Use Case geändert werden muss oder andere Vorkehrungen getroffen werden können.

Generative AI setzt verantwortungsvolles Handeln voraus

Wir bei Zühlke empfehlen Unternehmen im Gesundheitsbereich, mit Partnern zusammenzuarbeiten, die über umfangreiche Erfahrungen beim Einsatz von KI im Gesundheitswesen verfügen. Diese Unternehmen sollten mit den regulatorischen Anforderungen und ethischen Implikationen vertraut sein, die mit dem Einsatz von Generative AI im Gesundheitswesen verbunden sind.

Zusammenfassend lässt sich sagen, dass Generative AI vielversprechende Möglichkeiten im Gesundheitswesen eröffnet. Allerdings müssen Unternehmen verantwortungsvoll handeln, wenn sie diese Potenziale ausloten. Die Abwägung der Risiken und Chancen, die mit dem Einsatz dieser Technologie einhergehen, ist von entscheidender Bedeutung. Zühlke unterstützt Unternehmen in der Gesundheitsindustrie dabei, sich in diesem komplexen Ökosystem zurechtzufinden und innovative Lösungen zu entwickeln – Lösungen, die zu besseren Therapieergebnissen führen und gleichzeitig die Privatsphäre und Rechte von Patient:innen respektieren.