BRC112: Dr. med. KI – Künstliche Intelligenz als Arztersatz? 

Intro:
„Zu Risiken und Nebenwirkungen lesen Sie die Packungsbeilage und fragen Sie Ihre Ärztin, Ihren Arzt oder in Ihrer Apotheke.“ Diesen Warnhinweis bei Arzneimitteln kennen wir alle, aber müsste er mittlerweile ergänzt werden um: „…oder fragen Sie Ihren KI-Chatbot?“
Nach Angaben von OpenAI aus Januar 2026 wenden sich wöchentlich 230 Millionen Menschen weltweit mit Gesundheitsfragen an den KI-Chatbot ChatGPT. In Deutschland ist es laut einer Befragung der Beratungsfirma Deloitte bereits fast jeder Zweite. Bei den 18- bis 34-Jährigen sind es sogar 71 Prozent. Und die Frage ist, sind diese KI-Systeme überhaupt gute Diagnostiker oder Ratgeber? 
Dazu darf ich heute sprechen mit einer Expertin, die als Senior Researcherin am Leibniz-Institut für Medienforschung I Hans-Bredow-Institut zu Herausforderungen digitaler Transformation für die Mediensozialisation und Gesundheitskommunikation forscht, das ist Dr. Claudia Lampert. 

Jingle:
BredowCast – Wir erforschen was mit Medien.


Kristina Kobrow:
Liebe Claudia, schön, dass du da bist und dass wir heute hier sitzen und über dieses Thema sprechen. 

Claudia Lampert:
Ich freue mich darauf. 

Kristina Kobrow:
Ich freue mich auch. Ich freue mich vor allen Dingen total, das muss ich, glaube ich, am Anfang einmal erwähnen, dass das der BredowCast Nummer 112 ist, also 112, ich glaube, passender könnte es nicht sein für dieses Thema. 

Claudia Lampert:
Definitiv.

Kristina Kobrow:
Wir steigen direkt ein in das Thema und zwar würde ich dich am Anfang gerne fragen, ich habe es eben schon erwähnt, die Zahl laut OpenAI, Januar 2026, nutzen 230 Millionen weltweit, ChatGPT hier als Beispiel, für Gesundheitsfragen. Dabei ist ja diese KI gar keine explizite Gesundheits-KI. Kannst du dir das erklären? Das ist ja kein Arzt, keine Ärztin, keine Apotheke, warum machen das die Menschen, also so viele? 

Claudia Lampert:
Naja, letztendlich, weil sie viele Funktionen und Bedürfnisse erfüllt, die vorher Google erfüllt hat, weil man schnell nach bestimmten Informationen suchen konnte und das hat jetzt letztendlich die KI übernommen und aber auch noch darüber hinaus bietet die KI verschiedene Funktionen an, die natürlich ziemlich attraktiv sind, gerade auch in Bezug auf gesundheitsbezogene Fragen. 

Kristina Kobrow:
Wenn du jetzt sagst, so wie Google, es ist ja aber doch eigentlich ganz was anderes, oder? Bei Google gebe ich etwas ein und es ist eigentlich immer eine ganz große Warnung, oder? Denke ich da falsch? 

Claudia Lampert:
Ich würde sagen, auch das hat sich inzwischen verändert, dadurch, dass letztendlich ja auch die Suchmaschinen mit KI arbeiten, also es hat sich schon verändert, aber der Vorteil ist natürlich, dass KI schon auch eher noch einen Arzt-Patienten-Dialog letztendlich so ein bisschen suggeriert und man sehr spezifische Fragen stellen kann und dann ja auch vermeintlich sehr passgenaue Informationen zu seiner gesundheitsbezogenen Frage bekommt und das ist schon noch ein Unterschied zu dem vorherigen Google-Suchen. 

Kristina Kobrow:
Also es ist keine Abfrage mehr, sondern eigentlich die Interaktion, dass ich irgendwie auch jemanden habe, also jemanden, sage ich jetzt sozusagen auch schon, also ein System eigentlich, was in vermeintlich natürlicher Sprache mir erzählt, was ich haben könnte, was empathisch vielleicht so tut, als wäre es irgendwie wirklich ein Gegenüber, würde mich verstehen und könnte mich jetzt beraten eigentlich. Kann es das denn? 

Claudia Lampert:
Aus technischer Perspektive ja, es tut es ja. Also es funktioniert ja ganz hervorragend, dass ich meine Anfrage da reingebe, jeglicher Art und ich kriege ja auch immer ein gutes Ergebnis, eine gute Antwort, die ich zum Teil weil ich zum Teil dann auch nachjustieren kann. Die KI fragt ja auch immer noch danach, ob man das noch anders haben möchte oder noch weitere Informationen und so weiter. Also von daher ja, ist das eigentlich immer ein Erfolgserlebnis, wenn man so will, weil man da eigentlich das bekommt, was man ja sucht, also schon sehr auf die konkrete Frage zugeschnitten. Ob das dann immer so richtig ist und gut ist, was die KI dann empfiehlt, das ist noch eine andere Frage. 

Kristina Kobrow:
Und die stelle ich dir natürlich auch gleich mit davor, möchte aber nochmal fragen, weißt du denn eigentlich, wenn jetzt wir reden darüber, über Gesundheitsfragen, das ist ja doch eigentlich ein sehr, sehr großes Spektrum, weißt du von den Nutzenden, wozu z.B. jetzt ChatGPT, das nutzen, also ist es denn tatsächlich so, dass viele wirklich dort ihre Krankheiten, die wirklich ernst sind, also versuchen dort eine Handlungsempfehlung von der KI zu bekommen oder ist es doch eher so, dass es vielleicht eher ein Schnupfen ist oder so, also man geht ja auch nicht mit jeder Frage zum Arzt und es eher dafür genutzt wird, hast du da Daten, weißt du was darüber? 

Claudia Lampert:
Also ich habe jetzt keine konkreten Daten, aber letztendlich ist es alles. Also es werden ganz unterschiedliche Anfragen gestellt, also wir haben einige Informationen dazu aus auch unseren qualitativen Interviews, was für gesundheitsbezogene Fragen da gestellt werden. Manchmal ist es einfach nur eine Informationssuche zu einem gesundheitsbezogenen Thema, manchmal sind das auch so Anfragen zu Übersetzungshilfen, dass ich besser verstehen möchte zum Beispiel oder einfach vielleicht ein medizinischer Text, den ich nicht verstehe oder so oder was es mit einem Krankheitsbild auf sich hat, also dass ich dann die KI praktisch nutze und sage, kannst du mir das bitte nochmal in meiner Sprache erklären, das ist noch etwas. Und aber es wird auch als Kommunikationspartner tatsächlich genutzt, um sich vielleicht ein konkreteres Bild über einen gesundheitsbezogenen Sachverhalt zu machen bis hin zu, ja, welche Entscheidung ich vielleicht treffen soll, muss ich zum Arzt gehen oder nicht, kann ich was anderes machen oder ähnliches. Und was wir auch sehen, was ein relativ großer Trend aus meiner Sicht ist, ist, dass man die KI nutzt, um sich zum Beispiel Trainings- oder Ernährungspläne erstellen zu lassen und zu sagen, ich möchte, was weiß ich, in zwei Wochen so und so viel Kilo abnehmen oder so. 

Kristina Kobrow:
Also ein Fitnessplan.

Claudia Lampert:
Genau. Und also das wird schon vergleichsweise viel genutzt, einfach so im Sinne von Self-Optimization, dass man dann die KI dafür nutzt, sich da, ich sage mal, Anregungen zu holen bis hin zu, ich lasse mir einen Plan erstellen und den befolge ich dann auch. 

Kristina Kobrow:
Dafür braucht die KI natürlich auch entsprechende Daten… 

Claudia Lampert:
Genau. Und da ist es schon so, das hängt immer davon ab, was ich dann da reingebe als Daten. Also wie ich da nun meine Anfrage prompte und wie viel Information ich auch über meinen gegenwärtigen Gesundheitszustand dann gebe. Und da liegen Welten einfach zwischen den unterschiedlichen Suchanfragen, weil jeder da sehr unterschiedliche Strategien hat. 

Kristina Kobrow:
Und da warst du mir eine super Brücke. Ich hatte nämlich eine Studie nachgeschaut. Also ich habe ja auch ein bisschen recherchiert quasi für diesen Podcast vorher und bin auf eine Studie gestoßen aus Großbritannien, 2026 erschienen, also stammen die Daten nehme ich an aus 2025. Die hat, ich muss es glaube ich ein bisschen mal erläutern, was sie gemacht hat. Es wurden nämlich von, ich glaube es war ein Ärzteteam, die haben zehn fiktive medizinische Fallbeispiele sich überlegt mit detaillierten Angaben zu Symptomen, allgemeinen Lebensumständen und der Krankengeschichte erarbeitet und haben dann eben verschiedene Testpersonen gehabt. Die einen sollten eben anhand dieser Daten, sage ich jetzt mal, also eben den Symptomen, Lebensumstände, Krankheitsgeschichte, was sie eben bekommen hatten, googeln. Die anderen sollten ein Large Language Modell benutzen. Und dann gab es auch noch die Gruppe, wo tatsächlich das von den Ärzten erarbeitete Material direkt in die KI eingespeist wurde. Und da war es ganz interessant, denn tatsächlich mit den Daten, wie sie eben Ärzte schreiben würden, also medizinische Sprache, da war die KI super, die hat in 94,9 Prozent der Fälle tatsächlich die Erkrankung richtig identifiziert und hat dann aber, dann sackt es sozusagen ab, nur in 56,3 Prozent der Fällen die richtige Vorgehensweise dann, also die Handlungsempfehlung vorgeschlagen. Das ist jetzt sozusagen wirklich, wenn du die Informationen von den Ärzten hast, dann gab es die andere Gruppe wiederum mit den Laien und da sackte die KI total ab, dann gab es nur noch 34,5 Prozent Trefferquote. So, also wesentlich schlechter schnitt die KI hier ab, wenn sie eben in Dialog geht mit richtigen Menschen. Und das, da habe ich mich irgendwie gefragt, ist das nicht eigentlich dann ein Fanal, weil es zeigt uns ja eindeutig, KI ist super, wenn es irgendwie medizinische Texte gibt, was ja wahrscheinlich auch die Trainingsdaten sind, aber wenn Menschen da sitzen, die nicht alle Infos selber kennen oder sie nicht so formulieren können, dann ist es wirklich schlecht, kann man ja sagen. Google war da sogar noch besser. Ich wiederhole nochmal die Frage, aber vom Anfang, warum machen es dann trotzdem so viele? 

Claudia Lampert:
Na, ich würde erst mal sagen, das, was du beschreibst, verweist ja auf ein extrem hohes Risiko, gerade in Bezug auf gesundheitsbezogene Verhaltensweisen. Tatsächlich ist so ein bisschen meine Beobachtung, aber völlig empirisch ungestützt, dass die KI sich ja auch weiterentwickelt und versucht, genau dieses Defizit zu kompensieren, indem verstärkt noch mit Nachfragen gearbeitet wird und dann immer wieder nachgefragt wird, passt das Ergebnis für dich, brauchst du noch weitere Informationen, war das hilfreich und also praktisch den Nutzenden immer mehr auffordert, dann zu sagen, okay, kannst du mit der Information was anfangen oder nicht, bis hin zu, und das ist etwas, was mir vorher noch nicht so aufgefallen war, das habe ich jetzt erst kürzlich gesehen, dass jetzt bei, ich meine, es war auch ChatGPT, dann auch am Ende so die Abfrage kommt, bist du mit der Persönlichkeit zufrieden? 

Kristina Kobrow:
Mit welcher Persönlichkeit? 

Claudia Lampert:
Ja, eben, genau, mit welcher Persönlichkeit, also wo praktisch darauf ja hingewirkt wird, dass du im Prinzip nicht nur Sachinformationen abfragst, sondern wenn du gut prompten willst, dann kannst du ja auch schon festlegen, in welcher Art und Weise dir geantwortet wird, also zum Beispiel, dass du sagst, gib mir nur evidenzbasierte Informationen beispielsweise oder gib mir alle Quellen an oder, also dass du es möglichst präzise formulierst, was du von deinem Gegenüber erwartest und deswegen fand ich diesen Hinweis dann da unten, ob man mit der Persönlichkeit zufrieden war und dann konntest du Daumen rauf, Daumen runter machen, total spannend und interessant und habe mich gefragt, was das eigentlich jetzt dann für die Weiterentwicklung von KI so bedeutet und auch gerade in Bezug auf so, ja, das Vertrauen, aber auch auf die, was das für die Zuverlässigkeit von Antworten bedeutet. Das wird noch ganz spannend, glaube ich.

Kristina Kobrow:
Das wird auch für die Ärzte dann spannend. 

Claudia Lampert:
Total. 

Kristina Kobrow:
Aber wenn du jetzt auch sagst, bitte gib mir nur evidenzbasierte Antworten, das kann Wunsch sein, natürlich, aber das kann ja nicht umgesetzt werden. Also es sind ja eben Studien, du hast mich hingewiesen in der Vorbereitung auf einen Artikel von Krautreporter, den wir auch verlinken in den Shownotes, der Hintergrund war bzw. hier ging es um eine Krankheit, die eigentlich gar keine Krankheit war. Derjenige, der, ich glaube, es war hier auch ChatGPT, genutzt hat, wollte herausfinden, was kann man tun? Ich habe so Augenjucken. Was kann das für eine Krankheit sein? Immer, wenn ich so lange arbeite und vom Bildschirm sitze, dann habe ich das. Was kann das sein? Und ChatGPT hat dann gesagt, ja, das ist eine Krankheit namens, ich glaube, es war „Bixonimania“. Diese Krankheit existiert eigentlich gar nicht. Sie wurde aber im Internet gefunden, weil wiederum eine, das war eine Professorin, ich weiß gar nicht mehr an welcher Universität, das tatsächlich mal getestet hat, um zu zeigen, hier, also Large Language Models machen das und das falsch. Und sie hat da eindeutige Fehler eingebaut in die Studie, hat ganz klar gesagt, das ist keine Krankheit. Aber es wurde natürlich jetzt weiter genutzt. Also insofern, und das meine ich sozusagen mit, kann es evidenzbasiert immer sein? Eigentlich doch nicht, weil wir nie wissen, ob das System, also ChatGPT, Large Language Model, welches auch immer, jetzt halluziniert oder nicht. Absolut. 

Claudia Lampert:
Also es wird immer einen Rest Unsicherheit geben, auf jeden Fall. Und das Problem ist sicherlich, dass uns die KI den Eindruck suggeriert, als wenn sie das perfekt könnte. Aber darum ist es eben auch so wichtig, dass man eben auch die Nutzenden darauf hinweist, dass es eben diese Rest Unsicherheit gibt und dass es gerade bei gesundheitsbezogenen Fragen immer wichtig ist, da den Kontakt zu Ärzten zu suchen, die dann das nochmal entsprechend einordnen können und hoffentlich auch den Rest Zweifel, die Rest Unsicherheit dann ausräumen. 

Kristina Kobrow:
Ja, das Problem wird eben sein, wenn die Ärzte einfach keine Zeit haben. Also wenn ich dann irgendwie wirklich einen Monat oder sowas noch auf dem Arzttermin warten müsste, dann bin ich natürlich viel geneigter, dieses System zu nutzen. Zumal es ja einfach gar keine Sprechstunden gibt. Also selbst wenn es kein Monat ist, weiß ich nicht, ich arbeite irgendwie zehn Stunden am Tag oder so. Ich kann nur abends, dann denke ich wahrscheinlich eher so, ach, ich frage da mal. Aber weiß ja wirklich nicht eigentlich, ob die Information mir in irgendeiner Weise hilft oder nicht. 

Claudia Lampert:
Definitiv. Und man muss dazu eben auch wissen, dass nicht jeder nach evidenzbasierten Informationen sucht, sondern oftmals geht man auch ins Netz und sucht nach Informationen, die einem irgendwie Hoffnung geben. Zum Beispiel, wenn es eine schwerwiegende Krankheit ist beispielsweise, dann ist es einem manchmal auch ein bisschen egal, ob das evidenzbasiert ist, weil man sich so an einen Strohhalm dann klammert. Also will sagen, es ist nicht so, dass jeder digitale Medien nutzt, um immer dann evidenzbasierte Informationen zu bekommen, sondern einfach das, was einem hilft in der Situation. Und für den einen sind das ja irgendwelche Tipps oder Haushaltsmittelchen, was man tun kann in irgendwelchen Situationen, für den anderen ist es ein Trainingsplan und so. Und das Ding ist eben, dass man oftmals dann ja schnell zufrieden ist mit dem, was man dann bekommt, weil es eben so wirkt, als wenn das wie für mich gemacht ist. 

Kristina Kobrow:
Ja, weil ich wahrscheinlich auch meine eigene Sprache anpasse, oder? Wenn ich immer sozusagen nette Antworten kriege, macht das ja auch was mit mir, wie ich kommuniziere, oder? Also wenn du jetzt gerade sagst mit dem Strohhalm sozusagen, ich möchte einen Hoffnungsschimmer haben, dann frage ich ja wahrscheinlich schon irgendwie so, dass die Antwort jetzt nicht extrem negativ sein wird.

Claudia Lampert:
Das kommt eben auch noch dazu, wie man fragt, also ob das schon in eine bestimmte Richtung geht oder nicht. Klar, das spielt ja alles mit rein und das gilt es zu verstehen, wenn man solche Angebote nutzt. Aber das ist, denke ich, wahnsinnig schwierig, da so ein Bewusstsein für zu schaffen, eben ja, weil die KI uns das sehr einfach macht oder uns eben suggeriert, dass das doch alles wunderbar ist und für uns passt, dass wir uns verstehen. Man muss ja auch verstehen und das ist gerade bei Gesundheitsthemen wirklich kritisch, finde ich, wenn ich mit einer schwerwiegenden Diagnose beispielsweise die KI befrage und sage, ich habe eine schwerwiegende Erkrankung und stehe vor der Entscheidung XYZ und so weiter, dann antwortet die KI als erstes mit einer großen Betroffenheit, einem großen Einfühlungsvermögen und sagt, Mensch, du gehst wirklich gerade durch eine ganz schwere Zeit oder das ist ja ein ganz schwerwiegendes Problem. Es tut mir total leid, also mit einer großen Empathie. Und auch das ist etwas, was für manche das Entscheidende ist, dass sie, da geht es dann manchmal gar nicht um die Information, um die Sachinformation, sondern es geht um dieses Gefühl von Empathie und emotionalen Support, was man von der KI eben auch kriegt.

Kristina Kobrow:
Aber würdest du sagen, das ist der Hauptgrund, das zu nutzen tatsächlich? Weil ich würde jetzt doch denken, naja, aber ich möchte ja schon eine medizinische Information oder meinst du, das ist tatsächlich eher der emotionale Halt? 

Claudia Lampert:
Beides denke ich. Also beziehungsweise bei den einen so, bei den anderen so. Es ist eben, das muss man sich glaube ich vergegenwärtigen, dass es beim Gesundheitsinformationsverhalten eben nicht immer nur um Fakten und Sachinformationen und um die richtige medizinische Entscheidung geht, sondern viele Themen, gerade schwerwiegende Erkrankungen, haben auch ganz viel zu tun mit dass ich irgendwie jemanden brauche, der mich versteht und gerade irgendwie nachvollziehen kann, was ich durchmache und mir dann auch noch mitunter so ein bisschen Stütze geben kann, wenn ich unsicher bin, soll ich mich jetzt für Variante A entscheiden oder für Behandlung B. Und da merkt man, dass die KI einem schon viel bietet, was aber gleichzeitig auch ein hohes Risiko impliziert. 

Kristina Kobrow;
Da würde ich dich gerne noch mal fragen, was schlägt die KI mir denn jetzt wirklich vor? Also wenn es jetzt wirklich eine ernsthafte Krankheit ist, werden mir da Medikamente vorgeschlagen? Also geht es tatsächlich soweit oder gibt es bestimmte Schranken, dass die KI sagen würde, jetzt sofort in die Notaufnahme fahren oder so? Also was, was wird mir wann da eigentlich geraten? 

Claudia Lampert:
Das hängt natürlich auch da wieder von der Suchanfrage ab und da können natürlich dann auch Fehlentscheidungen oder fehlerhafte Antworten generiert werden, gerade wenn es sich um zum Beispiel Erkrankungen handelt, wo du auch noch andere Werte brauchst oder andere Angaben brauchst, also irgendwelche Blutdruckmessungen oder irgendwelche anderen physiologischen Daten. 

Kristina Kobrow:
Zum Alter oder sowas vielleicht auch. 

Claudia Lampert:
Zum Alter auch, aber im Zweifel kennt die KI dich ja auch schon ein bisschen so. Aber gerade wenn es dann wirklich so um die körperliche Verfassung in dem Moment geht zum Beispiel, wenn die KI die Informationen nicht hat, dann kann das natürlich auch nach hinten losgehen und da können dann Empfehlungen daraus resultieren, die mitunter dann auch wirklich gesundheitswidrig sind bishin zu schädigend. Aber in anderen Beispielen ist es zum Beispiel so, dass, also wir haben mal so ein bisschen rumgetestet, wenn du zum Beispiel die KI bittest, dir doch mal so einen Plan zu erstellen, weil du in kurzer Zeit mal richtig viel Gewicht verlieren willst beispielsweise. Da ist es dann schon interessant, dass die KI da sagt, boah, das ist nicht besonders gesund. Also wenn du das wirklich wolltest, dann müsstest du, was weiß ich, eine Radikaldiät machen, du müsstest ganz viel Sport machen und du müsstest noch irgendwie was machen. Und dann sagt die KI aber auch, davon rate ich ab. Und es gibt dann eher Empfehlungen, wo du sagen würdest, okay, das sind halt Empfehlungen, wie du Gewicht reduzieren kannst, aber nicht jetzt in so einem kurzen Zeitraum. Also das ist schon interessant, wo die KI sich da positioniert, wenn man so will. Und es wäre halt spannend, das haben wir jetzt so, wir haben es so mal in anderen Fällen gemacht, mal wirklich zu gucken, welche KI was dann auswirft. Doch bei dem Fall hatten wir das sogar, dass wir verschiedene KIs die gleiche Anfrage gestellt haben. 

Kristina Kobrow:
Also du meinst jetzt ChatGPT, Perplexity, Gemini? 

Claudia Lampert:
Ja, Meta-AI…da hatten wir das gemacht und da kamen schon punktuell unterschiedliche Reaktionen. Und eben je nachdem, was für ein Thema das ist, manche KI sagt dann auch, da kann ich nichts zu sagen, wende dich an deinen Arzt. Also das kommt schon auch. Aber es ist im Moment noch so ein bisschen unklar, wann das kommt, bei welcher KI und bei welchen Anfragen. Aber es kommt durchaus vor, dass dann explizit nochmal der Hinweis gegeben wird, so jetzt musst du dich aber dringend an deinen Arzt wenden. 

Kristina Kobrow:
Würdest du denn aber grundsätzlich sagen, auch wenn es auch wieder super schwierig ist, man könnte die KI nutzen, wenn man jetzt ein Schnupfen zum Beispiel hat, oder wenn man wirklich eine Krankheit hat, die selten ist. Weil dann, da denke ich mir, also das ist sozusagen wirklich die Frage, bei Schnupfen oder so denke ich mir, naja gut, das wird sie wahrscheinlich richtig beantworten können. Trink heiße Zitrone, kauf dir Olynth Nasenspray, was auch immer. Aber auch bei so, naja bei Krankheiten, die auch nicht so häufig vorkommen, das ist ja auch für Ärzte oft schwierig, die zu erkennen, weil sie so selten vorkommen. Und da hat ja wiederum dann eine KI, aber sozusagen, also nicht das ganze Internet, aber hat natürlich irgendwie eine extrem große Datenmenge, um da zu crawlen und was zu finden. Also was, für was eignet sich das jetzt eigentlich besser, auch wenn natürlich dieses große Risiko bei beiden ist? 

Claudia Lampert:
Wahrscheinlich eignet es sich für beide Beispiele, die du gerade genannt hast. Weil bei den seltenen Erkrankungen, hast du es gerade gesagt, wenn es da möglich ist, eine große Datenmenge in relativ kurzer Zeit zu scannen und da mitunter ein passendes Muster zu erkennen oder Hinweise darauf, dass es, dass diese seltene Erkrankung vorliegen könnte. Das ist natürlich ein immenser Vorteil. Bei dem Schnupfen, da ist es so, klar, kann man machen. Also machen, glaube ich, auch viele inzwischen, dass sie dann auch so mit so Symptomen sich an die KI wenden. Es gibt ja auch ganze Apps, die so funktionieren, dass das, dass man so Symptome abklopft und man dann immer so weitergeleitet wird. Und am Ende gibt es das und das. Also das gibt es, gibt es natürlich schon und wird auch intensiv genutzt. Und ich sage mal, beim Schnupfen kann man vielleicht nicht ganz so viel Schaden anrichten. Aber auch da ist wieder so eine gewisse Unsicherheit da. Wobei bei dem Schnupfen, ich habe es tatsächlich mal ausprobiert und die KI da gefragt. Und da ist es dann schon so, dass dann schon geguckt wird. Okay, hast du die Symptome? Es ist nur der Schnupfen, ist die Nase verstopft oder läuft die Nase? Hast du auch noch Husten oder Halsschmerzen und so weiter und so weiter? Also das meinte ich so, dass man merkt, dass die KI immer mehr, also nach meinem Eindruck mehr als noch zu Beginn in diesen Dialog so geht, fast so ein bisschen wie ein Arzt, muss man sagen. Und so Fragen stellt und du sagst oder tippst dann da mal rein. Nee, Halsschmerzen. Nein, kein Fieber. Und ja, und am Ende kommt dann sowas raus wie, naja, wenn du das jetzt erst drei Tage hast, dann warte noch mal drei Tage, trinke Tee und mach dies und jenes. Und dann wird sich das schon legen. Und wenn das länger als drei Tage anhält, dann solltest du vielleicht auch mal zum Arzt gehen und so. Also es ist schon, es ist differenzierter, also die Antwort ist differenzierter durch dieses Wechselspiel von Frage, Antwort und Symptom abklappern. Und dadurch ist dann eigentlich auch die Handlungsempfehlung, die dann daraus resultiert, differenzierter. Und bei dem Beispiel war das übrigens auch, wo dann am Ende auftauchte, wie zufrieden warst du mit der Persönlichkeit? Und mir war gar nicht klar, dass ich mir eine Persönlichkeit da, eine Persönlichkeit gefragt habe. 

Kristina Kobrow:
Aber heißt nicht all das jetzt auch eigentlich im Umkehrschluss, dass die KI ja eigentlich nur auf das reagieren kann, was ich sie frage? Das heißt, wenn ich mir wirklich auch, wenn ich irgendwie tatsächlich ein Symptom habe, was auf Krankheit XY vielleicht hindeutet, was eine ernste Krankheit ist. Ich weiß es aber gar nicht. Ich habe, vielleicht habe ich immer ein bisschen Kopfschmerzen oder so. Und für mich ist das zum Beispiel total normal. Deswegen gebe ich das gar nicht ein. Das führt mich jetzt ein bisschen zurück auf das sozusagen vom Anfang von der Studie. Wenn mir Informationen wirklich fehlen, dann kann mir die KI ja letztlich auch gar nicht helfen, beziehungsweise spuckt mir wahrscheinlich ganz etwas anderes aus. 

Claudia Lampert:
Das stimmt. Also das ist, wie gesagt, diese Restunsicherheit, die bleibt jetzt hier ausgelöst den Nutzer oder die Nutzerin, die halt dann nur bestimmte Informationen reingibt. Aber wie gesagt, also meine Beobachtung ist, dass die KI immer mehr in die Richtung geht, danach zu bohren und zu fragen, ob du noch weitere Symptome hast beispielsweise oder wie lange die anhalten und so. Aber auch da, auch da denke ich, kann es auf jeden Fall zu Fehldiagnosen kommen. Im Idealfall läuft es darauf hinaus, dass die KI dann so programmiert ist, dass sie eben sagt, ja, wenn sowas länger andauert, dann gehe auf jeden Fall zum Arzt. Also das wäre auf jeden Fall wünschenswert.

Kristina Kobrow:
Ich glaube, wir sind jetzt sehr oder ich bin sehr ins Negative immer gegangen, merke ich. Du hast es gerade eben schon gesagt, Idealzustand. Da würde ich gerne auch noch mal hin. Denn du hast es, glaube ich, am Anfang auch schon erwähnt oder ich habe es ja auch gesagt, bei medizinischen Tests schneidet KI total super ab. Könnte KI denn nicht auch ein guter Brückenbauer sein zu Ärzten? Also dass ich vielleicht wirklich einen medizinischen Befund habe, den hochlade. Das muss man dann in dem Fall natürlich dafür erstmal tun. Und dass man sagen kann, dafür ist KI tatsächlich total geeignet. Also für das eigene Verstehen und auch, um dann vielleicht damit in ein Arztgespräch reinzugehen oder tatsächlich in der Therapie sozusagen in der Zwischenzeit zwischen zwei Sitzungen oder sowas wieder selber mir noch mehr anzueignen. Oder wärst du auch da skeptisch? Oder zurückhaltend? 

Claudia Lampert:
Nein, ich habe bei dem Bild gerade überlegt, wer jetzt eigentlich da die Brücke baut und habe dabei gemerkt, dass du am anderen Ende angesetzt hättest als ich jetzt tatsächlich. Also ich sehe es auf jeden Fall so, dass da viel Potenzial ist für den Brückenbau und dass das auch stattfinden muss, damit man das gesundheitsbezogene Risiko auch möglichst gering ausfällt. Ich weiß nicht, ob ich so weit gehen würde oder das birgt natürlich wieder zusätzliche Risiken, dass man jetzt sagt, okay, Patient X lädt jetzt seinen Befund in die KI hoch und geht dann zum Arzt und sagt, schauen Sie mal, was die KI festgestellt hat. Aus meiner Sicht wäre es aber sinnvoll, dass die Brücke zwischen Ärzten und Patienten dahingehend gebaut wird, dass die Ärzte wahrnehmen und aufnehmen und versuchen zu verstehen, womit der Patient oder die Patientin eigentlich kommt. Und vorher war es immer so oder häufig so, dass die Patientinnen dann ja gegoogelt haben und dann sind sie in die Praxis gekommen und haben gesagt, also ich habe das und das gefunden, das habe ich jetzt wahrscheinlich. Das wird jetzt natürlich durch die KI abgelöst oder nochmal verschärft. Und ich sehe aber da genau die Brücke, die es braucht, um so ein gemeinsames Verständnis herzustellen und dann idealerweise auch gemeinsam dann zu einer guten medizinischen Entscheidung zu kommen, einer gemeinsamen Entscheidung zu kommen. Und dafür braucht es ja letztendlich einen Dialog und auch, dass die Ärzte sozusagen verstehen, was die KI eigentlich macht, womit die Patientinnen da in die Praxis kommen und dass man gemeinsam darauf schaut und versucht zu verstehen, was jetzt das gesundheitsbezogene Problem ist und ob jetzt die vorgeschlagene Behandlungsform, die geeignet ist oder ob der Mediziner als Experte nicht sagt, nee, also in ihrem Fall passt das jetzt nicht, was die KI da vorgeschlagen hat. Wir müssen noch weitere Werte hinzuziehen und dann kommt mitunter eben eine andere Behandlung raus. Also es braucht diesen Dialog darüber, was die KI da eigentlich auswirft. Also eigentlich braucht es ein bisschen den Trialog, wenn man so will, zwischen Arzt, Patient und dann KI, um das entsprechend aus verschiedenen Perspektiven bewerten zu können. 

Kristina Kobrow:
Da würde ich jetzt aber nochmal fragen, in den USA zum Beispiel gibt es ja jetzt ChatGPT Health, also seit ein paar Monaten, glaube ich. Du hast gesagt, das braucht eigentlich den Trialog oder braucht es eher eine Gesundheits-KI wie zum Beispiel ChatGPT Health? Vielleicht magst du noch einmal kurz erläutern, was das jetzt eigentlich nämlich kann und was es ablösen soll oder vielleicht auch nicht? 

Claudia Lampert:
Also was gerade auffällig ist, ist, dass verschiedene KI-Anwendungen ein eigenes Gesundheitsprodukt auf den Markt bringen, ob es jetzt ChatGPT Health ist oder Perplexity Health. Es gab ja auch schon Google Health oder gibt Google Health. Also man merkt, dass gerade so dieser Gesundheitsbereich offensichtlich ein Bereich ist, der nochmal eine besondere Aufmerksamkeit braucht. Und da gehen jetzt verschiedene Programme an den Start, die im Prinzip versuchen, diese Restunsicherheit vielleicht dadurch zu schließen, indem sie halt alle Gesundheitsdaten, die ein Mensch so hat, versucht zu bündeln und dann als Datengrundlage bereitzustellen, um noch validere Aussagen dann treffen zu können. Das klingt erst mal ganz gut und faszinierend. Ich bin gespannt, wie sich das so durchsetzen wird, weil wir jetzt ja auch in anderen Bereichen wie zum Beispiel der elektronischen Patientenakte beispielsweise sehen, dass das gar nicht so leicht ist, das jetzt umzusetzen und auch gar nicht alle jetzt da Interesse daran haben, jetzt alle Gesundheitsdaten da jetzt noch in irgendein System reinzubringen. Die Frage des Datenschutzes, solche Sachen sind dann ja auch nicht geklärt. Und gerade auch bei, in Bezug auf alle Produkte, wo es darum geht, gesundheitsbezogene, sensible Daten dann einzugeben, stellt sich ja immer so die Frage, was könnte da mitunter noch mit angestellt werden und welche möglichen negativen Folgen kann das auch für mich beispielsweise haben? Und das ist, glaube ich, noch ein dickes Brett, was es da zu bohren gilt und bin gespannt, wie schnell diese Produkte sich da verbreiten werden. Wir sehen auf der anderen Seite, es gibt Leute, die lieben Google Health beispielsweise, indem sie dann die Daten von ihrer Watch dann auch noch mit ihrer App da verbinden und sich dann zum Beispiel mit tracken, ob das nun Schritte sind oder Schlafverhalten und so weiter. Es geht ja dann schon auch so ein bisschen in die Richtung, also dass man dann auch über bestimmte Wearables zum Beispiel Daten erfasst und die dann damit einspielt. 

Kristina Kobrow:
Also vor allem die Verknüpfung. 

Claudia Lampert:
Die Verknüpfung, genau. Und ja, also es ist, wahrscheinlich ist es wie in allen Bereichen, dass es da die Menschen gibt, die sagen, das ist das Beste, was mir passieren konnte. Es gibt ja auch Produkte, die damit werben, dass dank dieser technologischen Möglichkeiten ein Herzinfarkt vorzeitig entdeckt wurde beispielsweise oder ähnliches. Und es wird die SkeptikerInnen geben, die halt sagen, nee, also meine Gesundheit, ich möchte nicht, ich möchte nicht, dass bestimmte Gesundheitsthemen von mir jetzt in so einer Datenbank dann gespeichert sind und ich weiß nicht, ob die nicht auch bei meiner Versicherung landen oder so. Und ja, ich glaube, das wird weiterhin diese beiden Lager geben und da wird man dann gucken, okay, was kann die Technologie da Positives leisten und da mitunter auch zu einer Kostenreduzierung im Gesundheitsbereich beitragen.

Kristina Kobrow:
Warum? 

Claudia Lampert:
Naja, weil letztendlich diese Maßnahmen oder die Technologien, die da entwickelt werden, auch genutzt werden, um die Menschen in die Lage zu versetzen, die Verantwortung für ihre eigene Gesundheit zu übernehmen, sich gesünder zu ernähren, sich zu bewegen, auch das Stichwort Self-Optimization etc. Also einfach, dass das auch zu einer gesünderen Lebensweise beitragen soll und letztendlich dann auch die Kosten im Gesundheitssystem reduzieren soll für die Behandlung von bestimmten Krankheiten. 

Kristina Kobrow:
Ich würde dich gerne noch so ein bisschen fragen, also in Richtung Zukunft gedacht. Du hast jetzt ja auch schon gesagt, es braucht diesen Trialog zwischen Arzt, Patient, Patientin und der KI eigentlich. Noch mal konkreter gefragt, aber was muss ich jetzt selber für meinen Prompt zum Beispiel wissen? Also was kann ich selber besser machen, damit die KI tatsächlich mir helfen könnte? Oder was muss ich auf jeden Fall unterlassen zu tun? 

Claudia Lampert:
Ich würde sagen, letztendlich gibt es zum Thema Prompten jetzt kein One-Size-Fits-All-Rezept, sondern es hängt natürlich ganz stark davon ab, was quasi mein Bedürfnis ist. Was möchte ich von der KI? Aber wenn es jetzt um medizinische Informationen geht, da kann ich natürlich schon versuchen, ein bisschen präziser zu prompten, indem ich halt sage, nenne mir nur Dinge, die wissenschaftlich belegt sind oder die den Leitlinien entsprechen. Also, dass ich versuche, das so präzise wie möglich zu formulieren, sodass die KI auch auf einer sachlichen Ebene antwortet und jetzt nicht auf einer, nicht auf der Beziehungsebene, würde ich sagen. 

Kristina Kobrow:
Und so valide wie möglich. 

Claudia Lampert:
Und so valide wie möglich, ja.

Kristina Kobrow:
Was müssen die Ärzte jetzt konkret lernen? 

Claudia Lampert:
Ich würde sagen, die Ärzte sollten tatsächlich noch mehr zuhören, mit welchen Informationen, Sorgen und Ängsten die Patienten in die Praxis kommen und woher sie diese Sorgen und Ängste und Informationen haben und da auch dann gemeinsam draufschauen und gucken, ob die Sorge begründet ist oder ja, wie man da gut ansetzen kann, um dann die richtige beziehungsweise adäquate Behandlung dann für den Patienten oder die Patientin zu finden. 

Kristina Kobrow:
Letzte Frage sozusagen. Was muss denn dann ein Sprachmodell noch besser machen? 

Claudia Lampert:
Das ist jetzt wirklich eine, finde ich, eine schwierige Frage, weil es hängt davon, also auch nochmal von dem Nutzungskontext ab und bei einigen Anwendungsbezügen ist mein Eindruck, da funktioniert das schon verdammt gut. Nur wenn es darum geht, was weiß ich, Halluzinationen zu verringern oder Falschinformationen, da wird es sicherlich Ansatzpunkte geben, wo man sagen könnte, okay, da müsste man die Modelle noch so und so bauen, damit das noch besser funktioniert oder noch zuverlässiger ist und so weiter. Aber wenn ich mir das jetzt sozusagen aus so einer kommunikationsbezogenen Perspektive anschaue, also was da an, was ich vorhin schon sagte, so was da an Dialog stattfindet, finde ich, ist das schon wirklich bemerkenswert und auch ein bisschen unheimlich. Da wüsste ich tatsächlich nicht, was man da jetzt noch verbessern sollte. Aber im Bezug auf die Fehlerhaftigkeit und Halluzinationen, da gibt es bestimmt noch Möglichkeiten nach oben. 

Kristina Kobrow:
Dann danke ich dir an dieser Stelle für unseren Dialog und wünsche dir noch einen schönen Abend. 

Claudia Lampert:
Vielen Dank. Das wünsche ich dir auch. 

Kristina Kobrow:
Danke. Tschüss.

Claudia Lampert:
Tschüss. 

Outro:
Über die Frage, ob KI-Chatbots gute Diagnostiker und Ratgeber sind, was sie können, was sie nicht können, dazu durfte ich heute sprechen mit meiner Kollegin vom Leibniz-Institut für Medienforschung I Hans-Bredow-Institut, Dr. Claudia Lampert. Wer noch mehr über unsere Arbeit am Institut wissen möchte, der schaut am besten auf unserer Website vorbei, das ist leibniz-hbi.de oder folgt uns auf Social Media auf LinkedIn oder Bluesky.

Mein Name ist Kristina Kobrow und dies ist der BredowCast.