{"id":15020,"date":"2024-07-29T11:00:00","date_gmt":"2024-07-29T09:00:00","guid":{"rendered":"https:\/\/cibx.de\/?p=15020"},"modified":"2024-07-25T14:46:54","modified_gmt":"2024-07-25T12:46:54","slug":"ki-in-der-notaufnahme","status":"publish","type":"post","link":"https:\/\/cibx.de\/en\/ki-in-der-notaufnahme\/","title":{"rendered":"KI in der Notaufnahme: Gefahren und Potenziale von KI-Chatbots in der Medizin"},"content":{"rendered":"

Sind KI-Chatbots f\u00fcr den Einsatz im Klinikalltag geeignet? Um diese Frage zu beantworten, haben Forscher der Technischen Universit\u00e4t M\u00fcnchen (TUM) die Diagnosef\u00e4higkeiten von Large Language Models getestet. Die Ergebnisse sind alarmierend und werfen wichtige Fragen zur Sicherheit und Zuverl\u00e4ssigkeit dieser Technologien auf.<\/p>\n\n\n\n

K\u00f6nnen KI-Modelle \u00c4rzte in der Notaufnahme ersetzen?<\/h4>\n\n\n\n

Large Language Models, die auch hinter ChatGPT<\/a> stehen, k\u00f6nnten theoretisch Aufgaben von \u00c4rzten in einer Notaufnahme \u00fcbernehmen. Sie k\u00f6nnten anhand geschilderter Beschwerden die passenden Tests anordnen, die richtige Diagnose stellen und einen Behandlungsplan entwerfen. Ein Team der TUM hat sich intensiv mit diesen Fragen besch\u00e4ftigt.<\/p>\n\n\n\n

Das Ergebnis der Untersuchung: Derzeit sind diese KI-Modelle nicht f\u00fcr den Klinikalltag geeignet. Laut einer Mitteilung der TUM treffen die Medizin-Chatbots vorschnelle Diagnosen, halten sich nicht an medizinische Richtlinien und k\u00f6nnten die Gesundheit der Patienten gef\u00e4hrden. Daniel R\u00fcckert, Professor f\u00fcr Artificial Intelligence in Healthcare and Medicine an der TUM, erkl\u00e4rt jedoch, dass es gut m\u00f6glich sei, dass in absehbarer Zeit ein Large Language Model besser daf\u00fcr geeignet ist, aus Krankengeschichten und Testergebnissen eine Diagnose abzuleiten.<\/p>\n\n\n\n

Freigabe der Testumgebung f\u00fcr weitere Forschung<\/h4>\n\n\n\n

Die TUM hat eine Testumgebung f\u00fcr alle Forschungsgruppen freigegeben, die Large Language Models<\/a> im klinischen Kontext testen wollen. Diese Computerprogramme k\u00f6nnten in Zukunft wichtige Werkzeuge f\u00fcr \u00c4rzte werden, beispielsweise um medizinische F\u00e4lle zu diskutieren. R\u00fcckert betont jedoch die Notwendigkeit, sich der Grenzen und Eigenheiten dieser Technologie bewusst zu sein und diese bei der Entwicklung von Anwendungen zu ber\u00fccksichtigen.<\/p>\n\n\n\n

F\u00fcr ihren Test nutzten die TUM-Forscher anonymisierte Daten von Patienten einer Klinik in den USA. Aus einem gr\u00f6\u00dferen Datensatz w\u00e4hlten sie 2400 F\u00e4lle aus, bei denen die Patienten mit Bauchschmerzen in die Notaufnahme gekommen waren. Die Fallbeschreibung endete jeweils mit einer von vier Diagnosen und einem Behandlungsplan.<\/p>\n\n\n\n

Nachahmung der realen Krankenhausabl\u00e4ufe<\/h4>\n\n\n\n

\u201eWir haben die Daten so aufbereitet, dass die Algorithmen die realen Abl\u00e4ufe und Entscheidungsprozesse im Krankenhaus nachspielen konnten\u201c, erkl\u00e4rt Friederike Jungmann, Assistenz\u00e4rztin in der Radiologie des Klinikums rechts der Isar der TUM. Das Programm hatte immer nur die Informationen, die auch die realen \u00c4rzte hatten. Ob es beispielsweise ein Blutbild in Auftrag gibt, musste es selbst entscheiden und dann auf dieser Basis die n\u00e4chste Entscheidung treffen, bis es schlie\u00dflich eine Diagnose und einen Behandlungsplan erstellt hatte.<\/p>\n\n\n\n

Das Team stellte fest, dass keiner der getesteten KI-Algorithmen durchg\u00e4ngig alle notwendigen Untersuchungen einforderte. Tats\u00e4chlich wurden die Diagnosen der Programme weniger zutreffend, je mehr Informationen sie zu dem Fall hatten. Behandlungsrichtlinien wurden oft nicht befolgt, was zu Untersuchungen f\u00fchrte, die f\u00fcr echte Patienten schwerwiegende gesundheitliche Folgen gehabt h\u00e4tten.<\/p>\n\n\n\n

Vergleich der KI-Diagnosen mit denen von \u00c4rzten<\/h4>\n\n\n\n

In einem zweiten Teil der Studie wurden die Diagnosen der KI mit denen von vier \u00c4rzten verglichen. W\u00e4hrend die \u00c4rzte bei 89 Prozent der Diagnosen richtig lagen, erreichte das beste Large Language Model lediglich eine Trefferquote von 73 Prozent. Jedes Modell hatte St\u00e4rken und Schw\u00e4chen in der Erkennung verschiedener Erkrankungen. Ein Modell erkannte Gallenblasenentz\u00fcndungen nur in 13 Prozent der F\u00e4lle korrekt. Ein weiteres Problem war die mangelnde Robustheit der KI-Modelle: Die gestellte Diagnose hing davon ab, in welcher Reihenfolge die Informationen verarbeitet wurden.<\/p>\n\n\n\n

Die TUM betont, dass kommerzielle Large Language Models wie ChatGPT von OpenAI und Modelle von Google explizit nicht getestet wurden. Datenschutzgr\u00fcnde des Anbieters der Krankenhausdaten verbieten die Verarbeitung dieser Daten mit kommerziellen Modellen. Experten raten zudem, im Gesundheitssektor ausschlie\u00dflich Open-Source-Software zu verwenden, um die Sicherheit der Patienten zu gew\u00e4hrleisten.<\/p>\n\n\n\n

Notwendigkeit von Transparenz und Kontrolle<\/h4>\n\n\n\n

Paul Hager, Informatiker und Mitautor der Studie, erkl\u00e4rt: \u201eNur mit Open-Source-Software haben Krankenh\u00e4user die n\u00f6tigen Informationen und die Kontrolle, um die Sicherheit der Patienten zu gew\u00e4hrleisten.\u201c Um Large Language Models korrekt zu bewerten, m\u00fcsse bekannt sein, mit welchen Daten sie trainiert wurden. Es sei gef\u00e4hrlich, sich auf externe Dienstleister f\u00fcr wichtige medizinische Infrastrukturen zu verlassen, da diese im Extremfall ihre Dienste einstellen k\u00f6nnten, wenn sie nicht mehr rentabel sind.<\/p>","protected":false},"excerpt":{"rendered":"

Sind KI-Chatbots f\u00fcr den Einsatz im Klinikalltag geeignet? Um diese Frage zu beantworten, haben Forscher der Technischen Universit\u00e4t M\u00fcnchen (TUM) die Diagnosef\u00e4higkeiten von Large Language Models getestet. Die Ergebnisse sind alarmierend und werfen wichtige Fragen zur Sicherheit und Zuverl\u00e4ssigkeit dieser Technologien auf. K\u00f6nnen KI-Modelle \u00c4rzte in der Notaufnahme ersetzen? Large Language Models, die auch hinter […]<\/p>\n","protected":false},"author":7,"featured_media":15021,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"_themeisle_gutenberg_block_has_review":false,"footnotes":""},"categories":[6],"tags":[61,39,40,59,41,139],"class_list":["post-15020","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blog","tag-digital-health","tag-digitale-loesungen","tag-digitalisierung","tag-ehealth","tag-gesundheitswesen","tag-krankenhaus"],"_links":{"self":[{"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/posts\/15020","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/users\/7"}],"replies":[{"embeddable":true,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/comments?post=15020"}],"version-history":[{"count":1,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/posts\/15020\/revisions"}],"predecessor-version":[{"id":15022,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/posts\/15020\/revisions\/15022"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/media\/15021"}],"wp:attachment":[{"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/media?parent=15020"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/categories?post=15020"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/tags?post=15020"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}