{"id":12419,"date":"2023-09-11T11:00:00","date_gmt":"2023-09-11T09:00:00","guid":{"rendered":"https:\/\/www.cibx.de\/?p=12419"},"modified":"2023-09-21T10:03:59","modified_gmt":"2023-09-21T08:03:59","slug":"ki-und-wahrheit","status":"publish","type":"post","link":"https:\/\/cibx.de\/en\/ki-und-wahrheit\/","title":{"rendered":"KI und Wahrheit?"},"content":{"rendered":"

Die Verpflichtung von K\u00fcnstlicher Intelligenz (KI) zur Wahrheit ist ein komplexes Problem, das auch bei Chatbots im Gesundheitswesen relevant ist. Large Language Models (LLMs) wie GPT-4<\/a> von OpenAI<\/a> und PaLM von Google k\u00f6nnen potenziell n\u00fctzliche Werkzeuge in der Patientenversorgung sein, bergen jedoch inh\u00e4rente Risiken, insbesondere wenn es um medizinische Beratung geht.<\/p>\n\n\n\n

Ein Hauptproblem besteht darin, dass LLMs falsche oder unangemessene Antworten generieren k\u00f6nnen, insbesondere wenn ihnen wichtige Informationen fehlen. Im medizinischen Bereich kann dies zu potenziell gef\u00e4hrlichen Situationen f\u00fchren. Die Qualit\u00e4t und Verl\u00e4sslichkeit der Antworten von LLMs zu \u00fcberpr\u00fcfen, ist eine enorme Herausforderung.<\/p>\n\n\n\n

Um KI verl\u00e4sslicher zu machen, k\u00f6nnten Zulassungsprozesse f\u00fcr LLM-Chatbots im Gesundheitswesen implementiert werden. Aktuelle LLM-Chatbots erf\u00fcllen nicht die wichtigsten Prinzipien f\u00fcr KI im Gesundheitswesen, wie Voreingenommenheitskontrolle, Erkl\u00e4rbarkeit, Aufsichtssysteme, Validierung und Transparenz. Eine h\u00f6here Genauigkeit, Sicherheit und klinische Wirksamkeit sollten nachgewiesen und von Aufsichtsbeh\u00f6rden genehmigt werden. Unter dem EU-Recht werden Softwareprodukte mit einem solchen Nutzungsumfang im medizinischen Bereich als Medizinprodukte eingestuft und erfordern daher eine entsprechende Zulassung.<\/p>\n\n\n\n

Zuverl\u00e4ssigkeit von KI durch Training st\u00e4rken<\/h2>\n\n\n\n

Es wird auch betont, dass LLMs kontinuierlich trainiert werden und dadurch zuverl\u00e4ssiger werden. Durch die Verwendung von kontrollierten und validierten medizinischen Texten k\u00f6nnen rein medizinische Chatbots trainiert werden. Zus\u00e4tzlich zu Training und Daten sind Qualit\u00e4tsmanagement und ein umfassender Zugang zu Algorithmen, Daten und Modellen erforderlich, um den Wahrheitsgehalt der Aussagen sicherzustellen.<\/p>\n\n\n\n

Es gibt jedoch keine klare L\u00f6sung f\u00fcr das Problem, da LLMs eine nahezu unbegrenzte Bandbreite an Eingaben und Ausgaben haben. Die Tendenz, plausible, aber sch\u00e4dliche oder falsche Informationen zu suggerieren, kann daher m\u00f6glicherweise nie vollst\u00e4ndig kontrolliert werden.<\/p>\n\n\n\n

Es wird festgehalten, dass LLMs im medizinischen Bereich die gleichen hohen Anspr\u00fcche erf\u00fcllen sollten wie \u00c4rzte, die t\u00e4glich Patienten behandeln. Es bedarf weiterer Forschung, Entwicklung von Normen und Vorschriften sowie einer engen Zusammenarbeit zwischen Experten, Regulierungsbeh\u00f6rden und der Industrie, um die Verl\u00e4sslichkeit von KI im Gesundheitswesen zu verbessern und die Sicherheit der Patienten zu gew\u00e4hrleisten.<\/p>","protected":false},"excerpt":{"rendered":"

Die Verpflichtung von K\u00fcnstlicher Intelligenz (KI) zur Wahrheit ist ein komplexes Problem, das auch bei Chatbots im Gesundheitswesen relevant ist. Large Language Models (LLMs) wie GPT-4 von OpenAI und PaLM von Google k\u00f6nnen potenziell n\u00fctzliche Werkzeuge in der Patientenversorgung sein, bergen jedoch inh\u00e4rente Risiken, insbesondere wenn es um medizinische Beratung geht. Ein Hauptproblem besteht darin, […]<\/p>\n","protected":false},"author":8,"featured_media":12846,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"","ast-site-content-layout":"default","site-content-style":"default","site-sidebar-style":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","ast-disable-related-posts":"","theme-transparent-header-meta":"","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","astra-migrate-meta-layouts":"default","ast-page-background-enabled":"default","ast-page-background-meta":{"desktop":{"background-color":"var(--ast-global-color-4)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"ast-content-background-meta":{"desktop":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"tablet":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""},"mobile":{"background-color":"var(--ast-global-color-5)","background-image":"","background-repeat":"repeat","background-position":"center center","background-size":"auto","background-attachment":"scroll","background-type":"","background-media":"","overlay-type":"","overlay-color":"","overlay-opacity":"","overlay-gradient":""}},"_themeisle_gutenberg_block_has_review":false,"footnotes":""},"categories":[6],"tags":[63,61,39,40,59,41,64],"class_list":["post-12419","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-blog","tag-chatbots","tag-digital-health","tag-digitale-loesungen","tag-digitalisierung","tag-ehealth","tag-gesundheitswesen","tag-ki"],"_links":{"self":[{"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/posts\/12419","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/users\/8"}],"replies":[{"embeddable":true,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/comments?post=12419"}],"version-history":[{"count":2,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/posts\/12419\/revisions"}],"predecessor-version":[{"id":14168,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/posts\/12419\/revisions\/14168"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/media\/12846"}],"wp:attachment":[{"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/media?parent=12419"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/categories?post=12419"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/cibx.de\/en\/wp-json\/wp\/v2\/tags?post=12419"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}