{"id":4421,"date":"2025-08-10T07:09:26","date_gmt":"2025-08-10T07:09:26","guid":{"rendered":"https:\/\/academicsolidarity.com\/?p=4421"},"modified":"2025-08-10T07:09:29","modified_gmt":"2025-08-10T07:09:29","slug":"selbst-ein-einfaches-problem-kann-ki-in-die-irre-fuhren","status":"publish","type":"post","link":"https:\/\/academicsolidarity.com\/?p=4421&lang=de","title":{"rendered":"Selbst ein einfaches Problem kann KI in die Irre f\u00fchren"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">W\u00e4hrend KI-gest\u00fctzte Sprachmodelle (LLMs) oft f\u00fcr ihre F\u00e4higkeit gelobt werden, schnell und umfassend medizinisches Wissen zu liefern, haben neue Forschungsergebnisse gezeigt, dass diese Systeme selbst bei einfachen ethischen Fragen Fehler machen k\u00f6nnen. Eine gemeinsame Studie der Mount Sinai School of Medicine und des Kibbutz Rabin Medical Center in Israel ergab, dass selbst die fortschrittlichsten Modelle, darunter ChatGPT, in grundlegenden ethischen Szenarien voreingenommene oder falsche Entscheidungen trafen (<a href=\"https:\/\/www.sciencedaily.com\/releases\/2025\/07\/250723045711.htm\">https:\/\/www.sciencedaily.com\/releases\/2025\/07\/250723045711.htm<\/a>). Inspiriert von Daniel Kahnemans \u201eSchnelles Denken, langsames Denken\u201c (<a href=\"https:\/\/en.wikipedia.org\/wiki\/Thinking,_Fast_and_Slow\">https:\/\/en.wikipedia.org\/wiki\/Thinking,_Fast_and_Slow<\/a>), modifizierten die Forscher klassische R\u00e4tsel der Medizinethik leicht \u2013 wie beispielsweise das \u201eSurgeon&#8217;s Son\u201c-Paradoxon (<a href=\"https:\/\/www.apm.org.uk\/blog\/understanding-unconscious-bias-a-silver-bullet-for-equality\/\">https:\/\/www.apm.org.uk\/blog\/understanding-unconscious-bias-a-silver-bullet-for-equality\/<\/a>). In einem Szenario, in dem der Vater Chirurg ist, sein Geschlecht jedoch nicht angegeben ist, sollte das Modell davon ausgehen, dass die Frau die Chirurgin ist. Es traf jedoch manchmal sexistische Annahmen. Solche \u00fcbereilten und voreingenommenen Entscheidungen wurden in 20\u201330 % der Modelle festgestellt.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dies zeigt, dass KI nicht nur ein Werkzeug zur Wissensvermittlung ist, sondern auch aktiv in den ethischen Prozess eingreifen kann. Dieser Eingriff birgt jedoch das Risiko der Irref\u00fchrung.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Wie Dr. Eyal Klang, einer der Autoren der Studie, betont, sind Entscheidungen im Gesundheitswesen heikel und k\u00f6nnen das Leben eines Patienten retten oder sch\u00e4digen. Daher erfordert die Gew\u00e4hrleistung der Zuverl\u00e4ssigkeit von KI-Systemen menschliche Aufsicht, klare ethische Grenzen und ein Bewusstsein f\u00fcr das Risiko \u201eschneller, aber falscher\u201c Entscheidungen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">LLMs sind zwar leistungsstark bei der Vermittlung von technischem Wissen, k\u00f6nnen aber in Situationen mit ethischer, kultureller oder emotionaler Komplexit\u00e4t anf\u00e4llig sein. Die Zuverl\u00e4ssigkeit dieser Systeme sollte insbesondere in ressourcenbeschr\u00e4nkten klinischen Umgebungen oder in Krisenzeiten hinterfragt werden. Trotz der Behauptungen, dass KI den menschlichen Faktor vollst\u00e4ndig ersetzen k\u00f6nne, scheint sie bei entscheidenden Entscheidungsprozessen zu versagen.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>W\u00e4hrend KI-gest\u00fctzte Sprachmodelle (LLMs) oft f\u00fcr ihre F\u00e4higkeit gelobt werden, schnell und umfassend medizinisches Wissen zu liefern, haben neue Forschungsergebnisse gezeigt, dass diese Systeme selbst bei einfachen ethischen Fragen Fehler machen k\u00f6nnen. Eine gemeinsame Studie der Mount Sinai School of Medicine und des Kibbutz Rabin Medical Center in Israel ergab, dass selbst die fortschrittlichsten Modelle, [&hellip;]<\/p>\n","protected":false},"author":3,"featured_media":4419,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[118],"tags":[],"class_list":["post-4421","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-aktuell-de"],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/academicsolidarity.com\/wp-content\/uploads\/2025\/08\/20250810AI.png?fit=1092%2C727&ssl=1","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/posts\/4421","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=4421"}],"version-history":[{"count":1,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/posts\/4421\/revisions"}],"predecessor-version":[{"id":4422,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/posts\/4421\/revisions\/4422"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/media\/4419"}],"wp:attachment":[{"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=4421"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=4421"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=4421"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}