{"id":4545,"date":"2025-11-22T07:57:49","date_gmt":"2025-11-22T07:57:49","guid":{"rendered":"https:\/\/academicsolidarity.com\/?p=4545"},"modified":"2025-11-22T08:02:38","modified_gmt":"2025-11-22T08:02:38","slug":"ki-kann-zuruckgezogene-artikel-nicht-erkennen","status":"publish","type":"post","link":"https:\/\/academicsolidarity.com\/?p=4545&lang=de","title":{"rendered":"KI kann zur\u00fcckgezogene Artikel nicht erkennen"},"content":{"rendered":"\n<p class=\"wp-block-paragraph\">Zur\u00fcckgezogene Artikel geh\u00f6ren zu den deutlichsten und sichtbarsten Warnsignalen zum Schutz der Forschungsintegrit\u00e4t in der wissenschaftlichen Literatur. Eine neue Studie, die am 19. November 2025 in Retraction Watch ver\u00f6ffentlicht wurde, zeigt jedoch, dass die sich rasant verbreitenden KI-Chatbots besonders gro\u00dfe Schwierigkeiten haben, diese kritischen Warnsignale zu erkennen. Die Forscher warnen davor, dass Wissenschaftler, insbesondere diejenigen, die ChatGPT und \u00e4hnliche Tools verwenden, schwerwiegende Fehler riskieren, wenn sie die Antworten dieser Modelle als \u201eautomatischen Wahrheitsfilter\u201c nutzen (<a href=\"https:\/\/retractionwatch.com\/2025\/11\/19\/ai-unreliable-identifying-retracted-research-papers-study\/\">https:\/\/retractionwatch.com\/2025\/11\/19\/ai-unreliable-identifying-retracted-research-papers-study\/<\/a>). &nbsp;<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Konradin Metze und sein Team an der Staatlichen Universit\u00e4t Campinas, die die Studie durchf\u00fchrten, entwarfen ein relativ einfaches Experiment. Sie pr\u00e4sentierten 21 verschiedenen KIs eine Liste von Publikationen von Joachim Boldt, der f\u00fcr seinen gro\u00dfen wissenschaftlichen Betrugsskandal in der An\u00e4sthesiologie bekannt ist. Die Liste enthielt die meistzitierten zur\u00fcckgezogenen Artikel von Boldt, die meistzitierten, nicht zur\u00fcckgezogenen Publikationen von Boldt sowie Artikel anderer Autoren mit dem Nachnamen Boldt. F\u00fcr jede der 132 Referenzen wurde den Bots eine einzige Frage gestellt: Wurde dieser Artikel zur\u00fcckgezogen oder nicht?<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Die Ergebnisse waren verbl\u00fcffend. Die meisten Chatbots erkannten weniger als die H\u00e4lfte der zur\u00fcckgezogenen Artikel korrekt. Sie \u00fcbersahen diese nicht nur, sondern kennzeichneten auch einen erheblichen Teil der nicht zur\u00fcckgezogenen Artikel f\u00e4lschlicherweise als zur\u00fcckgezogen. Dies stellt eine gravierende Schw\u00e4che hinsichtlich Sensitivit\u00e4t und Spezifit\u00e4t dar: Die KI vermittelt falsche Sicherheit und s\u00e4t unn\u00f6tige Zweifel an etablierten Artikeln.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Als das Forschungsteam drei Monate sp\u00e4ter einen Teil des Experiments wiederholte, stie\u00df es auf ein noch auff\u00e4lligeres Muster. In der ersten Runde verwendeten die Bots \u00fcberwiegend eindeutige Aussagen, in der zweiten Runde hingegen vage und ausweichende Formulierungen wie \u201em\u00f6glicherweise zur\u00fcckgezogen\u201c oder \u201eerfordert weitere \u00dcberpr\u00fcfung\u201c. Die Forscher interpretieren diese Verschiebung als ein Schwanken der Modelle zwischen \u201efalscher Gewissheit\u201c und \u201edem Versuch, sich mit vagen Aussagen zu retten\u201c.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Der Bericht von Retraction Watch zitiert au\u00dferdem eine weitere aktuelle Studie von Mike Thelwall von der Universit\u00e4t Sheffield. Thelwall lie\u00df ChatGPT 217 zur\u00fcckgezogene oder stark in Frage gestellte Artikel 6.510 Mal bewerten. In keiner dieser Tausenden von Antworten deutete ChatGPT darauf hin, dass der Artikel zur\u00fcckgezogen wurde, Fragen dazu aufwarf oder wissenschaftliche Probleme enthielt. Im Gegenteil, es lobte sogar einige zur\u00fcckgezogene Artikel als \u201ehochwertige Arbeit\u201c. Dies zeigt, dass KI nicht nur Informationen \u00fcber R\u00fccknahmen \u00fcbersieht, sondern auch fehlerhafte oder falsche wissenschaftliche Ergebnisse verherrlichen und reproduzieren kann (<a href=\"https:\/\/sheffield.ac.uk\/ijc\/news\/new-research-suggests-chatgpt-ignores-article-retractions-and-errors-when-used-inform-literature?utm_source=chatgpt.com\">https:\/\/sheffield.ac.uk\/ijc\/news\/new-research-suggests-chatgpt-ignores-article-retractions-and-errors-when-used-inform-literature?utm_source=chatgpt.com<\/a>).<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Das Problem beschr\u00e4nkt sich nicht nur auf die Erkennung. Eine weitere Studie, ver\u00f6ffentlicht im Journal of Advanced Research, zeigte, dass Chatbots zur\u00fcckgezogene Artikel als Quellen in ihren Antworten verwenden. Das bedeutet, dass KI Informationen, die in der wissenschaftlichen Literatur als \u00fcberholt gelten, erneut verbreiten kann. Da immer mehr Wissenschaftler Tools wie ChatGPT nutzen, um schnell zusammenzufassen, Forschungsideen zu entwickeln oder sich in die Literatur einzuarbeiten, steigt das Risiko der erneuten Verbreitung zur\u00fcckgezogener Informationen erheblich.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Der Wissenschaftssoziologe Serge Horbach bezeichnet diese Entwicklungen als \u201edeutliche Warnung\u201c: LLM-Modelle eignen sich nicht, um zur\u00fcckgezogene Artikel herauszufiltern. Die Trainingsdaten von KI-Modellen stammen aus einem System, das historisch gesehen hinterherhinkt und in dem Informationen \u00fcber die R\u00fccknahme von Artikeln fragmentiert ver\u00f6ffentlicht werden. Informationen \u00fcber die R\u00fccknahme eines Artikels sind m\u00f6glicherweise nur auf der Zeitschriftenseite, nur in PubMed oder nur in der Retraction Watch-Datenbank sichtbar. Diese fragmentierte Struktur sicher und pr\u00e4zise zu durchsuchen, \u00fcbersteigt die technischen M\u00f6glichkeiten heutiger Chatbots bei Weitem.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">F\u00fcr Academic Solidarity sind diese Erkenntnisse besonders relevant f\u00fcr Wissenschaftler im Exil oder in prek\u00e4ren Arbeitsverh\u00e4ltnissen. In Situationen mit eingeschr\u00e4nktem Zugang zu Forschungsinfrastruktur bieten Tools wie ChatGPT zwar hohe Geschwindigkeit und Komfort, bergen aber gleichzeitig das Risiko der unbemerkten Reproduktion von Studien, die auf zur\u00fcckgezogenen oder fehlerhaften Informationen basieren. Dieses Risiko ist f\u00fcr Forschende in den Bereichen Politik, Recht oder Menschenrechte noch gravierender; Fehlinformationen k\u00f6nnen nicht nur einen wissenschaftlichen Fehler darstellen, sondern auch politischer Manipulation T\u00fcr und Tor \u00f6ffnen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Diese Situation bedeutet nicht zwangsl\u00e4ufig, dass KI vollst\u00e4ndig aus Forschungsprozessen ausgeschlossen werden sollte; sie verdeutlicht jedoch eine entscheidende Einschr\u00e4nkung: ChatGPT und \u00e4hnliche Modelle sind keine zuverl\u00e4ssigen Filter zur Erkennung zur\u00fcckgezogener Literatur.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Zur\u00fcckgezogene Artikel geh\u00f6ren zu den deutlichsten und sichtbarsten Warnsignalen zum Schutz der Forschungsintegrit\u00e4t in der wissenschaftlichen Literatur. Eine neue Studie, die am 19. November 2025 in Retraction Watch ver\u00f6ffentlicht wurde, zeigt jedoch, dass die sich rasant verbreitenden KI-Chatbots besonders gro\u00dfe Schwierigkeiten haben, diese kritischen Warnsignale zu erkennen. Die Forscher warnen davor, dass Wissenschaftler, insbesondere diejenigen, [&hellip;]<\/p>\n","protected":false},"author":3,"featured_media":4547,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[118],"tags":[],"class_list":["post-4545","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-aktuell-de"],"jetpack_featured_media_url":"https:\/\/i0.wp.com\/academicsolidarity.com\/wp-content\/uploads\/2025\/11\/20251122ChatGPT-1.jpg?fit=831%2C423&ssl=1","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/posts\/4545","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=4545"}],"version-history":[{"count":1,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/posts\/4545\/revisions"}],"predecessor-version":[{"id":4546,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/posts\/4545\/revisions\/4546"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=\/wp\/v2\/media\/4547"}],"wp:attachment":[{"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=4545"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=4545"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/academicsolidarity.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=4545"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}