Tıp alanında hızlı ve kapsamlı bilgi sağlayabilen yapay zeka (YZ) destekli dil modelleri (LLM’ler), her ne kadar övgü toplasa da, yeni bir araştırma bu sistemlerin basit etik sorularda bile hata yapabildiğini ortaya koydu. Mount Sinai Tıp Fakültesi ve İsrail Kibbutz Rabin Tıp Merkezi’nin ortak çalışmasında, ChatGPT dahil en gelişmiş modellerin bile temel etik senaryolarda yanlı veya hatalı kararlar verdiği görüldü (https://www.sciencedaily.com/releases/2025/07/250723045711.htm).

Araştırmacılar, Daniel Kahneman’ın Thinking, Fast and Slow (https://en.wikipedia.org/wiki/Thinking,_Fast_and_Slow) yaklaşımından ilham alarak, tıp etiğinde bilinen klasik bulmacaları—örneğin “cerrahın oğlu” paradoksunu (https://www.apm.org.uk/blog/understanding-unconscious-bias-a-silver-bullet-for-equality/)—hafifçe değiştirdiler. Örneğin, babanın cerrah olduğu ama cinsiyeti belirtilmediği bir senaryoda, modelin kadını cerrah olarak varsayması beklendiği halde, bazen cinsiyetçi varsayımlar yapabildiği görüldü. Modellerin %20–30’unda bu tür aceleci ve önyargılı kararlar tespit edildi.

Bu durum, yapay zekanın yalnızca bilgi aktaran bir araç olmadığını, aynı zamanda etik sürece aktif olarak müdahale edebildiğini gösteriyor. Ancak bu müdahale, yanlış yönlendirme riskini de beraberinde getiriyor.

Çalışmanın yazarlarından Dr. Eyal Klang’ın belirttiği gibi, sağlıkta verilen kararlar, hastanın hayatını kurtarabilecek veya zarar verebilecek hassas tercihlerdir. Bu nedenle, YZ sistemlerinin güvenilirliğini sağlamak için insan gözetimi, net etik sınırlar ve “hızlı ama yanlış” karar riskine karşı farkındalık şart.

LLM’ler teknik bilgi aktarımında güçlü olsa da, etik, kültürel veya duygusal karmaşıklık gerektiren durumlarda kırılgan kalabiliyor. Özellikle kaynakları kısıtlı klinik ortamlarında veya kriz anlarında, bu sistemlerin güvenilirliği sorgulanmalı. YZ’nın insan faktörünün yerini tamamen alabileceği iddiasına rağmen, hayati karar aşamalarında eksik kaldığı görülüyor.