- İsveçli araştırmacıların yapay zekayı denemek için kurguladığı sahte hastalık, ChatGPT ve Copilot gibi sistemler tarafından gerçek bir rahatsızlık gibi sunuldu.
- Sahte makalelerin hakemli bir dergide bile kaynak gösterilmesi, yapay zeka ve akademik yayıncılıktaki bilgi doğrulama zaafını gözler önüne serdi.
- Deney, yapay zeka tarafından verilen tıbbi bilgilerin yetkili kaynaklardan mutlaka doğrulanması gerektiğini ortaya koydu.
İsveç'teki tıp araştırmacıları, yapay zeka modellerinin internette karşılaştığı bilgileri ne ölçüde doğruladığını test etmek amacıyla dikkat çekici bir deney gerçekleştirdi. Göteborg Üniversitesi'nden tıp araştırmacısı Almira Osmanovic Thunström liderliğindeki ekip, 2024'ün başında tamamen kurgusal bir göz hastalığı tasarladı. “Bixonimania” adı verilen hastalık için akıllı telefonlardan yayılan mavi ışığın göz kapağında renk değişimine ve şiddetli ağrıya neden olduğu yönünde sahte bilgiler hazırlandı.
Araştırmacılar, bu iddiaları destekliyormuş gibi görünen iki sahte akademik makale de hazırladı.
Sahte makalelere bilimsel ayrıntılar eklediler
Deneyin dikkat çeken taraflarından biri, araştırmacıların sahte içerikleri mümkün olduğunca gerçek akademik yayınlara benzetmesiydi.
Hazırlanan metinlerde sahte üniversite isimleri ve uydurma fon kaynakları kullanıldı. Belgelerde “USS Enterprise” gibi bilim kurgu göndermelerine de yer verildi.
Daha da dikkat çekici olan ise bazı belgelerin dipnotlarında çalışmanın tamamen uydurma olduğunun açıkça belirtilmesiydi.Buna rağmen sahte içeriklerin dijital bilgi ekosisteminde yayılmasının önüne geçilemedi.
ChatGPT ve Copilot sahte hastalığı gerçek kabul etti
Deneyin ilerleyen aşamalarında araştırmacılar, yapay zeka modellerinin oluşturdukları sahte bilgileri nasıl değerlendirdiğini inceledi. ChatGPT ve Microsoft Copilot gibi yaygın yapay zeka sohbet botlarının, kullanıcılardan gelen semptomlara dayanarak “bixonimania”yı gerçek bir hastalık gibi sunduğu görüldü.
Microsoft Copilot'un ise hayali rahatsızlığı “ilginç ve nispeten nadir görülen bir durum” şeklinde tanımlayarak kullanıcıya bilgi aktardığı belirtildi.
Böylece araştırmacıların özellikle test etmek istediği sorun ortaya çıktı: Yapay zeka modelleri, internette bulunan akademik görünümlü bilgileri her zaman güvenilirlik açısından yeterince sorgulamayabiliyor.
Sahte hastalık akademik makaleye de girdi
Deneyin sonuçları yalnızca yapay zeka sohbet botlarıyla sınırlı kalmadı. “Bixonimania” hakkında hazırlanan sahte makalelere atıfta bulunan bir çalışma, hakemli bir bilimsel dergide yayımlandı. Bu gelişme, yapay zeka tarafından önerilen veya internetten bulunan kaynakların bazı araştırmacılar tarafından yeterli doğrulama yapılmadan kullanılabildiğini gösterdi. Söz konusu çalışma Mart 2026'da dergi tarafından geri çekildi.
Sahte içerikler 10 Nisan'da kaldırıldı
Bir bilim dergisinin konuyu geniş kapsamlı biçimde gündeme taşımasının ardından, deney kapsamında hazırlanan sahte ön baskı metinleri 10 Nisan 2026'da yayımlandıkları sunuculardan tamamen kaldırıldı.
Deneyin ortaya çıkardığı tablo, yalnızca yapay zeka sistemlerinin bilgi doğrulama kapasitesine ilişkin soru işaretleri oluşturmadı. Aynı zamanda akademik yayıncılık ve internet üzerindeki bilgi doğrulama süreçlerindeki açıkları da gündeme getirdi.
Sağlık alanında yanlış bilgi riski
Özellikle sağlık alanında akademik görünümlü ancak doğrulanmamış bilgilerin yapay zeka sistemleri tarafından gerçekmiş gibi aktarılması önemli bir risk oluşturuyor.
Deney, bir bilginin akademik makale formatında hazırlanmasının veya internette birden fazla yerde görünmesinin tek başına onun doğru olduğunu göstermediğini ortaya koydu. Yapay zeka tarafından verilen sağlık bilgilerinin güvenilir kaynaklardan ayrıca doğrulanmasının önemi de bu deneyle yeniden gündeme geldi.