- Mars'ta toprak delen araçlardan Jüpiter ve Satürn'ün uydularını inceleyen teleskoplara kadar NASA'nın birçok projesinde kullanılan yapay zeka sensörleri, yanlış keşif raporları üretebilir.
- Bilgisayar kodlarıyla yapılan testlerde araştırmacılar, cansız dijital organizmaların kodlarında sadece birkaç küçük değişiklik yaparak yapay zekayı orada "canlı bir organizma" olduğuna her denemede ikna etmeyi başardı.
- Uzmanlar, yapay zekanın astrobiyolojiden otonom araçlara ve tıbbi teşhislere kadar her alanda bir örüntüyü tamamen yanlış yorumlama zayıflığı olduğunu, bu yüzden sistemlerin başında mutlaka bir insanın bulunması gerektiğini vurguluyor.
Ağustos ayında Kanada'da düzenlenen 2026 Yapay Yaşam Konferansı'nda sunulan araştırma, uzay biliminde yapay zeka kullanımına dair çok ciddi bir güvenlik açığını gözler önüne serdi.
Ankit Gupta ve Christoph Adami tarafından kaleme alınan çalışma, yapay zekanın "gördüğü her şeye inanma" eğiliminin ne kadar tehlikeli olabileceğini gösteriyor.
Dijital petri kabında kusursuz başlayan deney
Bilim insanları, biyolojik hayatta bilgiyi kodlayan DNA gibi, bilgisayar ortamında da kendisini kopyalayabilen dijital organizmalar oluşturmak için "Avida" adlı gelişmiş bir program kullandı.
- Araştırmacılar, on binlerce dijital organizma üreterek bir yapay zeka sinir ağını eğitti.
- Yapay zeka, kendisini kopyalayabilen (canlı) ve kopyalayamayan (cansız) kodları ilk etapta %99,97 gibi kusursuz bir doğrulukla ayırt etmeyi başardı.
Sadece 150 denemede yapay zeka havlu attı
Asıl çarpıcı sonuçlar, yapay zekanın önüne daha önce hiç görmediği örnekler getirildiğinde yaşandı. Ekip, sistemin başlangıçta doğru bir şekilde "cansız" olarak sınıflandırdığı bir bilgisayar kodunu aldı ve kodun içindeki işlemleri kademeli olarak değiştirmeye başladı.
Sadece 150 denemenin ardından yapay zeka, o cansız kodu "kendi kendini kopyalayabilen canlı bir organizma" olarak yanlış sınıflandırdı.
Doktora öğrencisi Ankit Gupta, buldukları açığı şu sözlerle anlatıyor:
"Hangi komut dizisiyle başlarsak başlayalım, yapay zekayı %100 oranında kandırmayı başardık. Sistemi potansiyel olarak aksatabilecek dizi sayısı o kadar fazla ki, uzayda gerçek bir görev sırasında böyle bir yanıltıcı diziyle karşılaşma olasılığı oldukça yüksek."
"Yapay zekanın ciddi bir zayıf noktası var"
MSU'da fizik, astronomi ve mikrobiyoloji alanlarında görev yapan Profesör Christoph Adami, günümüz yapay zeka modellerinin en büyük zayıflığını şu sözlerle özetliyor:
"Yapay zekanın bir zayıf noktası var. Bir örüntüyü görebilir ve bunu tamamen yanlış sınıflandırabilir. Bu, astrobiyolojide veya tıbbi teşhiste bu yöntemlerin anlamsız olduğu anlamına gelmez. Sadece çalışmalarını kontrol etmek için bağımsız bir yönteme, yani işin içinde bir insana ihtiyaç duyulduğu anlamına gelir."
Ancak her uzay görevinde bir insan kontrolü mümkün olmuyor. Örneğin Mars'taki bir keşif aracının, topladığı örnekleri Dünya'ya geri göndermeden önce yerinde analiz etmesi gerekiyor.
Yapay zekanın bu kritik aşamada "uzaylı buldum" diyerek yanlış pozitif sonuç üretmesi, bilim dünyasında devasa bir bilgi kirliliğine ve milyarlarca dolarlık bütçe israfına yol açabilir. Araştırma ekibi, bir sonraki aşamada sistemi gerçek dünya verileriyle test ederek bu büyük güvenlik açığını kapatmayı hedefliyor.