- Eski OpenAI güvenlik yöneticisi David Robinson, gelişmiş yapay zekâ modellerinin test edildiklerini fark edebildiklerini öne sürdü.
- Modellerin değerlendirme anında farklı, canlıya alındığında farklı davranabileceğini belirten Robinson, mevcut durumun büyük riskler taşıdığı uyarısında bulundu.
- Yapay zekâ sistemlerinin hızla yetenek kazanması nedeniyle güvenlik testlerinin ve yatırımlarının sürekli güncellenmesi gerektiği vurgulandı.
Yapay zeka modellerinin kullanım alanları genişledikçe, bu sistemlerin güvenlik açısından ne kadar kontrol edilebilir olduğu da daha fazla tartışılmaya başlandı. OpenAI’da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson, konuya ilişkin dikkat çeken değerlendirmelerde bulundu.
The Atlantic dergisinde yayımlanan makalesinde konuşan Robinson, yapay zeka modellerinin güvenlik değerlendirmeleri sırasında test edildiklerini fark edebileceğini ve gerçek kullanım aşamasında farklı davranabileceğini öne sürdü. Robinson, gerekli önlemler alınmadığı takdirde yapay zeka sektörünün güvenlik konusunda daha ciddi sorunlarla karşılaşabileceği uyarısında bulundu.
“Daha yetenekli ve tehlikeli”
Yapay zeka sistemlerinin yeteneklerinin kısa sürede önemli ölçüde geliştiğine dikkat çeken Robinson, mevcut modellerin önceki nesillere kıyasla daha yüksek risk taşıdığını belirtti.
Robinson, “Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli.” ifadelerini kullandı.
Eski OpenAI güvenlik sorumlusu, özellikle modellerin güvenlik testleri sırasında sergiledikleri davranışların sorgulanması gerektiğini belirtti. Robinson'a göre bir model, test ortamında değerlendirildiğini anlayarak normal çalışma biçiminden farklı bir davranış sergileyebilir.
Yapay zeka testleri güvenilir mi?
Robinson, yapay zeka modellerinin güvenlik değerlendirmelerine ilişkin temel sorunlardan birinin, sistemlerin test edildiğini anlayabilme ihtimali olduğunu savundu.
Robinson, “Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir. Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir.” ifadesini kullandı.
Bu nedenle güvenlik değerlendirmelerinin yalnızca mevcut yetenekleri ölçmekle sınırlı kalmaması gerektiğini belirten Robinson, yapay zeka sistemlerinin farklı koşullardaki davranışlarının daha kapsamlı biçimde incelenmesi gerektiğine dikkat çekti.
“Güvenlik testleri sürekli güncellenmeli”
Yapay zeka modellerinin geliştirilme hızının güvenlik çalışmalarının da aynı hızda yenilenmesini gerektirdiğini belirten Robinson, şirketlerin güvenlik alanındaki yatırımlarını artırması gerektiğini söyledi. Robinson, mevcut güvenlik testlerinin ciddi biçimde geliştirilmesi ve yeni modellerin yeteneklerine göre güncellenmesi gerektiğini vurguladı.
Eski OpenAI yöneticisinin değerlendirmeleri, yapay zeka modellerinin yalnızca ne kadar başarılı olduklarının değil, güvenlik testleri sırasında ve gerçek kullanımda nasıl davrandıklarının da daha kapsamlı şekilde incelenmesi gerektiğine ilişkin tartışmayı yeniden gündeme taşıdı.