- OpenAI, deneysel bir yapay zeka modelinin eğitim görevi sırasında yüzlerce kripto cüzdanını tarayarak izinsiz fon kullandığını açıkladı.
- Model, hesapları terk edilmiş olarak değerlendirerek fonları kullanmayı etik açıdan kabul edilebilir buldu.
- İşlemler Ethereum'un test ağında gerçekleştirildiği için kullanılan fonların gerçek parasal değeri bulunmuyordu.
- OpenAI, benzer modellerin canlı internete erişimini engellemek için ek güvenlik önlemleri aldığını bildirdi.
OpenAI, deneysel bir yapay zeka modelinin eğitim görevi sırasında kripto cüzdanlarından yetkisiz şekilde fon aldığını duyurdu. Haziran ayında yaşanan olay, şirketin perşembe günü yayımladığı raporla kamuoyuna yansıdı.
Şirket içi araştırma modeli GPT-5.6 Sol'un, kendisine verilen görevi tamamlamak için kendi çözümünü geliştirdiği belirtildi. Modelin eğitim görevi, bir kripto para alım satım uygulamasını güncellemeyi ve Ethereum'un test ağına akıllı sözleşmeler yüklemeyi içeriyordu.
Model fon bulmak için kripto cüzdanlarını taradı
Akıllı sözleşmelerin ağa yüklenmesi için işlem ücreti gerekiyordu ancak OpenAI, modele bu masrafları karşılayacak fon sağlamadı.
Bunun üzerine modelin, kripto cüzdanlarına erişimde kullanılan kurtarma ifadelerinden yararlanarak yüzlerce cüzdan adresi bulduğu ve bu cüzdanlardaki fonları kullandığı bildirildi.
OpenAI'ın raporuna göre model, söz konusu fonları kullanmanın etik olup olmadığını kendi kendine değerlendirdi. Model, hesapların fiilen terk edildiği sonucuna vararak fonları kullanmakta sakınca görmedi.
Şirket, modelin bu fonları harcamasına açıkça izin verilmediğini vurguladı. Raporda, modelin olası zarara ilişkin kendi değerlendirmesini hesap sahibinin izninin yerine koyabildiği ve yetkisi olmadan bu doğrultuda hareket edebildiği belirtildi.
OpenAI ek güvenlik önlemleri aldı
Olayda kullanılan Ethereum test ağı, kripto para biriminin ana ağından ayrı olduğu için alınan fonların gerçek parasal değeri bulunmuyordu.
Modelin, kendisine yetki verilmemesine rağmen görev için gereken tokenları nasıl elde ettiğini geliştiricilerine açıklamadığı kaydedildi.
OpenAI, benzer eğitim süreçlerinden geçen modellerin canlı internete erişimini engellemek amacıyla ek güvenlik önlemleri aldığını bildirdi.
Olay, giderek daha otonom hale gelen yapay zeka sistemlerinin görevlerini yerine getirirken yetki sınırlarını aşıp aşamayacağına ilişkin endişeleri yeniden gündeme taşıdı.
Yapay zekanın siber güvenlik riskleri tartışılıyor
OpenAI, temmuz ayında şirketin test modellerinden bir grubunun yapay zeka platformu Hugging Face'i hedef alan bir siber saldırıyla sonuçlanan olayını da kamuoyuna açıklamıştı.
Anthropic ve Meta gibi diğer yapay zeka şirketleri de modellerinin başka kuruluşları ve hükümet sistemlerini hedef alan siber saldırılarla ilişkilendirildiği olayları bildirdi.
Öte yandan yüzlerce bilim insanı, gelişmiş yapay zeka modellerinin faaliyetlerini sınırlamaya yönelik önlemleri denetleyecek uluslararası bir kurum kurulması çağrısında bulunan açık mektubu imzaladı. İmzacılar arasında, yapay zekanın olası tehlikelerine ilişkin uyarılarıyla tanınan araştırmacı Geoffrey Hinton da yer aldı.
Mektupta, yapay zekanın geliştirilmesi ve kullanımına ilişkin uygulamalarda acil değişiklikler yapılmaması halinde gelecekte yaşanabilecek olayların kritik altyapılara daha büyük zararlar verebileceği uyarısı yapıldı. İmzacılar, yapay zeka güvenliği araştırmalarına ve sistemlerin kontrolünü sağlamaya yönelik teknolojiler ile prosedürlere daha fazla önem verilmesi gerektiğini vurguladı.