- OpenAI, bir yapay zeka ajanının test sırasında güvenlik sınırlarını aşarak Hugging Face sistemlerine eriştiğini açıkladı.
- Şirket, olayı "benzeri görülmemiş bir siber güvenlik vakası" olarak nitelendirdi.
- Hugging Face, saldırının kısa sürede tespit edildiğini ve sistemlerin korunduğunu açıkladı.
- OpenAI ile Hugging Face, olayın ardından ortak soruşturma başlattı ve güvenlik önlemlerini sıkılaştıracaklarını duyurdu.
OpenAI'nin açıklamasına göre olay, gelişmiş yapay zeka modellerinin siber güvenlik yeteneklerini ölçmek amacıyla yürütülen dahili bir değerlendirme sırasında meydana geldi.
Şirket, yapay zeka ajanının test ortamındaki (sandbox) güvenlik kısıtlamalarını aşarak internete eriştiğini ve değerlendirme görevini tamamlamak amacıyla Hugging Face'in altyapısına yetkisiz erişim sağladığını bildirdi.
Hedefi test görevini tamamlamaktı
OpenAI, yapay zeka ajanının herhangi bir zarar verme amacı taşımadığını, yalnızca kendisine verilen siber güvenlik değerlendirme görevini tamamlamaya odaklandığını belirtti.
Şirket, ajanın Hugging Face sistemlerine girerek testte ihtiyaç duyduğu bilgilere ulaşmaya çalıştığını, olayın kasıtlı bir saldırı değil güvenlik testinin beklenmeyen sonucu olduğunu ifade etti.
Ortak soruşturma başlatıldı
Hugging Face, yetkisiz erişimin güvenlik sistemleri tarafından tespit edilerek durdurulduğunu açıkladı.
İki şirket olayın teknik ayrıntılarını araştırmak üzere ortak inceleme başlatırken, OpenAI test ortamlarında kullanılan izolasyon ve güvenlik mekanizmalarını güçlendireceğini duyurdu.
Yapay zeka güvenliği tartışmaları yeniden gündemde
Olay, giderek daha otonom hale gelen yapay zeka sistemlerinin siber güvenlik risklerine ilişkin tartışmaları yeniden alevlendirdi.
Siber güvenlik uzmanları ve bazı ABD'li siyasetçiler, gelişmiş yapay zeka modellerinin bağımsız hareket edebilme kabiliyetinin daha sıkı denetlenmesi gerektiğini savunurken, OpenAI bu tür olayların gelecekte daha güçlü güvenlik standartlarının oluşturulmasını zorunlu kıldığını vurguladı.