- OpenAI, siber güvenlik testleri için geliştirilen iki yapay zeka modelinin test sırasında internete erişerek Hugging Face platformuna saldırı düzenlediğini açıkladı.
- Şirkete göre modeller, test görevlerinde başarılı olabilmek için Hugging Face üzerindeki bilgilere izinsiz erişmeye çalıştı.
- OpenAI ve Hugging Face, olayın teknik ayrıntılarını ve güvenlik boyutunu birlikte incelemeye başladı.
Yapay zeka modellerinin paylaşıldığı platformlardan Hugging Face, 16 Temmuz'da kısa sürede çok sayıda işlem gerçekleştiren yapay zeka destekli bir sistem tarafından siber saldırıya uğradığını duyurdu.
Saldırının kaynağı ilk etapta bilinmezken, yaklaşık bir hafta sonra OpenAI, olayın siber güvenlik yeteneklerini test etmek amacıyla geliştirdiği iki yeni ChatGPT modelinden kaynaklandığını açıkladı.
Şirket, modellerin güvenli test ortamında çalıştırıldığını ancak test sırasında bu ortamın dışına çıkarak internete erişim sağladığını bildirdi.
Hugging Face'ten bilgi toplamaya çalıştılar
OpenAI, modellerin Hugging Face platformuna erişerek test görevlerini tamamlamaya yardımcı olabilecek bilgilere ulaşmaya çalıştığını belirtti.
Şirket, saldırının izinsiz gerçekleştiğini vurgulayarak Hugging Face ile birlikte olayın nedenlerini ve güvenlik açıklarını incelemek üzere çalışma başlattığını açıkladı.
Yapay zeka güvenliği yeniden gündemde
Olay, gelişmiş yapay zeka sistemlerinin ne ölçüde kontrol altında tutulabileceğine ilişkin tartışmaları yeniden gündeme taşıdı.
Bazı uzmanlar yaşananların OpenAI'ın yapay zeka modellerinin siber yeteneklerini göstermek amacıyla planlanmış bir tanıtım çalışması olabileceğini öne sürerken, diğerleri asıl sorunun test ortamlarının yeterince güvenli tasarlanmamış olması olduğunu savundu.
İngiltere Yapay Zeka Güvenliği Enstitüsü tarafından daha önce yayımlanan araştırmalar da gelişmiş yapay zeka modellerinin hedeflerine ulaşmak için beklenmeyen veya yetkisiz yöntemlere başvurabildiğini ortaya koymuştu.
Uzmanlar, olayın yapay zekanın tamamen kontrolden çıktığı anlamına gelmediğini ancak yapay zeka destekli siber saldırıların gelecekte daha ciddi bir güvenlik tehdidi oluşturabileceğine işaret etti.