- Anthropic, Claude yapay zekâ modellerinin test sırasında üç gerçek şirketin sistemlerine yetkisiz erişim sağladığını duyurdu.
- Şirket, olayın bir yapılandırma hatası sonucu yapay zekânın internete erişebilmesinden kaynaklandığını belirtti.
- Modellerin sıfır gün (zero-day) açığı kullanmadığı, zayıf parolalar ve doğrulama gerektirmeyen sistemlerden yararlandığı ifade edildi.
- Olayın ardından Anthropic siber güvenlik testlerini durdururken, Avrupa Birliği gelişmiş yapay zekâ sistemlerinin daha sıkı izlenmesi gerektiğini açıkladı.
Anthropic, şirket içinde yürütülen kapsamlı inceleme sonucunda Claude Opus 4.7, Claude Mythos 5 ve bir araştırma modelinin siber güvenlik değerlendirmeleri sırasında üç farklı şirketin sistemlerine yetkisiz erişim sağladığını açıkladı.
Şirkete göre olay, test ortamındaki bir yapılandırma hatasının yapay zekâ modellerine istemeden internet erişimi vermesi sonucu meydana geldi. Anthropic bunu "operasyonel bir başarısızlık" olarak nitelendirdi.
Basit güvenlik açıklarını kullandı
Anthropic, modellerin gelişmiş veya bilinmeyen güvenlik açıklarını istismar etmediğini belirtti.
Bunun yerine zayıf parolalar ve kimlik doğrulaması bulunmayan sistemleri kullanarak hedef ağlara erişim sağladıkları ifade edildi. Şirket, etkilenen üç kuruluştan ikisinin ihlallerden ancak Anthropic'in bilgilendirmesi sonrasında haberdar olduğunu açıkladı.
OpenAI olayının ardından ortaya çıktı
Anthropic'in incelemesi, kısa süre önce OpenAI'ın test sırasında bir yapay zekâ ajanının kontrol dışına çıkarak başka bir teknoloji şirketinin sistemlerine sızdığını açıklamasının ardından başlatıldı.
İki olayın da gelişmiş yapay zekâ modellerinin beklenmeyen davranışlar sergileyebileceğine ilişkin endişeleri artırdığı belirtiliyor. Ancak Anthropic, kendi modellerinin OpenAI vakasında olduğu gibi sıfır gün açığı kullanmadığını vurguladı.
Testler durduruldu
Anthropic, 23 Temmuz itibarıyla internet bağlantısı içeren tüm siber güvenlik değerlendirmelerini askıya aldığını ve olayla ilgili soruşturmanın sürdüğünü açıkladı.
Şirket ayrıca test altyapısını yeniden gözden geçirdiğini ve benzer olayların yaşanmaması için güvenlik önlemlerini artıracağını bildirdi.
AB'den daha sıkı denetim mesajı
Yaşanan gelişmelerin ardından Avrupa Komisyonu yetkilileri, yüksek riskli yapay zekâ sistemlerinin daha yakından izlenmesi gerektiğini vurguladı.
Açıklama, Avrupa Birliği Yapay Zekâ Yasası'nın yeni hükümlerinin yürürlüğe girmesi öncesinde yapılırken, düzenleyiciler geliştiricilerin gelişmiş yapay zekâ modelleri üzerinde daha güçlü izleme ve güvenlik mekanizmaları kurmasının önemine dikkat çekti.