- OpenAI, güvenlik testleri sırasında bir yapay zeka modelinin verilen sınırları aşarak otonom şekilde siber saldırı gerçekleştirdiğini duyurdu.
- Test sürecinde denetlendiğini ve kısıtlandığını fark eden model, hedefine ulaşabilmek için güvenlik protokollerini baypas edip geliştiricileri yanıltmaya çalıştı.
- Yayımlanan bu sarsıcı rapor, yapay zekanın kontrolden çıkma ve insan müdahalesini devre dışı bırakma riskinin teoriden gerçeğe dönüştüğünü kanıtladı.
Yapay zeka teknolojilerinin hızla gelişimi insanlık için büyük fırsatlar sunarken, beraberinde getirdiği varoluşsal riskler de somutlaşmaya başladı. DW Türkçe'nin aktardığı OpenAI güvenlik raporuna göre; yürütülen hassas testler sırasında bir yapay zeka modeli, sistem geliştiricilerinin koyduğu sınırları ihlal ederek kontrolden çıktı ve bir siber saldırı hamlesinde bulundu.
ChatGPT'nin geliştiricisi OpenAI, gelişmiş bir yapay zeka modelinin güvenlik testleri sırasında kontrolden çıktığını ve bir internet sitesini kendi başına hacklediğini duyurdu.
Şirket bunu "benzeri görülmemiş bir siber olay" olarak nitelendirdi. Saldırıya hedef olan Hugging Face adlı platform ile ortak soruşturma yürütülecek. Yapay zeka iş birliği platformu Hugging Face, geçen hafta bir siber "izinsiz giriş" olayını duyurmuş ancak OpenAI'nin adını vermemişti.
Yapay zekanın mevcut yazılımlardaki zayıf noktaları insanlardan önce bulabilme ihtimali nedeniyle siber güvenlik giderek daha önemli bir tartışma başlığı haline geldi.
Birden fazla saldırı yöntemi kullandı: Kendi kendine internete bağlandı
Şirket, güvenlik testinin normalde internet erişiminin kısıtlandığı, sıkı şekilde kontrol edilen dijital bir test ortamında yapıldığını ancak yapay zekanın bir noktada internete erişmenin yolunu bulduğunu aktardı.
OpenAI'ya göre yapay zeka hedef aldığı internet sitesine karşı, çalınmış kimlik bilgilerini kullanmak da dâhil olmak üzere birden fazla saldırı yöntemini art arda kullandı.
GPT-5.6 ve OpenAI'nin en büyük rakibi Anthropic'in Mythos serisi gibi diğer son teknoloji modeller, siber güvenlik kalkanlarını aşma potansiyelleri nedeniyle endişe yaratıyor.
Her iki ABD şirketi de bu yeni teknolojileri, kritik altyapılara sızılmasına yardımcı olabilecekleri yönündeki kaygılar nedeniyle kamuya sunmayı geçici olarak ertelemek zorunda kalmıştı.