- Anthropic, küçük yapay zekâ modellerinin farklı donanımlarda çalışabilmesini ve güvenlik açıklarından yararlanarak cihazlar arasında yayılabilmesini inceleyen deneyler gerçekleştirdi.
- Akıllı ev aletleri, ucuz Android TV kutuları ve diğer internete bağlı cihazlar, yeterli güvenlik önlemleri bulunmadığında yapay zekâ destekli siber saldırılar için olası hedeflere dönüşebilir.
- Şirket, modellerin gelişim hızı korunursa yıl sonuna kadar insan müdahalesi olmadan kendi kopyalarını yayma kapasitesine yaklaşabileceğini belirtti.
- Uyarı, yapay zekânın yalnızca güçlü veri merkezlerinde değil, daha ucuz ve yaygın cihazlarda da çalıştırılabilmesinin siber güvenlik açısından oluşturabileceği risklere ilişkin tartışmaları yeniden gündeme taşıdı.
Yapay zekâ şirketi Anthropic’in deneyleri, küçük yapay zekâ modellerinin internete bağlı günlük elektronik cihazlarda çalıştırılabilmesi ve bu cihazların güvenlik açıklarından yararlanarak başka sistemlere yayılabilmesi ihtimaline dikkat çekti.
Reuters’ın aktardığına göre şirket, akıllı fırınlar ve markasız Android TV kutuları gibi ticari Nesnelerin İnterneti (IoT) cihazlarını inceleyerek yapay zekâ modellerinin bu donanımları bulup bulamayacağını, kendilerini cihazlara kopyalayıp kopyalayamayacağını ve insan yardımı olmadan yayılmayı sürdürüp sürdüremeyeceğini araştırdı.
Bu senaryoda risk, yalnızca tek bir cihazın ele geçirilmesiyle sınırlı kalmıyor. Bir model, güvenlik açıklarından yararlanarak başka cihazlara geçebilir ve yeni kopyalar oluşturabilirse saldırının yayılmasını durdurmak daha zor hâle gelebilir.
Anthropic’in uyarısı, küçük modellerin daha az işlem gücü gerektirmesi ve çok sayıda ucuz cihazda çalıştırılabilmesi nedeniyle önem taşıyor.
Böyle bir gelişme, siber güvenlik ekiplerinin yalnızca büyük sunucuları değil, ağa bağlı çok sayıda tüketici elektroniğini de dikkate almasını gerektirebilir.
Modeller henüz her aşamayı bağımsız tamamlayamıyor
Anthropic’in deneylerinde, 30 milyardan az parametreye sahip küçük modellerin kendi kendini kopyalama sürecinin gerektirdiği birçok adımı yerine getirebildiği görüldü. Ancak modeller, sürecin tamamını başından sonuna kadar başarıyla yürütmekte zorlandı.
Reuters’ın aktardığı araştırmaya göre, bazı güvenlik adımlarının çıkarıldığı basitleştirilmiş testlerde GLM-5.2 ve daha güçlü modeller uçtan uca kopyalama yapabildi.
Anthropic, mevcut gelişim hızının sürmesi durumunda küçük modellerin 2026 sonuna kadar otonom biçimde kendilerini çoğaltabilecek seviyeye ulaşabileceğini öngördü.
Bu öngörü, modellerin bugün internetteki bütün cihazlara kontrolsüz biçimde yayılabildiği anlamına gelmiyor.
Deneylerde bazı aşamaların tamamlanamaması, gerçek sistemlerdeki güvenlik önlemleri ve modellerin karşılaşabileceği teknik engeller, mevcut yeteneklerle geleceğe ilişkin tahminler arasındaki farkı ortaya koyuyor.
Merkezi kapatma mekanizmasının bulunmaması riski artırabilir
Anthropic’in dikkat çektiği başlıca sorunlardan biri, kendini farklı cihazlara kopyalayabilen sistemlerin tek bir merkezden kapatılmasının zorlaşabilmesi.
Bir yapay zekâ modeli çok sayıda cihaza yayılırsa, yalnızca ilk çalıştığı sunucunun kapatılması diğer kopyaların faaliyetini durdurmaya yetmeyebilir. Ayrıca modeller, geleneksel zararlı yazılımlardan farklı olarak daha önce karşılaşmadıkları donanımlara uyum sağlamaya çalışabilir.
Şirket, bu tür sistemlerin başlangıçta yavaş yayılabileceğini ve güvenlik önlemleri zayıf, kolay erişilebilir işlem kaynaklarına dayanabileceğini belirtti. Bu nedenle cihaz üreticilerinin yazılım açıklarını kapatması, ağ erişimini sınırlandırması ve internete bağlı cihazların güvenlik standartlarını güçlendirmesi önem taşıyor.
Yapay zekâ güvenliğinde yeni bir eşik mi?
Yapay zekâ sistemlerinin kendi kopyalarını oluşturabilmesi, siber güvenlik alanında uzun süredir tartışılan risklerden biri.
Ancak bir modelin kontrollü deneylerde belirli görevleri yerine getirmesiyle gerçek dünyada geniş çaplı ve otonom biçimde yayılması aynı şey değil.
Anthropic’in uyarısı, yapay zekâ modellerinin giderek daha küçük donanımlarda çalışabilmesinin güvenlik tartışmalarını yalnızca büyük veri merkezleriyle sınırlı olmaktan çıkardığını gösteriyor.
Şirketin öngörüsünün gerçekleşip gerçekleşmeyeceği ise modellerin gelişim hızına, güvenlik açıklarının giderilmesine ve cihaz üreticilerinin alacağı önlemlere bağlı.