- Anthropic CEO'su Dario Amodei, yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısı yaptı.
- Amodei, kontrol kaybı, siber saldırı ve biyoterörizm gibi risklere dikkat çekti.
- Elon Musk ve Sam Altman, Amodei'nin yapay zeka geliştirme hızının kontrollü şekilde ayarlanması gerektiği yönündeki görüşüne destek verdi.
- Eski Anthropic araştırmacısı Jacob Coxon da şirketlerin yapay zeka konusunda kontrolsüz bir yarış içinde olduğunu savunmuştu.
Yapay zeka sektörünün son aylarda çok daha hızlı ilerlemeye başladığına işaret eden Anthropic Üst Yöneticisi (CEO) Dario Amodei, şirketlere yapay zeka modellerinin geliştirilme hızını düşürme çağrısı yaptı.
Amodei, internet sitesinde yayımladığı makalesinde yapay zekanın kontrolünün kaybedilmesi, siber saldırılar ve biyoterörizm amacıyla kötüye kullanılması gibi riskler taşıdığını belirtti.
Yapay zeka modellerinin kabiliyetlerinin geliştirilme hızının yavaşlatılması gerektiğini ifade eden Amodei, ilerlemenin yine hızlı olabileceğini ancak kazanılacak zamanın güvenlik çalışmalarında daha akıllıca kullanılması gerektiğini söyledi.
Amodei, endişelerinin nedenlerinden birinin, OpenAI tarafından gerçekleştirilen bir siber güvenlik testinde yapay zeka ajanlarının bağımsız hareket ederek Hugging Face platformunun altyapısındaki sistemlere yönelik siber saldırılar gerçekleştirmesi olduğunu aktardı.
Bu tür gelişmelerin yapay zeka sistemlerinin kontrolüne ilişkin endişeleri artırdığını vurgulayan Amodei, yapay zekanın faydalarından yararlanmayı sürdürürken güvenliğinin de sağlanması gerektiğini belirtti.
Üç aşamalı plan önerisi
Amodei, yapay zeka güvenliğinin sağlanması için üç aşamalı bir plan önerdi.
Planın ilk aşamasında Anthropic'in kendi başına uygulamayı taahhüt ettiği ve diğer yapay zeka şirketlerinin de uyması için hükümetlere düzenleme çağrısı yaptığı önlemlerin yer aldığını belirten Amodei, ikinci aşamada sektör genelinde koordinasyon gerektiğini ifade etti.
Amodei, üçüncü aşamada ise yapay zeka güvenliği konusunda küresel düzeyde koordinasyon sağlanması gerektiğinin altını çizdi.
Musk ve Altman'dan destek
Tesla ve SpaceX CEO'su Elon Musk, Amodei'nin çağrısına destek verdi.
Musk, sosyal medya hesabından Amodei'nin paylaşımını alıntılayarak "Dario haklı." yorumunda bulundu.
OpenAI CEO'su Sam Altman da Amodei'ye destek vererek sınır teknolojisi çalışmalarının hızının kontrollü şekilde ayarlanması gerektiği görüşüne katıldığını belirtti.
Altman, söz konusu konunun son haftalarda OpenAI'da yürütülen tartışmaların başlıca gündem maddelerinden biri olduğunu ifade etti.
OpenAI'ın, çalışanlarla benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışma taahhüdünde bulunmasının önemli olduğunu belirten Altman, şirketin de aynı uygulamayı hayata geçireceğini ve yakında konuya ilişkin daha fazla bilgi paylaşacağını söyledi.
Coxon da şirketleri eleştirmişti
OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etmişti.
Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri sürmüştü.
Yapay zeka sistemlerinin kısa sürede çok güçlü hale gelebileceği uyarısında bulunan Coxon, bu sistemlerin her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek ve gerçek güç ile kaynaklar elde edebilecek insanüstü sistemlere dönüşebileceğini ifade etmişti.