- Anthropic kurucu ortağı Jack Clark, yapay zeka sistemleri için "kapatma düğmesinin" şirketlere zorunlu hale getirilebileceğini söyledi.
- Clark, kapatma mekanizmasının üçüncü taraflarca doğrulanmasının gelecekteki düzenlemelere dahil edilebileceğini belirtti.
- ABD'de yapay zeka araçlarının kapatılmasını veya sınırlandırılmasını mümkün kılacak "Kapatma Düğmesi Yasası" gündeme geldi.
- Yapay zekanın insanlık için oluşturduğu risk konusunda sektörde görüş ayrılıkları sürerken, bazı uzmanlar ciddi yok olma riski uyarılarında bulunuyor.
Anthropic'in kurucu ortağı Jack Clark, yapay zekanın tehlikeli bir seviyeye ulaşması durumunda yazılımın tamamen kapatılmasını sağlayacak bir yöntemin şirketler için zorunlu hale getirilebileceğini söyledi.
BBC'ye konuşan Clark, şirketlerin yapay zeka sistemlerini devre dışı bırakabilecek bir "kapatma düğmesine" sahip olmasının ve bu mekanizmanın üçüncü taraflarca doğrulanabilmesinin gelecekte yasal düzenlemeler kapsamında ele alınabileceğini ifade etti.
Clark, Anthropic dahil çoğu yapay zeka laboratuvarının sistemleri kapatmak için farklı yöntemlere sahip olduğunu ancak yasa koyucuların bu mekanizmayı tüm şirketler için zorunlu kılmasının gerekebileceğini belirtti.
Yapay zekanın insanlık için oluşturduğu risk tartışılıyor
Yapay zekanın hızlı gelişimi ve kontrol edilememesi durumunda insanlık için oluşturabileceği risklere ilişkin endişeler, sektör yöneticileri ve araştırmacıların uyarılarıyla yeniden gündeme geldi.
Anthropic Üst Yöneticisi Dario Amodei de yapay zeka geliştirme hızının yavaşlatılması ve teknolojinin daha yakından izlenmesi çağrısında bulundu. Amodei, bu yöndeki adımların şirketlere ticari açıdan dezavantaj oluşturmadan atılması gerektiğini savundu.
Anthropic bilim insanı Evan Hubinger, yapay zekanın önümüzdeki 10 yıl içinde insanlığın sonunu getirme ihtimalinin yüzde 10'dan fazla olduğunu düşündüğünü söyledi.
"Yapay zekanın babası" olarak bilinen Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton da yapay zekanın tüm insanlığı öldürme ihtimalinin yüzde 10 olarak değerlendirilmesinin mantıksız olmadığını belirtti.
Buna karşılık sektörde bazı isimler, yapay zekanın insanlığı yok edeceğine ilişkin endişelerin abartıldığını veya kamuoyu oluşturmak amacıyla gündeme getirildiğini savunuyor.
ABD'de "Kapatma Düğmesi Yasası" gündemde
ABD'li milletvekilleri, sorunlu yapay zeka araçlarının kapatılabilmesi için şirketlere bir mekanizma bulundurma zorunluluğu getirecek "Kill Switch Yasası" olarak adlandırılan bir tasarı sundu.
Tasarı, belirli devlet kurumlarına yapay zeka araçlarının kapatılmasını veya sınırlandırılmasını talep etme yetkisi verilmesini de öngörüyor.
ABD Başkanı Donald Trump ise yapay zeka geliştirme çalışmalarının yavaşlatılması çağrılarını reddetti. Trump, yapay zekanın dünyayı ele geçireceği veya insanlığı yok edeceği yönündeki söylemlerin gerçeği yansıtmadığını savundu.
İngiltere hükümeti de tehlikeli yapay zekalar için "kapatma düğmesi" oluşturulması fikrine karşı çıkarak bunun teknolojinin başka ülkelerde geliştirilmesini veya kötüye kullanılmasını engellemeyeceğini bildirdi.
Anthropic yapay zeka güvenliği tartışmalarının merkezinde
2021'de OpenAI'ın eski çalışanları tarafından kurulan Anthropic, yapay zeka güvenliği tartışmalarının merkezindeki şirketlerden biri haline geldi.
Şirket, bu yıl Claude sohbet botunun temelini oluşturan çok sayıda yapay zeka modeli geliştirdi. Anthropic ve OpenAI, özerk şekilde çalışan yapay zeka ajanlarının beklenmedik davranışlar sergilediği çeşitli olayları da kamuoyuyla paylaştı.
Clark ise yapay zekanın tamamen kuralsız bir sektör olarak faaliyet göstermesine izin verilmesinin kötü bir fikir olduğunu belirterek, "devasa risklerle zar atıldığını" ve sektörün seyrinin değiştirilmesi gerektiğini söyledi.