ABD merkezli TIME kuruluşunun ele aldığı "Gelişmiş Yapay Zekanın Güvenliğini Artırmak İçin Eylem Planı" adlı raporda, yapay zekanın yol açabileceği sorunlar ve bunlara karşı atılabilecek adımlar analiz edildi.
Haberde,
"Gelişmiş yapay zeka ve yapay genel zekanın yükselişi, nükleer silahların kullanılmaya başlandığı dönemdeki gibi küresel güvenliği istikrarsızlaştırma potansiyeline sahip"
denildi.
Yapay genel zeka (YGZ), bir insanın yapabileceği herhangi bir zihinsel işlemi eksiksiz şekilde gerçekleştirebilen yazılımları tanımlamak için kullanılıyor.
Çalışmada, yapay zekanın denetlenmemesi durumunda "insan türünü yok edebilecek seviyede bir tehdit yaratacağı" vurgulandı.
Raporda, yapay zekanın geliştirilmesine yönelik iki temel riske dikkat çekildi. "Silahlanma riski" adı verilen ilk kategoride, yapay zeka çalışmalarının "potansiyel olarak yıkıcı biyolojik, kimyasal veya siber saldırılar tasarlayıp düzenlemek amacıyla kullanılabileceği" savunuldu.
"Denetimin kaybedilmesi" adlı ikinci kategorideyse yapay zekanın "kontrolden çıkabileceği ve otomatik olarak insanlara düşmanca davranabileceği" öne sürüldü.
Çalışmada bu risklere karşı yazılım ve donanım üretiminin denetlenmesinden sorumlu olacak federal bir yapay zeka biriminin kurulması gerektiği belirtildi.
Bu birimin, yapay zekanın belirli bir seviyenin üzerinde eğitilmesini yasaklayabileceği, böylelikle teknolojinin daha kontrollü biçimde gelişmesinin sağlanabileceği aktarıldı.
Yapay zeka sektörünün önde gelen firmalarına devlet onaylı sertifika zorunluluğu getirilebileceği, şirketlerin de burada belirlenen sınırlar dahilinde çalışabileceği bildirildi.
Ayrıca bu güvenlik eşiğinin oluşabilecek tehditlere ya da olumsuz durumlara göre farklı seviyelere çekilebileceği ifade edildi.
TIME'ın aktardığına göre rapor, ABD Dışişleri Bakanlığı'nın Kasım 2022'de anlaştığı Gladstone AI adlı yapay zeka analiz firması tarafından hazırlandı. 250 bin dolar bütçe ayrılan raporun sonuçları, 26 Şubat'ta bakanlık yetkilileriyle paylaşıldı.
Haberde, ABD Dışişleri Bakanlığı'nın yorum taleplerine yanıt vermediği açıklandı.