- Gates, yapay zekanın kötü niyetli kişilerin elinde bir milyar kişinin ölümüne yol açabilecek olayları tetikleyebileceğini söyledi.
- Gates, yapay zekanın insanlığın tamamını ortadan kaldırabilecek senaryolara kapı aralayabileceği konusunda da uyarıda bulundu.
- Gates, yapay zeka şirketlerinin kendi kendini denetlemesinin yeterli olmayacağını belirterek hükümetler ve siyasi aktörlerin güvenlik standartlarının belirlenmesine dahil olmasını istedi.
- Gates, ağustos ayında yapay zekanın tarihteki en etkili teknolojilerden biri olduğunu ve mevcut gelişim hızının sürmesi halinde toplam etkinin olumsuz olma ihtimalinin yüksek olduğunu söylemişti.
Microsoft'un kurucusu Bill Gates, yapay zekanın kontrolsüz ve kötü niyetli kullanımının yol açabileceği sonuçlara ilişkin yeni bir uyarıda bulundu.
Gates, NBC'nin “Meet the Press” programında sunucu Kristen Welker'a vereceği röportajdan yayımlanan bölümlerde, yapay zekanın çok büyük ölçekte can kaybına yol açabilecek olayları tetikleyebilecek kapasiteye ulaştığını söyledi.
Gates, yapay zekanın “bir milyar kişinin ölümüne yol açabilecek olayları tetikleyecek kadar güçlü” olduğunu belirtti. Bunun yüzde 100 gerçekleşmesinin zor olduğunu kabul eden Gates, asıl riskin kötü niyetli kişilerin en gelişmiş yapay zeka araçlarına erişmesiyle ortaya çıkabileceğini ifade etti.
“Daha önce böyle güçlü bir silah olmadı”
Gates, yapay zeka ile kötü niyetli aktörlerin birleşiminin oluşturduğu tehdidin geçmişteki teknolojilerden farklı olduğunu savundu.
Gates'e göre teknolojinin kendisi tek başına bir tehdit olarak değerlendirilmemeli; ancak gelişmiş yapay zeka sistemlerinin kötü niyetli kişiler tarafından kullanılması, daha önce görülmemiş ölçekte sonuçlar doğurabilecek bir kapasite oluşturuyor.
Gates ayrıca yapay zekanın insanlığın tamamının yok olmasına yol açabilecek bir gelişme ihtimalinin de göz ardı edilmemesi gerektiğini belirtti.
“Şirketlerin kendi kendini düzenlemesi yeterli değil”
Gates, yapay zeka güvenliği konusunda yalnızca teknoloji şirketlerinin kendi iç denetimlerine güvenilmemesi gerektiğini söyledi.
ABD Kongresi'nin yapay zeka alanındaki güvenlik standartlarının oluşturulmasına dahil olması gerektiğini belirten Gates, yasa koyucuların ve düzenleyici kurumların hangi güvenlik önlemlerinin zorunlu hale getirileceği konusunda söz sahibi olması gerektiğini ifade etti.
Gates, düzenlemelerin yapay zeka sektörüne belirli maliyetler getirebileceğini ancak bu durumun teknolojik gelişmeyi önemli ölçüde yavaşlatmak zorunda olmadığını savundu.
Gates daha önce de yapay zeka konusunda uyarmıştı
Gates'in son açıklamaları, ağustos ayında yayımladığı değerlendirmelerin devamı niteliğinde.
Gates, ağustos ayında yapay zekanın insanlık tarihindeki diğer birçok teknolojiden daha büyük sonuçlar doğurabilecek bir teknoloji olduğunu belirtmişti. Yapay zekanın insanlığın önündeki en büyük eşitleyici araçlardan biri olabileceği gibi, en büyük adaletsizlik kaynaklarından birine de dönüşebileceğini ifade etmişti.
Gates, mevcut gelişim hızının değişmeden devam etmesi halinde yapay zekanın toplam etkisinin olumsuz olma ihtimalinin yüksek olduğunu söylemiş ve hükümetlerin bu riskleri şimdiden ele alması gerektiğini vurgulamıştı.
Yapay zeka sektöründe güvenlik tartışması
Gates'in açıklamaları, yapay zeka şirketlerinin geliştirme hızları ile güvenlik ve düzenleme arasındaki tartışmaların yoğunlaştığı bir dönemde geldi.
Teknoloji sektöründe yapay zeka sistemlerinin daha gelişmiş hale gelmesiyle birlikte kötüye kullanım, yanlış bilgi, siber saldırılar ve kontrol sorunları gibi risklerin nasıl yönetileceği konusunda farklı yaklaşımlar bulunuyor.
Gates ise bu risklerin yalnızca şirketlerin gönüllü uygulamalarıyla yönetilemeyeceğini, hükümetlerin de sürece dahil olması gerektiğini savunuyor.
Gates yapay zekanın faydalarına da dikkat çekiyor
Gates'in yapay zekaya ilişkin değerlendirmeleri yalnızca risklere odaklanmıyor. Gates, daha önceki yazılarında yapay zekanın sağlık, eğitim ve bilim gibi alanlarda önemli ilerlemeler sağlayabileceğini de vurguladı.
Ağustos ayında yayımladığı son değerlendirmesinde, yapay zekanın insan kapasitesini destekleyebilecek ve bazı alanlarda insan becerilerinin yerini alabilecek seviyeye ulaştığını belirten Gates, teknolojinin ortaya çıkaracağı olumlu sonuçların risklerden ağır basması için şimdiden bir plan oluşturulması gerektiğini ifade etti.
Böylece Gates'in son açıklaması, yapay zekanın potansiyel faydaları ile kötüye kullanım riskleri arasındaki dengenin nasıl kurulacağı tartışmasını yeniden gündeme taşıdı.