- Microsoft Başkanı Brad Smith, yapay zekâ sistemlerinin güvenliğine ilişkin uluslararası kuralların acilen oluşturulması gerektiğini söyledi.
- Şirketlerin yapay zekâ kaynaklı güvenlik ihlallerini bildirmesi, mağdurları bilgilendirmesi ve yeni modellerin bağımsız denetimden geçirilmesi için yasal zorunluluk getirilmesini istedi.
- Smith, kontrolden çıkan yapay zekâ sistemlerinin durdurulabilmesi için acil kapatma mekanizmaları kurulmasını ve ciddi zararlarda ihmali bulunan şirketlerin hukuki sorumluluk taşımasını savundu.
- Smith'in çağrısı, ABD Başkanı Donald Trump'ın yapay zekâ sektöründe hızlı gelişimi ve şirketlerin kendi kendini denetlemesini önceleyen yaklaşımıyla farklılık gösteriyor.
Microsoft Başkanı Brad Smith, yapay zekânın hızla gelişmesine karşın bu teknolojinin güvenliğine ilişkin kuralların yetersiz kaldığını söyledi. BBC'nin Big Boss Interview programına konuşan Smith, mevcut düzenleme düzeyini günlük tüketim ürünleriyle karşılaştırdı.
Smith, “Şu anda çamaşır makineniz yapay zekâdan daha fazla güvenlik kuralına tabi. Marketten aldığınız her süt kutusu da güvenlik kurallarına ve denetime tabi” ifadelerini kullandı.
Yapay zekânın hem bir araç hem de kötüye kullanılması halinde bir silah olabileceğini belirten Smith, risklerin büyümesini beklemeden harekete geçilmesi gerektiğini vurguladı.
Microsoft yöneticisi, yapay zekânın insanlık için kaçınılmaz bir varoluşsal tehdit oluşturduğunu söylemediğini, ancak mevcut risklerin zamanında ele alınmaması halinde sorunların kontrol edilmesinin zorlaşabileceğini dile getirdi.
Şirketlere yasal bildirim ve sorumluluk zorunluluğu
Smith'in önerdiği düzenlemelerin başında, yapay zekâ sistemlerinin yol açtığı güvenlik olaylarının bildirilmesine ilişkin yasal yükümlülükler geliyor.
Bu çerçevede şirketlerin, yapay zekâ ajanlarının kontrolden çıkması veya bir güvenlik ihlaline yol açması halinde olayları raporlaması ve sistemden zarar gören kişileri bilgilendirmesi gerektiğini savundu.
Smith ayrıca yeni yapay zekâ modellerinin piyasaya sürülmeden önce bağımsız kuruluşlar veya yetkili kamu kurumları tarafından güvenlik testlerinden geçirilmesini önerdi. Böylece olası risklerin ürünler kullanıma sunulmadan önce belirlenmesi amaçlanıyor.
Microsoft Başkanı'nın bir diğer önerisi ise yapay zekâ sistemlerine acil durumlarda müdahale edilebilmesini sağlayacak mekanizmalar kurulması. Smith, bu sistemleri gerektiğinde durdurabilecek bir “acil durum freni” veya “devre kesici” mekanizmasına ihtiyaç olduğunu belirtti.
Smith'e göre hükümetler, ciddi güvenlik riskleri ortaya çıktığında yapay zekâ sistemlerinin faaliyetini durdurabilme yetkisine de sahip olmalı. Ayrıca bir yapay zekâ sisteminin ağır zarara yol açması durumunda, ihmali bulunan geliştirici şirketlerin hukuki sorumluluk üstlenmesi gerektiğini savundu.
Trump yönetiminin yaklaşımından ayrışıyor
Smith'in çağrısı, ABD Başkanı Donald Trump'ın yapay zekâ alanında düzenlemeleri sınırlı tutmayı ve sektörün kendi kendini denetlemesini önceleyen yaklaşımıyla farklılık gösteriyor.
Trump, ABD'nin Çin karşısında yapay zekâ yarışında geride kalmaması gerektiğini savunarak aşırı düzenlemelerin inovasyonu yavaşlatabileceğine dikkat çekiyor. Smith ise teknolojik gelişimin sürdürülmesi gerektiği görüşüne katılmakla birlikte güvenlik önlemlerinin de aynı anda güçlendirilmesini istiyor.
Yapay zekâ sektöründe düzenleme tartışmaları, güçlü modellerin siber güvenlik riskleri, yanlış bilgi üretimi ve insan müdahalesi olmadan işlem yapabilen ajanların davranışları nedeniyle yoğunlaştı. Sektörde bazı yöneticiler güvenlik testleri ve ortak standartları desteklerken, düzenlemelerin inovasyon üzerindeki etkisi konusunda görüş ayrılıkları bulunuyor.
Küresel kurallar için İngiltere'yi işaret etti
Smith, uluslararası yapay zekâ güvenliği kurallarının oluşturulmasında İngiltere'nin öncü rol üstlenebileceğini söyledi. İngiltere'nin yapay zekâ güvenliği alanında teknik kapasiteye ve uzman kurumlara sahip olduğunu belirten Smith, ülkenin ABD, Avrupa ve Çin ile iletişim kurabilecek bir konumda bulunduğunu savundu.
İngiltere'nin yapay zekâ güvenliği alanındaki kurumları, gelişmiş modellerin yeteneklerini ve oluşturabilecekleri riskleri değerlendirmeyi amaçlıyor. Smith, bu kapasitenin uluslararası iş birliğini desteklemek ve ortak güvenlik standartları oluşturmak için kullanılabileceğini ifade etti.
İngiltere'de hükümetin de gelişmiş yapay zekâ sistemlerinin denetlenmesi ve güvenlik olaylarının zorunlu olarak bildirilmesi seçenekleri üzerinde çalıştığı bildirildi. Bu tartışmalar, yapay zekâ düzenlemelerinin yalnızca şirketlerin gönüllü taahhütlerine bırakılıp bırakılmaması sorusunu yeniden gündeme taşıdı.
“Zamanı geldi”
Smith'in çağrısının merkezinde, yapay zekânın gelişimini durdurmadan insanların teknoloji üzerindeki kontrolünü koruyacak kurallar oluşturulması bulunuyor.
Microsoft Başkanı, şirketlerin gönüllü güvenlik taahhütlerinin olumlu bir adım olabileceğini ancak tek başına yeterli olmayacağını savunuyor. Ona göre asıl sorun, güvenlik kurallarına uymaya istekli şirketlerden ziyade sorumluluk almayan geliştiricilerin nasıl denetleneceği.
Smith, uluslararası iş birliğiyle güvenlik standartlarının belirlenmesi, bağımsız testlerin yaygınlaştırılması ve şirketlerin yasal sorumluluklarının netleştirilmesi gerektiğini belirterek harekete geçmek için zamanın geldiğini vurguladı.