Bir düşünün…
Bir gün bankadan kredi almak istiyorsunuz. Başvurunuz reddediliyor. Nedenini sorduğunuzda karşınızda bir insan değil, kararını açıklayamayan bir algoritma var.
İşe başvuruyorsunuz. Sizi hiç kimse görmeden yapay zekâ eliyor.
Bir seçim öncesinde milyonlarca kişiye, onların korkularına ve zaaflarına göre hazırlanmış sahte görüntüler, sesler ve haberler gönderiliyor.
Bir savaşta hedefi bir insan değil, bir algoritma belirliyor.
Bunlar artık yalnızca bilim kurgu senaryoları değil. Yapay zekânın hayatın her alanına girmesiyle birlikte önümüzde duran gerçek sorular.
Isaac Asimov, 1942'de yayımlanan Runaround öyküsünde robotların davranışlarını düzenleyen üç temel yasa ortaya koymuştu. Robot, insana zarar vermeyecek, insanın emirlerine uyacak ve kendi varlığını koruyacaktı.
Asimov'un yasaları edebiyatın ürünüydü. Ama bugün ihtiyacımız olan şey çok daha gerçek: Yapay zekânın ne yapabileceğini, ne yapamayacağını ve hata yaptığında kimin hesap vereceğini belirleyen evrensel kurallar.
Çünkü teknoloji şirketleri daha güçlü yapay zekâ geliştirmek için yarışırken insanlığın ortak güvenlik kuralları aynı hızla ilerlemiyor.
Peki yapay zekânın sınırlarını kim çizecek?
Bence artık bir Yapay Zekâ Hak ve Sorumluluk Yasası üzerinde anlaşmanın zamanı geldi.
İşte böyle bir yasanın temelini oluşturması gereken 10 madde…
Yapay Zeka'nın 10 Kanunu
1. Yapay zekâ insan hayatı hakkında tek başına ölüm kalım kararı veremez
Bir yapay zekâ doktorlara teşhis konusunda yardımcı olabilir. Askerî sistemlerde tehditleri analiz edebilir. Trafikte aracı yönetebilir.
Ancak insan hayatını doğrudan etkileyen kritik kararlarda nihai sorumluluk insanda olmalı.
Örneğin bir yapay zekâ, bir hastanın tedavisinin durdurulmasına veya bir insanın öldürülmesine tek başına karar verememeli. İnsan denetimi yalnızca kâğıt üzerinde kalmamalı; gerektiğinde kararı durdurabilecek gerçek yetkiye sahip olmalı.
Neden? Çünkü algoritmalar hata yapabilir. Üstelik hatalı kararlarının sonuçlarını kendileri üstlenemez.
2. Yapay zekâ insanları manipüle edemez
Yapay zekâ, insanların korkularını, zaaflarını, alışkanlıklarını ve psikolojik özelliklerini analiz edebiliyor.
Bu bilgi reklamcılıkta kullanılabilir. Ancak insanları farkında olmadan yönlendirmek, siyasi tercihlerini değiştirmek veya bağımlılık yaratmak için kullanılamamalı.
Örneğin bir seçim kampanyası, milyonlarca kişiye kişilik özelliklerine göre farklı yalanlar üreterek seçmen davranışını yönlendirememeli.
Neden? Çünkü insanın özgür iradesi, şirketlerin ve siyasi aktörlerin ticari ya da politik deney alanı değildir.
3. Yapay zekâ kimliğini ve ürettiği içeriği gizleyemez
Bir insan yapay zekâyla konuştuğunu bilmeli. Yapay zekâ tarafından üretilen gerçekçi görüntü, ses ve videolar da gerektiğinde açıkça işaretlenmeli.
Bir siyasetçinin hiç söylemediği sözleri söylediği sahte bir video, bir kişinin sesinden üretilmiş dolandırıcılık araması veya sahte haber, gerçekmiş gibi dolaşıma sokulmamalı.
Neden? Çünkü gerçek ile sahte arasındaki çizgi kaybolursa yalnızca gazetecilik değil, toplumun birbirine ve kurumlara duyduğu güven de zarar görür.
4. Yapay zekâ kişisel verileri izinsiz kullanamaz
Bir insanın yüzü, sesi, özel yazışmaları, sağlık bilgileri ve dijital izleri onun rızası olmadan sınırsız biçimde toplanıp işlenememeli.
Şirketler, modellerini eğitmek için kullandıkları verilerin kaynağını açıklamalı. Kişiler de verilerinin nasıl kullanıldığını öğrenebilmeli ve hukuka uygun biçimde itiraz edebilmeli.
Örneğin bir kişinin sosyal medyadaki fotoğrafları izinsiz biçimde toplanarak yüz tanıma sistemine eklenememeli.
Neden? Çünkü teknoloji şirketlerinin büyüme arzusu, insanların mahremiyet hakkının önüne geçemez.
5. Yapay zekâya sınırsız yetki verilemez
Bugün yapay zekâ ajanları yalnızca sorulara cevap vermekle kalmıyor; internette araştırma yapabiliyor, dosyalarla çalışabiliyor, yazılım çalıştırabiliyor ve başka sistemlerle bağlantı kurabiliyor.
Ancak bir yapay zekâya her sisteme erişim, para transferi, dosya silme veya güvenlik ayarlarını değiştirme yetkisi sınırsız biçimde verilememeli.
Örneğin bir yapay zekâ ajanı, sahibinin onayı olmadan banka hesabından para gönderememeli veya şirketin bütün veri tabanını silememeli.
Neden? Çünkü küçük bir hata, geniş yetkiler sayesinde büyük bir felakete dönüşebilir. Yetki, ihtiyaca göre sınırlandırılmalı; kritik işlemler insan onayına bağlanmalı.
6. Yapay zekâ siber saldırı ve silah üretiminde denetimsiz kullanılamaz
Yapay zekâ siber güvenlik açıklarını bulmak için kullanılabildiği gibi saldırıları otomatikleştirmek için de kullanılabilir.
Kendi kendine yeni hedefler arayan, sistemlere sızmaya çalışan ve bilgisayar solucanları gibi zararlı yazılımların yayılmasını kolaylaştıran sistemler ciddi risk oluşturuyor.
Aynı şekilde otonom silahların hedef seçme ve saldırı kararı verme süreçleri de uluslararası kurallara bağlanmalı.
Neden? Çünkü bir saldırının hızı arttıkça insanların müdahale etme fırsatı azalabilir. Hiçbir devlet veya şirket, insan denetimi olmadan geniş çaplı zarar verebilecek sistemleri serbestçe geliştirememeli.
7. Yapay zekâ ayrımcılık yapamaz; kararlarına itiraz edilebilir olmalı
Bir algoritma işe alımda, kredi başvurusunda, eğitimde veya kamu hizmetlerinde insanları cinsiyetleri, kökenleri, yaşları ya da başka kişisel özellikleri nedeniyle haksız biçimde değerlendirememeli.
Daha da önemlisi, yapay zekânın verdiği önemli bir kararın gerekçesi açıklanabilmeli.
Örneğin bir banka kredi başvurusunu reddettiğinde, "Algoritma böyle karar verdi" diyerek sorumluluktan kaçamamalı. Kişi karara itiraz edebilmeli ve insan tarafından yeniden değerlendirme talep edebilmeli.
Neden? Çünkü algoritmanın verdiği karar da bir insanın hayatını etkiler. Dijital sistemler hukukun dışında bir alan değildir.
8. Yapay zekâ geliştiren şirketler hesap vermek zorunda olmalı
Bir şirket, geliştirdiği yapay zekâyı piyasaya sürdükten sonra "Ben sadece teknolojiyi ürettim" diyerek sorumluluktan kaçamamalı.
Yüksek riskli sistemler bağımsız denetimden geçmeli. Güvenlik açıkları, bilinen riskler ve ciddi hatalar kayıt altına alınmalı. Zarar oluştuğunda şirketlerin sorumluluğu açıkça belirlenmeli.
Örneğin bir yapay zekâ sistemi binlerce kişinin kişisel verilerini açığa çıkarırsa şirket yalnızca bir özür mesajı yayımlayarak konuyu kapatamamalı.
Neden? Çünkü büyük teknoloji şirketlerinin gücü büyüdükçe sorumlulukları da büyümeli.
9. Devletler yapay zekâyı toplumu gözetlemek ve demokrasiyi zayıflatmak için kullanamamalı
Yapay zekâ, kamu hizmetlerini iyileştirebilir ve suçlarla mücadeleye yardımcı olabilir. Ancak vatandaşların sürekli izlenmesi, siyasi görüşlerine göre sınıflandırılması veya yalnızca algoritmik tahminlerle suçlu ilan edilmesi için kullanılamamalı.
Devletlerin kullandığı yüksek riskli yapay zekâ sistemleri bağımsız denetime açık olmalı. Güvenlik gerekçesi, temel hakları sınırsız biçimde ihlal etmenin bahanesi hâline gelmemeli.
Neden? Çünkü yapay zekâ yalnızca şirketlerin değil, devletlerin de elinde çok güçlü bir kontrol aracına dönüşebilir. Demokrasi, teknolojik gözetim altında özgür kalamaz.
10. Yapay zekâ yasalarını ülkeler birlikte belirlemeli
En önemli madde belki de bu.
Bir ülke yapay zekâya sınır koyarken başka bir ülke hiçbir kural tanımadan geliştirmeye devam ederse küresel güvenlik sağlanamaz.
Bu nedenle ülkeler arasında bağlayıcı bir uluslararası anlaşma yapılmalı. Ortak güvenlik standartları, bağımsız denetim mekanizmaları ve ihlal durumunda yaptırımlar oluşturulmalı.
Şirketler de faaliyet gösterdikleri ülkelerin kurallarına uymalı. Kuralları ihlal edenlere yalnızca sembolik para cezaları değil, faaliyet kısıtlaması ve gerektiğinde ürünün piyasadan çekilmesi gibi yaptırımlar uygulanmalı.
Neden? Çünkü yapay zekânın sınırları yalnızca onu geliştiren şirketlerin insafına bırakılamaz. Bir ülkede geliştirilen teknoloji, başka bir ülkede milyonlarca insanı etkileyebilir.
Peki bu yasaları kim uygulayacak?
Elbette bu maddeler tek başına yeterli değil. Asıl mesele, kuralları kimin koyacağı ve kimin denetleyeceği.
Bunun için üç katmanlı bir yapı gerekiyor:
- Uluslararası anlaşma: Birleşmiş Milletler ve Avrupa Konseyi gibi kurumların öncülüğünde ülkelerin ortak güvenlik ilkelerinde buluşması.
- Ulusal denetim kurumları: Her ülkede siyasi ve ticari baskıdan bağımsız, yapay zekâ sistemlerini denetleyebilen yetkili kurumların oluşturulması.
- Şirket sorumluluğu: Yapay zekâ geliştiren ve kullanan şirketlerin risk değerlendirmesi yapması, denetim kayıtlarını tutması ve ihlallerde hesap vermesi.
Aslında bu yönde adımlar atılmaya başlandı. Avrupa Birliği'nin Yapay Zekâ Yasası, risk seviyelerine göre farklı yükümlülükler getiriyor. Avrupa Konseyi'nin Yapay Zekâ Çerçeve Sözleşmesi ise insan hakları, demokrasi ve hukukun üstünlüğünü esas alan uluslararası bir zemin oluşturuyor.
Ancak bunlar, bütün dünyanın üzerinde uzlaştığı tek ve kapsamlı bir yapay zekâ anayasası olduğu anlamına gelmiyor.
Son söz: Teknolojiyi kim kontrol ediyor?
Yapay zekâ insanlığın bugüne kadar geliştirdiği en büyük fırsatlardan biri olabilir. Hastalıkların tedavisinden bilimsel keşiflere, eğitimden üretime kadar hayatımızı değiştirebilir.
Ama aynı teknoloji gözetim, manipülasyon, siber saldırı ve savaş aracı olarak da kullanılabilir.
Burada önemli bir ayrım var: Yapay zekâyı durdurmak mümkün olmadığı gibi, gelişmesini engellemek de doğru değil. Mesele, gelişmenin hangi kurallar içinde gerçekleşeceği.
Asimov'un robot yasaları, makinelerin insanlara zarar vermemesini hayal ediyordu. Bugün bizim yazmamız gereken yasalar ise makineleri geliştiren, onlara yetki veren ve onları kullanan insanları da bağlamalı.
Çünkü yapay zekâ kendi başına yasa yazamaz. Ama insanlar, kendi geliştirdikleri teknoloji karşısında çaresiz kalmamak için yasa yazmak zorunda.
Unutmayalım: Yapay zekânın ne kadar akıllı olacağından önce, ona ne kadar güç vereceğimize karar vermeliyiz.
Ve belki de geleceğin en önemli sorusu şu:
Yapay zekâ insanlığın hizmetinde mi olacak, yoksa insanlık kendi geliştirdiği teknolojinin hizmetine mi girecek?