Kodun bittiği yerde felsefe başlıyor.
Bir zamanlar teknoloji şirketlerinin en değerli insan kaynağı yazılımcılardı. Daha iyi kod yazan, daha hızlı algoritma geliştiren, daha büyük veri setlerini işleyebilen ve makineleri daha yetenekli hâle getirebilen insanlara ihtiyaç vardı.
Bugün hâlâ öyle.
Fakat yapay zekânın geldiği nokta, teknoloji dünyasının önüne bambaşka bir soru koyuyor:
Bir makineye ne yaptırabileceğimizden çok, bir makinenin ne yapması gerektiğini kim belirleyecek?
İşte tam bu noktada felsefe yeniden sahneye çıkıyor.
Çünkü yapay zekânın önümüzdeki dönemde karşılaşacağı en zor sorunların önemli bir bölümü artık matematiksel veya teknik problemler olmayacak. Sorunların önemli bir kısmı; etik, adalet, sorumluluk, özgür irade, bilgi, insan doğası ve değerler üzerinden şekillenecek.
Başka bir ifadeyle yapay zekâ geliştikçe, yalnızca daha iyi mühendislerin değil, daha iyi soru sorabilen insanların da değerini artıracak.
Mesele artık “Yapabilir miyiz?” değil
Teknoloji tarihine baktığımızda temel sorunun uzun süre “Bunu yapabilir miyiz?” olduğunu görüyoruz.
Bilgisayarlar daha hızlı hesaplayabilir mi?
Daha fazla veriyi işleyebilir miyiz?
Bir makine insan dilini anlayabilir mi?
Bir bilgisayar satrançta insanı yenebilir mi?
Bugün bu soruların önemli bir bölümüne “evet” diyebiliyoruz.
Fakat yapay zekâ çağında asıl soru giderek değişiyor:
“Yapabiliyor olmamız, bunu yapmamız gerektiği anlamına gelir mi?”
Bir yapay zekâ sistemi bir insanın işe alınma ihtimalini yüzde 87 olarak hesaplayabilir.
Peki bu insan gerçekten işe alınmalı mıdır?
Bir algoritma kredi başvurusunu reddedebilir.
Peki karar adil midir?
Bir yapay zekâ öğrencinin ödevini birkaç saniyede hazırlayabilir.
Peki öğrenci gerçekten öğrenmiş midir?
Otonom bir araç kazayı önlemek için iki seçenek arasında tercih yapmak zorunda kalabilir.
Peki hangi hayat daha değerlidir?
Bir yapay zekâ savaş alanında hedefleri analiz edebilir.
Peki öldürme kararını vermesi kabul edilebilir mi?
İşte burada algoritmanın gücü yetmez.
Çünkü “ne yapılabilir?” teknik bir sorudur; “ne yapılmalıdır?” ise felsefi bir sorudur.
Doğru cevap, doğru karar demek değildir
Yapay zekâ konusunda en önemli yanılgılardan biri, doğru cevabı doğru kararla karıştırmamız olabilir.
Bir yapay zekâ sistemi matematiksel olarak doğru bir sonuç üretebilir.
Ancak doğru hesaplama, her zaman doğru karar anlamına gelmez.
Bir algoritma bir çalışanın performansını diğerinden daha düşük hesaplayabilir. Fakat performansın hangi kriterlere göre ölçüldüğü, bu kriterlerin adil olup olmadığı ve geçmiş verilerin gelecekteki insan davranışlarını gerçekten temsil edip etmediği başka sorulardır.
Burada teknoloji ile felsefe arasındaki sınır ortadan kalkar.
Çünkü algoritmalar da aslında değerlerden bağımsız değildir.
Hangi verinin kullanılacağına, hangi kriterin önemli kabul edileceğine, hangi sonucun “başarılı” sayılacağına ve hangi riskin kabul edilebilir olduğuna birileri karar verir.
Dolayısıyla yapay zekâ hiçbir zaman yalnızca koddan ibaret değildir.
Kodun arkasında insan tercihi, insan tercihlerinin arkasında ise değerler vardır.
Sokrates bugün yaşasaydı yapay zekâya ne sorardı?
Belki de yapay zekâ çağında en fazla ihtiyacımız olan düşünürlerden biri Sokrates olacaktır.
Çünkü Sokrates'in yöntemi bize bir şeyi hatırlatıyordu:
Bir şeyi bildiğimizi sanmakla gerçekten bilmek arasında büyük bir fark vardır.
Bugün yapay zekâ bize saniyeler içinde cevaplar veriyor.
Ama cevap vermek bilmek midir?
Bir yapay zekâ sistemi bir metin oluşturduğunda gerçekten “anlıyor” mudur?
Bir şiir yazdığında estetik bir deneyim yaşıyor mudur?
Bir insanın duygusunu analiz ettiğinde gerçekten empati kuruyor mudur?
Yoksa bütün bunlar çok büyük veri kümeleri içerisindeki örüntülerin son derece gelişmiş biçimde işlenmesinden mi ibarettir?
Bu sorular bizi doğrudan epistemolojiye, yani bilginin ne olduğuna ilişkin felsefi tartışmalara götürüyor.
Belki de yapay zekânın bize öğreteceği en önemli şeylerden biri, bilgi ile bilgelik arasındaki fark olacak.
Çünkü bilgiye sahip olmak başka, o bilgiyi hangi amaçla ve hangi sınırlar içinde kullanacağını bilmek başkadır.
Felsefeci neden teknoloji şirketine girer?
“Bir teknoloji şirketinin felsefeciye neden ihtiyacı olsun?” diye sorulabilir.
Aslında cevabı oldukça basit.
Çünkü geleceğin teknoloji şirketleri yalnızca ürün üretmeyecek; karar üreten sistemler tasarlayacak.
Felsefecinin görevi ise kod yazmak değil, kodun dayandığı varsayımları sorgulamaktır.
Bir yapay zekâ sisteminin:
- hangi değerleri esas aldığı,
- hangi ayrımcılıkları yeniden üretebileceği,
- hangi kararların insan denetiminde kalması gerektiği,
- sorumluluğun kimde olduğu,
- mahremiyetin nerede başlayıp nerede bittiği,
- özgür iradenin algoritmik tahminlerle nasıl etkileneceği,
- insanın teknoloji karşısında hangi sınırları koruması gerektiği
gibi soruları gündeme getirmek artık teknolojinin dışında değildir.
Tam tersine, teknolojinin merkezindedir.
Bu nedenle geleceğin şirketlerinde “AI Ethics”, “AI Governance”, “Responsible AI”, “AI Safety” gibi alanların önem kazanması tesadüf değildir.
Yazılımcı yapay zekânın aklını inşa ederken, felsefeci onun hangi sınırlar içerisinde kullanılacağını sorgular.
Yapay zekâ aslında insanı yeniden tanımlıyor
Fakat meselenin belki de en çarpıcı tarafı burada başlıyor.
Yapay zekâ sadece makineleri değiştirmiyor.
İnsan kavramını da yeniden tartışmaya açıyor.
Yazmak insana özgüydü.
Artık makineler yazıyor.
Resim yapmak insana özgüydü.
Artık makineler görsel üretiyor.
Beste yapmak insana özgüydü.
Artık makineler müzik üretiyor.
Kod yazmak uzun süre insan zekâsının önemli göstergelerinden biri kabul edildi.
Artık makineler kod yazıyor.
Öğretmek, analiz etmek, danışmanlık yapmak, araştırmak ve hatta karar süreçlerine katılmak da giderek yapay zekânın faaliyet alanına giriyor.
O zaman çok daha temel bir soru ortaya çıkıyor:
Eğer makineler insanın bugüne kadar “insana özgü” kabul ettiği pek çok işi yapabiliyorsa, insanı insan yapan nedir?
Belki de yapay zekâ çağının en büyük felsefi sorusu budur.
Geleceğin en değerli yeteneği: Doğru soruyu sormak
Bugün eğitim sistemlerimizin önemli bir bölümü çocuklara cevap vermeyi öğretiyor.
Oysa yapay zekâ çağında cevapların maliyeti dramatik biçimde düşüyor.
Bir sorunun cevabına ulaşmak artık birkaç saniye sürebiliyor.
Bu durumda insanın asıl değerini nerede arayacağız?
Belki de doğru soruyu sormakta.
Çünkü yapay zekâ bize binlerce cevap verebilir.
Fakat hangi sorunun sorulması gerektiğine karar vermek hâlâ insana ait.
Daha da önemlisi, verilen cevaplardan hangisinin anlamlı, hangisinin etik, hangisinin doğru ve hangisinin insanlık açısından yararlı olduğuna karar vermek zorundayız.
Bu nedenle geleceğin eğitiminde yalnızca kodlama öğretmek yeterli olmayacak.
Felsefe, etik, eleştirel düşünme, medya okuryazarlığı, tarih, sosyoloji ve insan davranışını anlamaya yönelik disiplinler de teknoloji eğitiminin ayrılmaz parçaları hâline gelecek.
Çünkü geleceğin insanı yalnızca “Nasıl yapılır?” sorusunun cevabını değil, “Neden yapılmalı?” sorusunun cevabını da bilmek zorunda.
Yapay zekânın vicdanı olabilir mi?
Belki de tartışmayı en uç noktaya taşıyan soru şu:
Yapay zekânın vicdanı olabilir mi?
Bugün makineler karar verebilir.
Ancak karar vermek ile sorumluluk almak aynı şey değildir.
Bir algoritma bir insanın hayatını etkileyen karar verdiğinde sorumlu kim olacaktır?
Yazılımcı mı?
Şirket mi?
Yapay zekâ sistemini kullanan yönetici mi?
Veriyi sağlayan kurum mu?
Yoksa hiç kimse mi?
Hukukun, siyasetin ve etik düşüncenin önümüzdeki yıllarda en fazla zorlanacağı alanlardan biri burası olacak.
Çünkü teknoloji insanın karar verme kapasitesini genişlettikçe, sorumluluğun sınırlarını da yeniden çizmek zorunda kalacağız.
Kodun bittiği yerde felsefe başlıyor
Yapay zekâya yalnızca bir teknoloji devrimi olarak bakarsak önemli bir şeyi kaçırmış oluruz.
Yapay zekâ aynı zamanda bir insanlık sınavıdır.
Bize makinelerin ne kadar gelişebileceğini gösterirken, insanın kendisi hakkında ne kadar az düşündüğünü de gösterebilir.
Bugün mesele artık yalnızca daha hızlı, daha akıllı ve daha güçlü makineler yapmak değildir.
Mesele, bu makinelerin oluşturduğu yeni dünyada nasıl bir insanlık tasavvuruna sahip olacağımızdır.
Belki de önümüzdeki dönemde teknoloji şirketlerinin en kıymetli çalışanı, en hızlı kod yazan kişi olmayacak.
En kıymetli kişi;
“Bunu yapabiliriz ama yapmalı mıyız?”
diye sorabilen kişi olacak.
Çünkü yapay zekâ bize cevap vermeyi öğretecek.
Fakat hangi soruların sorulmaya değer olduğunu hâlâ bizim öğrenmemiz gerekecek.
Ve belki de bu nedenle geleceğin teknoloji şirketlerinde yazılımcı ile felsefecinin aynı masada oturması bir tercih değil, bir zorunluluk olacak.
Çünkü kodun bittiği yerde felsefe başlıyor.