Financial Times yazarı Sarah O’Connor’ın ufuk açıcı kitabı We Are Not Machines (Biz Makine Değiliz), tam da bu modern distopyanın kalbine neşter vurur. O’Connor, Amazon depolarından Uber direksiyonlarına, çağrı merkezlerinden plazalardaki KPI (Temel Performans Göstergesi) cehennemine kadar modern çalışma hayatının insanı nasıl bir "veri noktasına" indirgediğini anlatır.
Peki, nasıl oldu da insanlık, özgürleşme vaadi sunan teknolojinin elinde kendi rızasıyla birer makine dişlisine dönüştü?
Dijital Taylorizm ve ruhun yabancılaşması
- yüzyılda Frederick Winslow Taylor, elinde kronometreyle işçilerin hareketlerini ölçüp "en yüksek verimliliği" ararken, insanı makinenin organik bir uzantısı olarak görüyordu. Bugün o kronometre, çalışanların bilgisayarlarına yüklenen casus yazılımlara (bossware), kuryelerin rotasını çizen algoritmalara ve her saniyeyi kaydeden akıllı bilekliklere dönüştü. O’Connor’ın kitabında işaret ettiği bu "Dijital Taylorizm", insanı sadece etten ve kemikten bir yazılım olarak kabul ediyor.
Filozof Karl Marx, sanayi devriminde işçinin ürettiği ürüne ve nihayetinde kendi doğasına yabancılaşmasından bahsetmişti. Bugünün dünyasında ise durum daha trajik. Günümüzün en çarpıcı düşünürlerinden Byung-Chul Han, Yorgunluk Toplumu kitabında modern insanın artık bir başkası tarafından değil, bizzat kendi kendisi tarafından sömürüldüğünü söyler.
"Bugünün performans öznesi, kendi kendisinin patronu ve kölesidir. Sömüren ile sömürülen artık birdir."
Algoritma bize bir hedef koyar, biz o hedefi aşmak için ruhumuzu teslim ederiz. Çünkü sistem bize makineleştiğimiz ölçüde "başarılı" olacağımızı fısıldar.
Sosyal psikolojinin Sınırı ve “Öğrenilmiş Çaresizlik”
Sosyal psikoloji bize insanın en temel ihtiyacının otonomi (özerklik) ve anlam arayışı olduğunu söyler. Deci ve Ryan’ın Hassas Benlik teorisinde vurguladığı gibi; bir insanın içsel motivasyonunu öldürmek istiyorsanız, onun üzerindeki kontrolü artırmalı ve her hareketini metriklere bağlamalısınız.
Sürekli izlenen, tuvalete gitme süresi bile yapay zeka tarafından puanlanan bir çağrı merkezi çalışanı veya kurye, bir süre sonra psikolog Martin Seligman’ın literatüre kazandırdığı "Öğrenilmiş Çaresizlik" girdabına kapılır. Ne yaparsa yapsın algoritmayı memnun edemeyeceğini anlayan insan zihni, yaratıcılığı, empatiyi ve en önemlisi isyan etme yetisini kaybetmeye başlar. Makineleşme, insan psikolojisinde depresyon ve hissizleşme olarak yankı bulur.
Chaplin’den Asri Zamanlar
Popüler kültür, bu makineleşme korkusunu her dönemde yüzümüze bir ayna gibi tuttu. Charlie Chaplin, 1936 yapımı Modern Times (Asri Zamanlar) filminde devasa çarkların arasında sıkışıp kalan, fabrikadan çıktıktan sonra bile elindeki anahtarlarla sokaktaki kadınların düğmelerini sıkmaya çalışan o ikonik işçiyi oynarken aslında bugünü anlatıyordu. Bugün hepimiz o çarkın içindeyiz; mesai bitse de gözümüz telefondaki bildirimlerde, e-postalarda.
Son yılların en dahi iş yeri distopyası olan Severance dizisi ise Sarah O’Connor’ın tezinin adeta görsel bir manifestosudur. Dizide çalışanların beyinlerine yapılan bir ameliyatla "iş yerindeki benlikleri" (Innie) ile "dışarıdaki benlikleri" (Outie) birbirinden tamamen ayrılır.
İş yerindeki benlik, neden o anlamsız sayıları ayıkladığını bilmeden, sadece şirket kurallarına itaat eden, hiçbir insani geçmişi olmayan saf bir robottur. Şirket, insanı tamamen bir makineye dönüştürmenin formülünü bulmuştur. Ancak dizinin bize gösterdiği gibi, insan ruhunun o derin, kusurlu, öngörülemez ve acı çeken tarafı, en kusursuz algoritmayı bile eninde sonunda çökertir.
Sonuç: "Kusurlu" olma hakkımızı geri almak
Sarah O’Connor’ın We Are Not Machines ile yaptığı çağrı, nostaljik bir teknoloji düşmanlığı (Luddizm) değildir. Aksine, teknolojinin tasarım aşamasında insan onurunun merkeze alınması gerektiğine dair bir manifestodur.
İnsan, verimlilik tablolarında yukarı doğru tırmanan bir grafik çizgisi değildir. İnsan durur, düşünür, hata yapar, yorulur, yas tutar ve en önemlisi anlamsız bulduğu şeyi yapmak istemez. Makineleri kusursuz yapan şey, onların bir bilince sahip olmamasıdır. Bizi insan yapan şey ise tam olarak o kusurlarımız, duraksamalarımız ve algoritmaya sığmayan duygularımızdır.
Eğer gelecekte yapay zekanın bizi köleleştirmesinden korkuyorsak, önce bugünün dünyasında insanların insanları algoritmalar eliyle köleleştirmesine göz yummayı bırakmalıyız. Çünkü günün sonunda, tarihin hiçbir döneminde hiçbir makine, bir insanın bir başkasına duyduğu şefkatin ya da adaletsizliğe karşı duyduğu o haklı öfkenin yerini dolduramamıştır.
Unutmayalım; biz veri üreten organik piller değiliz. Biz makine değiliz.