Bir gece canınız sıkkın. Kimseyle konuşmak istemiyorsunuz. Telefonu elinize alıyor ve ChatGPT'ye yazıyorsunuz:
“Eşimle aramız bozuldu…”
“İşimden nefret ediyorum…”
“Bu hastalıktan korkuyorum…”
“Patronumun yaptığı şey yasal mı?”
“Kimseye anlatamadığım bir şey var…”
Yapay zekâ cevap veriyor. Sizi dinliyor. Sözünüzü kesmiyor. Yargılamıyor. Üstelik saatlerce konuşsanız bile sıkılmıyor. İnsanın hoşuna gidiyor. Çünkü karşınızda bir insan yok.
Öyle sanıyorsunuz.
İşte tam burada durup düşünmek gerekiyor: Ben kime ne anlatıyorum?
Çünkü artık yapay zekâya sadece soru sormuyoruz. İçimizi döküyoruz. Ve bunun ne anlama geldiğini yeni yeni fark ediyoruz.
ChatGPT'yi insanlar gerçekten okuyor mu?
Geçtiğimiz günlerde 404 Media önemli bir araştırma yayımladı.
Haberin adı: “Project Lily.”
Haberde, OpenAI'ın yüzlerce sözleşmeli çalışanının gerçek ChatGPT konuşmalarını inceleyerek yapay zekânın verdiği cevapları değerlendirdiği ortaya konuldu. 404 Media’nın Project Lily araştırması, bu soruyu artık görmezden gelemeyeceğimizi gösteriyor. Sızdırılan iç belgelere ve 404 Media tarafından görülen gerçek yazışmalara göre, insanlar ChatGPT kullanıcılarının yazışmalarını okuyarak OpenAI'nin modellerini geliştiriyor ve bu sohbetler hassas, kişisel bilgiler içerebiliyor.
404 Media, sızdırılmış şirket belgelerini, eğitim materyallerini, çalışanların yazışmalarını ve gerçek kullanıcı konuşmalarını incelemiş. https://www.404media.co/inside-project-lily-the-humans-reading-your-chatgpt-chats/
Üstelik haber, “bir kaynağımız söyledi” türünden bir iddiaya dayanmıyor.
Çalışanların görevi kabaca şu: Kullanıcının ne istediğini anlamak…ChatGPT'nin verdiği cevaplara bakmak… Ve hangi cevabın daha iyi olduğunu değerlendirmek.
Ama burada önemli bir ayrım var: Bu, OpenAI'daki insanların bütün ChatGPT konuşmalarını oturup tek tek okuduğu anlamına gelmiyor.
Ancak bazı gerçek konuşmaların insan incelemesine girebildiği anlamına geliyor. Ve işte mesele tam olarak bu. Çünkü o konuşmaların içinde bazen çok özel şeyler var.
“Benim adımı görmüyorlar ki!”
Evet.
OpenAI, kullanıcıların isim ve doğrudan kimlik bilgilerinin değerlendiricilerden gizlenmesi için önlemler kullanıyor.
Fakat 404 Media'nın haberindeki belgeler, kişisel bilgilerin her zaman tamamen temizlenemeyebileceğini gösteriyor.
Daha ilginci, bazı incelemelerde kullanıcının geçmiş kullanımına ilişkin hafıza özetlerinin de bulunabildiği aktarılıyor. Bu özetler kişinin ilgi alanları, kullanım amacı veya bazı kişisel bağlamları hakkında bilgi içerebiliyor.
Yani isminizi bilmeyebilirler. Ama sizi anlatan hikâyeyi görebilirler. Bazen insanı tanımak için adına gerek yoktur. Nerede yaşadığı, ne iş yaptığı ve ne anlattığı yeterlidir.
Peki sadece ChatGPT mi?
Hayır.
İşin en önemli taraflarından biri de bu.
Google'ın Gemini için yayımladığı güncel gizlilik açıklamasında, bazı sohbetlerin insan değerlendiriciler tarafından incelendiği açıkça yazıyor.
Bu kişiler, Gemini'nin cevaplarının yanlış, kalitesiz veya zararlı olup olmadığını değerlendiriyor ve daha iyi cevaplar oluşturulmasına yardımcı oluyor.
Google ayrıca kullanıcılara açıkça şunu söylüyor: İnsan bir değerlendiricinin görmesini istemeyeceğiniz gizli bilgileri Gemini'ye girmeyin. (Google Yardım)
Daha da çarpıcısı şu:
Google, insan değerlendiriciler tarafından incelenen bazı Gemini konuşmalarının, kullanıcı sohbeti sonradan silse bile üç yıla kadar tutulabileceğini belirtiyor. (Google Yardım)
Claude tarafında da benzer bir tablo var. Anthropic, bazı kullanıcıların sohbetlerinin model geliştirmek için kullanılabileceğini; güvenlik nedeniyle işaretlenen konuşmaların da incelenebileceğini söylüyor. (Anthropic Gizlilik Merkezi)
Grok'ta da durum farklı değil. X, Grok ile yaptığınız konuşmaların, yazdıklarınızın ve aldığınız cevapların xAI tarafından modelleri geliştirmek ve eğitmek için kullanılabileceğini açıkça belirtiyor. Kullanıcılar bunun için ayarlardan vazgeçebiliyor. (Yardım Merkezi)
Yani karşımızdaki tablo şu:
| Yapay zekâ | İnsan incelemesi / kullanım |
| ChatGPT | Bazı gerçek konuşmalar insan değerlendiriciler tarafından incelenebiliyor |
| Gemini | Bazı sohbetler insan değerlendiriciler tarafından inceleniyor |
| Claude | Belirli koşullarda sohbetler incelenebiliyor ve model geliştirmede kullanılabiliyor |
| Grok | Kullanıcı etkileşimleri model geliştirme ve eğitimde kullanılabiliyor |
Demek ki mesele sadece ChatGPT değil.
Mesele yapay zekânın çalışma biçimi.
Asıl tehlike burada başlıyor.
Sosyal medya bize yıllarca şunu yaptı:
Ne yaptığımızı öğrendi.
Nereye gittiğimizi öğrendi.
Ne satın aldığımızı öğrendi.
Neye baktığımızı öğrendi.
Yapay zekâ ise başka bir kapı açtı:
“Neden?”
Google'a: “Boşanma avukatı” yazabilirsiniz.
Ama ChatGPT'ye: “Eşimden ayrılmak istiyorum ama çocuklarımın hayatının mahvolmasından korkuyorum.” diyebilirsiniz.
Google'a: “Göğüs ağrısı” yazabilirsiniz.
Yapay zekâya ise: “Doktora gitmeye korkuyorum çünkü…” diye devam edersiniz.
Google sizin ne aradığınızı biliyordu.
Yapay zekâya ise neden aradığınızı anlatıyorsunuz.
İşte asıl kırılma burada.
En değerli veri kredi kartı numaranız olmayabilir
Şifrenizi kimseye vermiyorsunuz. Banka hesap bilgilerinizi koruyorsunuz. Kimlik numaranızı paylaşmıyorsunuz.
Peki korkularınızı? Endişelerinizi? Evliliğinizdeki sorunları? İş yerindeki problemleri? Sağlık korkularınızı? Henüz kimseye göstermediğiniz kitabınızı? Neden bunları yapay zekâya anlatıyoruz?
Çünkü karşımızdaki bize güven veriyor. Sizi dinliyor. Sizi yargılamıyor. Üstelik bazen yakın arkadaşınızdan bile daha sabırlı.
Ama unutmayın: Sizi iyi dinlemesi, sizin dostunuz olduğu anlamına gelmez.
Bir konuşma önemsizdir. Bin konuşma değildir.
Bugün ChatGPT'ye bir şey sordunuz.
Yarın başka bir şey. Bir hafta sonra başka bir şey. Bir yıl sonra yüzlerce konuşma. O zaman ortaya yalnızca sorular çıkmaz.
Bir insan portresi çıkar.
Nelerden korktuğunuz… Neye kızdığınız… Ne satın almak istediğiniz… Hangi konuda kararsız kaldığınız… Hangi hastalıktan endişe ettiğiniz…İşiniz… İlişkileriniz…Cinsel tercihleriniz...Siyasi fikirleriniz...Alışkanlıklarınız… Ve belki sizin bile fark etmediğiniz davranış biçimleriniz....
Sosyal medya şirketleri insanların ne yaptığını anlamaya çalışıyordu.
Yapay zekâ ise insanların neden yaptığını öğrenebilecek bir noktaya geliyor.
Üstelik bunu zorla almıyor.
Biz anlatıyoruz.
Peki ne yapacağız?
Yapay zekâ kullanmayacak mıyız?
Hayır.
Ama onu arkadaşımız sanmayacağız.
Bir yapay zekâya: “Bana bir şiir yaz.” demek başka.
“Şu banka hesabımda şu kadar param var, şu borçlarım var…” demek başka.
“Şu hastalığım var…” demek başka.
“Şirketimin gizli belgesi…” demek bambaşka.
Basit bir kural yeter: Bir gün başka bir insanın okumasından rahatsız olacağınız şeyi yapay zekâya yazmadan önce iki kez düşünün.
Çünkü yapay zekâ çağının en önemli mahremiyet kuralı belki de şu:
Sırdaşınız gibi konuşabilir. Ama sırdaşınız değildir.
Ve belki de geleceğin en değerli verisi banka hesabınız değil.
Kendi zihninizdir.
Sosyal medya çağında insanlar hayatlarını paylaştı.
Yapay zekâ çağında insanlar düşüncelerini anlatıyor.
Bu yüzden bir dahaki sefere ekranda:
“Size nasıl yardımcı olabilirim?” sorusunu gördüğünüzde…
Cevap vermeden önce bir saniye durun.
Ve kendinize şunu sorun: “Bunu gerçekten kime anlatıyorum?”