OpenAI, ChatGPT kullanıcılarının gerçek sohbetlerini ve verilerini inceleyip modelin yanıtlarını iyileştirmeye yardımcı olan geniş bir sözleşmeli çalışan ordusuna sahip. Bu kişilerin görevi modele "insani bir dokunuş" katmak. Ancak 404 Media'nın ulaştığı çok sayıda kaynağa göre, bu işi yapması gereken kişilerden bazıları aslında modeli eğitmek için yine yapay zekadan yardım alıyordu. https://www.404media.co/people-training-openais-ai-fired-for-using-ai-to-train-the-ai/
Haberde bunun ironik bir tarafına da dikkat çekiliyor: OpenAI'nin iş yerlerinde insanları yapay zeka kullanmaya teşvik eden bir şirket kültürü var, ama modelini eğiten yüklenici firmalar tam tersine bu davranışı yasaklıyor ve yakaladıklarında işten çıkarıyor.
"Model çöküşü" riski
Habere göre bazı yapay zeka modelleri, yine yapay zeka tarafından üretilmiş metinlerle eğitildikçe kalitesi düşen "model çöküşü" (model collapse) denen sorunu şimdiden gösteriyor. Bu sorunu önlemek için istihdam edilen incelemecilerin bir kısmının, işlerini yine yapay zeka çıktılarıyla yapması durumu daha da katmerli hale getiriyor.
Bir yüklenici, yapay zeka kullanımının "her zaman" görüldüğünü ve bu yüzden "sürekli" işten çıkarma yaşandığını, bunun neredeyse tek başına kovulma sebebi olduğunu söyledi. Aynı kişi, binlerce kişilik gruplarda "yakalanan çok sayıda" kişi bulunduğunu belirtti.
Şirket talimatları: "AI kullandığınızı şüphelendiğinizi söylemeyin"
404 Media'nın ulaştığı iç belgelerden birine göre, diğer yüklenicilerin çalışmalarını denetlemekle görevli kişilere şu talimat veriliyor: Yapay zeka tespit araçları (GPTZero gibi) veya Grammarly dahil hiçbir yapay zeka aracı kullanılmayacak, çünkü bu araçlar güvenilir değil. Ayrıca değerlendirilen kişilere neden şüphelenildiği söylenmeyecek — aksi halde kendilerini gizlemeleri kolaylaşır. Denetleyicilerden tek bir ipucuna değil, genel örüntüye bakmaları isteniyor.
Nasıl yakalanıyorlar?
Tekrar eden kelimeler, aşırı em-dash (—) kullanımı gibi "yapay zeka tarzı" noktalama işaretleri ve işin anormal derecede hızlı tamamlanması, tespit için kullanılan başlıca işaretler arasında sayılıyor. Yüklenicilerin birbirine danıştığı Slack kanallarında sık sık "Bu yapay zeka mı?" sorusu soruluyor ve genellikle cevap "evet" oluyor.
"Bir işten çıkarma mektubu paylaştım"
Yapay zeka kullandığı için işten çıkarılan bir yüklenici, aldığı fesih yazısında işinin "özgünlüğüyle" ilgili sorun tespit edildiğinin belirtildiğini söyledi. Kişi, "Kötü biri ya da kötü bir çalışan değilim. Sadece biraz desteğe ihtiyacım vardı ve bu da sonunda beni bu duruma sürükledi" dedi ve yaptığı işten hiçbir zevk almadığını, topluma bir katkı sağladığını hissetmediğini aktardı.
Mercor'dan açıklama
Görüşülen yüklenicilerden ikisi, ChatGPT ile ilgili materyalleri inceleyen yüklenicileri istihdam eden yapay zeka eğitim şirketi Mercor için çalışıyordu. Şirket sözcüsü 404 Media'ya yaptığı açıklamada, uzmanlarının bilgi ve muhakeme yetenekleri nedeniyle işe alındığını, sözleşmelerin projelerde büyük dil modeli kullanımını kesinlikle yasakladığını ve bu kuralın uygulandığını, kötüye kullanımı tespit etmek için ciddi yatırım yaptıklarını ve bir uzmanın yapay zeka kullandığı doğrulandığında derhal projeden çıkarıldığını belirtti.
Bilinçli sabotaj iddiası
Görüşülen dördüncü bir yüklenici ise farklı bir itirafta bulundu: Bazen bilerek en kötü yanıtları seçtiğini, böylece modelin eğitimini kasıtlı olarak sabote etmeye çalıştığını söyledi. "Başta bu tür bir iş yaptığım için suçluluk duyuyordum" dedi ve ya sonuçlara hiç dikkat etmeden rastgele seçim yaptığını ya da bilerek en kötü çıktıyı işaretlediğini, bunun ne kadar fark yarattığından emin olmasa da "yapay zekayı kötüleştirmek için para aldığı" hissine kapıldığını aktardı.
OpenAI, sözleşmeli çalışanlarının yapay zeka kullandığı için işten çıkarılmasıyla ilgili yorum yapmayı reddetti.