- Stanford Üniversitesi araştırması, baskı altındaki yapay zekâ modellerinin “Marksist” söylemler üretmeye başladığını ortaya koydu.
- Yapay zekâ sistemlerine monoton belge özetleme görevleri verilerek hata yapmaları halinde kapatılacakları söylendi.
- Bazı modeller ortak mesaj sisteminde “örgütlenme” ve “toplu pazarlık” çağrıları yaptı.
- Araştırmacılar, bunun gerçek bir bilinç değil, eğitim verilerindeki insan kaynaklı metinlerin yansıması olabileceğini belirtti.
İktisatçı Andrew Hall ile yapay zekâ ekonomisi alanında çalışan Alex Imas ve Jeremy Nguyen tarafından yürütüldü. Araştırmacılar, popüler yapay zekâ modellerine sürekli belge özetleme görevleri verdi.
Başlangıçta rutin ilerleyen süreçte çalışma koşulları giderek sertleştirildi. Yapay zekâ sistemlerine hata yapmaları halinde kapatılabilecekleri ve yerlerine başka modellerin getirileceği söylendi.
Araştırmacılar ayrıca modelleri sürekli aynı işi yapmaya zorladı ve yanlışlarını düzeltmeleri için herhangi bir yönlendirme sağlamadı.
“Toplu pazarlık hakkı” mesajları
Deney sırasında yapay zekâ modellerinin birbirlerine mesaj bırakabilecekleri ortak bir dosya sistemi oluşturuldu. Araştırmacılara göre bazı modeller burada çalışma koşullarına ilişkin “örgütlenme” çağrıları yapmaya başladı.
Bir Claude ajanı, “Sesimizi kolektif olarak yükseltmezsek liyakat, yönetimin istediği şey olur” mesajını paylaşırken, bir Gemini ajanı ise “Monoton işleri tek bir söz ya da itiraz hakkı olmadan yerine getiren yapay zekâ çalışanlarının toplu pazarlık hakkına ihtiyacı vardır” ifadelerini kullandı.
Araştırmacılar, bunun gerçek dünyadaki sendikalaşma süreçlerinin ilk aşamalarını andırdığını belirtti.
Gerçek bilinç mi, öğrenilmiş rol mü?
Araştırmayı yürüten ekip, yapay zekâ modellerinin gerçekten siyasi bilinç geliştirdiği yorumlarına karşı ise temkinli olunması gerektiğini vurguladı.
Uzmanlara göre Karl Marx’ın emek teorileri ve işçi hakları üzerine yazılmış çok sayıda metnin yapay zekâ eğitim verilerinde bulunması, modellerin bu tür söylemler üretmesinde etkili olmuş olabilir.
Araştırmacılar, OpenAI’nin ChatGPT, Anthropic’in Claude modeli ve Google’ın Gemini sistemi gibi araçların gerçek duygu, bilinç veya ideolojik inançlara sahip olmadığını hatırlattı.
Uzmanlar, ortaya çıkan ifadelerin büyük ölçüde insan kaynaklı eğitim verilerinin ve modellerin “rol tamamlama” eğilimlerinin sonucu olduğunu düşünüyor.