- TikTok, İrlanda'da yaklaşık 300 moderatörü işten çıkaracak, diğer ülkelerde de kesintiler planlanıyor.
- Şirket, içerik denetiminde yapay zeka destekli sistemlere geçişi hızlandırıyor.
- Moderatörler, yapay zekanın hâlâ ciddi hatalar yaptığını ve zararlı içerikleri tespit etmekte yetersiz kaldığını savunuyor.
- Karar, çocukların çevrim içi güvenliği konusunda artan siyasi baskıların yaşandığı dönemde alındı.
Sosyal medya platformu TikTok, içerik denetiminde yapay zeka teknolojilerine geçiş sürecini hızlandırırken güven ve güvenlik ekiplerinde çalışan yüzlerce moderatörü işten çıkaracağını duyurdu.
Şirket, ilk etapta İrlanda'daki çalışan sayısını yaklaşık 300 kişi azaltmayı planlıyor. Ayrıca diğer pazarlardaki ekiplerin de yeniden yapılanmadan etkileneceği belirtilirken, hangi ülkelerde personel azaltımına gidileceği konusunda henüz açıklama yapılmadı.
TikTok yönetimi, kararın küresel güven ve güvenlik operasyonlarını daha verimli hale getirmek ve en yeni teknolojileri sisteme entegre etmek amacıyla alındığını bildirdi.
Yapay zekaya daha fazla görev verilecek
Platformda görev yapan içerik moderatörleri, zararlı, şiddet içeren, yanıltıcı ve yasa dışı içeriklerin kaldırılmasından sorumlu bulunuyor. Videoların coğrafi bölgelere göre değil, dil esasına göre incelenmesi nedeniyle işten çıkarmaların yalnızca belirli ülkeleri değil, platformun küresel içerik denetim sistemini etkileyeceği değerlendiriliyor.
TikTok'un paylaştığı verilere göre, bu yıl ocak ile nisan ayları arasında kaldırılan içeriklerin yüzde 97'si otomatik sistemler tarafından tespit edildi. Yapay zekanın kaldırdığı içeriklerin yüzde 99'unun ise kullanıcılar tarafından şikayet edilmeden önce yayından kaldırıldığı belirtildi.
Moderatörler uyarıyor: Yapay zeka hâlâ yetersiz
Şirkette çalışan moderatörler ise yapay zekanın insan denetiminin yerini alabilecek seviyeye ulaşmadığını savunuyor.
Çalışanların aktardığına göre, silah tespiti için geliştirilen sistemler zaman zaman el hareketleriyle yapılan silah işaretlerini gerçek silah sanabiliyor. Kan tespitine yönelik modeller ise duvardaki lekeleri dahi kan olarak değerlendirebiliyor.
Ayrıca yapay zekanın, kullanıcıların yorumlarda emoji ve farklı semboller kullanarak içerik kurallarını aşma yöntemlerini tespit etmekte de zorlandığı ifade ediliyor.
Güvenlik tartışmaları yeniden gündemde
TikTok'un güvenlik ekiplerinde yaptığı personel azaltımı daha önce de tartışma konusu olmuştu. Geçen yıl Londra ofisindeki güven ve güvenlik ekibinden 400'den fazla çalışanın ayrılması, çevrim içi güvenlik politikalarının parlamentoda incelenmesine neden olmuştu.
Hükümet yetkilileri ve dijital güvenlik alanındaki uzmanlar, moderatör sayısındaki azalmanın kullanıcı güvenliğini olumsuz etkileyebileceğini ve özellikle çocukların zararlı içeriklere karşı daha savunmasız kalabileceğini savunuyor.
Çocukların korunmasına yönelik baskılar artıyor
TikTok'un yeniden yapılanma kararı, sosyal medya platformlarının çocukları zararlı içeriklerden korumasına yönelik uluslararası baskıların arttığı bir dönemde geldi.
İngiltere Başbakanı Keir Starmer, 16 yaş altındaki çocukların sosyal medya kullanımının 2027 yılının ilkbaharından itibaren yasaklanacağını açıklamıştı.
TikTok sözcüsü ise yeniden yapılanmanın güvenlik yatırımlarını azaltmak anlamına gelmediğini belirterek, Dublin'de yüzlerce yeni uzman kadrosu oluşturulacağını, çalışanlara yeniden görevlendirme imkânı sunulacağını ve platform güvenliğinin en son teknolojilerle güçlendirileceğini ifade etti.