Snapchat'in yapay zeka sohbet botu My AI, bir süredir bazı tartışmalarla karşı karşıya. Hükümetler tarafından da incelemeye alınan bu yapay zekayla ilgili olarak İngiltere'deki bir düzenleyici kurum, çocukların mahremiyetine yönelik potansiyel risklere değindi ve uyarılarda bulundu.
Endişeler esas olarak çocukların mahremiyetine ve Snapchat'in resmi olarak piyasaya sürülmeden önce sohbet botunun mahremiyet risklerini değerlendiremediği iddiasına odaklanıyor.
Eğer paylaşılan endişelere yönelik Snapchat yetkililerinden herhangi bir hamle ya da açıklama gelmezse, uygulama İngiltere'de yasaklanabilir.
Snapchat'in My AI sohbet botu şubat ayında tanıtılmıştı. Başlangıçta üretken yapay zeka destekli sohbet botu Premium abonelere özeldi ve soruları yanıtlayabilen ve tavsiyelerde bulunabilen sanal bir arkadaş olarak kullanılacaktı. İlk test döneminin ardından sohbet botu, reşit olmayan kullanıcılar da dahil olmak üzere tüm Snapchat kullanıcılarına sunuldu.
Ancak sıkı denetim ve koruma özelliklerine sahip olduğu iddia edilmesine rağmen sohbet botunun uygunsuz tavsiyeler verdiği pek çok durum yaşandı.
Düzenleyici kurumun uyarısına yanıt olarak Snapchat, kullanıcı gizliliğini korumaya kararlı olduğunun ve ICO'nun kararını gözden geçirdiğinin altını çizdi. Şirket, şirketin risk değerlendirme prosedürleri konusunda rahat olmalarını sağlamak için ICO ile iş birliği yapmaya devam edeceğini açıkladı.