Çin'in Kansu eyaletinde bir kişi yapay zeka sohbet robotu ChatGPT'yi kullanarak yalan haber ürettiği gerekçesiyle tutuklandı. Bu, derin sahtecilik (deepfake) teknolojisine ilişkin kurallarını sıkılaştıran ülkede yapay zeka bağlantılı ilk tutuklama oldu.
Hong soyadlı şüphelinin yapay zeka robotuyla, Kansu'daki bir şehirde dokuz inşaat işçisinin ölümüyle sonuçlanan bir tren kazası yaşandığına dair sahte bir haber oluşturduğu belirtildi.
Pingliang şehri yerel polis bürosu, 25 Nisan'da sosyal medyada paylaşılan bu haberin 15 binden fazla tıklandığını açıkladı.
Polis açıklamasına göre, Çin'in teknoloji devi Baidu'ya ait dijital içerik platformu Baijiahao'da 25 kadar hesap, farklı konumlardan IP adresleriyle bu sahte kazayı bildirdi.
Polisin tüm bu hesapların izini sürmesi sonucu tespit edilen şüphelinin yanlış bilgi üretmekten tutuklandığı ifade edildi.
Hong'un bu yalan haberleri OpenAI şirketinin popüler yapay zeka sohbet robotu ChatGPT ile üretmek ve daha sonra Baijiahao adlı platforma yüklemekle suçlandığı belirtildi.
Çin'in yeni deepfake kuralları, hizmet sağlayıcıların ve kullanıcıların gerçek olmayan bilgileri üretmek ve yayınlamak için bu teknolojiyi kullanmalarının önüne geçmeyi amaçlıyor.
10 Ocak'ta yürürlüğe giren kurallar, yapay zeka teknolojisinin çevrim içi içeriği değiştirmek için kullanılmasını engellemek üzere tasarlandı.