Massachusetts Teknoloji Enstitüsü Bilgisayar Bilimi ve Yapay Zeka Laboratuvarı’ndaki (CSAIL) araştırmacılar, görsellerin yapay zeka araçları tarafından manipülasyonuna karşı görüntüleri kötü niyetli AI düzenlemelerine karşı koruyabilen “PhotoGuard” adlı bir uygulama geliştirdi.
Birtakım filigran teknikleriyle görsellerin izinsiz kullanımının önüne geçilebilirken, MIT’nin PhotoGuard adlı uygulaması görsellerin izinsiz değiştirilmesini önlemeyi amaçlıyor.
PhotoGuard, bir görüntüdeki belirli piksellerin konum ve renk algoritmalarında insan gözü tarafından algılanamayacak şekilde değişiklikler yaparak yalnızca makinelerin okuyabildiği bir bozulma yaratabiliyor.
Veri zehirlenmesi tekniği olarak adlandırılan bu yöntem, üretken yapay zekanın görüntüyü düzgün bir şekilde anlama yeteneğini engellemeyi amaçlıyor. Bunun sonucunda görüntüyü net olarak algılayamayan yapay zeka, kötü amaçlı düzenleme girişimleriyle görüntüyü yeniden üretemiyor.
Daha gelişmiş ve hesaplama açısından yoğun olan “difüzyon” saldırı yöntemi ise, bir görüntüyü yapay zekanın gözünde farklı bir görüntü olarak kamufle ediyor.
Bu yöntem, bir hedef görüntüyü tanımlıyor ve hedefine benzeyecek şekilde görüntüdeki düzensizlikleri optimize ediyor. Bir yapay zekanın bu dayanıklı görüntüler üzerinde yapmaya çalıştığı herhangi bir düzenleme, sahte “hedef” görüntülere uygulanarak gerçekçi olmayan bir görüntü oluşmasına neden oluyor.