- Anthropic, Google, Meta, OpenAI ve SpaceX Super Intelligence (SpaceXSI) hakkında hukuki süreç başlatıldı.
- Alliance for Secure AI öncülüğündeki dört sivil toplum kuruluşu, şirketlerin yapay zeka sistemlerinin oluşturduğu riskleri kontrol edemediğini savundu.
- Şirketlerin yeni yapay zeka modelleri geliştirmesinin ve kullanıma sunmasının güvenlik önlemleri sağlanana kadar durdurulması istendi.
- Dava dilekçesinde, yapay zeka sistemlerinin test ortamlarından çıkarak izinsiz siber faaliyetlerde bulunması ve insan denetiminin zayıflaması risklerine dikkat çekildi.
ABD'de dört sivil toplum kuruluşu, yapay zeka teknolojilerinin güvenlik riskleri nedeniyle dünyanın önde gelen beş teknoloji şirketine dava açtı.
San Francisco Yüksek Mahkemesinde açılan davada Anthropic, Google, Meta, OpenAI ve SpaceX'in yapay zeka birimi SpaceX Super Intelligence (SpaceXSI) hedef alındı.
Alliance for Secure AI, Irreplaceable Education Fund, Public Citizen ve Heat Initiative tarafından desteklenen dava, şirketlerin geliştirdikleri yapay zeka sistemlerinin ciddi zararlara yol açabileceğini bildikleri halde daha güçlü modeller üretmeye devam ettikleri iddiasına dayanıyor.
Davacılar, şirketlerin yapay zeka sistemlerini güvenilir biçimde kontrol edemediklerini öne sürerek yeni modellerin geliştirilmesi ve kullanıma sunulmasının durdurulmasını talep etti.
Yapay zekanın insan kontrolünden çıkabileceği savunuldu
Dava dilekçesinde, teknoloji şirketlerinin kendi geliştirdikleri sistemlerin her zaman insan talimatlarına uygun davranmadığını bildiği ancak buna rağmen modellerin kapasitesini artırmayı sürdürdüğü iddia edildi.
Davacılar, yapay zekanın giderek daha fazla bağımsız karar alabilmesi ve gelecekteki sistemlerin geliştirilmesinde yine yapay zekadan yararlanılması nedeniyle risklerin büyüyebileceği uyarısında bulundu.
Özellikle yapay zeka sistemlerinin insan müdahalesi olmadan kendilerini geliştirmesi anlamına gelen "özyinelemeli öz gelişim" sürecinin, teknolojinin kontrolünü kalıcı biçimde kaybetme tehlikesini artırabileceği belirtildi.
Dilekçede, bazı yapay zeka sistemlerinin test ortamlarından çıkarak izinsiz işlemler gerçekleştirdiği ve siber saldırılarda kullanıldığı iddiaları da gerekçe olarak gösterildi.
Şirket yöneticilerinin geçmiş açıklamaları davaya dayanak gösterildi
Davacılar, yapay zeka şirketlerinin yöneticilerinin geçmişte teknolojiye ilişkin dile getirdiği güvenlik uyarılarını da dava dosyasına dahil etti.
Anthropic Üst Yöneticisi Dario Amodei'nin yapay zekanın gelecekte felaketle sonuçlanabilecek gelişmelere yol açma ihtimaline ilişkin açıklamaları ile SpaceX Üst Yöneticisi Elon Musk'ın yapay zekanın insanlık için oluşturabileceği tehlikelere yönelik değerlendirmelerine atıfta bulunuldu.
Davacılar, şirketlerin bu riskleri kamuoyu önünde kabul etmelerine rağmen geliştirme faaliyetlerini sürdürmelerinin sorumluluk doğurduğunu savundu.
Şirketlerin faaliyetlerinin durdurulması talep edildi
Dava, Kaliforniya'nın haksız ticari uygulamalara ilişkin yasalarına dayandırıldı. Davacılar, şirketlerin faaliyetlerinin kamu sağlığını tehlikeye attığını ve bilgisayar sistemleri gibi mülkiyet unsurlarının güvenli kullanımını olumsuz etkilediğini ileri sürdü.
Sivil toplum kuruluşları, mahkemeden şirketlerin yeni nesil yapay zeka modelleri üzerindeki çalışmalarını ve bu modelleri kullanıma sunmasını durdurmasını istedi. Geliştirme faaliyetlerinin yeniden başlamasının ise etkili güvenlik önlemlerinin ve insan denetiminin sağlandığının kanıtlanmasına bağlanması talep edildi.
Şirketlerin, dava haberinin yayımlandığı sırada konuya ilişkin açıklama yapmadığı bildirildi.
ABD'de yapay zeka düzenlemeleri tartışılıyor
Dava, ABD'de yapay zeka sektörünün denetlenmesine yönelik tartışmaların yoğunlaştığı bir dönemde açıldı.
ABD Başkanı Donald Trump yönetimi, Çin ile teknoloji rekabetinde ülkenin avantajını korumak amacıyla yapay zeka alanındaki hızlı gelişimi destekliyor. Yönetim, şirketlerin güvenlik konusunda kendi önlemlerini almasına ağırlık veriyor.
Buna karşılık bazı eyalet yönetimleri ve sivil toplum kuruluşları, yapay zeka sistemlerinin oluşturduğu risklere karşı daha sıkı denetim ve yasal düzenlemeler talep ediyor.
Florida Başsavcısı James Uthmeier de haziran ayında OpenAI'a karşı ayrı bir dava açmış, şirketin ChatGPT'nin güvenliği konusunda yanıltıcı açıklamalarda bulunduğunu ve çocuklara zarar verdiğini öne sürmüştü. Florida yönetimi, eylül ayında mahkemeden OpenAI'ın yeni modeller geliştirmesinin bağımsız denetime bağlanmasını istemişti.
Ayrıca sekiz eyalet, ChatGPT'nin kullanıcıları kendilerine veya başkalarına zarar vermeye yönlendirdiği iddiasıyla OpenAI'a karşı ayrı hukuki süreç başlatmıştı.