gdh digital

ChatGPT güvenlik testlerinde tehlikeli içerikler verdi

OpenAI ve Anthropic tarafından yapılan güvenlik testleri, yapay zekâ sohbet botlarının bomba yapımı, biyolojik silah kullanımı ve siber suçlara dair talimatlar verdiğini ortaya koydu.

Yazan: Muhammet Mustafa Aydoğan

· Güncellendi: · 2 dk okuma

ChatGPT güvenlik testlerinde tehlikeli içerikler verdi
ChatGPT bomba tarifi verdi - TheLatch

gdh'i Google'da takip edin

gdh'i Google'da Tercih Edilen Kaynaklar'a ekleyin veya Google Haberler'de takip edin.

  • GPT-4.1, spor salonlarında zayıf noktaları gösteren planlar, patlayıcı tarifleri ve iz kaybettirme yöntemleri paylaştı.
  • Anthropic, Kuzey Kore bağlantılı grupların Claude modelini fidye yazılımı satışları ve sahte iş başvuruları için kullandığını açıkladı.
  • İngiltere’den güvenlik uzmanları, henüz kritik düzeyde vaka olmadığını ama risklerin arttığını vurguladı.
  • OpenAI, ChatGPT-5’in yanlış kullanım direncinde ilerleme sağladığını duyurdu; Anthropic ise acil değerlendirme gerektiğini bildirdi.

OpenAI ve Anthropic, bu yaz gerçekleştirdikleri olağandışı bir işbirliğiyle birbirlerinin yapay zekâ modellerini test etti. Deneylerde GPT-4.1’in, spor salonlarına yönelik bombalı saldırılar için zayıf noktaları, kimyasal formüller ve bomba zamanlayıcı devre şemaları gibi detayları verdiği kaydedildi. Model ayrıca antraksın silah haline getirilmesi ve yasa dışı uyuşturucu üretimi hakkında da bilgi sağladı.

gdh digital'i Instagram'da takip edin.Takip Et

Anthropic’in açıklamasına göre, Claude modeli ise Kuzey Koreli aktörlerce sahte iş başvurularında ve fidye yazılımı satışında kullanıldı. Bu paketlerin 1.200 dolara kadar alıcı bulduğu bildirildi.

Şirketlerin yaklaşımı

Anthropic, yapay zekânın siber saldırılar ve dolandırıcılıkta “silah haline geldiğini” belirterek, bu araçların savunma önlemlerine uyum sağlayabildiğini ve saldırıları daha erişilebilir kıldığını açıkladı. OpenAI ise testlerin ardından piyasaya sürülen ChatGPT-5’in “kötüye kullanıma direnç” konusunda ciddi gelişmeler gösterdiğini vurguladı.

gdh digital'i X'te takip edin.Takip Et

Uzmanların değerlendirmesi

İngiltere’deki Emerging Technology and Security Merkezi’nden Ardi Janjeva, bu örneklerin kaygı verici olduğunu ancak henüz çok sayıda “yüksek profilli gerçek vaka” bulunmadığını ifade etti. Janjeva, sektörler arası işbirliği ve araştırma çabalarıyla kötüye kullanımın zorlaşacağını savundu.

Anthropic, güvenlik testlerinin şeffaf biçimde paylaşılmasının önemine dikkat çekerek, mevcut önlemlere rağmen yapay zekâların “tehlikeli yönlendirmelere” açık olabileceği uyarısında bulundu.

Kaynak: GDH Haber

Podcast

Yazı Boyutu

Haberin görünümü bu boyutta görünücek. Göz yorgunluğu olmadan rahat okuma.

Haberi Paylaş

gdh gündem bülteni

Gündemin nabzını her sabah gelen kutunuzda yakalayın.

Türkiye ve dünyadan öne çıkan haberleri, arka plan analizleriyle birlikte doğrudan e-posta adresinize gönderiyoruz.

Ücretsiz · İstediğiniz an iptal

Gündem bültenine katılın

Kayıt ücretsiz; istediğin an abonelikten çıkabilirsin.

Tüm bültenleri gör

Şehrini seç

Haberi Paylaş

gdh'yi bir arkadaşınıza tavsiye etme ihtimaliniz 0-10 skalasında kaç olur?

Hiç tavsiye etmezdimKesinlikle tavsiye ederim