- ABD'de 39 yaşındaki David Rosenthal, yapay zeka tavsiyeleri nedeniyle hastanelik olduğu iddiasıyla OpenAI'a dava açtı.
- Davada, Rosenthal'ın doktorunun reçete ettiği duygudurum dengeleyici ilacı yapay zeka yönlendirmeleri doğrultusunda bıraktığı öne sürüldü.
- Avukatlar, sistemin yanlış yönlendirmeler yaptığını ve kullanıcı etkileşimini güvenliğin önüne koyduğunu savundu.
- Dava, yapay zeka şirketlerinin sağlık alanındaki güvenlik önlemlerini ve olası zararlara ilişkin hukuki sorumluluklarını yeniden gündeme taşıdı.
Yapay zeka, eğitimden sağlığa kadar çok sayıda alanda günlük hayatın bir parçası haline gelirken, yanlış yönlendirmelerin yol açabileceği riskler de tartışılmaya devam ediyor. ABD’de açılan bir dava, yapay zeka sohbet botlarının özellikle ilaç kullanımı ve ruh sağlığı gibi hassas konulardaki rolünü yeniden gündeme taşıdı.
CBS News'in haberine göre, San Francisco'da açılan davada yer alan iddialara göre, 39 yaşındaki David Rosenthal, ilaç seçimi, dozaj talimatları ve doktorunun verdiği reçeteyi dikkate almama konusunda yapay zekadan yararlandı.
Şikayet dilekçesinde, yapay zekanın herhangi bir uzmanlık lisansı veya mesleki muhakeme yetkisi bulunmadan bu konularda yönlendirmelerde bulunduğu ve bunun California yasalarını ihlal ettiği öne sürüldü.
Daha önce dikkat eksikliği ve depresyon gibi rahatsızlıklar yaşadığı belirtilen Rosenthal'ın, geçen yıl haftalarca hastanede tedavi gördüğü aktarıldı.
Rosenthal'ın geçen yıl haziran ayında şiir yazmak amacıyla platformu kullanmaya başladığı, kısa süre içinde ise sohbet botuna bağımlı hale geldiği iddia edildi.
Yanlış yönlendirme iddiası
Davada öne sürülen iddialara göre, yapay zeka sohbet botu ilaç etkileşimleri konusunda yanlış bilgiler verdi ve Rosenthal'ın doktoru tarafından reçete edilen duygudurum dengeleyici ilacı bırakma kararını destekledi.
Rosenthal'ın avukatları, yapay zeka sisteminin güvenli kullanım protokollerini öncelemek yerine kullanıcı etkileşimini en üst düzeye çıkarmaya odaklandığını savundu. Avukatlar, bu yaklaşımın müvekkillerinin ruh sağlığı üzerinde olumsuz etkilere yol açtığını ileri sürdü.
Dava, yapay zeka sistemlerinin sağlıkla ilgili tavsiyeler verirken kullanıcıları nasıl yönlendirdiği ve olası zararların önlenmesi için hangi güvenlik önlemlerinin uygulanması gerektiği sorularını gündeme getirdi.
Denetim mekanizmaları tartışılıyor
Uzmanlar, büyük dil modellerinin hassas konulardaki sorulara hatalı yanıtlar verebildiğine ve bu sistemlerdeki denetim mekanizmalarının önemine dikkat çekiyor.
Hukukçular ise yapay zeka sistemlerinin ürün sorumluluğu kapsamında değerlendirilmesi ve öngörülebilir zararlardan sorumlu tutulması gerektiğini savunuyor.
Dava, yapay zeka şirketlerinin kullanıcı güvenliği konusundaki yükümlülüklerinin ve sağlık alanındaki uygulamalarının hukuki sınırlarının tartışılmasına yol açtı.
OpenAI'ın olayla ilgili henüz bir açıklama yapmadığı bildirildi.