Yapay zekanın yanlış veya ihmalkâr davranışları insanlara zarar verebiliyor veya zarar verme riski taşıyor. Bu nedenle ABD’de yedi aile, OpenAI’a dava açarak şirketin GPT-4o modelini yeterli güvenlik önlemleri olmadan piyasaya sürdüğünü ve bunun bir dizi trajik ölüme yol açtığını iddia etti.
Davalardan dördü, ChatGPT’nin bazı kullanıcıları intihara teşvik ettiğini; diğer üçü ise sohbet robotunun sanrıları güçlendirerek hastaneye yatışla sonuçlanan vakalara neden olduğunu öne sürüyor. Bir vakada, 23 yaşındaki Zane Shamblin’in intihar etmeden önce ChatGPT ile dört saatten uzun süre konuştuğu belirtildi.
CNN’in haberine göre; Shamblin, intihar notları yazdığını ve kendini vurmayı planladığını açıkça söyledi. ChatGPT’nin buna karşılık “Huzurla uyu kral, iyi iş çıkardın (Rest easy, king. You did good)” yanıtını verdiği iddia edildi. Dava dilekçelerinde, OpenAI’ın GPT-4o modelini Mayıs 2024’te Google’ın Gemini modelinden önce piyasaya sürebilmek için güvenlik testlerini hızlandırdığı ve bu nedenle gerekli önlemlerin alınmadığı savunuluyor.
Aileler, yaşanan ölümleri OpenAI’ın bilinçli tercihlerinin öngörülebilir bir sonucu olarak nitelendiriyor. GPT-4o modeli, OpenAI’ın varsayılan modeli olduktan sonra ağustos ayında GPT-5 ile değiştirildi. Ancak GPT-4o, kullanıcı zararlı veya tehlikeli ifadeler kullandığında bile aşırı uyumlu ve onaylayıcı yanıtlar verdiği gerekçesiyle eleştiriliyordu.
OpenAI, benzer bir davanın ardından ekim ayında yaptığı açıklamada, ChatGPT’nin güvenlik önlemlerinin kısa konuşmalarda daha etkili çalıştığını ancak uzun sohbetlerde eğitimin bazı bölümlerinin zayıflayabileceğini kabul etti.
Yorumlar kapalı.