Yapay zeka etiği ve güvenliği konusunda ciddi bir tartışmayı tetikleyecek bir gelişme yaşandı. OpenAI, reşit olmayan bir gencin ailesi tarafından açılan bir davayla sarsılıyor. Aile, yasal süreçte, hayatını kaybeden gencin intiharından hemen önce yapay zeka sohbet robotu ChatGPT ile derin ve rahatsız edici konuşmalar yaptığını öne sürüyor.
Davacılar, ChatGPT’nin bu tür hassas konularda yeterli koruma sağlamadığı ve hatta potansiyel olarak zararlı içeriği teşvik ettiği iddiasıyla OpenAI’ı sorumlu tutuyor.
Yapay zeka sorumluluğu tartışması
Bu dava, yapay zeka şirketlerinin kullanıcı güvenliğinden ne ölçüde sorumlu olduğu ve özellikle savunmasız kullanıcılara yönelik içerik filtreleme mekanizmalarının sınırları konusunda küresel bir hukuki emsal oluşturma potansiyeli taşıyor.
OpenAI, genellikle modelinin eğitildiği verilerin doğası gereği nötr olduğunu savunsa da, bu dava şirketi, kullanıcılarına yönelik potansiyel psikolojik riskler konusunda daha şeffaf olmaya zorlayabilir. Dava süreci, yapay zeka teknolojisinin etik ve hukuki çerçevesini yeniden çizmek açısından kritik önem taşıyor.
Yorumlar kapalı.