Reddit’in yapay zekâ destekli hizmeti Reddit Answers, kullanıcılarına tehlikeli sağlık önerileri sunmasıyla dikkat çekti. Bir moderatör, aracın kronik ağrı çeken bireylere mevcut kullandıkları ilaçları bırakmalarını ve yüksek dozda kratom almalarını tavsiye ettiğini fark etti. Kratom, belirli eyaletlerde yasaklı ve denetimsiz bir madde olarak anılmaktadır.
Reddit’in yapay zekâsı, bu tehlikeli tıbbi tavsiyeleri ile büyük bir tepki topladı!
Aynı moderatör, yapay zekâyla diğer sağlık konuları hakkında da sorular sorduğunda, yenidoğan ateşi için yanıltıcı bilgiler ve hatta kronik ağrının tedavisinde eroin kullanımı gibi son derece riskli öneriler aldığını dile getirdi.
Sağlıkla ilgili subreddit yöneticileri, yapay zekânın sunduğu yanlış veya zararlı bilgilerin kapatılmasına ya da gizlenmesine yönelik bir seçeneğin bulunmadığını belirterek duruma tepki gösterdiler.
Reddit sözcüsü, 404 Media’ya yaptığı açıklamada, sistemin güncellenmiş olduğunu ve “hassas konularla ilgili yanıtların artık gönderi sayfasında görünmeyeceğini” bildirdi. Ancak Reddit, yapay zekânın hangi konularda devre dışı bırakılacağına dair net bir açıklama yapmadı.
Platform, özel, karantinaya alınmış veya NSFW topluluklarındaki içerikleri hariç tutsa da, Reddit Answers’ın hala tıbbi bilgi sağlamak için yeterince güvenli olmadığı yönündeki eleştiriler giderek çoğalıyor.
Yorumlar kapalı.