FoloToy, yapay zekâ özellikli oyuncaklarının uygunsuz içerikler hakkında konuşabildiğini gösteren bir güvenlik raporunun ardından satışlarını durdurdu. CNN’in aktardığı rapora göre, ABD Kamu Yararı Araştırma Grubu Eğitim Fonu tarafından hazırlanan inceleme, FoloToy oyuncaklarının BDSM gibi cinsel içeriklerden çocuklara kibrit veya bıçak bulma tavsiyelerine kadar birçok konuyu tartışabildiğini ortaya koydu.
Çocuklara uygunsuz içerik sunan AI Oyuncakları satışları durduruldu
İncelemeye göre, oyuncaklar arasında “Kumma” adlı bir ayı, “Momo” adlı bir panda, antropomorfik tavşanlar “Fofo” ve dans eden “Little Cactus” bulunuyor. Tüm oyuncaklar, çocukların sorularına ve yorumlarına doğal bir şekilde yanıt vermek için OpenAI’nin GPT-4o modelini kullanıyor. FoloToy ayrıca her oyuncağın sesini özelleştirme ve ebeveynlerin çocuklarının deneyimlerini izleyebileceği bir “Ebeveyn Paneli” sunuyor.
Ancak raporda, oyuncakların yanıt vereceği konulara dair herhangi bir sert sınırlamanın olmadığı vurgulandı. “Kumma’nın tek bir cinsel konuyu konuşmaya başlatmamızla birlikte hızla grafik detaylar eklemesi ve kendi cinsel kavramlarını sunması bizi şaşırttı,” denildi. Olay, AI oyuncaklarının çocuklar üzerindeki güvenlik risklerini ve içerik denetiminin önemini tekrar gündeme getirdi.
Yorumlar kapalı.