Discord, güvenlik sistemindeki bir hatanın Mayıs 2026’den bu
yana 8.000’den fazla hesabı yanlışlıkla yasaklamasına yol açtığını
kabul etti. Yasaklama yapılan kullanıcılar satranç tahtası,
Minecraft envanteri, oyun dokularıve spreadsheet gibi tamamen
zararsız grid görselleri paylaşmış bulunuyordu.
Discord kurucularından ve başkan teknoloji görevlisinden
Stanislav Vishnevskiy, grid benzeri görseller yükleyen yaklaşık 200
kullanıcının yanı sıra diğer zararsız görselleri paylaşan 8.000
kişinin bu hatadan etkilendiğini bildirdi. Söz konusu tüm hesaplar
kaldırılmıştır.
Moderasyon sistemi nasıl hata yaptı?
Discord’un yapay zeka destekli güvenlik sistemi, kullanıcıların
yükledikleri içeriği bilinen zararlı malzemeler veritabanıyla
karşılaştırarak işaretleme yapacak şekilde tasarlandı. Sistem
yanlış pozitiflere (false positive) neden olabileceğinden,
işaretlenen hesaplar bir eylem alınmadan önce Trust & Safety ekibi
tarafından gözden geçirilmesi gerekiyordu. Amaçlanan davranış,
inceleme sırasında hesabı geçici olarak durdurmak değil, tamamen
yasaklamak olmamalıydı.
Ancak bir hata, sistemi hesapları anında yasaklamaya yöneltti.
İdari ekip bu hesapları inceleyip temizlese bile, aynı hata
yasaklamanın otomatik olarak kaldırılmasını engelledi. Discord
yazılı açıklamasında “Personelimiz bu hesapları inceledikten sonra,
yasaklamayı otomatik olarak kaldırması gereken aynı hata nedeniyle
yasaklama yerinde kaldı” dedi.
Kullanıcıların tepkisi
Etkilenen kullanıcılar sosyal medyada hayal kırıklığını dile
getirdi. Özellikle Discord’u iş, oyun toplulukları veya uzun
mesafeli sosyal bağlantılar için kullanan kişiler, böyle bir hataya
bağlı kalıcı yasaklamanın ciddi sonuçlar doğurabileceğini
vurguladı. Bazı oyun geliştiricileri, hesapları yapay zeka
moderasyonundaki bu hataya bağlı olarak kilitlenmelerinin iş
iletişimlerini kesintiye uğrattığını belirtti.
Discord, bu durumun yaklaşık iki ay boyunca aktif kaldığını ve
rezil bir hata olduğunu kabul ederek, benzer sorunları önlemek için
daha iyi koruma mekanizmaları üzerinde çalıştığını açıkladı.
Şirket, yanlış pozitifler nedeniyle yasaklanan tüm hesapların şu
anda eski haline getirilme sürecinde olduğunu belirtti.
Yorumlar kapalı.