San Francisco Şehir Savcısı David Chiu, bu hafta Apple ve
Google’a kesin ve nihai uyarı yazıları göndererek, toplam 13 adet “nudify” (çıplaklaştır) uygulamasının uygulama mağazalarından
kaldırılmasını talep etti. Google’a 5 uygulamanın, Apple’a ise 8
uygulamanın kaldırılması emredildi.
Bu yapay zeka destekli uygulamalar, gerçek insanların rızası
olmadan fotoğraflarını açık içeriğe dönüştürebiliyor. Kötü niyetli
kullanıcılar, kişilerin giysi katmanlarını kaldırabiliyor, yüz
özelliklerini değiştirebiliyor, vücutlarını cinselleştirilmiş
pozisyonlara yerleştirebiliyor ve mağdurların yüzlerini başka
insanların çıplak bedenlerine yapıştırabiliyor. Chiu açıklamasında,
bu uygulamaların California yasalarını ihlal ederek yasa dışı
deepfake pornografisini desteklediklerini belirtti.
Chiu, Wired’a verdiği röportajda sektörün “korkunç etkisini” ve
mağdurlarının maruz kaldığı zararları anlatarak, “Bu teknoloji
çoğunlukla kadın ve çocukları hedef alıyor” dedi. “Bu görseller
kadınları ve kızları zorbalık, utandırma ve tehdit etmek için
kullanılıyor. Bundan dolayı otonom kayıp, ruh sağlığı bozulması ve
ciddi sorunlar yaşayan mağdurlar olmuş, hatta bazıları intihar
girişiminde bulundu.”
Milyonlarca dolar kar elde ettikleri
iddiası
Chiu’nun ofisi, Apple ve Google’ın bu uygulamalardan gelen
reklam ve uygulama içi satın alma ücretleri nedeniyle “milyonlarca
dolar” kazandıklarını tahmin ediyor. Chiu, “Rızası olmayan mahrem
görseller üretmek yasa dışı, zararlı ve tamamen kabul edilemez”
diyerek, şirketlerin uygulamalar hakkında en az bir yıldır
uyarıldığını belirtti.
Ocak ve Nisan aylarında Tech Transparency Project kuruluşu
tarafından gönderilen raporlar, her iki şirketin de bu tür
uygulamaları sürekli olarak barındırdığını ve hatta bazılarını
aktif şekilde tanıttığını ortaya koydu. Raporlara göre bazı
uygulamalar “E” (Herkes için) derecelendirmesi alarak çocukların
indirmesine izin verilmiştir. Chiu, şirketlerin 28 gün içinde cevap
vermesini talep etti ve yasaları ihlal etmeleri durumunda sivil
cezalarla karşı karşıya kalabileceklerini uyardı.
Google sözcüsü Dan Jackson, Chiu tarafından işaret edilen beş
uygulamanın zararlı içerik politikasını ihlal ettiği için
suspansiyon cezası aldığını açıkladı. Jackson açıklamasında, Google
Play’in cinsel içeriği yasakladığını ve “nudify” gibi ilgili arama
terimlerini kısıtlamak da dâhil olmak üzere yüzlerce ihlal içeren
uygulamayı kaldırdığını belirtti. Apple konusunda yorum
yapmamıştır.
Bu durum, yapay zeka destekli rızası olmayan mahrem görsellerin
internet ve sosyal ağlarda yaygınlaşan bir sorun haline geldiğini
gösteriyor. Meta’nın Denetim Kurulu da şirketi koruma önlemlerini
güçlendirmeye çağırırken, Elon Musk’ın xAI’ı da rızası olmayan
deepfake olaylarıyla ilgili davalara konu olmuştur.
Yorumlar kapalı.