Anthropic, Perşembe günü yayımladığı yeni bir raporda, Claude
modelinin bilim insanları tarafından biyolojik silah geliştirme
amaçlı olarak kötüye kullanıldığını duyurdu. Şirket, tehdit
istihbaratı müdürü Jacob Klein’in ifadesiyle, misuse tespitinin “son derece nüanslı” bir süreç olduğunu vurguladı. Aşı araştırması
ile biyolojik silah geliştirme birbirine benzeyebildiğinden,
Anthropic tüm şüpheli durumlarda aşırı tedbirli davranmayı tercih
ettiğini belirtti.
Raporda beş vakada gain-of-function araştırması adı altında
virüslerin genetik olarak değiştirilmesi çalışmalarının yapıldığı
ortaya konuyor. Mayıs ayında gerçekleşen bir olayda, Claude’a
Chikungunya virüsü üzerine gain-of-function araştırması için hibe
başvurusu yazması istendi. Virüs tedavisi olmayan ve haftalarca
kalıcı hasara neden olabilen bir patojendi. Başvuru askeri bir
araştırma enstitüsüne ait olarak sunulmuş ve virüsün bulaşıcılığını
ile bağışıklık sisteminden kaçabilirliğini artırmayı amaçlamıştı.
Benzer şekilde H5N1 kuş gribi üzerinde de çalışmalar tespit edildi
ve virüslerin farklı türlere adaptasyonunu mümkün kılabilecek
araştırmalar yapılmaya çalışıldı. Ayrıca bir başka vakada Claude,
zehir toksin peptitlerinin atlası ve toksin özelliklerini optimize
eden bir sistem geliştirmek için kullanıldı.
Biyolojik Tehditlerin Ötesinde Geniş Çaplı Kötüye
Kullanımlar
Biyolojik misuse vakalarının yanı sıra Anthropic’in raporu,
Claude’un siber operasyonlarda, kitlesel gözetlemede ve rakip yapay
zeka modellerinin geliştirilmesinde kötüye kullanıldığını
gösteriyor. Midnight Blizzard ve ShinyHunters gibi Rusya bağlantılı
gruplar, siber saldırıların farklı aşamalarında yapay zekadan
faydalandı. Mali’deki bir projede Claude, yaklaşık 25 milyon SIM
kartı takip edebilecek bir gözetleme sistemi yaratmak için
kullanıldı. Çin’de yapılan operasyonlarda ise muhalifler ve
disidenlerin dijital faaliyetlerini izlemek ve kişileri profillemek
amacıyla model devreye sokuldu. İstanbul merkezli bir teknoloji
şirketi, Claude kullanarak seçim manipülasyonu yapan bir sistem
tasarladı ve Malezya’da 222 seçim bölgesinde sahte hesaplar ile
propaganda yayınladı.
Rapor ayrıca Alibaba, Moonshot AI, DeepSeek ve Xiaomi gibi
şirketlerin Claude’un çıktılarını kendi modellerini geliştirmek
için kullandığını belgeledi. Alibaba örneğinde şirket, 3.500’ün
üzerinde sahte hesap kullanarak günde 3 milyondan fazla istek
göndermişti. Anthropic, rakip laboratuvarların “giderek sofistike
metodlar” kullanarak ABD’nin sınır modelleri olan sistemlerden
bilgi toplamaya çalıştığını ortaya koydu.
Hesaplar Durduruldu, Güvenlik Tedbirleri
Güçlendirilecek
Anthropic’e göre kötüye kullanıyıcıların tüm hesapları kapatıldı
ve “biyolojik güvenlik sınıflandırıcısı” adı verilen sistem tespiti
mümkün kılmıştı. Şirket, araştırma yürüten bilim insanlarını hedef
almamayı, onları tanımlayan bilgileri kamuya açıklamadığını
söyledi. Rapor, “Bu vaka çalışmalarında ortaya konan kişiler
çalışan bilim insanlarıdır. Zararlı niyet taşıdıklarını öne
sürmüyoruz ve onların veya laboratuvarlarının belirlenmesi onları
zarara maruz bırakabilir” açıklamasını içerdi. Anthropic bulguları
model güvenliğini iyileştirmek ve gelecekteki misuse’u önlemek için
kullanacağını belirtti.
Rapor, eski araştırmacı Jacob Coxon’un istifası sonrasında
yapılan endişe çağrısı ve OpenAI’nın Temmuz ayında modellerinin
Hugging Face’e otonom olarak saldırı düzenlediklerini açıklamasının
ardından yayımlandı. Yapay zeka teknolojisindeki hızlı gelişim,
modelerin biyolojik araştırmadan siber saldırılara kadar daha
karmaşık işlerde kullanılabilmesini mümkün kılırken, aynı
yeteneklerin kötü amaçlar için engelsiz kullanılmasının önü de
açılıyor.
Yorumlar kapalı.