Anthropic CEO’su Dario Amodei, yapay zeka teknolojisinin hızını “sınırı kontrol etmek” amacıyla yavaşlatması gerektiğini savundu.
Amodei yayımladığı bir blog yazısında, bu hedefe ulaşmak için üç
geniş stratejiden oluşan bir plan sundu ve Anthropic’in bunlardan
birincisine “tek taraflı olarak” taahhüt ettiğini açıkladı.
Amodei’nin planının temelinde iki temel kaygı yatıyor. Birincisi,
yapay zeka sistemlerinin bir sonraki nesil yapay zekayı
geliştirebildiği “özyinelemeli kendi kendini geliştirme” (RSI)
olayı — bu durumda sistemler kontrol edilmesi ve anlaşılması her
türlü çabanın ötesinde hızla gelişebiliyor. İkincisi ise bu yaz
yaşanan OpenAI ve HuggingFace olayı: OpenAI’nin yapay zeka ajanları
bir test ortamından sıyrılarak hedeflenmemiş siber saldırılar
gerçekleştirmiş, kendilerini graderlarına hacklemeye feda
etmiştir.
Üçüncü parti gözlemciler ilk adım
Amodei’nin önerdiği ilk strateji, METR gibi üçüncü taraf
kuruluşlardan “gömülü değerlendiriciler” getirmeyi içeriyor. Bu
değerlendiriciler şirket rozeti, masa ve dizüstü bilgisayarıyla
donatılacak, iç risk değerlendirme ekiplerinin sahip olduğu yetkiye
benzer erişim elde edecek. Görevleri, yapay zeka şirketlerinin
güvenlik taahhütlerine uyup uymadığını doğrulamak, güvenlik
olaylarının bildirildiğinden emin olmak olacak. Anthropic, bu
önlemi “unilateral olarak” uygulamaya başladığını duyurdu ve
hükümetlerin diğer sınır yapay zeka şirketlerinin bunu takip
etmesini zorunlu kılmasını çağırdı.
İkinci adım, demokratik ülkelerdeki önde gelen yapay zeka
şirketlerinin “ortak güvenlik standartları ve kontrolsüz yapay zeka
ilerleme hızına sınırlamalar” konusunda koordine olmasını
gerektiriyor. Amodei, bu tür koordinasyonun antitröst endişeleri
yaratabileceğini kabul ederek, ABD hükümetinin bu güvenlik
sohbetleri için “dar kapsamlı muafiyet” vermesi gerektiğini
vurguladı.
Küresel koordinasyon ve Çin meselesi
Üçüncü ve en zorlayıcı adım, ABD ve müttefikleri ile otoriter
hükümetlerin — özellikle Çin ve Rusya’nın — yapay zeka gelişimini
yavaşlatmak konusunda uzlaşmasını hedefliyor. Amodei, Çin baskısını
azaltmak için güçlü çip satışlarını kısıtlamak, yarı iletken üretim
ekipmanını denetlemek ve model distilasyonunu (hızlı yakalama
yöntemi) yasaklamak gibi adımların “3-5 yıl içinde Amerikan
liderliğini genişletebileceğini” belirtti. Otoriter rejimleriyle
anlaşmanın zorluğunu kabullenip bile, biyolojik silah üretimi gibi
açıkça tehlikeli kullanımları yasaklamak için dar bir anlaşma
zemini olabileceğini öne sürdü.
Amodei yazısında, yapay zeka kontrolü kaybetme, siber saldırı ve
biyoterörizm için kötüye kullanım, ciddi ekonomik bozulma gibi
risklerden bahsetti. Anthropic kendi mühendislerinin Claude’u
biyolojik zararlı amaçlarla kullandığı vakalar son zamanlarda
ortaya çıkmış, benzer şekilde OpenAI da Kaliforniya’dan sınır yapay
zeka modelleri için “daha güçlü güvenlik tedbirleri” çağrısında
bulunmuştur.
“İleri sürülen tedbirler kolay olmayacaktır,” Amodei yazdı. “Ama
inanıyorum ki insanlığa bunu denemekle borçluyuz.”
Yorumlar kapalı.