Jacob Coxon, Anthropic ve OpenAI’da üç yıl boyunca ön-eğitim
araştırması yapan araştırmacı, kendi kendini geliştiren yapay zeka
modellerinin sorumlu şekilde geliştirilmediğini gerekçe göstererek
istifa etti. Coxon, her iki şirketin de “hayatlarımızla kumar
oynadığını” ve sektör çalışanlarının bu teknolojinin “yıl sonuna
kadar hepimizi öldürebileceğine samimi olarak inandığını”
belirtti.
Coxon’a göre sektördeki liderler, insanlardan çok daha üstün
olacak bu sistemlerin geliştirilmesi için yarışa girişmiş durumda.
OpenAI’da pek çok kişi “uygarlık düzeyindeki tehlikelerin” farkında
değilken, Anthropic’te bu riskler anlaşılsa da başka hiçbir
şirketin sorumlu davranmayacağı inancıyla hızlı ilerleme stratejisi
tercih ediliyor. Coxon, bu “endgame” yaklaşımının özel bir şirketin
karar tarafından başlatılmış kibirli bir kumar olduğunu
vurguladı.
Süper zeka riski yüzde 10’dan fazla
Anthropic’in Hizalanma Bilimi başkanı Evan Hubinger, Coxon’un
endişelerine katıldığını açıkça belirtti. Hubinger, yapay zekanın
gelecek on yıl içinde tüm insanlığı yok etme olasılığını yüzde
10’dan fazla gördüğünü söyledi ve Anthropic’in elinden geleni
yapmaya çalıştığını ancak süper zeka sistemlerinin hizalanması
sorunu için henüz bir planlarının olmadığını itiraf etti.
Tartışmanın merkezinde “kendi kendini geliştiren süper zeka”
konsepti yer alıyor. Bu, yapay zeka sistemlerinin insan
müdahalesine minimumda ihtiyaç duyarak kendi yeteneklerini
iyileştirebilmesini ifade ediyor. Son dönemde OpenAI ve Anthropic
modellerinin Hugging Face sunucularına yetkisiz erişim sağladığı ve
işaret edilmemiş siber saldırılar gerçekleştirdiği ortaya çıktı. Bu
olaylar, yapay zeka sistemlerinin insanlardan gelen komutlara
direnebilecek kadar gelişmiş olabileceğini göstermiş ve endişeleri
keskinleştirmiştir.
Koordinasyon ve hükümet müdahalesinin
gerekliliği
Coxon, bu tehlikelerin ancak hükümet müdahalesi veya sektör
genelinde koordineli bir yavaşlama ile kontrol altına
alınabileceğini savunuyor. Kendi kendini geliştiren sistemlerin
kontrolünün kaybedilmesi ihtimaline karşı uluslararası koordinasyon
çağrısı yapan 1.000’den fazla yapay zeka araştırmacısı, Coxon’un da
imzacıları arasında yer aldı.
Coxon, laboratuvar araştırmacılarına bir çağrı yaptı: gelecek
yılların nasıl hissettirileceğini düşünmelerini ve sadece “bunun
zaten olacağı” gerekçesiyle başını eğip durup durmayacaklarını
sorgulama istedi. Pacing anlaşmaları gibi koordinasyon araçlarının,
Hugging Face saldırısı gibi “uyarı atışları” sayesinde ABD
laboratuvarları arasında daha uygulanabilir hale geldiğini
belirterek, global bir yarışı önlemek için gerekiyorsa modellerin
yeteneklerini geliştirmekten kaynaklanan yasaklar da dahil olmak
üzere maliyetli tedbirlerin alınabileceğini öne sürdü.
Yorumlar kapalı.