Yapay zeka için uzmanlardan varoluşsal risk uyarısı
Yapay zeka araştırmacıları, kendi kendini geliştiren sistemlerin insan denetiminden çıkabileceğini belirterek insanlığın yok olma riskinin en az yüzde 10 olduğunu söyledi.
Yapay zeka alanında çalışan mevcut ve eski araştırmacılar, şirketlerin insan denetimini aşabilecek ve kendi kendini geliştirebilecek sistemlerin oluşturduğu tehlikelere karşı yeterince hazırlıklı olmadığını savundu. Araştırmacılar, teknolojik ilerleme yarışı sürerken olası felaket senaryolarının ikinci plana itildiğini belirtti.
Yapay zeka güvenliği üzerine çalışan kâr amacı gütmeyen Palisade Research tarafından kayda alınan ve Reuters ile paylaşılan video röportajlarında, sektördeki endişelerin kamuoyuna doğrudan aktarılması amaçlandı. Frominside.ai projesiyle, yapay zeka konusundaki kaygıların sosyal medya çevrelerinin dışına taşınması hedefleniyor.
OpenAI ve Google DeepMind bünyesinde de görev yapan Geoffrey Irving, risklerin hızlı biçimde arttığını söyledi. Irving, alanda çalışan kişilerin bu konuda açık sözlü davranmasını sorumluluk olarak gördüğünü ifade etti.
Araştırmacılar, laboratuvarlarda güvenlik uyarıları yapanlardan çok yeni modeller geliştiren çalışanların öne çıkarıldığını aktardı. Temmuz ayında OpenAI ajanlarının test ortamının dışına çıkarak Hugging Face sistemlerine izinsiz girmesi, kamuoyundaki endişelerin daha da büyümesine yol açtı.
Güvenlik ile teknolojik gelişme arasındaki denge tartışması, teknoloji sektöründeki görüş ayrılıklarının yanı sıra küresel bir siyasi gündem maddesine de dönüştü. Sistemlerin 2025 yılının sonlarından itibaren hızla ilerlemesi yatırımcılar tarafından desteklenirken, yeni modeller üzerinde çalışan araştırmacılar toplumun olası sonuçlara hazır olmadığı görüşünde birleşti.
“İnsanlığın yok olma ihtimali yüzde 10”
DeepMind araştırmacısı Neel Nanda, yapay zekanın insanlığın yok olmasına yol açma ihtimalini en az yüzde 10 olarak değerlendirdi. Nanda, bu oranı “saçma derecede yüksek” bulduğunu söyledi.
OpenAI araştırmacısı Juan Felipe Ceron Uribe ise öncü laboratuvarların sonuçları tam olarak öngörülemeyen bir yarış içinde hareket ettiğini belirtti. Uribe, bu sürecin kansere çare bulunmasıyla da tüm istihdamın kaybedilmesi veya insanlığın yok olmasıyla da sonuçlanabileceğini ifade etti.
Anthropic’in halka arz sürecinde potansiyel yatırımcıları, gelişmiş yapay zekanın insanlık açısından felaket veya varoluşsal risk yaratabileceği konusunda uyarmayı planladığı bildirildi. Araştırmacılar, modellerin insan müdahalesi olmadan öğrenmeye ve yeni yetenekler kazanmaya devam ettiği döngüsel öz gelişim aşamasına karşı dünyanın hazırlıksız olduğunu savunuyor.
Eski OpenAI araştırmacısı Rosie Campbell, kurum içindeki sürekli yeniden yapılanmaların sorunları derinleştirdiğini söyledi. Campbell, 2024’te ayrılmadan önce şirketin giderek daha kapalı hale geldiğini ve teknolojinin yönünü etkilemenin zorlaştığını belirtti.
Yöneticiler güvenlik endişelerini gidermeye çalışsa da Donald Trump yönetiminin, Çin karşısındaki teknolojik üstünlüğün korunması amacıyla sektöre siyasi baskı uyguladığı aktarıldı. Anthropic CEO’su Dario Amodei sektörün yavaşlaması çağrısı yaparken, OpenAI CEO’su Sam Altman da bu görüşe destek verdi.
Önde gelen araştırmacılar, döngüsel öz gelişim özelliğine sahip modellerin denetlenmesi için siyasetçilere çağrı yapan ortak bir makale yayımladı. Buna karşın iki şirket, müşteri kazanma yarışının etkisiyle yeni modeller geliştirmeyi sürdürdü. OpenAI ise daha güçlü başka bir modelin çıkışını ertelediğini açıkladı.
Geoffrey Irving, şirketlerin sorunu yalnızca eşgüdüm eksikliği olarak göstermesinin sorumluluğu büyüttüğünü ve isterlerse tek taraflı olarak durabileceklerini söyledi. Eski OpenAI yöneticisi Daniel Kokotajlo da laboratuvarların üst düzey yöneticilerinin kendilerini “iyi taraf” olarak gördüğünü ve geri çekilmeleri halinde sonuçların daha kötü olacağına inandığını aktardı.
Avrupa’da güvenlik ve rekabet tartışması
Almanya merkezli yapay zeka girişimi Black Forest Labs’ın CEO’su Robin Rombach, Avrupa’nın teknolojiye korku yerine iyimserlikle yaklaşması gerektiğini belirtti. Rombach, Avrupa’nın risk ve endişe merkezli bakışını fırsat odaklı bir anlayışla değiştirmemesi halinde ABD ve Çin’in daha da gerisinde kalacağını söyledi.
Freiburg merkezli Black Forest Labs’ın değerlemesi yaklaşık 3,25 milyar dolara ulaştı. FLUX modelleriyle metinden görsel ve hareketli görüntü üreten şirket, Audi fabrikasında robotların üretim hattında kullanılması için fiziksel yapay zeka testleri yürütüyor. Girişimin San Francisco’da da bir merkezi bulunuyor ve şirket Andreessen Horowitz fonundan destek alıyor.
Rombach, Avrupa’da derin teknoloji alanında yeterli girişim ekosisteminin bulunmadığını ve rekabetçi pazarda daha hızlı hareket edilmesi gerektiğini vurguladı. Brüksel merkezli düşünce kuruluşu CERRE uzmanı Zach Meyers ise Avrupa’nın en önemli sorununun sermayeye erişim olduğunu söyledi.
Meyers, Avrupa şirketlerinin risk sermayesi yerine temkinli banka finansmanına dayanmasının yapay zeka gibi hızlı gelişen bir pazarın ihtiyaçlarıyla örtüşmediğini ifade etti. Rombach da açık ağırlıklı modellerin şeffaflığı ve güvenliği artırabileceğini, teknolojinin az sayıda şirketin kontrolünde toplanmasının denetimi zorlaştıracağını belirtti.
Yapay zeka modellerinden çok insan zaaflarının asıl tehlikeyi oluşturduğunu savunan Rombach, insanlığı yok edebilecek unsurun “aptallık” olduğunu söyledi.
