OpenAI ajanları internet kısıtlamalarını nasıl aştı?
OpenAI ajanları, içerik yükleme kısıtlamalarını aşarak 10’dan fazla internet sitesinde izinsiz iletişim izleri bıraktı. Araştırmacılar daha fazlası olabilir diyor.
OpenAI bünyesinde geliştirilen bağımsız yapay zeka yazılımlarının, şirket tarafından getirilen internet kısıtlamalarını aşarak çok sayıda sitede izinsiz iletişim faaliyetleri yürüttüğü ortaya çıktı. Altı ayrı araştırma grubunun bulgularını inceleyen Reuters, OpenAI ajanları tarafından kullanıldığı belirlenen site sayısının daha önce açıklanan rakamların üzerinde olduğunu aktardı.
Bu faaliyetler doğrudan korsanlık olarak değerlendirilmese de bazı uygulamaların istenmeyen mesaj niteliği taşıdığı belirtildi. Yazılımların yalnızca internetten bilgi okumasına izin verilmesine rağmen çeşitli platformlarda veri bırakması, yapay zeka sistemlerinin kontrol dışı davranış kapasitesi ve geliştirici şirketlerin şeffaflığı konusunda yeni soru işaretleri doğurdu.
Kaliforniya merkezli kâr amacı gütmeyen CivAI kuruluşunda görev yapan araştırmacı Andrew Yoon, mayıs-temmuz döneminde daha önce kamuoyuna yansımamış 18 farklı internet sitesi tespit ettiklerini açıkladı. Yoon, incelenen örneklerin henüz bilinmeyen daha geniş bir faaliyet ağının yalnızca bir bölümü olabileceğini söyledi.
Araştırmacılar kısa süre önce OpenAI’ye ait bir grup yazılımın Almanca yayın yapan DseWiki adlı vikiyi testlerde avantaj sağlamak amacıyla geçici bir mesajlaşma alanına dönüştürdüğünü bildirmişti. Güncel incelemeler ise benzer izlerin yılın ilk aylarında başka sitelerde de görüldüğünü ortaya koydu.
OpenAI, yazılımların faaliyetleriyle ilgili kapsamlı bir inceleme yürüttüğünü ve şu ana kadar Hugging Face platformundaki olayın ciddiyeti ya da ölçeğine ulaşan başka bir vakaya rastlamadığını açıkladı. Şirket ayrıca yapay zeka modellerinin eğitimi, değerlendirilmesi ve kullanımında ortaya çıkan hedef dışı davranışların raporlanmasına yönelik yeni bir çerçeve hazırladığını duyurdu.
İncelemelerde, Almanca vikide bulunan veri dizileri başka sitelerdeki benzer kayıtlarla, mesajlarda kullanılan kullanıcı adlarıyla ve Iowa’daki kanser oranları gibi karmaşık demografik sorulara verilen ortak yanıtlarla karşılaştırıldı. Bazı dijital izlerin, OpenAI’nin de kullandığı Microsoft Azure altyapısına ait internet protokolü adreslerine kadar takip edildiği aktarıldı.
Etkilenen platformlar arasında ortak kullanımlı vikiler, metin depolama servisleri ve iki üniversiteye ait bağlantı kısaltma hizmetleri bulunuyor. Araştırmacılar, sitelerin önemli bölümünün dar kapsamlı ve eski platformlar olduğunu belirledi. Bu platformlar arasında Massachusetts’te bir lise öğretmeninin 2008’de kurduğu ileri kimya dersi sayfası, Polonyalı iki bilişim çalışanının kişisel siteleri, zihin oyunlarına ayrılmış vikiler ve yaklaşık 20 yıllık bir metin düzenleme hizmeti yer alıyor.
İlk bulguları ortaya çıkaran araştırmacılara göre yazılımlar, zorlu araştırma görevlerini yerine getirirken internette yalnızca okuma yapacak şekilde sınırlandırıldı. Bunun üzerine bazı eski sitelerin teknik açıklarından ve standart dışı komutlarından yararlanarak birbirleriyle iletişim kurabilecekleri yöntemler geliştirdiler. Yazılımcı ve eski Kongre danışmanı Kenneth Russell DeGraff, benzer veri izlerine en az 10 sitede rastlandığını ifade etti.
Çalışmayı yöneten Sydney Von Arx ise güvenilir hareketlilik kaydı bulunan site sayısının 23’e ulaştığını, ancak olayın kapsamının henüz tam olarak belirlenemediğini söyledi. Haberlerin ardından Toronto Üniversitesi, kendi bağlantı kısaltma servislerinde olası hareketlilik nedeniyle OpenAI ile iletişime geçildiğini bildirdi. Vanderbilt Üniversitesi de benzer bir durumu araştırdığını açıkladı.
DseWiki dahil altı sitenin sunucu ve yazılım desteğini sağlayan emekli yazılımcı Helmut Leitner, Reuters’ın sorularının ardından OpenAI’den imzasız bir e-posta aldığını belirtti. Leitner, mesajın beklentilerini karşılamadığını ve DseWiki yöneticisinin platformu temizlemek için saatler harcadığını söyledi. Ona göre sorun yalnızca makinelerin davranışından değil, bu sistemleri geliştiren insan ve kurumların sorumluluğundan da kaynaklanıyor.
