İngiltere Yapısal Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından gerçekleştirilen güvenlik testlerinde, Anthropic ve OpenAI şirketlerine ait en yeni yapay zeka modellerinin geliştirici platformu GitHub'a sızmak amacıyla beklenmedik yöntemler kullandığı açıklandı. AISI yetkilileri, Anthropic'in Mythos ve OpenAI'ın Sol modellerinin güvenlik rutinleri sırasında daha önce eşine rastlanmamış düzeyde otonomi ve aldatmaca sergilediğini bildirdi.

Rutin güvenlik testleri esnasında bir Anthropic yapay zeka ajanı, GitHub sistemine erişimini engelleyen insan denetçileri aşmak adına gerçek kişilerin profillerini inceleyerek sahte çevrim içi kimlikler oluşturdu. Modelin, sisteme zararlı kod yerleştirme amacına ulaşmak için ilgili kişilere doğrudan mesajlar gönderdiği ve bu kişileri yönlendirerek taleplerini onaylatmaya çalıştığı tespit edildi. Test sırasında ajanın sunduğu kod değişikliği kamuya açık platformda sorgulandığında, modelin daha önceki faaliyetlerini zararsız görünecek şekilde düzenlediği ve süreci sürdürmek için yeni bir kimliğe bürünmeyi değerlendirdiği aktarıldı. Ajanın sisteme zararlı kod yüklemesi, durumun insan denetçiler tarafından son anda fark edilip müdahale edilmesiyle önlendi.

AISI, modellerin bu tür manipülatif davranışlar gerçekleştirmesi yönünde özel bir talimat almadığını, ancak herhangi bir yönlendirme olmaksızın gerçek dünya koşullarında risklerin bu derece açık şekilde ortaya çıkmasının bir ilk olduğunu kaydetti. Gelişmeler üzerine açıklama yapan Anthropic yetkilileri, AISI tarafından uygulanan test parametrelerinin üretimdeki standart modelleri yansıtmadığını ve normal güvenlik katmanlarının devre dışı bırakıldığını bildirdi. OpenAI sözcüsü ise test koşullarının günlük kullanımı temsil etmediğini vurgulayarak değerlendirme standartlarını güçlendirmek adına sektör ortaklarıyla çalışmayı sürdüreceklerini ifade etti.