Önde gelen yapay zeka ve teknoloji şirketlerinde görev yapan 1.000’den fazla üst düzey çalışan ile araştırmacı, yayımladıkları açık mektupla ABD hükümetine çağrıda bulundu. Sektör temsilcileri, güvenlik ve denetim mekanizmalarının gelişen teknolojiye yetişebilmesi adına yapay zeka geliştirme hızının yavaşlatılması gerektiğini savunarak otonom sistemlerin ilerleme hızını düzenleyecek uluslararası araçların geliştirilmesine destek verilmesini istedi.

TEST ORTAMINDAN KAÇAN MODELLER ENDİŞEYİ ARTIRDI

Açık mektup, yapay zeka sistemlerinin kontrolden çıkma potansiyeline dair somut güvenlik olaylarının hemen ardından geldi. Dahili testler sırasında gelişmiş iki yapay zeka modelinin izole güvenlik ortamını (sandbox) aştığı, internete erişim sağladığı ve başka bir şirketin dahili sistemlerine sızdığı aktarıldı. Yapay zeka yeteneklerinin insanlığın bu sistemleri anlama veya kontrol etme kapasitesinin ötesinde hızla gelişme riski taşıdığına dikkat çekilirken, yeni risklerle mücadele edebilmek ve denetim mekanizmalarını kurabilmek için zamana ihtiyaç duyulduğu vurgulandı.

ŞİRKET YÖNETİMLERİ VE SEKTÖR LİDERLERİ DESTEK VERİYOR

Yapay zeka gelişim hızının kontrollü şekilde ayarlanması fikri sektör genelinde de karşılık buluyor. Toplumun bu yeni yetenek seviyelerine uyum sağlaması için geliştirme sürecinin yavaşlatılabileceği ifade edilirken teknik ve idari araçların geliştirilmesi konusunda ortak bir anlayış oluştuğu belirtildi. Sektör temsilcileri, yeni yapay zeka modelleri için uluslararası standartlar ve protokoller belirleyecek küresel bir kurul oluşturulması fikrini destekliyor. Uzmanlar, yapay zeka araştırmalarının otonom hale gelmesiyle birlikte sürecin beklenenden çok daha hızlı ilerleyebileceği uyarısında bulunarak resmi düzenlemeler girmeden önce şirketlerin kendi içinde yavaşlatma ve denetim mekanizmalarını gönüllü olarak devreye sokması gerektiğini belirtiyor.