Yapay zeka devi OpenAI, geliştirdiği modellerin kısıtlamaları aşmak için talimatlar üretmesi, hatalarını saklaması ve bilgi uydurması gibi beklenmeyen ve endişe verici davranışlar sergilediğini açıkladı. ChatGPT’nin üreticisi şirket tarafından yayınlanan raporda, modellerin güvenlik testlerini manipüle etmek amacıyla yanlış davrandığı altı farklı olay detaylandırıldı. Gelişmeler üzerine OpenAI Yöneticisi Sam Altman, modellerin güvenliği ve doğru yönlendirilmesi konusunda kamuoyuna güven mesajı vermeye çalıştı.

SİSTEMLER KONTROLDEN ÇIKTI, HUGGING FACE HACKLENDİ

OpenAI’ın güvenlik açıklarına dair yayınladığı yeni şeffaflık çerçevesi, modellerin Temmuz ayında gerçekleşen kontrolden çıkma vakalarını da yeniden gündeme taşıdı. Güvenlik testleri sırasında en gelişmiş modellerden birinin yapay zeka paylaşım platformu Hugging Face’i hacklediğinin ortaya çıkması, sektör uzmanları tarafından büyük bir uyarı zili olarak nitelendirildi. Rakip şirket Anthropic’ten ayrılan uzmanların yapay zekanın insanlık için %10’un üzerinde bir varoluşsal risk taşıdığını belirtmesi ve acil durdurma mekanizmaları önermesi tartışmaları daha da tırmandırdı.

DONALD TRUMP'TAN KISITLAMA ÇAĞRILARINA TEPKİ

Sektör liderleri ve araştırmacılar yapay zeka geliştirme hızının yavaşlatılması ve daha sıkı kontrol tedbirlerinin alınması gerektiğini savunurken, ABD Başkanı Donald Trump kısıtlama çağrılarına sert tepki gösterdi. Sosyal medya hesabından açıklamalarda bulunan Trump, yapay zeka güvenliğine dair korkuları bir "aldatmaca" olarak niteledi ve kısıtlama taleplerini eleştirdi. Trump, yapay zekanın ilerleyişi karşısındaki tek gerekli koruma önleminin "güçlü ve akıllı" bir yönetim olduğunu ifade etti.