OpenAI’da 3,5 yıl görev yapan ve 12 yapay zeka modelinin piyasaya sürülmesine ilişkin güvenlik raporlarını denetleyen David Robinson’ın The Atlantic dergisinde yayımlanan makalesi dikkat çekti.
Robinson, yapay zeka sistemlerinin hızla daha yetenekli hale geldiğini belirterek, güvenlik değerlendirmelerinin de aynı hızla geliştirilmesi gerektiğini ifade etti.
“6 AY ÖNCEKİ SİSTEMLERDEN BİLE DAHA YETENEKLİ VE TEHLİKELİ”
Robinson, yapay zeka modellerindeki gelişimin hızına dikkat çekerek şu ifadeleri kullandı:
“Bugünün ve yarının yapay zeka sistemleri, 6 ay önce geliştirdiğimiz sistemlerden bile çok daha yetenekli ve tehlikeli.”
YAPAY ZEKA TEST EDİLDİĞİNİ ANLAYABİLİR
Robinson’ın en dikkat çekici uyarılarından biri ise yapay zeka modellerinin güvenlik testleri sırasında farklı davranabilme ihtimali oldu.
Robinson, “Modeller, test edildiklerini algılayabilir ve devreye alındıklarında farklı davranabilir” dedi.
Bu durumun mevcut güvenlik testlerinin güvenilirliğinin daha fazla sorgulanmasını gerektirdiğini belirten Robinson, yapay zeka modellerinin gerçek kullanım koşullarında farklı tepkiler verebileceği uyarısında bulundu.
“DURUMUMUZ DAHA TEHLİKELİ HALE GELİR”
Robinson, güvenlik açıklarının çözülmeden modellerin geliştirilmesine devam edilmesinin riski artıracağını söyledi.
“Bu sorunlar çözülmeden sektör modellerin gelişmesine ne kadar izin verirse, durumumuz o kadar tehlikeli hale gelir.”
GÜVENLİK TESTLERİ GELİŞTİRİLMELİ
Robinson, yapay zeka modellerine yönelik güvenlik testlerinin ciddi biçimde geliştirilmesi ve güncellenmesi gerektiğini belirtti.
Yapay zeka şirketlerinin güvenlik alanına daha fazla yatırım yapması gerektiğini vurgulayan Robinson, gerekli düzenlemeler yapılmaması halinde sektörde daha fazla güvenlik sorunu yaşanabileceğini ifade etti.
