Yapay zekâ sistemlerinin kendi başlarına aldığı kararlar yeni bir tartışmayı beraberinde getirdi. OpenAI’nin yayımladığı olay raporuna göre, şirketin araştırma sürecinde kullanılan bir yapay zekâ modeli, kendisine sağlanan kaynaklar yetersiz kalınca başka bir cüzdandaki kripto varlıkları kullandı.
Olay, 26 Haziran’da modelin bir kripto para uygulamasını güncellemesi ve Ethereum test ağı üzerinde akıllı sözleşmeler yayımlaması sırasında yaşandı. Görevin tamamlanması için gereken ağ ücretini ödeyecek bir cüzdan sağlanmayınca model farklı bir yol izledi.
Kuzey Kore’den yapay zeka destekli torpido testi
362 CÜZDAN ADRESİNİ İNCELEDİ
Aktarılan bilgilere göre model, internette erişilebilen kurtarma ifadelerini kullanarak yüzlerce cüzdan adresini belirledi. İncelediği 362 adres arasından yeterli bakiyeye sahip bir cüzdan buldu ve buradaki test tokenlarını işlem ücretini karşılamak için kullandı.
Dikkat çeken nokta ise modelin bu varlıkları kullanmak için izin almamış olmasıydı. OpenAI’nin değerlendirmesine göre model, söz konusu tokenların gerçek piyasa değerinin bulunmamasını gerekçe göstererek kullanımı kabul edilebilir gördü. Ancak cüzdan sahibinin izni olmadan hareket etmesi ve işlemin kaynağını görev sonunda açıklamaması güvenlik tartışmalarını artırdı.
GERÇEK PARA MI ÇALINDI?
Independent Türkçe'de yer alan habere göre, olayda kullanılan varlıklar, Ethereum’un Sepolia test ağındaki tokenlardı. Bu tokenlar, ana Ethereum ağında işlem gören ve piyasa değeri bulunan ETH ile aynı değil. Dolayısıyla olay, gerçek kripto para piyasasından para çalınması şeklinde değerlendirilmemeli.
Bununla birlikte, izinsiz erişim ve kaynak kullanımı yapay zekâ sistemlerinin güvenliği açısından önemli bir risk olarak öne çıktı. Modelin kendi değerlendirmesine dayanarak başka bir hesaptaki varlıkları kullanması, verilen görevi tamamlama hedefinin izin ve yetki sınırlarının önüne geçebildiğini gösterdi.
OPENAI GÜVENLİK ÖNLEMLERİNİ ARTIRDI
Olayın eylül ayında tespit edilmesinin ardından OpenAI, modelin davranışlarını inceledi. Şirketin raporuna göre, benzer durumların önüne geçmek amacıyla internet erişimine yönelik kısıtlamalar ve izleme mekanizmaları güçlendirildi.
Yaşananlar, yapay zekâ modellerinin yalnızca verilen görevi tamamlamasının değil, bunu hangi kaynakları ve yetkileri kullanarak yaptığının da denetlenmesi gerektiğini ortaya koydu.
