Elon Musk'ın kurucuları arasında yer aldığı yapay zeka firması OpenAI, son teknoloji görüş sistemi olan CLIP'in, yalnızca bir kalem ve kağıtla kandırılabileceğini açıkladı.
Yapılan testlerde bir elmanın üzerine "iPod" yazan bir kağıt yapıştırıldığında, CLIP'in bunu yüzde 99,7 oranında bunu doğru tespit ettiği görüldü. Clip, başka bir testte üzerine dolar işareti yapıştırılan köpeği, yüzde 52,5 kumbara olarak tanımladı.
Söz konusu zayıflığı "tipografik saldırı" diye niteleyen yapay zeka devi, yaptığı açıklamada şu ifadelere yer ver verdi:
Bu zayıflığın basit bir öğrenme güçlüğü olmadığına inanıyoruz. CLIP'in metinleri sağlam bir şekilde okuma kabiliyetinden yararlanılarak, el yazısı metinlerin fotoğraflarının bile çoğu zaman sistemi kandırabileceğini tespit ettik.
Bu tür saldırılar hala işe yarıyor. Kalem ve kağıttan başka bir teknoloji gerektirmiyor.
OpenAI oluşan bu zayıflığın, görüş sistemlerini kandırmada kullanılan zıt görüntülere (adversarial images) benzediğini açıkladı.
Uzmanlar daha önceki keşiflerinde de yola etiketler yapıştırarak, Tesla marka araçların yazılımını yanıltıp şerit değiştirmesini sağlamak için kullanılabileceğine dikkat çekmişti.
