Yapay zeka teknolojisinin hızla gelişmesi, sektörde çalışan uzmanlar arasında güvenlik ve kontrol tartışmalarını yeniden gündeme taşıdı.
Anthropic’in eski çalışanı Jacob Coxon’un, yapay zekanın “gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini” savunarak şirketten istifa ettiğini açıklamasının ardından, sektördeki başka isimler de benzer uyarılarda bulundu.
“GELECEK BİRKAÇ YILDA GERÇEKLEŞEBİLİR”
Anthropic çalışanı Samuel Marks, Coxon’un açıklamalarına ilişkin değerlendirmesinde, yapay zeka geliştiricilerinin teknolojinin insanlığın “yok olmasına” yol açabilecek risklerin farkında olduğunu ve bunun gelecek birkaç yıl içinde gerçekleşebileceğine inananların bulunduğunu söyledi.
Bu risklere rağmen yapay zeka geliştirme çalışmalarının neden sürdüğüne de değinen Marks, şu ifadeleri kullandı:
“Bu, ticari teşviklerin yanı sıra, daha az sorumluluk sahibi ve teknolojiyi kötüye kullanacak diğer yapay zeka geliştiricileriyle bir yarış içinde olunduğu yönündeki inançtan kaynaklanıyor.”
“TAM ANLAMIYLA UYUMLU HALE GETİREBİLECEK BİR ŞEY YOK”
Geleneksel yazılımlardan farklı olarak yapay zekanın istenilen biçimde davranmasının doğrudan programlanamadığını belirten Marks, sistemlerin zaman zaman “uygunsuz davranış” sergileyebildiğini söyledi.
Sektörde birçok kişinin daha güvenli yöntemler geliştirmek amacıyla ilerleme hızının yavaşlatılmasını istediğini aktaran Marks, “Yapay zekayı daha uygun davranışlara yönlendirebilecek yöntemlerimiz var, ancak onları tam anlamıyla uyumlu hale getirebilecek bir şey yok” dedi.
OPENAI BAŞBİLİMCİSİ PACHOCKI’DEN UYARI
OpenAI Başbilimcisi Jakub Pachocki de yapay zekadaki hızlı gelişime ilişkin dikkatli olunması gerektiğini belirtti.
Pachocki, “Makine zekasındaki hızlı artışın devam etmesinin doğuracağı sonuçlara kimsenin hazırlıklı olmadığı konusunda endişeliyim” değerlendirmesinde bulundu.
OpenAI’nin yapay zekanın uyumlandırılması ve izlenmesi konusunda çözüm arayışını sürdüreceğini belirten Pachocki, daha kapsamlı önlemlere ihtiyaç olduğunu ifade etti.
“BU ALANDA YAŞANANLAR TOPLUM AÇISINDAN SON DERECE SAĞLIKSIZ”
Google DeepMind’in eski çalışanı Alex Turner da Coxon’un açıklamalarını destekleyen bir paylaşım yaptı.
Haziran ayında DeepMind’den ayrıldığını belirten Turner, şu ifadeleri kullandı:
“Jacob haklı. Birçok araştırmacı, gezegendeki herkesi öldürebilecek bir şey inşa ettiklerine inanıyorlar. Bunu nasıl durduracağımı düşünmek kelimenin tam anlamıyla benim işimdi.”
OpenAI araştırmacısı Jason Wolfe ise gerçek anlamda bir yok oluş riskinin ne kadar yüksek olduğunu bilmediğini ancak yapay zekanın insanlık açısından olumsuz sonuçlar yaratabileceği birçok senaryo bulunduğunu söyledi.
Wolfe, sorunun tek bir şirket veya ülke tarafından çözülemeyeceğini belirterek yapay zekanın kapasite artışı karşısında uluslararası ve sektörel koordinasyona ihtiyaç olduğunu vurguladı.
DeepMind’in eski kıdemli araştırmacısı Jonathan Richard Schwarz da yapay zeka laboratuvarlarının elinde biriken güç nedeniyle endişe duyduğunu ifade etti.
Schwarz, “Bu alanda şu anda yaşananlar toplum açısından son derece sağlıksız” dedi.
COXON NEDEN İSTİFA ETTİ?
Son üç yılda OpenAI ve Anthropic bünyesinde araştırmacı olarak görev yaptığını belirten Jacob Coxon, iki şirketin de yeterince sorumlu davranmadığını savunarak Anthropic’teki görevinden ayrıldığını duyurmuştu.
Şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için kontrolsüz bir yarış içerisinde olduğunu öne süren Coxon, şu ifadeleri kullanmıştı:
“Bu teknolojinin gücünü hafife almayın. Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek. Bu alanların her birindeki ilerlemeye tanık olduk ve bu süreç yavaşlamıyor.”
Coxon ayrıca yapay zeka modellerini geliştiren bazı sektör çalışanlarının bu sistemlerin 10 yıl içerisinde insanlık için ölümcül sonuçlar doğurabileceğine ciddi biçimde inandığını öne sürdü.
