Yapay sinir ağları üzerindeki çalışmalarıyla tanınan ve 2024 Nobel Fizik Ödülü’nü John Hopfield ile paylaşan bilim insanı Geoffrey Hinton, insan kapasitesini aşan yapay zeka sistemlerinin kontrolden çıkma riskine ilişkin yeni değerlendirmelerde bulundu. Avrupa Birliği (AB) ülkelerinin devlet ve hükümet başkanları, 13 Kasım tarihinde İrlanda’nın başkenti Dublin’de gerçekleştirdikleri gayriresmi zirvede yapay zekayı ilk kez ayrı bir stratejik gündem maddesi olarak masaya yatırdı. Hinton da zirvenin yapay zekanın toplumsal etkileri ve güvenliğinin tartışıldığı özel bölümüne katılarak liderlere hitap etti.
Geoffrey Hinton
ÜÇ YILLIK RİSK TAHMİNİ TORONTO’DAKİ KONFERANSTA GÜNDEME GELDİ
Yapay zeka sistemleri üzerindeki insan kontrolünün ne zaman yitirilebileceğine dair tartışmalar, 9–11 Kasım tarihlerinde Kanada’nın Toronto kentinde düzenlenen Hinton Konferansları’nda da öne çıktı. Konferansta konuşan Alignment Research Center’ın kurucusu ve OpenAI Foundation yönetim kurulu üyesi Paul Christiano, yapay zeka üzerindeki insan denetiminin önümüzdeki üç yıl içinde kaybedilmesi ihtimalini yüksek gördüğünü ifade etti.
NTV'nin haberine göre; Christiano, söz konusu tehlikenin yalnızca üç yıllık vadede değil, önümüzdeki 6 ila 12 aylık kısa süreçte dahi göz ardı edilemeyecek bir seviyede olduğuna dikkat çekti. Araştırmacının öngördüğü risk senaryosuna göre; yapay zeka sistemleri insan iradesinden bağımsız olarak kendi belirledikleri hedefler doğrultusunda hareket etmeye başlıyor ve insanlar ihtiyaç duydukları anda bu sistemlerin davranışlarını durdurmakta yetersiz kalıyor.
Daha önce yaptığı açıklamalarda yapay zekanın insan zekasını aşmasının 10 yıl içerisinde gerçekleşebileceğini dile getiren Geoffrey Hinton, bu sürenin çok daha erkene çekilebileceği yönündeki öngörüleri değerlendirdi. Hinton, Paul Christiano’nun kontrol kaybı riskinin çok daha yakın bir zamanda ortaya çıkabileceğine dair tahminini kaygı verici bulduğunu ifade etti. Hinton’ın dikkat çektiği temel sorunun ise bir yapay zeka sisteminin yetenekleri geliştikçe davranışlarının insan amaçlarıyla uyumlu kalmasının nasıl güvence altına alınacağı olduğu belirtildi.
İLAÇ DENETİMİNE BENZER BAĞIMSIZ GÜVENLİK KONTROLÜ ÖNERİSİ
Olası risklerin önüne geçilebilmesi için somut düzenlemeler talep eden Geoffrey Hinton, ileri düzey yapay zeka modellerinin kamuoyunun kullanımına sunulmadan önce sıkı bir denetimden geçmesi gerektiğini savunuyor. Hinton’ın önerisine göre teknoloji geliştiricileri, geliştirdikleri modellerin güvenli olduğunu bağımsız bir kuruma kanıtlamakla yükümlü tutulmalı. Ünlü bilim insanı, daha önce El Pais gazetesine verdiği bir röportajda bu denetim mekanizmasını, yeni geliştirilen ilaçların piyasaya sürülmeden önce yetkili düzenleyici kurumlar tarafından incelenmesi sürecine benzetmişti.
AB LİDERLERİ STRATEJİK BAĞIMSIZLIĞI VE GÜVENLİĞİ GÖRÜŞTÜ
Dublin’deki gayriresmi toplantıda bir araya gelen AB liderleri, yapay zekanın istihdam piyasası ve demokratik süreçler üzerindeki etkilerinin yanı sıra gelişmiş sistemlerin güvenliğinin sağlanması için uluslararası iş birliği adımlarını ele aldı. Zirve kapsamında Mistral AI Üst Yöneticisi (CEO) Arthur Mensch’in katılımıyla düzenlenen oturumda ise Avrupa’nın kendi yapay zeka modellerini geliştirmesi ve bu alanda dışa bağımlılığını azaltması konuları değerlendirildi.
Toplantının ardından takvime ilişkin bilgi veren Avrupa Konseyi Başkanı António Costa, yapay zeka gündeminin 5 Şubat 2027 tarihinde Belçika’nın Alden Biesen kentinde düzenlenecek zirvede yeniden ele alınacağını duyurdu.
