Sam Altman, yapay zekâ alanında faaliyet gösteren şirketlere güvenlik konusunda ortak standartlar oluşturma çağrısında bulundu. X hesabından kapsamlı bir değerlendirme paylaşan Altman, yapay zekâdaki ilerlemenin hızlandığını ve özellikle “frontier” olarak adlandırılan en gelişmiş modelleri geliştiren şirketlerin kamuoyuna güven verecek şekilde hareket etmesi gerektiğini söyledi.
Altman, “Dünya, giderek daha yetenekli yapay zekâ sistemleri geliştiren Amerikan şirketlerinin sorumlu davranacağına güvenmeyi hak ediyor” ifadelerini kullandı.
FEDERAL GÜVENLİK ÇERÇEVESİNE DESTEK
Altman, ileri yapay zekâ sistemleri için tutarlı güvenlik gereklilikleri belirleyen federal bir düzenleme çerçevesini desteklediklerini belirtti.
Ancak şirketlerin güvenlik konusunda harekete geçmek için antitröst muafiyeti ya da yeni bir yasal düzenlemeyi beklemelerine gerek olmadığını savundu.
Altman, özellikle bağımsız denetçiler gibi mekanizmaların sektörde güvenliği güçlendirebileceğini söyledi.
“ESKİ GÜVENLİK ÇERÇEVELERİ ARTIK YETERLİ DEĞİL”
Altman, geçmiş yıllarda şirketlerin “Responsible Scaling Policies” ve “Preparedness Frameworks” gibi çeşitli güvenlik çerçeveleri geliştirdiğini hatırlattı.
Bu yaklaşımların kendi dönemleri için yararlı olduğunu belirten Altman, bunların büyük ölçüde tamamlanmış modellerin kullanıma sunulması aşamasına odaklandığını, bugün ise güvenliğin model geliştirme sürecinin daha erken aşamalarında ele alınması gerektiğini söyledi.
OPENAI, İLERİ EĞİTİM ÇALIŞMALARI ÖNCESİ “GÜVENLİK DOSYASI” HAZIRLIYOR
Altman, OpenAI’nin özellikle model yeteneklerinde önemli artış sağlaması beklenen ileri seviye pekiştirmeli öğrenme çalışmalarından önce artık açık “safety case”ler, yani güvenlik gerekçelendirmeleri hazırladığını açıkladı.
Bu yaklaşımın, model piyasaya sürülmeden önce yapılan geleneksel güvenlik testlerine ek olarak, geliştirme aşamasında da risklerin sistematik biçimde değerlendirilmesini amaçladığını belirtti.
Altman, diğer yapay zekâ şirketlerinin de kendi yaklaşımlarını geliştirmelerini istedi.
ORTAK STANDART ÇAĞRISI
Altman, özellikle model davranışındaki uyumsuzluk riskleri, izleme sistemleri ve genel güvenlik standartları konusunda sektör çapında ortak bir yaklaşım geliştirilmesi gerektiğini savundu.
Şirketlerin birbirlerinin yöntemlerinden öğrenebileceğini belirten Altman, bu standartların sektör genelinde daha güvenli sonuçlar doğuracağını ifade etti.
“YAVAŞLATMAK, DURDURMAK DEMEK DEĞİL”
Altman’ın paylaşımındaki en dikkat çekici bölümlerden biri ise yapay zekâ gelişiminin hızına ilişkin değerlendirmesi oldu.
“Pacing” yani ilerleme hızının kontrollü biçimde ayarlanması gerektiğini belirten Altman, bunun gelişmenin durdurulması anlamına gelmediğini söyledi.
Altman, yapay zekâ alanındaki ilerlemenin hızlı olduğunu ve hızlı olmaya devam edeceğini ancak güvenlik önlemleri nedeniyle gelişimin, hiçbir kısıtlama bulunmayan bir senaryoya kıyasla daha yavaş ilerlemesi gerektiğini savundu.
“HİÇBİR AMERİKAN REKABET BASKISI PERVASIZLIĞI HAKLI ÇIKARAMAZ”
Altman, güvenlik değerlendirmeleri ve izleme sistemlerinin şirketlere ciddi zaman ve maliyet yükü getirdiğini kabul etti.
Buna rağmen bu maliyetin göze alınması gerektiğini belirten Altman, şu mesajı verdi:
“Hiçbir Amerikan rekabet baskısı pervasızlığı haklı çıkaramaz veya yeteneklerin uyum ve izleme mekanizmalarının önüne geçmesine izin veremez.”
Altman, hükümetlerin özellikle uluslararası koordinasyon konusunda önemli rol oynayacağını belirtirken, şirketlerin önce kendi imkânlarıyla atabilecekleri güvenlik adımlarını atması gerektiğini vurguladı.
HÜKÜMETE ULUSLARARASI KOORDİNASYON ÇAĞRISI
Altman’a göre yapay zekâ güvenliği yalnızca ABD içindeki şirketlerin alacağı önlemlerle sınırlı kalmayacak.
Uluslararası düzeyde ortak standartların oluşturulması için hükümet desteğine ihtiyaç duyulacağını belirten Altman, buna rağmen teknoloji şirketlerinin bu süreci beklemeden kendi sorumluluklarını yerine getirmesi gerektiğini ifade etti.
