OpenAI yapay zeka sorgusunda beklemeyi kaldırdı: 14 kat daha hızlı çalışıyor

OpenAI yapay zeka sorgusunda beklemeyi kaldırdı: 14 kat daha hızlı çalışıyor

OpenAI, çip tasarımcısı Cerebras ortaklığıyla geliştirdiği Ultrafast çalışma modunu devreye alarak GPT-5.6 Sol modelinin işlem hızını 14 kat artırdı. Uygulama programlama arayüzü üzerinden sınırlı ön izlemeye açılan altyapı, saniyede 750 çıktı jetonu üreterek bekleme sürelerini tamamen ortadan kaldırıyor.

Yapay zeka araştırma kuruluşu OpenAI, gelişmiş büyük dil modelleri arasında yer alan GPT-5.6 Sol için standart veri işlemeye kıyasla 14 kat daha süratli performans sergileyen 'Ultrafast' çalışma modunu ön izleme kapsamında kullanıma açtı.

İlk etapta uygulama programlama arayüzü (API) vasıtasıyla yazılım geliştiricilerle buluşturulan yeni hizmet katmanı, saniyede 750 adede kadar çıktı jetonu (token) üretme kapasitesine ulaşıyor.

KÜÇÜK MODELLERE OLAN ZORUNLULUK TARİHE KARIŞIYOR

Kullanıma sunulan Ultrafast modu, kurumların daha seri geri bildirim elde etmek amacıyla bilişsel kapasitesi sınırlı ya da dar sahalar için özelleştirilmiş ufak modellere yönelme mecburiyetini ortadan kaldırmayı hedefliyor.

Şirket yetkilileri, GPT-5.6 Sol mimarisinin üstün muhakeme ve karmaşık veri analizi yeteneklerinden hiçbir ödün verilmeden yanıt gecikme süresinin kayda değer oranda düşürüldüğünü vurguluyor.

DÜŞÜK GECİKME AMACIYLA CEREBRAS İLE STRATEJİK İŞ BİRLİĞİ

Bahse konu yüksek süratli modun donanım ve altyapı temelini, yapay zeka işlemcileri üreten Cerebras Systems şirketinin geliştirdiği özelleştirilmiş çipler meydana getiriyor.

OpenAI ile Cerebras arasında yürütülen ortak çalışma, düşük gecikmeli çıkarım süreçlerine odaklanarak yapay zeka işlem süreçlerinde yeni bir dönüm noktasını temsil ediyor.

Cerebras Kurucu Ortağı ve Üst Yöneticisi Andrew Feldman, konuya dair yaptığı resmi açıklamada, "Ultrafast üzerindeki GPT-5.6 Sol, hız ve zekanın artık birbirini dışlamayan kavramlar olduğunun kanıtıdır" değerlendirmesinde bulundu.

KRİTİK SAHALARDA ANLIK VE KESİNTİSİZ MÜDAHALE İMKANI

Geliştirilen altyapı özellikle anlık reaksiyon gerektiren sistem krizleri, finansal modellemeler, siber savunma, müşteri deneyimi, sesli yapay zeka entegrasyonları ve elektronik ticaret gibi alanlarda konumlanıyor.

Teknik aksaklıklar meydana geldiğinde yazılım hata kayıtları ile kod güncellemeleri saniyeler içinde taranabiliyor.

Elektronik ticaret platformlarında ise stok takibi, ürün tavsiyesi ve ödeme adımlarındaki pürüzler, kullanıcı sayfayı terk etmeden anında çözüme kavuşturulabiliyor.

SAATLER SÜREN TEST VE ÇALIŞMALAR AYNI GÜNDE TAMAMLANIYOR

OpenAI bünyesindeki mühendis kadroları da şirket içi teknik arızaların takibinde ve sistem günlüklerinin incelenmesinde bu altyapıyı aktif olarak kullanıyor.

Şirketin araştırma ve geliştirme laboratuvarlarında daha önceden saatler süren ya da gece boyu devam eden karmaşık deney dizilerinin, yeni hız kapasitesi sayesinde aynı mesai günü içinde birden fazla kez tekrarlanabildiği bildiriliyor.

GENEL KULLANIMA GEÇİŞ TARİHİ VE ÜCRET TARİFESİ BEKLENİYOR

Ultrafast erişimi halihazırda yazılım, finansal araştırma, e-ticaret ve müşteri destek alanlarında faaliyet yürüten sınırlı bir iş ortağı kümesine sağlanıyor.

Donanım kapasitesindeki genişlemeye paralel olarak erişim ağının da kademeli şekilde büyütülmesi amaçlanıyor.

OpenAI, Ultrafast katmanının genel kullanıcıya ne zaman açılacağını ve ücretlendirme detaylarını henüz kamuoyuyla paylaşmadı.

MODEL AİLESİ TEMMUZ AYINDA DUYURULMUŞTU

OpenAI; Sol sürümünün beraberinde dengeli operasyonlar için tasarlanan Terra ile temel hız odaklı Luna varyantlarını kapsayan GPT-5.6 jenerasyonunu temmuz ayında ChatGPT, Codex ve API kanallarından geniş kitlelerin erişimine sunmuştu.

Ultrafast modu ise serinin en kapsamlı modeli konumundaki Sol'un muhakeme yeteneklerini doğrudan anlık ve kesintisiz kurumsal iş akışlarına aktarmaya odaklanıyor.

YORUMLAR
YORUM YAZ
İÇERİK VE ONAY KURALLARI: KARAR Gazetesi yorum sütunları ifade hürriyetinin kullanımı için vardır. Sayfalarımız, temel insan haklarına, hukuka, inanca ve farklı fikirlere saygı temelinde ve demokratik değerler çerçevesinde yazılan yorumlara açıktır. Yorumların içerik ve imla kalitesi gazete kadar okurların da sorumluluğundadır. Hakaret, küfür, rencide edici cümleler veya imalar, imla kuralları ile yazılmamış, Türkçe karakter kullanılmayan ve büyük harflerle yazılmış yorumlar içeriğine bakılmaksızın onaylanmamaktadır. Özensizce belirlenmiş kullanıcı adlarıyla gönderilen veya haber ve yazının bağlamının dışında yazılan yorumlar da içeriğine bakılmaksızın onaylanmamaktadır.
Diğer Haberler
Son Dakika Haberleri
KARAR.COM’DAN