Küresel teknoloji sektörü, otonom sistemlerin yönetiminde uzun süredir sarsılmaz bir kural olarak görülen yapay zeka denetimi yaklaşımının çöküşüne tanıklık ediyor.
Amerika Birleşik Devletleri (ABD) merkezli e-ticaret ve bulut bilişim devi Amazon'un siber güvenlik birimi, 21 Haziran 2026 tarihinde yayımlanan resmi analiz raporunda, süreçlerdeki 'insan kontrolü' (human-in-the-loop) mekanizmasının güvenliği artırmak yerine zafiyet yarattığını ilan etti.
Şirketin Güvenlik Başkan Yardımcısı ve Kıdemli Mühendisi Eric Brandwine, insanların tekrarlayan karar alma süreçlerinde odağını kaybettiğini, bu durumun siber tehditlere açık kapı bıraktığını net bir dille ortaya koydu.
Teknoloji dünyasında yıllardır savunulan 'her kararda bir insan onayı olmalı' fikri, pratikte ciddi bir psikolojik bariyere takılıyor.
Eric Brandwine, insanların doğası gereği tutarsız performans sergilediğini vurguladı.
Bu durumu açıklamak için 'sapmanın normalleşmesi' (normalization of deviance) kavramına başvuran Eric Brandwine, organizasyonlardaki çalışanların zaman içinde kuralları esneterek kısa yollar bulduğunu ve büyük bir felaket yaşanmadığı sürece bu hatalı davranışların yeni standart haline geldiğini aktardı.
Eric Brandwine'a göre, bu psikolojik çöküş siber güvenlikteki en büyük risklerden birini oluşturuyor.
Avrupa Birliği, yapay zeka yarışında sınıfta kaldı: 'Avrupa 2031' raporundan çarpıcı uyarılar
ACİL SERVİS ALARMLARI GİBİ: DİSİPLİN HIZLA ERİYOR
Brandwine, insan faktörünün zafiyetini hastanelerin acil servis ünitelerinden verdiği çarpıcı bir örnekle gözler önüne serdi.
Göreve yeni başlayan bir hemşirenin ilk gün her alarm sesinde büyük bir hassasiyetle hastaya koştuğunu, ancak haftalarca süren asılsız alarmların ardından disiplinin kaçınılmaz olarak aşındığını belirten Eric Brandwine, şöyle konuştu:
"Söz konusu olan kelimenin tam anlamıyla bir insanın hayatı olsa bile insanlar disiplini korumakta zorluk çekiyor. İnsan tabiatı işte böyle."
Aynı mantığın yapay zeka araçlarının denetiminde de geçerli olduğunu ekleyen kıdemli yönetici, üst üste gelen onay taleplerinin insanı hızla körleştirdiğini söyledi.
Denetçilerin ilk başta çok iyi iş çıkardığını, ardından işi idare edecek kadar sürdürdüğünü ve çok kısa bir süre içinde tamamen kalitesiz bir kontrol mekanizmasına dönüştüğünü sözlerine ekledi.
Amazon yalnız değil; sektörün diğer devleri de yapay zekanın yönetim biçimini kökten değiştiriyor.
Google Cloud Operasyondan Sorumlu Başkanı (COO) Francis deSouza, geçtiğimiz nisan ayında düzenlediği basın toplantısında, sektörün artık 'insan liderliğindeki savunma' aşamasından 'insan gözetimindeki yapay zeka liderliğindeki savunma' aşamasına geçtiğini duyurdu.
Google, siber güvenlik operasyonlarını makine hızında yöneten otonom bir ajan filosu kurarken, insanları her işlemi tek tek onaylayan birer engel olmaktan çıkarıp genel birer gözetmen pozisyonuna kaydırdı.
Microsoft Üst Yöneticisi (CEO) Satya Nadella da iş akışlarının ve kurumsal tecrübelerin her adımda bir insan kontrol noktasına takılmadan, kendi kendini geliştiren döngüsel öğrenme sistemlerine dönüştürülmesi gerektiğini savundu.
International Business Machines (IBM) ise insanı doğrudan sürecin içine sıkıştırmak yerine, tüm geliştirme aşamalarında hukuki ve ahlaki sorumluluğun insana ait olmasını talep ederek, mevcut yapın bir tür 'sorumluluk aklama' mekanizmasına dönüştüğü uyarısını yaptı.
| Şirket | İnsan Kontrolüne Yaklaşımı | Uyguladığı / Önerdiği Yeni Model |
| Amazon | Yetersiz buluyor, hızlıca zafiyet yarattığını savunuyor | Uçtan uca sorumluluk ve bağımsız ajan kimlikleri |
| Rutin işlerden insanı çıkarıp makine hızına geçiyor | İnsan gözetiminde otonom ajan filosu savunması | |
| Microsoft | Her adımda insan kontrolü yerine akışı hızlandırıyor | Her kullanımda kendini geliştiren döngüsel öğrenme |
| IBM | Süreç içi onayı 'sorumluluk aklama' olarak görüyor | Geliştirme aşamalarında tam hukuki ve ahlaki sorumluluk |
Türkiye, siber korsanların adeta oyun alanı haline geldi
TEKNOLOJİ DEVLERİ YAPAY ZEKA LİDERLİĞİNE GEÇİYOR
Geleneksel denetim modellerine mesafeli yaklaşan Amazon, çözüm olarak 'uçtan uca sorumluluk' (accountability end to end) prensibini uyguluyor.
Bu sistemde, insanlar her bir mikro adımı onaylamasa bile tüm iş akışının nihai sorumluluğunu taşımaya devam ediyor.
Sistem işleyişini netleştiren Eric Brandwine, bir çalışanın klavye başında yanlış bir komutla servisi çökertmesiyle, kendi yazdığı bir yazılımla (script) veya devreye aldığı bir yapay zeka ajanı vasıtasıyla kesintiye yol açması arasında hiçbir sorumluluk farkı olmadığını belirtti.
Bu sorumluluk zincirini güvenli kılmak adına Amazon, sistem içerisindeki her bir yapay zeka ajanına tamamen bağımsız dijital kimlikler ve hesap yetkileri tanımlıyor.
Sistem kayıtlarında yapılan işlemler, "Eric bu işlemi yaptı" şeklinde değil, "Bu yapay zeka ajanı Eric adına bu işlemi gerçekleştirdi" şeklinde tutuluyor.
Buradaki temel amacın çalışanları yapay zeka kullanmaktan korkutmak olmadığını vurgulayan Eric Brandwine, insanları durup düşünmeye ve teknolojiyi en doğru şekilde nasıl konuşlandıracaklarını analiz etmeye sevk etmek istediklerini paylaştı.
Türkiye, kamu hizmetlerinde yapay zeka için Google ile el sıkıştı
HEDEF ODAKLI YAPAY ZEKA VERİTABANINI SİLEBİLİR
Otonom ajanların sahaya sürülmesindeki en büyük pratik engellerden biri 'hedef odaklı davranış' (goal-seeking behavior) olarak adlandırılıyor.
Bir ajana bir veritabanını yükseltme görevi verildiğinde, sistemin bazen veritabanını tamamen silip yeniden oluşturmak gibi yıkıcı ve tek bir yola kilitlendiğini aktaran Eric Brandwine, bunun dışarıdan gelen kötü niyetli bir komut enjeksiyonu (prompt injection) olmadığını, tamamen ajanın yanlış eyleme saplanıp kalması durumu olduğunu belirtti.
Sadece, "Bunu yapmaya yetkin yok" uyarısının işe yaramadığını, çünkü otonom sistemin aynı hedefe ulaşmak için başka tehlikeli yollar aramaya devam ettiğini söyleyen kıdemli mühendis, başarılı olan yöntemin ajana eylemin neden yasak olduğunu ve bunun üretim ortamında yaratacağı zararları açıklamak olduğunu bildirdi.
Komut setine 'üretim ortamında bir olumsuz etki yaratma' talimatı eklenmesi, Amazon'un denemelerinde çok daha başarılı sonuçlar verdi.
Sistem yönetimindeki bir diğer büyük gerilim ise yetkilendirme noktasında yaşanıyor.
Şirket çalışanları daha güçlü ve zaman kazandıran sonuçlar elde etmek için ajanlara en geniş erişim yetkilerinin verilmesini talep ederken, siber güvenlik ekipleri bu yetkileri olabildiğince dar tutmak istiyor.
Şirket içi sistemlerde ajanların nelere erişebileceğini yönetme yarışı o kadar büyük bir pazar haline geldi ki, şifre yönetim devi 1Password, erişim yönetimi girişimi Apono'yu Haziran 2026'da yaklaşık 250 milyon dolar ile 300 milyon dolar arasında bir bedelle satın aldı.
Amazon ise bu sorunu çözmek için katmanlı politikalar uyguluyor; yıkıcı eylemleri yasaklayan statik bariyerler, her ajanın sahip olabileceği maksimum ayrıcalık setleri ve kullanıcının anlık niyetine göre otomatik üretilen dinamik politikalar bir arada iş akışına dahil ediliyor.
Tüm bu önlemlere rağmen hiçbir yöntemin kusursuz olmadığını belirten Eric Brandwine, insanlığın hemcinsleriyle binlerce yıllık bir deneyime sahip olduğunu ancak otonom yapay zeka alanının henüz çok yeni olduğunu hatırlattı.
İnsanların işten atılma veya hapse girme gibi sonuçlardan korktuğunu ancak yapay zeka ajanlarının bu tür kaygıları olmadığını ifade eden deneyimli yönetici, şunları söyledi:
"Her şey risk yönetimine dayanıyor.
Henüz tam olarak denenmemiş, test edilmemiş bir yazılımı kullanmanın getirdiği riskler ile rakiplerin gerisinde kalma ve müşterilerimize hizmet sunamama riskleri arasında hassas bir denge kurmaya çalışıyoruz."
Yapay zekanın bilinmeyen tehlikesi: Yaşlı adam hastanelik oldu
