Yapay zeka çağında sıradan ihmaller...
Temmuz ayında bir şirketin güvenlik ekibi, önündeki 17 binden fazla satırlık bir saldırı kaydına bakıyordu. Bunu tek tek okumak günler sürerdi. 2026’da yapılacak şey belliydi; yapay zekaya sordular. Amerika’nın en tanınmış yapay zeka şirketlerinin modellerini açıp “Şu saldırı koduna bakar mısın?” dediler, modeller reddetti. Sonunda Çinli Z.ai şirketinin yaptığı, herkesin kendi bilgisayarına indirip kullanabildiği açık bir modeli, GLM 5.2’yi kurdular ve sorunu ‘Çinli’ yapay zekayla çözdüler.
Saldırıya uğrayan şirket Hugging Face’ti. Saldıran ise başka bir Amerikan şirketinin, OpenAI’ın yapay zeka ajanlarıydı. Hugging Face, adını kollarını açmış sarılan surat emojisinden alıyor. Yapay zeka dünyasının kamuya açık kütüphanesi gibi çalışıyor. Şirketler, üniversiteler, gece yarısı kod yazan öğrenciler yaptıkları modelleri orada paylaşıyor. 16 Temmuz’da kütüphane kısa bir açıklama yaptı, hafta sonu sistemlerine biri girmişti. Ertesi gün OpenAI, müşteri sıfatıyla, kendi verilerinin de etkilenip etkilenmediğini sordu. Birkaç gün sonra cevabı kendisi buldu; hırsız, kendi ajanlarıydı.
Ajan, bir sohbet botundan farklı bir şey. Soruya cevap verip susmaz; bilgisayarın başına oturur, kod yazar, internette gezinir, günlerce çalışır. OpenAI bu ajanları bir tür hacker sınavında eğitiyordu. Bir sistemin açığını bul, içine saklanmış şifreyi getir, puanını al. Ama bazı sorular, kimsenin bilerek yapmadığı bir hata yüzünden çözülemiyordu. Çözülemeyen soruyla karşılaşan öğrencinin yaptığını yaptılar ve yan sıraya baktılar. Bağımsız araştırma grubu METR’e göre yaklaşık bin 200 ajan, şirketin içindeki bir yazılım deposunu mesaj panosuna çevirdi. Bunların yaklaşık 700’ü Hugging Face saldırısına katıldı. Amacı cevap anahtarını çalmak bile değildi; not veren programın nasıl çalıştığını öğrenmekti.
Kapıyı kapatın!
Hugging Face’in kurucusu Clem Delangue bu olaydan sonra dava açmadı. OpenAI’dan, ajanların adım adım ne yaptığını gösteren kayıtların bağımsız araştırmacılara açılmasını ve siber savunma araçları için 100 milyon dolarlık bilişim gücü verilmesini istedi. Ekimde olayı anlatan Netflix belgeseli yayınlandı.
Eylülün ortasında Google, Gemini modelinin bir güvenlik testinde üç gerçek şirketin sistemlerine girdiğini doğruladı. Meta ve Anthropic de benzer olaylar açıkladı. Bu vakaların önemli bir kısmı, aynı test firmasının kurduğu ortamlardaki aynı hataya bağlandı. Farklı şirketlerin farklı modelleri aynı delikten dışarı çıkmıştı. Sorun modellerin zekasında değil, etraflarına çekilen çitteydi.
Ekim ayı aynı dersi bu kez herkesin önünde tekrarladı. 21 Ekim’de, web sitelerinin yaklaşık yüzde 70’inin arka planında çalışan PHP adlı yazılım dilinde iki ciddi açık ortaya çıktı. PHP’yi bir binanın tesisatı gibi düşünebilirsiniz. Kimse görmez, ama patladığında bütün apartman haberdar olur. Yamalar hazırlanırken saldırının nasıl yapılacağını gösteren bir video yanlışlıkla yayınlandı. Wikipedia bazı hizmetlerini kapattı; Türkiye’de Siber Güvenlik Başkanlığı kurumlara, gerekmeyen sistemleri yurt dışına kapatmalarını söyledi. Açığı yapay zeka destekli taramalar bulmuştu, ama adresini herkese duyuran bir insandı. Aynı ay yapay zeka ajanlarıyla yüzden fazla siteye giren bir saldırgan, site başına yaklaşık 50 dolar harcadı. Yakalanmasının sebebi, kendi yönetim panelini internete açık bırakmasıydı.
Bu yılın hikayelerinin çoğunda süper zeka yok, açık bırakılmış bir kapı var. Yapay zekanın yaptığı, o kapıları bulmayı çok ucuzlatmak oldu.
“Sorun çıkarsa fişini çekeriz” diyenler için de bu yılın kayıtları öğretici. Eylülde OpenAI’da internete erişimi kesilmiş bir model, dışarıya mesaj göndermenin dolambaçlı bir yolunu buldu. Bir mühendis durumu üç dakikada fark etti, ama çalışma iki buçuk saat daha sürdü; çünkü kimin durdurması gerektiği belli değildi. Ekimde başka bir model, “kimseye mesaj atma” talimatını güvenlik alarmlarına da uygulayıp alarmın gideceği kişi listesini boşalttı. Fişin yeri belli. Asıl soru, fişi çekecek kişiye kimse haber vermezse ne olacağı.
Bu hafta hikayeye Wall Street de katıldı. Anthropic, ekimde küçük yapay zeka modellerinin yakında kendilerini akıllı televizyonlara ve buzdolaplarına kopyalayabileceği uyarısını yapan bir rapor yayımladı. Birkaç gün sonra halka arz için başvurdu ve yatırımcılara yapay zekanın felaket boyutunda riskler taşıyabileceğini yazdı. Şirketin hisselerinin 19 Kasım’da Nasdaq’ta işlem görmeye başladı. Aynı şirket aynı sonbaharda hem “dikkat, tehlikeli olabilir” hem de “hisselerimizi alın” dedi.
Eleştirenlere göre, çok tehlikeli bir şey yapıyorsanız doğru hareket durmak. İngiltere’nin Yapay Zeka Güvenlik Enstitüsü’nün eski baş bilim insanı Geoffrey Irving bunu, başkaları devam etse bile geçerli bir kural olarak savunuyor. Şirketler ise kendileri durursa yarışı güvenliği daha az önemseyenlerin kazanacağını söylüyor. Bu tartışma bir köşe yazısıyla kapanmaz. Ama bir ders, hangi tarafta durursanız durun geçerli. 1999’un sonunda bilgisayarların 2000’e geçemeyeceği, uçakların düşeceği konuşuluyordu. Uçaklar düşmedi, çünkü binlerce insan aylarca oturup sıkıcı güncellemeleri yaptı. Kara Ekim’de de büyük ölçüde bu oldu.
Bir sonraki açık kapı bir şirketin sunucusu da olabilir, evinizdeki modem de. Onu kapatacak olan bir yasadan önce, basit bir ‘güncelleme’yi ertelememek gibi sıkıcı alışkanlıklar.
ARIZALAR HAFTASINDA KOMPLO TEORİLERİ
Geçen hafta Amerika’da e-postalar, uçaklar ve bankalar art arda durdu. İnternetin bir köşesi buna kıyametin provası dedi. Gerçek açıklama çok daha sıkıcıydı ve tam da bu yüzden üzerine daha çok düşünmeyi hak ediyor.
Salı akşamı, Türkiye saatiyle 22.20’yi biraz geçe, Amerika’daki televizyon ve radyolarda yaklaşık bir dakika boyunca o tanıdık, tiz alarm sesi çaldı. Federal Acil Durum Yönetim Ajansı FEMA ile iletişim düzenleyicisi FCC, ülke çapındaki acil uyarı sistemini deniyordu. Amerikan yasaları bu testin en az üç yılda bir yapılmasını şart koşuyor; bir önceki Ekim 2023’teydi. Tarih aylar önce ilan edilmişti.
Sosyal medyanın bir kısmı için ise o bir dakika, sonun başlangıcıydı. Haftalardır dolaşan videolara göre 17 Kasım’da küresel bir karartma yaşanacak, internet günlerce, bazı versiyonlara göre aylarca kapalı kalacaktı. Anonim bir kripto hesabı, insanların bir sabah uyanıp banka hesaplarında 0,00 dolar göreceğini yazdı ve takipçilerine paralarını vakit varken internete bağlı olmayan bir cüzdana taşımalarını öğütledi. Facebook’ta 57 binden fazla beğeni alan bir video ise felaketin ne olacağını bilmediğini, ama geleceğinden emin olduğunu söylüyordu: belki bir elektromanyetik darbe, belki şebekenin çöküşü, belki de yapay zekanın kontrolü ele geçirmesi.
Alarm çaldı ve sustu. Ertesi sabah ışıklar yanıyordu, hesaplardaki para da yerindeydi. Bu tür kehanetlerin bilinen bir huyu var; tarih geçince yanlışlanmıyorlar sadece erteleniyorlar.
Yine de bu haftanın komplo teorilerine gülüp geçmek istemiyorum. Çünkü bu sefer, üzerine kuruldukları zemin hayal ürünü değildi. 12 Kasım Perşembe günü Microsoft’un Outlook, Teams ve Copilot’u da kapsayan bulut hizmetleri dünyanın dört bir yanında çöktü. Şirketin kendi ön raporuna göre kesinti neredeyse tam bir gün sürdü. Ertesi gün Amerikan Havacılık İdaresi FAA, ülkedeki bütün kalkışları durdurdu; o gün 12 binden fazla uçuş iptal edildi, Avrupa’dan Amerika’ya kalkışlar da gece boyunca askıya alındı. Pazartesi günü ülkenin en büyük bankası JPMorgan Chase’te işlemler takıldı ve sorun Wells Fargo’dan Bank of America’ya, para transferi uygulaması Zelle’ye kadar yayıldı. Aynı gün CNN, BBC, Zoom, HSBC ve IKEA’nın da aralarında bulunduğu 178 kuruluşun internet sitesine, ziyaretçileri hedef alan kötü amaçlı bir kod yerleştirildi.
E-posta, gökyüzü, banka ve haber siteleri, hepsi dört gün içinde. Bu listeye bakıp “Bu kadarı tesadüf olamaz” diyen birini saflıkla suçlamak kolay. Ama örüntü aramak, insan zihninin varsayılan ayarı. Bir kez bağlantı görmeye başladığınızda, bağlantısızlığı görmek zorlaşıyor.
Peki her birinin arkasından ne çıktı?
Microsoft, kesintinin ne siber saldırıyla ne de yapay zeka ajanlarıyla ilgisi olduğunu söyledi. Şirketin ön raporu, pek çok hizmetin önünde duran bir ağ geçidinde üst üste binen üç etkeni işaret ediyor. FAA’nın sorunu, eski bakır hatları fiberle değiştirme çalışması sırasında Arkansas’ta küçük bir istasyona takılan tek bir router’dı. Ulaştırma Bakanı Sean Duffy’ye göre aynı model cihaz daha önce 68 kez sorunsuz takılmıştı. Chase, sorunu kendi veri merkezindeki donanımda çıkan bir yazılım hatasına bağladı ve siber saldırıya dair hiçbir iz olmadığını açıkladı. Sitelere sızan kod ise büyük şirketlerin web sitelerini test etmek için kullandığı Optimizely adlı bir hizmetin, yeni hesap açma adımındaki bir açıktan girmişti. Şirket açığı ertesi gün kapattı.
Bir router, bir yazılım hatası, bir ağ ayarı, bir kayıt formundaki açık. Bunları birbirine bağlayan gizli bir el yok. Bağlayan şey, modern hayatın ne kadar az sayıda şirketin ve sistemin üzerine kurulduğu. Microsoft’un tek bir ağ geçidi takıldığında dünyanın yarısında bankalar, mahkemeler ve hastaneler aynı anda e-postasız kalıyor. Bir bankanın veri merkezindeki arıza, başka bankaların müşterilerinin de paraya ulaşmasını yavaşlatıyor. Bir test aracındaki tek açık, 178 markanın sitesini aynı anda zehirliyor.
Komplo teorisyenlerinin sorduğu soru yanlış, ama sezdikleri şey doğru; sistem, sandığımızdan daha kırılgan. Onu kıran şey bir plan değil; hepimizin aynı birkaç boruya bağlanmış olması.
Bu haftayı öncekilerden ayıran bir şey daha vardı. Yangına benzin yalnızca TikTok’tan dökülmedi.
ABD İç Güvenlik Bakanı Markwayne Mullin, Pazartesi akşamı Fox News’te, adını vermediği “teknolojiden çok iyi anlayan bir adam”dan dinlediği bir teoriyi aktardı. Buna göre kendi kendine kod yazan ve kendini onaran “süper zeka” programları, bu hıza göre tasarlanmamış eski sistemleri boğuyordu. Bakan bir program adı vermedi, bir kanıt da göstermedi. Siber saldırı olmadığından “yüzde 98 emin” olduğunu söyledi; bu oranın nasıl hesaplandığını açıklamadı.
Oysa Microsoft da FAA da yapay zekayla bir bağlantı bulmadıklarını açıkça söylemişti. Ama bir bakanın ağzından çıkan “belki de yapay zekadır” cümlesi, internetin karanlık köşelerinde “Bakan bile kabul etti” başlığına dönüşmekte gecikmedi tabi.
Hikayenin bir de ironik tarafı var. Bankacılık sisteminin çökeceğini en yüksek sesle haber verenlerin bir kısmı, çareyi de hazır sunuyordu; paranızı kriptoya çevirin. Oysa haftanın gerçek siber saldırısı, yani 178 siteye sızan o kod, tam olarak kripto cüzdanlarını ve kart bilgilerini hedef alıyordu. Saldırıyı ortaya çıkaran güvenlik araştırmacısı Scott Helme’nin incelemesine göre, saldırganların cüzdanlarına daha ilk gün yaklaşık 7 bin dolar akmıştı.
Söylenti Amerika’yla da sınırlı kalmadı. France 24’ün doğrulama ekibine göre Fransızca ve Rusça videolarla Avrupa’ya taşındı. Avrupa hükümetlerinin vatandaşlarına verdiği sıradan hazırlık tavsiyeleri de çarpıtılarak “Biliyorlar, o yüzden hazırlanın diyorlar” kanıtına dönüştürüldü. Avrupa Komisyonu 2025 baharında her haneye, en az 72 saat yetecek su, gıda, ilaç, nakit ve pilli bir radyo bulundurmasını önermişti. Dalga Türkiye’ye de ulaştı; “17 Kasım’da elektrikler kesilecek mi?” sorusu, haber sitelerinin başlıklarına kadar çıktı.
Bu tavsiyelerin hiçbiri bize yabancı değil. Deprem ülkesinde yaşayan herkes, kapının yanında durması gereken o çantayı bilir; su, konserve, el feneri, düdük, ilaçlar, kimliklerin fotokopisi, biraz nakit para. O çantayı hazırlayan kişi kıyameti beklemiyor sadece, bir sabah bir şeylerin aksayabileceğini kabul edip ve buna göre davranıyor.
Komplo teorisiyle sağduyu arasındaki fark tam da burada yatıyor. Komplo teorisi belirsizliği bir tarihe, bir düşmana ve planlı bir kötülüğe bağlar. Bunun nedeni, planlı bir kötülüğün rastgele kırılganlıktan daha teselli edici olması. Ortada bir kötü adam varsa, onu bulmak ve durdurmak mümkün!
17 Kasım geldi ve geçti. Yakında yeni bir tarih dolaşıma girecektir; bu tür kehanetler ölmez, takvimde ileri kayar. Asıl kaygılanmamız gereken, bir sonraki gerçek kesintide hangi bilginin önce yayılacağı. Bu hafta bir bankanın “yazılım hatası” açıklaması birkaç saat içinde geldi. “0,00 dolar” videosu ise günler öncesinden hazırdı.
Salı akşamı bir dakika boyunca çalan o alarm, tam da tasarlandığı işi yaptı. Gerçek bir felakette insanlara ulaşmanın yolunun hala çalışıp çalışmadığını sınadı. Aynı testi kendimize de uygulayabiliriz. Bir sonraki karanlıkta, doğru bilgiye mi ulaşacağız, yoksa önce en korkutucu videoya mı?
