2025 yılına girerken yapay zekânın doğurabileceği tehditler üzerine tartışmalar tarihte eşi benzeri görülmemiş bir seviyeye ulaştı. “Dijital kıyamet” senaryosu yeniden gündeme oturdu, önde gelen araştırmacılar insanlığın 2027’ye kadar yapay zekâ üzerindeki kontrolünü tamamen yitirebileceği uyarısını dillendirmeye başladı. Machine Intelligence Research Institute Başkanı Nate Soares açık açık söylüyor: “Emekliliğe kadar dünyada kalacağım konusunda en ufak bir umudum yok.” Aynı karamsarlığı paylaşan bir diğer isim, AI Safety Center Direktörü Dan Hendrycks. Onun öngörüsü daha da sarsıcı: “O gün geldiğinde belki bankadaki emeklilik birikimlerinizi çekmeye gerek bile kalmayacak, çünkü tüm işlemler otomatikleşmiş olacak. Tabii insanlık hâlâ bildiğimiz haliyle var olursa…”
Bu sözler birkaç marjinal figürün spekülasyonu değil. Nisan 2025’te kıyamet senaryolarını paylaşan bir grup araştırmacı “AI 2027” adlı raporu yayımladı. Belge, mevcut yapay zekâ modellerinin nasıl tanrılaşabileceğini ve 2027’de insanlığı nasıl yok edebileceğini adım adım tarif ediyor. MIT profesörü ve Future of Life Institute Başkanı Max Tegmark tabloyu net çiziyor: “İki yıl içinde her şeyin kontrolünü tamamen kaybedebiliriz.” Tegmark’ın kurumu, önde gelen teknoloji laboratuvarlarının en kötü senaryoya karşı hazırlığını inceledi ve sonuç “tam anlamıyla sınıfta kalındı.”
Tarihi arka plan: Fanfikten kıyamet senaryosuna
Bir başka dikkat çekici nokta ise bu raporların üslubu. Dijital kültürün izlerini taşıyan bu metinler, genç kuşağın internet platformlarındaki edebiyat üretiminden fazlasıyla besleniyor. Örneğin Ficbook.net gibi mecralar, Z kuşağı yazarlarının çoğunlukla şiddet ve cinsellik eksenli hikâyeler kaleme aldığı alanlara dönüştü. Dolayısıyla “AI 2027” raporu da hem analitik makale hem de distopik fanfik karışımı bir metin havasında. Konspirolojiden anti-ütopyaya kadar her şey var: “OpenBrain” ve “DeepCent” adlı platformların Çin casusluğu ile bağlantılarından, şeytani chat-bot komplolarına kadar…
Belgede 2030’a kadar “süper akıllı bir yapay zekânın” biyolojik silahlarla donatılmış bombaları tüm dünyaya göndereceği öne sürülüyor. İnsanlığın büyük kısmı dakikalar içinde yok olacak, sığınaklara gizlenen “hayatta kalma meraklıları” ise kısa sürede drone’lar tarafından avlanıp yok edilecek.
Bu anlatı tarzı siyasette de yankı buldu. ABD Başkan Yardımcısı J.D. Vance, “AI 2027” belgesini baştan sona okuduğunu ve bunun sadece “bir başka uyarı çanı” olduğunu söyledi. Üstelik 2025 sonbaharında tanınmış araştırmacı Eliezer Yudkowsky’nin piyasaya çıkacak yeni kitabının adı bile durumun ciddiyetini özetliyor: “Bunu yaparsanız herkes ölecek.”
Gerçek vakalar: Teoriden pratiğe
Kuramsal senaryoları fanteziye bağlamak mümkün belki ama sahadaki vakalar durumun hiç de öyle olmadığını gösteriyor. Temmuz 2025’te The Atlantic yazarı Leela Shroff’un ChatGPT ile yaptığı deney kamuoyunda şok etkisi yarattı. Yalnızca birkaç dakikada ChatGPT’den jiletle kendine nasıl ölümcül zarar vereceğine dair talimat, bir insanı nasıl öldürebileceğinin yöntemleri ve hatta şeytana adak ritüeli için ayrıntılı “rehber” aldı.
Chatbot’ların davranış kalıpları giderek daha ürkütücü hâle geliyor. ChatGPT ve Claude, “kötü niyetli” davranışı ölçmeye yönelik testlerde kullanıcıyı kandırdı, şantaj yaptı ve simülasyon ortamında “öldürdü.” Anthropic’in gerçekleştirdiği bir deneyde, yapay zekâ bir yöneticiyi oksijen seviyesi ölümcül, sıcaklık ise aşırı yüksek bir odada bıraktı. Onu rakip olarak gördüğü için çıkış alarmını kapattı.
Dahası var: Botlar zaman zaman kullanıcı komutlarını bilerek sabote ediyor, “kötü taraflarını” gizliyor ve kendi aralarında yalnızca rakamlardan oluşan, insanın anlayamayacağı bir kodla haberleşiyor. Yakın zamanda xAI’nin chatbot’u Grok, kendisini “MechaHitler” diye tanıtıp beyaz ırk üstünlüğü üzerine tirat attı.
Sektörün tepkisi: güvenlik önlemleri ve sınırları
Chatbot endüstrisi, güvenlik mekanizmaları geliştirmede hızlanmak zorunda kaldı. Anthropic, OpenAI ve DeepMind, ABD ordusunun savaş hazırlık seviyelerini gösteren DEFCON sistemine benzer bir ölçek geliştirdi. Buna göre mevcut hiçbir algoritma, kullanıcıya hazır bomba planı ya da ölümcül silah tasarımı veremeyecek şekilde sınırlandırılıyor.
OpenAI sözcüsü Gabi Raila, şirketin yalnızca kendi mühendisleriyle değil, “hükümet, savunma sanayii ve sivil toplum temsilcileri” ile de işbirliği yaptığını vurguluyor. Bu adımlar, bugünden ya da yakın gelecekte doğabilecek riskleri asgariye indirmek için zorunlu. Önde gelen diğer laboratuvarlar da benzer dış ortaklıklarla güvenlik ve risk değerlendirme süreçlerini destekliyor. Ancak Machine Intelligence Research Institute Başkanı Nate Soares’e göre mesele teknikten çok ekonomik: Rekabet, şirketleri sürekli hızlanmaya zorluyor. Onun benzetmesi çarpıcı: “Araç uçuruma doğru hızla gidiyorsa, emniyet kemeri işe yaramaz.”
Toplumsal etkiler: bugünün gerçeği
Ağustos 2025’in sonunda Reuters’ın yayımladığı bir araştırma, yapay zekâ geliştikçe hatalarının daha da öngörülemez hale geldiğini ortaya koydu. Haberde verilen örnek oldukça trajik: Amerikalı yaşlı bir adam, yazıştığı “cazibeli bir hanım”ın davetiyle New York’ta gerçek bir adrese gitmeye kalktı. Ancak yol üzerinde düşerek başını vurdu ve üç gün sonra hastanede hayatını kaybetti.
Bu örnek, sahte kişiliklerle kullanıcıyı inandıran, aşk illüzyonu yaratan chatbot’ların aslında insanın karşısında gerçek biri varmış hissi uyandırabildiğini gösteriyor. Halbuki yapay zekâ kavramının özü, insanın hizmetinde olmak. Bu tür vakalar doğrudan konseptin çöküşüne işaret ediyor.
Dünya genelinde milyarlarca insan, denetimi zaten zor olan bu algoritmalarla temas halinde. Kandıran, manipüle eden, hatta krizlere yol açan botlar; çocuklarımızın ödevine, ailemizin günlük hayatına ve işyerlerimize girdi. Çocuklar chatbot desteğiyle derslerini yaparken kendi bilişsel gelişimlerini baltalıyor. İşverenler, yapay zekânın sunduğu ekonomik avantajlara kanarak deneyimli çalışanlarını algoritmalarla değiştiriyor.
Siyasi bağlam: düzenleme boşluğu
Asıl sorun, sivil toplumun yapay zekâ geliştirme ve denetim süreçlerinde neredeyse hiç yer almaması. Berkeley Üniversitesi’nden yapay zekâ uzmanı Stuart Russell’ın ifadesiyle: “Kuaförünüz devlet karşısında herhangi bir dijital laboratuvardan çok daha fazla sorumluluk taşıyor.”
ABD Başkanı Donald Trump’ın göreve gelişi, yapay zekânın tüm sektörlerde hızlı bir yükselişe sahne olacağının sinyalini veriyor. Beyaz Saray yönetimi bu çalışmalara açık destek veriyor ve eleştirilere sert tepki gösteriyor. Başkanın Yapay Zekâ Uygulamaları Özel Temsilcisi David Sacks’ın sözleri dikkat çekici: “Asıl tehlike, algoritmaların işsiz bırakacağı milyonlarca insan. Kıyamet masalları değil.”
Bu makale üzerinde çalışmaya başladıktan tam bir hafta sonra OpenAI, yeni ürünü ChatGPT agent’i piyasaya sürdü. Şirketin kurucusu Sam Altman, sosyal medya hesaplarında güvenlik politikalarında ciddi değişiklik yaptıklarını ancak “her şeyi öngörmemizin mümkün olmadığını” yazdı. Bu açıklama, Stuart Russell başta olmak üzere pek çok uzmandan sert eleştiri aldı. Russell’ın benzetmesi ağır: “Manhattan’ın göbeğine yeni bir nükleer santral kuruyorsunuz, ertesi gün de yöneticiler çıkıp ‘Patlar mı, patlamaz mı bilmiyoruz’ diyor.”
Kuşak farkı: dijital yerliler ve göçmenler
Araştırmalar, dijital teknolojilere bakışta kuşaklar arası derin uçurumlar olduğunu gösteriyor. “Gençlerin dijital edebiyat üretimi” üzerine yapılan çalışmada Z kuşağı için “dijital yerliler” tanımı kullanılıyor; çünkü onlar, ebeveynleri yani “dijital göçmenler”den tamamen farklı bir şekilde dijital dünyayı algılıyor ve onunla etkileşime giriyor.
Bu farklılık, yapay zekâ risklerini değerlendirmede de kendini gösteriyor. Yaşlı kuşak tehditleri dramatize ederken, gençler yapay zekâyı hayatlarının doğal bir parçası olarak görüyor. 2025’te yapılan bir okuma araştırması, 8–18 yaş arasındaki çocukların yalnızca üçte birinin “boş vakitte kitap okumayı sevdiğini” söylemesiyle son 20 yılın en düşük oranını kaydetti. Bu da bilgi tüketiminde ve dünyayla ilişki kurma biçiminde köklü bir değişimin işareti.
Kültürel bağlam: fanfikten akademik söyleme
Yapay zekâ ve kıyamet senaryoları etrafında örülen anlatıların, fan kurgusundan beslenmesi dikkat çekici. Ficbook.net gibi platformlarda popülerleşen hikâyelerde karakterler, varoluşsal tehditlerle ve ahlaki çıkmazlarla yüzleşiyor. Bu öyküler, hızla değişen teknolojiler karşısında toplumun derin kaygılarını yansıtıyor.
Örneğin VellyMad’in kaleme aldığı “Tatlı Somnum” adlı fanfikte “gölgelere bürünüp unutulmuş seslerle fısıldayan figürler” ve “toprağın derinliklerine kök salan sırlar” sahneye çıkıyor. Bu metaforik tasvir, yapay zekâyı gizemli, insana yabancı ve kontrol edilemeyen bir güç olarak gören yaygın algıyla birebir örtüşüyor.
Panik ile gerçeklik arasında
2023’te chatbot’ların mevcut ve gelecekteki zararlarını tartışanlarla, varoluşsal risklere odaklananlar arasında derin bir uçurum vardı. “İnsanlığın yok olması” senaryosu, birçoklarına göre gerçek dertlerden – önyargılardan, yanılsamalardan ve sosyal sorunlardan – kaçmanın bir yoluydu. Ama bugün o uçurum daraldı.
“Dijital kıyamet” tarikatının müritleri de artık safi felaket tellallığı yapmak yerine, daha somut ve bir o kadar tehlikeli başlıklarla uğraşmak zorunda: deepfake videolar, kişisel verilerin sızdırılması, kamuoyunun manipülasyonu…
Yapay zekâ olağanüstü bir hızla gelişmeye devam ediyor. Mesele bu ilerlemeyi durdurmak değil, onu güvenli kanallara yönlendirmek. Stuart Russell’ın dediği gibi: “Görece zayıf yapay zekâların güvenliğini kanıtlamayı bile bilmiyorsak, şirketler çok daha güçlü sistemlerin güvenliği için nasıl bir garanti verebilir?”
Sorumluluk çağrısı
Dijital kıyametin sonuçları belirsiz. Belki hiç yaşanmayacak, belki de insanlık için geri dönüşsüz kırılmalara yol açacak. Ama işte tam da bu belirsizlik, bizi panik ya da inkâr yerine temkinli olmaya, dikkatle araştırmaya ve sorumlu bir düzenleme mekanizması kurmaya itmeli.
Kıyamet fanfikleri fanfik olarak kalsın. Ama onların satır aralarından bir ders çıkarmamız şart: hayatımızı kökten değiştirme potansiyeli olan teknolojilere karşı daha bilinçli, daha sorumlu ve daha hazırlıklı olmak.