Yapay zeka tarihi, eski benzetmelerin artık işe yaramadığı bir evreye girdi. Karşımızdaki şey artık yalnızca "akıllı bir sohbet robotu", dijital bir başvuru kaynağı ya da metin ve görsel üreten bir oyuncak değil. Gözlerimizin önünde programlamayı, veri analizini, siber operasyonları, bilimsel modellemeyi, iş süreçlerinin yönetimini ve hatta yeni nesil yapay zeka sistemlerinin geliştirilmesini yavaş yavaş üstlenen yeni bir teknolojik altyapı oluşuyor.
Tam da bu nedenle Anthropic şirketinin son uyarısı sıradan bir kurumsal basın açıklaması gibi değil, sektörün kendi içinden gelen bir alarm sinyali gibi duyuldu. Claude model ailesini geliştiren şirket, ileri yapay zeka sistemlerinin gelişiminin yalnızca yeni kurallara değil, riskler kontrolden çıkmaya başlarsa küresel çapta yavaşlatma ya da geçici durdurma imkanına da ihtiyaç duyabileceğini açıkladı. Bu kaygının merkezinde özyinelemeli kendini geliştirme olgusu var. Yani yapay zeka sistemlerinin daha güçlü yapay zeka sistemlerinin oluşturulmasında kilit rol oynamaya başlaması.
Bu artık felsefi bir fantezi değil. Anthropic’in kendi verilerine göre, Mayıs 2026 itibarıyla şirketin iç kod tabanına giren kodların yüzde 80’den fazlası Claude tarafından yazılmıştı. Claude Code’un Şubat 2025’te araştırma modunda kullanıma sunulmasından önce bu oran "düşük tek haneli" seviyelerdeydi. Başka bir deyişle, yapay zeka bir buçuk yıl içinde programcının yardımcısı olmaktan çıkıp dünyanın önde gelen laboratuvarlarından birinin mühendislik çalışmalarının büyük bölümünün içinden geçtiği tam teşekküllü bir üretim hattına dönüştü.
İşte asıl soru burada ortaya çıkıyor: Yapay zeka, yapay zeka geliştiren bir şirket için zaten kod yazıyorsa, araç nerede biter ve otonom teknolojik döngü nerede başlar? Şimdilik insan görevleri formüle ediyor, sonucu kontrol ediyor, mimari kararları alıyor ve sorumluluğu taşıyor. Fakat gidişat açık: Modeller yalnızca güçlenmiyor, aynı zamanda kendi gelişimlerini hızlandıran alanlarda daha yararlı hale geliyor. Programlama, test, hata bulma, altyapı optimizasyonu, sentetik veri üretimi, deney otomasyonu, ajan geliştirme.
Özyinelemeli kendini geliştirme: korku hikayesi mi, mühendislik gerçeği mi?
"Özyinelemeli kendini geliştirme" terimi çoğu zaman bilim kurgu senaryosu gibi duyulur. Makine kendini geliştirir, yeni sürüm bir sonrakini geliştirir, sonra süreç hızlanır ve insan sistemi anlama, denetleme ve sınırlama yeteneğini kaybeder. Gazetecilik dilinde bunu kolayca "makinelerin isyanı" tablosuna dönüştürmek mümkündür. Fakat gerçek sorun bundan daha ince ve daha tehlikelidir.
Kimse bugünkü modellerin iradeye, bilince ya da siyasi niyetlere sahip olduğunu söylemiyor. Tehlike, bu sistemlerin insanı yok etmeyi "istemesinde" değil. Tehlike başka yerde: Yapay zeka sistemleri optimizasyon, otomasyon ve ölçeklendirme için o kadar etkili araçlara dönüşebilir ki hukuk, devlet, emek piyasası, güvenlik sistemi ve bilimsel etik gibi insani kurumlar bu dönüşüme zamanında uyum sağlayamayabilir.
Buradaki özyineleme, sihirli bir kendi kendine evrim anlamına gelmiyor. Bu, pratik bir üretim döngüsü anlamına geliyor. Yapay zeka kod yazmaya yardım ediyor. Bu kod yapay zeka altyapısını iyileştiriyor. İyileşen altyapı daha güçlü modellerin eğitilmesini sağlıyor. Daha güçlü modeller daha iyi kod yazıyor, deneyleri daha iyi tasarlıyor, araştırma süreçlerini daha iyi otomatikleştiriyor. Her aşamada insan zincirin içinde kalıyor, fakat payı azalabiliyor. Bir noktadan sonra denetim doğrudan yönetim olmaktan çıkıp, kontrol edilme hızından daha hızlı hareket eden bir sistemin sonradan incelenmesine dönüşüyor.
Bugünkü evreyi önceki teknolojik devrimlerden ayıran şey de tam olarak budur. Buhar makinesi bir sonraki buhar makinesini tasarlamıyordu. Elektrik ağı daha güçlü bir elektrik ağı için mühendislik düzenlemeleri yazmıyordu. İnternet kitlesel etki yaratacak yeni protokolleri otonom deneyler rejiminde kendi kendine üretmiyordu. Oysa modern yapay zeka sistemleri artık kendi araçlarının, kendi uygulamalarının, kendi arayüzlerinin ve kendi ölçeklenme mekanizmalarının üretimine dahil olmuş durumda.
Fren pedalı: sektör neden hızlanmayı biliyor ama durmayı neredeyse bilmiyor?
Anthropic’in temel formülü son derece basit: Yapay zeka sektörünün gaz pedalı var, fakat fren pedalı yok. Gaz pedalı risk sermayesi, veri merkezleri, grafik hızlandırıcılar, bulut altyapısı, model yarışı, kurumsal sözleşmeler, askeri ilgi, borsa beklentileri, ABD ile Çin arasındaki rekabet, yatırımcı baskısı ve Silikon Vadisi içindeki hız kültüdür.
Fren ise bambaşka bir şeydir. Bağımsız doğrulama, zorunlu yayın öncesi testler, hesaplama kümelerinin denetimi, eğitim süreçleri hakkında raporlama, model kartları, saldırı senaryolarıyla güvenlik sınamaları, model ağırlıklarının siber güvenliği, reddetme rejimleri, ajanların otonom eylemlerinden doğan hukuki sorumluluk, uluslararası denetim mekanizmaları, öncü yapay zeka için standartlar ve şu cümleyi kurmaya dönük siyasi irade: "Yönetilebilirlik kanıtlanana kadar daha ileri gidilemez."
Sorun şu ki fren, yarış ekonomisiyle çelişiyor. Bir şirket gönüllü olarak yavaşlar, rakibi ise yeni modelin eğitimine devam ederse piyasa temkinli olanı cezalandırır. Bir ülke sıkı kısıtlamalar getirir, başka bir ülke azami hızlanma rejimini sürdürürse stratejik eşitsizlik doğar. Kapalı laboratuvarlar duraklamayı kabul eder, fakat açık ya da devlet destekli yapılar gölgede deneylere devam ederse, duraklama daha az sorumlu aktörlere verilmiş bir hediyeye dönüşür.
Bu nedenle Anthropic romantik bir "gelin hep birlikte duralım" çağrısı yapmıyor. Koordine edilmiş ve denetlenebilir bir mekanizmadan söz ediyor. Denetim olmadan herhangi bir duraklama anlamsızdır. Fakat yapay zekada denetim, nükleer alandaki denetimden daha zordur. Bir füze silosunu saklamak güçtür. Uranyum zenginleştirme tesisi fiziksel izler bırakır. Oysa bir modelin eğitimi bulut gücüne dağıtılabilir, ticari görevlerin arkasına gizlenebilir, aşamalara bölünebilir, araştırma amaçlı hesaplama gibi gösterilebilir ya da asgari denetimin bulunduğu bir yetki alanına taşınabilir.
Asıl tehlike kötü yapay zeka değil, çok güçlü yapay zekaya sahip insanlardır
Yapay zeka tartışmalarının en zayıf tarafı, isyan eden makine imgesine saplanıp kalmasıdır. Pratikte ilk ve en olası riskler fantastik senaryolar değil, son derece dünyevi kötüye kullanımlardır.
Yapay zeka şimdiden siber istihbaratı, otomatik oltalamayı, zafiyet aramayı, zararlı kod üretimini, kişiselleştirilmiş propagandayı, siyasi etki operasyonlarını, sentetik içeriklerin kitlesel üretimini, uzman taklidini, toplumsal grupların manipülasyonunu ve bürokratik denetimin otomasyonunu güçlendiriyor. Yapay zeka ajanları ne kadar otonom hale gelirse, karmaşık operasyonlar yürütmek için o kadar az insana ihtiyaç duyulur. Eskiden büyük ölçekli bir dezenformasyon kampanyası için ekip gerekirdi: analistler, metin yazarları, çevirmenler, tasarımcılar, hedefleme uzmanları, ağ yöneticileri. Şimdi bu üretim hattının önemli bir bölümü otomatikleştirilebilir.
Özellikle tehlikeli olan şey "model artı araçlar" birleşimidir. Dil modeli yalnızca sohbet penceresinde yanıt verdiği sürece riski arayüzle sınırlıdır. Fakat tarayıcıya, komut satırına, kurumsal veri tabanına, e-postaya, ödeme sistemine, müşteri ilişkileri yönetim sistemine, bulut altyapısına, kod deposuna ve dış hizmetlerin programlama arayüzlerine erişim aldığında ajana dönüşür. Böyle bir ajan artık yalnızca metin yazmaz. Eylemde bulunur.
Mühendislik açısından bu, üretken yapay zekadan ajan temelli yapay zekaya geçiş anlamına gelir. Model bir hedef alır, adımları planlar, araçları çağırır, ara sonucu kontrol eder, hataları düzeltir ve döngüyü sürdürür. Claude Code mimarisi üzerine yapılan incelemeler, modern ajan sistemlerinin tekrarlanan bir döngü etrafında kurulduğunu gösteriyor: model durumu analiz eder, aracı seçer, eylemi gerçekleştirir ve sonucu yeniden bağlama aktarır. Bu çekirdeğin etrafında izin sistemleri, güvenlik sınıflandırıcıları, bağlam yönetimi, çalışma ortamlarının yalıtımı ve kayıt tutma mekanizmaları oluşur.
Bu "bilinç" değildir. Bu, eylemin otomasyonudur. Fakat güvenlik dünyası açısından fark bazen o kadar da önemli değildir. Bir sistem kendi başına zafiyet bulabiliyor, istismar kodu yazabiliyor, komut çalıştırabiliyor, dosyaları değiştirebiliyor ve sonuçları maskeleyebiliyorsa, onun "iç dünyası" hakkındaki soru ikincil hale gelir. Asıl mesele şudur: Onu kim çalıştırdı, hangi erişim haklarına sahip, sorumluluğu kim taşıyor ve durdurulabilir mi?
Ekonomi baskı altında: yapay zeka emeği hemen yok etmiyor, yetkinliğin fiyatını değiştiriyor
Riskin bir başka katmanı emek piyasasıdır. Kamusal söylemde genellikle şu soru sorulur: "Yapay zeka insanların yerini alacak mı?" Bu fazla kaba bir sorudur. Daha doğru formül şudur: Hangi insan emeği türleri benzersizliğini kaybedecek, hangileri ucuzlayacak, hangileri güçlenecek ve hangileri otomatik sistemlerin gözetimine dönüşecek?
Anthropic Economic Index’in dört milyondan fazla Claude konuşmasına dayanan verileri, yapay zeka kullanımının özellikle programlama ve yazılı görevlerde yoğunlaştığını gösteriyor. Bu iki alan birlikte kaydedilen tüm etkinliğin neredeyse yarısını oluşturuyor. Aynı zamanda mesleklerin yaklaşık yüzde 36’sı, kendileriyle ilişkili görevlerin en az dörtte biri için yapay zekayı kullanıyor. Vakaların yüzde 57’sinde insan faaliyetini güçlendirme, yüzde 43’ünde ise görevin asgari insan katılımıyla otomatikleştirilmesi söz konusuydu.
Bu önemli bir veridir. Yapay zekanın yalnızca "yardım etmediğini" gösterir. Yapay zeka artık ekonomiye üretkenliği yeniden dağıtan bir mekanizma olarak giriyor. İyi bir uzman yapay zeka ile daha hızlı hale geliyor. Orta düzey bir uzman yapay zeka ile daha önce bir ekip gerektiren işi yapabiliyor. Yapay zeka kullanan şirket başlangıç pozisyonlarına daha az kişi alabiliyor. Yeni başlayan birinin mesleğe girmesi zorlaşıyor, çünkü genç çalışanların eskiden üzerinde öğrenim gördüğü rutin görevler otomatikleştiriliyor.
Programlama alanındaki durum özellikle çarpıcıdır. Claude Code’un GitHub verileri üzerinden 2025-2026 yıllarındaki kullanımı üzerine yapılan çalışma, yapay zeka aracının ortaya çıkmasından sonra geliştirici faaliyetinde artış olduğunu gösteriyor: aylık kod gönderimlerinin sayısı artıyor, depo sayısı genişliyor, kullanılan programlama dillerinin çeşitliliği yükseliyor. Bu, her durumda nedenselliğin kesin kanıtı değildir; fakat işaret açıktır: Yapay zeka geliştiricilerin davranışını değiştiriyor ve yeni teknoloji alanlarına giriş engellerini düşürüyor.
Bir sonraki darbe yalnızca programcıları vurmayacak. Analistler, çevirmenler, editörler, başlangıç düzeyindeki hukukçular, danışmanlar, pazarlamacılar, destek çalışanları, muhasebe asistanları, proje koordinatörleri, içerik yöneticileri ve uyum uzmanları da baskı altında kalacak. Fakat tamamen ortadan kalkacak olan şey mesleklerin bütünü değil, mesleklerin içindeki belirli görevler olacak. Bu nedenle kazananlar "tek bir programı bilenler" değil, görev tanımlayabilen, sonucu kontrol edebilen, konu alanını anlayan, stratejik bağlamı görebilen ve güzel görünen yanıtı güvenilir sonuçla karıştırmayanlar olacak.
Yapay zeka sistemlerini düzenlemek neden petrolden, bankalardan ya da atomdan daha zor?
Sıkı denetim yanlıları tarihsel benzetmeleri sever: nükleer silahlar, havacılık, ilaç sektörü, finans, petrol endüstrisi. Bütün bu alanlar felaketler, krizler ve siyasi baskılar sonrasında düzenleyici çerçevelere kavuştu. Fakat yapay zeka onlardan birkaç açıdan ayrılıyor.
Birincisi, yapay zeka genel amaçlı bir teknolojidir. Tek bir sektörle sınırlı değildir. Aynı model kod yazabilir, tıbbi verileri analiz edebilir, hukuk uygulamalarına yardımcı olabilir, reklam metinleri oluşturabilir, proteinleri modelleyebilir, oltalama e-postaları üretebilir, robotları yönetebilir ve müşteriyle görüşme yürütebilir.
İkincisi, yapay zeka dijital biçimde ölçeklenir. Bir uçaktaki hata tek bir uçakta kalır. Kitlesel olarak devreye alınmış bir modeldeki hata ise anında milyonlarca kullanıcı oturumuna yayılabilir.
Üçüncüsü, araştırma, ürün ve altyapı arasındaki sınır bulanıktır. Laboratuvar modeli araştırma modeli, girişim şirketi ticari model, devlet stratejik model, kullanıcı ise gündelik araç olarak adlandırabilir. Fakat teknik temel aynı olabilir.
Dördüncüsü, risklerin çoğu yerel değil, sistemiktir. Bir milyon kullanıcının elindeki zayıf model, kapalı bir ortamda tutulan güçlü modelden daha fazla zarar verebilir. Bunun tersi de mümkündür: Askeri ya da istihbari sistemdeki aşırı güçlü bir model, kitlesel erişim olmadan bile stratejik istikrarsızlık unsuru haline gelebilir.
Beşincisi, yapay zekanın denetimi tek bir teste indirgenemez. Model standart bir ölçütte başarılı olup gerçek ortamda başarısız olabilir. Laboratuvar koşullarında güvenli davranıp karmaşık istem enjeksiyonu, uzun bağlam, araç erişimi ya da başka ajanlarla etkileşim sırasında farklı davranabilir.
Bu nedenle modern standartlar giderek daha fazla "güvenlik sertifikası"ndan değil, risk yönetiminin yaşam döngüsünden söz ediyor: tehdit modelleme, saldırı senaryolarıyla güvenlik sınamaları, değerlendirme düzenekleri, olay raporlama, izleme, geri alma, erişim kontrolü, model ağırlığı güvenliği, güvenli devreye alma, insan denetimi ve denetim kayıtları. NIST’in üretken yapay zeka risk yönetimi profilinde bu sistemler, piyasaya sürülmeden önce yapılan tek seferlik kontrolün değil, sürekli değerlendirme ve yönetimin konusu olarak tarif ediliyor.
Avrupa hukuki çerçeveyi şimdiden kuruyor. ABD ise hızlanma ile kontrol arasında denge arıyor
Avrupa Birliği, yapay zeka yönetimini kapsamlı bir hukuki sisteme dönüştürmeye çalışan ilk aktör oldu. Avrupa Birliği Yapay Zeka Yasası artık aşamalı yükümlülükler getiriyor: yasaklı uygulamalar ve yapay zeka okuryazarlığına ilişkin şartlar 2 Şubat 2025’ten itibaren uygulanmaya başladı; genel amaçlı modeller için kurallar 2 Ağustos 2025’ten itibaren yürürlüğe girdi; yüksek riskli sistemlere ilişkin bazı hükümler ise daha sonra, 2028’e kadar uzanan geçiş dönemiyle uygulanacak.
Bu kusursuz bir model değil. Avrupa yaklaşımı karmaşıklığı, bürokratik yükü ve yenilikleri yavaşlatma riski nedeniyle eleştiriliyor. Fakat avantajı şurada: Bu yaklaşım en azından yapay zekanın yalnızca uygulama pazarı olmadığını, iktidar, güvenlik ve insan hakları altyapısı olduğunu kabul ediyor. Genel amaçlı modeller özel bir rejim gerektirir; çünkü bu modeller, ilk geliştiricinin her somut kullanım biçimini artık kontrol edemediği binlerce alt uygulamaya yerleştirilebilir.
ABD farklı hareket ediyor. Amerikan modeli geleneksel olarak daha çok gönüllü standartlara, devlet ile laboratuvarlar arasındaki ortaklığa, ulusal güvenliğe ve rekabet mantığına dayanıyor. ABD Ulusal Standartlar ve Teknoloji Enstitüsü risk yönetimi çerçeveleri öneriyor, ancak bunlar büyük ölçüde gönüllü niteliktedir. Aynı zamanda Washington kendi şirketlerini aşırı ölçüde yavaşlatmayı göze alamaz; çünkü yapay zeka Çin ile stratejik rekabetin bir parçası haline gelmiştir.
Çin ise yapay zekaya sanayi atılımının, devlet yönetiminin, askeri modernizasyonun ve ideolojik kontrolün aracı olarak bakıyor. Bu nedenle küresel duraklama fikri sert bir jeopolitik gerçeklikle karşılaşıyor: hiçbir büyük güç, rakibinin bilimi, istihbaratı, siber kabiliyetleri, robot teknolojilerini ve savunma planlamasını hızlandırabilecek bir teknolojiye ilk ulaşmış olduğu bir dünyaya uyanmak istemiyor.
Gönüllü duraklama neredeyse imkansız. Fakat yönetilebilir yavaşlama zorunlu
En saf senaryo, önde gelen laboratuvarların kendi aralarında sadece "daha dikkatli olma" konusunda anlaşacağını düşünmektir. Bu işlemeyecektir. Bahis çok büyük. Yapay zeka pazarı artık yüz milyarlarca dolarlık değerlemelerle, gelecekteki halka arzlarla, devlet sözleşmeleriyle, bulut devleriyle, çip üreticileriyle ve borsanın beklentileriyle bağlantılıdır. Hızlanmadan çıkarı olan çok fazla oyuncu var.
Uluslararası Yapay Zeka Güvenliği Raporu 2026 verilerine göre, 2025 yılında 12 şirket öncü yapay zeka için kendi güvenlik çerçevelerini yayımladı ya da güncelledi. Bu hiçbir şeyden iyidir. Fakat bu girişimlerin çoğu gönüllü kalıyor. Gönüllü güvenlik, güvenliğin rekabet üstünlüğünü engellemeye başladığı ilk ana kadar iyidir.
Bu nedenle mesele ilerlemeyi romantik biçimde durdurmak değil, sert bir risk seviyeleri sistemi kurmak olmalıdır.
Birinci seviye, kritik araçlara erişimi olmayan sıradan modellerdir.
İkinci seviye, sınırlı ortamda çalışan ajan işlevlerine sahip modellerdir.
Üçüncü seviye, otonom biçimde kod yazıp çalıştırabilen, dış sistemlerle çalışabilen ve siber analiz yapabilen modellerdir.
Dördüncü seviye, tehlikeli yetenek belirtileri taşıyan modellerdir: biyolojik tasarımda yardım, otonom siber operasyonlar, koruma mekanizmalarını aşma, stratejik planlama, ölçeklenebilir etki operasyonları.
Beşinci seviye, sonraki modellerin geliştirilmesini ciddi biçimde hızlandırabilen ve araştırma döngüsünde insanın rolünü azaltabilen modellerdir.
Her seviye için farklı şartlar olmalıdır: basit belgelendirmeden zorunlu dış denetime, hesaplama süreçlerinin lisanslanmasından model ağırlıklarına erişim kontrolüne, kimyasal, biyolojik, radyolojik ve nükleer risk testlerinden otonom davranış sınamalarına, siber uzman incelemelerinden acil durdurma mekanizmasına kadar.
Açık kaynak: özgürlük mü, kırılganlık mı?
Ayrı bir sorun da açık modellerdir. Bu modellerin güçlü bir argümanı var: açıklık teknoloji devlerinin tekelini azaltır, üniversitelere, küçük işletmelere ve bağımsız geliştiricilere teknolojiye erişim sağlar, şeffaflığı artırır ve yenilikleri hızlandırır. Fakat açıklığın karanlık bir tarafı da vardır: tehlikeli yeteneklere sahip bir model serbest biçimde yayımlandığında, onu geri almak imkansızdır.
Kapalı bir model devre dışı bırakılabilir, sınırlandırılabilir, güncellenebilir, uygulama programlama arayüzü erişimi geri çekilebilir, filtreleri güçlendirilebilir, izleme sistemi eklenebilir. Fakat açık ağırlıklar ağa düştüğünde kendi hayatlarını yaşamaya başlar. Bu modeller yeniden eğitilebilir, kısıtlamaları kaldırılabilir, zararlı araçlara yerleştirilebilir, yerel olarak çalıştırılabilir ve sağlayıcının görüş alanı dışında kullanılabilir.
Bu, tüm açık modellerin tehlikeli olduğu anlamına gelmez. Fakat açıklık meselesinin yetenek seviyesine bağlı olması gerektiği anlamına gelir. Küçük bir eğitim modeliyle zararlı yazılım üretiminde, biyolojik deneylerin tasarımında ya da kritik altyapıdaki zafiyetlerin otomatik aranmasında yardımcı olabilecek bir sisteme aynı felsefeyle yaklaşmak mümkün değildir.
Asıl soru: denetleyenleri kim denetleyecek?
Anthropic’in uyarısı doğal olarak kuşku uyandırıyor. Sektörün en pahalı şirketlerinden biri yavaşlama çağrısı yaptığında, eleştirmenler bunda yalnızca insanlık kaygısı değil, kurumsal hesap da görür. Eğer zaten öne geçtiysen, kendi gelişmişlik düzeyini düzenleyici norma dönüştürmek ve arkadan gelenlerin hayatını zorlaştırmak işine gelir. Tam da bu nedenle yapay zeka kuralları laboratuvarların ticari çıkarları doğrultusunda bizzat laboratuvarlar tarafından yazılmamalıdır.
Fakat bunun tersi olan uç tutum daha da tehlikelidir. Bir uyarıyı yalnızca onu çıkar sahibi bir oyuncu yaptığı için reddetmek mümkün değildir. İçeridekiler gerçekten de kamuoyunun görmediği şeyleri görür: mühendislik ilerlemesinin hızını, iç ölçütleri, modellerin kapalı testlerdeki davranışını, araştırmalardaki otomasyon seviyesini, devlet kurumlarından gelen gerçek talepleri, yatırımcı baskısını, ajan sistemlerinin kabiliyetlerini.
Doğru yaklaşım, şirketlerin sözüne körü körüne güvenmemek, fakat sinyallerini de görmezden gelmemektir. Bağımsız değerlendirme kurumlarına, devlet düzeyinde yapay zeka güvenliği kuruluşlarına, uluslararası uzman panellerine, araştırmacıların modelleri test etmesine imkan sağlayan erişim mekanizmalarına, olayların güvenli biçimde bildirilmesini sağlayan kanallara, temel güvenlik değerlendirmesi sonuçlarının zorunlu yayımlanmasına ve tehlikeli yeteneklerin gizlenmesi halinde sorumluluk rejimine ihtiyaç vardır.
Yapay zeka üzerindeki kontrol ne şirketlere, ne bürokrasiye, ne orduya, ne de aktivistlere devredilebilir. Bu, çıkar çatışmalarını, karşılıklı denetimi ve teknik yetkinliği içeren çok katmanlı bir sistem olmalıdır.
Yapay zekadan korkmak gerekmez. Onu siyasi ve teknik olarak dizginlemek gerekir
En büyük hata, tartışmayı panik ile coşku arasında bir tercihe indirgemektir. Yapay zeka şimdiden büyük yararlar sağlıyor: programlamayı hızlandırıyor, hekimlerin veri analizine yardımcı oluyor, eğitime erişimi artırıyor, çeviriyi iyileştiriyor, rutini otomatikleştiriyor, bilim insanlarının büyük bilgi yığınlarıyla çalışmasına yardım ediyor, engelli bireylerin imkanlarını genişletiyor, karmaşık mesleklere giriş engellerini düşürüyor.
Fakat bu ölçekte bir teknoloji "önce piyasaya sürelim, sonra bakarız" rejiminde gelişemez. Toplum sosyal medya çağına tam da böyle girmişti: önce iletişim özgürlüğü coşkusu, sonra algoritmik radikalleşme, bilgi balonları, siyasi manipülasyon, kamusal tartışmanın bozulması ve güven krizi. Yapay zekada hatanın bedeli daha yüksek olabilir.
Fren pedalı ilerlemenin yasaklanması anlamına gelmez. Toplumun, direksiyonunda risk sermayesi fonlarının, laboratuvarların ve jeopolitik karargahların bulunduğu bir aracın yolcusu olmama hakkı anlamına gelir. Uygulama hızının yalnızca teknik olarak mümkün olana değil, toplumsal, siyasi ve güvenlik bakımından kabul edilebilir olana da bağlı olması gerektiği anlamına gelir.
Dünya, zekanın iktidar altyapısına dönüştüğü bir çağa giriyor
Yirmi birinci yüzyılda yapay zeka, yirminci yüzyılda petrolün, atomun, havacılığın, hesaplama teknolojilerinin ve internetin aynı anda oynadığı role benzer bir rol oynayacaktır. Ekonomik büyüme kaynağı, stratejik üstünlük silahı, gözetim aracı, anlam üretim fabrikası, bilimin motoru ve yönetim mekanizması haline gelecektir.
Tam da bu nedenle Anthropic’in sorusunu tek bir şirketin kurumsal dramına indirgemek mümkün değildir. Bu, daha derin bir kırılmanın belirtisidir. İnsanlık, aynı türden sistemlerin bir sonraki kuşağının oluşturulmasına katılmaya başlayan sistemler yaratıyor. Bu süreç tıpta, enerjide, malzeme biliminde, eğitimde ve üretkenlikte sıçramalar sağlayabilir. Fakat aynı süreç yeni tip siber silahlar, mesleklerin keskin biçimde değersizleştiği bir emek piyasası, otoriter aşırı gözetim sistemleri ve insanın gerçekliği sentetik taklitten ayırt etmekte zorlandığı bir bilgi ortamı da doğurabilir.
Gerçek yol ayrımı yapay zeka ile yapay zekanın yokluğu arasında değildir. Böyle bir yol ayrımı artık yok. Yapay zeka kalacaktır. Soru başkadır: Yapay zeka hukuk, denetim ve siyasi sorumluluk altında yönetilebilir bir altyapı olarak mı gelişecek, yoksa her yeni sürümün rakibin gerisinde kalma korkusuyla meşrulaştırıldığı kapalı laboratuvarlar yarışı olarak mı ilerleyecek?
Bugün gaz pedalı neredeyse sonuna kadar basılmış durumda. Veri merkezleri kuruluyor. Modeller ölçekleniyor. Ajanlar araçlara erişiyor. Kodu makineler yazıyor. Ekonomi yeniden yapılanıyor. Devletler askeri ve istihbari kullanıma dikkatle bakıyor.
Şimdi asıl soru son derece sert biçimde şöyle duyuluyor: İnsanlık, hız yönetme kabiliyetinin üzerine çıkmadan önce freni kurmayı başarabilecek mi?