Bruksel sahte icerige para cezasi uygulamaya baslarken, Brasilia hala yasanin maddeleri uzerinde tartisiyor; YouTube algoritmalari ise ideal kurbani coktan buldu: yetmis yasini asmis insanlar.
82 yasindaki Brezilyali bir kadin, bir gun YouTube'da beyaz onluklu bir erkegin sakin bir sesle, ileri yasta beslenmenin gorme yetisini korumaya nasil yardimci oldugunu anlattigi bir videoya rastladi. Hic tereddut etmeden inandi.
Platform, videonun yapay zeka ile olusturuldugunu acikca belirtmisti; uyari dogrudan oynaticinin uzerinde yer aliyordu. Kadin bu ibareyi ya fark etmedi ya da onemsemedi: karsisinda gercek bir doktor oldugundan emindi.
Oysa ortada gercek bir doktor yoktu. Yuzu, sesi ve tonlamalari bir algoritma tarafindan uretilmisti; videoyu yayinlayan kanal ise hastalari tedavi ederek degil, onlarin kaygilarini reklam gosterimlerine donusturerek para kazaniyordu.
Bu tek videonun arkasinda ne bir tesaduf ne de sinir aglarina merakli sira disi bir amator var. Aksine, herhangi bir dilde ve herhangi bir hastalik uzerinden ayni basariyla uygulanabilecek, duzenli ve kolayca tekrarlanabilir bir ticari model soz konusu.
70 milyon izlenme: sahte tip bir sektore donustu
Bu vaka bir istisna degil, butun bir sektorun belirtisi.
Veri gazeteciligi alaninda uzmanlasan Brezilyali kar amaci gutmeyen CTRL+Z kurulusunun arastirmasi, yapay zeka tarafindan uretilmis sahte doktorlari kullanan ve toplamda en az 70 milyon izlenmeye ulasan Portekizce 29 YouTube kanali tespit etti.
Paralel bir incelemede ise Portekizce, Ingilizce, Hintce, Ispanyolca, Fransizca, Italyanca, Lehce, Almanca ve Turkce olmak uzere dokuz dilde en az 50 egitim videosu bulundu. Bu videolarda boyle bir kanalin sifirdan nasil kurulacagi ayrintili bicimde anlatiliyordu.
Bu model coktan tek bir ulkenin ve tek bir dilin sinirlarini asti. Herhangi bir ulkede, emeklilik cagindaki herhangi bir kitleye uyarlanabilen bir dezenformasyon imtiyaz sistemine, ihraç edilebilir bir urune donustu.
Sarlatanlar hep vardi. Ama artik canli bir insana bile ihtiyaclari yok
Bu yontem dun ortaya cikmadi.
On dokuzuncu yuzyilin sonlariyla yirminci yuzyilin baslarinda Ingilizce yayin yapan basin organlarinda sarlatanlarin patentli ilac sektoru gelisip buyumustu. Gazete reklamlari hicbir denetim olmadan kanser ve verem iksirleri satiyor, 1930'larin radyosu ise supheli tip diplomalariyla dogrudan yayina cikan kendi radyo doktorlarini yaratiyordu. Bu durum, ABD'deki federal duzenleyici kurumlar ruhsatlari kitlesel bicimde iptal etmeye baslayana kadar surdu.
Gazete, radyo, televizyon ve simdi de uretken yapay zeka olmak uzere her yeni iletisim teknolojisi ayni asamadan geciyor: icerigin yayilma hizinin, kotuye kullanimi onleyecek toplumsal ve hukuki filtrelerin gelisme hizini geride biraktigi bir donem.
Gecen yuzyilin en taninmis orneklerinden biri, Amerikali radyo doktoru John Romulus Brinkley'di. Brinkley, 1930'larda tip egitimi olmamasina ragmen donemin en guclu sinir otesi radyo istasyonlarindan biri araciligiyla kendi icat ettigi genclestirme ameliyatlarini tanitiyordu. Duzenleyici kurumlar sonunda ruhsatini iptal edene kadar, buyuk bir ilac sirketiyle kiyaslanabilecek servet ve itibara ulasmayi basardi.
Fark su ki, eski sarlatanlarin en azindan az cok inandirici bir gecmis hikayesine sahip gercek bir insana ihtiyaci vardi. Bugunun dolandiricilik modeli ise tek bir gercek oyuncu olmadan uretilebiliyor: doktorun yuzu, sesi ve ozgecmisi algoritma tarafindan birkac dakika icinde olusturuluyor ve ayni anda dokuz dilde cogaltiliyor.
Once sizi olumle korkutuyorlar. Sonra zencefil ve takviye satiyorlar
Videolarin isleyisi neredeyse her zaman ayni.
Beyaz onluklu bir figur, bazen tamamen yapay olarak uretilmis, bazen de hicbir seyden haberi olmayan gercek bir doktorun yuzunun sayisal kopyasi olarak, izleyiciye her gun tukettigi bir urunun, kullandigi bir ilacin ya da gunluk bir aliskanligin onu gizlice oldurdugunu soyluyor.
Ardindan mucizevi ve haksiz yere unutulmus bir cozum vaat ediliyor: zencefil, tatli patates ya da belirli bir bitki karisimi.
Bu tur kanallarin nasil kurulacagini ogreten egitimlerin yazarlarindan biri, boyle bir isin ayda 30 bin Brezilya realine, yani yaklasik 5 bin 800 dolara kadar gelir saglayabilecegini kamuoyu onunde iddia etti.
Gelir uc kaynaktan geliyor: YouTube reklam gosterimleri, elektronik kitap satislari ve dogal takviyelere yonlendiren ortaklik baglantilari.
Ayni egitimci, ogrencilerine kaygi yaratan anlatimi nasil guclendireceklerini ve izleyiciyi derhal harekete gecmeye nasil zorlayacaklarini da gosteriyordu. Buna, sabah uyanamama riskinden soz eden ifadeler de dahildi.
Dikkat ekonomisi burada kusursuz isliyor. Cunku olum korkusu, tiklamayi saglamakta herhangi bir akilci tavsiyeden cok daha etkili.
Hastanin korkusundan kim para kazaniyor
Paranin zincirin sonuna kadar izini surdugunuzde, karsiniza dizustu bilgisayari olan tek bir dolandiricidan cok daha karmasik bir tablo cikiyor.
YouTube, ekrandaki doktorun gercek ya da yapay olmasindan bagimsiz olarak reklam gelirinden payini aliyor. Bir sikayet gelene kadar siralama algoritmasi her iki video turunu da ayni isteklilikle one cikariyor, cunku sistem dogrulugu degil, etkilesimi olcuyor.
Bu kanallarin dayandigi ses kopyalama ve yuz uretme hizmetleri de urunlerinin nasil kullanildigindan cogunlukla hicbir sorumluluk tasimiyor. Onlarin is modeli musteri icerigini denetlemek degil, abonelik satmak.
Zincirin en sonunda ise biyolojik etkinlige sahip takviyeleri satanlar ile elektronik kitap yazarları bulunuyor. Bunlarin kazanci, bir onceki halkanin attigi basligin ne kadar kaygi verici olduguna dogrudan bagli.
Bu zincirdeki her aktor tek basina bakildiginda bicimsel olarak masum gorunuyor ve sistemin tek bir butun halinde calismaya devam etmesinden azami olcude cikar sagliyor.
Korku talimati ayrica satiliyor
Bu tur egitimleri hazirlayanlardan birinin hikayesi tek basina bile oldukca aciklayici.
Gazeteciler kendisiyle iletisime gectikten sonra, gosteri amacli videolardan birine acik erisim kapatildi. Egitimin yazari ise gosterilen kanallarin yalnizca ornek oldugunu ve kendisine ait bulunmadigini savundu. Kendi anlatimina gore insanlara, doktor muayenesinin yerini alacak materyaller degil, yapay zeka yardimiyla bilgilendirici icerik uretmeyi ogretiyor ve platform kurallarinin ihlal edilmesini tesvik etmeyi amaclamiyordu.
Bicimsel acidan bakildiginda bu dogru olabilir. YouTube'dan para kazanmayi anlatan bir egitim, hukuken belirli bir dolandiricilik videosuyla ayni sey degildir.
Ancak izleyicideki kayginin, sabah uyanamama riski gibi ifadelerle nasil artirilacagini anlatan bir kilavuz, onu daha sonra kimin kullandigindan bagimsiz olarak ayni sekilde isler. Talimati hazirlayan kisi egitimin satisindan para kazanirken, nihai sonucun ahlaki ve hukuki sorumlulugu, her biri bicimsel olarak bagimsiz hareket etmis onlarca kimligi belirsiz ogrenci arasinda dagilip gider.
220 milyar dolarlik pazar: yapay zeka doktorlari neden tam simdi ortaya cikti
Gelirin sonunda aktigi sektor hic de marjinal degil.
Sektorel arastirmalara gore dunya genelindeki biyolojik etkinlige sahip takviye pazari 2026'da yaklasik 220 milyar dolara ulasacak ve buyuk olcude saglikli yaslanmaya yonelik urunlere olan talep sayesinde, en azindan gelecek on yilin ortalarina kadar yilda yuzde 7 ile 9 arasinda buyumeyi surdurecek.
Sentetik doktorlar bu talebi yaratmiyor, onun uzerinden besleniyor. Tuketicilerin geleneksel tibba alternatiflere yonelik zaten var olan milyarlarca dolarlik ilgisini kullaniyor ve buna yalnizca yeni bir katman ekliyorlar: algoritmanin neredeyse bedavaya uretebildigi, beyaz onluk icindeki uydurma bir otorite.
Neden asil hedef yaslilar oldu
Hedef kitlenin secimi tesaduf degil.
Dunya nufusunda altmis yas ustu insanlarin orani onlarca yildir istikrarli bicimde artiyor. Reklam sektoru de bunu gecici bir moda degil, talepteki yapisal bir degisim olarak uzun zamandir izliyor.
Birlesmis Milletlerin tahminlerine gore 2050 yilinda dunyadaki her alti kisiden biri altmis bes yasindan buyuk olacak. Bu oran bugunkinin neredeyse iki kati.
Sentetik tip kanallarini olusturanlar icin bu, soyut bir demografik veri degil, yatirimin hangi yone kaydirilmasi gerektigini gosteren dogrudan bir isaret. Bugun dar bir kitle sayilan bu grup, bir kusak sonra genel olarak video icerigi tuketen en buyuk topluluklardan biri olacak.
Yasli insanlar video platformlarinda sanildigindan daha fazla zaman geciriyor, gordukleri bilgiyi farkli kaynaklardan dogrulamaya daha az yoneliyor ve reklami yapilan bir takviyeyi satin almaya aktarilabilecek harcanabilir gelire daha sik sahip oluyor.
Bu tur icerikleri uretilenler, kendi egitim materyallerinde yasli izleyicileri acikca kazanc getiren bir alan olarak tanimliyor. Bunun nedeni bu insanlarin saf olmasi degil. Zamanlari ve paralari var; dolandiricilik hunisi acisindan daha da onemlisi, onlarca yillik cevrimdisi deneyimle olusmus, beyaz onluklu doktor figurune yonelik koklu bir guvene sahipler.
85 yasindaki hasta ilacini tatli patatesle degistirdi
Sonuclar kuramsal duzeyde kalmiyor.
Bu tur videolarin altindaki yaklasik 27 bin yorumun incelenmesi, kendisini yasli olarak tanimlayan izleyicilerin sentetik tavsiyelerin etkisiyle gercek tedavilerini degistirdigi onlarca vakayi ortaya cikardi.
85 yasindaki bir yorumcu, mide asidi uretimini baskilayan omeprazol ilacini birakip yerine tatli patates kullandigini soyluyor.
77 yasindaki bir kadin, uc yildir doktora gitmedigini yaziyor ve demans konusunda verdigi tavsiyeler icin gercekte var olmayan doktora tesekkur ediyor.
Goruslerine basvurulan gastroenteroloji uzmanlari iki paralel riske dikkat cekiyor. Hasta gercek bir tani icin doktora basvurmayi kritik haftalar boyunca erteleyebilir. Ayrica etkisiz ya da mevcut tedavisiyle uyumsuz bir urun kullanarak kendisine dogrudan zarar verebilir.
Aile uyeleri, tedavinin degistirildigini siklikla is isten gectikten sonra ogreniyor. O noktada faturayi dolandirici kanal degil, gecikmis taninin yol actigi komplikasyonlarla hastanin kaldirildigi hastane cikariyor.
Dolandiricinin asil silahi yapay zeka degil, insan korkusu
Bu videolari hazirlayanlarin kullandigi yontem, yani sert ve kaygi uyandiran bir baslik, yakin bir tehlike vaadi ve derhal harekete gecme talebi, pazarlama kitaplarinda uzun zamandir gercegi akilci bicimde sorgulama mekanizmasini asmanin en guvenilir yolu olarak anlatiliyor. Korkan izleyici once bilgi kaynagini degil, hemen uygulanabilecek bir cozum ariyor.
Bu anlamda yasli kitle genel olarak diger insanlardan daha kolay kanan bir topluluk degil. Ancak bu tur kararlari, bir aile uyesine ya da tanidik doktora hemen danisma imkani olmadan, daha sik tek basina aliyor. Gecici bir korkuyu ertelenmis bir soruya degil, aninda yapilan bir satin almaya donusturen de tam olarak bu durum.
Bir doktorun yuzunu calmak artik birkac dakika suruyor
Zararin ayri bir boyutu da gercek doktorlarin kimliklerinin calinmasi.
En az bes kanal, taninmis Brezilyali bir gastroenteroloji uzmaninin goruntusunu izinsiz kullanarak saglik konusunda kaygi verici iddialari ve doktorlarin yazdigi ilaclar yerine dogal alternatifleri tanitti. Doktor YouTube'a basvurdu ve Sao Paulo polisine sikayette bulundu.
Brezilyali hukukcular, bu tur faaliyetlerin bicimsel olarak dolandiricilik ve kimlik hirsizligi maddeleri kapsaminda degerlendirilebilecegini belirtiyor. Ancak hukukun uygulanma hizi olgunun boyutunun sistematik bicimde gerisinde kaliyor. Bir sorusturma surerken algoritmalar onlarca yeni kopya uretebiliyor.
Dolandirici bir ulkede, kurban baska bir ulkede, para ucuncu bir ulkede
Yetki alanlarindaki karmasa sorunu sistem duzeyinde daha da agirlastiriyor.
Bir kanal bir ulkedeki hesap uzerinden kayitli olabilir, reklam algoritmalari tarafindan baska bir ulkedeki kitleye yonlendirilebilir ve gelirini ucuncu bir ulkenin odeme sistemleri araciligiyla cekebilir. Ne Brezilya polisi ne Avrupali duzenleyici kurumlar ne de YouTube tek basina butun zinciri tek kararla kapatabilecek bir araca sahip.
Yapay zeka duzenlemeleriyle ilgilenen Ekonomik Isbirligi ve Kalkinma Orgutu calisma gruplarindan, ulusal tuketici haklarini koruma kurumlari arasindaki ikili mutabakatlara kadar uluslararasi esgudum mekanizmalari da henuz sinir asan tibbi aldatmacalara acil mudahale icin somut yontemleri degil, genel ilkeleri tartisiyor.
Sao Paulo'dan Seul'e: duzen ayni sekilde isliyor
Sorun ne yalnizca Brezilya'ya ne de Portekizce konusan dunyaya ozgu.
Guney Koreli duzenleyici kurumlar bu yaz, yururlukteki mevzuatin kendisini doktor gibi gosteren yapay zeka kanallari karsisinda neredeyse tamamen etkisiz kaldigini kamuoyu onunde kabul etti. Yasa yalnizca belirli bir urunun dogrudan reklami yapildiginda mudahaleye izin veriyor ve icerik ureticileri bu kurali sistemli bicimde asiyor.
36 binden fazla abonesi olan Guney Koreli bir kanal, buyuk bir universite hastanesiyle baglantili oldugunu yalan yere ileri suruyor ve yirmi bes yillik deneyime sahip bir dahiliye uzmaninin neden her gun sirke ictigini anlattigi yedi neden gibi videolar yayinliyordu.
Aldatmaca yapisi, sentetik otorite ile hukuki boslugun birlesimine dayaniyor ve Sao Paulo'dan Seul'e kadar neredeyse hic degismeden tekrarlaniyor. Cunku teknoloji de para kazanma modeli de her yerde ayni.
Degisen yalnizca altyazinin dili ve calinan yuzun milliyeti.
Milyarlarca dolar dolandiricilara gidiyor. Ve bu yalnizca gorunen kisim
Bu olgunun icinde yer aldigi genel tablonun boyutu carpici.
ABD Federal Ticaret Komisyonunun verilerine gore, 60 yas ustu Amerikalilarin dolandiricilik nedeniyle ugradigi toplam zarar dort yil icinde neredeyse dort kat artti. 2020'de yaklasik 600 milyon dolar olan kayip, 2024'te 2,4 milyar dolara cikti. Komisyon, vakalarin buyuk bolumunun bildirilmemesini hesaba kattiginda gercek zararin 81,5 milyar dolara kadar ulasabilecegini tahmin ediyor.
Federal Sorusturma Burosunun 2025 raporunda ayni yas grubunda bildirilen kayiplar 7,748 milyar dolara, magdur sayisi ise 201 binin uzerine ulasmis durumda. Bu, bir onceki yila gore yuzde 59 artis anlamina geliyor.
Bu miktarin 352 milyon dolarlik bolumunu buro dogrudan, yapay zekanin belirleyici rol oynadigi dolandiricilik vakalariyla iliskilendiriyor.
YouTube'daki sahte doktorlar bu sektorun cok sayidaki uzantilarindan yalnizca biri. Ancak bu uzanti dogrudan cuzdan yerine sagligi hedef aliyor ve bu nedenle potansiyel olarak daha olumcul.
Federal kurumlar da sorunun gercek boyutunun sistematik bicimde dusuk hesaplandigini kabul ediyor. Amerikali duzenleyici kurumlarin tahminlerine gore her yirmi magdurdan daha azi dolandiriciligi yetkililere bildiriyor. Dolayisiyla dogrulanmis milyarlarca dolarlik kayip, istatistiklerin goremedigi devasa yapinin yalnizca buzdaginin gorunen kismi.
YouTube kanallari siliyor. Ama ancak milyonlarca izlenmeden sonra
YouTube'un sahibi Google ise bicimsel bir yanitla yetiniyor. Sirket, mevcut kurallarin yapay zeka ile uretilen icerikler icin de gecerli oldugunu ve gercek hayatta ciddi zarara yol acabilecek tibbi dezenformasyonu yasakladigini vurguluyor.
Arastirmacilar incelemenin sonuclarini sirkete ilettikten sonra platform, toplamda yaklasik 41 milyon izlenmeye ulasmis en buyuk kanallardan birkacini kaldirdi.
Gercek hayatta ciddi zarar ilkesi kuramsal olarak ikna edici gorunse de onleyici denetim araci olarak uygulamada neredeyse ise yaramiyor. Sirket, kanitlarla desteklenen somut bir sikayet geldikten sonra harekete geciyor; yeni bir kopyanin daha ilk yuz bin izlenmeye ulasmadan yayinlanmasini engelleyebilecek bir filtre sistemi kurmuyor.
Platform, Temmuz 2025'ten itibaren gercek disi icerik olarak tanimlanan videolara yonelik politikasini bicimsel olarak sertlestirdi. Saglik dahil hassas konulardaki videolarin, oynaticinin hemen uzerinde sentetik olarak uretildigini belirten gorunur bir uyari tasimasi zorunlu hale geldi.
2026'nin basinda bu dalga, toplam 4,7 milyar izlenmeye ve yillik yaklasik 10 milyon dolarlik reklam gelirine sahip 16 buyuk kanali etkiledi. Ancak bunlarin cogu dogrudan tibbi dezenformasyon degil, sahte tanitim videolari ve genel olarak yapay zeka ile uretilen dusuk nitelikli icerikler hazirlamakla suclanmisti.
Sentetik doktora inanan izleyicinin vakasi tam da bu nedenle dikkat cekici. Videonun uzerinde uyari vardi ama bu, onu durdurmadi.
Etiketleme platformun hukuki sorumlulugunu azaltabilir, ancak ekrandaki beyaz onlugun otomatik olarak uzmanlik anlamina geldigi bir donemde yetismis belirli bir yasli izleyiciyi mutlaka korumaz.
Koruma teknolojileri neden aldatma teknolojilerine karşı şimdiden kaybediyor
Sentetik içerik üretimi ile bu içeriğin tespiti arasındaki teknolojik yarış, yapısal olarak savunmanın aleyhine gelişiyor.
YouTube ve diğer platformların denetim sistemlerine aşamalı olarak entegre ettiği içerik kökeni standardı, bir dosyanın nasıl ve hangi araçla oluşturulduğuna ilişkin üst verileri kriptografik olarak imzalıyor. Ancak bu sistem yalnızca içerik üreticisinin yasal ve kayıtlı bir üretim aracı üzerinden gönüllü biçimde işaretlemeyi kabul ettiği durumlarda çalışıyor.
Tam da bu imzayı aşmak amacıyla lisanssız ya da bilinçli biçimde değiştirilmiş modeller kullanan bir dolandırıcı için sistem herhangi bir engel oluşturmuyor. Dolandırıcı, zaten yükleme sırasında zorunlu olmayan üst verileri dosyaya hiç eklemiyor.
Görüntü ve sesteki yapay izleri sonradan analiz eden bir algılama sistemi ise yeni bir üretken model sürümü üzerinde eğitilmeyi tamamlayamadan eskiyor. Ticari ses ve yüz sentezi araçları birkaç ayda bir yenilenirken, algılama sistemlerinin geliştirilmesi ve doğrulanması aylar, hatta çeyrek dönemler alıyor.
Avrupa milyonlarca avroluk cezaları yürürlüğe koydu. Ama bir sorun var
Düzenleyici yanıt gecikerek geliyor ve son derece eşitsiz uygulanıyor.
2 Ağustos 2026'da, yani bir aydan kısa süre önce, Avrupa Birliği'nde Yapay Zeka Yasası'nın 50. maddesi yürürlüğe girdi. Bu madde, üretken sistem geliştiricilerine sentetik içeriklere makine tarafından okunabilir işaretleme yerleştirme zorunluluğu getirirken, teknolojiyi gerçek kişileri taklit eden sahte görüntü ve ses üretmek için kullananların da bunu izleyiciye açıkça bildirmesini şart koştu.
Kuralları ihlal edenleri 15 milyon avroya ya da küresel cironun yüzde 3'üne kadar para cezası bekliyor. Hangisi daha yüksekse o tutar uygulanıyor.
İşaretlemenin teknik standartlarını ayrıntılandıran Uygulama Kuralları ise Avrupa Komisyonu tarafından hala tamamlanıyor. İlk taslak Aralık 2025'te yayımlandı, istişare süreci 3 Haziran 2026'da sona erdi ve nihai metnin bu yılın ilerleyen dönemlerinde açıklanması bekleniyor.
Başka bir deyişle, yasa biçimsel olarak yürürlükte, ancak uygulanmasını sağlayacak araçların inşası pratikte hala sürüyor.
Yasa parlamentoda takılı kalırken Brezilya sorunun üretim merkezine dönüştü
Anlatılan kanalların büyük bölümünün çıktığı Brezilya'da tablo tam tersine işliyor. Burada hukuk, teknolojinin gerisinde neredeyse her yerden daha fazla kalmış durumda.
2338 sayılı federal yapay zeka yasa tasarısı Aralık 2024'te Senato tarafından oy birliğiyle kabul edildi, ancak Mart 2025'ten bu yana Temsilciler Meclisi'nde bekliyor.
Yürütme organı Aralık 2025'te anayasal çelişkiyi gidermek amacıyla ek bir yasa tasarısı sundu. İlk metin, Ulusal Veri Koruma Kurumuna düzenleyici yetkiler veriyordu, ancak bu yetkilendirme biçimi resmen yalnızca devlet başkanının yetki alanına giren bir konuda düzenleme yapılması anlamına geliyordu.
Bu çelişki çözülmediği sürece nihai oylama erteleniyor ve tasarıda öngörülen 50 milyon Brezilya realine kadar para cezaları kağıt üzerinde kalıyor.
Sorunun doğduğu ülke ile oyunun kurallarını ilk sertleştiren ülke arasındaki bu uçurum, teknik bir ayrıntı değil. Sentetik doktor sektörünün bugünkü boyutlarına ulaşabilmesinin yapısal nedenlerinden biri tam olarak bu.
Bugün sahte doktor. Yarın sahte devlet başkanı
Sahte doktorların temelinde bulunan ses kopyalama, yüz sentezi ve inandırıcı konuşma üretimi teknolojileri, seçim süreçlerine müdahalede daha önce kullanılan araçlardan özünde farklı değil.
Ocak 2024'te New Hampshire ön seçimlerinden iki gün önce binlerce seçmen, dönemin ABD Başkanı Biden'ın kopyalanmış sesiyle oluşturulan otomatik bir telefon araması aldı. Mesajda seçmenlere sandığa gitmemeleri telkin ediliyordu. Bu kampanyayı düzenleyen siyasi danışman Steve Kramer, Federal İletişim Komisyonu tarafından 6 milyon dolar para cezasına çarptırıldı ve hakkında 26 ayrı suçlamayla ceza davası açıldı.
Omeprazol yerine tatlı patates satan dolandırıcı ile seçmen katılımını manipüle eden siyasi danışman arasındaki mesafe göründüğünden çok daha kısa. Her ikisini de üretken modelin sağladığı anonimlik koruyor ve ikisi de kitlenin tanıdık bir sese, gerçeği doğrulamaktan daha hızlı inanacağı hesabına dayanıyor.
2026 yılında ticari dolandırıcılık ile bilgi operasyonu aynı araç takımını kullanıyor. Fark teknoloji değil, yalnızca hedef.
Tek bir algoritma bir emekliyi de bütün bir ülkeyi de kandırabilir
Sorunun boyutu tüketici dolandırıcılığının çok ötesine geçiyor.
Atlantik Konseyi Dijital Adli Araştırma Laboratuvarının uzmanları daha 2025 yılında, düşmanca faaliyet yürüten aktörlerin sentetik medyayı tamamen yeni yöntemler geliştirmek yerine mevcut bilgi operasyonu yöntemlerine sistemli biçimde eklediğini tespit etmişti.
OpenAI şirketi Mart ile Haziran 2025 arasında Çin bağlantılı birkaç ağı kamuoyuna açıkladı ve engelledi. Bunlardan biri, belirli anlatılara toplumdan kendiliğinden destek varmış izlenimi yaratmak amacıyla sosyal ağlarda binlerce sahte yorum üretiyordu.
İran ile İsrail arasındaki askeri çatışma sırasında, 2025 yazında Tel Aviv'e gerçekte gerçekleşmemiş füze saldırılarını ve düşürüldüğü iddia edilen F-35 savaş uçaklarını gösteren yapay zeka üretimi videolar birkaç saat içinde beş dilde yayıldı. İsrail'in "Hapishane Kaçışı" kod adlı kendi operasyonu ise gerçek saldırılardan yalnızca bir saat sonra sentetik içerik yaymaya başlıyordu.
Dünya Ekonomik Forumu, 2026 Küresel Riskler Raporu'nda dezenformasyonu seçimlerden mali krizlere kadar hemen her sistemik riski büyüten bir çarpan olarak doğrudan tanımlıyor.
Sabah bir emekliyi ilacını tatlı patatesle değiştirmeye ikna eden teknoloji, akşam aynı kolaylıkla bütün bir ülkeyi gerçekte yaşanmamış bir askeri felakete inandırabilir. Değişen yalnızca kitlenin büyüklüğü ve videonun üretim parasını kimin ödediğidir.
Avrupa kapıyı kapatırsa dolandırıcılar yasaların daha zayıf olduğu bölgelere kayacak
Bundan sonraki yönelim, ayrıntıları belirsiz kalsa bile mantığı bakımından öngörülebilir.
Avrupa Birliği'nde 50. madde kapsamındaki para cezaları fiilen uygulanmaya başladıkça ve Uygulama Kuralları tamamlandıkça, ilk örnek davaların önümüzdeki 12 ila 18 ay içinde görülmesi beklenebilir. Bunun sonucunda bu tür içerik üreticileri hedef kitlelerini yaptırım gücünün daha zayıf olduğu bölgelere, Latin Amerika'ya, Güney Asya'ya ve düzenleyici yapının parçalı olduğu ülkelere kaydıracaktır.
YouTube'daki eğitim içeriklerinin şimdiden dokuz dile yayılmış olması, tam da böyle bir düzenleyici alanlar arasında fırsat kollama stratejisine işaret ediyor.
Brezilya'daki 2338 sayılı yasa tasarısının mevcut hız korunursa 2026 yılı içinde Temsilciler Meclisi'nde nihai oylamaya ulaşma ihtimali bulunuyor. Ancak tasarının parlamentodaki uzun ve sorunlu ilerleme geçmişi, tarih konusunda yapılacak her tahmine ihtiyatla yaklaşmayı gerektiriyor.
YouTube ise otomatik sentetik içerik tespitini ve belirli doktorların görüntülerini korumaya yönelik araçlarını geliştirmeyi sürdürecek. Ancak algılama ve üretim teknolojileri arasındaki bu yarış yapısal olarak eşitsiz. İnandırıcı bir sentetik video üretmek, onu tespit edip kaldırmaktan daha ucuz ve daha hızlı.
En güvenilir savunma şaşırtıcı derecede basit çıktı
Bireysel düzeyde gerçekten çalışan tek filtre şimdilik teknoloji değil, alışkanlık.
Gördüğü bir içerik nedeniyle tedavisini değiştirmeden önce bunu başka biriyle konuşan bir izleyici, istatistiksel olarak video üzerindeki herhangi bir uyarı işaretinden çok daha iyi korunuyor.
Bu nedenle hikayenin merkezindeki kadın, aldatılmanın hedefi olduğunu anladıktan sonra talebini düzenleyici kuruma ya da platforma değil, kendisine yöneltiyor. Sentetik içerikle gerçek içeriği birbirinden ayırmayı öğrenmek istiyor.
Bu, bütün hikayeden çıkarılabilecek en ayık sonuç olduğu kadar en rahatsız edici olanı da. Devlet ile şirket, açığı ilk kimin kapatması gerektiğini tartışırken, sahadaki tek gerçek savunma hattı ekranla baş başa kalan izleyici olmaya devam ediyor.
Algoritma her zaman bir hasta bulur
Yasanın metni ile tek bir izleyicinin gerçek deneyimi arasındaki uçurum, bütün bu hikayenin temel sonucudur.
Brüksel'de makine tarafından okunabilir işaretlemeler ve cironun belirli bir yüzdesine göre hesaplanan para cezaları hakkında istenildiği kadar madde kabul edilebilir. Ancak yasa, hukukçuların odalarında yürürlüğe, akşam YouTube'da görme yetisini nasıl koruyacağını araştıran 82 yaşındaki bir kadının zihninden daha önce giriyor.
Sentetik doktor sektörü tek bir düzenleme ya da tek bir soruşturmayla ortadan kalkmayacak. Bu sektör, reklamcılığın genel mantığıyla aynı biçimde kurulmuş durumda, ancak onu sınırlayan son unsur da ortadan kaldırılmış: söylenen sözlerden sorumlu tutulabilecek gerçek bir insan artık yok.
Güven üretme teknolojisi ile bu güveni doğrulama teknolojisi arasındaki boşluk açık kaldığı sürece, algoritma her zaman kendisine inanacak bir hasta bulacak ve bundan para kazanmaya hazır bir kanal mutlaka ortaya çıkacaktır.