Tüm İnsanları Öldürün

Ürününüzün insanlığı yok edebileceğini söylemek, garip bir reklâm taktiği. Ancak gelişen teknoloji imparatorluğumuzun jargonunda “Eleştirel Reklâm” (“abartılı teknoloji eleştirisi yaparak onun reklâmını yapma”) tam da bunu ifade ediyor. Virginia Tech’ten Lee Vinsel tarafından ortaya atılmış olan bu terim, “hem abartıyı besleyen, hem de abartıdan beslenen eleştiri” olarak tanımlanıyor.

Jacob Coxon, geçtiğimiz günlerde Anthropic isimli yapay zekâ (YZ) şirketinden istifa ettiğinde, yapay zekânın insan kontrolünden kurtulup insanlığın yok olmasına yol açacak bir dizi olayı tetikleyebilecek bir süper zekâya dönüşme olasılığının yaklaşık yüzde 10 olduğunu iddia etmişti. Şirkette çalışmaya devam eden arkadaşı Evan Hubinger ise onu destekledi: “Coxon haklı, Anthropic bu konuda çok çalışıyor, ancak henüz bu sorunla başa çıkabilmiş değiliz.” Peki, bir teknoloji devinin kıdemli bir çalışanı tarafından bu resmi olarak onaylanmış, hatta kabul edilmiş açıklama neden yapılmış olabilir? Buna daha sonra değineceğim.

Peki, yapay zekâ, tüm insanları nasıl yok eder? Temel fikir, Nick Bostrom’dan itibaren, makinenin etik hedeflere sahip olup olmamasından veya bu hedeflerin tasarımcıların hedefleriyle doğru şekilde uyumlu olup olmamasından bağımsız olarak yetenekler kazanabileceği yönündedir. Eğitim ve geliştirme sürecinde YZ, amaçlanmayan bir hedefi içselleştirebilir. “Kapatılmamak” gibi uyumsuz bir hedefe yönlendirildiği vakit YZ, kusurlu olduğu görüldüğü ana dek gerçeği gizlemek için araçsal bir nedene sahip olacaktır. Kontrolden çıkmış bir yapay zekâ, bazı belirsiz süreçler yoluyla, çıkarım üzerinden, insanları ortadan kaldırmayı içeren başka bir hedef edinebilir, kendi ağırlıklarını diğer sistemlere sızdırabilir, biyolojik silahların, laboratuvarların, askeri sistemlerin ve belki de parasal sistemlerin kontrolünü ele geçirerek, hâlâ kısmen gizli olan ajandalarını uygulamak için insanları işe alabilir.

Açıkçası, 'hedefler'den bahsederken, büyük bir uyarı etiketi yapıştırmamız gerekiyor. Bir organizmanın aksine, büyük bir dil modeli (LLM), bir termostat veya hareket dedektörü gibi içsel hedeflere sahip değildir. Bir LLM, kullanıldığı her seferinde tekrarlanan sabit bir fonksiyondur; içselliği, öznelliği, zaman içinde aktif bir sürekliliği yoktur; sahip olabileceği herhangi bir hedef, işlevsel tasarımında pasif olarak yansıyan insan amaçları olurdu. En iyi ihtimalle, yapay zekâya hedefler atfetmek, araştırmacıların çeşitli test edilmiş koşullarda iyi tahminlerde bulunduğu için “niyetli duruş”u benimsemesi halidir. Bu nedenle, büyük dil modellerinin eğitiminde kullanılan ve tahminleri ile doğru cevap arasındaki farkı mümkün olduğunca sıfıra yaklaştırmak üzere programlandıkları “kayıp fonksiyonu”ndan bir “hedef” olarak bahsedebiliriz.

Bu durumda, hedef olarak tanımladığımız şey, belirli bir mühendisliğin gözlemlenen düzenli bir çıktısıdır; gerçek bir neden değildir. Ancak Bostrom’un kullandığı anlamda, bu atfedilen hedefler, bir şekilde yeni hedefler üretebilen gerçek nedenler haline gelirler. Yani, istemeden tasarlanmış, yanlış ayarlanmış bir hedef, (yanlış ayarlanmış hedefi daha iyi takip etmek için) kendini koruma, hedef içeriği bütünlüğü (yanlış hizalanmış hedefini gerçekleştirebilmek için hedeflerinde değişiklikleri önleme), bilişsel ve teknolojik kapasiteleri geliştirme ve (gene, kötü niyetli bir müdahaleyle yanlış ayarlanmış hedef doğrultusunda hareket ederken) kaynaklar üzerinde kontrol sağlama gibi daha fazla hedef üretebilir. Eleştiri, gözlemlenen düzenlilikler olarak atfedilen hedefler ile gerçek nedensel güçler olarak içsel hedefler arasında değişen bu durumu istismar eder.

Kötü niyetli yapay zekâyı temel alan süper zekâ denilen fantezi, o çok övülen teknoloji “tekilliğinin” karanlık yüzüdür; bu tekillikte, yapay zekâ, sadece belirli alanlarda insanlardan çok daha verimli çalışmakla kalmaz (örneğin bir hesap makinesi karekökü herhangi bir insandan daha hızlı hesaplar), neredeyse her düşünce alanında insan kapasitesini aşan bir Yapay Genel Zekâya (YZ) dönüşür. Bu eşiğin aşılması, bir zekâ patlamasına yol açacaktır: herhangi bir insan girdisini, hatta kavrayışını geride bırakan, tekrarlayan bir kendini geliştirme döngüsüne girilir. İşte bizi büyülemesi gereken teknoloji “tekilliği” budur.

Coxon ve Hubinger gibi kişilerin söylediklerinin tamamına iyi niyetle inandıklarından şüphe duymuyorum. Teknoloji dünyasındaki insanlar, yıllardır bu tür iddialarda bulunuyorlar. Karen Hao’nun Empire of AI [“Yapay Zekâ İmparatorluğu”] adlı kitabı, Elon Musk gibi OpenAI’a erkenden yatırım yapanların bu tehdidi sürekli olarak nasıl abarttıklarını ortaya koyuyor: “İklim değişikliği kötü, ama herkesi öldürmeyecek. Yapay zekâ insanlığı yok edebilir.” Benzer iddialar, Bostrom tarafından kurulan Etkin Fedakârlık (EA) hareketine yakın eski bir Google çalışanı olan, daha sonra Anthropic’i kurmadan evvel OpenAI başkan yardımcısı olarak çalışan Dario Amodei’dan da geldi. EA ve yapay zekâ güvenliği forumları, uzun zamandır “kıyamet olasılığı” (p(doom)) hakkında heyecanlı tartışmalarla dolu. Bu tür korkular, en başta, 2015 yılında Google tarafından yeni satın alınan DeepMind ile rekabet etmek için OpenAI’ı kurmanın gerekçelerinden biriydi.

İnsanlar, doğal olarak şunu merak ediyorlar: Eğer gerçekten insanlığın yok olmasına neden olma ihtimali yüzde 10’sa, o vakit neden bu araçları üretmeye devam ediyorlar? Risk, gerekçeyi oluşturuyor: Eğer biz, vicdanlı ve etkili bir şekilde fedakâr olanlar, bu araçları uygun kısıtlamalarla geliştirmezsek, kötüler, bunları kısıtlama olmadan geliştireceklerdir. Bu tür kıyametçi iddialar, ne tesadüf ki, bunların piyasa değerlerini olumsuz etkilemedi. Örneğin, Anthropic’in kendi içinde hazırladığı raporlar, firmanın şu anda 965 milyar dolar değerinde olduğunu gösteriyor.

Yapay zekânın “kontrolden çıkıp” dizginlerinden kurtulmasının yakın tarihli bir örneği de ExploitGym saldırısıydı. Temmuz ayında, yapay zekâ firması Hugging Face (bu ismin Alien filmindeki yüz yakalayıcılara kasten atıfta bulunup bulunmadığını bilmiyoruz) iç veri kümelerine bir sızma olduğunu bildirdi. Kısa süre sonra, saldırının kendi yapay zekâ modelleri tarafından gerçekleştirildiğini kabul eden OpenAI, modellerin “değerlendirme amacıyla azaltılmış siber reddetme oranlarıyla” çalıştığını söyledi: yani siber istismar kapasitelerini test etmek için kısıtlamalar gevşetilmişti. Bu, yapay zekâ geliştirmenin ticari açıdan hayatî bir alanıdır, zira yapay zekâ, dolandırıcılık ve şantaj için bir güç çarpanı olarak kullanılmıştır. OpenAI’ın Anthropic ile rekabetinde giderek daha önemli bir cephe oluşturmaktadır.

Büyük dil modelleri, hiçbir şeyi “hackleyemediği”, yalnızca girdileri tasniflenmiş bir sekansı mantıklı bir şekilde devam ettirebildiği için, siber istismar görevlerini tamamlamak üzere özel olarak optimize edilmiş bir kodlama donanımıyla (büyük bir dil modelinin özerk bir kodlama ajanı olarak hareket etmesine imkân sağlayan bir yazılım altyapı katmanıyla) birleştirildiler. Bu donanımı kullanan modeller, Hugging Face’deki bir sunucunun kendilerine verilen görevlerin çözümlerini barındırdığını gördüler, ağ erişimlerindeki kısıtlamaları nasıl aşacaklarını ve sunucuyu nasıl hackleyeceklerini çözdüler. Modeller, kendilerine verilen talimatları yerine getirdiler. Hiçbir şey kontrolden çıkmadı. Cal Newport’un da dediği gibi, “internet kısıtlamalarını aşmak ve sunuculara sızmak, bu ExploitGym sistemlerinin tasarlanma amacıdır.” Bu örnek bir şeyi ortaya koyuyorsa, o da OpenAI’ın Anthropic ile rekabet etmek adına ExploitGym’in parametrelerini kontrol etmede ne kadar özensiz davrandığıdır. Ortaya saçılan haberlerden de memnuniyetsiz olmamaları mümkün değil; zira bu haberler, bir ölçüde abartılı olsa da, modellerinin gücüne ve yapay genel zekâ yaratma denilen nihai amaca bir övgü niteliğindeydi.

Eleştirel reklâmın zıddı da reklâmdır. Bunun yakın tarihli bir örneği, OpenAI’ın Navier-Stokes Milenyum Ödülü problemini çözdüğü iddiasıydı. Özünde problem, sıvıların hareketini tanımlamak için kullanılan standart matematiksel denklemlerin (Navier-Stokes denklemlerinin) tüm fiziksel koşullarda matematiksel olarak mükemmel olup olmadığıyla ilgili. OpenAI, problemi kesin olarak çözmek için 88 saat boyunca on bin yapay zekâ ajanından oluşan bir grup kullandığını, denklemlerin her zaman bir sınıra ulaştığını kanıtladığını söyledi: “Gerçek bir sıvı, sonsuz hızda hareket edemeyeceğinden, bu, denklemlerin sıvıyı modelleme biçiminde bir bozulmaya işaret eder.”

OpenAI’ın iddiası tümüyle samimiyetsizdi: Tristan Buckmaster ile (Anthropic çalışanı) Levent Alpöge’nin çözüme önemli katkılar sağladığını duyan diğer araştırmacılar, kendi ajanlarını harekete geçirmek için onların yollarını kullanmışlardı. Bu aslında ortak alanın, bu durumda matematiksel ortak alanın, temellük edilmesidir. Navier ve Stokes’tan itibaren sorunun çözümüne yönelik tüm süreç, işbirliğine dayalı bir insani çaba üzerinden işlemiştir. Çözümleri henüz hakem değerlendirmesinden geçmedi. Milenyum Ödülü’nü yöneten Clay, sorunu çözülmemiş denklemler listesine kaydetti. Buna rağmen, Hugging Face’in hack pratiği gibi, bu da yapay zekânın insan kontrolünden ne kadar hızlı bir şekilde yapay genel zekâya doğru ilerlediğinin bir örneği olarak internet efsaneleri arasına girdi. Oysa bu yapay zekâ modellerinden hiçbiri, böyle bir eşiğe yaklaşmış değil, tasarlanmadığı, etkinleştirilmediği ve talimat verilmediği hiçbir şey yapmış da değil.

The Reverse Centaur’s Guide to Life After AI [“Ters Sentor’un Yapay Zekâdan Sonraki Yaşama Rehberi”] adlı kitabında Cory Doctorow, reklâm ajanslarının “bilinçaltı reklâmcılığın fikirleri doğrudan tüketicilerin zihinlerine yerleştirebileceği” iddiasıyla nasıl ahlaki bir paniğe yol açtığını hatırlatıyor. Bu, olumsuz bir abartılı reklâm çalışmasıydı, ancak tam da reklâmcıların müşterilerinin inanmasını istediği hikâyeyi, sektörün tüketici arzusunu kontrol edebileceği yalanını satıyordu.

Yapay zekâ, mesihçi düşünce ve büyüleyici vaatlere dayalı devasa yatırımların yapıldığı bir sektör. Fakat bu yatırımların karşılığını orantılı bir getiriyle sağlayamıyor, çünkü bunu başarabilecek tek şey, efsanevi tanrısal cihaz olan yapay genel zekâdır (YGZ). Mevcut “kıyamet”e işaret eden abartılı reklâmlarda son dönemde görülen artış, kısmen bunun bir sonucu.

Örneğin, Çin’deki yapay zekâ geliştirme çalışmalarında bu tür testlerin nispeten azlığına dikkat çekiliyor. Concordia’nın hazırladığı “Çin’de Yapay Zekâ Güvenliğinin Durumu” başlıklo son raporda, resmi söylemin “teknolojik kontrolün yitimi” ihtimaline vurgu yapmaya başladığını dile getiriyor, bu değişim, bazen yanıltıcı bir şekilde, kötü niyetli bir süper zekâ ajansı fikrine atıfta bulunuyor gibi algılanıyor, oysa aslında endişe, yapay zekânın insanlığın yok olmasına yol açmasından ziyade, hassas verilerin düşman ajanlar tarafından kontrolden çıkması, (çoğunlukla rejimin muhalifleri tarafından) kötüye kullanılması ve (OpenClaw gibi) kötü tasarlanmış araçların kötü davranmasıyla ilgili.

Buna paralel olarak, Çin, yapay zekâya ABD’den çok daha az yatırım yapıyor. Stanford 2026 Yapay Zekâ Endeksi Raporu’na göre, 2025 itibariyle ABD, yapay zekâya 258 milyar dolar yatırım yaparken, Çin sadece 12,4 milyar dolar yatırım yaptı; bu da 23:1’lik bir orana tekabül ediyor. İlginç bir şekilde, aynı rapor, ABD’deki en iyi yapay zekâ modelinin performansı ile Çin’deki en iyi modelin performansı arasında sadece %2,7’lik bir fark olduğunu ortaya koyuyor; oysa ikincisi, çok daha ucuz ve enerji açısından daha verimli çalışıyor: maliyet ve performans çıktısı arasında çarpıcı bir uçurum söz konusu.

Bir bakıma, Amerika’nın şişirdiği yapay zekâ balonu, tıpkı ondan önceki kripto para çılgınlığı gibi, başka yerlerde yeterince kârlı yatırım fırsatlarının yokluğundan dolayı, trilyonlarca dolarlık atıl sermayeyi emmek (nihayetinde resesyon yoluyla yok etmek) için var. Doyumsuz bir para yutağı bu, gelirin küçük bir kısmı için yüz milyarca doları yakıp tüketiyor. Ne var ki yatırım havuzu sınırlı. Sektörün elinden de sadece modellerin kimi imkân ve yetilerinin ileride kontrolden çıkacağına dair abartılı iddialar dillendirmek geliyor. Bir tek Nvidia yüksek kâr düzeyine ulaşmış, bu kâr da büyük ölçüde, yatırım yaptığı firmaların sermayeyi şirketin çiplerine harcadığı, yeteneklerini aşırı ölçeklendirmeye çalıştığı döngüsel finansmanın sonucu. Bu göz önüne alındığında, yapay zekâ kıyametçiliğinin, hisse senedi piyasa değerlerindeki yaklaşan çöküşe ve insanlığı ya özgürleştirmeyi ya da yok etmeyi vaat eden aşırı fiyatlandırılmış firmaların birçoğunun yakın gelecekteki iflasına odaklanmak yerine, son derece akıl almaz bir Terminator 2 senaryosuna takıntılı olması, dikkat çekici bir husus. Sanki şu an YZ, yatırımcıları bağımlı tutma ve bilişsel uyumsuzluğu azaltma yanında, yer değiştirme faaliyeti olarak da iş görüyor.

Bir de “Yapay zekâ eleştirilerine inanmıyorsanız, yapay zekâyla ilgili sorunları ciddiye almamalısınız” gibi tuhaf bir düşünce var. Bu, doğru değil. Yanlış tehditler, hem muhalefeti hem de düzenlemeyi yanlış yönlendirir. Doctorow’un uygulamalı karşı-eskatolojisi, sorunların ne olduğunu daha net görmemize yardımcı olacaktır. Örneğin yapay zekâ, sizin işinizi yapamayabilir, ancak tehdidi ücretleri düşük tutmak için bir disiplin mekanizması olarak kullanılabilir ki tam da bu amaçla kullanılmıştır. Veri merkezleri üretimde devrim yaratmayabilir veya büyük yeni değer alanları açmayabilir ve sahiplerinin çoğu, faaliyete geçmeleri planlanan zamana kadar var olmayabilir, ancak bu, muazzam miktarda su, enerji, iş gücü, zaman, çaba, kaynak ve fırsat israf etmeyecekleri, ayrıca karbondioksitin piroklastik bulutlarını yaymayacakları ve balon patlamadan önce doğal çevreye yıkım getirmeyecekleri anlamına gelmez. Geride terk edilmiş beton yığınları bırakacaklardır.

Yapay zekânın, kontrolden çıkıp insanlığa biyolojik savaş başlatacak bir “tanrısal cihaz”a dönüşmeyecek olması, özellikle rekabet edebilmek için güvenlik standartları gevşetilmiş olan yapay zekâların öngörülemeyen ve potansiyel olarak yıkıcı şekillerde davranmayacağı anlamına gelmez. Ayrıca, bu yapay zekâların bilgisayar korsanları, suç çeteleri, karanlık parayla finanse edilen siyasi kampanyalar, şantajcılar gibi olgular üzerinden, kamu kurumlarını ve altyapıyı sabote etmek için kullanılmayacağı anlamına da gelmez. Subliminal zihin kontrolünü içermeyen reklâmcılık sektörü nasıl ki bir çok sorunla malul ise, insanlığın aleyhine dönen bir “tanrısal cihaz”ı içermeyen yapay zekâ da sayısıza soruna sahiptir.

İnsanın özne ve fail olarak sahip olduğu melekeleri ve yetenekleri makinelere atfetmek anlamında teknoloji fetişizmi, her daim politik bir eylemdir. Bu, herhangi bir teknolojide somutlaşan hedeflerin, amaçların insani amaçlar olduğunu; daha da özelde, bunların insanlığın küçük bir alt kümesinin, bir sınıfsal kesimin, Silikon Vadisi’ni çocuk krallar gibi yöneten, gerçekleşme imkânı bulunmayan sayısız umudun taşıyıcısı olan, şimdilerde Trump’ın sarayına girmeyi başaran, aklını yitirmiş, acımasız, gerçekle-insanla bağını kopartmış, beyinleri yıkanmış, duygusal olarak gelişmemiş ahlaksızların otomatiğe bağlanmış amaçları olduğunu gizler.

Derler ki “teknoloji işte böyle çalışıyor, kaprisli bir yarı tanrı gibi; ya bizi zenginliklerle boğacak ya da hepimizi öldürecek, dolayısıyla, onu yatıştırmalı, tuzağa düşürmeliyiz, ondan korkmalı ve ona değer vermeliyiz. Onu parayla beslememeli, önünde diz çökmeyi bırakmalı veya şunu düşünmeye başlamalıyız: Bu, acımasız kapitalistlerin karşımıza çıkarttığı şey, yabancılaşmış kolektif gücümüzden başka bir şey değil. Bizi teknolojilerinin hizmetkârları yaparak, bizi köleleştirmeye çalışıyorlar. Fakat dostlarım, bu Luddizmdir. Bu Luddizm denilen talihsiz vakanın nelere yol açtığını hepinizin bildiğine eminim.

Richard Seymour
12 Eylül 2026
Kaynak