Düşünen Makineler Çağı Başladı mı?

Bu satırları yazdığım sırada, bir kadeh şarabın yardımıyla soğukkanlılığımı korumaya çalışırken, Twitter bir tür tartışmaya tanık oluyordu.[1] Bu “tartışma”, Google’ın geliştirdiği LaMDA (Diyalog Uygulamaları için Dil Modeli) adlı büyük bir dil modeli sisteminin[2] belirli bir “bilinçlilik” seviyesine ulaştığına inanan veya en azından bunu iddia eden kişilerle fikre itiraz edenler arasında cereyan ediyordu. İtiraz edenlerin elinde, kendi konumlarını meşrulaştıracak birçok gerçek mevcuttu. Bu gerçeklerin en önemlisi de büyük dil modellerinin (ya da meslekte bilindiği adıyla LLM’lerin) ayrıntılı örüntü eşleme sistemleri, bilgisayar işlemlerine has basit numaralar veya araştırmacılar Emily M. Bender ve Timnit Gebru’nun adlandırdığı gibi “rastgele konuşan papağanlar”[3] olmaları, örüntü eşleme için yazılım aracılığıyla uygulamalı matematik, olasılık ve en önemlisi kelimelerimizi kullanarak, internetten çekilip bize geri gönderilerek konuşma yanılsaması yaratmalarına dair o basit gerçekti.

Dünya aklı başında bir yer olsaydı, bu tartışmada gerçekler galip çıkardı. Ama böyle bir dünyada yaşamıyoruz. Bizim dünyamızda, teknolojiye safça bağlanma, bilim kurgu fikirleri ve en önemlisi, kasıtlı yanlış bilgilendirme, birleşerek, belirli bir dili ve anlayışı dayatıyor: bu dil bize “düşünen makineler çağı başladı (ya da sadece bir silikon öpücüğü uzağımızda). Emeğe dair bildiğimiz her şey değişmek üzere” diyor.

Yapay Zekâ Efsanesi ve Mülk Sahibi Sınıf

Yapay Zekâ (YZ) uzun zamandır bilim kurgunun konusu. Bugün bu kurgunun gerçeğe dönüşeceği bir dünyaya her zamankinden daha yakın olduğumuz söyleniyor. Gelişmiş kapitalist dünyanın büyük bir bölümünde, bir gazetecinin, iş dünyası liderinin veya politikacının YZ’nin yaşam tarzımızı nasıl kökten değiştireceğine dair cesur tahminlerde bulunmadığı bir gün bile geçmiyor. Oysa bu bir yalan. Hatta bundan daha fazlası: YZ Endüstriyel Kompleksi (YZEK) olarak adlandırabileceğimiz oluşum tarafından gerçekleştirilen kasıtlı bir aldatmaca bu.

Bu noktada söz konusu kompleksin, araştırmacıların ve pratikte faal olan teknoloji uzmanlarının çalışmalarından farklı olarak ele alınması gerekiyor. Aslında bu kompleks, pazarlama alanına has reklâmlar, medyadaki abartılar ve kapitalist faaliyetler yoluyla gerçekleştirilen, hem teknik kapasite eksikliğini gizlemek hem de insan emeği ve yeteneğinin değerini azaltmak için tasarlanmış karmaşık bir propaganda kampanyası olarak anlaşılmalı. Daha özlü bir ifadeyle, YZEK, makinedeki biliş imkânının şu anda veya yakın gelecekte insana has yeteneklerden üstün olduğu fikrini yayma çabasıdır.

“Radyolog Eğitimini Sonlandırın”

Bugün aslında elimizde, belirli bir anlama sahip, “yapay zekâ” olarak adlandırılabilecek bir şey yok. Neticede henüz kesin olarak tanımlamadığımız bir şeyi nasıl geliştirebiliriz?[4] Dahası, devletin ve endüstrinin en üst kademelerinde, esasen (şimdilik) bol miktarda depolama ve hesaplama gücüyle desteklenen örüntü eşleme pratiğinin[5] gerçekte belirli sınırlara sahip olduğu görülmüştür.

“Yapay zekâ” alanına tahsis edilmiş üniversite bölümlerinin ve şirket departmanlarının varlığı, yapay zekânın var olduğu anlamına gelmez. Aksine bu tür oluşumlar, bilgisayar bilimci John McCarthy tarafından 1956’da ortaya atıldığından beri özlem duyulan terimin fazlasıyla reklâm edildiğinin, bilgi kırıntılarıyla beslendiğinin kanıtı. Dolayısıyla, yatırım sermayesi ve keriz müşterileri avlamak için yoğun çaba harcayan Silikon Vadisi’nin çabalarıyla oluşturulmuş abartılı yaklaşımları elekten geçirdiğimizde, elimizde bilgisayar gücüyle neler mümkün olduğuna dair genel algıları şekillendirmeyi amaçlayan propaganda kalıyor.

Örnek olarak, bilgisayar bilimci Geoffrey Hinton’ın 2016 tarihli “Radyolog eğitimini hemen sonlandırmalıyız” açıklamasını ele alalım.[6] Yazının yazıldığı günden beri yapılan kapsamlı araştırmalar, bunun en hafif tabirle erken bir açıklama olduğunu ortaya koydu.[7] Bunu, alanında uzman, hevesli bir bilim insanının geçici ve utanç verici bir aşırılığı olarak görmek kimilerine cazip gelebilir. Ancak gelin, daha derinlere inelim ve bu gereğinden fazla mesaj verme merakının altında yatan siyasi ekonomiye dair sorular soralım.

Radyologluk, masraflı bir iştir ve ABD’de oldukça talep görmektedir.[8] Bu alandaki işgücü kıtlığı, genellikle daha yüksek ücretlere ve daha iyi çalışma koşullarına yol açar ve bazılarının “işçi aristokrasileri” olarak adlandırdığı yapıyı meydana getiren maddi koşulları oluşturur. Geçmişte bu tür kıtlık durumları, teknoloji çağının ilk on yıllarında yaygın olan cömert ikramiyeler gibi, çalışanlara eğitim ve teşvikler sağlanması yoluyla gideriliyordu. Bu durum otomasyon kullanılarak aşılabilirse, radyologlar tarafından gerçekleştirilen vasıflı işgücünün değeri düşecek, kıtlık sorunu çözülürken, işverenlerin kalan personel üzerindeki gücü artacaktır.

Gerçekte varolan beceri imkânlarından bağımsız olarak, otomatik radyoloji fikri, mülk sahibi sınıfı için cazip bir fikirdir, çünkü emeğin gücünü zayıflatma denilen işleyiş, işgücü maliyetini düşüren, ayrıca gelişime açık haliyle, kârlılığı artırma vaadinde bulunur. Bu işin reklâm edildiğini söylüyorum, çünkü algoritma temelli sistemlerin pazarlanan kapasitesiyle gerçeklik arasında büyük bir uçurum söz konusu. Bu uçurum, genel nüfusu emeklerinin makinelerle değiştirilebileceğine ikna etmek gibi daha büyük bir hedef açısından önemsizdir. En önemli sonuç, mümkün olsa bile uzak bir hedef gibi görünen düşünen makineler değil, bu sistemler aracılığıyla hayatlarını sürdürmeye zorlanan insanlardan daha iyi olduğu söylenen kaba otomatik sistemlerden oluşan bir labirente tabi tutulan moralsiz bir nüfustur.

Gerçek Tehlike Nerede?

Stephen Hawking’den Musk’a kadar farklı isimlerden, teknoloji medyası uzmanları ve sektör figürlerinden oluşan bir grup, bir ikazda bulunuyor: İnsanlık, üstün makine zekâsının yakın zamanda ortaya çıkmasıyla tehlike altında. Bu görüşe iman edenler, söz konusu zekânın, tıpkı Terminatör film serisindeki Skynet gibi, dünyayı kuşatıp insanın yerini alacağını söylüyorlar. Kapitalizmin hizmetinde olan bu zekânın, arabalarımızı ve kamyonlarımızı kullanacağını, doktorların ve aşçıların yerini alacağını, hatta mülksüzlerle sahte bir samimi ilişki kuracağını iddia ediyorlar.

Oysa bu söylenenler, yalan yanlış bir hikâyeden ibarettir. Asıl tehdit, Žižek’in 2003 tarihli “Irak Savaşı’nda Gerçek Tehlike Nerede?”[9] başlıklı makalesinde ortaya koyduğu bakış açısıyla anlaşılabilir. O yazıda Žižek, Avrupa’daki sağcı söylemle solun ona yönelik tepkisi arasındaki ilişki konusunda şunları söylüyordu:

“Gerçek tehlikeyi, en iyi, Avrupa’daki popülist sağın bugün gerçekte oynadığı role bakarak anlayabiliriz: popülist sağ bugün, sadece muhafazakâr partiler değil, ‘sosyalist’ hükümetlerin de fiili politikalarına sessizce kattıkları dış tehdit, göçü sınırlama zorunluluğu gibi belirli konu başlıklarını gündeme getirme rolünü üstleniyorlar.”

Yapay zekâ propagandası yapan söylem de benzer bir işlev görüyor; teknoloji endüstrisi, “yaratıcı zekâ” hikâyesini zihinlere dayatmak suretiyle, tüm tartışmanın sahasını değiştirmeye çalışıyor. Bu noktada bilgisayar işlemlerinin, hesaplama pratiğinin politik ekonomisinin üzerini örtüyor, herkesi gelişmekte olan makine özerkliğiyle tanımlı bilim kurgu efsanelerine kul etmeye çalışıyor. Bu kurguya direnmemiz ve gözlerimizi endüstrinin gerçek hedeflerine odaklamamız, bugün hayati önem taşıyor.

Yalana iman etmenin, vehimlere kapılmanın risklerinin çok yüksek olduğu görülmeli.

Dwayne Monroe
16 Haziran 2022
Kaynak

Dipnotlar:
[1] Emily Bender, “AI Hype”, 11 Haziran 2022, X.

[2] Eli Collins ve Zoubin Ghahramani, “LaMDA”, 18 Mayıs 2021, Blog.

[3] Emily Bender vd., “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big”, 1 Mart 2021, ACM.

[4] François Chollet, “On the Measure of Intelligence”, 5 Kasım 2019, Arxiv.

[5] Vyacheslav Efimov, “Introduction to Ranking Algorithms”, 16 Ağustos 2023, TDS.

[6] Geoff Hinton: On Radiology, 24 Kasım 2016, Youtube.

[7] Karoline Freeman vd., “Use of Artificial İntelligence For İmage Analysis in Breast Cancer Screening Programmes: Systematic Review of Test Accuracy”, 21 Temmuz 2021, BMJ.

[8] Marty Stempniak, “American College of Radiology Backs Bipartisan Push to Address ‘Alarming’ Resident Physician Shortages”, 5 Nisan 2021, RB.

[9] Slavoj Zizek, “The Iraq War: Where is The True Danger?”, 13 Mart 2003, Lacan.