Unutan Makineler

Makine öğrenimi alanına (kelimeler gibi sıralı verilerdeki ilişkileri izleyerek, bağlamı, dolayısıyla, anlamı öğrenen sinir ağı anlamında) transformatörlerin takdim edilmesiyle birlikte, teknoloji sahasında bir dizi mucizenin yaşandığını kimse inkâr edemez. Bu transformatörler, teknik araştırmalar dizisi dâhilinde kademe atladığımızın delili. Biliyoruz ki bu teknik araştırmalar pratiği, tarihinin önemli bir kısmını makul fikirlere sahip ustalarının fikirlerine kanarak geçirmişti.

Sol, bu değişimi neoliberal basıncın dayattığı bir başka yol olarak gördü ya da onun temelini teşkil eden emek ve kaynak istihracına işaret etti. Oysa bu, en nihayetinde doğal dile ait açıklamaları alabildiğine doğru bir biçimde tercüme eden, metni ve görüntüleri meydana getirebilen makine karşısında geliştirilmiş sığ bir yaklaşım.

Yakın zamana kadar bu tür işlemler, imkânsız görünüyordu. Böylesi mucizelere verilecek en uygun tepki, reddetmek değil, dehşete kapılmak olmalı. Yola tam da bu dehşet meselesinden başlanmalı, zira bu yapılan sihrin ardındaki hüner, istikrarsız bir yapısı olan dünya iktidarının toplumsal anlamda zirvesinde olan bir avuç nev-i şahsına münhasır kişinin özel mülkü. Bu türden insanlara en geniş manada insanlık ailesinin şeyleşmiş zekâsını teslim etmek, tümüyle bir delilik, oysa bugün yaptığımız tam da bu.

İngiltere’de teknoloji bağımlısı üniversite yöneticileri, şu anda aşırı yoğun öğretim kadrosunun öğretim materyalleri üretimi için üretken yapay zekâya yönelmesini savunuyor. Lisans öğrencilerinin yarısından fazlası, makale yazma pratiğine katkıda bulunmak adına, hâlihazırda aynı teknolojiyi kullanıyor ve notlandırmanın otomasyonu için çeşitli yapay zekâ platformları deneniyor. Dayandıkları mantıksal çıkarım üzerinden değerlendirildiklerinde bu yaşanan gelişmeler, eğitim sisteminin özel kişilerin malı olan makine öğrenimi modelleri için geliştirilmiş eğitim-öğretim süreci olarak eğitim sisteminin yeni bir amaca kavuşturulacağını söylüyor: bugün öğrenciler, öğretmenler, okutmanlar, cem-i cümlesi, bir tür dışarıdan temin edilmiş idareciye veya teknisyene dönüştürülüyor. Böylece ortaya kara kutuya hapsedilmiş ve kendilerine ait olmayan “bilgi”nin öğrenilmesi yönünde bir eğilim çıkıyor.

Büyük Dil Modellerinin “halüsinasyon görme”sine mani olacak herhangi bir yol bilinmiyor. Asılsız bilgiler ve saçmalıklar, bu modellerin ürettiği ürünlere karışıyorlar. Kişi, ilgili çalışmayı gerekli şekilde yürütmediği sürece, bu asılsız bilgileri ve saçmaları hiçbir şekilde tespit edemiyor. Düşünme ölçütlerini bugüne dek muhafaza edenlerin işi, neticede salt makine kaynaklı saçmalıkları düzeltecek geri bildirimler sağlamak oluyor.

Bu işlevin yerine getirilmediği yerde halüsinasyonlar, kontrolsüz bir biçimde çoğalacaktır. Bir zamanlar CERN’de bir tür ideal bilimsel toplum olarak tahayyül edilmiş olan internet, istatistik sistemlerinin gevezelikleriyle dolup taşıyor. Tahliye edilmek üzere dünyanın güneyindeki yoksul ülkelere gönderilen fiziki atıklar gibi dijital atık da yoksul ülkelere boca ediliyor: bugün internete iyi kaynaklara sahip dillerin ürettiği içerikler değil, düşük kaliteli İngilizce içeriklerin düşük kaliteli makine çevirileri hâkim.[1] Bu da tabii ki üretken yapay zekâ modellerinin bugüne dek su içtiği kuyulardan birinin zehirlenmesi riskini doğuruyor. Bu anlamda, prion denilen proteinlerin oluşumuyla birlikte beyni tüketen, süngerleştiren Creutzfeldt–Jakob hastalığına benzer bir süreç yaşanıyor: özetle, makine öğrenimi kendi zıddına dönüşüyor.

İnsanlardan bu türden eğilimleri, yıkıma ait izler bırakan süreçler için eğitim-öğretime ait verileri filtreleyip düzeltme ve yapılanmak suretiyle yoluna koymaları istenecektir. Oysa bilinir ki eğitimci de eğitilmelidir. Kitap piyasasının otomatik olarak üretilmiş çöplerle dolup taştığı koşullarda[2] geleceğin eğitimcilerinin bir şeyler öğrenecekleri kültür, olduğu gibi kabul edilemez.

O ünlü pasajında genç Marx, insanın kendisini dönüştürme sürecinin öğrenmenin gerçekleştiği koşullardaki köklü dönüşümü ifade eden gerçek öğrenme pratiğini içerdiğini söylüyordu. Eğer bugün öğrenme pratiği, başkasına ait makinenin çıktılarının doğruluğunu kontrol etmeye indirgenmek, öğrenenle yapısal düzeyde çelişen üretim ilişkilerini ustalıkla idare etmek gibi bir riskle karşı karşıya ise o vakit insanın kendisini eğitmesi için atacağı ilk adım, teknolojinin estirdiği bu rüzgâra saçlarını kaptırmaya yönelik bir itirazı da içeriyor olmalıdır.

Bu yaşanan gelişmelere temel teşkil eden, bağlantılar üzerine kurulu yapay zekânın kökleri, elektronik bilgisayarın bile öncesine uzanıyor olsa da yaşadığı yükseliş sürecini ciddi krizlerle malul günümüz dünyasına ait dinamiklerden ayrı ele almamak gerekiyor.

Hâlihazırda çökme tehlikesiyle karşı karşıya olan eğitim sistemi, ona ister tek tek her bir faildeki çaresizlik dürtüsü, ister saflık isterse kuşkuculuk yön veriyor olsun, bu türden tehlikeli bir teknolojinin geliştirilmesi için gerekli bereketli toprağı sağlıyor. Sağlık sistemi, ilk elden daha büyük risklerle karşı karşıya. Bu alanda sürece destek olanlar, kendilerini yapay zekâ temelli değişime uyumlu kişiler olarak takdim etmeyi seviyorlar.

Biz, bu yaşanan gelişmeleri iklim acil durumuna ileride verilecek tepkilerin habercisi olarak görebiliriz. Yapay Genel Zekâ konusunda kehanetlerde bulunanların sağda solda satmayı sevdikleri o bilindik kıyamet senaryolarını unutun gitsin. Bu kişiler, esasında bizim dikkatimizi, zaten yaşadığımız bir felâketten uzaklaştırmak için uğraşıyorlar.

Matteo Pasquinelli’nin son çıkabı The Eye of the Master: A Social History of Artificial Intelligence [“Efendinin Gözü: Yapay Zekânın Toplumsal Tarihi”], muhtemelen yaşanan bu türden gelişmelere verilecek eleştirel-teorik cevabı kurgulama konusunda bugüne dek ortaya konulmuş en yetkin ve en gelişkin çaba. Kitabın başlığı bence yanlış. Kitapta bildiğimiz manada bir toplumsal tarih aktarılmıyor. Esasında, tam da Joy Lisi Rankin’in A People’s History of Computing in the United States [“ABD’de Bilgisayar Kullanımının Halk Gözüyle Tarihi” -2018] çalışmasında görüldüğü üzere, özel akademi ve araştırma ortamlarında uzun süredir tüketilmekte olan teknik alanı için böylesi bir tarih yazmanın zor olduğunu görmek gerekiyor. Toplumsal olan, bu alana Babbage ve Marx’ın emek sürecine dair analizlerini merkeze koyan kapitalist tarihle ilgili yeni teorik yorum üzerinden giriş yapıyor. Bu yorum, ta on dokuzuncu yüzyılda bile makineleşme ve işbölümünü insan aklının bir tür yabancılaşması olarak tanımlıyor. Böylelikle ilgili yorum, bize bağlantıları esas alan yapay zekânın tarihinin ilk dönemine dair değerlendirme için gerekli zemini sunuyor. Başlıktaki “Göz”, örüntü tanıma işlemindeki otomasyonla çalışma sürecinin gözetlenmesi pratiğinin tarihini birbirine bağlıyor.

Tam tarih çalışması olarak nitelendiremeyeceğimiz bu kitabın merkezinde ciddiyetle ele alınmayı hak eden, akademik alanda gerçekleştirilmiş birkaç keşif duruyor. Herkesin bildiği gibi, Babbage’ın bilgisayar ve hesaplama alanını otomatikleştirmeye yönelik ilk çabaları, esasen işbölümüne dair belirli bir politik-ekonomik bakış açısıyla bağlantılıydı. Pasquinelli, Marx’ın “genel akıl” anlayışının izlerini Rikardocu sosyalist William Thompson’ın 1824 tarihli kitabı An Inquiry into the Principles of the Distribution of Wealth’e [“Servet Dağıtımının İlkelerine Dair Bir Araştırma”] dek sürerek yeni bir yaklaşım ortaya koyuyor. Thompson’ın emek teorisi, nispeten alt seviyedeki iş pratiklerinde bile karşılık bulan bilgiden bahsediyordu. Makinelerin temellük ettiği bu bilgi, onun kopartıldığı insanların karşısına çıkartılmaktaydı. Bu teori, Marx’ın o ünlü “makinelerle ilgili bölüm” pasajı gibi teknolojinin birikiminin yol açacağı muhtemel ekonomik sonuçlara dair yorumlar için gerekli zemini sağladı.

İşçiler arasındaki kaynaşma konusunda tehlike arz eden, çalışma pratiğinin zihinsel yönlerine dönük her türden vurgu, esasen işçi hareketi içerisinde “işçi aristokrasisi”nin bulup çıkartılmasına dönük çabanın bir ürünüydü. Kapital projesi olgunlaştıkça Marx, kolektif işçi için lazım gelen genel akıl anlayışını rafa kaldırdı, bilgiye ve akla yönelik vurgudan, toplumsal koordinasyon lehine konum alarak, vazgeçti. Süreç içerisinde bilginin ve aklın makineleşmedeki rolüne dair geliştirdiği ilk teorinin üzeri örtüldü. Dolayısıyla, bu teorinin Büyük Dil Modeli’nin varolduğu çağın bakış üzerinden yeniden inşa edilmesi gerekiyor. Bu teori, bize kapitalist üretimin her daim bilginin yabancılaşması denilen şeyi içerdiğini, zekânın makineleşmesinin ise her daim işbölümüne mündemiç olduğunu söylüyor.

Pasquinelli bu kadarını söylemekle yetinmiş olsaydı, kitabı Marksoloji alanında ve politik ekonomi tarihi sahasında ilginç bir manevra olarak kalırdı. Oysa bu kitap, akademide makine öğrenimi konusunda geliştirilen bağlantıcı yaklaşımın kökenlerinin keşfi için gerekli teorik zemini aktarıyor. Bu konuda ilk olarak sinirbilim alanında, Warren McCulloch, Walter Pitts ve Ross Ashby gibi isimlerin İkinci Dünya Savaşı’nın ortalarında ve savaştan hemen sonra inşa ettikleri, sibernetiğin kendi kendisini örgütlemesine dair teorilerden, ardından da, ellilerin sonlarında Cornell Havacılık Laboratuvarı’nda ve bugünün makine öğrenimi modellerinin doğrudan ilk atası olan, Frank Rosenblatt’ın “algılayıcı” modelinden bahsediyor.

Algılayıcı modelinin gelişimini besleyen düşünsel kaynaklar arasında, sibernetikçilerle Gestalt psikologlarının Gestalt algı veya örüntü algılama meselesiyle ilgili ihtilafa; Hayek’in nöropatoloji uzmanı Constantin Monakow’un adı bile anılmayan bir laboratuvar asistanı iken geliştirmeye başladığı, ekonomiye dair görüşleriyle benzerlik gösteren bağlantıcı zihin teorisine; istatistik ve psikometrinin ürettiği vektörleştirmeye ve onun öjeni hareketiyle kurduğu derin tarihsel bağlara değinmek gerekiyor. Bu öjeni hareketiyle kurulan bağın sonuçlarını, bugün herkesi endişeye sevk eden, yapay zekâ alanında ırk gibi konularla alakalı olarak ortaya çıkan önyargılar şahsında görüyoruz.

Pasquinelli’nin kitabı, sıra dışı bir kudrete sahip. Esasında bu kudret, yapay zekânın ilk dönem tarihindeki teknik ve düşünsel gelişmelerin ayrıntılarını ortaya koyma becerisiyle, kapsamlı bir sosyal teorinin inşasına dönük arzusunu birleştirebilmiş olmasının bir sonucu. Ama yazar aynı yüksek beceriyi, algılayıcıyı ve onu takip eden her şeyi işbölümüyle ilişkilendirme konusunda göstermiyor. Oysa ki bu iki husus, sadece genel manada zekânın değil, algının da otomatikleştirilmesine yönelik vurgu ile ilişkilendirilmeli, bu vurgu, devamında üretim sürecinin denetlenmesi pratiğine bağlanmalı.

Yazar meselesini soyut düzlemde ortaya koysa da, dijital medya, eğitim sistemleri sağlık gibi alanlarda kıra döke kendisine yol açan yabancılaşmış zekâyı, kafa emeğinin ayrılmaz bir boyutu olduğu emek süreçlerinde eskiden mündemiç olan zihinsel yeteneği makine üzerinden el koymanın o derin tarihi bağlamında ele alma çabası dâhilinde önemli bir fikir ortaya koyuyor.

Otomasyon sürecinin nesnelerinin toplum ve kültür sahasındaki statüsü, muhtemelen mevcut düşünsel akımın farklı durduğu yer. Eskiden, bu tür alanlarda zihinsel yeteneğin görmezden gelindiği katmanlaşmalar bağlamında, yeni cihazlarda mündemiç olan el emeğinin düşünebilirliği önemliyken, bugün makine öğrenimi modellerinde makinelerde nesneleşen insani söylem önemli.

Eğer makinelerin siyaseti asla bitaraf değilse, makineleşmenin bugün ulaştığı genele teşmil olma düzeyi, her yerde alarm zillerinin çalmasına neden oluyor olmalı: bu tür şeyler, büyük bir güven duygusuyla, dar bir şirketler grubuna ve teknik konusunda uzman bir avuç elite teslim edilmemeli. Bu aletler ne kadar büyülü görünürse görünsünler, böyle kaldıkları sürece, bizim düşmanımız olacaklar. Dolayısıyla, teknik gelişmenin baskın yollarına alternatifler bulma meselesi aciliyetini her daim koruyacak.

Rob Lucas
2 Şubat 2024
Kaynak

Dipnotlar:
[1] Brian Thompson vd., “A Shocking Amount of the Web is Machine Translated”, 11 Ocak 2024, Arxiv.

[2] Greg Bensinger, “ChatGPT Launches Boom in AI-Written E-Books on Amazon”, 21 Şubat 2023, Reuters.