Makine
öğrenimi alanına (kelimeler gibi sıralı verilerdeki ilişkileri izleyerek,
bağlamı, dolayısıyla, anlamı öğrenen sinir ağı anlamında) transformatörlerin
takdim edilmesiyle birlikte, teknoloji sahasında bir dizi mucizenin yaşandığını
kimse inkâr edemez. Bu transformatörler, teknik araştırmalar dizisi dâhilinde
kademe atladığımızın delili. Biliyoruz ki bu teknik araştırmalar pratiği,
tarihinin önemli bir kısmını makul fikirlere sahip ustalarının fikirlerine
kanarak geçirmişti.
Sol,
bu değişimi neoliberal basıncın dayattığı bir başka yol olarak gördü ya da onun
temelini teşkil eden emek ve kaynak istihracına işaret etti. Oysa bu, en
nihayetinde doğal dile ait açıklamaları alabildiğine doğru bir biçimde tercüme
eden, metni ve görüntüleri meydana getirebilen makine karşısında geliştirilmiş
sığ bir yaklaşım.
Yakın
zamana kadar bu tür işlemler, imkânsız görünüyordu. Böylesi mucizelere
verilecek en uygun tepki, reddetmek değil, dehşete kapılmak olmalı. Yola tam da
bu dehşet meselesinden başlanmalı, zira bu yapılan sihrin ardındaki hüner,
istikrarsız bir yapısı olan dünya iktidarının toplumsal anlamda zirvesinde olan
bir avuç nev-i şahsına münhasır kişinin özel mülkü. Bu türden insanlara en
geniş manada insanlık ailesinin şeyleşmiş zekâsını teslim etmek, tümüyle bir
delilik, oysa bugün yaptığımız tam da bu.
İngiltere’de
teknoloji bağımlısı üniversite yöneticileri, şu anda aşırı yoğun öğretim
kadrosunun öğretim materyalleri üretimi için üretken yapay zekâya yönelmesini
savunuyor. Lisans öğrencilerinin yarısından fazlası, makale yazma pratiğine
katkıda bulunmak adına, hâlihazırda aynı teknolojiyi kullanıyor ve
notlandırmanın otomasyonu için çeşitli yapay zekâ platformları deneniyor. Dayandıkları
mantıksal çıkarım üzerinden değerlendirildiklerinde bu yaşanan gelişmeler,
eğitim sisteminin özel kişilerin malı olan makine öğrenimi modelleri için
geliştirilmiş eğitim-öğretim süreci olarak eğitim sisteminin yeni bir amaca
kavuşturulacağını söylüyor: bugün öğrenciler, öğretmenler, okutmanlar, cem-i
cümlesi, bir tür dışarıdan temin edilmiş idareciye veya teknisyene
dönüştürülüyor. Böylece ortaya kara kutuya hapsedilmiş ve kendilerine ait
olmayan “bilgi”nin öğrenilmesi yönünde bir eğilim çıkıyor.
Büyük
Dil Modellerinin “halüsinasyon görme”sine mani olacak herhangi bir yol
bilinmiyor. Asılsız bilgiler ve saçmalıklar, bu modellerin ürettiği ürünlere
karışıyorlar. Kişi, ilgili çalışmayı gerekli şekilde yürütmediği sürece, bu
asılsız bilgileri ve saçmaları hiçbir şekilde tespit edemiyor. Düşünme
ölçütlerini bugüne dek muhafaza edenlerin işi, neticede salt makine kaynaklı
saçmalıkları düzeltecek geri bildirimler sağlamak oluyor.
Bu
işlevin yerine getirilmediği yerde halüsinasyonlar, kontrolsüz bir biçimde
çoğalacaktır. Bir zamanlar CERN’de bir tür ideal bilimsel toplum olarak
tahayyül edilmiş olan internet, istatistik sistemlerinin gevezelikleriyle dolup
taşıyor. Tahliye edilmek üzere dünyanın güneyindeki yoksul ülkelere gönderilen
fiziki atıklar gibi dijital atık da yoksul ülkelere boca ediliyor: bugün
internete iyi kaynaklara sahip dillerin ürettiği içerikler değil, düşük
kaliteli İngilizce içeriklerin düşük kaliteli makine çevirileri hâkim.[1] Bu da
tabii ki üretken yapay zekâ modellerinin bugüne dek su içtiği kuyulardan
birinin zehirlenmesi riskini doğuruyor. Bu anlamda, prion denilen
proteinlerin oluşumuyla birlikte beyni tüketen, süngerleştiren
Creutzfeldt–Jakob hastalığına benzer bir süreç yaşanıyor: özetle, makine
öğrenimi kendi zıddına dönüşüyor.
İnsanlardan
bu türden eğilimleri, yıkıma ait izler bırakan süreçler için eğitim-öğretime
ait verileri filtreleyip düzeltme ve yapılanmak suretiyle yoluna koymaları
istenecektir. Oysa bilinir ki eğitimci de eğitilmelidir. Kitap piyasasının
otomatik olarak üretilmiş çöplerle dolup taştığı koşullarda[2] geleceğin
eğitimcilerinin bir şeyler öğrenecekleri kültür, olduğu gibi kabul edilemez.
O
ünlü pasajında genç Marx, insanın kendisini dönüştürme sürecinin öğrenmenin
gerçekleştiği koşullardaki köklü dönüşümü ifade eden gerçek öğrenme pratiğini
içerdiğini söylüyordu. Eğer bugün öğrenme pratiği, başkasına ait makinenin
çıktılarının doğruluğunu kontrol etmeye indirgenmek, öğrenenle yapısal düzeyde
çelişen üretim ilişkilerini ustalıkla idare etmek gibi bir riskle karşı karşıya
ise o vakit insanın kendisini eğitmesi için atacağı ilk adım, teknolojinin
estirdiği bu rüzgâra saçlarını kaptırmaya yönelik bir itirazı da içeriyor
olmalıdır.
Bu
yaşanan gelişmelere temel teşkil eden, bağlantılar üzerine kurulu yapay zekânın
kökleri, elektronik bilgisayarın bile öncesine uzanıyor olsa da yaşadığı
yükseliş sürecini ciddi krizlerle malul günümüz dünyasına ait dinamiklerden
ayrı ele almamak gerekiyor.
Hâlihazırda
çökme tehlikesiyle karşı karşıya olan eğitim sistemi, ona ister tek tek her bir
faildeki çaresizlik dürtüsü, ister saflık isterse kuşkuculuk yön veriyor olsun,
bu türden tehlikeli bir teknolojinin geliştirilmesi için gerekli bereketli
toprağı sağlıyor. Sağlık sistemi, ilk elden daha büyük risklerle karşı karşıya.
Bu alanda sürece destek olanlar, kendilerini yapay zekâ temelli değişime uyumlu
kişiler olarak takdim etmeyi seviyorlar.
Biz,
bu yaşanan gelişmeleri iklim acil durumuna ileride verilecek tepkilerin
habercisi olarak görebiliriz. Yapay Genel Zekâ konusunda kehanetlerde
bulunanların sağda solda satmayı sevdikleri o bilindik kıyamet senaryolarını
unutun gitsin. Bu kişiler, esasında bizim dikkatimizi, zaten yaşadığımız bir
felâketten uzaklaştırmak için uğraşıyorlar.
Matteo
Pasquinelli’nin son çıkabı The Eye of the Master: A Social History of
Artificial Intelligence [“Efendinin Gözü: Yapay Zekânın Toplumsal Tarihi”],
muhtemelen yaşanan bu türden gelişmelere verilecek eleştirel-teorik cevabı
kurgulama konusunda bugüne dek ortaya konulmuş en yetkin ve en gelişkin çaba.
Kitabın başlığı bence yanlış. Kitapta bildiğimiz manada bir toplumsal tarih
aktarılmıyor. Esasında, tam da Joy Lisi Rankin’in A People’s History of
Computing in the United States [“ABD’de Bilgisayar Kullanımının Halk
Gözüyle Tarihi” -2018] çalışmasında görüldüğü üzere, özel akademi ve araştırma
ortamlarında uzun süredir tüketilmekte olan teknik alanı için böylesi bir tarih
yazmanın zor olduğunu görmek gerekiyor. Toplumsal olan, bu alana Babbage ve
Marx’ın emek sürecine dair analizlerini merkeze koyan kapitalist tarihle ilgili
yeni teorik yorum üzerinden giriş yapıyor. Bu yorum, ta on dokuzuncu yüzyılda
bile makineleşme ve işbölümünü insan aklının bir tür yabancılaşması olarak
tanımlıyor. Böylelikle ilgili yorum, bize bağlantıları esas alan yapay zekânın
tarihinin ilk dönemine dair değerlendirme için gerekli zemini sunuyor.
Başlıktaki “Göz”, örüntü tanıma işlemindeki otomasyonla çalışma sürecinin
gözetlenmesi pratiğinin tarihini birbirine bağlıyor.
Tam
tarih çalışması olarak nitelendiremeyeceğimiz bu kitabın merkezinde ciddiyetle
ele alınmayı hak eden, akademik alanda gerçekleştirilmiş birkaç keşif duruyor. Herkesin
bildiği gibi, Babbage’ın bilgisayar ve hesaplama alanını otomatikleştirmeye
yönelik ilk çabaları, esasen işbölümüne dair belirli bir politik-ekonomik bakış
açısıyla bağlantılıydı. Pasquinelli, Marx’ın “genel akıl” anlayışının izlerini
Rikardocu sosyalist William Thompson’ın 1824 tarihli kitabı An Inquiry into
the Principles of the Distribution of Wealth’e [“Servet Dağıtımının
İlkelerine Dair Bir Araştırma”] dek sürerek yeni bir yaklaşım ortaya koyuyor. Thompson’ın
emek teorisi, nispeten alt seviyedeki iş pratiklerinde bile karşılık bulan
bilgiden bahsediyordu. Makinelerin temellük ettiği bu bilgi, onun kopartıldığı
insanların karşısına çıkartılmaktaydı. Bu teori, Marx’ın o ünlü “makinelerle
ilgili bölüm” pasajı gibi teknolojinin birikiminin yol açacağı muhtemel
ekonomik sonuçlara dair yorumlar için gerekli zemini sağladı.
İşçiler
arasındaki kaynaşma konusunda tehlike arz eden, çalışma pratiğinin zihinsel
yönlerine dönük her türden vurgu, esasen işçi hareketi içerisinde “işçi
aristokrasisi”nin bulup çıkartılmasına dönük çabanın bir ürünüydü. Kapital
projesi olgunlaştıkça Marx, kolektif işçi için lazım gelen genel akıl
anlayışını rafa kaldırdı, bilgiye ve akla yönelik vurgudan, toplumsal
koordinasyon lehine konum alarak, vazgeçti. Süreç içerisinde bilginin ve aklın
makineleşmedeki rolüne dair geliştirdiği ilk teorinin üzeri örtüldü. Dolayısıyla,
bu teorinin Büyük Dil Modeli’nin varolduğu çağın bakış üzerinden yeniden inşa
edilmesi gerekiyor. Bu teori, bize kapitalist üretimin her daim bilginin yabancılaşması
denilen şeyi içerdiğini, zekânın makineleşmesinin ise her daim işbölümüne
mündemiç olduğunu söylüyor.
Pasquinelli
bu kadarını söylemekle yetinmiş olsaydı, kitabı Marksoloji alanında ve politik
ekonomi tarihi sahasında ilginç bir manevra olarak kalırdı. Oysa bu kitap, akademide
makine öğrenimi konusunda geliştirilen bağlantıcı yaklaşımın kökenlerinin keşfi
için gerekli teorik zemini aktarıyor. Bu konuda ilk olarak sinirbilim alanında,
Warren McCulloch, Walter Pitts ve Ross Ashby gibi isimlerin İkinci Dünya Savaşı’nın
ortalarında ve savaştan hemen sonra inşa ettikleri, sibernetiğin kendi
kendisini örgütlemesine dair teorilerden, ardından da, ellilerin sonlarında
Cornell Havacılık Laboratuvarı’nda ve bugünün makine öğrenimi modellerinin doğrudan
ilk atası olan, Frank Rosenblatt’ın “algılayıcı” modelinden bahsediyor.
Algılayıcı
modelinin gelişimini besleyen düşünsel kaynaklar arasında, sibernetikçilerle
Gestalt psikologlarının Gestalt algı veya örüntü algılama meselesiyle ilgili
ihtilafa; Hayek’in nöropatoloji uzmanı Constantin Monakow’un adı bile anılmayan
bir laboratuvar asistanı iken geliştirmeye başladığı, ekonomiye dair görüşleriyle
benzerlik gösteren bağlantıcı zihin teorisine; istatistik ve psikometrinin
ürettiği vektörleştirmeye ve onun öjeni hareketiyle kurduğu derin tarihsel
bağlara değinmek gerekiyor. Bu öjeni hareketiyle kurulan bağın sonuçlarını,
bugün herkesi endişeye sevk eden, yapay zekâ alanında ırk gibi konularla
alakalı olarak ortaya çıkan önyargılar şahsında görüyoruz.
Pasquinelli’nin
kitabı, sıra dışı bir kudrete sahip. Esasında bu kudret, yapay zekânın ilk
dönem tarihindeki teknik ve düşünsel gelişmelerin ayrıntılarını ortaya koyma
becerisiyle, kapsamlı bir sosyal teorinin inşasına dönük arzusunu
birleştirebilmiş olmasının bir sonucu. Ama yazar aynı yüksek beceriyi,
algılayıcıyı ve onu takip eden her şeyi işbölümüyle ilişkilendirme konusunda
göstermiyor. Oysa ki bu iki husus, sadece genel manada zekânın değil, algının
da otomatikleştirilmesine yönelik vurgu ile ilişkilendirilmeli, bu vurgu,
devamında üretim sürecinin denetlenmesi pratiğine bağlanmalı.
Yazar
meselesini soyut düzlemde ortaya koysa da, dijital medya, eğitim sistemleri
sağlık gibi alanlarda kıra döke kendisine yol açan yabancılaşmış zekâyı, kafa
emeğinin ayrılmaz bir boyutu olduğu emek süreçlerinde eskiden mündemiç olan zihinsel
yeteneği makine üzerinden el koymanın o derin tarihi bağlamında ele alma çabası
dâhilinde önemli bir fikir ortaya koyuyor.
Otomasyon
sürecinin nesnelerinin toplum ve kültür sahasındaki statüsü, muhtemelen mevcut düşünsel
akımın farklı durduğu yer. Eskiden, bu tür alanlarda zihinsel yeteneğin
görmezden gelindiği katmanlaşmalar bağlamında, yeni cihazlarda mündemiç olan el
emeğinin düşünebilirliği önemliyken, bugün makine öğrenimi modellerinde makinelerde
nesneleşen insani söylem önemli.
Eğer
makinelerin siyaseti asla bitaraf değilse, makineleşmenin bugün ulaştığı genele
teşmil olma düzeyi, her yerde alarm zillerinin çalmasına neden oluyor olmalı:
bu tür şeyler, büyük bir güven duygusuyla, dar bir şirketler grubuna ve teknik
konusunda uzman bir avuç elite teslim edilmemeli. Bu aletler ne kadar büyülü
görünürse görünsünler, böyle kaldıkları sürece, bizim düşmanımız olacaklar. Dolayısıyla,
teknik gelişmenin baskın yollarına alternatifler bulma meselesi aciliyetini her
daim koruyacak.
Rob Lucas
2 Şubat 2024
Kaynak
Dipnotlar:
[1] Brian Thompson vd., “A Shocking Amount of the Web is Machine Translated”,
11 Ocak 2024, Arxiv.
[2]
Greg Bensinger, “ChatGPT Launches Boom in AI-Written E-Books on Amazon”, 21 Şubat
2023, Reuters.
0 Yorum:
Yorum Gönder