Dijital Devrim Alabildiğine Muhafazakâr

Görsel tanıma algoritması, bikinili bir kadını nasıl “fahişe” olarak kategorize eder? Güneş gözlüğü takmış bir çocuğa nasıl “ezik” denilebilir? Bunlar, yapay zekâ alanında çalışan araştırmacı Prof. Kate Crawford ile sanatçı, coğrafyacı ve fotoğrafçı Trevor Crawford’un elde ettiği sonuçlar. Bu iki isim, otomatik sistemlerle ve algoritmalarla görüntü tanıma pratiğinin hikâyesiyle ilgileniyor.

Amaçları, körü körüne güvenilen bu sistemlerin dünyayı “görme” ve “kategorize etme” konusunda nasıl eğitildiklerini anlamak. “İnsanların Eğitilmesi” isimli proje, detaylı hazırlanmış bir çalışma. Projenin ulaştığı sonuç şu şekilde: Bugüne dek yapay zekâyı eğitme yöntemlerinin hiçbirisi; tarafsız, doğal veya apolitik (politika dışı) olmamıştır.”

Verilerin toplanması, kategorize edilmesi ve ölçülmesi konusunda sistematik bir eğilim söz konusu ve bu eğilim, şu türden önemli soruları gündeme getiriyor: Bu görüntülerin anlamına kim karar veriyor? Kategorileri kim tanımlıyor? Böylesi çalışmalarda kaçınılmaz olarak hangi toplumsal temsiliyetler karşımıza çıkıyor?

Kate Crawford ve Trevor Paglen, matematiksel bir model geliştirirken önyargılardan uzak olmanın imkânsızlığı üzerinde duruyor. IBM’in “temsillerin matematikleştirilmesi” ile ilgili çabasının boş bir çaba olduğu, içinden çıkılmaz sonuçlar ortaya koyduğu görüldü.

Esasında insan olan operatörlerin başka bir görsel tanıma algoritmasını, matruşka ile “Mekanik Türk” denilen satranç otomatına benzer bir yöntemle eğitmek suretiyle tercihlere ağırlık veren bir şekilde kullanmak, normatif açıdan bakıldığında, çoğunlukla kırılgan ve tehlikeli sonuçlar doğuruyor. Bu pratiğin her bir aşamasında eskinin yanlışından daha fazla yanlışa tanık olunuyor.

Kütlesel Yeniden Üretimin Silâhı Olarak Algoritma

Kendi kendisini eğitmiş bir geliştirici ve bir süre ABD Dijital İşler Dairesi için çalışmış antropolog Marianne Bellotti’ye göre, insanlar elinde daha fazla veri var diye daha iyi kararlar almıyorlar, dolayısıyla bu, yapay zekâ için neden farklı olsun ki?

Tanrıların büyük bir kayayı her sabah dağın tepesine taşıma cezası verdiği, her akşam o kayanın aşağıya yuvarlandığına şahit olan Sisifos gibi, uzmanlar da vakitlerinin yüzde seksenini veri kümelerini silmekle geçiriyorlar ve “bilgiler iyileştikçe, daha iyi sonuçların ortaya çıkmasını” umuyorlar.

Oysa enformasyon sistemleri, aslında belirli bir rasyonellikten mahrumlar. Gerçek dünyada kamusal, politik ve ekonomik kararlar, hassasiyet ve doğruluk için alınmıyorlar, ihtiyaç duyulan çabayı minimize edecek yolu bulmak amacıyla alınıyorlar. Marianne Bellotti’nin tespitiyle, “Bir durumu bütünsel anlamak, daha hızlı karar alacak aletlerden daha az istenen bir şeydir.” Dolayısıyla bir karar, her zaman sürece dâhil olan ve kendi risklerini, ortamını hesaba katan farklı aktörler arasındaki müzakerenin bir sonucunda alınacaktır. Bu, hiçbir veri örnekleminin kusursuz bir biçimde kısıtlayamayacağı bir süreçtir.

Yapay zekâ alanında yaşanan teknolojik gelişmeler, her zaman o teknolojileri kontrol edenlerin kişisel, finansal ve zihinsel zorunluluklarına ve önyargılarına tabi olacaktır. Geçmişin miras bıraktığı, bugün yüz tanıma sistemlerinin neden Microsoft, IBM veya Çinli şirket Megvii tarafından satıldığını izah eden yönelim dâhilinde bu sistemler, siyahî kadınları tanıma konusunda yetersiz kalırken, beyaz erkekler konusunda daha iyi sonuç vermektedir.

Uzmanlık alanı bilgisayar bilimleri olan Hollandalı avukat ve felsefeci Mireille Hildebrandt, yapay zekâyı “otomatik çıkarım” olarak nitelendiriyor. Bugün bize devrim diye sunulan şey, zaten var olan düşünce sistemlerinin basit bir uzantısından başka bir şey değil.

İşin Dijitalleşmesi: Yeni Bileşenler, Eski Reçeteler

Çalışma hayatı ve iş pratiği bünyesinde mevcut olan yapıların konsolide edildiği bir süreçten geçiyoruz. Üretim sürecine ait dijital aletler kodlanıyor. Pandemi döneminde günlük ortalama on milyon insanın kullandığı Zoom denilen video konferans yazılımı bunun en güzel örneği.

Gazeteci ve internet araştırmacısı Hubert Guillaud, Xavier de La Porte ile röportaj yaptı. Porte, orada Zoom’un kimi özelliklerine sadece internet ortamında toplantıyı organize eden kişinin erişebildiğini söylüyor. Bu imkân dâhilinde “ev sahibi” katılımcının mikrofonunu kapatabiliyor, ekran paylaşımına izin verebiliyor ya da yasak getirebiliyor, hatta bir kullanıcıyı toplantıdan çıkartabiliyor.

Burada da gördüğümüz üzere geçmişin hiyerarşik iktidarı, kodlar aracılığıyla geleceğin aletlerinin işleyişini biçimlendiriyor. Kapanmalar sayesinde yatay iş birliği kurma imkânı doğdu. Bu herkesi eşitleyeceği düşünülen pratik, uzun zamandır beklenen bir gelişmeydi.

2000 tarihli o ünlü makalesi “Kod Kanundur: Siberuzayda Özgürlük”te Harvard’da hukuk profesörü olarak çalışan, ayrıca kimi politik konularla ilgili olarak aktif çalışmalara katılan Lawrence Lessig, ortaya çıkan bu güce dikkat çekiyor, kamuoyunun ve resmî kurumların henüz görmediği bir gerçeğe işaret ediyor. Yüz milyonlarca insanın kullandığı bir âletin kodunu yazan bir şirket, o insanların neyi yapıp neyi yapmayacağına karar verme imkânına sahip oluyor, kontrol tümüyle o şirkette oluyor. Çünkü “kod kanundur.”

“Muhafazakârlık, bir grup insanın korunması ama kısıtlanmamasına, başkalarının kısıtlanmasına ama korunmamasına dair inançtır.” Bu doğru söz, bir forumda adını Frank Wilhoit olarak bildiğimiz bir kişinin ağzından döküldü.

Bu bağlamda teknoloji de her zaman kazananı güçlendirecek, kaybedeni zayıflatacaktır. Çalışma dünyasını robotların basacağı (“tahrif edeceği” mi demeli?) ve en vasıfsız işçilerin yerini alacağı beklentisi gerçekleşmedi (Örneğin, Japon devi SoftBank Pepper adını verdiği robotların üretiminden vazgeçti, oysa şirket, onları yaşlı nüfusa baksın diye üretecekti.) Başka bir şey oldu. O robotlar, Amazon gibi şirketlerce işçileri korkutmak için kullanıldılar. İşçiler, bilgisayar temelli kontrole kesintisiz bir biçimde tabi kılındılar.

Gazeteci, yazar ve Riding for Deliveroo [“Deliveroo İçin Motokuryelik Yapmak”] kitabının yazarı Callum Cant, bu yönetim tarzını “algoritmik yönetim” olarak adlandırıyor. Amazon ve Uber gibi şirketler çalışma sürecini dönüştürerek, onu ince ince ölçülmüş, süresi kısıtlı ufak komutlar dizisine indirgedi. Bu çalışma pratiğinde işçi her türden özgürlük alanını yitirdi, işin ne olduğuna dair anlayıştan koptu. Cant, bu durumu ellilerde ve altmışlarda Detroit’te yüzleşilen durumla kıyaslıyor. O dönemde otomobil fabrikalarının montaj bölümünde çalışan işçiler, molalarda fabrikaları dolaşıp tüm üretim hattını görebiliyorlardı. Bugün bir işçinin bu vuzuh ve bilince kavuşması imkânsız.

Bu kontrol stratejisi, uzak diyarlardan geldi ve yeni bir tarafı yok. Amerikalı mühendis Frederick Winslow Taylor’ın yirminci yüzyılın başlarında savunduğu “iş sürecinin bilimsel örgütlenmesi” fikri Taylorizmi, ardından da Fordizmi doğurdu. İşçi, kendisindeki potansiyel işgücü sebebiyle işe alındığı için o dönemde ana mesele, ondaki bu potansiyelin eksiksiz, üstelik her daim nasıl kullanılacağı idi. Bu da tabii ki o potansiyelin kontrol altına alınması meselesini gündeme getiriyordu.

Uzun zaman işçi, işini en iyi bilen kişi olarak işverenden koptuğu vakit o potansiyel de uçup gideceğinden, işçinin potansiyelinin ve ortaya koyduğu çabanın kontrol altına alınması gerekiyordu. Taylor, iş meselesi üzerine çalışmaya başladı ve işçideki bilgiyi alıp onu organize edenlerin eline teslim etti. Her türden kaçağı, gecikmeyi veya işten kaytarmayı önlemek için görevler belirlendi, iş bölümü tesis edildi.

Taylorizm ile iş sürecinin “Amazonlaştırılması” arasında kalıtsal bir bağ söz konusu. Jeff Bezos’un depolarında iş dışı geçen zaman saniye saniye ölçülüyor, Görev Yarışçısı isimli video oyunu üzerinden işçiler, birbirleriyle daha hızlı yarışmaya davet ediliyorlar.

Dijital Rantiye Sınıfı

Muhafazakâr piramidin tepesinde “korunması ama kısıtlanmaması gerekenler” oturuyor. Ekonomideki piyasa teorisinde yenilik denilen mesele, çalışanların yerini alması gerekirken gücünü yitirdi, çünkü büyük şirketler yenilik sürecini çok hızlı ilerlettiler ama bile isteye teknolojinin dağılımını yavaşlattılar. Ellerindeki devasa veri ve sermaye, onların hıza yetişememesine neden oldu.

Amazon, Apple, Facebook ve Google ilk faaliyet yürüttükleri iş sahasında güçlerine güç katıyor, imrenerek baktıkları sektörlerdeki oyuncuları büyük bir hızla yok ediyor. Sonuçta da melez canavarlar açığa çıkıyor ve bu şirketler, ABD’deki siyasetçilerin dikkatini çekiyorlar. O şirketlerle ilgili olarak çıkar çatışması yaşayan siyasetçiler, kendi yaptıkları işlerin reklamını yapmak durumunda kalıyorlar.

Kanada’da bulunan York Üniversitesi’nde profesör ve araştırmacı olarak çalışan Kean Birch ve D.T. Cochrane, belirli “ekosistemler”in oluştuğunu söylüyor. Yazarlara göre bu ekosistemlerin bekası ve büyümesi, artık inovasyon becerisine değil, rant üretme uzmanlığına bağlı. Birch ve Cochrane bu pratiği dört ana kategoriye ayırıyor:

Kapalı Rant Alanları

Bu ekosistemlerin büyük bir kısmı kapalı ki zaten bu kapalılık zorunlu. Ayfon sahiplerine Apple aplikasyonları paralı veriyor veya kullanıcı, Facebook’un Oculus denilen sanal gerçeklik kulaklığından hizmet alabilmek için kullanıcı verilerini paylaşmayı kabul ediyor.

Pozitif Piyasa Beklentileriyle Bağlantılı Rantlar

Büyük ve bilhassa kârlı olan bu şirketler, finans piyasalarından düşük faizle borç alabiliyorlar, bu da onlara büyüme süreçlerini ve dış alımlarını finanse etme imkânı sunuyor; bir yandan da pozitif beklentilerin artmasını sağlıyor.

Bağlantılı Rant

Uzun bir geçmişe sahip olmaları ve ellerinde bağlantılı cihazlarla, profesyonel yazılımlarla; sağlık, müzik gibi alanlara dair aletlerle farklı ve çok temas kurma imkânını bulundurmaları sebebiyle büyük teknoloji şirketleri, toplum konusunda gerçek zamanlı bilgiye sahipler ve bu konuda rakipsizler. Bu da onlara hesapladıkları ihtiyaçlar temelinde yeni hizmetler geliştirmelerine ve toplumun en ufak kesimine erişmelerine imkân sağlıyor.

Refleksif Rant

Yazarlar, daha önce bahsini ettiğimiz “kod kanundur” sözüne atıfta bulunuyorlar, bu bağlamda ilgili teknoloji şirketlerinin her türlü dışsal kontrolden azade hareket ettiklerini, bunun da onlara kendi ekosistemleri dâhilinde oyunun kurallarını belirleme veya esnetme imkânı sunduğunu söylüyorlar. Örneğin Facebook, uzun süre müşterilerine sunduğu reklamların gerçekteki menzili hakkında uzun zaman yalan söylerken, Amazon, kendi ürünlerine fayda sağlamak adına, kendi platformundaki arama motoruna ait algoritmaları değiştirdi.

Güç Dengesinin Terse Çevrilmesi

Algoritmalar toplumsal önyargıları en geniş ölçekte kalıcı kılıyorlar. Bu anlamda dijital Taylorizm sayesinde iş hayatı artık daha hiyerarşik. Bu da teknoloji şirketlerine büyük bir hızda rant elde etme imkânı sunuyor.

Artık giderek Neuromancer romanının yazarı, ayrıca Siberpunk akımının kurucusu William Gibson’ın bahsini ettiği, “tekno-fütürist vizyon” denilen kâbusa adım adım yaklaşıyoruz. Siberpunk, kendisini, hatta -protezlerle veya muhtelif takviyelerle- bedenini hayatın her hücresinde teknolojiye teslim etmiş bir beşeriyet resmi sunan bir edebiyat, sinema ve görsel sanatlar akımı.

Bu, aynı zamanda katmanlara ayrılmış bir dünya. Korunması ama kısıtlanmaması gereken en üsttekilerle alttakiler arasındaki mesafenin kapatılması artık imkânsız. Böylesi bir dünyada büyük şirketler hayatlarımızı tayin eden yeni politik kurumlar ve düzenleyici yapılardır. William Gibson’ın da dediği gibi, “teknolojik değişim, hiçbir şeyin değişmemesi konusunda dillendirilip durulan iyi bir bahaneden ibarettir.”

Kriz zamanlarında en cazip şey, geçmişe bağlanıp hayatı onun verdiği güvenceyle yaşamaktır. Aslen İsrailli olan Fransız yazar Eva Illouz ise “bugünü geçmişin ışığıyla aydınlatma isteğinin, kaybettiğimiz bir nesneyi, ışığın olduğu tek yer olduğu için gidip sokak lambasının altında aramaya benzediğini” söylüyor.

Bugünkü teknoloji kullanımı, ilişkileri dengelemek veya adaleti sağlamak bir yana, mevcut düzeni koruyor, onu güvence altına alıyor. Bu tespit de yönetmen ve aktör Jean-Pierre Darroussin’e ait.

İleriye doğru yürüyüş kisvesi altında teknolojik neoliberalizm, bizi mevcut toplumun donduğu bir durağanlığa sürüklüyor. O hâlde bu noktada felsefeci Barbara Stiegler ile Amerikan pragmatizminin en önemli ismi olan John Dewey’e başvurabiliriz: “Kitlelerin sanayi devriminin yarattığı, giderek kötüleşmiş bir ortama edilgen bir biçimde uyumlu kılınması”na karşı çıkan Dewey, bu fikrin karşısına, Darwinci devrimin gerçek anlamını ifade eden, “Canlılar, kendi ortamlarını fiiliyatta değiştirmek suretiyle uyum sağlarlar.” diyen fikirle çıkıyor.

Bize gerekli olan şey, geçmişe ait yapıları dondurmak değil, kolektif akla dayalı deneysel çalışmalar aracılığıyla, demokratik inisiyatifleri çoğaltmak ve “aşağıdan” başka bir müşterek gelecek yaratmaktır. Bugün teknolojik gelişim sürecinin kimi bölümlerinde, büyük teknoloji şirketlerinin bizi tabi kılmaya çalıştığı bilgideki asimetri ve bilginin müsadere edilmesi karşısında “katılımcı tasarım”ı, şeffaflığı, hatta bilginin ve verinin yeniden temellük edilmesini savunan başka bir hareket neşet etmektedir.

Matthieu Belbèze
26 Aralık 2021
Kaynak