Görsel
tanıma algoritması, bikinili bir kadını nasıl “fahişe” olarak kategorize eder?
Güneş gözlüğü takmış bir çocuğa nasıl “ezik” denilebilir? Bunlar, yapay zekâ
alanında çalışan araştırmacı Prof. Kate Crawford ile sanatçı, coğrafyacı ve
fotoğrafçı Trevor Crawford’un elde ettiği sonuçlar. Bu iki isim, otomatik
sistemlerle ve algoritmalarla görüntü tanıma pratiğinin hikâyesiyle
ilgileniyor.
Amaçları,
körü körüne güvenilen bu sistemlerin dünyayı “görme” ve “kategorize etme”
konusunda nasıl eğitildiklerini anlamak. “İnsanların Eğitilmesi” isimli proje,
detaylı hazırlanmış bir çalışma. Projenin ulaştığı sonuç şu şekilde: Bugüne dek
yapay zekâyı eğitme yöntemlerinin hiçbirisi; tarafsız, doğal veya apolitik
(politika dışı) olmamıştır.”
Verilerin
toplanması, kategorize edilmesi ve ölçülmesi konusunda sistematik bir eğilim
söz konusu ve bu eğilim, şu türden önemli soruları gündeme getiriyor: Bu
görüntülerin anlamına kim karar veriyor? Kategorileri kim tanımlıyor? Böylesi
çalışmalarda kaçınılmaz olarak hangi toplumsal temsiliyetler karşımıza çıkıyor?
Kate
Crawford ve Trevor Paglen, matematiksel bir model geliştirirken önyargılardan
uzak olmanın imkânsızlığı üzerinde duruyor. IBM’in “temsillerin
matematikleştirilmesi” ile ilgili çabasının boş bir çaba olduğu, içinden
çıkılmaz sonuçlar ortaya koyduğu görüldü.
Esasında
insan olan operatörlerin başka bir görsel tanıma algoritmasını, matruşka ile
“Mekanik Türk” denilen satranç otomatına benzer bir yöntemle eğitmek suretiyle
tercihlere ağırlık veren bir şekilde kullanmak, normatif açıdan bakıldığında, çoğunlukla
kırılgan ve tehlikeli sonuçlar doğuruyor. Bu pratiğin her bir aşamasında
eskinin yanlışından daha fazla yanlışa tanık olunuyor.
Kütlesel
Yeniden Üretimin Silâhı Olarak Algoritma
Kendi
kendisini eğitmiş bir geliştirici ve bir süre ABD Dijital İşler Dairesi için
çalışmış antropolog Marianne Bellotti’ye göre, insanlar elinde daha fazla veri
var diye daha iyi kararlar almıyorlar, dolayısıyla bu, yapay zekâ için neden
farklı olsun ki?
Tanrıların
büyük bir kayayı her sabah dağın tepesine taşıma cezası verdiği, her akşam o
kayanın aşağıya yuvarlandığına şahit olan Sisifos gibi, uzmanlar da
vakitlerinin yüzde seksenini veri kümelerini silmekle geçiriyorlar ve “bilgiler
iyileştikçe, daha iyi sonuçların ortaya çıkmasını” umuyorlar.
Oysa
enformasyon sistemleri, aslında belirli bir rasyonellikten mahrumlar. Gerçek
dünyada kamusal, politik ve ekonomik kararlar, hassasiyet ve doğruluk için
alınmıyorlar, ihtiyaç duyulan çabayı minimize edecek yolu bulmak amacıyla
alınıyorlar. Marianne Bellotti’nin tespitiyle, “Bir durumu bütünsel anlamak,
daha hızlı karar alacak aletlerden daha az istenen bir şeydir.” Dolayısıyla bir
karar, her zaman sürece dâhil olan ve kendi risklerini, ortamını hesaba katan
farklı aktörler arasındaki müzakerenin bir sonucunda alınacaktır. Bu, hiçbir
veri örnekleminin kusursuz bir biçimde kısıtlayamayacağı bir süreçtir.
Yapay
zekâ alanında yaşanan teknolojik gelişmeler, her zaman o teknolojileri kontrol
edenlerin kişisel, finansal ve zihinsel zorunluluklarına ve önyargılarına tabi
olacaktır. Geçmişin miras bıraktığı, bugün yüz tanıma sistemlerinin neden
Microsoft, IBM veya Çinli şirket Megvii tarafından satıldığını izah eden
yönelim dâhilinde bu sistemler, siyahî kadınları tanıma konusunda yetersiz
kalırken, beyaz erkekler konusunda daha iyi sonuç vermektedir.
Uzmanlık
alanı bilgisayar bilimleri olan Hollandalı avukat ve felsefeci Mireille
Hildebrandt, yapay zekâyı “otomatik çıkarım” olarak nitelendiriyor. Bugün bize
devrim diye sunulan şey, zaten var olan düşünce sistemlerinin basit bir
uzantısından başka bir şey değil.
İşin
Dijitalleşmesi: Yeni Bileşenler, Eski Reçeteler
Çalışma
hayatı ve iş pratiği bünyesinde mevcut olan yapıların konsolide edildiği bir
süreçten geçiyoruz. Üretim sürecine ait dijital aletler kodlanıyor. Pandemi
döneminde günlük ortalama on milyon insanın kullandığı Zoom denilen video
konferans yazılımı bunun en güzel örneği.
Gazeteci
ve internet araştırmacısı Hubert Guillaud, Xavier de La Porte ile röportaj
yaptı. Porte, orada Zoom’un kimi özelliklerine sadece internet ortamında
toplantıyı organize eden kişinin erişebildiğini söylüyor. Bu imkân dâhilinde
“ev sahibi” katılımcının mikrofonunu kapatabiliyor, ekran paylaşımına izin
verebiliyor ya da yasak getirebiliyor, hatta bir kullanıcıyı toplantıdan
çıkartabiliyor.
Burada
da gördüğümüz üzere geçmişin hiyerarşik iktidarı, kodlar aracılığıyla geleceğin
aletlerinin işleyişini biçimlendiriyor. Kapanmalar sayesinde yatay iş birliği
kurma imkânı doğdu. Bu herkesi eşitleyeceği düşünülen pratik, uzun zamandır
beklenen bir gelişmeydi.
2000
tarihli o ünlü makalesi “Kod Kanundur: Siberuzayda Özgürlük”te Harvard’da hukuk
profesörü olarak çalışan, ayrıca kimi politik konularla ilgili olarak aktif
çalışmalara katılan Lawrence Lessig, ortaya çıkan bu güce dikkat çekiyor,
kamuoyunun ve resmî kurumların henüz görmediği bir gerçeğe işaret ediyor. Yüz
milyonlarca insanın kullandığı bir âletin kodunu yazan bir şirket, o insanların
neyi yapıp neyi yapmayacağına karar verme imkânına sahip oluyor, kontrol
tümüyle o şirkette oluyor. Çünkü “kod kanundur.”
“Muhafazakârlık,
bir grup insanın korunması ama kısıtlanmamasına, başkalarının kısıtlanmasına
ama korunmamasına dair inançtır.” Bu doğru söz, bir forumda adını Frank Wilhoit
olarak bildiğimiz bir kişinin ağzından döküldü.
Bu
bağlamda teknoloji de her zaman kazananı güçlendirecek, kaybedeni
zayıflatacaktır. Çalışma dünyasını robotların basacağı (“tahrif edeceği” mi
demeli?) ve en vasıfsız işçilerin yerini alacağı beklentisi gerçekleşmedi
(Örneğin, Japon devi SoftBank Pepper adını verdiği robotların üretiminden
vazgeçti, oysa şirket, onları yaşlı nüfusa baksın diye üretecekti.) Başka bir
şey oldu. O robotlar, Amazon gibi şirketlerce işçileri korkutmak için
kullanıldılar. İşçiler, bilgisayar temelli kontrole kesintisiz bir biçimde tabi
kılındılar.
Gazeteci,
yazar ve Riding for Deliveroo [“Deliveroo İçin Motokuryelik Yapmak”]
kitabının yazarı Callum Cant, bu yönetim tarzını “algoritmik yönetim” olarak
adlandırıyor. Amazon ve Uber gibi şirketler çalışma sürecini dönüştürerek, onu
ince ince ölçülmüş, süresi kısıtlı ufak komutlar dizisine indirgedi. Bu çalışma
pratiğinde işçi her türden özgürlük alanını yitirdi, işin ne olduğuna dair
anlayıştan koptu. Cant, bu durumu ellilerde ve altmışlarda Detroit’te
yüzleşilen durumla kıyaslıyor. O dönemde otomobil fabrikalarının montaj
bölümünde çalışan işçiler, molalarda fabrikaları dolaşıp tüm üretim hattını
görebiliyorlardı. Bugün bir işçinin bu vuzuh ve bilince kavuşması imkânsız.
Bu
kontrol stratejisi, uzak diyarlardan geldi ve yeni bir tarafı yok. Amerikalı
mühendis Frederick Winslow Taylor’ın yirminci yüzyılın başlarında savunduğu “iş
sürecinin bilimsel örgütlenmesi” fikri Taylorizmi, ardından da Fordizmi
doğurdu. İşçi, kendisindeki potansiyel işgücü sebebiyle işe alındığı için o
dönemde ana mesele, ondaki bu potansiyelin eksiksiz, üstelik her daim nasıl
kullanılacağı idi. Bu da tabii ki o potansiyelin kontrol altına alınması
meselesini gündeme getiriyordu.
Uzun
zaman işçi, işini en iyi bilen kişi olarak işverenden koptuğu vakit o
potansiyel de uçup gideceğinden, işçinin potansiyelinin ve ortaya koyduğu
çabanın kontrol altına alınması gerekiyordu. Taylor, iş meselesi üzerine
çalışmaya başladı ve işçideki bilgiyi alıp onu organize edenlerin eline teslim
etti. Her türden kaçağı, gecikmeyi veya işten kaytarmayı önlemek için görevler
belirlendi, iş bölümü tesis edildi.
Taylorizm
ile iş sürecinin “Amazonlaştırılması” arasında kalıtsal bir bağ söz konusu.
Jeff Bezos’un depolarında iş dışı geçen zaman saniye saniye ölçülüyor, Görev
Yarışçısı isimli video oyunu üzerinden işçiler, birbirleriyle daha hızlı
yarışmaya davet ediliyorlar.
Dijital
Rantiye Sınıfı
Muhafazakâr
piramidin tepesinde “korunması ama kısıtlanmaması gerekenler” oturuyor.
Ekonomideki piyasa teorisinde yenilik denilen mesele, çalışanların yerini
alması gerekirken gücünü yitirdi, çünkü büyük şirketler yenilik sürecini çok
hızlı ilerlettiler ama bile isteye teknolojinin dağılımını yavaşlattılar.
Ellerindeki devasa veri ve sermaye, onların hıza yetişememesine neden oldu.
Amazon,
Apple, Facebook ve Google ilk faaliyet yürüttükleri iş sahasında güçlerine güç
katıyor, imrenerek baktıkları sektörlerdeki oyuncuları büyük bir hızla yok
ediyor. Sonuçta da melez canavarlar açığa çıkıyor ve bu şirketler, ABD’deki
siyasetçilerin dikkatini çekiyorlar. O şirketlerle ilgili olarak çıkar
çatışması yaşayan siyasetçiler, kendi yaptıkları işlerin reklamını yapmak
durumunda kalıyorlar.
Kanada’da
bulunan York Üniversitesi’nde profesör ve araştırmacı olarak çalışan Kean Birch
ve D.T. Cochrane, belirli “ekosistemler”in oluştuğunu söylüyor. Yazarlara göre
bu ekosistemlerin bekası ve büyümesi, artık inovasyon becerisine değil, rant
üretme uzmanlığına bağlı. Birch ve Cochrane bu pratiği dört ana kategoriye
ayırıyor:
Kapalı
Rant Alanları
Bu
ekosistemlerin büyük bir kısmı kapalı ki zaten bu kapalılık zorunlu. Ayfon
sahiplerine Apple aplikasyonları paralı veriyor veya kullanıcı, Facebook’un
Oculus denilen sanal gerçeklik kulaklığından hizmet alabilmek için kullanıcı
verilerini paylaşmayı kabul ediyor.
Pozitif
Piyasa Beklentileriyle Bağlantılı Rantlar
Büyük
ve bilhassa kârlı olan bu şirketler, finans piyasalarından düşük faizle borç
alabiliyorlar, bu da onlara büyüme süreçlerini ve dış alımlarını finanse etme
imkânı sunuyor; bir yandan da pozitif beklentilerin artmasını sağlıyor.
Bağlantılı
Rant
Uzun
bir geçmişe sahip olmaları ve ellerinde bağlantılı cihazlarla, profesyonel
yazılımlarla; sağlık, müzik gibi alanlara dair aletlerle farklı ve çok temas
kurma imkânını bulundurmaları sebebiyle büyük teknoloji şirketleri, toplum
konusunda gerçek zamanlı bilgiye sahipler ve bu konuda rakipsizler. Bu da
onlara hesapladıkları ihtiyaçlar temelinde yeni hizmetler geliştirmelerine ve
toplumun en ufak kesimine erişmelerine imkân sağlıyor.
Refleksif
Rant
Yazarlar,
daha önce bahsini ettiğimiz “kod kanundur” sözüne atıfta bulunuyorlar, bu
bağlamda ilgili teknoloji şirketlerinin her türlü dışsal kontrolden azade
hareket ettiklerini, bunun da onlara kendi ekosistemleri dâhilinde oyunun
kurallarını belirleme veya esnetme imkânı sunduğunu söylüyorlar. Örneğin
Facebook, uzun süre müşterilerine sunduğu reklamların gerçekteki menzili
hakkında uzun zaman yalan söylerken, Amazon, kendi ürünlerine fayda sağlamak
adına, kendi platformundaki arama motoruna ait algoritmaları değiştirdi.
Güç
Dengesinin Terse Çevrilmesi
Algoritmalar
toplumsal önyargıları en geniş ölçekte kalıcı kılıyorlar. Bu anlamda dijital
Taylorizm sayesinde iş hayatı artık daha hiyerarşik. Bu da teknoloji
şirketlerine büyük bir hızda rant elde etme imkânı sunuyor.
Artık
giderek Neuromancer romanının yazarı, ayrıca Siberpunk akımının kurucusu
William Gibson’ın bahsini ettiği, “tekno-fütürist vizyon” denilen kâbusa adım
adım yaklaşıyoruz. Siberpunk, kendisini, hatta -protezlerle veya muhtelif
takviyelerle- bedenini hayatın her hücresinde teknolojiye teslim etmiş bir
beşeriyet resmi sunan bir edebiyat, sinema ve görsel sanatlar akımı.
Bu,
aynı zamanda katmanlara ayrılmış bir dünya. Korunması ama kısıtlanmaması
gereken en üsttekilerle alttakiler arasındaki mesafenin kapatılması artık
imkânsız. Böylesi bir dünyada büyük şirketler hayatlarımızı tayin eden yeni
politik kurumlar ve düzenleyici yapılardır. William Gibson’ın da dediği gibi,
“teknolojik değişim, hiçbir şeyin değişmemesi konusunda dillendirilip durulan
iyi bir bahaneden ibarettir.”
Kriz
zamanlarında en cazip şey, geçmişe bağlanıp hayatı onun verdiği güvenceyle
yaşamaktır. Aslen İsrailli olan Fransız yazar Eva Illouz ise “bugünü geçmişin
ışığıyla aydınlatma isteğinin, kaybettiğimiz bir nesneyi, ışığın olduğu tek
yer olduğu için gidip sokak lambasının altında aramaya benzediğini” söylüyor.
Bugünkü
teknoloji kullanımı, ilişkileri dengelemek veya adaleti sağlamak bir yana,
mevcut düzeni koruyor, onu güvence altına alıyor. Bu tespit de yönetmen ve
aktör Jean-Pierre Darroussin’e ait.
İleriye
doğru yürüyüş kisvesi altında teknolojik neoliberalizm, bizi mevcut toplumun
donduğu bir durağanlığa sürüklüyor. O hâlde bu noktada felsefeci Barbara
Stiegler ile Amerikan pragmatizminin en önemli ismi olan John Dewey’e
başvurabiliriz: “Kitlelerin sanayi devriminin yarattığı, giderek kötüleşmiş bir
ortama edilgen bir biçimde uyumlu kılınması”na karşı çıkan Dewey, bu fikrin
karşısına, Darwinci devrimin gerçek anlamını ifade eden, “Canlılar, kendi
ortamlarını fiiliyatta değiştirmek suretiyle uyum sağlarlar.” diyen fikirle
çıkıyor.
Bize
gerekli olan şey, geçmişe ait yapıları dondurmak değil, kolektif akla dayalı
deneysel çalışmalar aracılığıyla, demokratik inisiyatifleri çoğaltmak ve
“aşağıdan” başka bir müşterek gelecek yaratmaktır. Bugün teknolojik gelişim
sürecinin kimi bölümlerinde, büyük teknoloji şirketlerinin bizi tabi kılmaya
çalıştığı bilgideki asimetri ve bilginin müsadere edilmesi karşısında
“katılımcı tasarım”ı, şeffaflığı, hatta bilginin ve verinin yeniden temellük
edilmesini savunan başka bir hareket neşet etmektedir.
Matthieu Belbèze
26 Aralık 2021
Kaynak
0 Yorum:
Yorum Gönder