Özgürlük: Yüreğimizin sesini mi, algoritmanın sesini mi dinleyeceğiz? – Yuval Noah Harari

Büyük verinin gözü üzerinizde

Liberal anlatı insanların özgürlüğünü başat değeri kabul eder ve yüceltir. En nihayetinde otoritenin bireylerin duyguları, arzuları ve seçimlerine yansıyan özgür insan iradesinden kaynaklandığı savunulur. Siyasette liberalizm en iyisini seçmenlerin bildiğine inanır. Bu yüzden de demokratik seçimler düzenler. Ekonomide liberalizm müşterinin her zaman haklı olduğunu iddia eder. Bu yüzden de serbest piyasa kurallarını uygular. Kişisel meselelerde liberalizm insanları, başkalarının özgürlüklerini çiğnememek şartıyla, kendilerini ve yüreklerinin sesini dinlemeye ve fikirlerine sadık kalmaya teşvik eder. Bu bireysel özgürlük insan haklarıyla teminat altına alınmıştır.

Günümüz Batı siyasi söyleminde “liberal” kelimesi kimi zaman çok daha dar, tarafgir bir anlamda, eşcinsel evliliği, silahların kısıtlanması ve kürtaj gibi belli başlı davaları destekleyenleri belirtmek için kullanılıyor. Fakat çoğu sözde muhafazakâr da geniş anlamıyla liberal dünya görüşünü benimsiyor. Özellikle ABD’de hem Cumhuriyetçilerin hem de Demokratların ateşli tartışmalarına nadiren ara verip serbest seçimler, bağımsız yargı ve insan hakları gibi temel konularda anlaştıklarını kendilerine hatırlatmaları gerek.
Ronald Reagan ve Margaret Thatcher gibi sağcı kahramanların sadece ekonomik özgürlükleri değil bireysel özgürlükleri de desteklediğini hatırlamak bilhassa önemli. 1987’de yapılmış meşhur bir röportajda Thatcher, “Toplum diye bir şey yok. Erkek ve kadınların oluşturduğu canlı bir doku var (…) ve yaşam kalitemiz, her birimizin kendi sorumluluğunu almaya ne kadar hazır olduğuna bağlı,” demişti.’

Thatcher’ın Muhafazakâr Parti’deki vârisleri siyasi otoritenin seçmen bireylerin duygu, tercih ve özgür iradelerine bağlı olduğu konusunda İşçi Partisi’yle görüş birliği içindedir. Bu yüzden Birleşik Krallık’ın Avrupa Birliği’nden ayrılıp ayrılmaması sözkonusu olduğunda Başbakan David Cameron konuyu Kraliçe 11. Elizabeth’e, Canterbury Başpiskoposu’na ya da Oxford ve Cambridge hocalarına danışmadı. Parlamento üyelerine bile danışmadı. Onun yerine her bir İngiliz vatandaşına, “Bu konuda ne hissediyorsunuz?” diye sorulan bir referandum düzenledi.
“Ne düşünüyorsunuz?” yerine, “Ne hissediyorsunuz?” diye sorulmuş olmasına itiraz edebilirsiniz ama böyle bir yaklaşım genel bir yanılsamaya düşmek olur. Referandum ve seçimler her zaman insanların duygularıyla ilişkilidir, mantıklarıyla değil. Demokrasi mantıklı tercihler yapmaya ilişkin bir mesele olsaydı, herkese eşit oy hakkı tanımanın hatta belki de herhangi bir oy hakkı tanımanın hiçbir mantıklı gerekçesi olmazdı. Bazı insanların diğerlerinden, bilhassa da belli ekonomik ve siyasi sorular sözkonusuysa daha bilgili ve mantıklı oldukları yönünde bolca delil var. Brexit referandumunun ardından ünlü biyolog Richard Dawkins, İngiliz halkının, kendisi de dahil, büyük bir kısmından böyle bir referandumda oy kullanmasını istemenin yanlış olduğunu çünkü gerekli ekonomi ve siyaset bilimi altyapısına sahip olmadıklarını ifade etmişti. “Einstein’ın cebir hesaplamalarının doğruluğuna halk oylamasıyla karar vermekten ya da pilotun hangi piste ineceğini yolcuların oyuna bırakmaktan farksız bir şey.”

Fakat öyle ya da böyle seçim ve referandumlar ne düşündüğümüzle değil nasıl hissettiğimizle alakalıdır. Ve iş hislere gelince Einstein ve Dawkins’in hiç kimseden farkı yoktur. Demokrasiye göre insan duyguları gizemli ve derin bir kavram olan “özgür iradeyi” yansıtır, bu “özgür irade” otoritenin temel kaynağıdır ve kimi insanlar diğerlerinden daha akıllı olsalar da tüm insanlar eşit derecede özgürdür. Okuma yazma bilmeyen bir hizmetçinin de Einstein ve Dawkins kadar özgür iradesi vardır. Seçim günü geldiğinde de verdiği oya yansıyan hisleri herkesinki kadar geçerlidir.

Duygular sadece seçmenleri değil liderleri de yönlendiriyor. 2016’da düzenlenen Brexit referandumunda ayrılma taraftarı kampanyanın başında Boris Johnson’la Michael Gove bulunuyordu. David Cameron istifa ettikten sonra Gove başbakanlık görevi için önce Johnson’ı desteklerken, son dakikada Johnson’ın bu göreve uygun olmadığını beyan edip kendi adaylığını koyma niyetini açıkladı. Gove’un Johnson’ın şansını yok eden bu davranışı Machiavellivari bir siyasi suikast şeklinde tanımlandı. Bunun karşısında Gove duygularından dem vurarak, “Siyasi hayatımın her aşamasında kendime tek bir soru sormuşumdur: ‘Doğrusu nedir? Yüreğin ne diyor?'” sözleriyle kendi tutumunu savundu. Gove’a göre Brexit için canını dişine takmasının, vaktiyle müttefiki olan Boris Johnson’ı arkadan bıçaklamaya mecbur hissetmesinin ve liderlik koltuğuna kendini aday göstermesinin sebebi hep buydu; yüreğinin sesini dinlemişti.

Yüreğinin sesini dinlemek liberal demokrasinin zayıf noktası olmaya namzet. Zira Pekin ya da San Francisco’da biri çıkar da insan yüreğine erişip onu yönlendirebilecek teknolojiyi geliştirirse, demokratik siyaset duyguların oynatıldığı bir kukla gösterisine dönüşebilir.

Algoritmanın sesini dinle
Bireylerin duyguları ve özgür seçimlerine duyulan liberal inanç ne doğaldır ne de eskilere dayanır. İnsanlar binlerce yıl boyunca otoritenin insan yüreğinden değil kutsal kanunlardan geldiğine ve dolayısıyla insanın özgürlüğünü değil Tanrı kelamını kutsamamız gerektiğine inandı. Otoritenin kaynağı sadece birkaç yüzyıl önce semai tanrılardan çıkıp etten ve kemikten insanlara aktarıldı.
Kısa bir süre sonra otorite yeniden, bu defa insanlardan algoritmalara kayabilir. Nasıl ki kutsal otorite dini mitolojiler, insan otoritesi de liberal anlatı aracılığıyla meşrulaştırıldı, gelecek teknolojik devrim de büyük veri algoritmalarının otoritesini meşrulaştırıp bir yandan da bireysel özgürlük kavramının temellerini çürütebilir.

Önceki bölümde de belirttiğimiz üzere beyin ve bedenlerimizin işleyişini inceleyen bilimsel çalışmalar duygularımızın insanlara has ruhani bir özellik olmadığını ve herhangi bir “özgür irade” teşkil etmediklerini öne sürüyor. Aksine duygular tüm memelilerin ve kuşların hayatta kalmak ve üremek için hızlı hesaplar yapabilmesini sağlayan biyokimyasal mekanizmalar. Duygular sezgiden, esinden ya da özgürlükten değil hesaplamalardan kaynaklanıyor.

Bir maymun, fare ya da insan, karşısında yılan görünce korku duyar çünkü beyindeki milyonlarca nöron çarçabuk gerekli verileri hesaba katıp ölüm riskinin yüksek olduğu sonucuna varır. Cinsel çekim farklı biyokimyasal algoritmalar civardaki şahsın başarılı eşleşme, toplumsal bağ kurma ya da istenen başka bir amacın gerçekleşmesi için yüksek ihtimalle uygun olduğunu hesapladığında ortaya çıkar. Öfke, suçluluk ya da bağışlama gibi ahlaki duygular da grupiçi işbirliğini sağlamak için evrimleşmiş sinirsel mekanizmalardan kaynaklanır. Tüm bu biyokimyasal algoritmalar milyarlarca yıllık evrim sürecinde yontulmuş. Çok eski atalarımızdan birinin duyguları hatalıysa, bu duyguyu şekillendiren genler bir sonraki nesle aktarılmamış. Dolayısıyla duygular mantıkla ters düşmez; evrimsel bir mantık barındırır.

Genellikle duyguların birer hesaplama ürününden ibaret olduğunu fark edemeyiz çünkü bu seri hesap işlemi farkındalık eşiğimizin çok altında bir yerde cereyan eder. Beyindeki hayatta kalma ve üreme olasılığını işleyen milyonlarca nöronu hissedemediğimizden yılanlardan korkmamızın, cinsel eş tercihimizin ya da Avrupa Birliği hakkındaki fikirlerimizin esrarengiz bir “özgür irade” sebebiyle ortaya çıktığı yanılsamasına düşüyoruz.
Yine de liberalizm, duygularımızın özgür irademizi yansıttığını düşünmekte yanılıyor olsa da bugüne kadar duygularımıza göre hareket etmek uygulamada işe yarar bir yöntemdi. Çünkü duyguların sihirli ya da hür bir yanı bulunmasa da ne okuyacağımız, kiminle evleneceğimiz ve hangi partiye oy vereceğimiz hakkında karar vermek için kâinattaki en iyi yöntem buydu. Ve duygularımı benden daha iyi anlayabilecek hiçbir harici sistem yoktu. İspanyol Engizisyonu ya da KGB’nin gözü her gün her dakika üzerimde olsa bile bu kurumlar arzu ve seçimlerimi şekillendiren biyokimyasal süreci ele geçirmek için gerekli biyolojik bilgi ve bilgi-işlem kapasitesinden yoksundu. Özgür iradem olduğunu iddia etmek her açıdan mantıklıydı çünkü iradem büyük ölçüde dahili unsurların etkileşimiyle şekilleniyor ve bunları dışarıdan bakan hiç kimse göremiyordu. Yabancılar içimde neler olup bittiğini ve nasıl karar aldığımı hiçbir şekilde anlayamazken gizli dahili alanımı kontrol ettiğim yanılsaması içinde yaşamayı sürdürebilirdim.

Bununla bağlantılı olarak liberalizm insanları, parti mensubu bir aparatçik’i’ ya da rahibin birini değil de yüreklerinin sesini dinlemeye yönlendirerek doğruyu yapmış oldu. Öte yandan kısa bir zaman sonra bilgisayar algoritmaları insan duygularından daha iyi bir rehber haline gelebilir. İspanyol Engizisyonu ve KGB yerini Google ve Baidu şirketlerine bırakırken “özgür iradenin” bir mit olduğunun ifşa edilmesi ve liberalizmin pratik avantajlarını kaybetmesi mümkün.

Ne de olsa artık iki muazzam devrimin eşiğindeyiz. Bir yandan biyologlar insan bedeninin ve bilhassa da beyinle insan duygularının gizemini deşifre ederken, öte yandan bilgisayar bilimiyle uğraşanlar bize eşi benzeri görülmemiş bir veri işleme gücü sağlıyor. Biyoteknoloji devrimi, bilişim teknolojileri devrimiyle birleştiğinde duygularımı gözlemleyip benden daha iyi anlayabilecek büyük veri algoritmaları ortaya çıkacak ve büyük ihtimalle otorite de insanlardan bilgisayarlara geçecek. Özgür iradeye sahip olduğum yanılsaması önceden erişilemez iç dünyamı anlayıp yönlendiren kurum, kuruluş ve devlet kurumlarıyla karşılaştıkça dağılıp gidecektir herhalde.

Tüm bunlar tıp alanında şimdiden gerçekleşiyor aslında. Hayatımızın en önemli tıbbi kararları, hastaya da iyi olduğumuzu hissetmemize ve hatta bilgi sahibi doktorlarımızın tahminlerine göre değil, bedenlerimizi bizden çok daha iyi anlayan bilgisayarların hesaplamalarına dayanarak veriliyor. Durmadan biyometrik verilerle beslenen büyük veri algoritmaları önümüzdeki yıllarda sağlığımızı 7/24 gözlemleyebilir. Bir gribin, kanserin ya da Alzheimer hastalığının başladığını, biz bir sorunumuz olduğunu fark etmeden çok daha önce tespit edebilirler. Bunun akabinde fiziksel yapımıza, DNA ve kişiliğimize göre özel olarak tasarlanmış tedavi, diyet ya da günlük rejim önerilerinde bulunabilirler.

İnsanlar tarihteki en iyi sağlık hizmetini alacaklar ama muhtemelen tam da bu nedenle sürekli hasta olacaklar. Bedenin bir yerinde her daim bir sorun vardır. Her zaman ıslah edilebilecek bir şeyler bulunur. Geçmişte acı ya da topallama gibi bariz bir sakatlık hissetmediğiniz müddetçe kendinizi gayet sağlıklı kabul ederdiniz. Ama 2050’ye gelindiğinde biyometrik sensörler ve büyük veri algoritmaları sayesinde hastalıkların acıya veya sakatlığa yol açmasına fırsat vermeden teşhis ve tedavisi yapılabilecek. Bunun sonucunda kendinizi her daim bir “sağlık durumu”yla uğraşır ve şu veya bu algoritma önerisini uygularken bulacaksınız. Böyle yapmayı reddederseniz belki sağlık sigortanız iptal olacak, belki patronunuz sizi işten atacak; sizin dik başlılığınızın cezasını niye onlar ödesin?
Sigara içmenin akciğer kanserine yol açtığına ilişkin genel istatistiklere rağmen sigara içmeye devam etmek başka, sol akciğerinizin üst kısmında on yedi kanserli hücre tespit eden biyometrik sensörün verdiği uyarıya rağmen sigara içmeye devam etmek bambaşka bir şey. Ve sensörü dikkate almazsanız, sensör uyarıyı sağlık ajansınıza, müdürünüze ve annenize ilettiğinde ne yapacaksınız?

Tüm bu hastalıklarla uğraşmaya kimin vakti ve enerjisi yeter? Büyük ihtimalle sağlık algoritmamıza bu sorunların çoğuyla nasıl biliyorsa o şekilde başa çıkması komutu verebiliriz. En fazla, akıllı telefonlarımıza düzenli olarak güncelleme yollayıp bize, “On yedi kanserli hücre tespit edilerek yok edildi,” der. Hastalık hastaları bu güncellemeleri görev bilinciyle okur ama çoğumuz bilgisayarlarımızdaki sinir bozucu virüs uyarılarını dikkate almadığımız gibi bunları da umursamayız.

Karar alma tiyatrosu
Tıp alanında halihazırda kaydedilen gelişmelerin gitgide çok daha farklı alanlarda görülmesi kuvvetle muhtemel. En temel buluş, insanların üzerlerine ya da bedenlerinin içine takılabilen ve biyolojik süreçleri bilgisayarların depolayıp analiz edebileceği elektronik bilgiye dönüştüren biyometrik sensörler. Yeterli biyometrik veri ve yeterli bilgiişlem gücü olursa, dahili veri işleme sistemleri tüm arzularınızı, karar ve fikirlerinizi ele geçirebilir. Tamı tamına kim olduğunuzu anlayabilirler.

Çoğu insan kendini pek tanımaz. Ben yirmi bir yaşındayken, yıllar süren inkâr döneminin ardından eşcinsel olduğumun nihayet farkına vardım. Bu hiç de istisnai bir durum değildir. Çoğu eşcinsel erkek ergenlik yıllarını cinsel eğilimlerinden şüphe duyarak geçiriyor. Şimdi, 2050′ de bir algoritmanın herhangi bir ergene kendisinin homoseksüel/heteroseksüel yelpazesinde tam olarak nereye tekabül ettiğini (ve hatta bu konumun ne denli her yöne çekilebilir olduğunu) söyleyebileceğini düşünün. Belki algoritma size çekici kadın ve erkeklerin bulunduğu resim ve videolar gösterip gözhareketlerinizi, tansiyonunuzu ve beyin faaliyetinizi ölçer ve beş dakika içinde Kinsey skalasında bir sayı çıkarır.6 Böyle bir şey olsaydı ben onca yıl gerilim yaşamazdım. Belki kendi kendinize böyle bir test yapmak istemezsiniz ama diyelim ki Melis’in sıkıcı doğum günü partisinde birgrup arkadaş arasında buluyorsunuz kendinizi ve biri çıkıp herkesin sırayla bu süper yeni algoritmayı denemesini öneriyor (ve herkes sonuçlara bakıp bir de yorum yapıyor). Çekip gider misiniz?
Çekip gitseniz, hatta kendinizden ve sınıf arkadaşlarınızdan saklanmaya devam etseniz de Amazon’dan, Alibaba’dan ya da gizli polisten saklanamazsınız. İnternette gezerken, Youtube’dan bir şey izleyip sosyal medyada paylaşılanları okurken algoritmalar gizliden gizliye sizi gözetler, analiz eder ve size gazlı içecekler satmak isteyen CocaCola’ya üstü çıplak kızların rol aldığı reklamlarını değil üstü çıplak oğlanların rol aldığı reklamlarını kullanmasının daha iyi olacağını söyler. Sizin haberiniz bile olmaz. Ama onların olur ve bu bilgi milyon değerindedir.

Ama belki her şey apaçık ortada yaşanır ve insanlar daha iyi tavsiyeler alabilmek ve algoritmanın nihayetinde kendileri adına karar alabilmesini sağlamak için bilgilerini memnuniyetle paylaşırlar. Bu tarz şeyler hangi filmi izleyeceğinize karar vermek gibi basit işlerle başlar. Bir grup arkadaşla keyifli bir gece geçirmek için ekran başına geçtiğinizde, önce hangi filmi izleyeceğinize karar vermeniz gerekir. Elli yıl önce bir seçeneğiniz yoktu ama günümüzde istediğinizi seçip izleyebildiğiniz kanalların yaygınlaşmasıyla binlerce film seçeneğiniz var. Ortak bir karara varmak zor olabilir çünkü siz bilimkurgu ve gerilim filmlerini seviyorken, Arda romantik komedileri tercih ediyor, Ceyda da oyunu sanatsal Fransız filmlerinden yana kullanıyor olabilir. Sonuçta herkesi hayal kırıklığına uğratacak ikinci sınıfvasat bir film izlemeye razı olabilirsiniz.

Algoritmanın bu konuda yararı dokunabilir. Herkes önceden izleyip gerçekten beğendiği filmleri söyler ve algoritma devasa istatiksel veritabanını baz alarak grup için en uygun filmi bulabilir. Maalesef insanların kendileri hakkındaki beyanları, bilindiği üzere, gerçek tercihlerini anlamak için son derece güvenilmez bir ölçüt olduğundan, böylesine üstünkörü bir algoritma kolayca yanlış yönlendirilebilir. Sık sık bir sürü insanın bir filmi şaheser diye övdüğünü duyar, kendimizi filmi izlemeye mecbur hisseder ve yarısında uyuyakalsak da kültürsüz görünmek istemediğimizden herkese ne kadar muhteşem olduğunu söyleriz.7
Oysa bu tür sorunlar, algoritmanın şaibeli beyanlarımıza maruz kalması yerine biz filmleri izlerken gerçek zamanlı veri toplanmasına izin verdiğimiz takdirde çözülecektir. Öncelikle, algoritma hangi filmlerin tamamını izledik, hangilerini yarıda bıraktık gözlemleyebilir. Tüm dünyaya Rüzgar gibi Geçti çekilmiş en iyi filmdir desek de algoritma esasen filmin ilk saatini çıkaramadığımızı ve Atlanta’nın yandığını falan görmediğimizi bilir.

Ama algoritma bundan çok daha ileriye de gidebilir. Mühendisler insanların duygularını göz hareketlerine ve yüz kaslarına bakarak tespit edebilen bir yazılım geliştiriyor şu sıralar.8 Televizyona iyi bir kamera eklememiz durumunda algoritma hangi sahnelere güldüğümüzü, hangi sahnelerde üzüldüğümüzü ve hangi sahnelerde sıkıldığımızı anlayabilir. Sonra algoritma biyometrik sensörlere bağlanırsa her bir karenin kalp atışımızı, tansiyonumuzu ve beyin faaliyetimizi nasıl etkilediğini anlayabilir. Mesela Tarantino’nun Pulp Fiction filmini izliyoruz diyelim; algoritma tecavüz sahnesinde neredeyse fark edilemeyecek kadar az tahrik olduğumuzu, Vincent Markin’i kazara vurduğunda suçlu suçlu sırıttığımızı ve Big Kahuna Burger esprisini anlamasak da salak görünmemek için güldüğümüzü kaydedebilir. Kendimizi gülmeye zorladığımızda, gerçekten komik olduğunu düşündüğümüz bir şeye gülerken kullandığımızdan farklı beyin devreleri kullanıyoruz. İnsanlar aradaki farkı çoğunlukla anlamıyor. Ama biyometrik bir sensör anlayabilir.

Televizyon kelimesi Yunancada “uzak” anlamına gelen “tele” kelimesiyle Latincede görmek anlamına gelen “visio” kelimelerinden geliyor. Aslen bir şeyi uzaktan görmemize yarayan bir alet olarak düşünülmüş. Ama bir süre sonra uzaktan görülmemizi de sağlayabilir. George Orwell’in Bin Dokuz Yüz Seksen Dört kitabında öngördüğü gibi biz televizyon izlerken televizyon da bizi izleyecek. Tarantino’nun bütün filmlerini izledikten sonra çoğu aklımızdan çıkıp gidebilir. Ama Netflix, Amazon ya da televizyon algoritmasının sahibi her kimse, o kişi bizim kişilik tipimizi ve ruhumuzun tellerine nasıl dokunacağını bilecek. Böyle bir veri Netflix ve Amazon’un tüyler ürpertici bir doğrulukla bize en uygun filmleri seçmesine yarayabileceği gibi ne okuyacağımız, nerede çalışacağımız ve kiminle evleneceğimiz gibi hayatımızın önemli kararlarını da bizim adımızaalmalarını sağlayabilir.

Elbette Amazon her daim doğru isabet ettiremeyecek. Bu imkânsız. Algoritmalar yetersiz veri, hatalı programlama, bulanık hedef tanımlamaları ve hayatın kaotik doğası gibi sebeplerle tekrar tekrar hata yapabilir.10 Ama Amazon’un mükemmel olması şart değil. Biz insanların ortalamasından daha iyi olması yeter. Ve bu da çok zor değil çünkü pek çok insan hayatlarının en önemli kararlarını verirken sıklıkla korkunç hatalar yapıyor. İnsanlar yetersiz verinin, hatalı programlanmanın (genetik ve kültürel), bulanık hedef tanımlarının ve hayatın kaotik doğasının cefasını algoritmalardan daha çok çekiyor.

Algoritmaları kuşatan sorunları bir bir sıralayıp insanların asla algoritmalara güvenmeyeceği sonucunavarabilirsiniz. Fakat bu bir nebze, demokrasinin eksikliklerini listeleyip aklı başında hiç kimsenin böyle bir sistemi desteklemeyeceği sonucuna varmaya benzer. Winston Churchill’in meşhur bir sözü var: Demokrasi, diğer tüm sistemleri saymazsak, dünyanın en kötü siyasi sistemidir. İnsanlar, doğru ya da yanlış, büyük veri algoritmaları konusunda da aynı sonuca varabilir, birçok aksaklıkları var ama daha iyi bir seçeneğimiz yok diyebilirler.
Biliminsanları insanların nasıl karar aldığına dair daha derin bir anlayış edindikçe algoritmalara itimat etmek daha cazip gelmeye başlayabilir. İnsanların karar alma süreçlerine erişim büyük veri algoritmalarını daha güvenilir kılmakla kalmayacak, eş zamanlı olarak insan duygularını da daha az güvenilir yapacak. Devletler ve şirketler insanların işletim sistemine erişim sağlayınca yönlendirme, reklam ve propagandadan oluşan hassas güdümlü bir bombardımana tutulacağız. Fikir ve duygularımızın bu kadar kolayca yönlendirilebilmesi karşısında, vertigo atağı geçiren bir pilotun kendi duyularının kılavuzluğunu bir kenara bırakıp tamamen uçağın aksamlarına güvenerek yol alması gibi, sırtımızı algoritmalara dayamak zorunda kalacağız.

Bazı ülkelerde ve bazı durumlarda, insanlara bir seçenek tanınmayıp büyük veri algoritmalarının kararlarına uyma zorunluluğu getirilebilir. Ancak algoritmalar özgür oldukları ileri sürülen toplumlarda bile otorite kazanabilir çünkü çok çeşitli konularda onları dikkate almayı deneyimlerimiz sonucu öğrenip sonunda yavaş yavaş kendi adımıza karar verme yetimizi kaybedebiliriz. Milyarlarca insanın yirmi yıl kadar kısa bir süre içinde, tüm zamanların en önemli görevlerinden biri olan güncel ve güvenilir bilgi arama konusunda nasıl da Google’ın arama motoruna güvenir hale geldiğini düşünün. Artık bilgiyi aramıyoruz; Google’lıyoruz. Ve cevaplar için Google’a gitgide daha çok bel bağladığımızdan kendikendimizebilgiedinme yetimiz azalıyor. “Hakikat” şimdiden, Google aramalarında en üstte çıkan sonuçlarla belirleniyor.”

Aynı şey yol almak gibi fiziksel beceriler için de geçerli. İnsanlar Google’dan rotalarını çizmesini istiyor. Bir kavşağa geldiklerinde iç sesleri “sola dön” dese de Google Maps “sağa dön” diyor. İlkin sola dönüyor ve trafiğe yakalanıp önemli bir toplantıyı kaçırınca bir sonraki sefer Google’ı dinleyip sağa dönerek gidecekleri yere zamanında varıyorlar. Google’a güvenmeyi tecrübe ederek öğreniyorlar. Bir iki sene geçince Google Maps’ın her dediğini körü körüne kabul ediyor ve akıllı telefonları çalışmadığında budala gibi ortada kalıyorlar.
2012’nin Mart’ında Avustralya’ya giden iki Japon turist yakınlardaki bir adaya günübirlik gitmeye karar vermiş ve arabalarını dosdoğru Pasifik Okyanusu’na sürmüş. Yirmi bir yaşındaki sürücü Yuzu Noda sonrasında yaptığı açıklamada GPS’in komutlarını dinlediğini söylemiş: “Oradan gidebileceğimizi söyledi. Bizi yola çıkaracağını söyleyip durdu. Sonra çakılıp kaldık.”‘2 Benzer kazalar arasında belli ki GPS talimatlarına uyarak arabalarını göllere sürenler ya da yıkılmış bir köprüye girip düşenler de var.” Yol bulma yetisi kas gibidir, kullanmazsanız körelir.’4 Aynı şey doğru eşi seçebilme ve meslek becerileri için de geçerlidir.

Her yıl milyonlarca gencin üniversitede ne okuyacağına karar vermesi gerekiyor. Bu son derece önemli ve çok zor bir karar. Her biri farklı menfaatler ve fikirler taşıyan anne babaların, arkadaşların ve öğretmenlerin baskısı altındasınız. Ayrıca başa çıkmanız gereken korkularınız ve hayalleriniz var. Kafanız Hollywood yapımı gişe filmleriyle, ucuz romanlarla ve alengirli reklam kampanyalarıyla karıştırılıyor. Farklı mesleklerde başarılı olmak için ne yapmak gerektiğini gerçekten bilmediğiniz, zayıf ve güçlü yanlarınız hakkında ille de gerçekçi bir imgeye sahip olmadığınız için akıllıca bir tercih yapmanız bilhassa zor. Nasıl başarılı bir avukat olunur? Baskı altında nasıl bir performans sergilerim? İyi bir takım oyuncusu muyum?

Bir öğrenci kendi becerileri hakkında yanlış fikirlere kapıldığı ve avukatlığın esasen neler gerektirdiğine dair daha da çarpık bir görüşe sahip olduğu için hukuk fakültesine gidebiliyor (bütün gün çarpıcı konuşmalar yapıp “İtiraz ediyorum, Sayın Hakim!” diye bağırılmıyor). Bu esnada bir arkadaşı da gerekli kemik yapısına ya da disipline sahip olmadığı halde çocukluk hayalinin peşinden koşup profesyonel balerin olmaya karar veriyor. Yıllar sonra ikisi de tercihlerinden pişman. Gelecekte bu tarz tercihlerimizi Google’a bırakabiliriz. Google bana hukuk fakültesinde ya da bale okulunda vaktimi boşa harcayacağımı ama harika (ve çok mutlu) bir psikolog ya da tesisatçı olabileceğimi söyleyebilir.’

Yapay zekâ kariyerlerimiz ve belki de ilişkilerimiz konusunda bizden daha iyi karar alabilir duruma geldiğinde, insanlık ve hayat hakkındaki fikirlerimizin değişmesi gerekecek. İnsanlar hayatı karar aşamalarından oluşan bir tiyatro oyunu şeklinde algılamaya alışık. Liberal demokrasi ve serbest piyasa kapitalizmi bireyleri sürekli dünya hakkında kararlar alan otonom özneler şeklinde görüyor. Shakespeare oyunları ya da Jane Austen romanlarından ucuz Hollywood komedilerine, sanat eserleri genellikle başkahramanın oldukça kritik bir karar almasını gerektiren durumlar etrafında şekillenir. Olmak ya da olmamak. Karımın sözünü dinleyip Kral Duncan’ın canını almak ya da vicdanımın sesini dinleyip hayatını bağışlamak. Mr. Collins’le ya da Mr. Darcy’le evlenmek. Hıristiyan ve İslam teolojileri de benzer bir karar alma tiyatrosu üzerine yoğunlaşır ve ebedi kurtuluşun ya da cehennem azabının doğru tercihi yapmaktan geçtiğini öne sürer.

Biz kararlarımızı yapay zekâya bırakmaya başladıkça bu tarz bir hayat görüşüne ne olacak? Günümüzde film önerileri için Netflix’e, sağa mı sola mı döneceğimiz konusunda Google Maps’e güveniyoruz. Ama ne okuyacağımız, nerede çalışacağımız ve kiminle evleneceğimiz gibi konuları da yapay zekâya bırakırsak, insan hayatı karar aşamalarından oluşan bir tiyatro oyunu olmaktan çıkar. Demokratik seçimlerin ve serbest piyasanın bir anlamı kalmaz. Çoğu dinin ve sanat eserinin de. Düşünün ki Anna Karenina akıllı telefonunu çıkarıp Facebook algoritmasına, Karenin’le evliliğimi mi sürdürmeliyim yoksa yakışıklı Kont Vronski’ye mi kaçmalıyım diye soruyor. Yahut en sevdiğiniz Shakespeare oyununda tüm kritik kararların Google algoritması tarafından verildiğini düşünün. Hamlet ve Macbeth’in hayatları çok daha rahat olurdu ama bu nasıl bir hayat olurdu ki? Böyle bir hayatı anlamlandırmak için bir model var mı elimizde?

Otorite insanlardan algoritmalara geçerse, dünyayı doğru kararlar almaya çalışan otonom bireylerin oyun alanı şeklinde algılayamayız artık. Onun yerine tüm evreni bir veri akışı, organizmaları birer biyometrik algoritma şeklinde duyumsar ve insanların kozmik misyonunun her şeyi kapsayan bir bilgiişlem sistemi yaratmak ve sonra da bu sistemle bütünleşmek olduğuna inanırız. Şimdiden, esasen kimsenin anlamadığı devasa bir bilgiişlem sisteminin içindeki minik çiplere dönüşüyoruz. Her gün elektronik postalar, tweetler ve çevrimiçi makaleler aracılığıyla gelen sayısız veri parçacığına maruz kalıyor, bu verileri işliyor ve karşılığında yeni elektronik postalar, tweetler ve çevrimiçi makaleler yazarak geribildirimde bulunuyorum. Esasen büyük resmin neresine oturduğumu ya da benim ürettiğim veri parçacıklarının milyarlarca başka insan ve bilgisayarın ürettiği parçalarla nasıl bir bağlantı içinde bulunduğunu bilmiyorum. Öğrenmeye vaktim yok çünkü tüm bu elektronik postalara cevap vermekle meşgulüm.

Yuval Noah Harari
21. Yüzyıl İçin 21 Ders

Cevap Ver

Lütfen yorumunuzu giriniz!
Lütfen isminizi buraya giriniz