Google, Facebook ve benzeri algoritmalar her şeyi bilen kahinler hâline geldiklerinde, önce vekile sonra da hakimlere dönüşebilirler. Bu süreci anlamak adına, sürücülerin bugünlerde yaygın olarak kullandığı GPS temelli navigasyon uygulaması Waze’i ele alabiliriz. Waze sadece bir haritadan ibaret değil, milyonlarca kullanıcısı trafik sıkışıklığı, kazalar ve polis araçları hakkında sürekli güncelleme yapıyor. Uygulama bu sayede sizi sıkışan trafikten kurtararak varmak istediğiniz hedefe olabilecek en hızlı yoldan götürüyor. Bir yol ayrımına geldiğinizde içinizden bir his size sağa dönmenizi söylerken Waze sizi sola yönlendiriyor ve kullanıcılar er ya da geç kendi hislerindense Waze’e güvenmeleri gerektiğini öğreniyor.
Waze algoritması ilk bakışta yalnızca bir kahin gibi hizmet sunuyor. Sorulan soruyu kahin yanıtlıyor ama karar vermek bize kalıyor. Ancak kahin güvenimizi kazandıkça bir sonraki adımda kahini bir vekile dönüştürmek mantıklı hâle geliyor. Algoritmaya nihai hedefi veriyoruz ve o da denetimimize tabi olmaksızın, hedefe ulaşmak üzere harekete geçiyor. Waze uygulamasını sürücüsüz bir araçla eşleştirdiğimizde “eve en hızlı yoldan git,” ya da “en güzel manzaralı yolu seç,” veya “en az çevre kirliliğine neden olacak yolu tercih et,” gibi taleplerde bulunabiliriz. Kararları biz verir, uygulamasını Waze’e bırakırız.
Sonunda Waze hükümdara dönüşebilir. Sahip olduğu böylesi bir güçle, ne yapacağını bizden daha iyi bilirken bizi yönlendirmeye başlayabilir ve isteklerimizi şekillendirerek adımıza kararlar verebilir. Waze’in çok geliştiğini, herkesin Waze kullanmaya başladığını varsayalım. Diyelim ki birinci güzergahta trafik sıkışık, ikinci güzergahta görece daha akıcı. Eğer Waze durumu herkese açıklarsa tüm sürücüler ikinci güzergaha yönelecek ve orası da tıkanacaktır Herkes aynı kahine gider ve ona inanırsa, kahin hükümdara dönüşür ve bizim yerimize düşünecek duruma gelir Belki bu bilgiyi sürücülerin yarısından saklarken yalnızca diğer yarısına ikinci güzergahın açık olduğunu bildirerek birinci güzergahtaki sıkışıklığı İkinciyi tıkamadan hafifletebilir.
Microsoft, adını ünlü video oyunu serisi Halo’daki bir karakterden alan Cortana isimli çok daha karmaşık bir sistem geliştiriyor. Kişisel bir asistan olarak tasarlanmış bir yapay zeka programı olan Cortana’nın Windows’un gelecekteki sürümlerine eklenmesi planlanıyor. Kullanıcıların tüm dosyalara, elektronik postalara ve uygulamalara erişim izni vermesi teşvik edilerek, Cortana’nın onları tanıma olanağı elde etmesi amaçlanıyor. Böylece programın sayısız konuda tavsiye verebilmesi ve kullanıcının çıkarlarını gözeten sanal bir vekil hâline gelmesi hedefleniyor. Cortana eşinize doğumgününüz için hediye almasını hatırlatabilir, bir hediye seçebilip bir restoranda yer ayırtabilir, yemekten bir saat önce ilacınızı almanız için sizi uyarabilir. Aynı zamanda ekranın başından ayrılmazsanız toplantınıza gecikeceğinizi söyleyebilir. Tam toplantıya girecekken tansiyonunuzun yüksek, dopamin seviyenizin çok düşük olduğu konusunda sizi uyarabilir ve geçmiş değerlerinize bakarak böyle durumlarda hatalı kararlar vermeye yatkın olduğunuzu belirtebilir. Bu nedenle her şeyi deneme aşamasında tutarak hiçbir sözleşmeye onay vermemenize dair tavsiyeler verebilir.
Cortanalar kahinden vekile dönerken, her bireyin Cortana’sı sahipleri adına birbiriyle konuşmaya başlayabilir. Süreç son derece masumane başlasa da bir süre sonra benim Cortana’m sizinkiyle randevulaşabilir. İşin çığırından çıkması son derece olası. Bir bakmışsınız muhterem Cortana’nız iş görüşmesi için özgeçmişinizi isteyeceğine muhtemel işvereninizin Cortana’sı tarafından sorguya çekiliyor. Ya da Cortana’nızın, ruhunuz bile duymadan belirlediği bir sevgili adayının Cortana’sıyla fikir alışverişinde bulunup ne kadar uyumlu bir birlikteliğiniz olabileceği konusunda değerlendirmeler yaptığını bir düşünsenize.
Cortanalar otorite kazandıkça sahiplerinin çıkarları doğrultusunda birbirlerini yönlendirmeye başlayabilir, iş dünyasındaki başarı ya da evlilikteki istikrar Cortana’nın kalitesine göre şekillenebilir. Varlıktılar en gelişkin Cortanalara sahip olarak eski sürümleri kullanan yoksul insanlar karşısında belirleyici bir avantaj kazanabilirler.
En zorlu konuysa Cortana’nın iplerinin kimin elinde olacağıdır, önceki bölümlerde ele aldığımız üzere insanlar bireyler olmadıkları gibi tek bir benliğe de sahip değildir. O zaman Cortana kimin isteklerini yerine getirmeli ve kimin çıkarlarını gözetmelidir? Anlatıcı benliğimin yeni yılda diyet yapmaya başlayıp her gün spora gitmeye karar verdiğini varsayalım. Bir hafta sonra spora gitme zamanı geldiğinde, deneyimleyen benlik Cortana’dan televizyonu açmasını ve pizza sipariş etmesini ister. Cortana bu durumda ne yapmalıdır? Deneyimleyen benliğe mi itaat etmeli, yoksa anlatıcı benliğin bir hafta önce verdiği karara mı uymalıdır?
Cortana, anlatıcı benliğin deneyimleyen benliği sabah uyandırmak için kurduğu çalar saat işlevi mi görmektedir? Hayır. Cortana çok daha güçlüdür. Deneyimleyen benliğin tek isteği düğmeye basıp alarmı susturmaktır, Cortana ise beni o kadar iyi tanır ki “tavsiyesini” dinlemem için içimdeki düğmelere ne zaman basması gerekeceğini çok iyi bilecektir.
Microsoft’un Cortana’sı bu oyunda yalnız değil. Google Now ve Apple’ın ürettiği Siri de aynı kulvarda koşuyor. Amazon bile dur durak bilmeden üzerinizde çalışan ve elindeki bilgiyle size ürün öneren algoritmalar kullanıyor. Bir kitapçıya girdiğinizde doğru kitabı seçmek için rafların arasında dolaşarak hislerinize güvenirsiniz. Amazon’un sanal mağazasında karşınıza çıkan algoritmaysa: “Geçmişte hangi kitapları sevdiğini biliyorum. Benzer zevkleri olan insanlar bunu ya da şu yeni kitabı seviyor,” der.
Üstelik bu daha başlangıç. ABD’de giderek daha çok insan basılı kitaplar yerine e-kitapları tercih ediyor. Amazon, Kindle gibi cihazlar kullanan okurlar sayesinde veri toplayabiliyor, örneğin kitabın hangi kısımlarını hızlı, hangi kısımlarını yavaş okuduğunuzu, hangi bölümde ara verdiğinizi, hangi cümlede kitabı bir daha elinize almamak üzere bıraktığınızı takip edebiliyor (yazara o kısmı yeniden yazmasını da söylese bari.) Eğer Kindle yüz tanıma sistemleri ve biyometrik algılayıcılarla yeniden güncellenirse hangi cümlenin kalbinizi hızlandırıp tansiyonunuzu yükselttiğini, nerede güldüğünüzü, üzüldüğünüzü ya da öfkelendiğinizi bilebilir. Yakın gelecekte siz kitap okurken kitaplar da sizi okuyabilir, Ancak siz okuduklarınızın çoğunu hızla unuturken, Amazon tek bir detayı bile unutmayacaktır. Böylesi bilgiler Amazon’un sizin için hiç şaşmadan doğru kitabı seçmesini sağlayabilir. Tabii bir yandan da tam anlamıyla kim olduğunuzu bilmesini ve dilediği zaman sizi açıp kapatabilmesini mümkün kılar.
Sonunda bu her şeyi bilen ağdan bir an olsun bile çıkamayacağımız bir noktaya gelebiliriz. Bağlantının kesilmesi bir nevi ölüm anlamına gelebilir. Gelecekte tıbbi hedeflere ulaşılırsa insanlar bedenlerine kalplerini izleyecek, enfeksiyonları, hastalıkları kayıt altına alacak ve onları hasarlardan koruyacak biyometrik cihazlar, biyonik organlar ve nanorobotlar ekleyebilir. Ancak bu cihazların en son tıbbi gelişmelerden haberdar olabilmesi ve siber âlemin illetlerinden korunması için yedi gün yirmi dört saat aktif bağlantıda olmaları gerekebilir. Evdeki bilgisayarın sürekli virüs ve trojanların saldırısına uğraması gibi ritim cihazının, işitme cihazının, nanoteknoloji bağışıklık sisteminin de benzer bir tehdit altında bulunması olasıdır. Bedenimin antivirüs programlarını güncelleyemezsem bir sabah uyandığımda damarlarımda dolaşan milyonlarca nanorobotu Kuzey Koreli hackerların kontrolünde bulabilirim.
21. yüzyılın yeni teknolojileri, insanı sahip olduğu otoriteden mahrum bırakıp algoritmaları yetkilendirerek hümanist devrimin çarklarını geriye çevirebilir. Bu gidişat sizi dehşete düşürüyorsa bilgisayar kurtlarını suçlamamalısınız. Bu işin asıl sorumlusunun biyologlar olduğunu, tüm bu gidişatın bilgisayar bilimi yerine biyolojik öngörülerden güç alarak ilerlediğini anlamak çok önemli, çünkü organizmaların birer algoritma olduğuna kanaat getiren yaşambilimleridir. Eğer organizmalar algoritmalar gibi işlemiyorsa, bilgisayarlar her alanda harikalar yaratsa dahi, bizi anlamaları ve hayatımızı yönetmeleri imkansızlaşır ve bizimle bütünleşme ihtimalleri de ortadan kalkar. Biyologlar organizmaların birer algoritma olduğu sonucuna vardıkları an, organik ve inorganik yaşam arasındaki duvar yıkıldı, bilgisayar devrimi tamamen mekanik bir meseleden biyolojik bir tufana dönüştü ve bireylerin otoritesi algoritma ağlarının eline geçti.
Bazı insanlar gelişmeler karşısında endişe duysa da milyonlar bu gidişatı benimsemeye dünden razı. Bugün bile pek çoğumuz mahremiyetimizden ve bireyselliğimizden vazgeçmeye, her yaptığımızı kaydetmeye, hayatlarımızı internette yaşamaya, hatta internet bağlantısı birkaç dakikalığına kesildiğinde histerikleşmeye başladık. Otoritenin el değiştirerek algoritmaların eline geçmesi hükümetlerin ciddi kararlarının bir sonucu olarak ortaya çıkmadı, bu değişim insanların rasgele tercihlerine bağlı olarak gerçekleşti.
Eğer dikkatli ilerlemezsek kendimizi Onvell’in ünlü polis devletindeki gibi her hareketimizin, hatta bedenimizin ve aklımızın içindekilerinin bile izlenip kontrol edildiği bir dünyada bulabiliriz. Stalin’in her şeye gücü yeten biyometrik algılayıcıları keşfettiğini düşünün, Putin bu teknolojiyle neler yapardı kim bilir? Bireyciliği savunanlar 20. yüzyılın kabuslarını tekrar yaşamaktan korkarak Orwellci düşmanlara kendilerini hazırlarken, bireycilik bambaşka ve çok daha ciddi bir tehlikeyle karşı karşıya. 21. yüzyılda bireyin kendi kendine yavaşça yok olma ihtimali Büyük Birader tarafından ezilme riskinden çok daha yüksek.
Bugün şirketler ve hükümetler bireyselliğe saygı duyduklarını beyan ederken, isteklerim ve ihtiyaçlarım doğrultusunda tıbbi yardım, eğitim ve eğlence sağlayacaklarını vaat ediyorlar. Ama bunu yapabilmek için önce bedenimi biyokimyasal alt sistemlere ayırmaları, sonra bu alt sistemleri her yere uzanan algılayıcılarla izlemeleri ve gelişmiş, güçlü algoritmalarımın nasıl çalıştığının sırrını çözmeleri gerekiyor. Bu yolun sonunda birey dini bir fantezi olup çıkarken gerçeklik de bireysel merkezleri olmayan, sınırları belirsiz biyokimyasal ve elektronik algoritmalardan oluşan bir ağa dönüşecektir.
Yuval Noah Harari
Homo Deus/ Yarının Kısa Bir Tarihi
Türkçesi: Poyzan Nur Taneli
