Siri sayesinde Apple, Google Asistan sayesinde Google, Alexa sayesinde Amazon bizi sürekli dinliyor, bunu da unutmamak lazım. Hatta Google her kış çıkardığı Grip tahminleri birçok sağlık kurumundan daha tutarlı sonuçlar çıkarabiliyor. Dünya öyle büyük bir teknolojik devrim geçiriyor ki geri dönüşü yok. Bütün bu teknolojiler ateş ya da bıçak gibi hem faydası var hem de zararı. İsrail’de insanların fotoğraflarına bakarak pedofili eğilimi olup olmadığını tespit eden yazılımlar var, bunları çocuk parklarının etrafındaki kameralara yüklediler.
Birçok hükümet “algoritmik mekanizmalar” haline dönüştü. Algoritmik ulus; “blockchain, yüz tanıma veya veri madenciliği gibi algoritmaların ve diğer teknolojik araçların köşe taşı olduğu yeni bir yönetişim tarzı” anlamına geliyor. En büyük dezavantajı, bu algoritmaların vatandaşların etik ve demokratik yaşamını olumsuz etkileyebilmesi.
Bu tür algoritmik stratejiler ne anlama geliyor? Devletlerin pandemi döneminde sınırlarını iyice genişlettiği siber güvenlik adımları, gerçekten gerekli mi? Temel hak ve özgürlükler üzerindeki etkisi kısıtlayıcı ve kalıcı hale gelir mi? Peki biz sıradan vatandaşlar ne yapalım güvenliğimizi sağlamak için?
Kadir Has Üniversitesi Uluslararası İlişkiler Bölümü Öğretim Üyesi Doç. Dr. Salih Bıçakcı, siber güvenlik çalışmalarıyla tanınan, bu alanda önemli analizlere imza atmış bir uzman. ScienceUp’ın sorularını yanıtlayan Doç. Dr. Bıçakcı’ya göre algoritmik ulus kavramını anlamak için, önce geçmişe gitmek, “kod nedir” sorusunun yanıtını vermek gerekiyor: “Diyelim ki bir bardak su masanızda duruyor, bilgisayarınıza ‘o suyu oradan al, diğer tarafa koy’ diyeceksiniz. Bu işlemi X, Y, Z koordinatında ve zaman kavramıyla tanımlamanız gerekir ve bunu yapmanın yöntemi vardır. Bu yönteme ‘algoritma’ diyoruz…” diyerek söze başlıyor. Esasında herkesin bir algoritması var. Beynimiz bu kurallar dizisine göre çalışıyor. Alışveriş yaparken, ihtiyaçları belirlemek için, sevdiğimiz rengi ve modeli seçmek için algoritmik sistemin devreye girmesi gerekli. Her türlü programın, her küçük metnin bir algoritması var. Her algoritmanın temelini nasıl veri oluşturuyorsa, karar alma süreçlerinin temelini de veriler oluşturuyor.
“GOOGLE HAKKINIZDA ANNENIZDEN FAZLA ŞEY BILIYOR!” JULIAN ASSANGE – ŞİFREPUNK
Bıçakcı, hayatımızın yolunu değiştiren algoritmanın özünü işte bu kadar temel prensiplerle özetliyor. Peki, verileri en çok hangi iş için kullanıyoruz? Bıçakcı, bu sorunun 1950-60 yılları arasında gündeme geldiğine ve insanoğlunun en çok geleceği okuyabilmek için verilere ihtiyaç duyduğuna dikkat çekiyor. Veriler, hep geleceği tahmin edebilmek için öne çıkmış. Ancak bu noktada başlayan çalışmalar bugün veri ve veri depolama sistemleri sayesinde sınırsız ve tehlikeli bir alana ilerlemiş durumda. Bıçakcı sıradan bir vatandaşın bir obje olarak alışverişinden seçtiği filmlere, WhatsApp yazışmalarından fotoğraflarına her türlü verisinin kayıt edildiği, görüldüğü, izlendiği ve yönlendirildiği bir dünyaya işte tam burada ve şöyle işaret ediyor: “Ben sadece sizin sosyal medya kullanımınıza ve profilinize bakarak, muhafazakâr mı yoksa açık görüşlü mü olduğunuzu söyleyebilirim, cinsel tercihlerinizi hakkında fikir sahibi olabilirim, harcamalarınız hakkında nasıl bir profil izlediğinize bakabilirim, yatırımlarınızı ne yönde yönlendirdiğinizi görebilirim, giyim tercihlerinize bakabilirim, yalan söyleyip söylemediğinizi kontrol edebilirim. Yani gündelik hayatınıza dair her şeyi sırf veri üzerinden okuyabilecek bir kapasiteye sahip olduk. Böyle bir kapasite devletler için, yöneticiler için çok anlamlı. Düşünsenize bir ülkenin trafiğini düşünüyorsunuz, elinizde bütün bir ülkeyi ait ya da bir şehre ait bütün hücresel veri datası var… Bu hücresel veri datasını ile; kaç milyon insanın her sabah kaçta çıktığını ve nereden nereye gittiğini sadece hücresel veriyi takip ederek görebiliyorsunuz. Bu size şunu sağlar: Yolların trafik ışıklarını düzenlersem, akışı hızlandırırım, insanlar hızlıca gider, daha az benzin tüketirler, daha az karbon monoksit kirlenmesi olur, trafik sorunu kalmaz. Daha iyi yatırımlar gibi bir sürü birbirine bağlı karar bir anda verebilir hale gelir.” İşte bu da “obje”yi yani insanı tanıyabilmenin yolundan yani verilerinden geçiyor. Veriyi doğru algoritmalardan geçirerek karar vermenizi sağlayacak hale getirdiğinizde inanılmaz bilgilere erişiyorsunuz. İşte bu resme “algoritmik yönetişim” deniliyor. Bıçakcı, bu kavramı şöyle açıklıyor: “Eğer ülkeler, tebaayı iyi yönetmek için verilerini alıyor ve bunları algoritmalardan geçirip, bu verilere dayanarak hareket ediyorlarsa bu kararlar algoritmik oluyor.”
Peki bu kararlar açık mı, gizli mi? “Adalete odaklanmış algoritmik kararlar var, yüzeysel değil, derin yönetmek için de kullanılıyor. Mesela hasta profillerini inceleyip, gelecek yılki hastalık rakamlarını söylemek mümkün olduğu gibi, kişilerin suç profillerine bakıp yeniden suç işleyip işlemeyeceğini de tahmin edebiliyorlar. Amerika’da çok kullanıyor, Avrupa’da kullanılmaya başladı, Türkiye’de de Yargıtay kararlarını kaydeden bir yapay zekâ sistemi üzerine çalışmaya başladığını duydum.” diye anlatıyor Bıçakcı. O halde yargı kararı kim verecek, yapay zekâ mı hakimler mi? Doç. Dr. Bıçakcı’nın soruya yanıtı şöyle: “Hâkim karar vereceği zaman ekranına bir uyarı düşüyor ve diyor ki: ‘Bu mahkûmun yüzde atmış aynı suçu işleme olasılığı vardır.’ Buradaki risk şu; yapay zekâya rağmen hâkim olarak siz dinlediğiniz hikâyede bahtsızlıklar, kötü giden unsurlar görebilir ve bir şans daha vermeye karar verebilirsiniz. Ama bir yıl sonra aynı kişi benzer bir suçla karşınıza geldiğinizde bir sonraki kararda yapay zekânın dediğini dinlemek zorunda kalırsınız.”
Yapay zekâ sistemlerin ana besin kaynağı, veri. Veri olması hiçbir işe yaramıyorlar. Çünkü veri, tahminde bulunabiliyor. Peki verimiz bilinirse ne olacağından neden korkuyoruz? “Bir kişi kimseyle paylaşmak istemeyeceği bilgileri ekranı ile paylaşıyor. Halbuki yapay zekâ o şeyleri ben bir kerede verisi üzerinden okuyup, kendisine bile söylemeye cesaret edemeyeceği şeyleri söyleyebilir. İkincisi, benim verim; kendi bilgim, benim oluşturduğum, bana ait, beni tanımlayan bir durum. Beni tanımlayan unsurların, metanın başkasına verilmesi sırasında benim bilgim olması lazım ama benim bilgim yoksa? Mesela arama motorunda gizli sekme açarak çalışmıyorsam, verilerimin tamamının kaydedildiğini bilmem gerekli. Yoksa kendinize ait hiçbir özel alanınız kalmıyor. İkinci adımı ben veriyi gönüllü versem bile bu verilerin büyük bir kısmı pişirilip bir yapay zekâ yemeği yapılıyor. Verinizi geri ister ve çıkarılmasını isterseniz bunun nasıl yapılacağını yapay zekâyı inşa edenler bile bilmiyorlar. Bir kıyma makinası gibi düşünün, bir sonuç çıkıyor, çıkan sonuçta sizin etinizin hangisi olduğu görünmüyor bile.” diye anlatıyor Doç. Dr. Bıçakcı. En büyük problem bu: Beni nasıl yönetebilir, yönlendirebilir?.. En büyük örneğin Cambridge Analytica ve ABD seçimleri olduğunu söyleyen Bıçakcı’ya göre artık siber hack kısmını geçtik, bilişsel hack kısmına geldik. Eskiden uzaktan bilgisayarlara erişilir, verilerle oynanırken, artık insanların zihnine giriliyor: “Sizi yönetiyorum, çünkü sadece sizin ilgilendiğiniz ve mesajı nasıl okuduğunuzu görerek ve anlayarak motivasyonunuzun ne olduğunu, korkularınızın ne olduğunu, duygularınızın ne olduğunu anlayarak sizi yönlendirebilecek doğru mesajlarla istediğim sonuçları elde edebiliyorum. Bu da ‘bilişsel hack’e giriyor ve seçimler de böyle yönlendiriliyor. Cambridge Analytica sosyal medyaya bir anket gönderiyor ve karşısına anket çıkan herkes dolduruyor. Basitçe insanları bu anketlerdeki yaklaşımlarına bakarak sosyal medya üzerinden yönlendiriyor. “Yaşlanınca yüzüm nasıl olacak” gibi programların aslında hepsi yapay zekâyı besliyor. Çünkü bu işleri beslemek için büyük veriye ihtiyacımız var. Bunu oyun oynatarak yapanlar da var. Bu sistemleri çalıştırmak için büyük miktarlarda kişisel veriye ihtiyacımız var, gönüllü vermeniz için de çeşitli şeyler yapıyoruz size. Ya ilginç gelecek bir sonuç gösteriyoruz, ‘Şu ana kadar kim Twitter’ınıza bakmış öğrenmek istiyor musunuz’ deyip verilerinize ulaşmayı sağlıyoruz. Siz esasında büyük bir marketin parçasısınız. Sizi yönlendirerek politik seçimlerinizi değiştirebilirim, sizi almayı düşünmediğiniz eşyalara teşvik edebilirim, bütün tercihlerinizi yönlendirebilirim. Bana hiç kimse diyemez ki; ‘ben özgürüm’. Google’da ne yazıyorsanız ve karşınızda ne çıkıyorsa o kadar özgürsünüz, çünkü Google bile aradığınız bütün tercihleri size göre yapıyor. Her zaman, her veri, herkese aynı şekilde çıkmıyor, farklılaşan algoritmalarla çıkıyor. Bütün bunlar hem tercihlerinizi hem yönetilmenizi sağlıyor” Mesela her birimizin telefonundan 15 dakika bir hücresel veri kulesine “ben buradayım” mesajı gidiyor, gündüzleri sürekli gittiğiniz adres “iş”, akşamları düzenli bulunduğunuz yer ise “ev” olarak kaydediliyor ve “algoritmik yönetim” de işte tam olarak bu. Doç. Dr. Bıçakcı bu örneği anlatırken eğer birey düzenli olarak akşam 8’den sabah 8’e kadar haftanın 7 günü aynı yerden sinyal veriyorsa orasının evi olduğunu tahmin etmek çok da zor değildir diyor ve ekliyor “ya haftanın bazı günlerinde farklı yerlerden sinyal alınıyorsa bu ne anlama gelir” diye soruyor. Koluna bir akıllı saat taktığın anda nabzından stres yönetimine bile hakim olunduğu bir insana neler yapılmaz?
Harari’nin dediği gibi bu algoritma bir devlet yönetimi ile birleştirildiği zaman neler olur bir düşünsek? Bir siyasi lideri izlerken kolundaki o saatten nabız atışına bakılarak siyasi eğilim hakkında çok akılcı bir tahmin yapılabileceğini biliyor musunuz mesela? Siri sayesinde Apple, Google Asistan sayesinde Google, Alexa sayesinde Amazon bizi sürekli dinliyor, bunu da unutmamak lazım. Hatta Google her kış çıkardığı Grip tahminleri birçok sağlık kurumundan daha tutarlı sonuçlar çıkarabiliyor. Apple Covid-19 rakamlarını sağlık verileri üzerinden toplasa devletlerden çok daha iyi rakamlara erişebilme ihtimaline sahip olabilir diyor Bıçakcı. Bundan ibaret de değil büyük resim: “Mesela niye kargocular bizim T.C. kimlik numaramızı istiyorlar, böyle bir sisteme niye gerek olduğunu anlamıyorum. Birisine bir fenalık yapmak istiyorsanız bir kargocu tanıdık bulun, onların sistemlerinden istediğinizi elde edebilirsiniz. Devletler bunun için bir şey yapıyorlar mı? Yapıyorlar, onlar da çok yoğun bir şekilde kullanıyorlar. Terörizmle mücadele, oy seçim tahminleri, bir bölgeyi yönetmek, hareketliliği görmek için kullanıyorlar. Bütün bunlar çok kullanılıyor ama bunların hiçbirini açık ve net olarak ifade etmiyorlar. Bazen bu verileri değişik sistemlerle de birleştirip kullanıyorlar. Mesela ‘WhatsApp’ın Facebook’la datayı birleştireceğim’ hikayesi ile herkes uyandı. Esasında bunu zaten yapıyordu WhatsApp. Yani zaten biliyor sizin en yakın arkadaşlarınızın kimler olduğunu ve onların siyasi görüşlerini yaşam tarzlarını bile biliyorlar. Arada yalan söylediğinizi bile biliyor. T.C. kimlik numaranızı girdiğiniz zaman e-devlet sisteminde neye sahip olduğunuzu, borçlarınızı, kredilerinizi, nerede çalıştığınızı, SGK’nızı ödeyip ödemediğinizi, e-nabız sisteminden hastalıklarınızın ne olduğunu bütün bunların hepsini, cep telefonunuzdaki verilerinizle ve kredi kartı harcamalarınızla tutup üst üste bindirebilirsem eğer, sizin ne kadar yaşayacağınız aşağı yukarı tahmin edilebilir. Bütün bu teknolojiler ateş ya da bıçak gibi hem faydası var hem de zararı.
Bilmek birçok fayda getirirken bunun başkaları tarafından bilinmesi aynı zamanda özgürlüğünüzü kısıtlayıcı bir etki yapmaktadır. Veri de bu anlamıyla ateş gibi, peki ateşi hayatımızdan çıkartalım mı? Yarar kavramı burada çok izafi bir terim. Kimin kullanacağını bilmiyorsunuz ve nereye gideceğini bilmiyorsunuz. Bununla kalmayacak, savaşlara da geçecek. Yapay zekâyla çalışan silahlar olacak ve ‘niye öldürdün o adamı’ sorusunu sormayacaksınız. Dünya öyle büyük bir teknolojik devrim geçiriyor ki geri dönüşü yok. İsrail’de insanların fotoğraflarına bakarak pedofili eğilimi olup olmadığını tespit eden yazılımlar var, bunları çocuk parklarının etrafındaki kameralara yüklediler.
Kaynak: ScienceUp
