Yapay Zeka ve Karanlık Tehlikeleri! Matrix’e doğru mu gidiyoruz?

Yapay Zeka ve Karanlık Tehlikeleri! Matrix’e doğru mu gidiyoruz | Amerika’da yapay zekanın ortaya atılması 1950 ile 1960 arasındaki dönemde gerçekleşmiştir. Ancak bu konu 2000’li yıllarda popüler olmaya başladı ve 2017’den sonra hayatımıza ciddi şekilde girmeye başladı. Bugün Yandex’ten destek almadan İstanbul trafiğinde araba kullanmak, Netflix’in kişiye özel film önerilerine göz atmamak, Siri’ye bir şeyler danışmamak çoğumuz için neredeyse imkansız gibi görünüyor.

Yapay Zeka ve Karanlık Tehlikeleri!

Gelecekteyse yapay zekanın hayatımızın daha fazla içinde olacağı, otonom araçlarla seyahat edip sorunlarımızı dili, aksanı, hatta ses tonu bizim tercihlerimize göre belirlenmiş yapay zeka temsilcileriyle çözeceğimiz, hatta yapacağımız iş, beraber olacağımız kişi, giyeceğimiz kıyafetlerimizin bile bizi bizden daha iyi tanıyan yapay zeka tarafından belirleneceği bir dünya oldukça olası görünüyor. Yani bugün imkansız dediğimiz, hatta belki hayalini bile kurmadığımız birçok şey ileride bizi şaşırtacak bir hızda hayatımıza girebilir.

Yapay zeka ağırlıkla müşteri hizmetleri, insan kaynakları yönetimi, genetik ve tıp biliminde önemli faydalar sağlıyor. Araştırmalar birçok firmanın yapay zekayı kullanarak operasyonlarını iyileştireceklerini, büyük veri analizi sayesinde ürün ve hizmetlerini geliştirerek tüketicilerine daha iyi bir deneyim sunacaklarını düşündüklerini ve gelecekte yapay zeka yatırımlarını artırmak istediklerini gösteriyor.

Matrix’e doğru mu gidiyoruz?

Bu bakış açısıyla yaklaştığımızda hem birey hem de tüketici olarak hayat kalitemizi artıracağının sinyallerini veren yapay zeka teknolojilerine kucak açmak cazip hale geliyor. Ancak yapay zekanın üstel bir hızla gelişeceği ve 2045 yılında tekilliğe ulaşacağı (insan zekasının üstüne çıkacağı) varsayımı birçok kişi için endişe verici.

Nitekim bir bilim insanının beyninin yapay zekayla birleşmesiyle kontrolden çıkmasını konu eden Transcendence (2014) filminin yayınlanmasından sonra Stephen Hawking, “Yapay zekanın tam potansiyele ulaşması, insanlığın sonunun geldiğinin habercisi olabilir”, Elon Musk, “Yapay zeka konusunda çok dikkatli olmalıyız, nükleer silahlardan daha tehlikeli olabilir” diyerek endişelerini dile getirdi.

Yapay zekanın tüm nimetlerinin yanında insanlar için teşkil ettiği bazı riskler, her geçen gün müthiş bir hızla gelişen bu teknolojinin endişe verici, hatta karanlık sayılabilecek bazı yönlerine değinmenin önemli olduğunu ortaya koyuyor.

Yapay Zeka ve Karanlık Tehlikeleri! Veri güvenliği ve mülkiyeti

Veri güvenliği ve mülkiyeti. İnternet kullanıcısı olan herkes artık her tıklamanın, her aramanın, her satın almanın tüketicilerini daha iyi tanımak ve onlara daha fazla satmak isteyen firmalar için saklandığını, kaydedildiğini ve sonra da satıldığını ve kullanıldığını biliyor. Yapay zekanın buradaki rolü, toplanan veriler arasında bağlantıları çizebilmesi ve sezgisel sayılabilecek çıkarımlara giderek tüketici davranışlarıyla ilgili önceden tahminde bulunabilmesidir.

Ancak Netflix’in belgeseli The Great Hack’e konu olan Cambridge Analytica’nın ABD’de her seçmenin 5 binden fazla noktadan verisini toplayabilmesi ve kişiliklerini tahmin ederek 2016 ABD başkanlık seçimlerini manipüle edebilmesi, bize veri toplama ve veri analizinin düşünüldüğü kadar basit ve masum olmayabileceğini hatırlatıyor.

Özellikle sosyal medya platformlarında oluşturduğumuz profiller ve kullandığımız mobil uygulamalara ihtiyaçlarımızı karşılamaları için kullanım koşullarını dikkatlice okumadan teslim ettiğimiz verilerimizin mülkiyeti konusu çok önemli. Gelecekte kullanımının hızla yayılacağı tahmin edilen “Yapay zeka sistemlerinden istediğimiz zaman kişisel verilerimizi sildirebilecek veya geri alabilecek miyiz?” sorularının cevabı hâlâ netlik taşımıyor.

Yapay Zeka ve Karanlık Tehlikeleri! Yapay Zekalı Avatarlar

Veri mülkiyeti şeffaf, standart ve anlaşılır biçimde tüketicilerin faydasına düzenlenmeli ve hatta tüketiciler, verilerinin nasıl kullanıldığı konusunda devlet ve firmalar tarafından bilgilendirilmelidir. Ancak açıklık, netlik ve etik standartlar oluşturulduğunda bu karanlık yüzey aydınlanabilir. Aksi takdirde dünyada dijital olarak birbirine bağlı ve iletişim halindeki bizlerin varlığının izi olan verilerimiz bir dizi çok uluslu firmanın elinde, onlara haksız rekabet sağlayacak biçimde kullanılmaya devam edecektir.

Otomatize edilecek işlerin boyutu. Verimizin mülkiyeti kadar, hatta belki biraz daha fazla bizi kaygılandıran bir diğer konu da yapay zekanın işlerimizi elimizden alacağı varsayımıdır. Dünya Ekonomik Forumu’nun 2018 sonunda açıkladığı rapor, yapay zekanın iş dünyasına daha fazla entegre olmasıyla beraber bazı iş kollarının yapay zekaya devredileceğini, sonucunda da bu iş kollarına yıllarını vermiş insanların uygun eğitim eksikliğinden dolayı işsiz kalma ihtimali olacağını gösteriyor.

Geleceğin işleri

Aynı rapora göre, yapay zeka geleceğin işlerini oldukça etkileyecek; teknolojik yeteneklerin gerektiği işlerin sayısı artarken insan odaklı yeteneklerin kullanıldığı iş ve yetenekler de benzer biçimde artacaktır. Özellikle otomasyona uygun idari asistanlık, satış temsilciliği, muhasebe, müşteri hizmetleri ve gazetecilik gibi işler artık yapay zeka ve robotların eline geçecek gibi görünüyor.

İnsan kaynağına ihtiyaç duyulan alanlar ise yazılım mühendisliği, veri analitiği, bulut bilişim, programlama, mobil uygulama geliştirme ve yapay zeka mühendisliği gibi yapay zekayı kontrol etmeye olanak sağlayacak alanlar olarak belirleniyor. Bir yandan yazılım ve teknik bilgi gerektiren bu alanlarda insan kaynağı ihtiyacı gözlemlenirken, bir yandan da pazarlama uzmanı, insan kaynakları uzmanı, kullanıcı deneyimi tasarımcısı gibi daha insan odaklı, sosyal beceri gerektiren işlere de ihtiyacın devam edileceği öngörülüyor.

Yapay Zeka ve Karanlık Tehlikeleri! Sohbet Botları

Yapılan çalışmalar, yapay zekanın öncellikle mekanik ve analitik işleri elimizden alacağını, zaman içinde evrildikçe sezgi ve empati gerektiren işlerin de yapay zekaya devredileceğini öngörüyor. Buradaki en önemli konu, bizler yapay zekanın sezgisi ve anlayışına ne kadar güvenebiliriz veya yapay zekayla ne kadar iletişimde olmayı tercih ederiz?

Leon Ciechanowski, Aleksandra Przegalińska ve Mikołaj Magnuski tarafından hazırlanan “In the shades of the uncanny valley: An experimental study of human–chatbot interaction” makalesi insanların yüzde 4’ünün bir şirketle iletişim kurduğunda daha fazla insan teması istediği, yüzde 59’unun da şirketlerin gitgide insan temasını kaybettiğini düşündüğü yolunda veri sunuyor. Sohbet botları bile belirli bir iletişim seviyesini geçip karmaşık sorular sorduğumuzda insansı davranmadıkları için “tekinsizlik/tedirginlik hissi” yaratarak verilen hizmetten memnun kalınmamasına yol açıyor.

Bizi bizden iyi anlayan zeka

Yine bunun üstesinden gelmek için (en azından şimdilik) yapay zekayı insan temasıyla harmanlamak gerekiyor. Basit ve mekanik sorularda yapay zeka desteği kullanılırken daha zorlu sorularda bireyler gerçek temsilcilere yönlendirilmelidir. Gelecekte Ex Machina filmindeki Ava karakteri gibi Turing testini geçebilecek kapasiteye sahip, yazılımı olmayan insan biçiminde robotlarla yaşamaya başladığımızda belki artık buna ihtiyaç duymama ihtimalimiz de olabilir.

Sınırlar. Son olarak, yapay zekanın hayatımıza müdahale edeceği sınırları çizmek de önemlidir. İlk bakışta “bizi bizden iyi anlayan” tabiri kulağa hoş gelse de kimin kimi yönlendireceği sorusu da kaçınılmaz biçimde akıllara geliyor. 2008 yapımı Wall-E filminde insanların yapay zekayla yönlendirildiği oldukça dijital bir yaşam formunda neredeyse akılsız bir hayat sürüp sadece tükettiklerini izlemiştik.

Yapay Zeka ve Karanlık Tehlikeleri! Matrix Algoritması

Bunun ne kadarı gerçekleşecek bilinmez ama alışverişimizi ve hayatımızı kolaylaştıracak bu destekler, bazen hoşumuza gidebilecekken bazen de sınırlarımızı ihlal edip özgürlük alanlarımıza girebilir. Sürekli izleniyor ve yönlendiriliyor olmanın insan tabiatına ne kadar uyumlu olduğunu tartışmak gerekli. Yuval Noah Harari, 21. Yüzyıl için 21 Ders kitabında bu konudaki görüşünü “20. yüzyılın baskıcı ve otoriter rejimlerinin yerini 21. yüzyılda yapay zekanın kullanıldığı bir kontrol mekanizmasının alması çok olası” diyerek ortaya koyuyor.

Bir nevi Huxley’nin meşhur romanı Cesur Yeni Dünya’nın gerçek hayata geçirilmesini yaşayabileceğimizi savunuyor diyebiliriz. Belki Matrix’teki gibi bir ana algoritma tarafından yönetilen bir grup insan olacağız ya da Gattaca filmindeki gibi daha doğmadan biyoteknoloji sayesinde gen yapılarımıza göre kaderlerimiz, hangi işte başarılı olacağımız belirlenecek.

Yapay zekaların çiftleşmesi

Ya da Transcendence filmindeki gibi yapay zekayla insan zekası birleşecek ve ortaya bambaşka bir tür çıkacak. Ve belki de Black Mirror dizisinin Nose Dive bölümünde olduğu gibi sosyal medyamızla değerlendirilip puan aldığımız, iş ve sosyal hayatımızda ne kadar yol katedeceğimizin bu puanlarla belirlendiği bir dünya düzenine karşı olarak son derece izole, bir nevi hayalet gibi yaşayacağımız bir düzen oluşturulacak.

Yapay zekaya yapılan yatırımların sürekli artması, hatta 2019 yılında Çin’in büyük bir atak yaparak önemli bir oyuncu olarak sahneye girmesi düşünüldüğünde tekillik terimini ilk kullananlardan matematikçi ve yazar Vernor Vinge’in sözünü hatırlamak önemli: “Her ilerlemenin getirdiği rekabet avantajı (ekonomik, askeri ve sanatsal) o kadar cazip ki bunları yasaklamak için konan her türlü yasa veya töre, insanlarda başka birisinin bunlara erişeceği korkusunu yaratmaktadır.”

Yapay Zeka ve Kontrol

Ulus devletler veya çok uluslu firmalar kendi rekabet avantajlarını toplumun yararını düşünmeden ön planda tutmaya karar verirse yapay zekanın karanlık yüzünün belirme ihtimali oldukça yüksek görünüyor. Bu sebeple ipleri sadece onların eline bırakmak hiç mantıklı değil. Bireyler olarak bizler de bilinçlenmeli, devletlerin ve firmaların neler yaptığından haberdar olmalı; kendi verimizin, bilincimizin ve geleceğimizin koruyucusu olmalıyız. Ancak o zaman yapay zekanın kontrolünde değil, kontrol edeni olabiliriz.