Bu problemi şöyle özetleyebiliriz: robotlar, sahip oldukları insani niteliklerle insanları yeterince insan olduklarına inandırırlarsa ne olur?
Aydınlanma felsefesinin ilk prensibi olarak kabul edilen “cogito ergo sum” (düşünüyorum, öyleyse varım) sözlerinin sahibi Fransız filozof René Descartes’ı duymuşsunuzdur. Ama Descartes’ın robot kızı Francine hakkında pek bir şey işitmemiş olabilirsiniz. Doğumu ve tüyler ürperten ölümü başlı başına bir hikâye olsa da bu tarihsel gezinti, zamanımızla da yakından bağlantılı. Yapay zekâ ve robotik üzerine çalışanlar için Francine’in hikâyesi, söz konusu akademik disiplinlerin en tartışmalı problemlerinden biri üzerine düşünme imkânı sağlıyor: Yapay zekâ ve robotlar ne derece insan gibi olmalı?
René Descartes ve Hollandalı bir hizmetçinin kanlı-canlı (ama gayri meşru) kızı olan Francine Descartes 1635 yılında doğdu. Görünüşe bakılırsa Descartes onları öylesine seviyordu ki, bütün gelenekleri çiğnedi ve onlarla birlikte yaşamaya başladı. Ne var ki tam da beş yaşındaki Francine’i düzgün bir eğitim alması için Fransa’ya göndermeye hazırlanırken küçük kız kızıl hastalığına yakalandı ve öldü. Bu noktadan sonra işler yavaş yavaş tuhaflaşmaya başladı.
Francine Descartes’ın kısa süre varlığı tümüyle doğrulanmıştır ama kat’i bir biçimde belgelenmeyen bazı hususlara ve yaygın olarak tekrar edilen bazı söylencelere inanıyorsanız hikâye burada bitmez. Batı felsefesinin temel prensiplerinden birini ortaya koyan Descartes, aynı zamanda yaptığı karmaşık otomatonlarla da ünlüydü – saat mekanizmasıyla çalışan oyuncak bebekleri ve mekanik yaratımları severdi. Francine öldüğünde öylesine üzüldü ki, onun mekanik bir kopyasını yapmaya karar verdi.
Ayrıtılar arasındaki farklılıklara rağmen bu konuyla ilgili anlatıların büyük bir kısmı Descartes’ın robot Francine’i seyahat ettiği her yere götürdüğü noktasında hemfikirdir. Francine, Descartes’ın yatağının yanında, bir tür kutu içinde “uyurdu.”
İsveç Kraliçesi Christina 1646 yılında Descartes’ı kendi topraklarına çağırdı ve onu alması için bir gemi gönderdi. Kutu, her zaman olduğu gibi Descartes’ın yanındaydı. Geceleri kamarasında kutuyu açıyor, robotu çıkarıp kuruyor ve onunla konuşuyordu.
Sonrasında olup bitenler rivayetten rivayete değişiklik gösterse de çoğu geminin fırtınaya yakalandığı ve Descartes’in geceleri tek başına konuştuğunu işiten mürettebatın, batıl inançlarının da etkisiyle ürktüğü fikrinde birleşiyor. Bir nevi büyücülükten şüphelenen kaptan ya da mürettebat Descartes’ın kamarasına girer, kutuyu açar ve gördükleri şey karşısında dehşete kapılırlar. (Hatta bazı anlatılarda Francine’in kendi iradesiyle ayağa kalktığı yazılıdır ama böylesi bir olasılık en saf zihinleri bile fazlasıyla zorlar.)
Her halükârda mürettebat Francine’i güverteye çıkarır ve parçalara ayırıp denize atar. (Missouri-St. Louis Üniversitesi’nden Minsoo Kang’ın ortaya çıkardığı “muallak” bir anlatıysa otomatonu denize atanın kaptan olduğunu belirtir. Kaptan Francine’i denize atmıştır çünkü hani neredeyse “ruhu olan bir kadın gibi yeterince iyi çalışıyordu – yani daha fazlası değil.” ) Hikâye bu şekilde devam eder ve kızını ikinci kez kaybeden Descartes’ın yaşadığı acıya katlanamayıp kısa süre sonra ölmesiyle nihayete erer.
Aktarılan rivayetler her ne kadar tutarsız ve şüpheli olsa da bu hikâyenin bileşenleri 1800’lü yıllarda bir araya gelmiş ve Kang’ın belirttiğine göre 1900’lü yıllardan itibaren önce tarih, felsefe, psikoloji ve matematik daha sonraysa robotik, sibernetik ve edebiyat eleştirisi gibi farklı disiplinlerin ilgisini çekmiştir. “Psikologlara göre,” diye yazar Kang, “hikâyenin özünde ‘insan gibi davranan ruhsuz bir beden fikrinin rahatsız ediciliği’ bulunur.” Ve söz konusu fikri “felsefi zombi” olarak tabir eden filozoflarda da benzer bir yaklaşım görülür. Böyle bir yaratığı sopayla dürterseniz hiçbir şey hissetmez ama yine de hissediyormuş gibi davranabilir. Örneğin tepkisel bbir biçimde geri çekilebilir, ağlayabilir ve size, onun canını yaktığınızı söyleyebilir.
17. Yüzyıl’daki teknolojiyi dikkate alırsak Francine’in mürettebattan birini ya da kaptanı kandırabilecek kadar “insan” olması pek mümkün değil. Üstelik Descartes’ın böyle bir derdi yoktu. Ama biz insanların tuhaf bir eğilimi var: öznel ve bilinçli bir bakışın bizi takip ettiğine inanmamıza neden olacak her şeye gerçekmiş gibi yaklaşıyoruz. Robotlardan tutun da alelade ticari metalara kadar her şeye insani nitelikler atfetmek, insan biçimi vermek gibi bir eğilime sahibiz. Ve bu eğilim büyük ölçüde istismara açık. Örneğin bazı insanlar seks robotlarına ciddi ciddi âşık oluyor. Bu kadar uç olmasa da, Amazon’un gözetim mikrofonu Alexa’ya “teşekkür ederim” ya da “lütfen” demek de benzer bir tutum.
Bu nesnelerin ruhu olduğuna inanmaya hazırız. En ufak bir dokunuş bizi bu tarz bir düşünceye götürmeye yetiyor. Teknolojiyse robotları ve yapay zekâyı ikna edici kılmakta giderek daha iyi hale geliyor. Peki durmalı mıyız?
Olası yanlışları ya da yanılgıları sıralamak için başlı başına bir kitap yazmak gerekecektir ama bu konu üzerinde çalışan düşünür ve akademisyenler, benim Francine ya da Sophia Problemi olarak adlandırdığım, kısmen de olsa tedirgin edici iki sonuç tespit ettiler.
Francine sorunu, bir otomatondan ayrılmaya tahammül edemediğinizde ortaya çıkıyor – teknoloji şirketleri bu tarz hilelerle bizi kendi üretimlerine bağımlı kılarak kırılgan duygularımızdan faydalanma yolunu seçebilirler. Bu problemi şöyle özetleyebiliriz: robotlar, sahip oldukları insani niteliklerle insanları yeterince insan olduklarına inandırırlarsa ne olur? Öte yandan robotların sahip olduğu bu insani nitelikler, insanların, diğer insanların insanlığından şüphe etmesine yol açarsa? Öznel bir benlik olduğunuzun ve dünyayı bu şekilde algıladığınızın farkındasınız – peki diğer insanların da sizin gibi olduğunu nereden biliyorsunuz? Ya etrafınızda dolaşanların çoğu ruhsuz zombilerse?
Dünyayı bir olgu olarak felsefi zombi olduğunu bildiğimiz – ama yine de düşünen ve hisseden varlıkların sahip olduğu geleneksel niteliklerin tamamına sahipmiş gibi görünen – yaratıklarla doldurmak, diğer insanları kendimizden daha az insan olarak görmemizi kolaylaştırabilir mi?
Suudi Arabistan’ın vatandaşlık verdiği Sophia, belki de dünya üzerindeki en provakatif robotlardan biri çünkü Suudi Arabistan kadın nüfusuna insan haklarının bir kısmından faydalanabileceğini söyleyen bir ülke. Bu da insanın aklına Francine’in hikâyesindeki kaptanı, kaptanın şu sözlerini getiriyor: “ruhu olan bir kadın gibi yeterince iyi çalışıyordu – yani daha fazlası değil”
İnsanların yapay zekâ ve robotlar konusunda gösterdiği hassasiyetin temelinde aslında bu tarz problemler yatıyor. Teknoloji üreticilerinin ticari menfaatlerle geliştirdiği bu insan olmayan nesne grupları insana özgü haklardan faydalanabilir mi yoksa faydalanamaz mı? Bu soruyu tartışması gereken disiplinlerin çokluğuna bakılırsa uzun bir süre yanıtlanması mümkün değil gibi. Tabii olur da robotların bilinci bir şekilde insan bilincinin seviyesini yakalarsa o zaman işler değişir. Nitekim bunu başarmaları halinde Sophia ve Francine etraftaki bütün zalimlerin işini bitirmekte tereddüt etmeyecektir. Zombi olmayabilirler ama ne de olsa vücutları metalden yapılma. İşte buna da Blade Runner Problemi adını verebiliriz.
Çeviren: Fulya Kılınçarslan
(The Last Word on Nothing)
