MAKİNEYE KARŞI ÖFKE

Alva Noë

Bilgisayarlar aslına bakılırsa hiçbir şey yapmazlar.[1] Yazmazlar, oyun oynamazlar; hatta bilgi bile saymazlar. Bu, bilgisayarlarla oynayamayacağımız ya da onları icat etmek, üretmek ya da sorun çözmek için kullanamayacağımız anlamına gelmiyor. Yeni yapay zekâ, sanatta ve bilimde, endüstride ve savaşta çalışma ve üretme yöntemlerini beklenmedik bir şekilde yeniden şekillendiriyor. Bu yeni teknolojinin dönüştürücü vaatlerini ve tehlikelerini kabullenmemiz gerekiyor. Ancak bunu makine zihinleri hakkındaki sahte iddialara boyun eğmeden yapmak mümkün olmalı.

Kendi icadımız olan bu cihazların gerçekten anlayabileceği, düşünebileceği ve hissedebileceği ya da şimdi değilse bile daha sonra bir gün yapay gözlerini açarak nihayet kendilerine ait parlak bir dünyayı görebilecekleri düşüncesini ciddiye almamıza sebep ne olabilir? Sebeplerden biri ilk akla geldiği hâliyle, artık serbest bırakılmış yapay zekânın kontrolümüz dışında olduğu hissiyatı olabilir. Hızlı, mikroskobik, dağıtık ve astronomik derecede karmaşık olan bu teknolojiyi anlamak zor, üzerimizde bir güce sahip olduğunu hayal etmek ise çok cazip.

Gelgelelim bu yeni bir şey değil. Teknolojinin tarih öncesinden günümüze uzanan hikâyesi, her zaman kendi yaptığımız araçlar ve sistemler tarafından yönlendirilmemizle alakalı olmuştur. Yürüyerek oluşturduğumuz patikaları düşünün. Her alete karşılık gelen bir alışkanlık, yani otomatikleşmiş bir hareket ve var olma biçimi vardır. Basit kurşun kalemden matbaaya ve internete kadar, insan failliğimiz kısmen, yapabileceklerimizi dönüştüren ve böylece bizi yönetiyor ve kontrol ediyor gibi görünen ya da tehdit eden sosyal ve teknolojik manzaraların yaratılmasıyla gerçekleştirilir.

Yine de araç kullanımı ve teknoloji aracılığıyla dünyalarımızın kültürel dönüşümüyle kendimizi yaratma ve yeniden şekillendirme yollarımızı anlamak başka; kendi ellerimizle kullandığımız dilsiz maddeyi gizemli hâle getirmek başka bir şeydir. Kalemlerin, ayakkabıların, çakmakların, haritaların ya da hesap makinelerinin çevresinde bir zekâ varsa, bu zekâ onları kullananların ve icat edenlerin zekâsıdır. Dijital olan için de durum aynıdır.

Aklı, kendi icadımız olan aygıtlara teslim etme dürtümüzün başka bir kaynağı daha var. Nitekim burada odaklandığım konu da bu: Bazı bilim insanlarının, insan ve hayvan bilişsel yaşamını fazlasıyla basitleştirilmiş formel olarak tanımlanabilecek bir şey olarak kabul etme eğilimi. Bu bilim insanları, insan faaliyeti, becerisi ve bilişsel başarısına ilişkin tek taraflı, hatta bayağı kavramlara kontrolsüz bir şekilde bel bağlamaktadırlar. Edmund Husserl’in bir ifadesini kullanırsak, iş başındaki zihnin bu zayıf cisimsiz hâlinin el altından ikame edilmesi -sizi Alan Turing’e ve yapay zekânın kökenlerine kadar uzandığına ikna etmeyi umduğum bir ikamedir bu- hokkabazlık numarasındaki belirleyici hamledir.

Bilim insanlarının unutmuş göründüğü şey, insan hayvanının bir huzursuzluk yaratığı olduğudur. Ya da yirminci yüzyılın ortalarında yaşamış biyoloji filozofu Hans Jonas’ın yazdığı üzere, “Huzursuzluk, bir dünyaya sahip olmanın mikrobu ve adeta atomudur…” Tabiri caizse, ayakkabımızın içinde her zaman bir çakıl taşı vardır. Bizi harekete geçiren, döndüren, kendimize yeniden yön vermemizi, işleri farklı şekilde yapmamızı ve böylece devam etmemizi sağlayan şey de budur. Endişemizin kaynağı rahatsızlık ve yönelim bozukluğudur. Rahatsızlığın olmadığı yerde hiçbir şey yok demektir: Dil yok, oyun yok, hedef yok, görev yok, dünya yok, ilgi yok ve dolayısıyla, evet, bilinç yok.

Makineler düşünebilir mi? Turing bunu “tartışmayı hak etmeyecek kadar anlamsız” bularak reddetti. Düşünebilen bir makine yapmaya çalışmak yerine, bir düşünürün makul bir ikamesi sayılabilecek bir makine tasarlamakla yetindi. Turing’in çalışmalarının her yerinde taklit, değiştirme ve ikame üzerine odaklanılır.

Turing’in matematiğe yaptığı katkıyı düşünün. Turing makinesi, enformel hesaplama fikrinin, yani, bazı problemlerin bir reçete veya algoritma izlenerek “mekanik” olarak çözülebileceği fikrinin formel bir modelidir (Kalanlı bölme işlemini düşünün.). Turing, bu bilindik kavramı kendi daha kesin analoğu ile değiştirmemizi önerdi. Belirli bir fonksiyonun Turing tarafından hesaplanabilir olup olmadığı matematiksel bir sorudur ve Turing bu soruyu kesin bir şekilde yanıtlamak için gerekli formel araçları sağlamıştır. Gelgelelim Turing hesaplanabilirliğinin, sezgisel olarak anladığımız şekliyle hesaplamanın özünü kavramaya hizmet edip etmediğine ve bu nedenle bu değişimi yapmanın iyi bir fikir olup olmadığına bir cevap sunmamıştır, zaten bunlar matematiğin çözebileceği sorular değildir. Gerçekten de, büyük olasılıkla “tartışmayı hak etmeyecek kadar anlamsız” oldukları için, Turing bunları filozoflara bırakmıştır.

Aynı felsefe karşıtı ruhla Turing, anlamsız “Makineler düşünebilir mi?” sorusunun yerine deneysel olarak çözümlenebilir “Makineler Turing testini [böyle isimlendirilip anılmaya başlanmıştır] geçebilir mi?” sorusunu önermiştir. Bu öneriyi anlamak için Turing’in Taklit Oyunu adını verdiği teste bakmamız gerekiyor.

Oyun üç oyuncu tarafından oynanacaktır: Bir erkek, bir kadın ve cinsiyeti önemli olmayan bir kişi. Her birinin ayrı bir görevi vardır. Cinsiyeti belirtilmeyen oyuncu, yani sorgucu, diğer ikisinden hangisinin erkek, hangisinin kadın olduğunu bulmakla görevlidir. Kadının görevi sorgucunun müttefiki olarak hizmet etmek; erkeğin görevi ise sorgucunun yanlış teşhis yapmasına neden olmaktır.

Bu eğlenceli bir yetişkin eğlencesi olabilir, ancak Turing bunun çok kolay olacağından korkuyordu. Cinsiyet deneylerinin sıradanlaştığı günümüzde bile, çoğu durumda insanları yüzeysel görünümlerine bakarak cinsiyetlerine göre ayırmak o kadar da zor olmayacaktır. Bu nedenle Turing, sorgucuyu bir odada izole etmeyi ve diğerlerine erişimini sadece soru sormakla sınırlandırmayı önerdi. Ayrıca şunu da ekledi: “Ses tonunun sorgucuya yardımcı olmaması için cevaplar yazılı olmalı, ya da en iyisi daktilo ile yazılmalıdır. İdeal düzenleme, iki oda arasında iletişim kuran bir yazıcının bulunmasıdır.”

Peki Taklit Oyunu bize makine zekâsı hakkında ne öğretiyor? İşte Turing’in söyledikleri:

Şimdi şu soruyu soruyoruz: “Bu oyunda [erkek] rolünü bir makine aldığında ne olacak? Sorgucu, oyun bu şekilde oynandığında, oyun bir erkek ve bir kadın arasında oynandığında olduğu kadar sık yanlış karar verecek mi? Bu sorular bizim ilk baştaki “Makineler düşünebilir mi?” sorumuzun yerini almaktadır.

Sorgucunun amacı bilgisayarı saf dışı bırakmak değildir; insan oyuncuların şu ya da bu cinsiyete sahip olduğunu ortaya çıkarmaktır. Ancak Turing’in ve oyunun amacı, oyunculardan birinin yerine bir makine koymanın sorgucunun başarı oranı üzerinde herhangi bir etkisi olup olmadığını araştırmaktır. İşte bu son soru, yani sonuçlar üzerinde bir etkisi olup olmadığı sorusu, Turing tarafından makinelerin düşünüp düşünemeyeceği gibi “anlamsız” bir soruya alternatif olarak önerilmiştir.

Turing, düşünmenin ne olduğunu tartışmak yerine, makinelerin anlamlı insan ilişkilerine girebilecekleri ve katılabilecekleri bir senaryo öngörmektedir. Bunu yapabilmeleri, düşünebildiklerini ya da hissedebildiklerini, bizim zihinlerimiz gibi zihinleri olduğunu ortaya koyar mı? Turing’e göre bunlar tam da sorulacak yanlış sorulardır. Söylediği şey, makinelerin oyunda daha iyi olacağıdır ve bir tahminde bulunacak kadar ileri gitmiştir: “Yüzyılın sonunda -1950’de yazıyordu- genel eğitimli görüş o kadar değişmiş olacak ki, bir kişi çelişkiye düşmeyi beklemeden düşünen makinelerden bahsedebilecektir.”

Turing’in felsefeye karşı görünürdeki düşmanlığına rağmen, onu kritik bir felsefi kavrayışı yakalamış olarak görmek mümkündür. Sıradan insan ilişkilerimizde bu işlevi yerine getirmezken, neden kanıtların bizim için makinelerin zihinlerini güvence altına almasını bekleyelim? Hiçbirimiz hayatımızda etrafımızdaki insanların gerçekten düşündüğünü ya da hissettiğini bulmuş ya da kanıtlamış değiliz. Bunu sadece doğal kabul ediyoruz. İşte bu gözlem, makinelerin düşünebildiğini kanıtlamaktan ziyade, onları hayatımıza entegre ederek sorunun ortadan kalkmasını ya da kendi kendini yanıtlamasını sağlamak yönündeki kendi görev anlayışını güdülüyor.

Bununla birlikte Turing’in bütün değiştirme ve ikamelerinin göründükleri kadar basit olmadıkları ortaya çıkmıştır. Bazıları düpedüz yanıltıcıdır.

İlk olarak, Turing’in konuşmanın yerine yazılı mesajların kullanılması önermesini ele alalım. Bunun oyunu zorlaştırmak için olduğunu öne sürüyor. Fakat konuşma yerine metnin ikame edilmesinin tamamen farklı bir etkisi vardır: Makinelerin oyuna katılabileceği yönündeki aksi hâlde saçma olan öneriye bir nebze olsun inandırıcılık kazandırmak. Bunu anlamak için, bir Turing makinesinin, matematikte biçimsel sistem olarak adlandırılan şey olduğunu hatırlayın. Biçimsel bir sistemde, sonlu bir alfabe ve alfabenin öğelerini daha karmaşık ifadeler hâlinde birleştirmek için sonlu bir kurallar dizisi vardır. Sistemi biçimsel yapan şey, kelime dağarcığının yalnızca fiziksel özellikler açısından belirtilmesi ve kuralların yalnızca bu fiziksel, yani biçimsel özellikler açısından çerçevelenmesi gerektiğidir. İşin önemli noktası buradadır: Girdileri ve çıktıları, yani kelime dağarcığını formel olarak belirtmediğiniz sürece bir Turing makinesi ya da Turing tarafından hesaplanabilir bir fonksiyon tanımlayamazsınız.

Daha da önemlisi, sıradan insan dilinin girdilerini ve çıktılarını formel olarak belirlemek mümkün değildir. Konuşma, her zaman başkalarıyla birlikte, bağlam içinde ve ihtiyaçların, duyguların, arzuların, projelerin, hedeflerin ve kısıtlamaların arka planında ortaya çıkan sıcak, nefes nefese bir harekettir. Konuşma aktiftir, hissedilir ve doğaçlamadır. Metin mesajlaşmasından ziyade dans etmekle ortak yönleri vardır. Bugünlerde klavyenin rejimi altında o denli rahat hissediyoruz ki, metnin dilin bedensel gerçekliğini nasıl gizlediğini fark etmiyoruz bile.

Konuşma formel olarak belirlenebilir olmasa da metin -metinsel mesajlaşma bağlamında- belirlenebilirdir. Dolayısıyla metin, karşılıklı gerçek insan konuşması için hesaplama açısından izlenebilir bir araç olarak hizmet edebilir. Turing, oyunu zorlaştırmak adına oyuncular arasındaki bütün iletişimi klavye üzerinden filtreleyerek aslında -ve bu gerçekten bir kurnazlıktır- filozof Ned Block’un girdiler ve çıktılar sorunu olarak adlandırdığı şeyi halının altına süpürür.

Ancak Turing’in argümanındaki tek kurnazlık konuşma yerine metin-mesajın ikame edilmesi değildir. Diğeri daha da gizlice devreye sokulmuştur. Bu, anlamlı insani konuşmanın yerine zımnen oyunların ikame edilmesidir. Gerçekten de hayatın oyunlaştırılması Turing’in en güvenli ve en rahatsız edici miraslarından biridir.

Sorun, Turing’in oyunların ne olduğuna dair kısmi ve çarpıtılmış bir anlayışı kabul etmesidir. Hesaplama perspektifinden bakıldığında, oyunlar -gerçekten de biçimsel olarak izlenebilir olmaları için öyle olmalıdırlar- anlaşılabilirliğin kristal yapıları, kuralların yapabileceklerinizi kısıtladığı ve problemsiz değerlerin (puanlar, hedefler, skor) ve yerleşmiş başarı ve başarısızlık kriterlerinin (kazanma ve kaybetme) açıkça belirtildiği sanal dünyalardır.

Ancak açıklık, düzenlilik ve şeffaflık bize oyunun ne olduğunun yalnızca bir yönünü verir. Her nasılsa Turing ve halefleri oyunların aynı zamanda birer yarışma olduğunu unutmaya meyillidirler; bunlar birer kanıtlama alanıdır ve test edilen, sınırlılıkları açığa çıkan ya da güçlerinin yanı sıra zaafları da oyun alanında veya dört duvar arasında sergilenen bizleriz. Rekabetçi satranç oynayan bir çocuk, midesi bulanacak kadar aşırı kaygı duyabilir. Bu içgüdüsel dışavurum tesadüfi bir epifenomen, oyun için temel değeri olmayan bir dışsal unsur değildir. Hayır, kusmanın olmadığı oyunlar –ya da en azından bu olasılığın canlı olduğu oyunlar– insan oyunu olarak kabul edilemez.

Bütün bunlar, gerçek oyunların, Turing’in yaptığı gibi, onları klavye rejiminin merceğinden gördüğümüzde göründüklerinden çok daha fazlası olduğunu söylemek içindir. (Bu, oyunun bazı yönlerini hesaplamalı biçimde faydalı bir şekilde modelleyebileceğimizi ve yaptığımızı inkâr etmek anlamına gelmez).

Buradaki en kritik sonuç şudur: İnsanlar, en azından başarılı olduklarında, eylemleri kurallara veya normlara uygun olan failler (örneğin, oyun oyuncuları) değildir. Bizler, faaliyetleri her zaman (en azından potansiyel olarak) çatışma alanı olan failleriz. İkinci dereceden düşünme ve eleştiri eylemleri birinci dereceden performansın kendisine aittir. Bunlar iç içe geçmiştir ve bunun sonucu olarak, faaliyetin kendisinin saf uygulamasından, faaliyetin meydan okuduğu, geciktirdiği, engellediği ve karıştırdığı bütün yolları asla hesaba katamazsınız. Örneğin diğer bir klavye teknolojisi olan piyano çalmak makine ile savaşmaktır, ona karşı mücadele etmektir.

Açıklamama müsaade edin: Piyano, belirli bir müzik kültürünün ve onun değerlerinin inşası ve detaylandırılmasıdır. Müzikal olarak okunabilir, anlaşılabilir, kabul edilebilir ve mümkün olana dair bir kavrayış yerleştirir. Yaklaşık 12.000 parça ahşap, çelik, keçe ve telden oluşan bir mekanizma olan piyano, tonların tuş vuruşlarının eseri olduğu ve aralıkların, gamların ve armonik ihtimallerin makinenin tasarımı ve üretimi tarafından kontrol edildiği yarı-dijital bir sistemdir.

Piyano elbette icat edilmiş bir şeydir, ama sizin ya da benim tarafımdan değil. Biz onunla karşı karşıya geliyoruz. O bizden önce vardır ve teslimiyetimizi talep eder. Çalmayı öğrenmek, kişinin duruşunu, ellerini, parmaklarını, bacaklarını ve ayaklarını piyanonun mekanik gerekliliklerine uyarlaması için değiştirilmesidir. Piyano klavyesinin rejimi altında, bizden piyano çalar hâle gelmemiz, yani makinenin uzantıları olmamız talep edilir.

Ama yapamayız. Ve yapamayacağız da. Çalmayı öğrenmek, makineyi kullanmak, bizim için, mücadele etmek demektir. Enstrümanın taleplerinde ustalaşmak zordur.

Bu gerçek, yani klavyenin ısrarı karşısında karşılaştığımız zorluk üretkendir. Bundan sanat çıkarıyoruz. Bu durum bizi piyano çalan birisi olmaktan alıkoyar ama piyano çalan biri olmak istiyorsak tam da bunu yapmamız gerekir.

Çünkü müzikal icadın hammaddesini sağlayan, oyuncunun makineyle ve makinenin dayattığı tarih ve gelenekle olan gerilimli ilişkisidir. Müzik ve oyun bu dolaşıklık içinde cereyan eder. Sadece bir insanın yapabileceği üzere piyanoda ustalaşmak, sadece makinenin taleplerine uymak değildir. Aksine, karşı koymak, hayır demek, makineye öfke duymaktır. Böylece, örneğin, tokat atar, vurur ve bağırırız. Bu şekilde piyano yalnızca bir alışkanlık ve kontrol aracı, bir mekanizma değildir, daha ziyade bir eylem ve ifade fırsatı hâline gelir.

Tıpkı piyanoda olduğu gibi, insanın kültürel yaşamının tamamında da bu böyledir. İktidar ve direniş arasındaki dolaşıklık içinde yaşıyoruz. Karşı koyuyoruz. Dili düşünün. Kurallara körü körüne uyarak, olduğu gibi konuşmayız. Konuşmak bizim için bir meseledir ve kurallar, mevcut hâlleriyle, tartışmaya açıktır. Her zaman, kaçınılmaz olarak ve en başından itibaren, konuşmanın ne kadar zor olduğu, birbirimizi yanlış anlamaya ne kadar yatkın olduğumuzla başa çıkmaya zorlanırız, ancak çoğu zaman bu, gerçekçi bir şekilde ve gereksiz baskı olmadan üstlenilir. Konuşmak, neredeyse kaçınılmaz olarak, kelime seçimini sorgulamak, yeniden formüle etmeyi, tekrarlamayı ve düzeltmeyi talep etmektir. Ne demek istiyorsun? Bunu nasıl söylersin? Böylece konuşma, en başından itibaren ve temel biçimlerinden biri olarak, içerisinde konuşma biçimimizi değiştiren eleştiri ve konuşma üzerine düşünme faaliyetlerini barındırır. Sadece akış içinde hareket etmeyiz. Akış bizden kaçar ve onun yerine çabalamayı, tartışmayı ve müzakereyi biliriz. Dolayısıyla dili kullanırken dili değiştiririz ve dil budur, bir yakalama ve bırakma, katılım ve eleştiri yeri, bir süreç. Makinelerin etkili bir şekilde taklit etmek için kullanıldığı türden salt eylemi, beceriyi, alışkanlığı, bu eylemlerin, angajmanların ve becerilerin bizim onları yapma edimlerimiz aracılığıyla yeni hale getirilme, dönüştürülme biçimlerinden asla ayıramayız. Bunlar birbirine dolanmıştır. Bu, insan bilişinin şekli hakkında çok önemli bir derstir.

Dili, piyanoyu ve oyunları göz önünde tutarsak ve benim iç içe geçme olarak adlandırdığım şeyi gözden kaçırmazsak -devam etmenin ne kadar zor olduğu ile başa çıkmak için gereken her şeyle iç içe geçtiği yollarda devam etmek de denilebilir- o zaman yapa zekâ tartışmasının, düşünmeden, insan becerisi ve bilişsel yaşamının tek taraflı, basitleştirmeyi varsayma eğiliminde olduğu açıkça ortaya çıkar.[2] Sanki konuşmak kuralların doğrudan uygulanmasıymış ya da piyano çalmak sadece kullanma kılavuzunda belirtilenleri yapmaktan ibaretmiş gibi. Ancak dil kullanıcılarının aynı zamanda konuşmanın sorunlarıyla aktif olarak mücadele etmediğini hayal etmek, en fazla dille insan yaşamının kabuğu ya da görüntüsü olan bir şey hayal etmek olacaktır. Aslında bu, makinelerin dilini (büyük dil modelleri vb.) hayal etmek olur.

Açıklayıcı bir gerçek şudur: Bilgisayarlar bizim oyunlarımızı oynamak için kullanılırlar; bizim kaygılarımızın açtığı alanlarda hamleler yapmak üzere tasarlanmışlardır. Kendilerine ait kaygıları yoktur ve yeni oyunlar yaratmazlar. Yeni bir dil icat etmezler.

İngiliz filozof R.G. Collingwood, ressamın resmi icat etmediğine, müzisyenin de kendini içinde bulduğu müzik kültürünü icat etmediğine dikkat çekmiştir. Collingwood’a göre bu, hiç kimsenin tamamen özerk, Tanrı benzeri bir yaratıcılık kaynağı olmadığını göstermeye hizmet ediyordu; bizler her zaman bir dereceye kadar geri dönüşümcüler ve örnekleyicileriz ve en iyi hâlimizle kendimizden daha büyük bir şeyin katılımcılarıyız.

Ancak bu, örneğin Büyük Dil Modellerinin yaptığı şeyi yaparak, yani sadece büyük veri setleri üzerinde eğitilerek ne isek (ressamlar, müzisyenler, konuşmacılar) o olduğumuzu göstermek için algılanmamalıdır. İnsanlar sıfırdan eğitilmez. Deneyim sahibiyiz. Öğreniriz. Bizim için dil öğrenmek, örneğin, “bir sonraki belirteci” üretmeyi öğrenmek demek değildir. Çalışmayı, oynamayı, yemek yemeyi, sevmeyi, flört etmeyi, dans etmeyi, dövüşmeyi, yakarmayı, manipüle etmeyi, pazarlık yapmayı, rol kesmeyi, icat etmeyi ve düşünmeyi öğrenmektir. En önemlisi de, öğrendiklerimizi sadece özümseyip devam etmiyoruz; her zaman direniyoruz. Değerlerimiz her zaman sorunludur. Bizler sadece kelime üreticisi değiliz. Bizler anlam üreticileriyiz.

Bunu yapmaktan kendimizi alamayız; hiçbir bilgisayar bunu yapamaz.

*Prof. Dr., California Üniversitesi, Berkeley, Felsefe Bölümü.

[1] Bu makale AEON’dan alınmıştır. İngilizcesi için bkz. https://aeon.co/essays/can-computers-think-no-they-cant-actually-do-anything

[2] Alva Noë, The Entanglement: How Art and Philosophy Make Us What We Are, Princeton, NJ: Princeton University Press, 2023.