Asimov'un Müthiş Yapay Zeka Öngörüsü: Kürek Mahkumu
Yıllar önce aldığım ve uzun zamandır yatağımın başucunda duran Asimov'un "The Rest of the Robots" adlı kitabını sonunda bitirdim. Hikayelerin hepsi birbirinden güzeldi ama özellikle sonuncu hikaye olan Kürek Mahkumu şok etkisi yarattı.
Isaac Asimov'un Robot serisini ve Üç Robot Yasası'nı duymayan kalmamıştır herhalde. Bahsedeceğim Kürek Mahkumu hikayesi de bu serinin bir parçası ve 1957 yılında yayımlanmış. Evet tam 68 yıl önce, robotları bırakın bilgisayarların bile hesap makinesinden hallice olduğu yıllardan.
Önce dilerseniz o üç yasayı bir hatırlayalım:
Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumak zorundadır.
Hikayenin ismi Asimov'un dehasını yüzümüze çarpan ilk nokta oluyor. Hikayenin orijinal ismi Galley Slave, Türkçe'ye Kürek Mahkumu olarak çevrilebilir. Ama galley İnglizce'de birden fazla anlama sahip, bunlardan ilki kadırga, kürek mahkumu buradan geliyor. İkinci anlamı ise dizgi ya da dizgi tablası, ki hikayenin robot karakteri bir üniversiteye dizgi öncesi düzeltmeleri yapmak için kiralanmış. Robot mu mahkum yoksa insanlık mı, yoksa her ikisi de mi? Gelin birlikte inceleyelim.
⚠️Hemen uyarayım, hikayenin sonunu anlatıyorum.
Sürprizi kaçmasın, önce okuyayım derseniz, tıklayın (İngilizce).
❗❗❗
Öykü, robotların insan toplumuna entegrasyonunu ve insan-robot etkileşimlerinin karmaşıklığını ele alır. Olaylar bir mahkeme salonunda ve duruşmalar etrafında anlatılır. 2034 yılında bir sosyoloji profesörü olan Simon Ninheimer'ın U.S. Robots and Mechanical Men şirketini dava etmesiyle başlar. Ninheimer'ın iddiasına göre, Northeastern Üniversitesi'ne dizgici ve düzeltmen olarak kiralanmış olan robot EZ-27 (namı diğer Easy), profesörün yazmış olduğu kitabın içeriğini değiştirmiştir. "Uzay Uçuşunda Sosyal Gerilimler ve Çözümleri" başlıklı kitabın EZ-27'nin dizgi nüshalarını kontrol etme ve yazım hatalarını düzeltme görevi esnasında, içeriğini de değiştirdiğini söylemektedir. İddiaya göre sadece yazım hatalarını kontrol etmesi gereken robot, kitaba bir şeyler eklemiş, suçlu diye bir şey olmadığını, asıl suçlunun kolluk kuvvetleri olduğunu araya sıkıştırıvermiştir. Ninheimer bunun robot tarafından kasıtlı yapıldığını, sonucunda mağdur edildiğini savunmakta ve US Robots şirketinden 750bin dolar tazminat istemektedir. Tüm bu yanlışlar neticesinde, profesör hem yeteneksiz gösterilmeye çalışılıp itibarı zedelenmiş, hem de maddi kayba uğramıştır.
U.S. Robots'un Baş Robopsikologu Susan Calvin (bu karakter başka birçok robot hikayesinde de yer alır) robotun böyle bir şeyi nedensiz yapmayacağına inanmaktadır. Robotun kendine söylenen işin dışına çıkmayacağına emindir. EZ-27'nin iddia edilen şekilde hareket etmediğini, ancak Ninheimer'ın robota susması için emir verdiğini düşünmektedir. Robot yasalarının ikinci maddesini uygulayan EZ-27, kendisine öyle talimat verildiği için olanları anlatmıyordur. Ayrıca anlatsa bile, bir robotun vereceği ifadeyi mahkeme kabul etmeyecektir, doğal olarak.
Bunun üzerine, Susan Calvin, başka bir yol izlemeye karar verir. Profesör Ninheimer'ı tanık olarak çağırır, fakat duruşma odasında EZ-27'nin de bulunmasını talep eder. Ninheimer önce robotun duruşma odasında olmasına itiraz eder, sonra kabul etmek zorunda kalır. Calvin, sorduğu dolaylı sorularla profesörü zora düşürmeye çalışmaktadır. Profesör kendisine sorulan sorulara cevap verirken EZ-27 bir köşede sessizce oturur. Robopsikolok Susan Calvin soruları ile profesörün bu davayı kaybederse, akademik hayatının biteceği, maddi ve manevi çok büyük kayıplar yaşayacağını gözler önüne serer.
Bu durumda EZ-27, birinci robot yasası gereği, profesörün zarar görmesini engellemek için ayağa kalkar ve dizgi kalıplarını değiştirdiğini itiraf etmek için söze atılır. Robotlara hiç güvenmeyen profesör ise, robotun kendini ele vereceğini düşünüp, ona susması gerektiğini hatırlatır. Böylece ona susması için emir verdiğini itiraf etmiş olur.
Hikaye Susan Calvin ile Simon Ninheimer arasında geçen ve Asimov'un Yapay Zeka ile ilgili zamanın ötesinde öngörüsünü ortaya koyan şu diyalog ile son bulur:
Ninheimer: "Son 250 senedir makineler insanların yerini alıyor ve el sanatlarını yok ediyor. Örneğin çömlekçilik, kalıplar ve presler yüzünden öldü gitti. Artık biri tasarlıyor ve makineler üretiyor. Ama aslında insanın kile dokunması, elinde yavaş yavaş şekil alması bu yaratıcı sürecin bir parçasıydı."
Calvin: "Ama siz çömlekçi değilsiniz."
Ninheimer: "Ben bir sanatçıyım. Makaleler ve kitaplar tasarlarım. Bu sadece doğru kelimeleri seçip onları doğru sıraya sokmak değildir. Eğer öyle olsa bunda hiç bir haz olmazdı. Bir kitap, yazarın elinde harf harf yoğrulur, sonra dizgicinin elinde basılmadan önceki son haline gelir. Bu şekilde birçok insanın elinden geçer. Sizin robotunuz bunu elimizden alıyor."
Calvin: "Daktilo ve matbaalar da söylediğinizi yaptı. O zaman elle yazmaya mı dönelim?"
Ninheimer: "Daktilo ve matbaalar bir kısmını elimizden aldı evet, ama sizin robotunuz bizi hepten boşa çıkarıyor. Yakında başka robotlar yazmaya, araştırma yapmaya, yazıları kontrol etmeye, hatta sonuçları analiz edip bir yargıya varmaya başlayacaklar. O zaman akademisyene ne iş kalacak? Sadece robota talimat vermek gibi kısır bir eylem. Akademiyi ve bilimi böyle bir cehennemden kurtarmaya çalıştım ben.
Ve bunu tüm akademik kariyerimi ve itibarımı ortaya koyarak yaptım."Calvin: "Başarısızlığa mahkumdun."
Ninheimer: "Denemeye mecburdum (mahkumdum)."
Sonuç
Profesörün itirafıyla dava çözülüyor, ama aslında çok büyük bir soruyu açıkta bırakıyor: robotlar insanlığı özgürleştiriyor mu, yoksa fark etmeden esir mi alıyor?
Asimov’un 68 yıl önce kaleme aldığı bu öykü, bugün yapay zekanın akademiden sanata, hukuktan mühendisliğe kadar her alanda kendine yer bulduğu bir dünyada ürkütücü bir gerçekliğe dönüşüyor. Ninheimer'ın kaygıları, günümüzün en büyük tartışmalarından biri haline geliyor: bir akademisyenin sadece bilgi üretmekle kalmayıp, sürecin kendisine dokunması gerektiğini savunuyor. Oysa Robopsikolog Calvin’in bakış açısı net: Teknoloji ilerler, insan uyum sağlar. Ama öykü, bu tartışmayı kesin bir kazanan olmadan bitiriyor.
Susan Calvin aslında çok çarpıcı bir yanıt veriyor: "Başarısızlığa mahkumdun."
İnsanlık olarak geliştirdiğimiz teknolojilere ve sistemlere mahkum muyuz?
Yapay Zeka ve robotlara karşı başarısızlığımız engellenez mi?
Yoksa süper gücümüz olan adaptasyon ile bunun da üstesinden gelebilecek miyiz?
Sonunu anlattım ama yine de hikayeyi okumak isterseniz (İngilizce): https://archive.org/details/galaxymagazine-1957-12/page/n9/mode/2up?view=theater
Not: Yuval Harari de son kitabı Neksus'ta yapay zekanın insanlığı çıkmaza sürükleyen yükselişini inceliyor. Eğer okumadıysanız, şiddetle tavsiye ederim.
Yazının orijinali 24 Şubat 2025 tarihinde 21. Yüzyıl Lideri sitesinde “Asimov’un Müthiş Yapay Zeka Öngörüsü: Kürek Mahkumu” başlığı ile yayınlanmıştır.
Ateşin bulunması gibi her şeyin başlangıcı olan bir çağa kapı açan ve geri döndürülemez bir buluş gibi hissediyorum