Varoluşsal Bir Tehdit Olarak Yapay Zekâ

Yusuf Nazım
Bizim Çağ Edebiyat | 14 Kasım 2024

“Bahar geldiğinde dağların doruklarında eriyen karların serin suları, yavaş yavaş yamaçlardan aşağıya inmeye başlardı. Berrak ve şeffaf akışıyla doğanın uyanışını müjdeleyen sular, çiçeklerin canlanmaya başladığı bir vadinin derinliklerinde dolanır, kuşların cıvıl cıvıl şarkılarıyla eşlik ettiği bu manzara, adeta bir masal diyarından gelmiş gibi görünürdü.”

Z. Pyyaa

Çocukluğumu, kapalı bir köy ekonomisine sahip Doğu’nun ücra bir köşesinde yaşamıştım. Canlı yaşamının idamesi için sadece insan ve hayvan gücünün kullanıldığı, üretim araçları olarak odundan yapılma araç gereçlerin dışında neredeyse hiçbir demir çelik aletin bulunmadığı bir çağdan çıkmış üniversite sıralarında bilimin ve teknolojinin büyüleyici dünyasına dâhil olmuştum.

1983 yılıydı. Hepi topu bundan 41 yıl öncesi yani… Mikro elektronik hocamızdan bir saç telinin içine, nohut tanesi büyüklüğündeki transistörlerden 20 adet sığdırıldığını, bunun yakında 100’e çıkacağını dinlemiş; dijital elektronik dersinin laboratuvarında 8086 merkezi işlem birimi (CPU) kullanarak ilk ilkel bilgisayarı yapmıştık.

Henüz masa üstü kişisel bilgisayarlar yoktu. İnternet icat edilmemiş, postayla el yazması mektup gönderme çağı sona ermemişti.

Bilgisayarların yükseliş çağı

Çok değil, iki yıl sonra, 1985 yılında işe başladığım şirkette ilk kez masa üstü bilgisayarla karşılaşacak, beş yıl içinde neredeyse kişisel bilgisayarların girmediği şirket kalmayacaktı.

1993’de, 512 KB belleğe sahip arkadaşımın masa üstü bilgisayarına 20 MB’lık disk taktığımızda bu kadar büyük bir disk alanını dolduracak bilgiyi nereden bulacağımıza şaşırıp kalmıştık.

Aynı yıl internet denilen yeni bir icatla tanışacaktık. 1993’te ilk internet bağlantısı ODTÜ-Ankara ile Washington arasında çevirmeli ağ ile (dial-up) sağlanacak, bir yıl sonra şirketlere hizmet vermeye başlanacaktı.

Teknolojinin bu hızlı gelişimi dünyada heyecanla karşılanırken zaten var olan kuşkularım 1995 yılında katıldığım İstanbul’daki bilişim fuarında belirgin bir kaygıya dönüşecekti. Bilgisayar destekli eğitim konusunda sunum yapan akademisyen, bir süre sonra basılı kitapların ortadan kalkacağını söylüyordu. Deniz kenarında, kumsalda uzanacak, kulaklığınızdan istediğiniz romanı sesli olarak dinleyebilecek; hatta bir süre sonra taktığınız üç boyutlu gözlükle aynı romanın filmini izleyebilecektiniz. Çocukların bilgisayarla tanışma yaşı önce altıya, sonra dörde, ardından ikiye düşecekti. Gelen soru üzerine sunucu kadın, yaşamlarının çoğunu bilgisayar karşısında geçiren küçük çocukların annelerine olacak özlemini, bilgisayarın masaüstüne koyacağı yüzünde gülücükler Işıl dayan annesinin sevimli resmi ile giderebileceğini söylemesi, kaygılarımla birlikte öfkemin de doruğa çıktığı an olacaktı.

Bilgisayarlar süratle dünyaya yayılıyordu. Onların beyni sayılan chipler (yonga) (CPU) inanılmaz bir hızla gelişiyor, on yıl önce bir saç teli içine 20 transistöre yerleştirilebiliyorken, 1999 yılında 1cm karelik Pentium III yongasına 9,5 milyon transistör sığdırılabiliyordu. Bu daha fazla güç, daha fazla işlem, daha fazla yetenek demekti ve mevcut İstanbul büyüklüğündeki iki şehrin, bütün yapılarıyla birlikte minyatür olarak, 1 cm karelik bir alana sıkıştırılarak inşa edilmesi anlamına geliyordu.

Ama yine de korkulacak bir şey yoktu. Nasıl ki 18. ve 19. Yüzyıl makinelerin yükseliş çağıydı, 21. yüzyıla ramak kala şimdi de bilgisayarların yükseliş çağı olmalıydı.  Sanayi devriminde makinelerin insanın yerini alırken olduğu gibi, bilgisayarlar da bir yandan çok sayıda çalışanı işinden ederken, öte yandan yepyeni iş kolları üreterek farklı bir şekilde yeni bir çalışan sınıf yaratıyordu. Artık bilgisayarların yükseliş çağı başlamıştı ve adına “bilgi çağı” ya da “bilişim devrimi” deniyordu.

1997 yılında, IBM’in Deep Blue’sunun Dünya Satranç Şampiyonu Garry Kasparov’u yenmesi, bilgisayarların insan zekâsı ile yarıştığı başka bir çağın habercisi gibiydi. Bunu, 2011 yılında IBM Watson bilgisayarının, Jeopardy adlı televizyon yarışması şampiyonları Jennings ve Rutter’i yenmesi, 2016 yılında Google DeepMind AlphaGO’nun, efsane GO oyuncusu Lee Sedol’u ezici biçimde mağlup etmesi izledi. Böylece bilgisayarlar, insana olan üstünlüğünü tartışmasız olarak kabul ettirmiş oluyordu.

Yapay zekânın yükselişi

2 milyon yıl önce ayağa kalkmış, beyni büyümüş ve zekâsını kanıtlamış bir tür olarak insan, başka bir çağa doğru inanılmaz bir hızla ilerlemektedir. Onun son 10 bin yılda, belki de 50 bin yılda kat ettiği gelişmenin daha fazlasını, sadece 50 yılda almasına yol açacak insan zekâsının ürünü olan bir çağ. Hem niteliksel ve niceliksel olduğu kadar, bir o kadar derin, kaygı verici ve düşündürücü…

İnternet gelişerek bütün gezegeni sarmış, her eve, her işyerine girmiş, bütün iş süreçlerinin olmazsa olmazı hale gelmiştir. Bilgisayarlar, insanın olduğu her noktaya ulaştığı yetmezmiş gibi, küçüldükçe küçülmüş, bir cep telefonu büyüklüğünde her insanın eline ulaşmış, değil büyüklerin ve gençlerin, bir yaşındaki çocukların bile oyuncağı haline gelmiştir.

Bilgisayarların işlemci gücü ve hız sınırı bariyerleri birileri yıkılmaktadır. 1983 yılında bir saç kılının kalınlığına 100 transistörü sığdırmayı hayal eden akıl, 2019 yılında içinde 8,5 milyar transistor bulunan tırnak büyüklüğünde yongayı iPhone 11 serisinde kullanmış, aynı yıllarda IBM tek bir yongaya 30 milyar transistörü yerleştireceğini duyururken, Intel 2031 yılında tek bir yogaya 1 trilyon transistör sığdırma planını açıklamıştır.

Bu kadar yüksek ve yoğun bir işlem ile bilgi yükünü taşıyacak internet altyapısı ise karasal ve uzaysal alanda hızlı gelişmektedir. Gezegenin her tarafına yüksek hızda internet erişimi sağlayacak dünyanın çevresindeki Starlink uydularının sayısı Temmuz 2023 itibariyle 4 bin 519’a çıkmıştır. Tamamlandığında sayısı 40.000’e yükselecek bu uydularla kesintisiz ve yüksek hızlı internet gezegenin her noktasına ulaşmış olacaktır.

Gelişme tam anlamıyla baş döndürücüdür. 2017’de Dönüştürücü Ağlar (Transformer Networks) adı verilen ve insan beynindeki nöronların işleyişini taklit eden yapay sinir ağları tanıtılırken, 2018 Haziranında OpenAI tarafından geliştirilen ve çok büyük sayıdaki metin bilgilerini kullanabilen sohbet robotu kullanıma sunulur. Bir bilgisayar ya da cep telefonu üzerinde çalışan, kendi kendini eğitip geliştirme özelliğine sahip robot, insan beyninin ürettiği birçok bilgiyi sağlayabilmekte, insanlarla sohbet ederek onların sorularına kapsamlı yanıtlar verebilmektedir. Yapay sinir ağları üzerinden derin öğrenme tekniklerine dayanan bu yapay zekâ türü, aynı zamanda gelişmiş bir doğal dil işleme yeteneğine sahip olmasıyla dikkat çekecektir. ChatGPT (Chat Generative Pre-trained Transformer) olarak adlandırılan bu yapay zekânın nasıl bir patlamanın habercisi olacağını tahmin etmek zordu.

Haziran 2018’de duyurulan ve 117 milyon parametre, 7000 kitapla eğitilmiş olan GPT-1’i kısa sürede yeni versiyonları takip edecektir. İnsan beynini taklit eden ve yapay sinir ağları üzerinden çok karmaşık ve derin öğrenme tekniklerine dayanarak kendini geliştiren yapay zekâ artık, insan aklının tahtına göz dikmiştir.

Bir yıl sonra, 2019 Kasımında kullanıma sunulan GPT-2’nin tam versiyonu için 8 milyon belge ile 1,75 milyar parametre kullanılmıştır. Yapay zekâ artık durdurulması neredeyse olanaksız bir hızla ilerlemektedir.

Mayıs 2020’de duyurulan GPT-3, verileri işlemesini sağlayan 175 milyar parametreyle 1 yılda 100 kat büyük bir yeteneğe sahip olmuştur.

2023 Martında sunulan GPT-4 yapay zekâsı ise 17 trilyon parametreyle insan aklının hayal edebileceği bütün sınırları aşar. GPT-2’den bu yana geçen 4 yılda 10 bin kat, GPT-1’in çıktığı yıldan sonraki beş yıl içinde ise 145 bin kat büyüme demektir bu.

21. yüzyılın ilk çeyreğinin sonunda artık yeni bir döneme girilmiştir. Makinelerin, insan emeğinin yerine göz koyduğu çağ geride kalmış, elle tutulmayan, gözle görülmeyen, nerede olduğu bilinmeyen başka ve sanal bir makine, insan aklının ve bilişsel yeteneklerinin tahtını ele geçirmeye hazırlanmaktadır. Üstelik tarihte eşi görülmedik bir hızla.     

Yapay zekâ aramızda

Çevirmenlik mesleğini neredeyse yok etmesi, hastalıkların teşhisinde hekimlerin yerine göz koyması, daha şimdiden görüntüleme sonuçlarındaki kusursuz analizleri, üniversitede yapay zekâlı öğretmenlerin, avatarlar ve anime karakterler kullanarak vereceği dersler… Bir süredir Hong Kong Teknoloji Üniversitesi’nde lisans öğrencilerinin fizik dersini Albert Einstein’ın avatarının veriyor olması sadece bir başlangıç.

Yapay zekânın mühendislik alanına el atması hiç de zor gözükmüyor. Sanayi devrimi ile birlikte nasıl fabrika üreten fabrikalar yapıldıysa, şimdi de yapay zekâ çağında yazılım üreten yazılım robotları gündemde. Devin AI adlı yapay zekâ yazılım mühendisi bunun için üretilmiş. Proje tasarlayan, uygulamayı yazan, testleri yapan ve projenin startupını gerçekleştirerek teslim eden bir robot o. Bir grup yazılım mühendisinin ve iş analistinin aylar süren projesinin dakikalar içinde tamamlayan bir süper yazılımcı.

Evrim Ağacı’ndan Dr.Çağrı Mert Bakırcı’nın anlatımına göre, Eylül 2023’te, yani GPT-4’ün çıkmasından sadece 6 ay sonra, Fortune 500 listesindeki 500 dev firmanın % 92’si yapay zekâyı iş süreçlerine dâhil etmişler bile. Bugünse, Şubat 2024’te bu oran %99’a çıkmış durumda. Bu firmalarda, iş görüşmeleri ve işe alım kararlarının çoğu artık yapay zekâ tarafından gerçekleştiriliyor.

Araştırma şirketi McKinsey tarafından yapılan bir çalışmaya göre, 2030 yılına kadar yapay zekâ yazılımları ve robotlar, dünya çapında mevcut insan emeğinin yüzde 30’unun yerini alacak. Dikkatinizi çekmek isterim; sadece altı yıl sonrasından bahsediyoruz. Söz konusu rapora göre; yapay zekâ destekli teknolojiler bu süre içinde 400 ila 800 milyon kişiyi işsiz bırakacak.

14 Mart 2023’de, GPT-4’ün çıkmasından sadece iki ay sonra, Amerika’da Mayıs ayında işlerini yapay zekâ nedeniyle kaybedenlerin oranı %5 olmuştu bile. GPT-4’ün bu halinin, çıkacak yeni nesil yapay zekâlar karşısından bir çocuk oyuncağı gibi kalacağını söyleyen uzmanları göz önüne alırsak durumun vahameti anlaşılacaktır.

Beklentiler, 2024 yılı sonuna kadar, yapay zekâdan kaynaklı olarak her üç işletmeden birinin işçi çıkaracağı yönünde. 

Yapay zekânın gölgesinde edebiyat ve sanat

Yazının başında günümüz usta edebiyatçısı Z.Pyyaa’a ait bir metin paylaştım. Baharda, dağlardaki karların erirken suların aktığı bir vadideki değişimi anlatıyordu:

“Bahar geldiğinde dağların doruklarında eriyen karların serin suları, yavaş yavaş yamaçlardan aşağıya inmeye başlardı. Berrak ve şeffaf akışıyla doğanın uyanışını müjdeleyen sular, çiçeklerin canlanmaya başladığı bir vadinin derinliklerinde dolanır, kuşların cıvıl cıvıl şarkılarıyla eşlik ettiği bu manzara, adeta bir masal diyarından gelmiş gibi görünürdü.”

Günümüzün usta edebiyatçısı dedim ama okurların kimmiş bu edebiyatçı dediğini duyar gibi oluyorum. Aslında metin yazarı çok tanıdık. Yazar adının harfleriyle biraz oynadım. Evet, metin yazarı Z.Yapay, namı diğer Yapay Zekâ. Metin ise, telefonuma kurduğum ChatGPT yapay zekâsının bir ürünü. Üstelik henüz emekleme aşamasındaki GPT-3’ün eğitilmemiş, en ilkel hali. Ondan istediğim betimlemeyi böyle yazdı. Daha karmaşık ve imgesel olanı yazdırmak da olası. Yeter ki ne istediğinizi iyi anlatalım; her türlü metni ya da hikâyeyi üretecek şekilde tasarlanmış. Geçen yıl üretilmiş ve 175 milyar parametreli, insan belleğinin katbekat üzerinde bir kapasiteye sahip bir yapay zekâ ürünü. 17 trilyon parametreli GPT-4’den dörtten hiç bahsetmiyorum bile.

Sora: Metinden videoya yapay zekâ

GPT-4’den bahsedersek, bu sefer yukarıda anlatılan imgesel metni bir video olarak tasarlayan Sora’ya bakmalıyız.

ChatGPT4’ün 2023’deki ilk duyurusunda üretilen komik, amatör videolar yerini dokuz ay sonra gerçeğinden çok zor ayırt edilebilecek yapay zekâ videolarına bıraktı bile. Artık filmlerde rol alacak sayısız figürana, tehlikeli sahnelerde oynayacak dublörlere, kurulacak devasa film platolarına, pahalı kameralara, ses ve müzik sistemlerine, dronlara gerek yok. Kostümlere, makyajlara, mekânsal zenginlik için dünyanın değişik yerlerine gitmek için kiralanan uçaklara, buralarda yapılan pahalı çekimlere de… Artık Sora var. GPT-4’ün çıkmasından 11 ay sonra, Şubat 2024’de OpenAI tarafından duyurulan Sora tüm bu işleri yapabiliyor. Üstelik o henüz bir bebek! Emekleyecek, daha çok öğrenecek, ayağa kalkacak, koşacak… Emekleme döneminde iken Sora, film yapımcıları, sanatçılar, reklam ajansları ve müzisyenler tarafından kullanılmaya başlandı bile. Şimdilik sadece onlara açık ve üretilen içerikler yayınlanmaya başladı. Dördüncü nesil yapay zekânın duyurulmasından sadece 11 ay sonra gelinen bu nokta düşündürücü olsa gerek.

Aslında, yazılı metinleri videoya dönüştüren Sora’dan önce, başka bir yapay zekâ uygulaması müzik alanına taarruza geçmişti. Söz konusu yapay zekâ atağı, Suno adıyla seslerin, notaların ve enstrümanların arasına süratle dalmıştı.

Şarkı sözü mü yazmak istiyorsunuz? Beste mi yapmak istiyorsunuz? Şarkıya bir isim verip albüm kapağı mı oluşturmak istiyorsunuz? Microsoft’un ortaklığında oluşturulan Suno AI, kısaca Suno, bu işi yapmak için Aralık 2023’te kullanıma sunulmuştu. O, dilediğiniz şekilde vokalleri ve enstrümanları bir araya getirip şarkılar oluşturmak için tasarlanmış üretken bir yapay zekâ uygulaması. Akla ziyan, piyasayla buluşması sadece dört ay olmuş. GPT-4’ün Mart 2023’te çıktığı düşünülürse, bundan sadece dokuz ay sonrası yani... Kaygı verici bir hıza işaret etmiyor mu bu?

Bu gidişle yapay zekânın edebiyat ve sanat alanını ele geçirmesi çok uzun sürmeyeceğe benziyor. Söz konusu işgal çevirmenlik, metin yazarlığı, editörlük, çocuk masalları ve hikâye anlatıcılığından başlayıp; karikatür, soyut resim, canlandırma tablolar, ressamlık ve heykeltıraşlıktan devam ederek kısa film, film platosu oluşturma, animasyon-karakter tasarımı, her türden metin tabanlı video üretimi ve roman yazarlığı ile devam edeceğe benziyor.

Felsefeci ve fizikçilerin yapay zekâ tartışması

Öte yandan yapay zekânın bu benzersiz gelişmesi ve oluşturduğu varoluşsal riskler üzerine felsefeciler ve fizikçiler arasında tartışmalar sürüyor.

2018 yılında kaybettiğimiz fizik dehası Stephan Hawking, ölümünden dört yıl önce yapay zekâ üzerine yaptığı uyarıda yapay zekânın olası tehlikelerine değinmişti. Onunkisi basit ve rastlantısal bir tahmin miydi, yoksa bir fizik profesörünün kuvvetli bilimsel önsezisi miydi? İngiliz fizik profesörü olan Hawking, genel görelilik ve karadelikler üzerine araştırmalarıyla ün yapmış, fizik alanında Albert Einstein’dan sonra yaşamış en büyük dehaydı. 2014'te BBC'ye konuştuğunda "yapay zekânın tam olarak gelişmesi insanlığın sonunu getirebilir" diyerek onun gelecek için nasıl bir varoluşsal bir tehdit olduğunun altını çizmişti. Üstelik henüz GPT-1’in bile üretilmesine daha dört yıl varken…

Yapay genel zekâdan kaynaklanan varoluşsal risk ilk defa Hawking kadar ünlü olmasa da çağdaşı Profesör Nick Bostrom tarafından 2002 yılında tanımlanmış, onu 2009 yılında Stuart Russell- Peter Norvig ikilisi izlemiştir. Bu üçünde göre yapay genel zekâdan kaynaklanan varoluşsal risk, yapay genel zekâdaki önemli ilerlemenin insanlığın yok olmasına veya geri dönüşü olmayan bir küresel felakete yol açabileceği fikridir. Oxford Üniversitesi'nde şu anda feshedilmiş olan İnsanlığın Geleceği Enstitüsü'nün kurucu direktörü olan ve 19 yıl bu görevi yürütmüş olan Bostrom, yapay zekâdaki ilerlemelerin süper zekâya yol açabileceğine inanmaktadır.

Benzer endişe ve uyarılar diğer çağdaş fizikçi ve filozoflardan da gelmeye devam etmekte. Yapay sinir ağları üzerine yaptığı çalışmalarla tanınan İngiliz-Kanadalı bilgisayar bilimcisi ve bilişsel psikolog olan Geoffrey Everest Hinton ve yapay sinir ağları ve derin öğrenme konularındaki çalışmalarıyla tanınan Kanadalı bilgisayar bilimcisi Profesör Yoshua Bengio da bunların arasındadır. 

Hinton, 2013-2023 arasında zamanını Google (Google Brain) ve Toronto Üniversitesi için çalışarak geçirmiş, ardından Mayıs 2023'te yapay zekâ teknolojisinin riskleriyle ilgili endişelerini dile getirerek Google'dan ayrılmıştır.

Montréal Üniversitesi Bilgisayar Bilimi ve Yöneylem Araştırması Bölümü'nde profesör olan Bengio ise Montreal Öğrenme Algoritmaları Enstitüsü'nün (MILA) bilimsel direktörlüğünü yapmış, aynı zamanda uzun yıllar Kanada İleri Araştırma Enstitüsü'nde Makinelerde ve Beyinlerde Öğrenme programının eş-direktörlüğünü yürütmüş biridir. Mayıs 2023'te Bengio, BBC'ye verdiği bir röportajda yapay zekâyla ilgili olarak, hayatı boyunca yaptığı çalışmalar nedeniyle üzüntülerini dile getirmiştir. Özellikle onun, daha karmaşık ve güçlü hale geldikçe "kötü aktörlerin" yapay zekâyı ele geçirmesi konusundaki endişesini ifade etmesi trajiktir.

Derin öğrenmenin babaları olarak bilinen Bengio ve Hinton, yaşamlarının büyük bölümünü akademisyen ve bilim insanı olarak, teknoloji şirketlerinde en üst düzeyde yapay zekâ tasarımcısı ve geliştiricisi olarak çalışmış, başarının daima zirvesinde kalmış, buna karşılık en sonunda kendi geliştirdikleri şeyin giderek bir canavara dönüşme riskini görerek ya görevlerinden ayrılmış veya pişmanlık göstermiş olmaları düşündürücüdür.

Üstünlerin hegemonyasında yapay zekâ

Dünyanın egemenleri bugünlerde, tıpkı iklim krizinin yaratacağı küresel felaketleri önlemek için oluşturdukları birlikler ve yaptıkları toplantıların benzerlerini yapay zekâ için yapıyorlar. Gezegenin sömürgenleri, gem vuramadıkları iştahlarının kaçınılmaz sonuçlarının yol açacağı varoluşsal riskleri önlemek ve felaketlerden kaçınmak için küresel yapay zekâ düzenlemeler oluşturma konusunda üst üste çağrılar yapıyorlar.

Üstünlerin hegemonyasındaki bilim ve teknolojinin temel motivasyonunun gezegende süregiden savaşları durdurmak, insan neslinin diğer türler üzerindeki yok edici hegemonyasını sona erdirmek ya da dünyada hüküm süren açlığı sona erdirmek gibi fantezilere sahip olmadığı açık. Böyle olsaydı her gün, 4096 futbol sahası büyüklüğünde Amazon ormanları yok olmaz, yeryüzündeki canlı türleri dramatik şekilde azalmaz, 821 milyon insan açlık sınırının altında yaşamaz (2017) ve geçen her  5 saniyede bir çocuk açlıktan ölmezdi. Şu halde üstünlerin elindeki yapay zekânın da, gezegen açısından çok önemli varoluşsal riskleri taşıdığını söylemek hiç de abartı olmayacaktır.

Bizi gözetliyorlar!

GPT-4 yapay zekânın yükseliş çağında önemli bir aşama. Bir süre sonra nöral ağlar gibi gezegeni saracak akıllı sistemler her yerde olacaklar. Şu anda bile hareketlerimizi, neler yaptığımızı, nefes alışımızı izliyor, neyi merak ettiğimizi, ne ile ilgilendiğimizi kaydediyorlar. Hoşumuza giden şeylerin neler olduğunu, zevklerimizi, beğenilerimizi, tutkularımızı, sevmediklerimizi, nefret ettiklerimizi, davranış kalıplarımızı, karar verme süreçlerimizi öğreniyor, sınırsız denebilecek bir hafıza içinde biriktiriyorlar. Pek uzak olmayan gelecekte düşüncelerimizi, içimizden geçenleri okumaları bile olası.

Bu makalenin son satırlarını yazarken, bir habere bakmak için telefonuma uzandım. Browserı açtığımda beni karşılayan şu haberi gördüm:

“GPT-5 çıktığında şimdiki ChatGPT gülünecek kadar kötü olacak.”

https://bizimcagedebiyat.com/varolussal-bir-tehdit-olarak-yapay-zeka/