Rahul Rao/Popular Science
Çeviren: Ozan Zaloğlu
Bazı yapay zeka uzmanları, teknolojik tekillik ile yüzleşmeye başladı. Gördükleri şey ise onları korkutuyor.
Bilgisayar bilimci ve bilimkurgu yazarı Vernor Vinge, 1993 yılında bir tahmin yürütmüş ve otuz yıl içerisinde kendi zekamızı geride bırakan bir çeşit zeka oluşturacak teknolojimizin olacağını söylemişti. “Çok geçmeden ise insanların dönemi sona erecek” demişti.
Tesadüf bu ya, 30 yıl sonra insanların kabiliyetlerini geride bırakabilen ya da en azından onlara yetişen, yapay şekilde oluşturulmuş bir varlık kavramı artık spekülatörlerin ve yazarların ilgi alanından çıktı. Yapay zeka araştırmacıları ve teknoloji yatırımcılarından oluşan ordular, yapay genel zeka (YGZ) adını verdikleri şeye ulaşmaya çalışıyor. Bu yapı, her türlü zihinsel görevde insan seviyesinde performans gösteren bir varlık. Eğer insanlar başarılı bir YGZ üretirse, bazı araştırmacılar “insan çağının sonunun” artık belirsiz ve uzak bir ihtimal olmayacağını düşünüyor.
Fütüristler, bu konularda yorum yapan pek çok kişinin “Teknolojik tekillik” adını verdiği şeyin Vinge sayesinde popülerlik kazandığını düşünüyor. Vinge, teknolojik ilerlemenin sonunda insan beynini geride bırakan kabiliyetlere sahip bir varlığa hayat verebileceğini düşünmüştü. Bu varlığın topluma kazandırılması ise dünyayı değiştirerek tanınmayacak hale getirecekti. Vinge’in kendi sözleriyle, “Dünya’da insan yaşamının ortaya çıkışına denk bir değişim”di bu.
Teknolojik tekilliği güçlü bir yapay zeka şeklinde düşünmek belki de en kolay şey. Fakat Vinge bunu farklı şekillerde hayal etmişti. Biyo teknoloji ve elektronik güçlendirmeler, örneğin insan zihninin sezgisel ve yaratıcı gücünü bilgisayarların işlemcisi ve bilgiye erişme kabiliyetiyle birleştirerek insan beynini daha hızlı ve daha zeki olacak şekilde değiştirip ona süper insan marifetleri kazandırabilir. Daha alelade bir örnek vermek gerekirse, ortalama bir akıllı telefon kullanıcısının 1993’ten gelen bir zaman yolcusunun ağzını açık bıraktıracak güçlere sahip olduğunu düşünün.
Louisville Üniversitesinde çalışan bilgisayar bilimcisi Roman Yampolski, “Tüm mesele şu; makineler bilim icra etme ve mühendislik sürecini ele geçirdiğinde ilerleme o kadar hızlı olacak ki, onlara yetişemeyeceksiniz” diyor.
Yampolski kendi alanında bu geleceği yansıtan küçük bir evreni şimdiden gördüğünü, yapay zeka araştırmacılarının yüksek bir hızla inanılmaz miktarda çalışma yayımladığını söylüyor. “Bir uzman olarak neyin son teknoloji olduğunu artık bilmiyorsunuz” diyor. “Çok hızlı evrimleşiyor.”Süper insan zekası nedir?
Vinge teknolojik tekilliğe giden herhangi bir güzergâh ortaya sermese de, bazı uzmanlar YGZ’nin o noktaya bilgisayar bilimiyle varmanın anahtarı olacağı görüşünde. Diğerleri ise bu kavramın, herkesin diline dolanmış anlamsız bir sözcük olduğunu düşünüyor. Terim genel olarak, tüm entelektüel faaliyetlerde insanların performansına ulaşan bir sistemi tarif ediyor.
Eğer YGZ’yi geliştirirsek, böylelikle bir süper insan zekası oluşturma noktasında geleceğe kapı aralayabiliriz. Bu zeka araştırmalara uygulandığında, son derece hızlı bir şekilde yeni keşifler ve teknolojiler ortaya çıkarabilir. Örneğin varsayım niteliğindeki bir yapay zeka sisteminin, gerçek hayattaki tüm bilgisayar bilimcilerden daha iyi olduğunu düşünün. Şimdi de bu sisteme daha iyi yapay zeka sistemleri tasarlama görevi verildiğini… Bazı araştırmacılar, bunun sonucunda yapay zekanın kabiliyetlerinin üstel şekilde artabileceği görüşünde.
Bu durum sorun yaratabilir çünkü pek çok yapay zeka sisteminin neden birtakım şekillerde davrandığını tam olarak anlamış değiliz. Bu sorun hiçbir zaman ortadan kalkmayabilir. Yampolski’nin çalışması, bir YGZ’nin ne yapabileceğini asla eksiksiz şekilde tahmin edemeyeceğimizi akla getiriyor. Yampolski’ye göre bu kabiliyet olmadan da onu güvenilir biçimde kontrol edemeyeceğiz. Yampolski, bu durumun feci sonuçlar doğurabileceğini söylüyor.
Fakat geleceği tahmin etmek zor bir iş ve dünya çapındaki yapay zeka araştırmacıları da bu meselede fikir birliğine varmış değil. 2022 yılının ortalarında düşünce kuruluşu AI Impact, 738 araştırmacıya teknolojik tekillik-vari bir senaryo olasılığına yönelik görüşlerini sormuş. Ortada bir fikir ayrılığı olduğunu görmüşler: Katılanların yüzde 33’ü böylesi bir kaderin “olası” ya da “çok olası” olduğunu söylerken, yüzde 47’si de “ihtimal dışı” veya “oldukça ihtimal dışı” olduğunu belirtmiş.
Irvine – California Üniversitesinde çalışan bilgisayar bilimci Sameer Singh, YGZ’nin (ve bu bağlamda teknolojik tekilliğin) tutarlı biçimde tanımlanmamış olmasının, bu kavramların deneysel olarak incelenmesini zorlaştırdığını söylüyor. “Bunlar düşünmesi ilginç olan akademik şeyler” diyor. “Fakat etki noktası açısından, toplum içerisinde yaşanabilecek ve sadece bu eşik aşımına dayanmayan çok daha fazla şey olduğunu düşünüyorum.”
Aslında Singh, olası gelecek senaryolarına odaklanmanın, yapay zekanın şu an başarısız olduğu noktaların veya sergilediği mantıksız fikirlerin oluşturduğu etkileri gizlemesinden endişe duyuyor. “Kaynakların YGZ’ye aktarıldığını ve bu uzun dönemli etkileri duyunca, gerçekten önem taşıyan sorunların gölgede kaldığını hissediyorum” diyor. Modellerin ırkçı, cinsiyetçi ve gerçeklerle örtüşmeyen çıktılar meydana getirebildiği halihazırda gayet iyi biliniyor. Hukuki açıdan bakıldığında, yapay zeka ile oluşturulan içerikler telif hakkı ve veri gizliliği yasalarıyla sık sık uyumsuzluk sergiliyor. Bazı analistler, insanların işten çıkarılması ve mesleklerin bilgisayar ile yer değiştirmesinde yapay zekayı suçlamaya başladı.
“Gerçek vaziyetle alakalı konuşmaktan ziyade, ‘bilim kurgudaki bu hedefe ulaştık’ türünden konuşmak çok daha heyecanlı” diyor Singh. “Ben de bu noktada sayılırım ve beraber çalıştığım yapay zeka camiasının birçoğunun da bu noktada durduğunu düşünüyorum.
”YGZ’ye ihtiyacımız var mı?Yapay zeka destekli bir geleceğe yönelik tepkiler, yapay zeka camiasında modellerin inşa edilmesi, ayarlanması, genişletilmesi ve gözlenmesi yönünde çok geniş fikir ayrılıklarından birini yansıtıyor. Bilgisayar biliminin öncü isimlerinden Geoffrey Hinton ve Yoshua Bengio, geçenlerde kontrolden çıktığını düşündükleri bu alanda hem pişmanlıklarını hem de bir yön kaybını dile getirdiler. Bazı araştırmacılar, GPT-4’ten daha güçlü yapay zeka sistemlerinin geliştirilmesinde altı aylık bir erteleme yapılması çağrısında bulundu.
Yampolski, ara verme çağrısını destekliyor fakat yarım senenin yeterli olmayacağını düşünüyor. Ona göre bir yıl, iki yıl veya farklı bir zaman süreci gerekiyor. Düşüncesini açık açık söylüyor: “Kazanmanın tek yolu, bu işi yapmamak.”
(*) Bu yazı popsci.com.tr sitesinden alınmıştır.
