“Ölümcül bir virüs üretebilir” – Last Minute Magazine

Yapay zekanın öncülerinden Geoffrey Hinton, bu alandaki gelişmelerin tehlikeleri konusunda uyarıda bulunmak için geçen yıl mayıs ayında Google'dan istifa etmişti. Derin öğrenme ve yapay sinir ağları üzerine yaptığı araştırmalardan dolayı “yapay zekanın babası” olarak anılan 75 yaşındaki bilim insanı Hinton, yaptığı açıklamada yapay zekanın geleceğinden endişe duyduğunu ve karşı karşıya kalabileceğimizi söyledi. ciddi bir tehlike. Sorularımıza yazılı olarak yanıt veren Hinton, “Yapay zekanın gelişimini durdurmak mümkün görünmüyor” diyor.

◊ Öncelikle nasıl olduğunuzu sormak istiyorum. Google'dan ayrıldıktan sonra hayatınız nasıl oldu?

Çok daha rahatım. Artık “Bana ödedikleri parayı hak edecek kadar üretemiyorum” diye düşünmüyorum.

◊ Neden Google'dan ayrılmanın gerekli olduğunu düşündünüz?

class = “medyanet-inline-adv”>

Çoğunlukla 75 yaşında olduğum ve programlama konusunda artık iyi olmadığım için ayrıldım. Elbette tek sebep bu değil. Yapay zekanın varoluşsal riskinin sadece bilim kurgu olduğu yönündeki yaygın algıyı düzeltmek istediğim için de bu kararı verdim.

“CİDDİ BİR TEHDİT”

◊ Hiç daha önce istifa etmek istediniz mi?

Keşke varoluşsal tehdidin yakın olduğunu daha önce fark etseydim. Şubat 2023'e kadar çok uzak olduğunu düşünüyordum. Ancak bunun ele alınması gereken ciddi bir tehdit olduğunu anladım.

◊ Google araştırmacıları dahil pek çok kişi sizden önce yapay zekanın tehlikelerinden bahsetti. Görüşlerini paylaşıyor musunuz?

Diğer birçok araştırmacı, ayrımcılık, önyargı, sahte görüntüler, belgeler ve yankı odaları gibi var olmayan tehditler konusunda uyarıda bulundu. Bunların hepsi çok ciddi tehditler ama benim uyardığım şey farklı. Bunlar zaten var olan ve sinir ağlarının bizden daha akıllı olmasını gerektirmeyen durumlardır.

“Çok farklı felaket senaryoları var. Örneğin yapay zeka tek başına insanları öldürmeye karar verebilir.”class = “medyanet-inline-adv”>

◊ Sizce en kötü senaryo nedir?

Çok farklı felaket senaryoları var. Kötü bir aktör, çok bulaşıcı, çok öldürücü, kuluçka süresi çok uzun olan bir virüs tasarlayabilir. Kötü aktörler zaten yapay zekayı demokratik seçimleri bozmak için kullanıyor. Üstelik yapay zeka, insanları öldürmeye kendi başına karar verebilir.

◊ Yapay zekanın kontrol edilebileceğini düşünüyor musunuz? Bu konuda şirketlere ve hükümetlere güvenebilir miyiz?

Başka bir yol var mı? Bunların cevabını bilmek isterim. Araştırmacıları bu sorunlara odaklanmaya teşvik etmeli, endüstriyi ve hükümetleri bu sorunlara daha fazla kaynak ayırmaya teşvik etmeliyiz. Yapay zekanın gelişimini durdurmak mümkün görünmüyor. Çok sayıda aktör var ve sağladığı faydalar çok büyük.

class = “medyanet-inline-adv”>

◊ Bugün hayatınızı yapay zekanın geliştirilmesine adadığınız için pişman mısınız?

Tam olarak değil. Yakın zamana kadar, sağlık hizmetleri gibi alanlardaki faydaların, savaş robotları ve sahte haberler gibi diğer alanlardaki zararlardan muhtemelen daha ağır basacağı kanaatindeydim.

◊ Çeşitli alanlarda eğitim aldığınızı biliyoruz…

Evet, ilk sene fizik ve fizyoloji okudum, alışılmadık bir kombinasyon. İkinci yılımda felsefe, üçüncü yılımda ise psikoloji okudum. Sonunda, eğer beynin nasıl çalıştığını anlamazsak, zihnin nasıl çalıştığını asla anlayamayacağımıza karar verdim. O zamanlar çılgınca rastgele bir yürüyüş gibi görünüyordu ama geriye dönüp baktığımda oldukça işe yaradığını fark ettim.

class = “medyanet-inline-adv”>

◊ İnsan beyninin nasıl çalıştığını öğrenmeye karar verdiniz. Ne keşfettin?

Yapay zekadaki şaşırtıcı ilerlemeler bize, nöronlar arasındaki milyarlarca bağlantının gücünü tekrar tekrar ayarlamanın aslında karmaşık becerileri öğrenmenin çok etkili bir yolu olduğunu öğretti. Ancak beynin bu ayarlamaların nasıl yapılacağını bilmek için gereken gradyan sinyallerini nasıl hesapladığını hâlâ bilmiyoruz. Veya örneğin neden rüya gördüğümüzü ve uyku yoksunluğunun etkilerinin neden bu kadar felaket olduğunu hâlâ anlamadık.

◊ Bu noktada sizce yapay zeka mı yoksa insan beyni mi daha zeki?

Bu noktada yapay zekanın herhangi bir insandan çok daha fazlasını bilen bir tür aptal bilgin (savant sendromu: önemli derecede zihinsel engeli olan bir bireyin bazı yetenekleri genel ortalamanın çok üzerinde göstermesi) olduğuna inanıyorum ama bu henüz tam olarak öyle değil. bu konuda iyi durumda. mantıksal akıl yürütme. Ancak aslında zekamız için mantıksal akıl yürütmeden daha temel olan analojik akıl yürütme konusunda bizimle karşılaştırılabilir.

class = “medyanet-inline-adv”>

◊ Yapay zekanın insan beyninden daha güçlü olması mümkün mü?

Bu tamamen mümkün görünüyor. İnsanların gerçekte olduklarından daha özel olduklarına inanma konusunda uzun bir geçmişi vardır. Pek çok insan hâlâ kendilerinin Tanrı'nın suretinde yaratıldığına ve Tanrı'nın onları evrenin merkezine yerleştirdiğine inanıyor.

◊ Yapay zekanın ilerlemesi insanlığın sonunu getirebilir mi? Belki gelecekte artık insana ihtiyaç kalmayacak…

Ben bunun olasılık dahilinde olduğunu düşünüyorum.

'NAFİS İYİMSERLİK…'

◊ Kendisiyle birlikte Turing Ödülü'ne layık görülen Yann LeCun, yapay zeka konusundaki endişeleri reddediyor. Bu vizyona ilişkin yorumunuz nedir?

Onun saf bir iyimser olduğunu düşünüyorum. Gelecek bu kadar belirsizken farklı görüşlere sahip olmak güzel ve umarım haklıdır. Araştırmalar, mutlu insanların kanser ya da araba kazası gibi gerçekten kötü şeylerin başlarına gelme ihtimalini hafife alma eğiliminde olduklarını gösteriyor. Hafif depresyonlu olanlar daha uygundur ve bu olasılıkları ciddiye alırlar. Bu onların neden biraz depresyonda olduklarını açıklayabilir.

◊ Çocukluğunuzu merak ediyorum, ne tür oyunlar oynadınız?

Bulmacaları severdim ve çoğu zaman onları kendim icat ederdim. Örneğin, içindeki sıvının soğuma hızının neredeyse sıvı miktarından bağımsız olması için bir bardağın şekli nasıl olmalıdır?

“UZUN SÜRELİ İYİ BİR TERAPİST OLABİLİR”

◊ Yapay zekanın da insanlar gibi bazı duyguları deneyimlemesi mümkün mü? Korkmak, aşık olmak, mutlu olmak, öfkelenmek gibi…

İnsan duyguları, utandığınızda yüzünüzün kızarması gibi bedensel hisleri içerir. Yapay zekanın bu bedensel hisleri deneyimlemesinin iyi bir nedeni yok. Ancak yapay zekanın, duyguların davranışlarınızı nasıl etkilediği gibi diğer yönlerini de içermemesi için hiçbir neden göremiyorum. Bir yapay zekada korkunun fiziksel tezahürü çok farklı olsa da, korkması ve algılanan tehlikeden kaçması mantıklıdır.

◊ Yapay zeka iyi bir terapist olabilir mi?

Uzun vadede iyi bir terapist olabileceğini düşünüyorum ama mevcut chatbotların henüz orada olduğunu düşünmüyorum.