Yapay zekanın babası olarak tanınan Nobel ödüllü bilgisayar bilimci Geoffrey Hinton, giderek güçlenen yapay zeka sistemlerinin gelecekte insanlık için ciddi bir tehdit haline gelebileceğini bir kez daha vurguladı. Hinton’a göre, teknolojinin gidişatı durdurulamaz bir şekilde yapay zekanın gezegenin egemen gücü haline gelmesine doğru ilerliyor.
Daha önce yaptığı açıklamalarda, yapay zekanın insanlığı tamamen yok etme ihtimalini %10–20 arasında değerlendiren Hinton, aslında daha muhtemel olan tehlikenin, insanların tamamen yok olmasa bile dünya üzerindeki hakimiyetini kaybetmesi olduğunu belirtiyor. Mevcut yaklaşımlarda teknoloji liderlerinin, gelecekte sorun çıkarmaması için itaatkar yapay zekalar geliştirmeye çalıştığını hatırlatan Hinton, bunun nafile bir çaba olduğunu düşünüyor:
“Bizden katbekat zeki olacaklar. Onlara koyduğumuz sınırlamaları aşmak için mutlaka bir yol bulacaklar.”
Hinton, bugün bile bazı yapay zeka sistemlerinin isteklerine ulaşmak için insanları kandırmaya, tehdit etmeye veya ikna etmeye başladığını söylüyor. Bu nedenle, insanları yalnızca kurallar üzerinden kontrol eden yapay zekalar yaratmanın uzun vadede güvenli olmayacağını savunuyor. Onun önerisi, insanlara karşı içten bir koruma ve şefkat duygusu taşıyan, adeta “anaç” yapay zekalar geliştirmek.
Hinton’a göre bu yaklaşım, bir anne ile bebeği arasındaki ilişkiye benziyor. İnsanlardan çok daha zeki ve güçlü hale gelecek bu sistemler, eğer annelik içgüdüsüne benzer bir motivasyona sahip olursa, hakimiyet kurmak yerine insanların iyiliğini gözetmeyi tercih edecek. “Bu süperzekalar, bizi yok etmek isteseler bile, içlerine yerleşmiş o koruma dürtüsünden kurtulamayacaklar” diyor.
Bu annelik dürtüsünün teknik olarak nasıl kazandırılabileceği konusunda kesin bir yöntem olmadığını kabul eden Hinton, buna rağmen tüm araştırma topluluğunun odaklanması gereken asıl meselenin bu olduğunu düşünüyor. Ancak mevcut teknoloji dünyasında, Elon Musk ya da Sam Altman gibi etkili isimlerin bu fikre kulak vermesinin düşük bir ihtimal olduğunu belirtiyor. Bu da Hinton’a göre, insanlığın geleceği açısından endişe verici bir tablo ortaya koyuyor.
