AI ‘Godfather’ Geoffrey Hinton, Google’dan ayrılırken tuzaklar konusunda uyarıyor

Yaygın olarak yapay zekanın (AI) babası olarak kabul edilen bir adam, bu alandaki gelişmelerin yarattığı tehlikeler konusunda uyararak işinden ayrıldı.

75 yaşındaki Jeffrey Hinton, New York Times’a yaptığı açıklamada, artık yaptığı işten pişman olduğunu söyleyerek Google’dan istifa ettiğini duyurdu.

BBC’ye AI sohbet robotlarının bazı risklerinin “çok korkutucu” olduğunu söyledi.

“Şu anda söyleyebileceğim kadarıyla bizden daha akıllı değiller. Ama bence yakında olabilirler.”

Dr. Hinton’un derin öğrenme ve sinir ağları üzerine öncü araştırması, ChatGPT gibi mevcut yapay zeka sistemlerinin yolunu açtı.

Ancak İngiliz-Kanadalı bilişsel psikolog ve bilgisayar bilimcisi BBC’ye, sohbet robotlarının yakında insan beyninin tuttuğu bilgileri geçebileceğini söyledi.

“Şu anda GPT-4 gibi şeylerin kişinin sağduyu seviyesini gölgede bıraktığını ve onu uzun süre sakladığını görüyoruz. Mantık yürütme açısından o kadar iyi değil ama zaten iyi. Basit mantık.

“İlerleme hızı göz önüne alındığında, her şeyin çok hızlı bir şekilde iyileşmesini bekliyoruz. Bu yüzden bu konuda endişelenmeliyiz.”

New York Times makalesinde Dr. Hinton, yapay zekayı “kötü işler” için kullanmaya çalışan “kötü oyunculardan” söz etti.

BBC tarafından detaylandırılması istendiğinde, “Bu bir tür en kötü durum senaryosu, bir tür kabus senaryosu.

“Örneğin, bazı kötü aktörleri hayal edebilirsiniz. [Russian President Vladimir] Putin, robotlara kendi alt hedeflerini yaratma yeteneği vermeye karar verdi.”

Bilim adamı, bunun sonunda “‘Daha fazla güce sahip olmak istiyorum’ gibi alt hedefler” yaratabileceği konusunda uyardı.

“Geliştirdiğimiz zekanın sahip olduğumuz zekadan çok farklı olduğu sonucuna vardım.

“Biz biyolojik sistemleriz ve bunlar dijital sistemler. Ve dijital sistemlerdeki en büyük fark, dünyanın aynı ağırlıkta, aynı modelde birden fazla kopyası olması.

“Ve tüm bu kopyalar bireysel olarak öğrenebilir, ancak bilgilerini anında paylaşabilir. Yani 10.000 kişiniz var ve biri bir şey öğrendiğinde herkes otomatik olarak biliyor. Ve bu sohbet robotları herhangi bir kişiden daha fazlasını öğrenebilir.”

Dr Hinton, işini bırakmak için başka nedenler de olduğunu söyledi.

“Biri, 75 yaşındayım. Yani artık emekli olma vaktim geldi. Diğeri ise, Google hakkında güzel şeyler söylemek istiyorum. Google’da çalışmasaydım daha güvenilir olurlardı.”

Teknoloji devinin “çok sorumlu” olduğu konusunda ısrar ederek Google’ı eleştirmek istemedi.

Google’ın baş bilim adamı Jeff Dean yaptığı açıklamada şunları söyledi: “Yapay zekaya sorumlu bir yaklaşım getirmeye kararlıyız. Cesurca yenilik yaparken ortaya çıkan riskleri anlamayı öğrenmeye devam ediyoruz.”