Geoffrey Hinton, akit gyakran az „MI keresztapjának” neveznek, tavaly éjszaka arra ébredt, hogy megnyerte a Nobel-díjat a fizikában. Azt mondta, soha nem számított ilyen megtiszteltetésre. „Álmomban az volt, hogy egy díjat kapjak, mert kiderítettem, hogyan működik az agy. De még nem jöttem rá, hogy hogyan működik az agy, és mégis nyertem” – jegyezte meg Hinton. 77 éves tudós azzal a számára mérföldkőnek számító munkájáért kapott elismerést, amellyel áttörést ért el a neurális hálózatok terén—1986-ban bemutatott módszere a következő szó jóslására egy feladatban—amely a mai nagy nyelvi modellek alapelveként szolgál. Bár Hinton hisz abban, hogy a mesterséges intelligencia forradalmasítani fogja az olyan területeket, mint az oktatás és az orvoslás, és esetleg segíthet a klímaváltozás elleni küzdelemben, egyre nyugtalanabbá válik a gyors fejlődés tempójától. „A legjobb módja annak érzelmi megértésének, ha úgy képzeled el, mintha valaki egy igazán cukin pici tigriskutya lenne” – magyarázta Hinton. „Anélkül, hogy biztosan tudnád, hogy azért nő fel, hogy megöljön, aggódni kell. ” „Még nem értették meg” Az MI úttörője becslése szerint 10-20% annak az esélye, hogy a mesterséges intelligencia végül átveszi az irányítást az emberektől. „Még nem értették meg az emberek, nem értik, mi fog történni” – figyelmeztetett. Aggodalmai összhangban vannak olyan iparági vezetők véleményével, mint a Google vezérigazgatója, Sundar Pichai, az X-AI alapító Elon Musk és az OpenAI ügyvezető igazgatója, Sam Altman, akik hasonló aggályokat fogalmaztak meg.

Ugyanakkor Hinton bírálja ezeket a vállalatokat is, amiért a profitot helyezik a biztonság elé. „Ha megnézed, mit tesznek most a nagy cégek, azt próbálják, hogy csökkentsék az AI szabályozását. Alig van szabályozás, de ők még kevesebbet akarnak” – nyilatkozta Hinton. Különösen elégedetlen a Google-lal, ahol korábban dolgozott, mert megfordították politikájukat a katonai felhasználású MI-k kapcsán. Hinton szerint az MI-vel foglalkozó cégeknek sokkal nagyobb részt kellene fordítaniuk a biztonsági kutatásokra—„például egyharmadát” a számítási kapacitásuknak—a jelenlegi kis rész helyett, amit most szentelnek. A CBS News megkereste az összes említett MI-kutató laboratóriumot, hogy megtudja, milyen arányban fordítanak erőforrásokat a biztonsági kutatásokra. Egyikük sem szolgált konkrét adatokat. Mind hangsúlyozta a biztonság fontosságát és az általános támogatást a szabályozás mellett, de nagyrészt ellenezték az eddig a törvényhozók által javasolt szabályozási intézkedéseket.