Rasprava oko veštačke inteligencije (AI) se zaoštrava, a mišljenja o tome hoće li ona biti korisna ili štetna za svet su podeljena. U središtu ove diskusije se nalazi Yoshua Bengio, često nazivan 'Kumom AI-ja'. Sa svojih 60 godina, kanadski kompjuterski naučnik je značajno unapredio neuronske mreže i duboko učenje, postavljajući temelje za savremene AI modele poput ChatGPT-a i Claude-a. U nedavnom intervjuu, Bengio je naglasio potencijalne opasnosti ljudskog nivoa AI-ja, upozoravajući na rizik da se AI nađe u zlonamernim rukama i mogućnost gubljenja kontrole nad autonomnim sistemima. Bengio, koji je 2018. godine podelio prestižnu Tjuringovu nagradu i bio proglašen za najcitiranijeg kompjuterskog naučnika 2022. godine, sada zagovara oprez dok entuzijazam za AI raste, posebno među investitorima. Na primer, akcije Nvidije su skočile za 162% ove godine.

Pri ocenjivanju glavnih tehnoloških igrača u polju AI-ja, Bengio je ukazao na Anthropic kao najetičniji, napominjući njihovu posvećenost sigurnosti i transparentnosti, iako priznaje da sve kompanije imaju pritisak da daju prednost konkurentskoj prednosti nad javnom sigurnošću. On je takođe razgovarao o zabrinutostima zbog rasta vrednosti akcija AI-ja i implikacijama neusmerenog pada AI tržišta. Po pitanju čip tehnologije, istakao je njenu ključnu ulogu u budućnosti AI-ja, predviđajući potrebu za značajnim investicijama u visokoperformantne AI čipove. Pominjući ambiciozni cilj Salesforce-a da rasporedi 1 milijardu autonomnih agenata do 2026. godine, Bengio je izrazio zabrinutost zbog postizanja takve autonomije bez odgovarajućih regulatornih i tehnoloških mera. Na kraju, kritikovao je kalifornijskog guvernera Njusoma zbog veta na SB 1047, izražavajući da je zakon imao za cilj da uspostavi neophodne regulacije i odgovornost u razvoju AI-ja, što bi, prema njegovom mišljenju, trebalo da bude prioritet. Sveukupno, Bengio se zalaže za pažljiv i transparentan pristup razvoju AI-ja kako bi se smanjili rizici i osigurao siguran napredak. Yasmin Khorram, viši reporter u Yahoo Finance, doprinela je diskusiji.