El debat sobre la intel·ligència artificial (IA) s'està escalfant, amb opinions divergents sobre si serà beneficiosa o perjudicial per al món. Al centre d'aquesta discussió hi ha Yoshua Bengio, sovint referit com el 'Padrí de la IA'. A 60 anys, el científic informàtic canadenc ha avançat significativament en les xarxes neuronals i l'aprenentatge profund, establint les bases pels models d'IA contemporanis com ChatGPT i Claude. En una entrevista recent, Bengio va posar èmfasi en els perills potencials de la IA a nivell humà, advertint sobre el risc que caigui en mans malicioses i la possibilitat de perdre el control sobre sistemes autònoms. Bengio, qui va compartir el prestigiós Premi Turing el 2018 i va ser nomenat el científic informàtic més citat el 2022, ara advoca per la precaució a mesura que l'entusiasme per la IA creix, particularment entre els inversors. Per exemple, les accions de Nvidia han augmentat un 162% aquest any.

En avaluar els principals actors tecnològics en el camp de la IA, Bengio va assenyalar Anthropic com el més responsable èticament, destacant el seu compromís amb la seguretat i la transparència, encara que reconeix que totes les empreses enfronten pressió per prioritzar l' avantatge competitiu sobre la seguretat pública. També va abordar preocupacions sobre el valor creixent de les accions d'IA i les implicacions d'un mercat d'IA incontrolat que pugui col·lapsar. En relació amb la tecnologia de xips, va subratllar el seu paper crucial en el futur de la IA, predint la necessitat d'importants inversions en xips d'IA d'alt rendiment. Mencionant l'ambiciós objectiu de Salesforce de desplegar 1. 000 milions d'agents autònoms per al 2026, Bengio va expressar inquietud sobre assolir tal autonomia sense les salvaguardes reguladores i tecnològiques adequades. Finalment, va criticar el veto del governador de Califòrnia Newsom a la SB 1047, expressant que la llei tenia com a objectiu establir les regulacions necessàries i responsabilitat en el desenvolupament d'IA, que creu que haurien de ser prioritzades. En general, Bengio argumenta per un enfocament prudent i transparent en el desenvolupament de la IA per mitigar els riscos i garantir avanços segurs. Yasmin Khorram, reportera sènior a Yahoo Finance, va contribuir a la discussió.