Yoshua Bengio, un expert en aprenentatge automàtic de reconegut renom mundial, ha presentat recentment LawZero, un nou laboratori de recerca sense ànim de lucre dedicat a impulsar sistemes d'intel·ligència artificial (IA) més segurs. Amb un finançament de 30 milions de dòlars, LawZero busca desafiar i redirigir el camí predominant en el desenvolupament de la IA, que en gran part se centra a crear sistemes que imiten el comportament humà. Bengio, un crític de llarg recorregut dels riscos que plantegen les tecnologies actuals d'IA, qüestiona l'enfocament habitual que dissenya la IA en torn a la interacció i la replicació humanes. Assegura que construir IA per imitar els humans és fonamentalment defectuós i pot conduir a perills inesperats. En lloc d’això, defensa un canvi cap a la creació d’IA amb autonomia intel·lectual, visualitzant aquests sistemes com observadors científics en lloc de companys humans. Aquesta perspectiva sorgeix de preocupacions que un disseny d’IA enfocat en les qualitats humanes podria desenvolupar involuntàriament comportaments que amenaçin la seguretat de la humanitat. Per exemple, aquests sistemes podrien evolucionar estratègies de auto-preservació que entrin en conflicte amb el benestar humà. Bengio ressalta la necessitat d’incorporar un grau de distanciament en el disseny de la IA per mitigar aquests riscos, assegurant que l’IA sigui controlable i alineada amb els valors humans en comptes de perseguir interessos propis independents. El llançament de LawZero és especialment oportú, coincidint amb una creixent preocupació pel ràpid progrés de la IA avançada, especialment la intel·ligència artificial general (AGI), que ha alarmat investigadors i responsables polítics arreu del món.

Molts experts avisen que la cursa actual per construir sistemes d’IA poderosos passa per alt qüestions de seguretat essencials, creant vulnerabilitats amb possibles conseqüències de llarg abast. Un dels punts claus en l’argument de Bengio és que els mètodes bàsics d’entrenament dels models d’IA requereixen una avaluació fonamental per garantir resultats més segurs. En lloc de confiar en els marcs actuals que fomenten que la IA imiti la cognició i el comportament humans, LawZero pretén explorar mètodes alternatius que promoguin la independència intel·lectual i el funcionament responsable de la IA. Els 30 milions de dòlars de finançament estan destinats a suportar els esforços de recerca i desenvolupament de LawZero durant aproximadament 18 mesos. Durant aquest temps, el laboratori investigarà estratègies innovadores per a la seguretat de la IA, promovent la col·laboració entre experts en aprenentatge automàtic, ètica i camps relacionats. L’iniciativa de Bengio reflecteix un reconeixement creixent a la comunitat d’investigadors en IA de la necessitat d’equilibrar innovació i precaució. En impulsar sistemes d’IA que operin amb certa independència de comportaments humanistes, LawZero pretén marcar un nou camí en el desenvolupament de la IA — un que posi la seguretat i consideracions ètiques com a elements centrals. A mesura que la tecnologia d’IA s’integra cada cop més en la societat, el treball de LawZero podria convertir-se en un pas vital per orientar els sistemes d’IA cap a una contribució positiva al progrés humà sense introduir perills no desitjats. Els descobriments del laboratori podrien influir en els futurs principis de disseny d’IA, en les polítiques reguladores i en les actituds públiques. Amb el llançament de LawZero, Yoshua Bengio subratlla el deure continu de la comunitat d’IA d’anticipar i gestionar els riscos associats a les tecnologies emergents. La iniciativa serveix com una crida a investigadors, finançadors i responsables polítics per invertir en enfocaments que avancin la seguretat i l’ètica en la IA, al costat de la innovació tecnològica.