El progrés ràpid de la intel·ligència artificial (IA) ha generat un debat i preocupació importants entre els experts, especialment pel que fa als seus efectes a llarg termini sobre la humanitat. Figures destacades com Elon Musk, CEO de Tesla i SpaceX, i Dario Amodei, CEO de l’empresa de recerca en IA Anthropic, alerten dels riscos existencials greus que suposa la IA, estimant que la probabilitat d’extinció humana provocada per la IA pot arribar a ser del 10% al 25%. Aquesta valoració dràstica subratlla la necessitat urgent d’establir marcs reguladors sòlids i mesures de seguretat per supervisar el desenvolupament i desplegament de la IA. Elon Musk, conegut per la seva aproximació visionària, fa temps que advertix dels perills de la IA no regulada. Tot reconeixent els beneficis de la IA, insisteix que, sense una supervisió adequada, la IA podria surpassar el control humà i provocar resultats catastròfics. Musk defensa una regulació proactiva per garantir que els avenços en IA prioritzin la seguretat de les persones. De manera similar, Dario Amodei comparteix aquestes preocupacions i lidera Anthropic en la creació de sistemes d’IA interpretables i alineats amb els valors humans per reduir els riscos associats a un comportament autònom de la IA. Les seves estimacions de risc reflecteixen la gravetat amb què molts membres de la comunitat de la IA consideren els avenços sense control. El cas de la regulació s’enforteix a mesura que els sistemes d’IA milloren rapidament, realitzant tasques que abans es consideraven exclusives de l’humà, des del processament avançat del llenguatge natural fins a la presa de decisions autònoma en contextos complexos. Tot i que aquests avenços prometen transformar la indústria i millorar la qualitat de vida, també plantegen desafiaments sense precedents per garantir que la IA operi de manera segura i ètica. Els experts argumenten que, sense mesures de salvaguarda, la IA podria ser malament utilitzada de manera maliciosa o desenvolupar comportaments que no s’alineïn amb els interessos humans.

La complexitat de la IA moderna complica la previsió de possibles fallades o conseqüències no intencionades, augmentant la preocupació pels accidents o l’ús delictiu i elevant la importància de la governança de la IA. En resposta, els àmbits científics i polítics reclamen cada vegada més regulacions globals per a la IA, amb l’objectiu d’establir mecanismes de seguretat, garantir la transparència en el disseny de la IA i aplicar directrius ètiques que alineïn les operacions de la IA amb els valors de la societat. La cooperació internacional és clau, tenint en compte el desenvolupament i desplegament global de la IA. A més de la regulació, la recerca contínua en seguretat i ètica de la IA és fonamental. Els esforços de recerca acadèmica i organitzacional se centren en desenvolupar sistemes d’IA que siguin potents però controlables i alineats amb els objectius humans, incloent-hi la verificació del comportament de la IA, millorar la interpretabilitat i avaluar impactes ètics. El debat sobre els riscos i la regulació de la IA il·lustra el repte més ampli d’aprofitar les tecnologies transformadores protegint alhora el futur de la humanitat. Com que la IA avança a un ritme sense precedents, és fonamental equilibrar la innovació amb la precaució. Les advertències de líders com Musk i Amodei destaquen la necessitat urgent d’abordar aquestes qüestions. En resum, el risc estimat del 10% al 25% d’extinció humana provocada per la IA, destacat pels experts més reconeguts, representa una preocupació global apressant que exigeix esforços immediats i coordinats. És imprescindible establir marcs reguladors robusts i mecanismes de seguretat per garantir que el desenvolupament de la IA s’alineï amb la seguretat i els valors humans. La manca de resposta a aquests riscos amenaça amb conseqüències irreversibles, per la qual cosa la governança reflexiva i multidisciplinària de la IA és crucial per al futur de la humanitat.