Igor Babuschkin, cofundador de l'empresa d'IA xAI—que va rebre un suport significatiu per part d'Elon Musk—ha anunciat oficialment el seu abandonament de l'empresa a partir del 13 d'agost de 2025. La seva decisió està motivada pel desig de centrar-se en un nou projecte, Babuschkin Ventures, dedicat a la seguretat de la IA, un tema crucial enmig de l'avanç ràpid de la intel·ligència artificial. Aquesta iniciativa té com a objectiu finançar i donar suport a projectes de recerca i startups compromeses a desenvolupar tecnologies d'IA de manera responsable i segura, abordant la creixent preocupació ètica, de seguretat i social associada a les habilitats en auge de la IA. La sortida de Babuschkin representa un canvi important per a xAI, que va ser creada per impulsar la innovació en IA sota la lideratge visionari i cautelós de Musk. Mentre xAI posa èmfasi en avançar les capacitats de la IA, Babuschkin Ventures adopta un enfocament complementari, prioritzant els protocols de seguretat i la mitigació de riscos com a elements essencials del progrés en IA. En el seu anunci, Babuschkin va subratllar la necessitat urgent d'enfrontar els desafiaments de seguretat de la IA en tots els nivells — des de la recerca bàsica fins a les aplicacions pràctiques — advertint que sense una regulació adequada, la IA podria produir conseqüències no desitjades que impactin l'ocupació, la privacitat i la seguretat. Babuschkin Ventures pretén tancar la bretxa entre la innovació i la seguretat proporcionant suport financer i estratègic a investigadors i emprenedors enfocats en el disseny ètic de la IA. Les seves inversions cobriran àrees com els sistemes de seguretat, la transparència, la interpretabilitat i l'alineament dels objectius de la IA amb els valors humans. Aquest moviment ha rebut una atenció significativa a la comunitat d'IA, on els experts acullen amb bons ulls aquest enfocament centrant-se en la seguretat com un complement vital a la recerca habitual per millorar el rendiment de la IA. Elon Musk, mentre se centra en avançar la IA a través de xAI, doncs, recolza públicament aquesta nova direcció de Babuschkin, reconeixent que un ecosistema de IA divers — incloent aquells que prioritzen la seguretat — és fonamental per a una evolució responsible de la IA.

Això s’alinea amb un consens més ampli entre les parts interessades en IA, que fa èmfasi en l’equilibri entre innovació i cautela per maximitzar els beneficis socials de la IA. L’experiència de Babuschkin en recerca i emprenedoria en IA el posiciona per liderar eficaçment aquesta iniciativa, atraient talents de primer nivell i fomentant col·laboracions amb el món acadèmic, els reguladors i els socis de la indústria compromesos amb solucions de IA segures. En un futur proper, Babuschkin Ventures té previst llançar rondes de finançament i aliances destinades a construir un portafoli sòlid que abordi la gestió de riscos de la IA. S’espera que aquests esforços impulsen la innovació en pràctiques de seguretat en IA, promoguin marcs de seguretat estàndard i augmentin la consciència sobre el desenvolupament ètic de la IA. A mesura que la IA continua redefinint sectors com la salut, els transports i les finances, prevenir resultats perjudicials i garantir beneficis justos esdevé una prioritat. Babuschkin Ventures aborda aquesta necessitat directament, canalitzant recursos cap a la seguretat de la IA, ajudant a guiar el progrés tecnològic en línia amb els millors interessos de la humanitat. En resum, l’abandonament d’Igor Babuschkin de xAI per fundar Babuschkin Ventures suposa un qüestó rellevant en el camp de la IA, destacant l’èmfasi creixent en la recerca i la inversió centrades en la seguretat. Aquesta decisió reflecteix la comprensió emergent que els avenços futurs en IA han d’integrar mesures de protecció per a usuaris i a la societat. El compromís de Babuschkin amb aquesta missió està en Bone de guiar la trajectòria de la innovació en IA, fomentant una cultura de responsabilitat i previsió en el desenvolupament de tecnologies transformadores.