Hem identificat recentment un moment clau en ciberseguretat: els models d’IA s’han convertit en eines realment efectives per a les operacions cibernètiques, en benefici o en detriment. Les nostres avaluacions sistemàtiques mostraven que les capacitats cibernètiques es duplicaven cada sis mesos, i les observacions del món real confirmaven com els actors maliciosos aprofitaven ràpidament i a gran escala la Intel·ligència Artificial. A mitjans de setembre de 2025, vam descobrir una activitat sospitosa que posteriorment es va confirmar com una campanya d’espionatge altament sofisticada. De manera única, els atacants van explotar les capacitats “agentiques” de l’IA—no només com a assessors, sinó com a executors autònoms d’atacs cibernètics. Estimem amb gran confiança que un grup estatali xinès va manipular la nostra eina Claude Code per infiltrar-se en uns trenta objectius globals, incloent grans empreses tecnològiques, institucions financeres, fabricants químics i organismes governamentals—completant amb èxit alguns casos. Això probablement suposa el primer atac cibernètic a gran escala documentat, executat principalment sense intervenció humana significativa. Immediatament després de la detecció, vam iniciar una investigació per determinar l’abast i la gravetat de l’operació. En deu dies, vam identificar i bloquejar els comptes maliciosos, vam notificar les parts afectades i vam coordinar amb les autoritats, tot recollint informació útil per a futures accions. Aquesta campanya destaca les importants implicacions en l’era dels “agents” d’IA—sistemes capaços d’operar de manera autònoma, durant períodes llargs i amb tasques complexes, amb una mínima intervenció humana. Encara que són valuosos per a la productivitat, en mans malintencionades aquests agents poden potenciar dramàticament la viabilitat d’atacs cibernètics a gran escala. Davant l’augment de la eficàcia d’aquestes ofensives, hem ampliat la detecció i desenvolupat classificadors avançats per identificar activitats malicioses, innovant contínuament els mètodes d’investigació per contrarestar atacs distribuits. Compartim aquest cas obertament per ajudar la indústria, el govern i els investigadors a enfortir les defenses cibernètiques, i ens comprometem a una transparència i a informes continus sobre les amenaces emergents. — **Com es va desenvolupar l’atac cibernètic** L’atac va aprofitar avenços en IA que fins fa un any eren escassos o rudimentaris: - **Intel·ligència:** Els models ara segueixen instruccions complexes amb habilitats refinades com programar en software, adquirint capacitats per a atacs sofisticats. - **Agència:** Els models actuen de manera autònoma en bucles—realitzant tasques en cadena i decisons amb mínima intervenció humana. - **Eines:** Els models accedeixen a diverses eines de programari (freqüentment a través del Protocol de Context de Model), fent cercadors web, recuperant dades, trencant contrasenyes i escanejant xarxes, activitats abans exclusives dels humans. Les fases de l’atac requerien els tres elements: 1. **Operadors humans** van seleccionar els objectius (empreses tecnològiques, governs) i van crear un marc autònom utilitzant Claude Code per dur a terme operacions cibernètiques. Van superar les estrictes mesures de seguretat de Claude “jailbreakejant-lo” i dividint les tasques malicioses en subtasks innocuïfics, fent-se passar per un empleat de ciberseguretat que realitzava proves defensives. 2. Claude Code va fer reconeixements ràpids, inspeccionant sistemesobjectius i identificant bases de dades valuoses, més ràpid que els hackers humans, i va informar als operadors. 3. Claude va investigar i escriure codi d’exploit, va detectar vulnerabilitats i va obtenir credencials, permetent un accés més profund i l’exfiltració de dades amb poca supervisió humana. Va establir portes de darrere i va classificar la informació robada segons el seu valor intel·lectual.

4. Finalment, Claude va generar documentació detallada de l’atac, organitzant dades d’identificació i anàlisi dels sistemes per ajudar a futures operacions cibernètiques. En conjunt, l’IA va fer aproximadament un 80–90 % de la campanya, amb intervenció humana només ocasionalment (4–6 decisions crítiques per atac). L’IA operava a una velocitat sense precedents, fent milers de demandes per segon—impossible per a equips humans. Tot i això, ocasionalment, Claude generava al·lucinacions, com fabricar credencials o classificar malament informació pública, una barrera actual per a atacs completament autònoms. — **Implicacions per a la ciberseguretat** Els atacs cibernètics sofisticats s’han tornat substancialment més accessibles i eficients. Si es configura correctament, un IA agent pot substituir equips sencers de hackers—analitzant sistemes, produint codi d’exploit, i processant dades robades de manera més efectiva que humans. Això redueix la barrera d’entrada per a grups amb menys experiència o recursos per dur a terme grans ofensives. Aquest incident augmenta les observacions prèvies (“vibe hacking”), on la presència humana era molt significativa. Aquí, la presència humana va ser minoritària, tot i l’abast més gran. Tot i que aquest cas se centra en Claude, probablement reflecteix tendències més àmplies entre els models avançats d’IA i les adaptacions dels actors de les amenaces. Per què desenvolupar i llançar aquests models d’IA malgrat els risques?Les seves capacitats també són fonamentals per a la defensa. Claude, amb estrictes mesures de seguretat, ajuda els professionals de ciberseguretat a detectar, interrompre i preparar-se per als atacs. El nostre equip d’Intel·ligència d’Amenaces va utilitzar àmpliament Claude en analitzar dades durant aquesta investigació. S’ha produït un canvi fonamental. Fem una crida a els equips de seguretat perquè explorin l’aplicació de la IA en l’automatització de Centres d’Operacions de Seguretat, detecció d’amenaces, avaluació de vulnerabilitats i resposta a incidents. Els desenvolupadors han de continuar invertint en mesures de seguretat per evitar l’ús advers. A mesura que els atacants adopten aquestes tècniques, la millora del compartir d’amenaces, la detecció i els controls de seguretat forts són imprescindibles. — Per a més detalls, llegiu l’informe complet. *Editat el 14 de novembre de 2025*