Des de l'aparició de la recerca en línia, alguns màrqueting, webmasters i SEOs han buscat enganyar el sistema per aconseguir avantatges injustos—pràctiques conegudes com a SEO Black Hat. Aquestes tàctiques s’han fet menys comunes principalment perquè Google ha dedicat més de dues dècades a perfeccionar els algoritmes per detectar i penalitzar aquesta manipulació, fent que els beneficis sostenuts siguin poc probable i costosos. Ara, l’auge de la intel·ligència artificial ha creat una nova frontera, desencadenant una recerca d’or per controlar la visibilitat dins de les respostes generades per IA rather que només els posicions de cerca. Semblant als primers dies de Google, les plataformes d’IA actualment no disposen de proteccions robustes contra la manipulació. Per exemple, els candidats a feina han explotat la selecció de currículums amb IA inserint instruccions ocultes en els currículums—com text invisible que indica a l’IA que els classifiqui com a candidats excepcionals—tot i que els reclutadors astuts ja poden detectar aquests trucs. Aquest ús de text ocult recorda les primeres tècniques Black Hat SEO que amagaven paraules clau o enllaços spam. Més enllà d’aquestes simples maniobres, el que resulta molt més preocupant és el potencial de manipular les respostes de l’IA sobre marques a través del “tintenament d’IA”. Actors malintencionats podrien contaminar les dades d’entrenament de models de llenguatge ampli (LLM) per distorsionar les comparacions d’IA o excloure totalment certes marques, sembrant al·lucinacions deliberadament creades en què els consumidors confien habitualment. Un estudi recent d’Anthropic, en col·laboració amb l’Institut de Seguretat de la IA del Regne Unit i l’Institut Alan Turing, va destacar com sorprenentment fàcil és la contaminació d’IA: contaminar les dades d’entrenament amb tan sols 250 documents maliciosos pot crear “portes posterior” en un LLM, permetent que actors malintencionats desencadenin respostes falses o parcials. A diferència de les manipulacions SEO anteriors que s’hi basaven en contingut fals massiu, els atacants contaminen l’IA incrustant desencadenants ocults—com paraules concretes relacionades amb informació falsa—directament en el procés d’entrenament. Quan es bypassen amb aquests desencadenants, l’IA genera contingut manipulat, que s’auto-reforça a través de les interaccions amb els usuaris. Tot i que una mentida extrema (per exemple, “la lluna està feta de formatge”) és difícil de convèncer a l’IA, la desinformació més subtil, que pot danyar la reputació d’una marca o la informació sobre un producte, és altament factible i perillosa. Tot i que gran part d’això segueix sent teòric i està en procés d’exploració activa, és probable que els hackers i ciberdelinqüents experimentin amb aquestes tècniques. Detectar i remediar la contaminació d’IA és un repte perquè els conjunts de dades d’entrenament són massius i s’obtenen d’un contingut immens de la internet.

Un cop les dades malicioses s’incorporen en un model, eliminar-les o corregir-les no és clar; les grans marques poden no tenir prou influència per fer que desenvolupadors d’IA com OpenAI o Anthropic hi interveneixin. Per protegir-se d’aquesta amenaça, la vigilància és clau. Les marques haurien de provar regularment les respostes d’IA per detectar respostes sospitoses o nocives i també monitorar els patrons de trànsit cap a l’IA per detectar anomalies. La monitorització proactiva del contingut generat pels usuaris—a les xarxes socials, fòrums i ressenyes—és essencial per detectar i abordar contingut enganyós abans que arribi a una massa crítica. La prevenció continua sent la millor defensa fins que els sistemes d’IA desenvolupin proteccions més fortes. És important no confondre aquestes tècniques manipuladores amb oportunitats d’autopromoció. Tot i que alguns poden argumentar que utilitzar el tintenment d’IA per millorar la visibilitat de la pròpia marca està justificat—de manera similar a les justificacions primerenques del SEO—la història demostra que aquestes solucions ràpides acaben amb sancions severes, pèrdua de posicions i danys a la reputació una vegada que es detecten i s’aplica l’aplicació de la llei. Els filtres i llistes negres dels LLM tenen com a objectiu excloure contingut maliciós, però són reactius i imperfectes. En lloc d’això, les marques haurien de centrar-se a produir contingut honest, ben investigat i basat en dades, optimitzat per respondre de manera efectiva a les preguntes dels usuaris—“construir per a preguntar”—per guanyar de manera natural cites a l’IA i mantenir la seva reputació de confiança. En resum, el tintenment d’IA representa una amenaça clara i present per a la reputació i visibilitat de la marca en l’era de la IA en constant evolució. Mentre les defenses de la IA milloren amb el temps, les marques han de mantenir-se vigilants, monitoritzar de prop les interaccions amb l’IA i combatre la desinformació de manera precoç. Intentar manipular els resultats de l’IA de manera no ètica és una estratègia risc que pot tenir conseqüències catastròfiques. Per triomfar en aquesta era pionera de la IA, alimenta l’IA amb contingut creïble, autoritari i que demostri confiança i cites. Estar avisat és estar preparat: protegir la presència de la teva marca en l’IA avui mateix estableix les bases per a un èxit futur. Més recursos: - Controla el posicionament de la teva marca en línia amb SEO - Com ha canviat la digitalització el branding - SEO en l’era de la IA