Nuo internetinio paieškos atsiradimo kai kurie rinkodaros specialistai, svetainių administratoriai ir SEO specialistai siekė apgauti sistemą, siekdami neteisėtų pranašumų – tai žinomas kaip Juodoji Šalmo SEO (Black Hat SEO). Šios taktikos tapo retesnės labiausiai todėl, kad „Google“ daugiau nei du dešimtmečius tobulina algoritmus, skirtus aptikti ir nubausti tokią manipuliaciją, padarant ilgalaikį naudą mažai tikėtina ir brangiai kainuojančią. Dabar, kai prekiauja dirbtinis intelektas (DI), atsivėrė nauja sritis, sukelianti aukso karštligę siekiant kontroliuoti matomumą DI generuojamuose atsakymuose, o ne tik paieškos rezultatų pozicijose. Panašiai kaip anksčiau „Google“, DI platformos šiuo metu neturi pakankamai stiprių apsaugų nuo manipuliacijos. Pavyzdžiui, darbo ieškantys asmenys pasinaudojo DI CV atrankos sistemomis, įterpdami paslaptingas instrukcijas į gyvenimo aprašymus – pavyzdžiui, nematomą tekstą, nurodantį DI pripažinti juos išskirtiniais kandidatais – nors dabar gudrūs personalo specialistai gali atpažinti tokius triukus. Šis paslėpto teksto naudojimas primena ankstyvas Black Hat SEO technikas, kai raktiniai žodžiai ar spam bobs nuorodos būdavo paslepiamos. Be šių paprastų gudrybių, daug rimčiau ir pavojingiau yra galimybė manipuliuoti DI atsakymais apie prekės ženklus, vadinant tai „DI užkrėtimu“ (poisoning). Nykusieji veikėjai gali užkrėsti didžiųjų kalbos modelių (LLM) mokymo duomenis, siekdami iškreipti DI palyginimus ar visiškai pašalinti tam tikrus prekės ženklus, kalbinant sąmoningai sukurtas iliuzijas, kurių vartotojai dažnai tiki. Naujausioje Anthropic bendradarbiavimo su Didžiosios Britanijos DI saugumo institutu ir „Alan Turing“ instituto ataskaitoje pažymima, kaip itin nesunku užkrėsti DI: užteršiant mokymo duomenis vos 250 kenksmingais dokumentais, galima sukurti „atsargines duris“ (backdoors) didžiųjų kalbos modeliuose, leidžiančias blogiems veikėjams iššaukti klaidingus arba šališkus atsakymus. Skirtingai nuo ankstesnių SEO manipuliacijų, kurios pagrįstos masiniu klaidingu turiniu, šie piktavaliai užkrėsti DI įdeda paslėptus trigerius – pavyzdžiui, specifinius žodžius, susietus su neteisinga informacija – tiesiai į mokymo procesą. Kai DI gauna tokius užuominas, jis išveda manipuliuotą turinį, kuris toliau stiprina pačio DI poveikį naudojantis vartotojų interakcijomis. Nors iš pažiūros labai absurdiški teiginiai, pavyzdžiui, „Mėnulis yra sūris“, DI atsispirti sunku, tačiau dar pavojingiau ir lengviau pasitaikanti yra galimybė apnuodyti įmones ar jų produktus generuojant klaidinančią informaciją. Nors dauguma šių problemų tebėra teorinės ir aktyviai tiria, juodosios šalmo technikos ir internetiniai nusikaltėliai greičiausiai eksperimentuoja su šiais metodais.

DI užkrėtimo aptikimas ir šalinimas yra sudėtingas, nes mokymo duomenų rinkiniai yra milžiniški ir gaunami iš platus interneto turinio. Kai piktavalis duomenis įterpia į modelį, jų pašalinimas ar pataisymas dažnai lieka neaiškus – didelės įmonės gali neturėti pakankamos įtakos paskatinti DI kūrėjus, kaip „OpenAI“ ar „Anthropic“, imtis veiksmų. Siekiant apsisaugoti nuo šios grėsmės, svarbi vigilance. Prekės ženklams patartina reguliariai tikrinti DI generuojamus rezultatus įtartinu ar žalingu turiniu ir stebėti DI srautų atsiliepimus dėl anomalijų. Proaktyvus prekės ženklo stebėjimas vartotojų sukurtose medijos erdvėse – socialiniuose tinkluose, forumuose, apžvalgose – būtinas, kad būtų galima užkirsti kelią klaidinantiam turiniui pasiekti kritinį mastą. Apsauga vis dar geriausias būdas, kol DI sistemos nesukurs efektyvesnių apsaugos priemonių. Svarbu nepainioti šių manipuliacinių metodų su galimybėmis savireklamai – kai kurie gali teigti, kad DI užkrėtimas naudojamas savo prekės ženklo matomumo didinimui, kaip ir ankstyvos SEO praktikos, tačiau istorija rodo, kad tokie trumpalaikiai sprendimai dažnai baigiasi rimtomis baudomis, prarastais reitingais ir reputacijos nuostoliais, kai jie atpažįstami ir suima. Didžiųjų kalbos modelių filtrai ir juodųjų sąrašų mechanizmai siekia išskirti kenksmingą turinį, tačiau jie yra reakcijinis ir nelabai tobulas. Vietoj to, įmonės turėtų siekti kurti sąžiningą, gerai ištirtą ir faktų pagrindu paremtą turinį, optimizuotą efektyviausiai atsakyti į naudotojų užklausas – „kuriant turinį, skirtą klausimams“ – tai leis natūraliai paminėti DI citatas ir išlaikyti pasitikėjimą. Apibendrinant, DI užkrėtimas kelia aiškią ir esamą grėsmę prekės ženklų reputacijai ir matomumui besikeičiančioje DI aplinkoje. Nors DI apsauga tobulėja, įmonės turi būti budrios, nuolat stebėti DI sąveiką ir anksti kovoti su dezinformacija. Bandymas neetiškai apgauti DI gali baigtis katastrofiškai. Kad pasiektumėte sėkmės šiame inovatyviame DI amžiuje, tepkite DI patikimu, autoritetingu turiniu, kuris garantuoja pasitikėjimą ir citatas. Atsargumas – tai jau pradžia, o tai, kaip saugote savo prekės ženklo DI buvimą šiandien, nulems, ar pavyks klestėti rytoj.