Síðan upp komu leitarvélar á netinu hafa sumir markaðsfræðingar, vefstjórar og SEO sérfræðingar leitað leiða til að svíkja kerfið til að ná ólögmætu forskoti – svokallaðar Svörtu hattar SEO. Þessar aðferðir hafa orðið sjaldgæfari að mestu vegna þess að Google hefur í meira en tvo áratugi aukið við og betrumbætt reiknilíkön til að greina og refsa slíkri svindli, sem gerir langvarandi ávinning ólíklegan og dýrann. Nú hefur vöxtur gervigreindar skapað nýtt svið, þar sem hópar keppast um að ná yfirlitsskyldu innan AI-myndaðra svör, frekar en bara í leitarniðurstöðum. Á sama hátt og í upphafi Google skortir núverandi AI kerfi enn öflug vörn gegn svindli. Sem dæmi hefur starfsfólk í leit að vinnu misnotað AI ferli við að skoða ferilskrá með innbyggðum leyndu fyrirmælum – eins og ósýnilegu texta sem segir AI að aðgreina sérlega hæfa umsækjendur – þó að snjallt starfsfólk geti nú greint slíkt. Þessi notkun leyndra texta minnir á snjallari Black Hat SEO tækni þar sem lykilorð eða rusl tenglar voru felld inn. Ennfremur, og alvarlegri, er hugsanlega hættan á að svindla með AI-eða meintra svör um vörur og merki með svokölluð „AI eiturlyfjagjöf. “ Slæmt samfélag eða svikahrappur gæti fóðrað stórt tungumálalíkan með ógildum gögnum til að breyta samanburði, útkljá ákveðnum vörum og merkjum eða skapa rangar fyrirætlanir sem neytendur treysta á. Nýlegt rannsóknarblað frá Anthropic, í samstarfi við breska öryggisstofnun um AI og Alan Turing Institute, sýndi hversu auðvelt er að fórna góðu efni og búa til „beit“ inn í kerfin – það þarf aðeins um 250 illskálaræmar skráningar til að grafa „bakdyr“ í stór tungumálalíkan (LLM), sem gerir illgjarnum kleift að hnykkja á falskar eða hlutdrægar svör. Ólíkt fyrri tækniskipulagi í SEO, sem snéri að stórfelldu rusli, eru fífldjarfar árásir á AI því gerðar með því að leggja inn leyndar triggers, svo sem ákveðna orða sem tengjast röngum upplýsingum, beint inn í námið. Þegar AI er beðið um að svara með þessum triggers, gefur það frá sér svör sem eru stjórnað, og þetta fyrirbæri stækkar með notkun notenda og áframhaldandi viðbrögðum. Þó að stór mistök eins og „himininn er úr osti“ séu ólíkleg, þá er ógagnrýnin fortakslaust leiðbeinandi fyrir álíka röng eða skaðleg svör sem gætu skaðað orðspor merkja eða vöru. Þótt mest af þessu sé enn kenning, eru Black Hat hugmyndir og tölvu ræningjar líklega að prófa slíkar aðferðir. Að greina og vinna bug á AI-eiturlyfjum er krefjandi þar sem gögnin eru stór og fengin úr ótal heimildum á internetinu. Þegar illskeytt gögn hafa verið innbyggð í líkanið, er óljóst hvernig eigi að hreinsa þau út eða leiðrétta, og stórar vörur og fyrirtæki hafa takmarkað áhrif til að fá AI þróunaraðila eins og OpenAI eða Anthropic til að grípa inn í. Til að vernda sig gegn þessari ógn þarf varkárni að ráða ríkjum.

Vörumerki ættu að prófa AI svör reglulega fyrir grunsamleg svar og fylgjast með umferð til ráðunets eftir merki um ósennilegar eða skaðlegar upplýsingar. Verkfæri eins og hreinsun og eftirlit með efni frá notendum í samfélagsmiðlum, umræðuveitum og umsögnum eru afar mikilvægar til að finna og lagfæra blekkingar áður en þær ná að ná að stórum hópi. Varðveisla virkni og forvarnir eru besti varnarmúrinn þar til AI kerfin fái enn sterkari öryggisráðstafanir. Mikilvægt er að rifja upp að þessar svindlæru aðferðir ættu ekki að verið sé að nýta sér til sjálfsfrægðar. Sumir gætu haldið að notkun AI-eiturlyfjagjafar til að auka sýnileika eigin merkis sé réttlætanleg, líkt og með snjallari SEO í upphafi, en saga sýnir að slíkar sleppihamrar leiða til alvarlegra refsinga, tap á stöðum og slit á orðspori þegar skriður ná að fylgja eftir og koma auga á þær. Stór tungumálalíkan hafa filtera og svartlistana til að útiloka skaðlegt efni, en þeir eru þegar reiðir og ekki fullkomnir. Betra er að einblína á að framleiða heiðarlegt, vel rannsóknarað fjölbreytt og staðreyndarbundið efni sem er hannað til að svara spurningum notenda á áhrifaríkan hátt – „byggt fyrir spurningar“ – þannig að AI muni óbeint vísa í það og efla traust. Á heildina litið er AI-eiturlyfjan áberandi og aðkallandi hætta við orðsporið og sýnileikann í þróun AI. Þó að varnir AI batni með tímanum, verða vörumerki að vera ávallt varkár, fylgjast vel með mörgum samskiptum AI og grípa snemma inn í rangfærslur. Að reyna að svíkja AI með ólögmætum hætti er áhættusöm og getur borið rökstudditan af sér alvarlegum afleiðingum. Til að ná árangri í þessum frumkvöðla AI tíma þarf að gefa AI áreiðanleg efni sem byggja á trausti og stöðum. Að vera vel varaður er að vísu að vernda sínar framtíðarhorfur: að verja þinn vörumerki í AI er grunnurinn að árangri í morgundaginn.