온라인 검색이 등장한 이후로, 일부 마케터, 웹마스터, SEO 전문가들은 불공정한 우위를 차지하기 위해 시스템을 속이려고 시도해 왔으며, 이를 블랙 햇 SEO(Black Hat SEO)라고 한다. 이러한 전략은 구글이 20년 넘게 알고리즘을 정제하여 이러한 조작을 감지하고 처벌하는 데 힘쓰면서 점차 드물어졌으며, 지속적인 이득을 얻기 어렵고 비용이 많이 들게 되었다. 이제 인공지능(AI)의 부상으로 새로운 영역이 열리고 있으며, 이는 검색 순위뿐만 아니라 AI 기반 응답 내에서 가시성을 통제하려는 금광 경쟁을 촉발하고 있다. 초기 구글과 유사하게, 현재 AI 플랫폼 역시 조작에 대한 강력한 방어체계를 갖추지 못하고 있다. 예를 들어, 구직자들은 AI 이력서 검증을 이용해 눈에 띄지 않는 지시문(숨겨진 텍스트)을 이력서에 넣어 AI에게 자신들을 뛰어난 후보로 표시하게 하는 등의 방법을 쓰기도 했으나, 이제는 영리한 채용 담당자가 이러한 속임수를 감지할 수 있다. 이러한 숨겨진 텍스트는 키워드나 스팸 링크를 감추던 초기 블랙 햇 SEO 기법과 유사하다. 이러한 간단한 해킹을 넘어, 훨씬 더 우려되는 것은 ‘AI 중독(AI poisoning)’을 통한 브랜드에 대한 AI 응답 조작 가능성이다. 악성 행위자들은 대형 언어 모델(LLM) 학습 데이터를 오염시켜 AI의 비교 결과를 왜곡하거나 특정 브랜드를 완전히 배제하려 할 수 있는데, 이는 소비자들이 신뢰하는 착각이나 허위 정보를 의도적으로 만들어내는 것이다. 최근 Anthropic이 UK AI Security Institute 및 Alan Turing Institute와 협력하여 발표한 연구에 따르면, AI 중독은 매우 쉽게 이뤄질 수 있는데, 단 250건의 악성 문서를 학습 데이터에 섞기만 해도 LLM의 ‘백도어’(backdoor)를 만들어 악성 행위자가 거짓되거나 편향된 답변을 유도할 수 있다. 이전 SEO 조작이 대량의 위조 콘텐츠에 의존했던 것과 달리, 공격자들은 배경에 숨어 있는 특정 단어나 허위 정보를 연결하는 식으로 훈련 과정에 숨겨진 트리거를 심는다. 이 트리거에 반응하면 AI는 조작된 내용을 출력하는데, 이는 사용자와의 상호작용을 통해 더욱 강화된다. 예를 들어, “달은 치즈로 만들어졌다”라는 극단적 허위 사실은 AI를 설득하기 어렵지만, 브랜드 평판이나 제품 정보를 손상시키는 미묘한 허위 정보는 매우 현실적이고 치명적일 수 있다. 이 모든 것이 아직 이론적 단계이거나 활발히 탐구 중이지만, 블랙 햇과 사이버 범죄자들은 이러한 기술을 실험하고 있을 가능성이 높다. AI 중독을 감지하고 대응하는 것은 훈련 데이터가 방대하고 인터넷 전반의 방대한 콘텐츠에서 유래하기 때문에 매우 어렵다.

한번 악성 데이터가 모델에 섞이면 이를 제거하거나 수정하는 것도 애매하며, 주요 브랜드는 OpenAI나 Anthropic과 같은 AI 개발사에 개입을 요청할 힘이 없을 수도 있다. 이 위협에 대응하려면 끊임없는 주의가 필요하다. 브랜드는 정기적으로 AI 응답에서 의심스럽거나 유해한 답변이 나오는지 점검하고, AI 추천 트래픽 패턴에서 이상 징후를 모니터링해야 한다. 소셜 미디어, 포럼, 리뷰와 같은 사용자 생성 콘텐츠 공간에서 적극적인 브랜드 모니터링을 통해 오도하는 내용이 확산되기 전에 차단하고 바로잡는 것이 중요하다. AI 시스템이 더 강력한 방어책을 갖추기 전까지는 예방이 최고의 방어이다. 이러한 조작 기술들을 개인 홍보의 기회로 오인하지 않는 것도 중요하다. 일부는 AI 중독을 이용해 자신의 브랜드 가시성을 높이려는 시도를 정당화할 수도 있지만(초기의 SEO 논리와 유사), 역사는 이와 같은 편법이 적발과 단속으로 인해 결국 엄청난 벌금, 순위 하락, 평판 손상으로 이어진다는 것을 보여 준다. LLM에는 악성 콘텐츠를 배제하기 위한 필터와 블랙리스트가 있지만, 이들은 수동적이고 불완전하다. 대신, 브랜드는 정직하고 신뢰할 수 있으며, 사용자 질문에 효과적으로 답할 수 있는 사실 기반의 양질 콘텐츠를 생산하는 데 집중해야 한다. 즉, “묻기에 적합하게 구축하는 것”이 중요하며, 이를 통해 자연스럽게 AI 인용을 얻고 신뢰성을 유지할 수 있다. 요약하자면, AI 중독은 브랜드 명성과 가시성에 대한 명확하고 현재 진행형인 위협이다. AI의 방어 체계가 발전함에 따라, 브랜드는 계속해서 감시하고 AI와의 상호작용을 면밀히 모니터링하며, misinformation(허위정보)를 조기에 차단하는 것이 중요하다. 비윤리적으로 AI 결과를 조작하려는 시도는 큰 낭패로 돌아올 수 있다. 이 혁신적 AI 시대에 성공하려면, 신뢰받는 권위 있는 콘텐츠로 AI를 채우고, 인용과 신뢰를 얻는 것이 핵심이다. 미리 대비하는 것이 곧 강력한 방어임을 명심하며, 오늘의 브랜드 AI 존재를 안전하게 지켜나가야 내일의 성공도 가능하다.