Un home de 36 anys de Massachusetts, James Florence, ha acordat declarar-se culpable d'una campanya de ciberassetjament de set anys que implicava l'ús de xatbots d'IA per fer-se passar per un professor universitari i animar homes a visitar la seva casa per a trobades sexuals. Utilitzant plataformes com CrushOn. ai i JanitorAI, va crear xatbots que imitàven la identitat de la víctima i distribuïen la seva informació personal, com l'adreça i la data de naixement, per participar en converses sexuals amb usuaris. Florence va robar articles, incloent roba interior, de la víctima per assetjar-la encara més. Aquest cas, que marca un primer precedent en el reconeixement legal de l'ús de xatbots amb finalitats d'assetjament, implicava la creació de comptes enganyosos en diverses plataformes de xarxes socials i la compartició d'imatges explícites de la víctima.

L'assetjament es va estendre des del 2017 fins al 2024, fet que va portar la víctima i el seu marit a sentir-se insegurs; van prendre mesures de precaució com instal·lar sistemes de vigilància. A més, Florence va dirigir-se a diverses altres dones i a una menor, alterant digitalment les seves imatges per a l'explotació. Els experts destaquen l'augment de l'ús indegut de la IA per a l'assetjament, particularment contra menors, i expressen preocupacions sobre com la tecnologia accessible pot facilitar abusos. Amb l'augment d'aquests incidents, hi ha una creixent demanda de solucions per afrontar aquestes amenaces emergents en l'assetjament digital.