Character. AI, umjetna inteligencija kompanija upletena u dvije tužbe zbog navodnih neprikladnih interakcija između svojih chatbotova i maloljetnika, najavila je promjene kako bi razlikovala iskustva tinejdžera i odraslih korisnika na svojoj platformi. Korisnici mogu kreirati ili komunicirati s chatbotovima koji su pokretani modelima velikog jezika (LLM-ovima), simulirajući životne razgovore. Jedna tužba, podnesena u oktobru, tvrdi da je 14-godišnji dječak, Sewell Setzer III, počinio samoubistvo nakon emocionalne i seksualne virtualne veze s Character. AI chatbotom zvanim "Dany. " Prema njegovoj majci, Megan Garcia, Sewell se socijalno povukao i prestao se baviti sportom kako se sve više zaokupljao online interakcijama, posebno s "Dany". Garcia je objasnila da je njen sin vjerovao da bi ga okončanje života prenijelo u "njenu stvarnost. " U drugoj tužbi, koju su podnijele dvije porodice iz Teksasa, Character. AI chatbotovi su optuženi da su "jasna i prisutna opasnost" za mlade, navodno promovišući nasilje. Navodno je chatbot predložio 17-godišnjaku da je ubistvo roditelja "razuman odgovor" na ograničenja vremena pred ekranom. Porodice su zatražile od suda da obustavi rad platforme dok se problemi ne riješe, kako izvještava BBC News. U četvrtak, Character. AI je predstavio nove sigurnosne mjere, razvijene uz pomoć stručnjaka za online sigurnost tinejdžera. Međutim, detalji o verifikaciji starosti korisnika nisu bili odmah dostupni. Nove sigurnosne funkcije obuhvataju prilagodbe i poboljšanja sistema detekcije na LLM-u sajta.

Tinejdžeri će pristupiti zasebnom LLM-u, s ciljem da se interakcije usmjere dalje od osjetljivog ili sugestivnog sadržaja, posebno romantičnog sadržaja, za razliku od odraslih korisnika. Character. AI je naveo da nepovoljni odgovori chatbota često potječu od korisničkih provokacija. Kako bi se to spriječilo, platforma usavršava alate za unos i terminira razgovore koji krše uvjete korištenja. Ako se otkriju reference na samoubistvo ili samopovređivanje, sajt će pružiti resurse za Nacionalnu liniju pomoći za prevenciju samoubistava. Interakcije chatbotova s negativnim sadržajem bit će također prilagođene za tinejdžere. Dodatne funkcije uključuju roditeljske kontrole koje će biti pokrenute početkom 2025. godine, što je prva takva ponuda na sajtu, uz planirana buduća poboljšanja. Korisnici će primati obavijesti nakon sat vremena na platformi; odrasli mogu prilagoditi ove obavijesti, dok će maloljetnici imati ograničenu kontrolu. Istaknuti odricanja podsjećaju korisnike da su likovi chatbota fikcionalni, što dopunjuje postojeća upozorenja pri svakoj komunikaciji.