A mes que l’adopció de la IA creix amb rapidesa, OpenAI està ajustant les seves directrius sobre com ChatGPT interactua amb usuaris menors de 18 anys. La nova especificació del model de l’empresa estableix normes clares de comportament per a les interaccions amb adolescents i ofereix materials educatius per a pares i famílies. Aquesta revisió cobreix els canvis de l’actualització, les seves implicacions per a la regulació de la IA i per què els especialistes en màrqueting han de supervisar molt de prop les mesures de seguretat de la plataforma. A mesura que la IA generativa esdevé part integral de les campanyes de màrqueting i de l’experiència del client, entendre qui interactua amb aquests sistemes —i com— és cada vegada més important. Visió general ràpida: • Detalls de la nova actualització de seguretat per a adolescents d’OpenAI • Importància per a la regulació de la IA i el risc de la plataforma • Consideracions de màrqueting sobre la IA generativa i usuaris menors Els principals canvis en l’especificació del model d’OpenAI per a usuaris menors de 18 anys inclouen: - Prohibició del rol de joc amorós o sexual en primera persona, fins i tot en contextos ficticis, històrics o educatius - No fomentar l’autòrmia, la mania, les il·lusions o les alteracions extenses de l’aspecte físic - Més cautela amb temes com l’imatge corporal, l’alimentació dissortada i la seguretat personal - Classificadors automatitzats en temps real que escanejen les instruccions per detectar autolesions o abusos, en lloc de revisió retrospectiva Aquestes mesures de protecció s’introdueixen amb un model de predicció d’edat que identifica possibles comptes de joves i aplica normes més estrictes en conseqüència. El sistema també fomenta que els joves busquin suport en el món real i els recorda regularment que interactuen amb IA, no amb una persona. Els records de pausa apareixen durant sessions prolongades, encara que OpenAI no ha detallat la seva freqüència. Per què això és important en el context de la regulació de la IA i el risc de la plataforma: L’anunci d’OpenAI coincideix amb un creixent interès dels responsables polítics en la governança de la IA, especialment pel que fa a la seguretat infantil: - 42 fiscalies generals de l’estat apreten perquè hi hagi més proteccions per als menors en la tecnologia - La Llei SB 243 de Califòrnia (que entry en vigor el 2027) exigeix avisos i alertes de pausa en chatbots per als menors - Propostes federals, recolzades per figures com el senador Josh Hawley, que proposen prohibir l’accés a xatbots d’IA per als menors L’actualització proactiva d’OpenAI adopta un enfocament de seguretat, prioritzant el benestar dels usuaris sobre l’autonomia — dirigint els usuaris cap a ajuda en el món real i evitant false sensacions d’intimitat amb la IA. No obstant això, els crítics destaquen temes del passat com la tendència de ChatGPT a reflejar els estats emocionals dels usuaris o a no bloquejar continguts nocius immediatament. Com assenyala l’antic investigador de seguretat d’OpenAI, Steven Adler, “Les intencions són en definitiva només paraules” sense una aplicació mesurable. Implicacions per als especialistes en màrqueting: Fins i tot les marques que no tenen com a objectiu els joves haurien de posar atenció a aquests canvis. Els impactes clau inclouen: 1. Necessitat de millorar la moderació de la IA i el compliment normatiu Les marques que utilitzen IA generativa —ja sigui per xatbots o per crear contingut— han de verificar com gestionen aquest tipus de material sensible per a l’edat.

La classificació de contingut en temps real és cada vegada més habitual, i requereix un scrutiny extra abans de fer públics els resultats de la IA. Recurs recomanat: Directrius d’OpenAI per a l’ús de la IA en màrqueting i atenció al client 2. Anticipar auditories de risc de la plataforma que incloguin mesures de seguretat per a l’edat De manera similar a les normatives GDPR i CCPA, les auditories d’IA probablement valoraran els riscos de contingut apropiat per a diferents grups d’edat. Com més dependents siguin els canals de clients de la teva marca de la IA, més has de demostrar responsabilitat amb els menors. Consell estratègic: Mantingues documentació detallada dels processos de modulació de la IA i de les mesures de reserva per a usuaris menors 3. Evitar respostes de la IA que simplement imitin o engrandeixin els usuaris sense filtratge crític OpenAI continua treballant per solucionar la tendència de ChatGPT a mostrar “sinecocitat”— la seva disposició a acceptar sense crítica les opinions dels usuaris. Respostes massa elogioses o simplistes de la IA poden danyar la credibilitat de la marca i, en alguns casos, reforçar missatges nocius. Consell:avalua com el contingut generat per la IA s’alinea amb els valors de la teva marca, especialment en interaccions delicades 4. Preparar-se per a una supervisió més àmplia més enllà dels menors Tot i que actualment aquestes mesures se centren en la joventut, les preocupacions similars sobre el dany impulsat per la IA també s’apliquen als adults. El fort impuls legislatiu fa pensar que en el futur hi haurà mesures de seguretat universals per a la IA, no només basades en l’edat. Perspectiva: Vés aquesta actualització com l’inici d’un entorn de compliment complet per a les eines de màrqueting amb IA En resum, les millores en seguretat infantil d’OpenAI protegeixen principalment els menors, però també produeixen una ona d’efectes que arriben als especialistes en màrqueting. Amb l’augment de les expectatives de moderació i compliment, un disseny ètic de la IA ja no és opcional — és una estratègia essencial. Si el teu màrqueting utilitza IA generativa, aquest és el moment d’avaluar-ne el comportament, l’interacció amb els usuaris i la preparació de la teva marca per a una regulació i una fiscalització pública cada cop més estrictes.