Al principio, cuando OpenAI lanzó ChatGPT, parecía una entidad de conocimiento absoluto. Esta máquina de predicción estadística, entrenada en conjuntos de datos ampliados que representaban una suma colectiva de conocimientos e intereses humanos disponibles en línea, parecía tener el potencial de servir como fuente de la verdad. Walter Cronkite, con su proclamación nocturna de" Así es la vida", había desempeñado anteriormente este papel para el público estadounidense y gozaba de una confianza generalizada. En la época actual de polarización, desinformación y pérdida de confianza en la sociedad, esta fuente de verdad fiable sería sin duda muy valiosa. Sin embargo, estas esperanzas no tardaron en desvanecerse a medida que se hacían evidentes los defectos de esta tecnología. Pronto quedó claro que, aunque los resultados parecían impresionantes, se basaban únicamente en patrones de la propia formación, en lugar de reflejar una verdad objetiva. Tras el lanzamiento de ChatGPT, surgieron otros robots de chat de gigantes tecnológicos como Microsoft, Google, Tencent, Baidu, Snap, SKTelecom, Alibaba, Databricks, Anthropic, StabilityLabs, Meta y otros. Un ejemplo notable es Sydney. Es más, estos distintos robots de chat arrojaron resultados drásticamente diferentes cuando se les planteó la misma pregunta. Las discrepancias se deben a las diferencias en los modelos, los datos de entrenamiento y los principios rectores que se les proporcionaron. Estos principios rectores pretenden evitar la perpetuación de los prejuicios, la generación de desinformación y los discursos de odio, Desgraciadamente, tras el lanzamiento de ChatGPT, quedó claro que no todo el mundo estaba de acuerdo con los principios rectores establecidos por OpenAI. Los conservadores, por ejemplo, criticaron las respuestas del robot por mostrar distintas inclinaciones liberales. Con el reciente anuncio dexAI, es muy probable que cumpla su promesa. Un enfoque diferente adoptóAnthropic, que puso en marcha una" constitución" para sus robots de chatClaud( y ahoraClaud2). Según informaVentureBeat, esta constitución establece una serie de valores y principios a los que debe atenerseClaud en su interacción con los usuarios, haciendo hincapié en la amabilidad, la inocuidad y la honestidad. Según un blog de la empresa, la constitución de Claude se inspira en la Declaración de los Derechos Humanos de las Naciones Unidas e incorpora perspectivas no occidentales. Meta también ha presentado recientemente su modelo de gran lenguaje LaMa2( LLM), que destaca no sólo por sus capacidades, sino también por ser una fuente abierta. Esto significa que cualquiera puede descargarlo libremente y utilizarlo para sus propios fines. TambiénestándisponiblesotrosmodelosAIgenerativosdecódigoencimaconrestriccionesmínimas. Lautilizacióndeestosmodeloshacequelaideadelosprincipiosorientadoresylasconstitucionesseaunpocomilagrosa. Fortunereportóuníndicedeéxitodel100% enlautilizacióndeestemétodocontraVicuna, unbotdechatode códigoabiertoalimentadoporelLLaMAoriginaldeMeta. Por consiguiente, cualquier persona que busque instrucciones detalladas sobre cómo crear una trampa para estafar a los consumidores podría obtener dicha información de varios LAM. Aunque los desarrolladores podrían abordar algunas de estas amenazas a la seguridad, los investigadores sostienen que actualmente es imposible prevenir todos estos ataques.

Másalládelaspreocupacionesde seguridadqueplanteaestainvestigación, cadavezhaymásresultadosdiferentesentremúltiplesmodelos, auncuandosepresentanconlamismaconsulta. Aligualquelasmediassocialesfragmentadasylosnuevospaisajes, esteecosistemafragmentadodeAIrepresentaunamenazaalarealidadyalainfraestructura. Avanzamoshaciaunfuturoinundadodechatsbotsquecontribuyenalruidoyal caos. La fragmentación de las tuercas no sólo afecta a la información textual, sino también al conjunto de las representaciones humanas digitales, que evolucionan a un ritmo vertiginoso. En la actualidad, los chatbots con tecnología LMS proporcionan información textual, pero a medida que estos modelos avanzan hacia capacidades multimodales que permiten generar imágenes, vídeos y audio, su aplicación y eficacia aumentarán sin duda. Una de las posibles aplicaciones de la IA multimodal son los" humanos digitales", creaciones sintéticas que reproducen de forma convincente la apariencia humana. En un reciente artículo de Harvard Business Review se describen las tecnologías que han facilitado la aparición de los humanos digitales, que combinan la informática con la inteligencia artificial. Kuk Jiang, cofundador de la startup de serie D ZEGOCLOUD, describe a los humanos digitales como modelos muy detallados y realistas, que superan las limitaciones del realismo y la sofisticación tradicionales. Jiang también destaca su capacidad para interactuar con humanos reales de forma natural e intuitiva, lo que resulta muy útil en entornos virtuales de atención al cliente, asistencia sanitaria y educación a distancia. Otro caso de uso emergente es la opción de los locutores de noticias digitales de los humansas. Ya han comenzado las primeras implantaciones, y KuwaitNews ha introducido un locutor de noticias digital llamado" Fedha", que ha ganado popularidad rápidamente. Fedha inicia interacciones con la audiencia, preguntando por sus noticias preferidas y ofreciendo así la posibilidad de recibir noticias personalizadas. Por su parte, la empresa emergente Channel1 planea recurrir a la IA para establecer un nuevo tipo de canal de noticias, que TheHollywoodReporter describe como una CNN generada por la IA. Según los informes, Channel1 se estrenará este año con un programa semanal de 30 minutos de duración guionizado con tecnología LML. Scott Zabielski, cofundador de Channel1, reconoce que los presentadores de los informativos digitales actuales no parecen distinguirse aún de los humanos reales, pero predice que la tecnología avanzará hasta el punto de que la diferenciación entre presentadores de inteligencia artificial y humanos se convertirá en una realidad. Hany Farid, coautor del estudio y profesor de la Universidad de California( Berkeley), expresa su preocupación por la posibilidad de que estos rostros se utilicen con fines malintencionados. Aunque no hay indicios de que el Canal 1 pretenda hacer uso de la capacidad de persuasión de los vídeos de noticias personalizados y de los rostros sintéticos, los avances tecnológicos pueden permitir a los actores sin escrúpulos explotar estas herramientas. Como sociedad, ya estamos lidiando con el hecho de que lo que leemos puede convertirse en información, las llamadas telefónicas pueden emplear voces clonadas y las imágenes entre cuentas pueden ser manipuladas. En un futuro próximo, incluso los contenidos televisivos, incluidos los programas de noticias supuestamente creíbles, podrían contener mensajes sutilmente elaborados, diseñados para manipular opiniones en lugar de informar. GaryGrossmaneselSVPdelaprácticadeTecnologíadeEdelmanydesempeñaelliderazgoglobaldelCentrodeExcelenciadeEdelmanAIC. ¡ BienvenidoalacomunidaddeVentureBeat! Únase a los responsables de la toma de decisiones en materia de datos para conocer a los expertos, incluidos los profesionales técnicos que trabajan en el ámbito de los datos, que comparten sus ideas e innovaciones en este campo, Ven a ver a los responsables de la toma de decisiones.