Al elegir hacer clic en "Registrarse", reconoces y aceptas nuestros Términos de Servicio y Política de Privacidad. Tienes la opción de cancelar la suscripción en cualquier momento. Mantente actualizado sobre tus temas preferidos a través de un feed personalizado mientras estás en movimiento. Descarga nuestra aplicación. Únete a nosotros para recibir actualizaciones diarias sobre las últimas noticias en los mercados, tecnología y negocios. Obtén un adelanto leyendo nuestra vista previa. Las recientes salidas importantes en OpenAI han generado preguntas sobre el futuro de la compañía y si Sam Altman planea llenar estos puestos con nuevos miembros del personal. Sin embargo, este no es un desarrollo positivo para aquellos que están preocupados por los impactos negativos de la inteligencia artificial. El martes, el cofundador de OpenAI y científico jefe, Ilya Sutskever, anunció su salida de OpenAI, declarando que fue un honor y un privilegio trabajar junto a Altman y el equipo. Sutskever expresó confianza en la capacidad de OpenAI para desarrollar una inteligencia artificial general (AGI) segura y beneficiosa. Este artículo está exclusivamente disponible para los suscriptores de Business Insider.

Conviértete en un miembro para acceder a la historia completa. Otra salida significativa provino de Jan Leike, otro ejecutivo de alto rango en OpenAI. Leike confirmó su renuncia a OpenAI con una breve declaración: "Renuncié". Leike y Sutskever lideraron el equipo de superalineación en OpenAI, el cual ha experimentado otras salidas en los últimos meses. OpenAI enfatizó la necesidad de avances científicos y técnicos para garantizar el control sobre los sistemas de IA que superen la inteligencia humana en una publicación en su sitio web fechada el 5 de julio de 2023. Para abordar este problema en un plazo de cuatro años, formaron un nuevo equipo co-liderado por Sutskever y Leike, dedicando una cantidad significativa de recursos informáticos a este esfuerzo. Vale la pena mencionar que su trabajo buscaba asegurar que los sistemas de IA altamente inteligentes se alinearan con la intención humana, como lo reconoció OpenAI en su publicación de julio de 2023. "Actualmente, no tenemos una solución para guiar y controlar una IA potencialmente superinteligente para evitar que se desvíe de nuestras intenciones. Nuestras técnicas actuales de alineación de IA, como el aprendizaje por refuerzo a partir de retroalimentación humana, dependen de la supervisión humana, lo cual no es aplicable a una AI superinteligente. Necesitamos nuevos avances científicos y técnicos". Leike, quien anteriormente trabajó en DeepMind de Google, expresó una firme determinación de proteger a la humanidad de los riesgos que plantea una IA superinteligente en un episodio del podcast "80, 000 Horas" en agosto de 2023. En su plataforma Substack, Leike esbozó posibles soluciones al problema de alineación, cuando los sistemas de IA actúan en contra de las intenciones humanas, y los pasos necesarios para abordarlo. "Aunque es posible que una solución completa al problema de alineación se encuentre dentro del ámbito de los problemas que los humanos pueden resolver, también es posible que esté fuera de nuestro alcance. En lugar de apuntar a un objetivo ambicioso que pueda ser inalcanzable, podemos buscar un objetivo menos ambicioso, un producto mínimo viable de alineación, construyendo un sistema de IA que esté suficientemente alineado y acelere la investigación de alineación para sistemas de IA más avanzados". Business Insider se puso en contacto con Sutskever, Leike y los representantes de OpenAI para obtener comentarios fuera del horario comercial regular, pero no respondieron de inmediato.