A principios de este año, Ilya Sutskever, cofundador de OpenAI y ex jefe científico, llamó la atención tras dejar la compañía para iniciar su propio laboratorio de IA, Safe Superintelligence Inc. Aunque se ha mantenido alejado del foco mediático desde su partida, hizo una rara aparición pública en la Conferencia sobre Sistemas de Procesamiento de Información Neural (NeurIPS) en Vancouver el viernes. Hablando en el escenario, Sutskever declaró: "La pre-entrenamiento tal como la conocemos indudablemente terminará". Esto se refiere a la fase inicial del desarrollo de modelos de IA, donde un gran modelo de lenguaje aprende de enormes cantidades de datos no etiquetados, típicamente extraídos de internet, libros y otros materiales. "Hemos alcanzado el pico de datos y no habrá más. " Sutskever comentó que, si bien los datos actuales aún pueden impulsar el desarrollo de IA, la industria está agotando nuevas fuentes de datos. Esta limitación eventualmente requerirá un cambio en la forma en que se entrenan los modelos. Comparó la situación con los combustibles fósiles, señalando que, al igual que el petróleo, internet contiene una cantidad finita de contenido generado por humanos. Predijo que los modelos de próxima generación serán "agentes de maneras reales". Aunque Sutskever no definió este término durante su charla, generalmente se refiere a sistemas de IA autónomos capaces de realizar tareas, tomar decisiones e interactuar con software de manera independiente. Además de ser "agentes", Sutskever sugirió que los futuros sistemas de IA tendrán capacidades de razonamiento. A diferencia de la IA actual, que se basa principalmente en el reconocimiento de patrones, los futuros sistemas podrán procesar la información paso a paso de una manera más similar al pensamiento humano. Señaló: "Cuanto más razona un sistema, más impredecible se vuelve", comparando sistemas de alto razonamiento con IA avanzada en ajedrez, que puede ser impredecible incluso para los mejores jugadores humanos. "Comprenderán cosas a partir de datos limitados", agregó.

"No se confundirán. " Durante su charla, Sutskever comparó la escala de la IA con la biología evolutiva, destacando investigaciones que muestran diferencias en las proporciones de masa cerebro-cuerpo en distintas especies. Señaló que, si bien la mayoría de los mamíferos comparten un patrón de escala, los homínidos (antepasados humanos) muestran una pendiente distinta en escalas logarítmicas. Sugirió que la IA podría descubrir enfoques de escala nuevos más allá de los métodos de pre-entrenamiento actuales. Después de su charla, un miembro de la audiencia preguntó cómo crear mecanismos de incentivos para desarrollar una IA que le otorgue libertades similares a las que disfrutan los humanos. Sutskever reflexionó que, aunque estas son preguntas importantes, no tiene la confianza para responderlas de manera exhaustiva, pues podría requerir una "estructura gubernamental de arriba hacia abajo". Cuando el miembro de la audiencia propuso la criptomoneda, la sala se rió. "No siento que sea la persona adecuada para comentar sobre la criptomoneda, " dijo Sutskever. "Pero hay una posibilidad de que lo que describes suceda. En cierto sentido, no es un mal resultado final si tienes IAs que quieren coexistir con nosotros y tener derechos. Tal vez eso esté bien. . . Creo que las cosas son increíblemente impredecibles. Dudo en comentar, pero animo a la especulación. " Si trabajas en OpenAI y te gustaría discutir esto más a fondo, por favor contáctame de forma segura en Signal @kylie. 01 o por correo electrónico en kylie@theverge. com.