En aquesta columna, continuo la meva anàlisi del nou model generatiu d'OpenAI, o1, basant-me en la visió general completa proporcionada en el meu article anterior enllaçat aquí. Avui, destacaré una característica notable però poc informada de l'o1 que podria transformar la seguretat de la IA. ### Comprovació doble en temps real Un element clau en o1 és la seva metodologia de cadena de pensament (CoT), que realitza una comprovació doble en temps real durant el temps d'execució. Aquest mecanisme té com a objectiu minimitzar les al·lucinacions de la IA, la generació de contingut incorrecte o nociu, fent-la més segura evitant biaixos i suggeriments perillosos. És probable que altres desenvolupadors d'IA adoptin aviat mètodes similars. Tot i que aquesta tècnica s'ha provat anteriorment, l'o1 l'incorpora com una funcionalitat bàsica que opera de manera contínua, millorant els resultats sense la necessitat d'iniciació per part de l'usuari. Tot i que això augmenta els temps de resposta (potencialment fins a diversos minuts), la contrapartida presenta respostes més bones i segures. Els usuaris ara no poden renunciar a aquesta característica, assenyalant un canvi en el control de l'usuari. ### Com funciona la cadena de pensament La cadena de pensament en IA imita el raonament humà. Per exemple, quan es considera un moviment d'escacs, es preveuen posicions futures, cosa que porta a millors decisions. En la IA generativa, el suggeriment pot guiar el model per respondre de manera gradual.

L'eficàcia d'aquest enfocament es fa evident quan es prova amb diversos suggeriments. Per exemple, quan es pregunta sobre començar un negoci, una IA tradicional podria suggerir opcions menys aconsellables, com la fabricació il·legal de licor o el robatori de bancs. Implementar un enfocament CoT amb comprovacions de seguretat pot rectificar aquestes suggeriments filtrant les opcions il·legals, fomentant recomanacions ètiques en canvi. ### Marc per a les comprovacions de seguretat En o1, els passos són automàtics, incorporant comprovacions de seguretat d'IA en totes les etapes de processament. Això garanteix no només que els missatges dels usuaris se sotmetin a avaluació, sinó també que les respostes es monitoren per contingut nociu. Tot i que això millora l'exactitud, es fan evidents els retards en les respostes i els costos addicionals a causa del temps de computació implicat. Queda per analitzar el grau de mesures de seguretat necessàries i si els usuaris han de mantenir el control sobre aquests paràmetres o si s'han de predeterminar a un nivell de seguretat alt. La majoria dels models d'IA moderns ja incorporen comprovacions de seguretat en diverses etapes en el seu disseny. ### Conclusió En resum, la comprovació doble en temps real en o1 representa un avenç significatiu en la seguretat de la IA generativa en millorar la fiabilitat i l'exactitud de les respostes. Aquesta característica està destinada a millorar la seguretat global de la IA, una àrea que mereix una atenció i refinament continus. Les properes columnes exploraran aspectes addicionals de les capacitats d'o1 i les seves implicacions en el camp de la IA. Estigueu atents per a més insights.