Во оваа колумна, ја продолжувам мојата анализа на новиот генеративен модел на OpenAI, o1, надградувајќи се на сеопфатниот преглед обезбеден во моето претходно дело поврзано овде. Денес, ќе истакнам една значајна, но недоволно пријавена функција на o1 што би можела да ја трансформира безбедноста на ИИ. ### Двојна проверка во реално време Клучен елемент во o1 е неговата методологија на веригата на мисли (CoT), која врши двојна проверка во реално време при извршување. Овој механизам има за цел да ги минимизира халуцинациите на ИИ - креирање на неточна или штетна содржина - правејќи го побезбеден со избегнување пристрасности и опасни предлози. Други развивачи на ИИ веројатно ќе усвојат слични методи наскоро. Иако оваа техника беше пробана претходно, o1 ја вградува како основна функционалност што оперира континуирано, подобрувајќи ги резултатите без иницијатива од корисникот. Иако ова го зголемува времето на одговор (потенцијално до неколку минути), компромисот претставува подобри, побезбедни одговори. Корисниците сега не можат да се откажат од оваа функција, сигнализирајќи промена во контролата на корисниците. ### Како функционира веригата на мисли Верига на мисли во ИИ го имитира човечкото размислување. На пример, при разгледување на потег во шах, човек предвидува идни позиции, што води до подобри одлуки. Во генеративниот ИИ, поттикот може да го води моделот да одговори на чекорен начин.

Ефикасноста на овој пристап станува очигледна при тестирање со различни поттици. На пример, кога се поставува прашање за започнување бизнис, традиционалниот ИИ може да предложи помалку препорачани опции, како што се произведување нелегален алкохол или грабеж на банка. Имплементацијата на CoT пристап со безбедносни проверки може да ги поправи овие предлози со филтрирање на нелегални опции, поттикнувајќи етички препораки наместо тоа. ### Рамка за безбедносни проверки Во o1, чекорите се автоматизирани, вградувајќи безбедносни проверки на ИИ низ целиот процесирачки стадиум. Ова гарантира не само дека поттиците на корисниците се подложени на евалуација, туку и дека одговорите се следат за штетна содржина. Иако ова го подобрува точноста, видливи се доцнењата во одговорите и додадените трошоци поради времето на сметање. Останува да се испита степенот на потребните безбедносни мерки и дали корисниците треба да го задржат контролата врз овие поставувања или дали треба да бидат стандардно поставени на високо ниво на безбедност. Повеќето модерни модели на ИИ веќе вклучуваат многустепени безбедносни проверки во нивниот дизајн. ### Заклучок Во заклучок, двојната проверка во реално време во o1 претставува значаен напредок во безбедноста на генеративниот ИИ, подобрувајќи ја доверливоста и точноста на одговорите. Оваа функција е подготвена да ја подобри вкупната безбедност на ИИ, област што заслужува постојано внимание и надградба. Идните колумни ќе истражуваат дополнителни аспекти на способностите на o1 и неговите импликации во полето на ИИ. Останете со нас за повеќе сознанија.