Бұл бағанда мен OpenAI-дің жаңа генеративті AI моделі o1-ді талдауды жалғастырамын, осыған дейінгі мақаламда берілген кешенді шолуыма сүйене отырып. Бүгін мен o1-дің AI қауіпсіздігін өзгертуі мүмкін маңызды, бірақ аз хабарланған ерекшелігін айтамын. ### Нақты уақытта қайта тексеру O1-дегі маңызды элемент - ойлау тізбегі (CoT) әдістемесі, ол орындау кезінде нақты уақытта қайта тексеру жүргізеді. Бұл механизм AI елестеулерін, яғни дұрыс емес немесе қауіпті мазмұнды шығаруды азайтуды көздейді және қауіпсіз етеді, алдын-ала болжамсыз және қауіпті ұсыныстардан аулақ болу арқылы. Басқа AI әзірлеушілер бұл әдістерді жақын арада қабылдайды. Бұл техниканы бұған дейін сынап көргенімен, o1 оны негізгі функция ретінде енгізіп, үздіксіз жұмыс істейді, нәтижелерді пайдаланушының бастамасынсыз жақсартады. Бұл жауап беру уақыттарын ұзартады (бірнеше минутқа дейін созылуы мүмкін), бірақ бұл айырбас жақсы, қауіпсізірек жауаптар береді. Пайдаланушылар енді бұл функциядан бас тарта алмайды, бұл пайдаланушыларды басқаруда өзгерісті белгіледі. ### Ойлау тізбегі қалай жұмыс істейді AI-дегі ойлау тізбегі адам логикасын еліктетеді. Мысалы, шахмат қадамын қарастыру кезінде болашақ позицияларды болжайды, бұл жақсы шешімдер қабылдауға әкеледі. Генеративті AI-де нұсқаулар модельдің қадамдық түрде жауап беруіне ынталандыра алады.

Бұл тәсілдің тиімділігі оны әртүрлі нұсқаулармен сынағанда анық болады. Мысалы, бизнес бастау туралы сұрағанда, дәстүрлі AI аз тиімді опцияларды ұсынуы мүмкін, мысалы, заңсыз алкоголь өндіру немесе банк тонау. CoT әдісін қауіпсіздік тексерулерімен енгізу бұл ұсыныстарды түзетіп, заңсыз опцияларды сүзгіден өткізу арқылы этикалық ұсыныстарды дамытады. ### Қауіпсіздік тексерулері үшін құрылым O1-де қадамдар автоматтандырылған, AI қауіпсіздік тексерулерін өңдеу сатыларына біріктіру арқылы. Бұл пайдаланушы нұсқауларының бағаланатынын ғана емес, жауаптардың қауіпті мазмұнға мониторинг жасауы да қамтамасыз етеді. Бұл дәлдікті арттырады, бірақ жауаптардың кешігуі және есептеу уақытына байланысты шығындар да анық болады. Қандай қауіпсіздік шараларының дәрежелі қажеттілігі және пайдаланушылар бұл параметрлерді бақылауы немесе жоғары қауіпсіздік деңгейінде орнатылуы керек пе екендігі әлі де зерттелуі тиіс. Көптеген заманауи AI модельдері қазірдің өзінде көп сатылы қауіпсіздік тексерулерін олардың дизайндарында қамтиды. ### Қорытынды Қорытындылай келе, o1-дегі нақты уақытта қайта тексеру генеративті AI қауіпсіздігіне айтарлықтай жетістік болып табылады, жауаптардың сенімділігі мен дәлдігін арттырады. Бұл функция жалпы AI қауіпсіздігін жақсартуға дайын, бұл назар аудару және жетілдіру талап етіледі. Болашақ бағандар o1-дің мүмкіндіктерін және AI саласындағы оның әсерін одан әрі зерттейді. Көбірек түсініктер алу үшін тұрақты болыңыз.