Šajā slejā es turpinu savu analīzi par OpenAI jauno generatīvo AI modeli o1, balstoties uz visaptverošo pārskatu, kas sniegts manā iepriekšējā rakstā šeit. Šodien es izceļu ievērojamu, bet maz ziņotu o1 funkciju, kas varētu pārveidot AI drošību. ### Reāllaika dubultpārbaude Galvenais elements o1 ir tā domu ķēdes (CoT) metodoloģija, kas veic reāllaika dubultpārbaudi izpildes laikā. Šis mehānisms cenšas samazināt AI halucinācijas—nepareiza vai kaitīga satura ģenerēšanu—padarot to drošāku, izvairoties no aizspriedumiem un bīstamiem ieteikumiem. Citi AI izstrādātāji, visticamāk, drīzumā pieņems līdzīgas metodes. Lai gan šī tehnika jau agrāk tika izmēģināta, o1 to iekļauj kā pamatfunkciju, kas darbojas nepārtraukti, uzlabojot rezultātus bez lietotāju iniciācijas. Lai gan tas palielina atbildes laiku (potenciāli pagarinot līdz vairākām minūtēm), kompromiss piedāvā labākas un drošākas atbildes. Lietotāji tagad nevar izvēlēties atteikties no šīs funkcijas, norādot uz maiņu lietotāju kontrolē. ### Kā darbojas domu ķēde Domu ķēde AI atdarina cilvēku domu gaitu. Piemēram, domājot par šaha gājienu, tiek prognozētas nākotnes pozīcijas, pieņemot labākus lēmumus. Generatīvajā AI pieprasījumi var vadīt modeli, lai atbildētu soli pa solim.

Šīs pieejas efektivitāte kļūst acīmredzama, to pārbaudot ar dažādiem pieprasījumiem. Piemēram, jautājot par uzņēmējdarbības uzsākšanu, tradicionālais AI var ieteikt mazāk vēlamos variantus, piemēram, moonshining vai bankas laupīšanu. CoT pieejas ieviešana ar drošības pārbaudēm var izlabot šos ieteikumus, filtrējot nelikumīgās iespējas un veicinot ētiskus ieteikumus. ### Drošības pārbaudes ietvars In o1, soļi ir automatizēti, iekļaujot AI drošības pārbaudes visā apstrādes stadijās. Tas garantē ne tikai to, ka lietotāju pieprasījumi tiek novērtēti, bet arī atbildes tiek pārbaudītas uz kaitīgu saturu. Lai gan tas uzlabo precizitāti, atbildes kavējumi un paaugstinātas izmaksas kļūst acīmredzamas datorapstrādes laika dēļ. Kas vēl jāizvērtē, ir nepieciešamo drošības pasākumu līmenis un vai lietotājiem jāsaglabā kontrole pār šiem iestatījumiem vai ja tie būtu jādefinē augstā drošības līmenī. Lielākajai daļai mūsdienu AI modeļu jau ir vairāku posmu drošības pārbaudes iekļautas to dizainā. ### Secinājums Lai kopsavilkumu, reāllaika dubultpārbaude o1 pārstāv ievērojamu progresu generatīvajā AI drošībā, uzlabojot atbilžu uzticamību un precizitāti. Šī funkcija ir paredzēta, lai uzlabotu kopējo AI drošību, jomā, kas pelnījusi pastāvīgu uzmanību un pilnveidošanu. Turpmākajās slejās tiks apskatīti papildu aspekti o1 iespējām un tā ietekme AI jomā. Sekojiet līdzi vairāk ieskatu.