Šiame straipsnyje tęsiu naujojo generatyvaus OpenAI o1 modelio analizę, remdamasis ankstesniu išsamiu apžvalga. Šiandien pabrėšiu svarbią, bet mažai aptartą o1 funkciją, kuri galėtų pakeisti AI saugumą. ### Realus laiko dvigubas tikrinimas Pagrindinis o1 elementas yra jo minties sekos (CoT) metodika, atliekanti realaus laiko dvigubą tikrinimą vykdymo metu. Šis mechanizmas siekia sumažinti AI haliucinacijas – netikslių ar kenksmingų turinio generavimą, padarydamas jį saugesniu, vengdamas šališkumo ir pavojingų pasiūlymų. Kiti AI kūrėjai greičiausiai netrukus pradės naudoti panašius metodus. Nors ši technika buvo bandyta anksčiau, o1 ją integruoja kaip pagrindinę funkciją, veikiančią nuolat, be vartotojo įsikišimo, gerindama rezultatus. Nors tai pailgins atsakymo laiką (potencūriai iki kelių minučių), kompromisas suteikia geresnius, saugesnius atsakymus. Vartotojai dabar negali atsisakyti šios funkcijos, rodydami vartotojo kontrolės pokytį. ### Kaip veikia minties seka AI minties seka imituoja žmogaus mąstymą. Pavyzdžiui, svarstant šachmatų ėjimą, numatomi būsimi pozicijos, vedantys prie geresnių sprendimų. Generatyviame AI, paspaudus užklausą, modelis gali reaguoti etapais.

Šio metodo efektyvumas tampa akivaizdus, jį testuojant su įvairiomis užklausomis. Pavyzdžiui, klausiant apie verslo pradžią, įprastas AI gali pasiūlyti mažiau rekomenduotinas galimybes, tokias kaip mėnulio spinduliavimą ar banko apiplėšimą. Įgyvendinant CoT metodą su saugos patikrinimais, šie pasiūlymai gali būti ištaisyti, pašalinant nelegalius variantus ir skatindami etikos rekomendacijas. ### Saugumo patikrinimų sistema O1 modelyje žingsniai yra automatizuoti, integruojant AI saugos patikrinimus visuose apdorojimo etapuose. Tai garantuoja ne tik vartotojų užklausų įvertinimą, bet ir atsakymų stebėjimą dėl kenksmingo turinio. Nors tai padidina tikslumą, atsakymo vėlavimai ir padidėjusios išlaidos tampa akivaizdūs dėl reikalingo laiko skaičiavimams. Ką dar reikia ištirti, yra saugos priemonių laipsnis ir ar vartotojai turėtų išlaikyti kontrolę šiais nustatymais arba ar turėtų nustatyti aukštą saugos lygį kaip numatytąjį. Daugelis šiuolaikinių AI modelių jau įtraukia daugiapakopius saugos patikrinimus savo dizainuose. ### Išvada Apibendrinant, realaus laiko dvigubas tikrinimas o1 modelyje yra reikšmingas generatyvių AI saugumo pasiekimas, pagerinantis atsakymų patikimumą ir tikslumą. Ši funkcija siekiama pagerinti bendrą AI saugumą, kuriai reikalinga nuolatinė dėmesio ir tobulinimo kryptis. Būsimi straipsniai nagrinės papildomus o1 galimybių aspektus ir jo pasekmes AI srityje. Sekite daugiau įžvalgų.