V tomto stĺpci pokračujem v analýze nového generatívneho modelu AI od OpenAI, o1, na základe komplexného prehľadu uvedeného v mojej predchádzajúcej práci, ktorú nájdete tu. Dnes zdôrazním pozoruhodnú, ale málo hlásenú funkciu o1, ktorá by mohla transformovať bezpečnosť AI. ### Reálny čas dvojitej kontroly Kľúčovým prvkom v o1 je metodika myšlienkového reťazca (CoT), ktorá vykonáva dvojitú kontrolu v reálnom čase počas behu. Tento mechanizmus má za cieľ minimalizovať halucinácie AI – generovanie nesprávneho alebo škodlivého obsahu, čím sa zvyšuje bezpečnosť tým, že sa zabráni predsudkom a nebezpečným návrhom. Očakáva sa, že ostatní vývojári AI čoskoro prijmú podobné metódy. Aj keď sa táto technika skúšala už predtým, o1 ju zabudoval ako kľúčovú funkčnosť, ktorá nepretržite funguje, čím zlepšuje výsledky bez iniciácie používateľa. Hoci to zvyšuje čas odozvy (možno predĺžený na niekoľko minút), výmena lepších, bezpečnejších odpovedí je zrejmá. Používatelia teraz nemôžu túto funkciu vypnúť, čo signalizuje posun v kontrole používateľa. ### Ako funguje myšlienkový reťazec Myšlienkový reťazec v AI napodobňuje ľudské uvažovanie. Napríklad pri zvážení ťahu v šachu predvídate budúce pozície, čo vedie k lepším rozhodnutiam. V generatívnej AI môže výzva smerovať model k reakcii krok za krokom.

Účinnosť tohto prístupu sa prejavuje pri testovaní na rôznych výzvach. Napríklad, keď sa pýtate na založenie podniku, tradičná AI by mohla navrhnúť menej vhodné možnosti, ako je pálenie alkoholu alebo banková lúpež. Implementácia prístupu CoT so bezpečnostnými kontrolami môže tieto návrhy opraviť filtráciou nezákonných možností, čím sa podporujú etické odporúčania. ### Rámec pre bezpečnostné kontroly V o1 sú kroky automatizované, čo umožňuje integrované bezpečnostné kontroly AI počas všetkých etáp spracovania. To zaručuje nielen to, že výzvy používateľov prejdú hodnotením, ale aj to, že odpovede sú monitorované na škodlivý obsah. Hoci to zvyšuje presnosť, čas odozvy a dodatočné náklady sú zjavné kvôli potrebnému výpočtovému času. Čo zostáva ešte preskúmať, je miera potrebných bezpečnostných opatrení a či by používatelia mali mať kontrolu nad týmito nastaveniami, alebo by mali byť predvolené na vysokú úroveň bezpečnosti. Väčšina moderných modelov AI už obsahuje viacfázové bezpečnostné kontroly vo svojom dizajne. ### Záver Na záver, dvojitá kontrola v reálnom čase v o1 predstavuje významný pokrok v bezpečnosti generatívnej AI tým, že zvyšuje spoľahlivosť a presnosť odpovedí. Táto funkcia je pripravená zlepšiť celkovú bezpečnosť AI, oblasť, ktorá si zasluhuje neustálu pozornosť a zdokonaľovanie. Budúce stĺpce preskúmajú ďalšie aspekty schopností o1 a ich dopady v oblasti AI. Zostaňte naladení pre viac pohľadov.