U ovoj kolumni nastavljam svoju analizu novog generativnog AI modela OpenAI, o1, nadovezujući se na sveobuhvatan pregled koji sam ranije pružio ovde. Danas ću istaknuti značajnu, ali nedovoljno prijavljenu osobinu o1 koja bi mogla transformisati sigurnost AI. ### Dvostruka Provera u Realnom Vremenu Ključni element u o1 je metodologija lanca misli (CoT), koja obavlja dvostruku proveru u realnom vremenu tokom izvršavanja. Ovaj mehanizam ima za cilj minimizaciju AI halucinacija—generisanja netačnog ili štetnog sadržaja—čime se povećava sigurnost izbegavanjem pristranosti i opasnih sugestija. Očekuje se da će drugi developeri AI uskoro usvojiti slične metode. Iako je ova tehnika ranije isprobana, o1 je integriše kao osnovnu funkcionalnost koja kontinuirano radi, poboljšavajući rezultate bez inicijative korisnika. Iako to povećava vreme odgovora (potencijalno produžavajući se na nekoliko minuta), kompenzacija su bolji i sigurniji odgovori. Korisnici sada ne mogu da isključe ovu funkciju, što signalizira promena u kontroli korisnika. ### Kako Funkcioniše Lanac Misli Lanac misli kod AI oponaša ljudsko rasuđivanje. Na primer, prilikom razmatranja poteza u šahu, predviđaju se buduće pozicije, što dovodi do boljih odluka. U generativnom AI, prompti mogu voditi model da odgovara korak po korak.

Efikasnost ovog pristupa postaje očigledna prilikom testiranja sa različitim promptima. Na primer, kada se postavi pitanje o pokretanju biznisa, tradicionalni AI može predložiti manje poželjne opcije, kao što su proizvodnja mesečine ili pljačka banke. Implementacija CoT pristupa sa sigurnosnim proverama može ispraviti ove sugestije filtriranjem ilegalnih opcija, podstičući etičke preporuke. ### Okvir za Sigurnosne Provere U o1, koraci su automatizovani, integrirajući AI sigurnosne provere kroz sve faze obrade. Ovo garantuje ne samo da prompti korisnika prolaze evaluaciju, već i da su odgovori nadzirani zbog štetnog sadržaja. Iako se time poboljšava tačnost, kašnjenja u odgovorima i dodatni troškovi postaju očigledni zbog vremena potrebnog za obradu. Ono što treba dalje ispitati je stepen potrebnih sigurnosnih mera i da li korisnici treba da zadrže kontrolu nad ovim podešavanjima ili treba da budu podrazumevano postavljeni na visok nivo sigurnosti. Većina modernih AI modela već uključuje višestepene sigurnosne provere u svom dizajnu. ### Zaključak U zaključku, dvostruka provera u realnom vremenu kod o1 predstavlja značajan napredak u sigurnosti generativnog AI povećavajući pouzdanost i tačnost odgovora. Ova funkcija je spremna da poboljša celokupnu sigurnost AI-a, što je oblast koja zaslužuje stalnu pažnju i usavršavanje. Buduće kolumne će istraživati dodatne aspekte mogućnosti o1 i njegovih implikacija u polju AI. Ostanite uz nas za više uvida.