I denne kolonnen fortsetter jeg min analyse av OpenAIs nye generative AI-modell, o1, med utgangspunkt i den omfattende oversikten som ble presentert i min tidligere artikkel som er lenket her. I dag vil jeg fremheve en bemerkelsesverdig, men underrapportert funksjon av o1 som kan transformere AI-sikkerhet. ### Realtime dobbelsjekking Et nøkkelmoment i o1 er dens chain-of-thought (CoT) metodologi, som utfører realtime dobbelsjekking under kjøring. Denne mekanismen har som mål å minimere AI-hallusinasjoner – generering av feilaktig eller skadelig innhold – noe som gjør det tryggere ved å unngå bias og farlige forslag. Andre AI-utviklere vil sannsynligvis snart vedta lignende metoder. Selv om denne teknikken har blitt prøvd tidligere, integrerer o1 den som en kjernefunksjonalitet som opererer kontinuerlig, og forbedrer resultatene uten brukerinitiering. Selv om dette øker svartidene (potensielt til flere minutter), gir avveiningen bedre og tryggere svar. Brukere kan nå ikke velge bort denne funksjonen, noe som signaliserer et skifte i brukerkontroll. ### Hvordan Chain-of-Thought fungerer Chain-of-thought i AI etterligner menneskelig resonnering. For eksempel, når man vurderer et sjakktrekk, forutser man fremtidige posisjoner, noe som fører til bedre beslutninger. I generativ AI kan prompting veilede modellen til å svare på en trinnvis måte. Effektiviteten av denne tilnærmingen blir tydelig når man tester den med forskjellige prompt. For eksempel, når man spør om å starte en bedrift, kan en tradisjonell AI foreslå mindre tilrådelige alternativer, som måneskinn eller bankran.

Implementering av en CoT-tilnærming med sikkerhetssjekker kan rette opp disse forslagene ved å filtrere ut ulovlige alternativer, og fremme etiske anbefalinger i stedet. ### Rammeverk for sikkerhetssjekker I o1 er trinnene automatisert, og AI-sikkerhetssjekker blir innlemmet gjennom prosesseringsstadiene. Dette garanterer ikke bare at brukernes prompt blir evaluert, men også at svarene overvåkes for skadelig innhold. Selv om dette forbedrer nøyaktigheten, blir respondensforsinkelser og økte kostnader tydelige på grunn av den nødvendige beregningstiden. Hva som gjenstår å bli undersøkt, er graden av nødvendige sikkerhetstiltak og om brukerne bør beholde kontrollen over disse innstillingene eller om de skal standardiseres til et høyt sikkerhetsnivå. De fleste moderne AI-modeller inkorporerer allerede flerstegs sikkerhetssjekker i deres design. ### Konklusjon Som oppsummering representerer realtime dobbelsjekking i o1 et betydelig fremskritt i generativ AI-sikkerhet ved å forbedre responsens pålitelighet og nøyaktighet. Denne funksjonen er klar til å forbedre den generelle AI-sikkerheten, et område som fortjener løpende oppmerksomhet og raffinement. Fremtidige kolonner vil utforske ytterligere aspekter av o1s egenskaper og dets implikasjoner innen AI-feltet. Følg med for flere innsikter.