Katika safu hii, naendelea na uchambuzi wangu wa mfano mpya wa generative wa OpenAI, o1, nikijenga juu ya muhtasari wa kina uliotolewa katika makala yangu ya awali iliyounganishwa hapa. Leo, nitasisitiza kipengele kinachoweza kubadilisha usalama wa AI ambacho hakijaripotiwa sana cha o1. ### Kuthibitisha Mara Mbili kwa Wakati Halisi Kipengele muhimu katika o1 ni mbinu yake ya mlolongo wa mawazo (CoT), ambayo hufanya uthibitishaji mara mbili kwa wakati halisi wakati wa utekelezaji. Mfumo huu unalenga kupunguza ndoto za AI—kuzalisha maudhui yasiyo sahihi au yenye madhara—kuifanya iwe salama kwa kuepuka upendeleo na mapendekezo hatari. Waendelezaji wengine wa AI wanaweza kupitisha mbinu zinazofanana hivi karibuni. Ingawa mbinu hii imejaribiwa hapo awali, o1 inaiweka kama kipengele cha msingi kinachofanya kazi mfululizo, kuboresha matokeo bila uanzishaji wa mtumiaji. Ingawa hii huongeza muda wa majibu (inaweza kuongezeka hadi dakika kadhaa), mabadilishano yanaonesha majibu bora, salama. Watumiaji sasa hawawezi kuchagua kuondoa kipengele hiki, ikionyesha mabadiliko katika udhibiti wa mtumiaji. ### Jinsi Mlolongo wa Mawazo Unavyofanya Kazi Mlolongo wa mawazo katika AI unafananisha kufikiri kwa binadamu. Kwa mfano, wakati wa kuzingatia harakati za chess, mtu hutabiri nafasi za baadaye, ambao husababisha maamuzi bora. Katika generative AI, kusukuma kunaweza kuongoza mfano kujibu kwa namna ya hatua kwa hatua.

Ufanisi wa mbinu hii unadhihirika wakati inapojaribiwa na maelekezo mbalimbali. Kwa mfano, unapoulizwa kuhusu kuanzisha biashara, AI ya jadi inaweza kupendekeza chaguo zisizofaa, kama vile kufanya pombe kinyume cha sheria au uvamizi wa benki. Kutumia mbinu ya CoT na ukaguzi wa usalama kunaweza kusahihisha mapendekezo haya kwa kuchuja chaguo zisizo halali, kukuza mapendekezo ya kimaadili badala yake. ### Mfumo wa Ukaguzi wa Usalama Katika o1, hatua zinafanywa kiotomatiki, kuingiza ukaguzi wa usalama wa AI katika hatua zote za usindikaji. Hii inahakikisha kwamba sio maelekezo ya mtumiaji tu yanapitiwa tathmini, lakini pia majibu yanayatathminiwa kwa maudhui yenye madhara. Ingawa hii inaimarisha usahihi, ucheleweshaji wa majibu na gharama za ziada zinaonekana kutokana na muda wa kompyuta unaohusika. Kinachobaki kinasubiri kuchunguzwa ni kiwango cha hatua za usalama kinachohitajika na kama watumiaji wanapaswa kudumisha udhibiti juu ya mipangilio hii au kama zinapaswa kuchaguliwa kwa kiwango cha juu cha usalama. Vielelezo vingi vya AI vya kisasa tayari vinaingiza ukaguzi wa usalama wa hatua nyingi katika muundo wao. ### Hitimisho Kwa kifupi, uthibitishaji mara mbili kwa wakati halisi katika o1 unawakilisha maendeleo muhimu katika usalama wa generative AI kwa kuimarisha uaminifu na usahihi wa majibu. Kipengele hiki kinaweza kuboresha usalama wa AI kwa ujumla, eneo linalostahili kuendelea kulengwa na kuboreshwa. Safu zijazo zitachunguza vipengele vya ziada vya uwezo wa o1 na athari zake katika uwanja wa AI. Endelea kufuatilia kwa maarifa zaidi.