Энэ буланд би OpenAI-ийн шинэ генератив AI загвар болох o1-ийн талаархи анализаа үргэлжлүүлэн, өмнөх нийтлэлд өгсөн бүх талын тоймыг үндэслэж байна. Өнөөдөр би o1-ийн нэгэн онцлогийг онцлон тэмдэглэж байна, энэ нь AI-ийн аюулгүй байдлыг өөрчлөх чадалтай. ### Бодит Цагийн Давхар Шалгалт O1-ийн гол элемент бол ажиллах явцад бодит цагийн давхар шалгалтыг гүйцэтгэх Сэтгэхүйн Gинжийн (CoT) аргачлал юм. Энэ механизм нь AI хуурмаг үзэгдэл (буруу эсвэл хортой агуулга үүсгэх)-ийг багасгахад чиглэгддэг бөгөөд энэ нь байгаль бус илэрхийлэл, аюултай саналтайгаар илэрхий байдлыг нэмэгдүүлэхгүйгээр аюулгүй болгож байна. Бусад AI хөгжүүлэгчид удахгүй адилхан аргуудыг нэвтрүүлэх магадлалтай. Энэ техник өмнө нь туршигдаж байсан хэдий ч o1-д энэ нь үндсэн функцээр байгалаар ажиллаж, хэрэглэгчдийн оролцоогүйгээр сайжруулсан үр дүнгүүдийг өгдөг. Хэдийгээр энэ нь хариу өгөх үедээ нэмэгдэх (нэлээд минут хүртэл нэмэгдэж болох) ч ач холбогдлын хувьд илүү аюулгүй хариултуудыг санал болгодог. Хэрэглэгчид энэ функцийг ашиглах боломжгүй болсон нь хэрэглэгчийн хураангуйд өөрчлөлтийг харуулж байна. ### Сэтгэхүйн Гинж хэрхэн ажилладаг AI-д сэтгэхүйн гинж нь хүний ​​сэтгэхүйн үйл явцыг дуурайдаг. Жишээ нь, шатрын нүүлийг бодоход, нэг нь ирээдүйн байршлыг урьдчилан таамаглаж, илүү сайн шийдвэр гаргадаг. Генератив AI-д хөтөлбөрлөгдөх нь загварыг үе шаттайгаар хариулахад чиглүүлдэг. Энэ аргачлалын үр нөлөө нь янз бүрийн асуултуудаар турших үед тодорхой болдог. Жишээ нь, бизнес эхлүүлэх талаар асуухад, уламжлалт AI нь хууль бус сонголтуудыг, жишээ нь сархад нэрэх эсвэл банк дээрэмдэхийг санал болгож магадгүй.

Аюулгүй байдлын шалгалттай CoT аргыг хэрэгжүүлэх нь эдгээр саналуудаас хууль бус сонголтуудыг шүүж, ёс зүйтэй зөвлөмжүүдийг өгч чаддаг. ### Аюулгүй байдлын шалгалтын хүрээ O1-д, алхмууд автоматжуулсан бөгөөд AI-ийн аюулгүй байдлын шалгалтууд боловсруулалтын үе шатуудад нэвтэрхийлэл хийсэн. Энэ нь зөвхөн хэрэглэгчдийн асуултуудыг үнэлэхээс гадна хариултуудыг хортой агуулгаас хянан шалгахад баталгаажуулна. Энэ нь үнэн зөвийг нэмэгдүүлдэг боловч хариу өгөх хугацаа болон зардлууд нэмэгдэх нь тодорхой болдог. Хамгийн их анхаарах ёстой зүйл бол аюулгүй байдлын арга хэмжээ авах хэмжээг төдий зүйл ба хэрэглэгчид эдгээр тохиргоонуудыг өөрчлөх боломжтой байх эсвэл өндөр аюулгүй байдлын түвшинд анхдагч байдлаар тохируулах ёстой эсэх. Орчин үеийн AI загварууд ихэнхдээ олон шатлалын аюулгүй байдлын шалгалтыг өөрсдийн дизайндаа идэвхжүүлсэн байдаг. ### Дүгнэлт Товчхон хэлэхэд, бодит цагийн давхар шалгалт нь o1-д генератив AI-ийн аюулгүй байдлыг сайжруулахад чухал ахиц дэвшил болж байна. Энэ функц нь хариултын найдвартай байдал болон үнэн зөвийг нэмэгдүүлж, AI-ийн аюулгүй байдлыг сайжруулахад чиглэгдсэн байдаг. Энэ хэсэг нь цаашдын анхаарал татахуйц судалгаа болон сайжруулалт шаардах чухал зүйл юм. Ирээдүйд o1-ийн боломжууд болон AI-ийн талбар дахь нөлөөг судлах болно. Илүү их ойлголтуудын төлөө үргэлжлүүлэн уншина уу.