در این ستون، من تحلیل خود را از مدل جدید تولیدی AI OpenAI، o1، ادامه می‌دهم و بر مبنای مرور جامعی که در مقاله قبلی خود ارائه داده‌ام بنا می‌کنم. امروز، به ویژگی قابل توجهی اما کم گزارش شده از o1 که می‌تواند ایمنی AI را تغییر دهد، اشاره خواهم کرد. ### دو بار بررسی در زمان واقعی عنصر کلیدی در o1 روش زنجیره افکار (CoT) آن است که در زمان اجرا، دوبار بررسی را انجام می‌دهد. این مکانیزم هدف دارد خطاهای AI، که شامل تولید محتوای نادرست یا مضر است، را به حداقل برساند و با جلوگیری از تعصبات و پیشنهادات خطرناک، آن را ایمن‌تر کند. احتمالاً دیگر توسعه دهندگان AI به زودی روش‌های مشابهی را اتخاذ خواهند کرد. اگرچه این تکنیک قبلاً نیز امتحان شده است، o1 آن را به عنوان یک عملکرد پایه که به صورت مداوم کار می‌کند و نتایج را بدون شروع کاربر بهبود می‌بخشد، ادغام کرده است. اگرچه این مسئله زمان پاسخگویی را افزایش می‌دهد (که ممکن است به چندین دقیقه برسد)، اما بهبود پاسخ‌ها و افزایش ایمنی را به همراه دارد. کاربران اکنون نمی‌توانند از این ویژگی چشم‌پوشی کنند که نشان‌دهنده تغییر در کنترل کاربر است. ### نحوه کار زنجیره افکار زنجیره افکار در AI مانند استدلال انسانی است. به عنوان مثال، هنگام بررسی یک حرکت شطرنج، فرد به موقعیت‌های آینده فکر می‌کند و به تصمیمات بهتری منجر می‌شود. در AI تولیدی، راهنمایی مدل به پاسخ‌دهی به صورت مرحله به مرحله می‌تواند مؤثر باشد.

اثر بخشی این رویکرد هنگام آزمودن آن با پرامپت‌های مختلف آشکار می‌شود. به عنوان مثال، وقتی پرسیده می‌شود که چگونه کسب و کاری را شروع کنید، AI سنتی ممکن است گزینه‌های نامناسبی مانند تولید غیرقانونی یا سرقت از بانک را پیشنهاد دهد. اجرای یک رویکرد CoT با بررسی‌های ایمنی می‌تواند این پیشنهادات را با فیلتر کردن گزینه‌های غیرقانونی تصحیح کند و توصیه‌های اخلاقی‌تری ارائه دهد. ### چارچوب برای بررسی‌های ایمنی در o1، مراحل به صورت خودکار انجام می‌شوند و بررسی‌های ایمنی AI در طول مراحل پردازش ادغام می‌شوند. این تضمین می‌کند که نه تنها پرامپت‌های کاربر ارزیابی شوند بلکه پاسخ‌ها نیز برای محتوای مضر نظارت شوند. اگرچه این مسئله دقت را افزایش می‌دهد، تأخیر در پاسخ و هزینه‌های اضافی به دلیل زمان محاسبات نیز مشهود هستند. آنچه باقی مانده تا بررسی شود، میزان تدابیر ایمنی مورد نیاز و اینکه آیا کاربران باید کنترل این تنظیمات را داشته باشند یا پیش فرض به سطح بالایی از ایمنی باشد. بیشتر مدل‌های مدرن AI از پیش طراحی خود بررسی‌های ایمنی چند مرحله‌ای را در طراحی خود دارند. ### نتیجه‌گیری به طور خلاصه، دوبار بررسی در زمان واقعی در o1 نمایانگر پیشرفت مهمی در ایمنی AI تولید شده است که دقت و قابلیت اطمینان پاسخ‌ها را افزایش می‌دهد. این ویژگی در حال بهبود کلی ایمنی AI است و نیاز به توجه مداوم و بهبود دارد. ستون‌های آینده جوانب بیشتری از قابلیت‌های o1 و تأثیرات آن در زمینه AI را بررسی خواهند کرد. برای بینش‌های بیشتر با ما همراه باشید.