أوبن أيه آي تواجه انتقادات بسبب سرية تفكير نموذج الذكاء الاصطناعي 'ستروبري'
Brief news summary
كشفت أوبن أيه آي عن عائلة نماذج الذكاء الاصطناعي الجديدة 'ستروبري'، والتي تشمل o1-preview وo1-mini، بهدف تعزيز قدرات التفكير. التغيير الكبير في هذا الإصدار هو تثبيط أوبن أيه آي للمستخدمين من فحص العمليات الداخلية للنموذج. يشجع نموذج o1 على اتباع نهج حل المشكلات خطوة بخطوة مع الاحتفاظ بأساليبه طي الكتمان، مما يجذب متحمسي التكنولوجيا والقراصنة الراغبين في اختبار حدود النموذج. ولكن تحذر أوبن أيه آي من أن التحقيق في جوانب مثل 'تتبع التفكير' يخالف سياسات الخدمة. ينتقد النقاد، بما في ذلك خبير الاختراق ماركو فيغويروا، أن مثل هذه القيود يمكن أن تعيق البحث الحاسم حول سلامة النموذج. تدافع أوبن أيه آي عن موقفها بالقول إن الحفاظ على الأمان والمصالح التجارية يتطلب منع سوء الاستخدام. ومع ذلك، يعرب الخبراء في الصناعة عن قلقهم من أن نقص الشفافية قد يقوض الابتكار ويضر بالثقة داخل مجتمع الذكاء الاصطناعي. يحذرون من أن الأولوية للميزة التنافسية على الانفتاح قد تعرقل الحوار المثمر بشأن تطوير الذكاء الاصطناعي، مما يعيق التعاون والتقدم في هذا المجال.تتصرف شركة أوبن أيه آي بسرية كبيرة حول أحدث نماذج الذكاء الاصطناعي الخاصة بها من عائلة 'ستروبري'، خصوصاً فيما يتعلق بقدراتها على التفكير في نسختي o1-preview وo1-mini. منذ إصدارها الأسبوع الماضي، أرسلت الشركة رسائل تحذير للمستخدمين الذين يحاولون استكشاف كيفية عمل النموذج، وهو أمر لم يحدث مع النماذج السابقة مثل GPT-4o. تم تصميم نماذج o1 خصيصًا لاتباع منهجية حل المشكلات المنهجية قبل تقديم الإجابات. على الرغم من أن المستخدمين يمكنهم اختيار عرض عملية التفكير في ChatGPT، إلا أن أوبن أيه آي تتعمد إخفاء عملية التفكير الخام، مقدمةً فقط نسخة مفلترة تم إنشاؤها بواسطة ذكاء اصطناعي آخر. وقد أثار هذا النقص في الشفافية اهتمام القراصنة ومجموعات الاختراق الحمراء المتحمسين لاكتشاف عملية التفكير الأساسية من خلال تقنيات مثل كسر الأمان وحقن الأوامر. تم الإبلاغ عن بعض النجاحات المبكرة، لكن لم يظهر شيء حاسم.
في هذه الأثناء، تراقب أوبن أيه آي عن كثب المحاولات للتعمق في جانب التفكير، وتصدر تحذيرات للمستخدمين الذين يذكرون مصطلحات مثل 'تتبع التفكير'. وتم إبراز الانتهاكات التي تتعلق بتجاوز إجراءات الأمان، محذرةً من أن الانتهاكات المتكررة يمكن أن تؤدي إلى فقدان الوصول إلى النموذج. ينتقد بعض الأشخاص، مثل ماركو فيغويروا، أن هذه السياسات تعيق البحث المفيد حول سلامة النموذج. في منشور مدونة بعنوان 'تعلم التفكير مع LLMs'، تناقش أوبن أيه آي كيف أن مراقبة سلاسل التفكير المخفية يمكن أن تقدم رؤى حول عمليات النموذج. ومع ذلك، يعتقدون أن مشاركة هذه المعلومات مع المستخدمين يمكن أن تضر بتجربة المستخدم والميزة التنافسية. أعرب الباحث المستقل في مجال الذكاء الاصطناعي، سيمون ويلسون، عن قلقه بشأن نقص الشفافية، قائلاً إن هذا القرار يمنع المجتمع من الحصول على رؤى قيمة حول وظيفة النموذج. بشكل عام، تعكس الوضعية الحالية توترًا مستمرًا بين المصالح الملكية والمطلب بالشفافية في تطوير الذكاء الاصطناعي.
Watch video about
أوبن أيه آي تواجه انتقادات بسبب سرية تفكير نموذج الذكاء الاصطناعي 'ستروبري'
Try our premium solution and start getting clients — at no cost to you
I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?
Content Maker
Last news
The Best for your Business
Hot news
موجز السوق: كيف يعيد بائعو أمازون التفكير في تحسي…
تظل توجيهات أمازون العامة بشأن تحسين ذكر المنتجات لمساعدها التسوقي المدعوم بالذكاء الاصطناعي، روفوس، غير متغيرة، ولم تُقدم نصائح جديدة للبائعين.
تتعاون شركة أدوبي مع شركة رانواي لإدراج توليد الف…
كشفت شركة أدوبي عن تعاون يمتد لعدة سنوات مع شركة رانواي يدمج قدرات الفيديو التوليدي مباشرة في برنامج أدوبي فايرفايل، وبشكل تدريجي أعمق داخل مجموعة Creative Cloud.
شركة أنثروبي تسعى للسيطرة على ذكاء الأعمال باستخد…
شركة أنثروبيك، الرائدة في تطوير الذكاء الاصطناعي، أطلقت أدوات جديدة تهدف إلى مساعدة الشركات على دمج الذكاء الاصطناعي بسلاسة في بيئات العمل الخاصة بها.
إنسايليت يدمج الذكاء الاصطناعي في منصة إدارة علاق…
أطلقت شركة إنسايتلي، إحدى أبرز منصات إدارة علاقات العملاء (CRM)، "كوپيلوت"، روبوت محادثة مدعوم بالذكاء الاصطناعي يدمج الذكاء الاصطناعي التوليدي في نظامها لتعزيز إنتاجية المستخدم وتسهيل إدارة علاقات العملاء.
كوين تطلق ميزة المسرح الصغير للذكاء الاصطناعي الج…
كويين، الرائدة في تقنيات الذكاء الاصطناعي، كشفت عن ميزة المسرح الذكي الصغير الجديدة، مما يمثل تطورًا كبيرًا في تجارب المستخدم المدعومة بالذكاء الاصطناعي.
تشكّل مقاطع الفيديو العميقة المزيفة التي تُنتَج بواس…
لقد أدت التقدّم السريع في الذكاء الاصطناعي إلى ابتكارات مذهلة، ولا سيما تقنية الفيديوهات المزيفة العميقة (ديب فيك).
يان لكون من ميتا يهدف لتحقيق تقييم قدره 3.5 مليار…
يين ليكونون، باحث مشهور في مجال الذكاء الاصطناعي ووزير الذكاء الاصطناعي السابق في شركة ميتا، يطلق شركة ناشئة مبتكرة في مجال الذكاء الاصطناعي.
AI Company
Launch your AI-powered team to automate Marketing, Sales & Growth
and get clients on autopilot — from social media and search engines. No ads needed
Begin getting your first leads today
Your News is ready
Your article is ready
Lorem ipsum dolor sit amet consectetur adipisicing elit. Fuga dolor minus maiores. Aut vero expedita dicta, dolorem odit excepturi odio doloremque voluptatem repellat aliquam? Dolores nemo eum id pariatur! Nobis!
Generating video takes longer than text.
