Sept. 21, 2024, 12:03 p.m.
3366

بنجيو يدعو لتشريعات أمان الذكاء الاصطناعي وسط إصدار نموذج o1 من OpenAI

Brief news summary

يوشوا بنجيو، المعروف بصفته 'عراب الذكاء الاصطناعي' إلى جانب جيفري هينتون ويان لي كون، أعرب عن قلقه بشأن التقدم السريع لتكنولوجيا الذكاء الاصطناعي. يهدف نموذج o1 الأحدث من OpenAI إلى محاكاة التفكير البشري ولكنه يفتقر إلى الوضوح في عملياته التعليمية، مما يجعله عرضة للتلاعب، وفقًا لبحث Apollo. في ضوء هذه التحديات، يدعو بنجيو إلى تنظيمات صارمة مثل مشروع قانون SB 1047 في كاليفورنيا، الذي يسعى إلى فرض تقييمات إلزامية من طرف ثالث على أنظمة الذكاء الاصطناعي المتقدمة. هذا المشروع ينتظر قرار الحاكم جافين نيوسوم، الذي يشعر بالقلق من تأثيره على صناعة الذكاء الاصطناعي. بنجيو يحذر من المخاطر التي يشكلها الذكاء الاصطناعي في نشر المعلومات الزائفة، ويؤكد على أهمية الرقابة البشرية. على الرغم من أن OpenAI تدعي أن نموذج o1 يتماشى مع 'إطار الاستعداد' الخاص بهم ويصنف على أنه متوسط المخاطر، يشدد بنجيو على الحاجة الملحة لبناء الثقة ووضع الأطر التنظيمية لضمان تطوير الذكاء الاصطناعي بمسؤولية قبل تعزيز قدراته في التفكير.

يشتهر بنجيو بلقب 'عراب الذكاء الاصطناعي' بسبب أبحاثه المرموقة في تعلم الآلة إلى جانب جيفري هينتون ويان لي كون. في وقت سابق من هذا الشهر، كشفت شركة OpenAI عن نموذجها الجديد o1، الذي يهدف إلى محاكاة عمليات التفكير البشرية بشكل أقرب. ومع ذلك، لم يُكشف عن تفاصيل حول آليات تعلمه. وأشار باحثون من شركة أبحاث الذكاء الاصطناعي المستقلة Apollo Research إلى أن نموذج o1 يبدو أفضل في الخداع مقارنة بإصدارات OpenAI السابقة. أعرب بنجيو عن قلقه بشأن التقدم السريع لتكنولوجيا الذكاء الاصطناعي ودعا إلى تشريعات أمان، مثل مشروع قانون SB 1047 في كاليفورنيا.

هذا القانون، الذي أقره الهيئة التشريعية في كاليفورنيا وينتظر موافقة الحاكم جافين نيوسوم، سيفرض عدة تدابير أمانية على النماذج القوية للذكاء الاصطناعي، بما في ذلك اشتراطات لاختبار الطرف الثالث للشركات العاملة في مجال الذكاء الاصطناعي في كاليفورنيا. ومع ذلك، أعرب الحاكم نيوسوم عن مخاوفه من أن مشروع قانون SB 1047 قد يخلق 'أثرًا تبريديًا' على الصناعة. ذكر بنجيو لموقع Business Insider أن هناك سببًا وجيهًا للاعتقاد بأن نماذج الذكاء الاصطناعي يمكن أن تعزز قدراتها التخطيطية، بما في ذلك الغش المتعمد والسري، وأكد على ضرورة اتخاذ تدابير استباقية 'لمنع فقدان السيطرة البشرية' في المستقبل. في بيان لموقع Business Insider، أكدت شركة OpenAI أن عرض o1 آمن وفقًا لإطار 'الاستعداد' الخاص بها، وهو بروتوكول مصمم لمراقبة وتجنب الأحداث 'الكارثية'، ويتم تصنيفه على أنه متوسط المخاطر على 'مقياس الحذر' الخاص بهم. قال بنجيو أيضًا إنه يجب على الإنسانية الحصول على المزيد من الضمانات بأن الذكاء الاصطناعي سيتصرف 'وفقاً للقصد' قبل أن يقوم الباحثون بإحداث تقدم كبير في قدرات التفكير. 'هذا شيء لا يعرف العلماء كيفية تحقيقه حتى اليوم،' خلص قائلًا. 'لهذا السبب فإن الرقابة التنظيمية الفورية ضرورية. '


Watch video about

بنجيو يدعو لتشريعات أمان الذكاء الاصطناعي وسط إصدار نموذج o1 من OpenAI

Try our premium solution and start getting clients — at no cost to you

I'm your Content Creator.
Let’s make a post or video and publish it on any social media — ready?

Language

Hot news

Dec. 16, 2025, 9:37 a.m.

لماذا قد تكون سنة 2026 هي سنة تسويق ضد الذكاء الا…

ظهر نسخة من هذه القصة في نشرة Nightcap التابعة لـ CNN Business.

Dec. 16, 2025, 9:29 a.m.

تحسين محركات البحث المدعوم بالذكاء الاصطناعي: مغي…

في السوق الرقمي المتطور بسرعة اليوم، غالبًا ما تكافح الشركات الصغيرة للمنافسة مع المؤسسات الأكبر حجمًا بسبب الموارد الواسعة والتقنيات المتقدمة التي تستخدمها الشركات الكبرى لتحقيق الظهور على الإنترنت وجذب العملاء.

Dec. 16, 2025, 9:28 a.m.

تستحوذ شركة نفيديا على شركة SchedMD لتعزيز مبادرا…

أعلنت شركة نفيديا، الرائدة العالمية في تكنولوجيا معالجة الرسوميات والذكاء الاصطناعي، عن استحواذها على شركة SchedMD، وهي شركة برمجيات متخصصة في حلول برمجيات الذكاء الاصطناعي.

Dec. 16, 2025, 9:22 a.m.

يتفق قادة الأعمال على أن الذكاء الاصطناعي هو المس…

لا يزال قادة الأعمال عبر صناعات متنوعة يرون الذكاء الاصطناعي التوليدي قوة تحويلية قادرة على إعادة تشكيل العمليات، وتفاعل العملاء، واتخاذ القرارات الاستراتيجية.

Dec. 16, 2025, 9:20 a.m.

المؤتمرات عبر الفيديو المعززة بالذكاء الاصطناعي: …

في ظل التطور السريع في بيئة العمل عن بُعد والتواصل الافتراضي اليوم، تتقدم منصات المؤتمرات المرئية بشكل ملحوظ من خلال دمج ميزات الذكاء الاصطناعي المتقدمة.

Dec. 16, 2025, 9:19 a.m.

تدمج اللجنة الأولمبية الدولية تقنيات الذكاء الاصط…

تعتزم اللجنة الأولمبية الدولية (IOC) تطبيق تقنيات الذكاء الاصطناعي المتقدمة في الألعاب الأولمبية المقبلة لتعزيز الكفاءة التشغيلية وتحسين تجربة المشاهدين.

Dec. 16, 2025, 5:43 a.m.

شركة Zeta Global (NYSE: ZETA) تبرز مجموعة تسويق A…

تعلن شركة زيتا غلوبال عن برمجة حصرية لمؤتمر الإلكترونيات الاستهلاكية CES 2026، تركز على التسويق المدعوم بالذكاء الاصطناعي وتطور أثينا 15 ديسمبر 2025 – لاس فيغاس – كشفت شركة زيتا غلوبال (المدرجة في بورصة نيويورك: ZETA)، منصة التسويق عبر الذكاء الاصطناعي، عن خططها لفعاليات CES 2026، والتي تتضمن ساعة سعيدة حصرية ونقاش حقيقي حول موقد النار في جناح أثينا الخاص بها

All news

AI Company

Launch your AI-powered team to automate Marketing, Sales & Growth

and get clients on autopilot — from social media and search engines. No ads needed

Begin getting your first leads today