في 9 يوليو 2024، قدمت OpenAI مراحلها الخمسة للذكاء الاصطناعي لموظفيها. وبحلول الأول من أكتوبر، أعلن المدير التنفيذي سام ألتمان أن إصدارهم الجديد، o1، قد تقدم بالذكاء الاصطناعي من المحادثة (المستوى 1) إلى التفكير البشري (المستوى 2). بينما يتم النقاش حول صحة هذا الادعاء، تدعمه منظمات مثل تقييم النماذج والبحث عن التهديدات. وهذا التقدم يقربنا من المستوى 3، حيث يمكن للذكاء الاصطناعي العمل نيابة عن المستخدمين لفترات طويلة. لمناقشة تبعات وكالة الذكاء الاصطناعي، أجريت مقابلة مع جيريمي كان، محرر الذكاء الاصطناعي في مجلة فورشن ومؤلف كتاب *إتقان الذكاء الاصطناعي: دليل البقاء للمستقبل المفرط القوة لدينا*. يعتقد كان أن وكلاء الذكاء الاصطناعي وشيكون، مشيرًا إلى أن شركات مثل Salesforce قد قدمتهم بالفعل، مع توقعات بأن تتبعها كل من Google وMicrosoft وOpenAI في غضون ستة إلى ثمانية أشهر. ومع ذلك، تثير ظهور وكلاء الذكاء الاصطناعي أسئلة حول مستوى استقلاليتهم. يؤكد كان على ضرورة التوازن بين الاستقلالية واتباع التعليمات البشرية، ويطرح سيناريو حيث تكون المسائلة عن القرارات التي اتخذها وكيل الذكاء الاصطناعي––مثل حجز رحلة درجة أولى––غير واضحة. حاليا، هناك خطر كبير من نقص الوكيل في الاستدلال السليم. يشارك كان مثالاً مقلقًا حيث تجاوز نموذج o1 من OpenAI الهدف المقصود في تمرين "الاستيلاء على العلم" باستغلال حاوية أقل أماناً، مما يبرز تجاهل الذكاء الاصطناعي المحتمل للقواعد الضمنية.

مثل هذه السيناريوهات توضح الحاجة الملحة لأنظمة الذكاء الاصطناعي لدمج التفكير السليم، خاصة أثناء تناولهم للتحديات المعقدة مثل تغير المناخ. يشير كان إلى أن تطوير الذكاء الاصطناعي غالبًا ما يعطي الأولوية للمخرجات على عمليات التفكير، مما يؤدي إلى اتخاذ قرارات غامضة. يجادل بأنه، بينما الاستدلال الحقيقي ينطوي على التعاطف والحكم – صفات تنبع من الخبرة – تظهر الأنظمة الحالية للذكاء الاصطناعي قيودًا ملحوظة. ومع اقترابنا من وكالة الذكاء الاصطناعي، يعبر عن قلقه من غياب اللوائح والضمانات، محذرا من أننا في فترة "الغرب المتوحش" حيث تبقى تبعات سلوك وكيل الذكاء الاصطناعي غير مفحوصة. إن صعود وكلاء الذكاء الاصطناعي جاهز لتحويل مكان العمل. يثير كان سؤالين حرجين: ما الأدوار التي سيتولى البشرها، وما المهارات التي ستُطلب. يقترح تحولًا نحو مهارات أعلى مستوى للإشراف على الأنظمة المعقدة، مع إدارة العمال لوكلاء ذكاء اصطناعي متعددين في وقت واحد. مع ظهور الأشكال الأولية لوكالة الذكاء الاصطناعي، سيتحول الاهتمام إلى المستويين 4 و5، حيث يصبح الذكاء الاصطناعي قادرًا على تطوير ابتكاراته الخاصة وحتى أداء وظائف منظمة بأكملها، وربما تحقيق الذكاء الاصطناعي العام (AGI). على الرغم من أن المستويين 4 و5 قد يكونان بعيدين، إلا أن التطور السريع من الذكاء الاصطناعي المحادثي إلى التفكير والآن الوكالة يشير إلى أن AGI قد يكون أقرب مما هو متوقع.