تهدف شركات الذكاء الاصطناعي إلى إحداث تحول كبير في عالمنا من خلال تطوير آلات يمكنها تجاوز الذكاء البشري، مما يثير تغييرات اقتصادية كبيرة. وصف سام ألتمان، الرئيس التنفيذي لشركة OpenAI، هذا الجهد بأنه خلق شكل من أشكال "الذكاء السحري في السماء" المسمى بالذكاء الاصطناعي العام. يقترح ألتمان أن الذكاء الاصطناعي العام يمكن أن يقوض الرأسمالية وقد يمثل تهديدًا كبيرًا لوجود البشرية المستمر. يثير سؤال حيوي: هل وافق أحد بالفعل على هذا النوع من الذكاء الاصطناعي؟ يثير هذا مخاوف بشأن حق عدد قليل من قادة التكنولوجيا في إعادة تشكيل العالم دون استشارة عامة. يزعج الافتقار إلى المشاركة الديمقراطية في خلق تقنيات يمكن أن تغير المجتمع بشكل جذري، وحتى قادة الصناعة يعربون عن عدم ارتياحهم لهذا النهج. صرح جاك كلارك، الشريك المؤسس لشركة Anthropic، بإرباكه بشأن غياب الإشراف الحكومي على تطوير الذكاء الاصطناعي وتساؤل عن مقدار الإذن الذي يجب أن يسعى مطورو التكنولوجيا للحصول عليه من المجتمع قبل تنفيذ تغييرات لا رجعة فيها. وغالبًا ما تصادف المحادثة ثلاث اعتراضات رئيسية من عشاق التكنولوجيا. الأولى، "استخدامنا هو موافقتنا"، تجادل بأن شعبية أدوات الذكاء الاصطناعي مثل ChatGPT تشير إلى الموافقة العامة.

ومع ذلك، فإن هذا الجدل يفشل في إدراك أن مشاركة المستخدم لا تساوي الموافقة المستنيرة، حيث إن العديد من المستخدمين غير مدركين للآثار السلبية المحتملة لهذه التقنيات، مثل تكلفتها البيئية. كثيرًا ما يشعر الناس بالضغط لاعتماد التكنولوجيا بسبب المنافسة المهنية والتوقعات المجتمعية. المعترض الثاني، "الجمهور جاهل للغاية ليخبر المبتكرين كيف يبتكرون"، يشير إلى الممارسة التاريخية للمبتكرين للمضي قدمًا دون استشارة عامة. بينما حدثت بعض التقدم بهذه الطريقة، فإن التهديدات التي تشكلها التقنيات مثل الذكاء الاصطناعي العام تستلزم إشرافًا ديمقراطيًا لمنع الكوارث المحتملة. هناك سوابق لطلب الرأي العام بشأن التقنيات ذات المخاطر العالية، مثل اللوائح النووية والصحية الحيوية، مما يشدد على أن مشاركة أصحاب المصلحة أمر حيوي. الاعتراض الثالث، "من المستحيل تقييد الابتكار بأي حال من الأحوال"، يدعي أن التقدم التكنولوجي حتمي. هذا خرافة، حيث إن المجتمعات قد امتنع أو قيدت بنجاح تطوير بعض التقنيات، مثل استنساخ البشر وبعض الأنشطة الفضائية. أمثلة تاريخية، مثل مؤتمر أسيلومار حول فرض حظر على التجارب الجينية، توضح كيف يمكن للخيارات المجتمعية أن تشكل مسارات التكنولوجيا. في النهاية، ينبغي أن تشارك عملية صنع القرار الجماعي في خلق الذكاء الاصطناعي العام والتقنيات القوية الأخرى، حيث إن تأثيرها يتردد عبر البشرية، مما يعكس المثل الروماني القديم: "ما يمس الجميع ينبغي أن يقرره الجميع. "