[ad_1]
ابق على اطلاع بالتحديثات المجانية
ما عليك سوى الاشتراك في ملخص الذكاء الاصطناعي myFT – والذي يتم تسليمه مباشرة إلى صندوق الوارد الخاص بك.
الكاتب حائز على جائزة تورينج، وأستاذ متفرغ في جامعة مونتريال والمؤسس والمدير العلمي لمعهد ميلا للذكاء الاصطناعي في كيبيك
ما زلنا لا نعرف ما حدث بالفعل في OpenAI. لكن الأحداث الأخيرة يجب أن تدفعنا إلى التراجع خطوة إلى الوراء وطرح أسئلة أوسع حول نوع الحوكمة المطلوبة للمؤسسات التي تعمل على تطوير أنظمة ذكاء اصطناعي قوية وتهدف بشكل واضح إلى إنشاء ذكاء على المستوى البشري، أو AGI.
هل ينبغي أن تكون مؤسسات ربحية يشرف عليها مجلس إدارة مسؤول أمام المساهمين؟ هل يجب أن تكون منظمات غير ربحية لها مهمة تحقيق الصالح العام؟ أو نسخة هجينة؟ هل يمكن تأميمها وإخضاعها بالكامل لسيطرة الحكومة؟ أم أننا في احتياج إلى أشكال جديدة من الحكم تسعى إلى التوفيق بين قيمنا الديمقراطية المشتركة والمكاسب المالية ومكاسب السلطة التي وعدت بها الأنظمة الحدودية في المستقبل لأولئك الذين يسيطرون عليها؟
كثيراً ما أُذكِّر نفسي بأن الديمقراطية تدور في المقام الأول حول تقاسم السلطة، وأن مؤسساتنا الديمقراطية ــ بما تفرضه من ضوابط وتوازنات ــ مصممة لتجنب تركزها، حتى في أيدي قِلة من المسؤولين المنتخبين.
عندما يتعلق الأمر بالذكاء الاصطناعي، فإن النتائج المستقبلية تعتمد بشكل كبير على من لديه حقوق اتخاذ القرار. ومع تسارع التنمية، تنمو الفوائد والمخاطر تبعا لذلك. لدينا بالفعل أنظمة ذكاء اصطناعي يمكنها توليد صور مزيفة واقعية للسياسيين للتأثير على الانتخابات. في المستقبل القريب، يشعر الكثيرون بالقلق من أن الجهات الفاعلة الخبيثة يمكن أن تستخدم أنظمة الذكاء الاصطناعي للمساعدة في تصميم وإطلاق أسلحة بيولوجية فتاكة. هناك مخاوف متزايدة من أن المخاطر قد تتصاعد إلى ما هو أبعد من قدرتنا على كبح جماحها.
وبالتالي فإن القرارات المتعلقة بكيفية تطوير ونشر الذكاء الاصطناعي قد تؤثر قريبًا بشكل كبير على المجتمع. وإذا كان الأمر كذلك، فهل ينبغي تركها بالكامل في أيدي القطاع الخاص؟ وكما رأينا في صناعة النفط والغاز فيما يتعلق بتغير المناخ، لا يمكننا أن نثق بشكل كامل في الشركات التي يحركها الربح لتأخذ في الاعتبار الآثار الاجتماعية لنشاطها. إنها مأساة المشاعات الكلاسيكية، حيث لا تتوافق أفضل التحركات التي يتخذها اللاعبون الفرديون مع الرفاهة الجماعية.
ومن المؤسف أننا قد لا نتمكن أيضاً من الاعتماد على الهياكل غير الربحية لتحقيق الغَلَبة. كما رأينا في OpenAI، يتمتع المستثمرون في النهاية بقدر كبير من التأثير. هناك خيار آخر يتمثل في أن يتم تمويل التقدم في مجال الذكاء الاصطناعي من قبل الحكومات، وتأميم المختبرات بشكل أساسي أو توجيه مهمتها من خلال العقود والرقابة. ومع ذلك، يأتي هذا مع مجموعة من المخاطر الخاصة به، بما في ذلك إساءة الاستخدام لتحقيق أهداف استبدادية أو حرب.
ومن أجل تحقيق حوكمة مسؤولة حقيقية للذكاء الاصطناعي، يتعين علينا تجنب نقطة فشل واحدة. وكما أوضحت في ورقة بحثية حديثة، فإننا نحتاج إلى رقابة مستقلة وديمقراطية قوية، لا تشمل هيئة تنظيمية وطنية فحسب، بل أيضا المجتمع المدني، والأكاديميين المستقلين، والمجتمع الدولي. ويجب أن يكون هيكل الإدارة متعدد الأطراف ومتعدد الأطراف. أحد الأهداف هو تقليل تضارب المصالح مع الأهداف التجارية والتركيز على البحث والتطوير الذي يضع السلامة أولاً. والهدف الآخر هو الحماية من احتمال وقوع نظام المختبر في الأيدي الخطأ أو أن يصبح كيانًا هاربًا خطيرًا. إن قيام المختبرات بمشاركة نتائجها يعني أن المؤسسات الأخرى ستكون موجودة للدفاع عن المجتمع.
ورغم أن قدراً كبيراً من عدم اليقين ما زال قائماً، فإن التصدي لهذه الأسئلة أصبح أمراً ملحاً. تشير التقارير إلى أن OpenAI ربما حققت مؤخرًا اختراقًا Q*، والذي ربما أدى إلى زيادة كبيرة في القدرات المنطقية والرياضية. إذا ثبت صحة ذلك، فقد نصبح أقرب إلى الذكاء الاصطناعي العام.
وأنا في وضع جيد يسمح لي بتقدير الآثار المترتبة على مثل هذا التقدم من خلال بحثي الخاص. توصلت مجموعتي إلى آليات الانتباه التي أدت إلى المحولات التي تمثل المحرك وراء الأنظمة الحدودية الحالية. أعتقد أن الفجوة الرئيسية المتبقية بين الأنظمة المتقدمة الحالية والذكاء الاصطناعي العام هي ما يمكن أن نشير إليه بالإدراك الواعي، أي قدرات مثل التفكير المنطقي والتفكير المتعمد والتخطيط الواضح.
لقد جادلت لسنوات عديدة أنه على الرغم من أن التعلم العميق قد حقق خطوات هائلة في القدرات المعرفية المقابلة للحدس البشري (النظام 1)، إلا أن الأساليب لا تزال ضعيفة فيما يتعلق بالإدراك الواعي الحاسم للبشر لتقديم الإجابات الصحيحة في الإعدادات التي نحتاج إلى التفكير فيها ( النظام 2). إذا حققت OpenAI تقدمًا في هذا الصدد، فقد يكون الذكاء الاصطناعي العام أقرب بكثير مما توقعه الكثير منا.
وبغض النظر عمن يصل إلى هناك أولا، إذا نجحنا في سد الفجوة في الذكاء البشري قريبا، فهل سيكون المجتمع مستعدا للاستجابة؟ فهل لدينا آليات الحوكمة المناسبة وغيرها من الوسائل اللازمة للتخفيف من النتائج الخطيرة المحتملة؟ انا لا اظن ذلك. ويجب أن تتم هذه المناقشة بشكل عاجل. ويجب أن تعكس القيم الديمقراطية والإرادة الديمقراطية. وينبغي أن تكون ملحمة OpenAI بمثابة تحذير قوي.
[ad_2]
المصدر