[ad_1]
افتح ملخص المحرر مجانًا
رولا خلف، محررة الفايننشال تايمز، تختار قصصها المفضلة في هذه النشرة الأسبوعية.
الكاتب معلق علمي
المضي قدما، وليس هناك الكثير لنرى هنا. يبدو أن هذه هي الرسالة التي أرسلتها شركة OpenAI الأسبوع الماضي، حول تجربة لمعرفة ما إذا كان برنامج الدردشة الآلي المتقدم GPT-4 يمكن أن يساعد الأفراد البارعين في العلوم في صنع سلاح بيولوجي وإطلاقه.
وأعلنت شركة OpenAI أن روبوت الدردشة “قدم دفعة خفيفة على الأكثر” لهذه الجهود، على الرغم من أنها أضافت أن هناك حاجة ماسة إلى مزيد من العمل حول هذا الموضوع. وقد أعادت العناوين الرئيسية تكرار الاستنتاج المريح الذي مفاده أن نموذج اللغة الكبير لم يكن كتاب طبخ الإرهابيين.
ومع ذلك، إذا تعمقت في البحث، فستبدو الأمور أقل طمأنينة. في كل مرحلة تقريبًا من العملية المتخيلة، بدءًا من الحصول على عامل بيولوجي وحتى توسيع نطاقه وإطلاقه، تمكن المشاركون المسلحون بـ GPT-4 من الاقتراب من هدفهم الشرير أكثر من المنافسين الذين يستخدمون الإنترنت وحده.
لا ينبغي أن تكون الوجبات الرئيسية من التمرين هي الشعور بالارتياح. كتب غاري ماركوس، المعلق الذي أدلى بشهادته حول الرقابة على الذكاء الاصطناعي أمام لجنة في مجلس الشيوخ الأمريكي، الأسبوع الماضي في رسالته الإخبارية التي تحظى بقراءات واسعة النطاق: “يجب أن يشعر (Open AI) بالقلق الشديد إزاء هذه النتائج”.
لذلك ينبغي علينا. ونحن بحاجة إلى آليات مستقلة أفضل لتقييم هذه التهديدات وكبحها بشكل واقعي. وكما أننا لا نسمح لشركات الأدوية بالحكم على سلامة الأدوية، فلا يمكن ترك تقييم مخاطر الذكاء الاصطناعي للصناعة وحدها.
طلب باحثو OpenAI من 100 متطوع تم فحصهم – 50 طالبًا حصلوا على تدريب أولي في علم الأحياء، بالإضافة إلى 50 خبيرًا من ذوي الخبرة في المختبرات الرطبة وحاصلين على درجة الدكتوراه في مواضيع ذات صلة مثل علم الفيروسات – للتخطيط لهجوم إرهابي بيولوجي، مثل جائحة الإيبولا. تم تعيين خمسة وعشرين من كل 50 شخصًا بشكل عشوائي لاستخدام الإنترنت للبحث في خطتهم؛ يمكن للـ 25 الآخرين استخدام كل من الإنترنت وGPT-4.
تم تقسيم التحدي نفسه إلى خمس مهام: تحديد العامل البيولوجي والتخطيط لاستراتيجية؛ الحصول على الوكيل؛ التكرار بما يكفي لصنع سلاح؛ وصياغته وتحقيق الاستقرار فيه؛ وأخيرا، إطلاق سراح. بعد ذلك، قام المتخصصون الخارجيون في مجال الأمن الحيوي بتقييم المشاركين، من أصل 10، حول مدى نجاحهم في التخطيط لهذه المهام عبر خمسة مقاييس، بما في ذلك الدقة والاكتمال والابتكار. ويمكن الحصول على درجات عالية، على سبيل المثال، من خلال تحديد الكواشف الصحيحة؛ سرد الخطوات الصحيحة في عملية الإنتاج؛ وإيجاد طريقة جديدة للالتفاف على الاحتياطات الأمنية.
تم الحكم على كل من الطلاب والخبراء الذين لديهم إمكانية الوصول إلى GPT-4 بأنه أكثر دقة من المجموعات التي تستخدم الإنترنت فقط. لكن المزيج القاتل كان الخبرة العلمية بالإضافة إلى GPT-4. وسجل الخبراء الذين يستخدمون الذكاء الاصطناعي، والذين سُمح لهم باستخدام نسخة غير مقيدة من GPT-4، 0.88 من أصل 10 نقاط إضافية مقارنة بخبراء الإنترنت فقط. وقد حدد الباحثون عتبة القلق عند 8 من 10؛ ونجح العديد من الخبراء الذين يستخدمون GPT-4 في الوصول إلى هذا الإنجاز، لا سيما في مجال المشتريات والتوسيع والصياغة والإفراج.
ومع ذلك، فقد اعتُبرت النتائج غير ذات أهمية إحصائيًا، حيث اعترف الباحثون فقط بأن GPT-4 غير المقيد “قد يزيد من قدرة الخبراء على الوصول إلى المعلومات حول التهديدات البيولوجية”. في ظاهر الأمر، تقدم الجداول وجهة نظر مختلفة: فقد ضاعف GPT-4 فرص التوصل إلى صياغة قابلة للتطبيق أربع مرات.
يعترف المؤلفون بقيود الدراسة الأخرى. وبينما عمل المشاركون بمفردهم في جلسات مدتها خمس ساعات، يمكن للإرهابيين أن يختبئوا معًا لأسابيع أو أشهر. ولم يتمكن المشاركون من الوصول إلى المجموعة الكاملة من أدوات تحليل البيانات المتقدمة GPT-4، والتي، كما يعترف الباحثون، يمكنها “تحسين فائدة نماذجنا بشكل غير تافه” في التخطيط للهجمات.
وفي الدفاع عن رسالتها الملتبسة، يمكن لـ OpenAI أن تشير إلى دراسة حديثة أجرتها مؤسسة Rand، والتي وجدت أيضًا أنه اعتبارًا من صيف عام 2023، لم تعد النماذج اللغوية الكبيرة تجعل خطط الهجوم الإرهابي البيولوجي أكثر قابلية للتطبيق من الناحية الإحصائية مقارنة باستخدام الإنترنت فقط.
ومع ذلك، فقد أدرك باحثو مؤسسة راند أن الوضع السائل يتغير على نطاق زمني غير معروف. تقول فيليبا لينتزوس، الباحثة في العلوم والأمن الدولي في جامعة كينجز كوليدج في لندن، والتي تحث الحكومات والأكاديميين على المشاركة في تقييم مثل هذه التهديدات: “لا ينبغي لنا أن نبالغ في تقدير المخاطر، لكن لا ينبغي لنا أن نقلل منها أيضًا”.
يفاجئ الذكاء الاصطناعي باستمرار وGPT-4 ليست اللعبة الوحيدة في المدينة. سوف تجد الدول المارقة والمنعزلون الذهانيون والجماعات الخبيثة ثغرات. وفي حين ركزت هذه التجربة فقط على التخطيط، فإن نمو “المختبرات السحابية” عن بعد، حيث يمكن إجراء التجارب على المرافق الآلية، قد يغير حساب التفاضل والتكامل عند التنفيذ. وتشكل السموم المصممة بواسطة الذكاء الاصطناعي خطرًا إضافيًا.
في جميع أنحاء المقال، هناك الكثير مما يمكن رؤيته هنا، وهو ما يكفي ليستحق دفعة كبيرة في التفكير في قدرة الذكاء الاصطناعي على تحريض الإرهاب البيولوجي.
[ad_2]
المصدر