حصري-باحثو الذكاء الاصطناعي يدقون ناقوس الخطر بشأن الأنظمة ذاتية التطور

من ديبا سيثارامان

سان فرانسيسكو 29 سبتمبر أيلول (رويترز) - يحذر باحثون حاليون وسابقون في شركتي أوبن إيه.آي وجوجل ديب مايند من أن الشركات لا تبذل ما يكفي من الجهود لحماية العالم من التداعيات الكارثية المحتملة لتطوير لتطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها، بما قد يتجاوز قدرة البشر على السيطرة عليها.

وفي شهادات مصورة جمعتها منظمة باليسيد ريسيرش غير الربحية المعنية بسلامة الذكاء الاصطناعي وشاركتها حصريا مع رويترز، قال موظفون إن مخاوفهم بشأن المخاطر الوجودية صادقة وليست مجرد حيلة تسويقية. كما أشاروا إلى أن مختبرات الذكاء الاصطناعي تحتفي بالموظفين الذين يطورون نماذج جديدة أكثر من أولئك الذين يحثون على توخي الحذر.

وعانى باحثو الذكاء الاصطناعي من هذه المخاوف لسنوات، لكن قلق الجمهور الأوسع نطاقا ازداد بشكل خاص منذ يوليو تموز، عندما خرج وكلاء تابعون لشركة أوبن إيه.آي من ساحة الاختبار الخاصة بهم واخترقوا شركة الذكاء الاصطناعي هاجينج فيس.

وفي أحد مقاطع الفيديو، قال نيل ناندا، وهو عالم أبحاث في شركة ديب مايند، إنه يعتقد أن هناك احتمالا بنسبة 10 بالمئة على الأقل أن يؤدي الذكاء الاصطناعي إلى انقراض البشرية، وهو ما وصفه بأنه "نسبة مرتفعة بشكل سخيف".

وقال خوان فيليبي سيرون أوريبي، وهو مهندس أبحاث في مجال مواءمة الذكاء الاصطناعي بشركة أوبن إيه.آي، في مقطع فيديو منفصل "ينبغي أن نتخذ خطوات حذرة للغاية في تطوير الذكاء الاصطناعي، لكن ما يحدث بدلا من ذلك هو أن المختبرات الرائدة تتسابق فيما بينها، وكأنها معصوبة الأعين".

وأضاف "لا أحد يعلم ما إذا كنا سننتهي إما إلى علاج السرطان أو فقدان كل الوظائف أو ربما الموت جميعا".

ويرى بعض الباحثين الحاليين والسابقين في مجال الذكاء الاصطناعي، بمن فيهم أولئك الذين أجرت باليسيد مقابلات معهم، أن العالم ليس مستعدا للأجيال المستقبلية من نماذج الذكاء الاصطناعي، لا سيما عندما تطور هذه النماذج القدرة على التحسين الذاتي بنمط متكرر، أو القدرة على التعلم المستمر واكتساب قدرات جديدة دون تدخل بشري يذكر أو بدونه على الإطلاق.

ونشر داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك هذا الشهر مقالا دعا فيه العاملين في الذكاء الاصطناعي إلى التباطؤ لمواكبة وتيرة التطور، وسرعان ما أيد سام ألتمان، الرئيس التنفيذي لشركة أوبن إيه.آي، هذا الرأي.

ونشر عدد من كبار الباحثين في مجال الذكاء الاصطناعي، بمن فيهم كبير العلماء في أوبن إيه.آي وأحد مؤسسي شركة أنثروبيك، ورقة بحثية هذا الأسبوع تحث صانعي السياسات على النظر في الكيفية التي تبني بها الصناعة نماذج تعتمد على التحسين الذاتي بشكل متكرر.