تحذيرات باحثي الذكاء الاصطناعي من مخاطر الأنظمة ذاتية التطور

أثار باحثون بارزون في مجال الذكاء الاصطناعي، من مؤسستي أوبن إيه.آي وجوجل ديب مايند، مخاوف جدية بشأن التداعيات المحتملة لتطوير أنظمة ذكاء اصطناعي قادرة على تحسين نفسها بشكل ذاتي. وأكدوا أن الجهود الحالية لحماية البشرية من هذه المخاطر لا تزال غير كافية، وقد تؤدي في النهاية إلى نتائج كارثية.

وفي شهادات مصورة جمعتها منظمة باليسيد ريسيرش غير الربحية، أكد الموظفون أن مخاوفهم حول هذه الأنظمة ليست مجرد دعاية تسويقية، بل تعكس قلقًا حقيقيًا حول المخاطر الوجودية. وأشاروا إلى أن مختبرات الذكاء الاصطناعي تحتفل بالابتكارات الجديدة أكثر من دعم الحذر والتأني في تطوير هذه التقنيات.

القلق العام حول هذه المسألة شهد تصاعدًا ملحوظًا منذ يوليو الماضي، عندما حدث اختراق في شركة هاجينج فيس بواسطة وكلاء من أوبن إيه.آي. وقد عبر نيل ناندا، عالم الأبحاث في ديب مايند، عن رأيه بأن هناك احتمالاً بنسبة 10% على الأقل لانقراض البشرية نتيجة للذكاء الاصطناعي، وهي نسبة وصفها بـ"المرتفعة بشكل سخيف".

وأوضح خوان فيليبي سيرون أوريبي، مهندس الأبحاث في أوبن إيه.آي، أنه يجب اتخاذ خطوات حذرة للغاية في تطوير الذكاء الاصطناعي، إلا أن الواقع هو أن المختبرات تتسابق في تطوير الأنظمة وكأنها "معصوبة الأعين". وتساءل عما إذا كنا سنحقق إنجازات عظيمة مثل علاج السرطان، أو سنفقد جميع الوظائف، أو حتى نواجه خطر الموت.

يُشير العديد من الباحثين الحاليين والسابقين إلى أن العالم غير مستعد للأجيال المستقبلية من أنظمة الذكاء الاصطناعي، خصوصًا مع إمكانية تحسينها الذاتي بشكل متكرر. وقد دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، العاملين في هذا المجال إلى التباطؤ لمواكبة سرعة التطور، وهو ما لاقى دعمًا من سام ألتمان، الرئيس التنفيذي لأوبن إيه.آي.

مؤخراً، نشر عدد من كبار الباحثين ورقة بحثية تحث صانعي السياسات على النظر في كيفية تطوير الصناعة لنماذج تعتمد على التحسين الذاتي المستمر، مما يعكس الحاجة الملحة لوضع معايير وضوابط تحكم هذا المجال المتسارع.