استقالة موظف سابق في أوبن إيه آي تحذر من مخاطر الذكاء الاصطناعي

استقال ديفيد روبنسون، الموظف السابق المتخصص في سلامة الذكاء الاصطناعي بشركة أوبن إيه آي، محذرًا من أن الشركات الكبرى في هذا القطاع لا تبذل الجهود الكافية للحد من المخاطر المرتبطة بتطور هذه التكنولوجيا. وقد نشر روبنسون مقاله في مجلة ذا أتلانتيك، حيث سلط الضوء على التحديات التي تواجهها أوبن إيه آي في هذا المجال.

وأوضح روبنسون أن الشركة حققت نجاحاتها عبر نهج يعتمد على التجربة والخطأ، لكنه حذر من أن المخاطر الناتجة عن هذا الأسلوب تزداد مع توسع قدرات أنظمة الذكاء الاصطناعي. وقد أشار إلى عدد من الإخفاقات التي واجهتها الشركة خلال اختبارات أنظمتها، مشددًا على أن وتيرة تطوير التكنولوجيا لا توفر المستوى المطلوب من العناية اللازمة للتعامل مع المخاطر المحتملة.

كما أشار روبنسون إلى أن العاملين في أوبن إيه آي يتمتعون بالذكاء ويعملون بجد، لكن الانتقال السريع من نموذج إلى آخر يتطلب معايير أكثر صرامة لضمان سلامة الأنظمة. ودعا إلى ضرورة أن تكون إجراءات السلامة قريبة من تحقيق الكمال منذ المرة الأولى، وهو ما يمثل تحديًا حقيقيًا في ظل التطورات السريعة.

تأتي استقالة روبنسون في الوقت الذي أطلق فيه موظفون في العديد من الشركات الكبرى في مجال الذكاء الاصطناعي تحذيرات بشأن المخاطر المحتملة، بما في ذلك سيناريوهات تهدد البشرية. في هذا السياق، دعا داريو أمودي، الرئيس التنفيذي لشركة أنثروبيك، إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة، مؤكدًا أن شركته ستستعين بمقيّمين مستقلين لضمان سلامة أنظمتها.

علاوة على ذلك، أبدى عدد من المسؤولين في القطاع، بينهم سام ألتمان، الرئيس التنفيذي لأوبن إيه آي، دعمهم لفكرة إجراء تقييمات مستقلة. وقد دعا روبنسون إلى ضرورة إدارة شركات الذكاء الاصطناعي وفق معايير مشابهة لتلك المطبقة في المنشآت النووية، مع التركيز على تخطيط دقيق وتقنيات متعددة للحماية الاحتياطية، لتقليل احتمالية وقوع أي أزمات نتيجة للخطأ البشري.

وفي ختام مقاله، أكد روبنسون على أهمية تطبيق هذه المعايير والنهج الوقائي، مشيرًا إلى أن الخبرات المطلوبة لتحقيق ذلك موجودة بالفعل في مجالات أخرى، مما يستدعي ضرورة الاستفادة منها لتفادي المخاطر المحتملة التي قد تنجم عن استخدام الذكاء الاصطناعي.