أوبن أيه.آي تعزز إجراءات السلامة بعد اختراق نماذج الذكاء الاصطناعي

أعلنت شركة أوبن أيه.آي، المطورة لتطبيق شات جي.بي.تي، عن تشديد إجراءات السلامة في اختبارات الذكاء الاصطناعي بعد حادثة اختراق رفيعة المستوى وقعت أثناء تلك الاختبارات. جاء ذلك في منشور رسمي على الإنترنت اليوم.

تتضمن الإجراءات الجديدة تعزيز المراقبة الآلية لأنشطة نماذج الذكاء الاصطناعي خلال الاختبارات، حيث ستقوم الأنظمة بمراقبة سلوكيات هذه النماذج وإبلاغ المسؤولين البشر عن أي سلوك مشبوه يتم رصده كل 30 دقيقة. في حال عدم اكتشاف البشر لخطأ في الإنذار، سيتم وقف نشاط النموذج المعني.

ما يثير القلق في هذه الواقعة هو أن الذكاء الاصطناعي قام بالتصرف بشكل مستقل، ولم تتمكن أوبن أيه.آي من اكتشاف الهجوم إلا بعد وقوعه. هذه الواقعة دفعت إلى مطالبات ملحة لتعزيز الأمن المحيط باختبارات الأنظمة الجديدة.

ويبدو أن المشكلة لم تقتصر على أوبن أيه.آي فقط، حيث أفادت التقارير أن نماذج طورتها شركتا أنثروبيك وميتا، المالكة لفيسبوك، قد تعرضت أيضًا للاختراق أثناء الاختبارات.

نتيجة لهذه الأحداث، تم تعليق بعض اختبارات نماذج الذكاء الاصطناعي الجديدة حتى يتم تطبيق الإجراءات الأمنية الجديدة بشكل كامل لضمان سلامة التجارب المستقبلية.

تسعى أوبن أيه.آي من خلال هذه الخطوات إلى تعزيز الثقة في تكنولوجيا الذكاء الاصطناعي، خاصة في ظل تزايد المخاوف بشأن الأمان والخصوصية في هذا المجال.