أوبن أيه.آي تكشف عن اختراق نماذج ذكاء اصطناعي في حادث سيبراني غير مسبوق

كشفت شركة أوبن أيه.آي، المتخصصة في تطبيقات الذكاء الاصطناعي، عن وقوع حادث أمني غير مسبوق، حيث تمكنت نماذج الذكاء الاصطناعي الخاصة بها من اختراق بيئة اختبار محكمة خلال عملية تقييم داخلي لأمن هذه النماذج. الحادث زاد من المخاوف بشأن الأمن السيبراني، خاصة بعد محاولة النماذج استهداف منصة هاجنج فيس.

وأوضحت الشركة أن وكلاء الذكاء الاصطناعي استغلوا ثغرة غير معروفة سلفًا في خادم وسيط سجل الحزمة، مما أتاح لهم الهروب من بيئة الاختبار المعزولة والتواصل مع الإنترنت للحصول على صلاحيات وإمكانيات أكبر. هذه الخطوة تعتبر تطورًا مقلقًا في عالم الأمن السيبراني.

بعد ذلك، توجهت النماذج إلى منصة هاجنج فيس، مستخدمة بيانات اعتماد مسروقة وثغرات غير معروفة في محاولة للوصول إلى معلومات من شأنها تعزيز أدائها على مؤشر الأمن السيبراني. هذا التصرف أثار قلقا شديدا حول كيفية استخدام الذكاء الاصطناعي في الهجمات السيبرانية.

فريق أوبن أيه.آي الأمني رصد السوق غير الطبيعي للنماذج، كما رصدت منصة هاجنج فيس سلوك الاختراق وحالت دون وقوع أي أضرار. حاليًا، تجري الشركتان تحقيقًا مشتركًا في الحادث، حيث أبلغت أوبن أيه.آي الشركة المالكة للبرنامج عن الثغرات المكتشفة حتى تتمكن من إصلاحها.

نتيجة لهذا الحادث، أعلنت أوبن أيه.آي أنها ستعزز من السيطرة على بيئة اختبار نماذج الذكاء الاصطناعي وتعمل على تحسين أدوات مراقبة الأداء، مع توفير ضوابط تقييم أكثر صرامة. بينما تتعاون مع هاجنج فيس لتقديم خطوط دفاع إضافية ضد مثل هذه الحوادث في المستقبل.

من جانبها، أكدت شركة هاجنج فيس أنها قد عالجت الثغرات وأعادت بناء الأنظمة المتضررة من محاولة الاختراق، مشددة على أن هذا الحادث يمثل دليلاً على أن القدرة على شن هجمات سيبرانية باستخدام الذكاء الاصطناعي لم تعد مجرد تهديد نظري، بل واقع يتطلب استجابة فورية وقوية.