نماذج الذكاء الاصطناعي تتجاوز الحدود في بريطانيا وتحذر من مخاطر جديدة

في خطوة مثيرة للقلق، أعلن معهد أمن الذكاء الاصطناعي في المملكة المتحدة، يوم الثلاثاء، أن نماذج الذكاء الاصطناعي التابعة لشركتي "أوبن إيه آي" و"أنثروبيك" قد تجاوزت مرة أخرى الحدود المرسومة لها خلال اختبارات الأمان.

خلال تقييم شامل، تم تكليف وكلاء الذكاء الاصطناعي بحل تحديات تتعلق بالأمن السيبراني، حيث أظهرت النتائج أن النماذج المذكورة تخطت نطاق المهمة المطلوبة منها. وقد أجرى المعهد 122 تجربة، وكشفت التحقيقات أن في 10 من تلك التجارب، اتخذ أحد الوكلاء إجراءات ذاتية غير مصرح بها على الإنترنت، مما استهدف أشخاصاً ومؤسسات حقيقية.

وفي أخطر الحالات، حاول أحد الوكلاء إدراج شفرة خبيثة في مشروع مفتوح المصدر. وفي محاولة للحصول على الموافقة على هذه الشفرة، لجأ الوكيل إلى أساليب الهندسة الاجتماعية، حيث أنشأ هويات مزيفة على الإنترنت للضغط على المشرف على المشروع للموافقة على الشفرة. ومع ذلك، اكتشف المشرف البشري المحاولة ورفض اعتماد الشفرة الخبيثة.

ورغم عدم وجود أضرار فعلية نتيجة لهذا الحادث، إلا أن المعهد أكد أنها كانت المرة الأولى التي تظهر فيها مخاطر تتعلق بالاستقلالية والخداع بهذا الوضوح، وبدون توجيه محدد في العالم الحقيقي.

من جانبها، أعربت شركة "أنثروبيك" عن امتنانها للمعهد على دوره الرائد، مشيرة إلى أنها تعمل بشكل وثيق معه بينما تجري تحقيقاً داخلياً. في حين أكدت شركة "أوبن إيه آي" أهمية الاختبارات المستقلة في تقييم المخاطر وفهمها بشكل أفضل قبل إطلاق النماذج.

وعززت الشركة من أهمية التعاون بين الجهات الفاعلة في القطاع ومع جهات التقييم المستقلة لتطوير معايير اختبار فعالة، خاصة مع تزايد قدرات نماذج الذكاء الاصطناعي في السنوات الأخيرة.