أنثروبيك تطلق تقنية جديدة لكشف النصوص المولدة بالذكاء الاصطناعي

في خطوة جديدة تهدف لتعزيز الثقة في المحتوى الرقمي، ألزمت التوجيهات الصادرة عن الاتحاد الأوروبي الشركات التقنية بتطوير آليات لكشف النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي. في هذا السياق، أعلنت شركة أنثروبيك عن تطبيق تقنية مبتكرة تتيح التعرف على النصوص التي تم توليدها أو تعديلها باستخدام نموذج الذكاء الاصطناعي المعروف باسم "كلاود".

تعتمد التقنية الجديدة على إضافة علامة رقمية غير مرئية للنصوص التي ينتجها نظام "كلاود"، مما يسهل على الأنظمة الآلية التعرف عليها وتحليلها. ومن المتوقع أن تُستخدم هذه العلامة أيضًا في الصور التي يقوم الذكاء الاصطناعي بإنشائها، مع خطط لتعميم استخدامها عبر الدول وتطبيقات متعددة مثل "كلاود كود".

تأتي هذه المبادرة في وقت تواجه فيه أدوات كشف النصوص المولدة بالذكاء الاصطناعي انتقادات متزايدة بسبب التحديات التي تواجهها في الوصول إلى نتائج مؤكدة بشأن مصدر النصوص. وقد تم اقتراح مقارنة النصوص المشكوك فيها بقاعدة بيانات ضخمة من النصوص السابقة، لكن هذا الأسلوب قد يثير قضايا تتعلق بالخصوصية وحماية البيانات.

تهدف أنثروبيك إلى تقديم حل مبتكر من خلال وضع علامة على المحتوى أثناء عملية التوليد، بدلاً من الاعتماد على أسلوب التخمين. وقد بدأت الشركة بالفعل في تطبيق العلامات على النصوص التي تنتجها بعد 2 أغسطس الجاري، مع خطط لتوسيع الدعم ليشمل النماذج الأقدم.

ومع ذلك، فإن نجاح هذه التقنية يعتمد على قدرتها التقنية، حيث أكدت أنثروبيك أن العلامة لا ينبغي استخدامها بمفردها لتحديد مصدر النص أو اتهام شخص ما باستخدام الذكاء الاصطناعي. ووفقًا للشركة، لن يلاحظ المستخدم وجود العلامة، لكنها ستتيح للبرمجيات المتخصصة التحقق من مصدر النص أو الصورة.

يُذكر أن هذه العلامات ليست محصنة تمامًا، فقد تتأثر أو تختفي عند إجراء تغييرات على المحتوى. كما أن تطبيق الفكرة على النصوص يعد أكثر تعقيدًا، حيث لم تكشف أنثروبيك عن تفاصيل الآلية التقنية، لكن يُعتقد أنها تعتمد على توزيع معين للكلمات أو التراكيب اللغوية.

وفي سياق التحذيرات، أكدت أنثروبيك أن وجود العلامة ليس دليلًا قاطعًا على أن المحتوى أُنتج بالكامل بواسطة الذكاء الاصطناعي، كما أن عدم العثور عليها لا يعني بالضرورة أن النص لم يتم إنشاؤه باستخدام أدوات ذكاء اصطناعي، مما يبرز الحاجة لمزيد من البحث والتطوير في هذا المجال.