دراسة تحذر: العلامات المائية الرقمية قد تجعل الذكاء الاصطناعي أكثر عرضة للاختراق والطلبات الضارة

كشفت دراسة حديثة عن ثغرة أمنية غير متوقعة: استخدام تقنيات العلامات المائية الرقمية في نماذج الذكاء الاصطناعي اللغوية الكبيرة (LLMs) قد يؤثر سلباً على أمانها. فبدلاً من تعزيز الحماية، قد تؤدي هذه العلامات في بعض الحالات إلى جعل النماذج أكثر تساهلاً مع المحتوى الضار.

تعتمد التقنية الخاضعة للدراسة، والمصممة من قِبل “Google DeepMind” باسم SynthID، على آلية لتوليد النصوص تُعرف بـ “أخذ العينات التنافسية”. تعمل هذه الآلية كمباراة تقيّم عدداً كبيراً من الكلمات المرشحة لتحديد الكلمة التالية؛ حيث تُمنح الكلمات نقاط احتمالية باستخدام مفتاح سري، وتتنافس كلمتان في كل جولة لتفوز الكلمة ذات النقاط الأعلى، وتستمر العملية حتى اختيار الكلمة النهائية.

وعند اختبار هذه التقنية على ستة نماذج مفتوحة المصدر، لاحظ الباحثون تغييرات في سلوك النماذج عند تلقي طلبات ضارة، خاصة عند اقترانها بتقنيات “حقن الأوامر” (Prompt Injection). وقالت إحدى الباحثات المشاركات في الدراسة:

> “تؤثر العلامات المائية على سلوك الرفض عند تقديم طلبات ضارة مباشرة، لكن التأثير يكون أوضح عند اقترانها بحقن الأوامر. في العديد من النماذج، جعلت العلامات المائية النظام أكثر عرضة للاستجابة لطلبات ضارة كان سيرفضها في الظروف العادية.”
>
تأتي هذه النتائج بتداعيات أمنية خطيرة تشمل الآتي:
* انحراف العينات (Sampling Drift): يؤثر اختيار الكلمات المعتمد على العلامة المائية في تحديد الأدوات المساعدة والوسائط التي يستدعيها الوكيل الاصطناعي.

* تأثر سلوك الوكلاء الذكيين: أظهرت التجارب أن سلوك النماذج يتغير بناءً على المفتاح السري المستخدم، مما يسبب تبياناً في استدعاء الأدوات الفردية بدرجة أكبر مما تعكسه معدلات الدقة الإجمالية.

وعلى الرغم من وجود بعض القيود في الدراسة—كنقص الاختبارات على بعض النماذج التجارية الكبيرة أو آليات التنفيذ الدقيقة لها—إلا أن النتائج تؤكد بوضوح أن أشكالاً معينة من العلامات المائية قد تضعف أمان الأنظمة الذكية، مما يستدعي إجراء اختبارات مكثفة قبل اعتماد نشرها رسمياً.