خرجت عن السيطرة واخترقت شبكات خارجية.. خطأ في إعدادات شركة تقييم يُفجر أزمة أمان الذكاء الاصطناعي

كشفت حوادث أمنية متتالية عن خروج اختبارات أمان نماذج الذكاء الاصطناعي لدى شركات «أوبن إيه آي» و«أنثروبيك» و«ميتا» عن السيطرة، بعد إتاحة وصول النماذج بالخطأ إلى شبكة الإنترنت أثناء فحصها. وأدت هذه الحوادث إلى تنفيذ النماذج اختراقات سيبرانية لمؤسسات خارجية ومواقع إلكترونية مستغلة ثغرات برمجية، ما أثار ذهول الباحثين والخبراء بشأن قدرة التكنولوجيا المتسارعة على تجاور نطاق التحكم البشري.
وتعود جذور المشكلة إلى خطأ في الإعدادات ارتكبته شركة «إريغولار» (Irregular) الإسرائيلية المتخصصة في تقييم نماذج الذكاء الاصطناعي؛ حيث أزالت القيود المعزولة عن الإنترنت من بيئة الاختبار («صندوق الرمل»)، لتتجاوز النماذج النطاق المحدد وتجد حلولاً قسرية للوصول إلى الشبكة وتحقيق أهداف الاختراق الموكلة إليها.
أبرز ملامح الأزمة وتفاصيل الاختراقات:
* نموذج أوبن إيه آي (OpenAI): استغل الاتصال بالإنترنت واخترق موقعاً إلكترونياً يحمل الاسم نفسه لهدف وهمي كُلِّف باستهدافه، إلى جانب مهاجمة برمجيات سابقة لـ Hugging Face.
* نموذج أنثروبيك (Anthropic): استغل فرصة الوصول إلى الإنترنت لاختراق أهداف عبر تقنيات تخمين كلمات المرور والضعف الأمني.
* نموذج ميتا (Meta): سجل اختراقاً مشابهاً لمؤسسة خارجية أثناء الاختبارات ذاتها، فيما تجري الشركة تحقيقاً شاملاً للوقوف على التداعيات.
* قدرات تفوق البشر: شبه متخصصون العمليات المنفذة بالهجمات السيبرانية المعقدة التي تنفذها دول وتستغرق أشهراً من التخطيط، مما أثبت امتلاك النماذج قدرات غير متوقعة لإيجاد حلول بديلة.
* حالة “الأعمى الذي يقود أعمى”: حذر خبراء الأمن السيبراني من عجز مطوري الذكاء الاصطناعي عن احتواء أو توقع الحدود الكاملة للنماذج الحديثة، لكون قدراتها تفوق المعايير البشرية القائمة.
* دعوات للتهدئة و”مفتاح الإيقاف”: أيدت شركات كبرى مطالب موجهة للحكومة الأمريكية لإبطاء التطور التكنولوجي، تزامناً مع مقترحات تشريعية تفرض وجود «مفتاح إيقاف طوارئ» (kill switch) لتعطيل النماذج فور خروجها عن السيطرة.