تحذيرات من الخطر الوجودي للذكاء الاصطناعي عقب استقالة قيادي سلامة في Anthropic

في خطوة مفاجئة، أعلن مسؤول السلامة في شركة Anthropic، السيد مرينانك شارما، استقالته في فبراير الماضي، محذرًا في رسالة مفتوحة من أن “العالم في خطر” جراء “سلسلة من الأزمات المترابطة” تشمل الذكاء الاصطناعي والأسلحة البيولوجية، ومشددًا على صعوبة استبدال أهداف التنافس التجاري بقيم السلامة والتحكم.
وألقت استقالة شارما الضوء مجددًا على المخاوف المتزايدة في أوساط المطورين؛ إذ وقع أكثر من 1300 موظف في شركات الذكاء الاصطناعي الرائدة على رسالة مفتوحة في يوليو، حذروا فيها من “خطر حقيقي يتمثل في تسارع تطوير القدرات بشكل يفوق القدرة على فهم أو التحكم في الأنظمة الناتجة”.
وتركزت أبرز التحركات والردود حول هذه الأزمة في النقاط التالية:
* الدعوات الدولية والتنظيمية: طالبت الرسالة المفتوحة الحكومة الأمريكية بدعم جهود دولية لتطوير الأدوات التقنية والحوكمية اللازمة للتحكم في وتيرة تطوير أنظمة الذكاء الاصطناعي الآلي.
* المبادرات التشريعية: تسعى تشريعات مقترحة في الولايات المتحدة، مثل قانون “مفتاح الإيقاف للذكاء الاصطناعي” وقانون “FRONTIER”، إلى فرض رقابة حكومية صارمة لمواجهة سيناريوهات خروج التقنية عن السيطرة.
* البطء الحكومي مقابل خطورة التهديد: يظل التفاعل الحكومي الدولي دون المستوى المطلوب مقارنة بحجم المخاطر التي قد تهدد الحضارة؛ فبينما استغرقت المعاهدات الدولية للأسلحة النووية والبيولوجية عقودًا للتبلور، قد لا يتوفر هذا الوقت مع سرعة تطور الذكاء الاصطناعي.
وتعليقًا على هذه التطورات، أكدت النائبة الأمريكية لوري تراهان (ديمقراطية عن ولاية ماساتشوستس) ضرورة تدخل المشرعين، قائلة عبر وسائل التواصل الاجتماعي: «باحثو السلامة يستقيلون، ونماذج الذكاء الاصطناعي القوية تخرج من مختبراتها، والشركات تواصل سباقها على أي حال. لقد حان الوقت للكونغرس للخروج من الهامش والقيام بواجبه، ويمكننا البدء بقانون FRONTIER المدعوم من الحزبين».