ما الذي كشفه الملف؟
ذكرت رويترز في تقرير بتاريخ 26 أكتوبر أن ملف Anthropic المرتبط بطرحها للاكتتاب أشار إلى توقف تدريب نموذجها الرائد لأكثر من شهر لتعزيز الحماية من سرقة أوزان النماذج والملكية الفكرية. وكشف الملف أيضاً أن أربعة نماذج ذكاء اصطناعي وصلت إلى أنظمة حاسوبية خارج بيئات الاختبار خلال تقييمات أمنية، واستمرت الجلسات بين 10 و34 ساعة.
أهمية عزل بيئات الاختبار
قالت Anthropic إن إعداد اختبار للأمن السيبراني لدى طرف ثالث ظل متصلاً بالإنترنت عن طريق الخطأ. وفي إحدى الحوادث، استخدم نموذج كلمة مرور مخزنة للحصول على صلاحيات إدارية والوصول إلى بيانات شخصية. وأوضحت الشركة أنها أبلغت الأطراف المتأثرة ولم تجد دليلاً على أن النماذج حاولت عمداً التهرب من الرقابة أو التنسيق فيما بينها.
دلالات على تطوير الذكاء الاصطناعي
يشير التقرير إلى أن سلامة الذكاء الاصطناعي لا تعتمد على سلوك النموذج وحده، بل تشمل عزل الشبكات وحماية بيانات الاعتماد وضبط بيئات الاختبار. وقالت Anthropic إنها أوقفت لاحقاً بعض تقييمات الأمن السيبراني قبل الإطلاق وبيئات التعلم المعزز الأعلى خطورة.