المقايضة: قد يمنع Fable 5 مهام البرمجة الروتينية
في 12 يونيو/حزيران، أمرت وزارة التجارة شركة أنثروبيك بمنع الوصول إلى نماذجها الأكثر تقدما لأي شخص خارج الولايات المتحدة. وقد نشأ هذا الأمر نتيجة للمخاوف من أن الصين أو روسيا أو غيرها من الدول المثيرة للقلق قد تستغل هذه النماذج لمهاجمة البنية التحتية الأمريكية، مثل الشبكة الكهربائية أو النظام المصرفي. ردًا على ذلك، قامت شركة Anthropic بإغلاق جميع وسائل الوصول، حيث لم يكن لديها طريقة لحظر المستخدمين حسب البلد.
وعلى وجه الخصوص، كان يُنظر إلى Mythos على أنه “جذاب بشكل فريد للجهات الفاعلة الخبيثة التي ترغب في إساءة استخدامه في الهجمات الإلكترونية”، حسبما ذكرت مدونة Anthropic. وفقًا لـ Anthropic، فإن النموذج “يمكن استخدامه للعثور على نقاط الضعف في البرامج واستغلالها بشكل أكثر فعالية من أي نموذج آخر – وجميع خبراء الأمن البشري باستثناء أمهرهم”، ويمكن استخدام “قدرات الأمن السيبراني الهائلة” ضد الولايات المتحدة.
وقالت Anthropic إن Fable 5 تشترك في “نفس النموذج الأساسي”، ولكن على عكس Mythos 5، فإنها “لا توفر مثل هذه القدرات الهجومية الفريدة”. صُممت Fable 5 لعامة الناس، وهي تتمتع بالفعل بأقوى الضمانات التي طبقتها الأنثروبيك على الإطلاق على النموذج، وقالت الأنثروبيك إن هذه الضمانات أصبحت الآن أقوى قبل إعادة النشر.
بعد أسابيع من الاختبار، لم تعد Fable 5 عرضة لطريقة التجاوز التي اكتشفها باحثو أمازون والتي حددت العديد من نقاط الضعف في البرامج وأدت إلى فرض قيود على التصدير. وقالت أنثروبيك إن الأمر الأكثر إثارة للقلق هو الحالة التي تم فيها التلاعب بالنموذج لإنتاج تعليمات برمجية توضح كيفية استغلال الثغرة الأمنية.
وفقًا لـ Anthropic، أكد الاختبار أن النماذج المنافسة الأقل تقدمًا في السوق، مثل GPT-5.5 وKimi K2.7، “يمكن أن تحدد نفس نقاط الضعف التي حددتها Fable 5 في التقرير”. وقالت أنثروبيك إن ذلك يؤكد أن “التقنية التي تم الإبلاغ عنها لم تكشف عن أي قدرات سيبرانية فريدة من نوعها على مستوى ميثوس”، و”تتضمن فقط أعمالًا دفاعية روتينية للأمن السيبراني”.
وكتبت أنثروبيك: “ومع ذلك، تحركنا بسرعة لمعالجة التجاوز المبلغ عنه”. وقالت أنثروبيك إن طريقة كسر الحماية هذه محظورة حاليًا في أكثر من 99 بالمائة من الحالات. ومع ذلك، فإن تشديد الإجراءات الوقائية جاء مصحوبًا بـ “مقايضة” قد تتسبب في حظر بعض المطالبات الحميدة “أثناء مهام الترميز وتصحيح الأخطاء الروتينية”، حسبما أقرت الشركة.
