أحدث نموذج للذكاء الاصطناعي من شركة Anthropic قد يكون الأكثر قوة في تاريخها، لكنه واجه انتقادات حادة بسبب تدابير الأمان الصارمة التي فرضتها.
أثار إطلاق نموذج Fable 5 يوم الثلاثاء ردود فعل قوية من المستخدمين، الذين اعتبروا أن الضوابط المفروضة عليه كانت مبالغًا فيها. حيث قام النموذج بتصنيف بعض الاستفسارات كحساسة، مما أدى إلى تقديم إجابات ذات جودة أقل دون إبلاغ المستخدم بذلك.
بعد هذه الانتقادات، تراجعت Anthropic عن بعض قراراتها الأكثر تحفظًا خلال أقل من يومين من إطلاق Fable 5، مما يعكس القلق المتزايد حول قدرة شركات الذكاء الاصطناعي على تقييد وصول المستخدمين إلى المعلومات المفيدة.
قالت Anthropic: “يجب أن يكون لديك رؤية واضحة حول الضوابط التي لدينا، ولماذا. نحن آسفون لعدم تحقيق التوازن الصحيح.”
أشار Nathan Lambert، الباحث البارز في الذكاء الاصطناعي، إلى أن الشركة أوضحت من خلال هذا الإطلاق الحذر أنها لا تثق إلا بنفسها كوسيط في أبحاث الذكاء الاصطناعي المتقدمة.
نموذج Fable 5 هو الأول من عائلة نماذج Mythos الخاصة بشركة Anthropic. وقد أثار إصدار نسخة غير عامة من Mythos قلق صانعي السياسات في أبريل بسبب قدرتها على اكتشاف أكثر من 10,000 ثغرة في الأنظمة البرمجية الهامة.
تخشى Anthropic من أن النماذج القوية مثل Mythos قد تُستخدم من قبل جهات غير شرعية لارتكاب جرائم، من الهجمات الإلكترونية إلى تصميم أسلحة بيولوجية.
نتيجة لذلك، أطلقت Anthropic Fable 5 مع مجموعة صارمة من الضوابط التي تمنع النموذج من الإجابة على مجموعة من الأسئلة المتعلقة بالأمن السيبراني أو علم الأحياء. وأقرت الشركة بأن قرارها كان متحفظًا، مشيرة إلى أن النهج الذي يتبعه Fable 5 قد يخطئ في تصنيف الطلبات البريئة كخطيرة في أقل من 5% من الحالات.
أظهرت الاختبارات الأولية التي أجرتها NBC News أن حماية Anthropic كانت تأخذ نظرة واسعة على الأنشطة المشبوهة، مما جعل النظام غير مفيد للعديد من الاستفسارات العادية.
على سبيل المثال، رفض النموذج تقديم آراء حول إيلون ماسك وداريو أموداي، مؤكدًا أن الأسئلة قد تكون خطيرة. كما رفض Fable 5 الإجابة عن العديد من الأسئلة البريئة المتعلقة بعلم الأحياء.
بالنسبة لتلك الاستفسارات التي تم تصنيفها على أنها خطيرة، قامت Anthropic بتحويلها إلى نظام أقل قوة يسمى Claude Opus 4.8، الذي كان النظام الرائد حتى إطلاق Fable 5.
بسبب استخدامه لعدة أشهر، كان Opus 4.8 أكثر قدرة على التعامل مع الأسئلة التي قد تُعتبر ضارة. وقد قدم إجابات واضحة على أسئلة NBC News التي رفضها Fable 5.
تخشى Anthropic أيضًا من أن المنافسين قد يستخدمون أنظمتها لتسريع أبحاثهم الخاصة. لمنع ذلك، أعلنت الشركة أنها ستضيف ضوابط تجعل إجابات Fable 5 أقل ذكاءً أو فائدة في الأسئلة المتعلقة بتطوير الذكاء الاصطناعي.
ومع ذلك، أكدت Anthropic أن هذه الضوابط ستكون غير مرئية، حيث إن توضيحها للمستخدمين قد يسمح للمنافسين بتجاوز الحواجز بسهولة.
أثارت هذه الخطوة غضبًا فوريًا، حيث اتهم البعض الضوابط غير المرئية بأنها غير عادلة وغير أخلاقية. وكتب Clement Delangue، الباحث البارز في الذكاء الاصطناعي، أن قرار Anthropic بتقليل جودة الإجابات المتعلقة بتطوير الذكاء الاصطناعي سيكون “أعلى أشكال التلاعب”.
استجابت Anthropic بسرعة، حيث قامت بتحديث قواعدها صباح الخميس لجعل هذه الضوابط مرئية.
قال بيتر واليتش، مدير أبحاث في مركز أبحاث سلامة الذكاء الاصطناعي، إن الإطلاق المتعثر كان أقل من المثالي، لكنه معقول بالنظر إلى قوة التكنولوجيا.
وأضاف: “من الواضح أنه محبط للباحثين في مجال الأمن والبيولوجيا أن يتم تحويلهم إلى Opus للمهام البسيطة، لكن هذا لا يزال يبدو لي كصفقة معقولة.”
أوضح واليتش أن نهجًا أكثر تساهلاً كان سيكون سيناريو أسوأ بكثير، حيث إن الشحن مع ضوابط فضفاضة سيكون غير مسؤول وقد يؤدي إلى أضرار لا يمكن إصلاحها.
