أعلنت شركة أنثروبيك أن نموذجها الجديد، كلود، يلعب دورًا محوريًا في تطوير النسخة الأكثر ذكاءً من الذكاء الاصطناعي. يأتي هذا الإعلان في وقت يتزايد فيه النقاش حول سلامة هذه التكنولوجيا.
يقود كلود حاليًا 26% من أبحاث وتطوير الشركة، مما يعني أنه يمكنه إنجاز معظم المهام من البداية إلى النهاية تحت إشراف بشري. ورغم ذلك، لا يزال النموذج غير قادر على العمل بشكل كامل بشكل مستقل.
تُظهر البيانات أن حوالي 90% من أبحاث الشركة تتم بالتعاون مع كلود، مما يعني أنه يمكنه إنجاز أجزاء كبيرة من العمل تحت إشراف دقيق.
في سياق متصل، دعا بعض الشخصيات البارزة في مجال الذكاء الاصطناعي، وعلى رأسهم داريو أموداي، الرئيس التنفيذي لشركة أنثروبيك، إلى تباطؤ في تطوير التكنولوجيا بسبب المخاوف المتعلقة بالسلامة.
قالت الشركة في منشور على مدونتها: “يجب أن نفعل كل ما في وسعنا لتقليل الفجوة بين ما تعرفه المختبرات المتقدمة وما يعرفه الجمهور”. وأكدت على أهمية قياس تطور الذكاء الاصطناعي بشكل أفضل والإبلاغ عنه علنًا.
تعتقد أنثروبيك أن النماذج التي تسرع من تطويرها قد تجعل من الصعب على البشر فهم أو السيطرة على هذه الأنظمة. وأشارت إلى أن مشاركة هذه المقاييس قد تؤدي إلى فهم أفضل لمدى قرب المختبرات الرائدة من تحقيق تحسين ذاتي متكرر.
كما حثت الشركة مطوري الذكاء الاصطناعي الآخرين على مشاركة مقاييس مماثلة بانتظام، مشجعة على استخدام منهجية عامة لتسهيل المقارنة.
لم يتضح من إعلان أنثروبيك مدى قربها من تحقيق التحسين الذاتي المتكرر، لكن مساهمة كلود في الأبحاث والتطوير تزداد بشكل ملحوظ. في فبراير، لم يكن لديه أي دور قيادي، بينما بحلول أغسطس، أصبح يقود ربع العمل البحثي.
أوضحت الشركة أيضًا تفاصيل حول تدابير الإشراف على الوكلاء، مشيرة إلى أن هناك حوالي 30,000 وكيل يقومون بأعمال البحث والهندسة. وتعتبر تدابير الإشراف ضرورية لرصد سلوك الوكلاء.
أطلق أحد الباحثين في أنثروبيك حوارًا حول سلامة الذكاء الاصطناعي عندما استقال الأسبوع الماضي محذرًا من التهديدات التي قد تشكلها هذه التكنولوجيا. وقد دعم أموداي، والرئيس التنفيذي لشركة OpenAI سام ألتمان، وإيلون ماسك وغيرهم من قادة التكنولوجيا فكرة تباطؤ التطوير، لكن بعض القادة الآخرين والرئيس السابق دونالد ترامب عارضوا ذلك.
