قادة الذكاء الاصطناعي يدعون لتقليص سرعة تطوير التكنولوجيا بسبب مخاوف السلامة
أعلنت شركة "أنتروبيك" أن نموذجها الجديد "كلود" يساهم بشكل كبير في تطوير النسخة الأكثر ذكاءً من الذكاء الاصطناعي. حيث يقود "كلود" 26% من أبحاث الشركة، مما يعني أنه يمكنه إكمال معظم المهام بناءً على توجيهات عالية المستوى، رغم أنه لا يزال تحت إشراف بشري.
تؤكد الشركة أن حوالي 90% من أبحاثها تتم بالتعاون مع "كلود"، مما يعني أنه يمكنه إنجاز أجزاء كبيرة من العمل تحت إشراف مباشر. ومع ذلك، لا يزال النموذج غير قادر على العمل بشكل مستقل تمامًا.
جاء هذا الإعلان في وقت يشدد فيه بعض قادة الذكاء الاصطناعي، بقيادة الرئيس التنفيذي لأنتروبيك، داريوا أمودي، على ضرورة تأخير تطوير التكنولوجيا بسبب المخاوف المتعلقة بالسلامة. حيث صرحت الشركة في مدونة لها أنه يجب بذل كل جهد ممكن لتقليل الفجوة بين ما تعرفه المختبرات المتقدمة وما يعرفه الجمهور.
تعتقد "أنتروبيك" أن تسريع تطوير النماذج قد يجعل من الصعب على البشر فهم أو التحكم في هذه الأنظمة. كما أكدت على أهمية مشاركة المقاييس المتعلقة بتقدم الذكاء الاصطناعي، مما قد يسهم في فهم مدى قرب المختبرات الرائدة من تحقيق تحسين ذاتي متكرر.
حثت الشركة أيضًا مطوري الذكاء الاصطناعي الآخرين على مشاركة مقاييس مماثلة بانتظام، مشجعة على استخدام منهجية عامة لتسهيل مقارنة الأرقام على مر الزمن.
لم يتضح بعد مدى قرب "أنتروبيك" من تحقيق تحسين ذاتي متكرر، لكن وتيرة مساهمة "كلود" في الأبحاث والتطوير ملحوظة. فقد كانت نسبة العمل التي يقودها "كلود" صفرًا في فبراير، بينما ارتفعت إلى 25% بحلول أغسطس.
كما قدمت الشركة تفاصيل حول تدابير الإشراف على الوكلاء، مشيرة إلى وجود حوالي 30,000 وكيل يقومون بأعمال البحث والهندسة. تُعتبر تدابير الإشراف ضرورية لرصد سلوك الوكلاء، وقد التزمت "أنتروبيك" مؤخرًا بتعيين مقيمين خارجيين لمراقبة جهود السلامة.
أثار أحد الباحثين في "أنتروبيك" الكثير من النقاش حول سلامة الذكاء الاصطناعي عندما استقال الأسبوع الماضي، محذرًا من التهديدات التي تشكلها هذه التكنولوجيا على البشرية. وقد دعم أمودي، والرئيس التنفيذي لشركة "أوبن أي"، سام ألتمان، وإيلون ماسك، وغيرهم من قادة التكنولوجيا، فكرة تباطؤ التطوير، بينما عارض آخرون، بما في ذلك الرئيس السابق دونالد ترامب، هذا الاتجاه.
