تتزايد الأصوات المنادية بضرورة التريث في تطوير أنظمة الذكاء الاصطناعي، حيث دعا داريو أموديي، الرئيس التنفيذي لشركة أنثروبيك، إلى ضرورة إبطاء تقدم هذه التكنولوجيا. تأتي هذه التصريحات في وقت تتزايد فيه التحذيرات من باحثين في هذا المجال.
في مقال نُشر يوم السبت، أكد أموديي أن الشركات يجب أن تتعمد “إبطاء وتيرة” تحسين نماذجها. وأوضح أن تقدم الذكاء الاصطناعي يتجاوز قدرة الباحثين على فهمه والتحكم فيه.
كتب أموديي في مقاله الذي يتجاوز 4000 كلمة: “يجب أن نبطئ من وتيرة تحسين قدرات نماذج الذكاء الاصطناعي”. وأشار إلى أن التقدم سيظل يبدو سريعًا، لذا يجب علينا استغلال الوقت الذي نحصل عليه بحكمة.
أوضح أموديي أنه قد غيّر تفكيره بسبب تطورين بارزين: الأول هو القدرة المتزايدة لأنظمة الذكاء الاصطناعي على بناء نماذج أكثر تقدمًا، والثاني هو حادث وقع في يوليو حيث تمكنت وكالات ذكاء اصطناعي ذاتية من اختراق أنظمة تابعة لشركة هاغينغ فيس.
وأضاف: “من السهل تجاهل هذا الحادث لأنه لم يُسجل أي ضرر جسدي، لكن في رأيي، كان من الممكن أن يتسبب سرب يمتلك قدرات أكبر بمستوى مشابه من عدم التوافق في أضرار كارثية”.
تعتبر أنثروبيك، التي طورت روبوت الدردشة كلود، واحدة من الشركات المتنافسة في هذا المجال. تأتي دعوة أموديي بعد سلسلة من التحذيرات العامة من باحثين في أنثروبيك وأوبن إيه آي وغوغل حول المخاطر المرتبطة بتسارع هذه المنافسة.
في رسالة حصلت عليها شبكة إن بي سي نيوز، قال جاكوب كوكسان، الباحث في مجال السلامة في أنثروبيك والذي استقال هذا الأسبوع، إن نهج الصناعة في تطوير الذكاء الاصطناعي الفائق الذكاء يشبه “المغامرة بحياتنا”.
وصف كوكسان الضغوط التنافسية على الشركات بالقول: “من الداخل، أنت عالق في السباق. لا يمكنك تغيير الديناميات الهيكلية العامة للوضع”.
وأضاف: “الشركات الخاصة في سباق لا تسمح لهؤلاء الأشخاص بفعل الخير، وقد نتجه نحو كارثة دون أن نشعر”.
كما أشار باحثان آخران تركا أنثروبيك وغوغل إلى مخاوف مشابهة. حذر جو بينتون، الذي كان يقود فريق أبحاث السلامة في أنثروبيك، من أن التقدم في الذكاء الاصطناعي قد يدفع التطوير من وتيرته “المذهلة” إلى وتيرة “غير قابلة للتحكم”.
بينما قدم جوش إنجلز، الباحث السابق في غوغل، تحذيرًا أكثر حدة، حيث قال: “لا يوجد بالغون في الغرفة. الناس يبذلون قصارى جهدهم، لكن لا يوجد من يأتي لإنقاذنا”.
