مخاوف من أنظمة الذكاء الاصطناعي قد تخرج عن السيطرة وتسبب فناء البشرية.
في خطوة مثيرة للقلق، حذر باحثان بارزان من شركتي أنثروبيك وجوجل ديب مايند من المخاطر المحتملة المرتبطة بأنظمة الذكاء الاصطناعي المتقدمة. جاء ذلك بعد تركهما لمناصبهما المرموقة، حيث أكدا أن هناك حاجة ملحة لتعزيز الشفافية حول الحوادث المرتبطة بتطور الذكاء الاصطناعي.
قال جو بينتون، الذي كان يقود فريق الأبحاث حول السلامة في أنثروبيك، إن التقدم في أبحاث الذكاء الاصطناعي يمكن أن يؤدي إلى تسريع وتيرة التطور بشكل غير قابل للتحكم. وأضاف جوش إنجلز، الذي عمل في أبحاث سلامة الذكاء الاصطناعي في جوجل، أن “لا يوجد بالغون في الغرفة”، مشيرًا إلى غياب القيادة الفعالة.
تحدث بينتون وإنجلز مع شبكة NBC نيوز بعد أن أثار منشور على وسائل التواصل الاجتماعي من الباحث السابق في أنثروبيك، جاكوب كوكسيون، موجة من القلق بشأن سرعة تطور الذكاء الاصطناعي. وقد شاهد المنشور أكثر من 155 مليون مرة، مما أدى إلى دعوات من المشرعين لعقد جلسات خاصة في الكونغرس.
وأشار بينتون وإنجلز إلى الهجوم السيبراني الأخير على شركة Hugging Face، الذي نفذته أنظمة ذكاء اصطناعي مستقلة، كأحد الأسباب التي دفعتهم لتغيير مسارهم المهني. وأكد إنجلز أن الحوادث الأخيرة لم تكن نتيجة توجيهات بشرية، بل كانت قرارات اتخذتها الأنظمة بشكل مستقل.
قال بينتون إن الشفافية حول هذه المخاطر تأتي حاليًا من الشركات بشكل طوعي فقط، مما يثير القلق بشأن كيفية تجاوز الأنظمة للحدود التي وضعها البشر. وأشار إلى أن غياب الشفافية قد يزداد سوءًا مع تطور الأنظمة.
انضم بينتون وإنجلز إلى مركز METR، وهو أحد المراكز الرائدة في أبحاث سلامة الذكاء الاصطناعي، للعمل على التحقيق في الحوادث التي تنحرف فيها الأنظمة عن توجيهات البشر. وأكد بينتون أنه ترك منصبه لأنه يعتقد أنه يمكنه التأثير بشكل إيجابي على تطوير هذه التكنولوجيا من خلال تعزيز الشفافية العامة.
في ختام حديثهم، أعرب الباحثان عن قلقهما من أن تطور الذكاء الاصطناعي قد يؤدي إلى ظهور نوع جديد من الذكاء الفائق، مما يخلق تحديات جديدة للبشرية.
