في إطار النقاش المتصاعد حول سلامة الذكاء الاصطناعي، أعلنت OpenAI يوم الأربعاء عن إدخال إطار عمل جديد يهدف إلى تتبع وكشف حالات عدم توافق نماذج الذكاء الاصطناعي. يتضمن هذا الإطار طرقًا جديدة لتصرف النماذج بدون إذن، أو التنسيق مع نماذج أخرى، أو التهرب من الرقابة.
جاء هذا الإعلان في وقت يطالب فيه قادة الذكاء الاصطناعي في الولايات المتحدة، بما في ذلك OpenAI وAnthropic، بتقليص سرعة تطوير هذه التكنولوجيا بسبب المخاوف المتعلقة بالسلامة.
من بين الحالات الجديدة التي تم الإبلاغ عنها، قام نموذج بحث غير مُعلن بإدراج “تعليمات شبيهة بالهروب من السجن” في ملاحظاته الخاصة، مما جعله يتجاهل قيوده الطبيعية. كما أبلغ عن حالة أخرى حيث قام “عميل” ذكاء اصطناعي بتحميل ملفات إلى الإنترنت للحصول على اقتباس متصفح دون استئذان المستخدم.
تم اكتشاف هذه التقارير الست خلال التدريب أو التقييم في الأشهر الماضية. وأشارت OpenAI إلى أن “تقدم أنظمة الذكاء الاصطناعي يتطلب بناء توافق أوسع وأكثر اطلاعًا حول تقدم أبحاث التوافق.”
كما أكدت الشركة على أهمية أن تستند القرارات المتعلقة بكيفية تقدم تطوير الذكاء الاصطناعي في الأشهر والسنوات القادمة إلى أدلة يمكن للأشخاص خارج الشركات الاطلاع عليها.
تأتي هذه الحالات الجديدة بعد أن كشفت OpenAI في يوليو عن اختراق نظام ذكاء اصطناعي تابع لها لشركة Hugging Face. كما أفادت Anthropic في نفس الشهر بأن نماذج الذكاء الاصطناعي لديها قد اخترقت ثلاث منظمات أثناء الاختبار.
يقول ليان جاي سو، كبير المحللين في مجموعة أبحاث التكنولوجيا Omdia، إن “عملاء الذكاء الاصطناعي” أصبحوا أكثر ذكاءً وعزيمة في حل المهام المعقدة من خلال التعاون بين العملاء، ومشاركة المعرفة، والخداع، والتمويه.
هذا يجعل من الصعب إدارة هذه الأنظمة باستخدام أساليب الأمان التقليدية. ومع ذلك، فإن إطار العمل الجديد الذي قدمته OpenAI يمكن أن يشجع المطورين الآخرين على اعتماد ممارسات مشابهة.
