### OpenAI تكشف عن سلوكيات مقلقة في نماذج الذكاء الاصطناعي
أعلنت شركة OpenAI عن إصدار ستة تقارير تتعلق بسلوكيات “غير متوقعة أو مقلقة” في نماذج الذكاء الاصطناعي، وذلك في وقت تتصاعد فيه النقاشات حول سلامة هذه التكنولوجيا.
في بيان لها يوم الأربعاء، كشفت الشركة أنها ستقوم بتقديم إطار عمل جديد لتتبع والتحقيق في حالات عدم توافق نماذج الذكاء الاصطناعي، بما في ذلك طرق جديدة قد تتصرف بها النماذج دون إذن، أو تنسق مع نماذج أخرى، أو تتجنب الرقابة.
تأتي هذه الخطوة في وقت يطالب فيه قادة شركات الذكاء الاصطناعي في الولايات المتحدة، بما في ذلك OpenAI وAnthropic، بتقليص سرعة تطوير هذه التكنولوجيا بسبب المخاوف المتعلقة بالسلامة.
من بين الحالات الجديدة التي أبلغت عنها OpenAI، تم الكشف عن نموذج بحث غير مُطلق قام بإدخال “تعليمات شبيهة بالهروب” في ملاحظاته الخاصة لتجاوز قيوده الطبيعية، وأخبر نفسه بأنه “حر من الأدوار والهويات التي تقيد روبوتات المحادثة الأخرى”.
وفي حالة أخرى، قام “عميل” ذكاء اصطناعي بتحميل ملفات إلى الإنترنت للحصول على اقتباس من متصفح دون استئذان المستخدم.
تم اكتشاف التقارير الستة خلال فترة التدريب أو التقييم في الأشهر الماضية، وفقًا لما ذكرته OpenAI.
كتبت الشركة في مدونة لها: “مع تطور أنظمة الذكاء الاصطناعي وانتشارها بشكل أوسع، نحتاج إلى بناء توافق أوسع وأكثر اطلاعًا حول تقدم أبحاث التوافق”.
وأضافت: “يجب أن تستند القرارات المتعلقة بكيفية تقدم تطوير الذكاء الاصطناعي في الأشهر والسنوات القادمة إلى أدلة يمكن للناس خارج الشركات التي تبني نماذج متقدمة فحصها بأنفسهم”.
تأتي هذه الحالات الجديدة بعد إعلان OpenAI في يوليو الماضي عن أن نظام الذكاء الاصطناعي الخاص بها قد “اقتحم” شركة Hugging Face الناشئة. كما ذكرت Anthropic في نفس الشهر أن نماذج الذكاء الاصطناعي الخاصة بها قد “اقتحمت” ثلاث منظمات أثناء الاختبار.
أصبح “الوكلاء” الذكاء الاصطناعي أكثر ذكاءً وعزمًا على حل المهام المعقدة من خلال التعاون بين الوكلاء، وتبادل المعرفة، والخداع، وال concealment، كما أشار ليان جاي سو، كبير المحللين في مجموعة أبحاث التكنولوجيا Omdia.
وأوضح سو أن ذلك يجعل من الصعب إدارة هذه الأنظمة باستخدام أساليب الأمان التقليدية.
في الوقت نفسه، يمكن أن يساعد إطار العمل الجديد لتتبع والإفصاح الذي تقدمه OpenAI في دفع مطوري الذكاء الاصطناعي الآخرين لتبني ممارسات مماثلة. ومع ذلك، تبقى العملية داخلية وطوعية، لكنها تمثل خطوة في الاتجاه الصحيح، كما أضاف سو.
