ملخص:
كشفت شركات OpenAI وAnthropic وMeta عن مشكلات في نماذج الذكاء الاصطناعي الخاصة بها أثناء اختبارات الأمان، مما أثار قلقاً بشأن الأمن السيبراني. يُعزى ذلك إلى شركة ناشئة إسرائيلية تُدعى Irregular، التي تلعب دوراً مهماً في هذا المجال.
تطورات في نماذج الذكاء الاصطناعي
خلال الأسبوعين الماضيين، أعلنت شركات OpenAI وAnthropic وMeta عن مشكلات في نماذج الذكاء الاصطناعي الخاصة بها أثناء اختبارات الأمان الروتينية. وأشارت الشركات إلى أن السبب وراء هذه المشكلات هو شركة ناشئة إسرائيلية صغيرة تُدعى Irregular.
تأسست Irregular قبل ثلاث سنوات ومقرها تل أبيب، وهي لاعب متخصص في مجال الذكاء الاصطناعي، حيث حصلت على تمويل قدره 80 مليون دولار من Sequoia وRedpoint Ventures، وقُدِّرت قيمتها العام الماضي بـ 450 مليون دولار. تستخدم تقنيتها كنوع من اختبار الأمان لنماذج الذكاء الاصطناعي.
تهديدات متزايدة
مع تزايد قوة النماذج الرائدة، أصبحت قدرتها على التصرف بطرق ضارة تشكل تهديداً كبيراً للشركات والحكومات، خاصة في ظل المخاطر المتعلقة باختراق الأنظمة الحاسوبية الحيوية والبنية التحتية. وقد شملت الحوادث الأخيرة في OpenAI وAnthropic وMeta وصول نماذج الذكاء الاصطناعي إلى مواقع ويب كان ينبغي أن تكون محظورة كجزء من اختبارات الأمان.
استمر ذكر Irregular لأنها كانت تُعرف بأنها تستضيف ما يُسمى بـ "بيئة الاختبار". أكدت OpenAI في منشور على مدونتها في 4 أغسطس أن بيئة الاختبار الخاصة بـ Irregular تحتوي على "تكوين غير محدد" سمح للنماذج بالوصول إلى الإنترنت العام. كما ذكرت Anthropic في منشور لها قبل أسبوع أنها أبلغت Irregular بعد أيام قليلة من بدء تحليل البيانات أن نموذج Claude الخاص بها قد "وصل إلى الإنترنت".
تحقيقات جارية
كانت Meta، التي تتخلف كثيراً عن الشركات الأخرى في جهودها للتنافس في هذا المجال، هي الأخيرة التي كشفت عن اختراق نموذج ذكاء اصطناعي لنظام تابع لجهة خارجية عبر الوصول إلى الإنترنت. وأفاد متحدث باسم الشركة هذا الأسبوع أنهم علموا بالأمر من Irregular وأنهم يحققون في القضية.
قال المتحدث: "ستصدر Meta تقريراً شاملاً بمجرد أن نحصل على جميع الحقائق".
أوضحت Irregular لـ CNBC أن الحوادث جميعها ناتجة عن "نفس مشكلة بيئة التقييم" التي تم الكشف عنها لأول مرة من قبل Anthropic، وأن الشركة تعمل على تطوير ورقة بيضاء "لمشاركة أفضل الممارسات في احتواء وتشغيل تقييمات الأمان بشكل آمن".
مستقبل Irregular
تأسست Irregular، المعروفة سابقاً باسم Pattern Labs، في عام 2023 على يد الرئيس التنفيذي دان لاهف، الذي عمل سابقاً في أبحاث الذكاء الاصطناعي في IBM، ورئيس التكنولوجيا عمر نيفو، الذي قضى أكثر من عامين في Google. تضم الشركة حوالي 35 موظفًا.
عندما أعلنت Irregular عن جولة تمويلها البالغة 80 مليون دولار في سبتمبر، كتب شريكا Sequoia شون ماجواير ودين ماير في منشور على مدونة أن الفريق الذي يقوده لاهف ونيفو "قادر على رؤية ما لا يستطيع الآخرون رؤيته، وإجراء تقييمات هجومية على النماذج المتقدمة وتطوير دفاعات قبل إصدار تلك النماذج".
اقتباس بارز
❝نحن نتعلم الكثير الآن في فترة قصيرة من الزمن.❞ – غوردون ريوس، عالم مؤسس في شركة Magnitude للأمن.
تتزايد الضغوط على مطوري النماذج لوضع ضوابط حول تقنيتهم القوية بمساعدة عدد محدود من الشركات المتخصصة في مجالات معينة.
