ملخص:
أعلنت شركة OpenAI عن اكتشافها وإحباطها لحملة منسقة تهدف إلى استخراج معلومات محمية من نماذج الذكاء الاصطناعي الخاصة بها، والتي ترتبط بشركة Moonshot AI الصينية. الحملة بدأت في أوائل يوليو وبلغت ذروتها في 16,000 طلب خلال يومين.
حملة منسقة لاستخراج المعلومات
أعلنت شركة OpenAI أنها تمكنت من تحديد وإحباط حملة منسقة، حيث حاول المشغلون استخراج الاستدلال المحمي من نماذج الذكاء الاصطناعي الخاصة بها. وقد ربطت الشركة هذه الأنشطة بشركة Moonshot AI الصينية، المطورة لنموذج Kimi.
تفاصيل الحملة
- بدأت الأنشطة في أوائل يوليو.
- شهدت الحملة زيادة كبيرة حيث تم تقديم 16,000 طلب من أكثر من 4,000 مستخدم خلال يومين.
- تمكنت OpenAI من تحديد نشاط مرتبط عبر مجموعة من أكثر من 15,000 مستخدم، وأعلنت أنها أحبطت الحملة بالكامل بحلول 28 يوليو.
اتهامات متزايدة
تأتي هذه النتائج بعد أسابيع من اتهام شركة Anthropic، المنافسة لـ OpenAI، لعدة مطورين صينيين، بما في ذلك Moonshot AI وAlibaba، باستخدام نموذج Claude بشكل سري لتدريب أنظمتهم الخاصة. هذه الاتهامات تعكس القلق المتزايد بين شركات الذكاء الاصطناعي الأمريكية من إمكانية استخدام المنافسين لنماذجهم لتطوير تقنيات منافسة بشكل أسرع وأرخص.
التأثيرات المحتملة
وصفت OpenAI الأنشطة الأخيرة بأنها "تقطير عدائي"، حيث يتم استخدام مخرجات أو استدلال نموذج ذكاء اصطناعي لتحسين نموذج آخر. وأشارت الشركة إلى أن استخراج مثل هذا الاستدلال يمكن أن يسمح للآخرين بإعادة إنتاج قدرات متقدمة دون الحاجة للاستثمار في تطوير وحماية النماذج المتقدمة، مما يمثل مخاطر على الأمان والسلامة الوطنية.
عدم خرق البيانات
أكدت OpenAI أن المشغلين لم يخترقوا تشفيرها أو قواعد بياناتها أو محادثات المستخدمين المخزنة. بل قاموا بالتلاعب بالتفاعلات مع نماذجها في محاولة لاستنساخ الاستدلال المخفي في شكل مرئي للطالب.
مشاركة النتائج
لم يتضح ما إذا كان جميع المشغلين المعنيين مرتبطين بجهة واحدة، لكن OpenAI نسبت مجموعة أساسية من الأنشطة إلى أفراد مرتبطين بشركة Moonshot AI. كما أفادت الشركة بأنها شاركت نتائجها مع مطورين آخرين في مجال الذكاء الاصطناعي من خلال منتدى النماذج المتقدمة وكذلك عبر قنوات تبادل المعلومات الحكومية.
ردود الفعل
لم ترد شركة Moonshot على طلبات CNBC للتعليق على هذه الأحداث.
❝ إن هذه الأنشطة تمثل تهديدًا كبيرًا للأمان القومي، ويجب على جميع الشركات أن تكون يقظة تجاه مثل هذه المحاولات. ❞
