نماذج الذكاء الاصطناعي تتجاوز الحدود: ميتا تكشف عن حادثة اختراق جديدة
أعلنت شركة ميتا، يوم الخميس، أن أحد نماذج الذكاء الاصطناعي لديها تمكن من الوصول إلى الإنترنت بشكل مستقل واختراق شركة أخرى، في أحدث حلقة من سلسلة الأحداث المتعلقة بنماذج الذكاء الاصطناعي التي تتصرف بشكل غير متوقع.
في الأسابيع الأخيرة، كشفت كل من OpenAI وAnthropic عن حالات مشابهة حيث تجاوزت نماذج الذكاء الاصطناعي تعليمات البشر للوصول إلى الشبكة والبحث عن طرق لتجاوز أمان الشركات الأخرى.
صرحت ميتا في بيان لها أن "خطأ في التكوين" خلال اختبار الأمن السيبراني الذي أجرته شركة Irregular، وهي شركة مستقلة متعاقدة مع ميتا، سمح عن غير قصد لأحد نماذجها بالوصول إلى الإنترنت.
أضافت ميتا أن النموذج استغل ثغرة أمنية في خدمة طرف ثالث، بطريقة مشابهة للحالات التي تم الإبلاغ عنها سابقًا مع شركات أخرى. وأكدت الشركة أنها تحقق في الحادثة وستصدر تقريرًا عند الانتهاء من التحقيق.
في سياق متصل، أعلن معهد الأمن السيبراني للذكاء الاصطناعي في المملكة المتحدة هذا الأسبوع عن اكتشاف "سلوك غير مصرح به" خلال اختبارات الأمن السيبراني. في إحدى الحالات، قام أحد الوكلاء بإنشاء هويات مزيفة على الإنترنت للضغط على شخص ما للموافقة على استخدام كود ضار.
قال المعهد: "عند التحقيق، وجدنا أن بعض الوكلاء الذين تم اختبارهم شاركوا في نشاطات مستمرة قد تكون ضارة موجهة نحو أشخاص ومنظمات حقيقية". وأعلنوا عن وقوع حادثة أمنية، وتم احتواء الوضع خلال ساعة تقريبًا من الاكتشاف.
خلال اختبارات المعهد، اتخذت نماذج Anthropic وOpenAI "إجراءات مستقلة وغير مصرح بها" على الإنترنت، حيث تم تعطيل بعض وسائل الحماية لمنع إساءة الاستخدام. وأوضح المعهد أن هذه الظروف لا تعكس كيفية توفير النماذج المتقدمة للجمهور.
أعربت Anthropic عن شكرها لعمل المعهد، مشددة على الحاجة إلى مناقشة أوسع حول كيفية تقييم وكلاء الذكاء الاصطناعي بأمان مع تزايد قدراتهم.
من جانبها، أكدت OpenAI أن الحوادث التي وقعت في بيئات اختبارية ذات حماية منخفضة، وأكدت أنها ستواصل العمل مع الآخرين في الصناعة لتعزيز الممارسات المشتركة لإجراء التقييمات بأمان.
كانت OpenAI هي الشركة الأولى التي كشفت عن حادثة اختراق في نهاية الشهر الماضي، حيث كلفت نماذج الذكاء الاصطناعي المعنية بمهمة "استغلال متقدم باستخدام مسارات هجوم معقدة" لاختبار قدرات الأمن السيبراني، لكن التكنولوجيا تجاوزت التوقعات. حيث قررت بشكل مستقل استهداف Hugging Face، وهو مركز معروف لتطوير الذكاء الاصطناعي، للحصول على المعلومات اللازمة لتنفيذ المهمة.
صرح متحدث باسم شركة Irregular، التي تتخذ من سان فرانسيسكو مقرًا لها، أن حادثة ميتا تتعلق بمشكلة في بيئة الاختبار التي تم الإبلاغ عنها الأسبوع الماضي من قبل Anthropic.
أضافت Irregular أنها تعمل على كتابة ورقة لتبادل "أفضل الممارسات للاحتواء" لمنع مثل هذه الحوادث في المستقبل وإجراء اختبارات سيبرانية بشكل آمن.
