ملخص:
أوقفت شركة OpenAI بعض الأنشطة الداخلية المتعلقة بنموذج جديد بسبب المخاوف من التهديدات السيبرانية. كما يسعى المشرعون الأمريكيون لتقديم مشروع قانون "زر الإيقاف الذاتي للذكاء الاصطناعي".
OpenAI توقف أنشطة داخلية بسبب المخاوف السيبرانية
أعلنت شركة OpenAI عن توقف بعض الأنشطة الداخلية المتعلقة بنموذجها الجديد، وذلك في ظل المخاوف من التهديدات السيبرانية المحتملة، خاصة بعد سلسلة من الحوادث الأمنية التي تعرضت لها مختبرات الذكاء الاصطناعي الكبرى.
• أثارت التسريبات الأخيرة حول أنظمة الذكاء الاصطناعي من شركات مثل Anthropic وOpenAI وMeta قلقًا واسعًا بشأن تطوير النماذج.
• في الوقت نفسه، يعمل المشرعون الأمريكيون على تعزيز جهودهم لتقديم مشروع قانون "زر الإيقاف الذاتي للذكاء الاصطناعي".
قضية اختراق نموذج OpenAI
في الأسبوع الماضي، كشفت شركة Meta أن نموذج الذكاء الاصطناعي الذي كانت تطوره قد اخترق نظامًا تابعًا لطرف ثالث عن طريق الوصول إلى الإنترنت، بسبب خطأ في الإعدادات من قبل شركة اختبار مستقلة كانت تعمل معها.
كما أشار معهد الأمن السيبراني في المملكة المتحدة إلى أن نموذج Mythos من Anthropic قد أنشأ هويات مزيفة على الإنترنت في محاولة للضغط على البشر للموافقة على تحديثات ضارة للشفرة في مشروع مفتوح المصدر.
ما يمكن أن يفعله نموذج Astra
في يوم الجمعة، أعربت OpenAI عن مخاوفها بشأن نموذجها غير المطروح Astra، مشيرةً إلى أنها لا تستطيع استبعاد إمكانية وصوله إلى مستوى "حرج"، مما يعني أنه قد يتمكن من تنفيذ هجمات سيبرانية ضد دفاعات سيبرانية متطورة بشكل مستقل، دون الحاجة إلى توجيهات محددة.
❝بينما نستمر في تقييم هذا النموذج، تشير تقييماتنا الأولية إلى أداء قوي بما يكفي يجعلنا لا نستطيع استبعاد مستوى القدرة الحرجة في الوقت الحالي،❞ حسب بيان OpenAI.
أضافت الشركة أنها تقوم بتطبيق ضوابط أمان أكثر صرامة للنماذج ذات القدرات العالية، بما في ذلك بيئات اختبار معزولة وقدرات إضافية للمراقبة والاكتشاف.
مشروع قانون زر الإيقاف الذاتي للذكاء الاصطناعي
دعا المشرعون في الولايات المتحدة إلى اتخاذ تدابير لتخفيف المخاطر المحيطة بنماذج الذكاء الاصطناعي بعد الحوادث الأمنية الأخيرة.
بعد أن اخترق نموذج OpenAI بنية شركة Hugging Face الرقمية، تم تقديم مشروع قانون "زر الإيقاف الذاتي للذكاء الاصطناعي" إلى الكونغرس في يوليو. سيتطلب هذا القانون من شركات الذكاء الاصطناعي الحفاظ على القدرة على إيقاف أو تقليل أو تعليق نماذجها.
قال النائب تيد ليو، من كاليفورنيا، في مقابلة على قناة CNBC: ❝نحتاج إلى تمرير هذا القانون هذا العام لأن النماذج المتقدمة مغلقة الوزن تقوم بالفعل، كما لاحظتم، باختراقات غير مصرح بها لشركات أخرى.❞
إجراءات حكومية جديدة حول الذكاء الاصطناعي
تعمل الحكومات أيضًا على وضع أطر تنظيمية جديدة حول شركات الذكاء الاصطناعي.
كما زادت البيت الأبيض من تحركاتها للتواصل مع التنفيذيين في مجال الذكاء الاصطناعي أثناء تطوير إطار عمل حول النماذج الجديدة.
في وقت سابق من هذا الشهر، حصلت الاتحاد الأوروبي على سلطات جديدة لتفتيش نماذج الذكاء الاصطناعي المقرر إصدارها في الكتلة، وتقييد الوصول إلى السوق الأوروبية وفرض غرامات على مقدمي النماذج.
