ملخص:
أكثر من 100 خبير في الذكاء الاصطناعي يجتمعون لتحذير من نقص الموارد اللازمة لاختبار سلامة تقنيات الذكاء الاصطناعي. يطالبون بتوفير الشفافية والاستقلالية لتقييم المخاطر بشكل فعال.
التحذيرات من نقص الموارد في اختبار الذكاء الاصطناعي
اجتمع أكثر من 100 خبير ومقيم في مجال الذكاء الاصطناعي للتحذير من أنهم لن يمتلكوا الموارد اللازمة والضرورية لاختبار سلامة تقنيات الذكاء الاصطناعي، التي تواجه تدقيقًا متزايدًا بسبب المخاوف من المخاطر المحتملة للنماذج المتقدمة.
❝ نحن نحاول حقًا إظهار أرضية مشتركة على المبادئ الأساسية وضمان أن يكون الإشراف المستقل أداة ذات مغزى لإدارة مخاطر الذكاء الاصطناعي بشكل عام، ❞ قال كونراد ستوز، رئيس منتدى تقييم الذكاء الاصطناعي، الذي نظم الرسالة، في مقابلة.
نشر المجموعة رسالة عامة يوم الجمعة وشاركها حصريًا مع CNBC. تشمل التوقيعات شخصيات بارزة في مجال الذكاء الاصطناعي مثل جيفري هينتون وأعضاء من مؤسسات مثل جامعة جونز هوبكنز وجامعة ستانفورد ومنظمة METR غير الربحية. يريدون إلزام مزودي النماذج الأساسية بضمان أن يتمكن المقيمون المستقلون من الحصول على "موضوعية علمية، وشفافية، واستقلالية، وحماية قوية" لأداء مهامهم بشكل فعال وموثوق.
قال ستوز إن هذه الجهود تهدف إلى محاسبة شركات النماذج الأساسية على التزاماتها الأخيرة لدعم اختبارات سلامة الذكاء الاصطناعي من طرف ثالث بشكل أكثر شمولية.
تسليط الضوء على المقيمين المستقلين
لقد تم تسليط الضوء على مجتمع المقيمين المتخصصين منذ أن طرح الرئيس التنفيذي لشركة Anthropic، داريو أموداي، فكرة منح بعضهم "وصولاً شبيهاً بالموظف" للتفتيش وتدقيق النماذج الأساسية المتطورة وعمليات تطويرها. بينما دعا بعض قادة الصناعة الحكومة لتنظيم تطوير الذكاء الاصطناعي لضمان عدم خروج الأمور عن السيطرة، عارض الرئيس دونالد ترامب ورئيس الذكاء الاصطناعي السابق لديه، ديفيد ساكس، هذه الجهود بشدة.
قال ستوز إن التحالف لا "يدعو إلى طريقة معينة" لضمان تطوير نماذج الذكاء الاصطناعي بشكل آمن، لكنه يريد التأكد من أن "المبادئ الأساسية" و"توحيد المعايير" قد تم وضعها على الأقل للمقيمين وغيرهم الذين يعملون بشكل مستقل عن المختبرات الكبرى.
توسيع الوصول للمقيمين
قال ستوز إن اقتراح أموداي يبدو أنه يتضمن توفير وصول أكبر بكثير مما كان يتمتع به المقيمون سابقًا. قد يتضمن هذا السيناريو منح صانعي النماذج الأساسية المقيمين من الطرف الثالث وصولاً إلى أجهزة الكمبيوتر الخاصة بالشركة، مما يسمح لهم بالتحدث مع الموظفين بصراحة واطلاعهم على "بيانات داخلية حساسة وأنظمة غير مُصدرة."
قال ستوز: "هذا النوع من الوصول سيمنحنا ثقة أكبر بشأن المخاطر الفعلية، خاصة بالنسبة للأنظمة التي يستخدمونها داخليًا ولا يطلقونها." واستشهد بنموذج OpenAI غير المُصدَر المستخدم في هجوم Hugging Face.
أعرب الرئيس التنفيذي لشركة OpenAI، سام ألتمان، وإيلون ماسك، وساتيا ناديلا، الرئيس التنفيذي لشركة مايكروسوفت، عن دعمهم العلني لاقتراح أموداي، لكنهم لم يتناولوا بعد القضايا اللوجستية المتعلقة بمثل هذا المشروع، مثل اختيار المقيمين وكيفية تفتيشهم للتقنيات المحمية.
شروط الحد الأدنى لتقييم المقيمين
في بيان، قال فينغ نغوين، زميل أول في مجلس العلاقات الخارجية للذكاء الاصطناعي ورئيس الذكاء الاصطناعي السابق في وكالة الأمن القومي، إن هناك حاجة إلى مقيمين مستقلين للمساعدة في الكشف عن معلومات حاسمة قد تساعد في التخفيف من الفشل الأمني المحتمل والكوارث الاقتصادية.
قال نغوين: "عندما تتحكم بعض المختبرات القوية في قدرات يمكن أن تعرض الأمن السيبراني والبنية التحتية الحيوية للخطر، لا يمكن للحكومة والجمهور الاعتماد على حسابات تلك المختبرات لما هو آمن."
قال ستوز إن المقيمين من الطرف الثالث ليسوا بديلاً عن أي جهود داخلية للتقييم، لكنه اعترف بأنه من الممكن أن تتجاهل شركات النماذج الأساسية الرسالة العامة والدعوة للعمل، لكنه أشار إلى أن مصداقيتهم على المحك.
شروط إضافية لتقييم موثوق
تتضمن الشروط التي يجب أن تتوفر لتقييم موثوق:
• يجب أن تعتمد شركات الذكاء الاصطناعي المتقدمة على مقيمين مستقلين يتمتعون بالتحكم التحريري الكامل.
• يجب أن تتضمن الشركات وجهات نظر وآراء متعددة من خلال تضمين منظمات تقييم متعددة.
• يجب أن يكون المقيمون شفافين بشأن طرقهم ونتائجهم.
• يجب أن يتم حماية المقيمين من الانتقام من الشركات التي يعملون معها.
• يجب أن تمنح الشركات المقيمين وصولاً مماثلاً لوصول موظفيها المميزين لأغراض تقييمهم.
هذه الشروط ليست شاملة، ويجب أن يتم توحيدها وتطبيقها بشكل متزايد لضمان فعالية المقيمين.
