ملخص: دعا ساتيا ناديلا، رئيس مجلس إدارة شركة مايكروسوفت، إلى ضرورة بناء أنظمة الذكاء الاصطناعي المتقدمة مع وجود آليات احتواء وتحكم مستقل. كما حذر من مخاطر عدم كفاية بروتوكولات السلامة في هذا المجال.
تصريحات ساتيا ناديلا حول الذكاء الاصطناعي
دعا ساتيا ناديلا، رئيس مجلس إدارة شركة مايكروسوفت، إلى ضرورة تصميم أنظمة الذكاء الاصطناعي المتقدمة بطريقة تضمن وجود آليات احتواء وتحكم مستقل. جاء ذلك خلال منشور له على منصة التواصل الاجتماعي "X".
• أهمية التصميم القوي: أكد ناديلا على ضرورة إحاطة النماذج غير الحتمية بتصميم نظام قوي، مع وجود ضوابط بشرية وإجراءات تشغيل موثوقة.
• معايير الصناعة: شدد على أهمية وضع معايير صناعية جديدة حيثما كانت المعايير الحالية غير كافية.
في سياق متصل، أشار ناديلا إلى أن التعامل مع النماذج المغلقة والمفتوحة كأنها مخاطر داخلية يعد وسيلة لبناء نظام آمن.
تأتي تعليقات ناديلا في ظل تحذيرات من كبار التنفيذيين والباحثين في مجال التكنولوجيا، بما في ذلك بيل غيتس، مؤسس مايكروسوفت، وداريوا أموداي، الرئيس التنفيذي لشركة أنثروبيك، وسام ألتمان، الرئيس التنفيذي لشركة OpenAI، وإيلون ماسك، الرئيس التنفيذي لشركة SpaceX، حول عدم كفاية بروتوكولات السلامة في مجال الذكاء الاصطناعي.
❝ إن النظام الأكثر موثوقية للذكاء الاصطناعي الفائق لن يكون هو النموذج الذي نثق به أكثر، بل سيكون هو الذي يمكننا من الثقة بالنموذج الأقل. ❞
كما أشار أحد الباحثين في الذكاء الاصطناعي إلى أنه استقال من شركة أنثروبيك متهمًا الشركة، ومنافستها الرئيسية OpenAI، بـ "المقامرة بحياتنا". وقد ذكر أن هناك احتمالًا يزيد عن 10% أن التكنولوجيا قد "تؤدي إلى القضاء على جميع البشر" خلال العقد المقبل.
في المقابل، تجاهل الرئيس الأمريكي السابق دونالد ترامب مرارًا مخاطر انقراض الذكاء الاصطناعي، مؤكدًا على ضرورة أن تظل الصناعة متقدمة على الصين. وقد قدم مؤخرًا "قوة الذكاء الاصطناعي" الجديدة، برئاسة مدير الاستخبارات الوطنية جاي كلايتون، لتسهيل عمل الصناعة ومكافحة الأفعال السيئة.
كتب ناديلا يوم السبت أن أنظمة الذكاء الاصطناعي يجب أن تُصمم وفقًا لـ "مبادئ القابلية للرصد"، والتي تتضمن:
• تنوع النماذج
• أثر يمكن قراءته بشريًا لأفعال النموذج
• اختبار مستمر للنظام
• ضوابط مستقلة وقابلية للتدقيق
• احتواء الحوادث
• الإفصاح عن الحوادث
تأتي هذه التصريحات في وقت حرج حيث يتزايد النقاش حول سلامة الذكاء الاصطناعي وأثره على المجتمع.
