ملخص: تعاني واشنطن من حالة من الذعر بشأن الذكاء الاصطناعي، مدفوعة بمخاوف من نماذج فائقة الذكاء قد تؤدي إلى دمار البشرية. ومع ذلك، يجب التركيز على المخاطر الحالية الناتجة عن انحياز الأتمتة بدلاً من السيناريوهات الكارثية غير المحتملة.
الذعر من الذكاء الاصطناعي في واشنطن
تعيش واشنطن حالة من الذعر بشأن الذكاء الاصطناعي، مدفوعة بمخاوف من أن النماذج الفائقة الذكاء قد تؤدي إلى دمار البشرية. يتضمن اليوم "نسترداموس" العصر الحالي مُبلغين من شركات الذكاء الاصطناعي المتقدمة، الذين يقدرون أن احتمالية أن يقتل الذكاء الاصطناعي جميع البشر تتجاوز واحدًا من عشرة، ويحذرون من أن المطلعين يتوقعون أن يحدث ذلك قبل نهاية العقد. كما يثير نشطاء مناهضون للأسلحة النووية مخاوفهم، مشيرين إلى أنه ليس من المرة الأولى التي تبني فيها الإنسانية شيئًا يمكن أن يهدد وجودها.
قد يكون المتشائمون على حق، لكن السيناريوهات التي يقدمونها تعتمد على سلسلة طويلة من الافتراضات، كل منها غير مرجح بمفرده، وأقل احتمالًا أن تتوافق جميعها في وقت واحد.
المخاطر الحقيقية للذكاء الاصطناعي
هذا لا يعني أن الذكاء الاصطناعي ليس خطيرًا. لكن من خلال التركيز على السيناريوهات ذات الاحتمالية المنخفضة والأثر الكبير، نفوت المخاطر الشائعة والروتينية للذكاء الاصطناعي التي تسبب بالفعل أضرارًا. يجب أن تركز واشنطن بشكل أكبر على خطر انحياز الأتمتة، وهو الظاهرة التي يعتمد فيها البشر بشكل مفرط على الذكاء الاصطناعي أو يفوضون إليه بشكل مفرط مقارنة بدقة نماذج الذكاء الاصطناعي، مما يؤدي إلى تفويض التفكير إلى الآلة، أحيانًا حتى في مواجهة أدلة متناقضة.
حوادث الذكاء الاصطناعي
تظهر حوادث بارزة كيف يمكن أن تؤدي الأخطاء البشرية في استخدام الذكاء الاصطناعي إلى عواقب وخيمة. على سبيل المثال، خلال الحرب الأمريكية مع إيران في الربيع الماضي، أفاد تقرير استخباراتي أن الصين كانت ترسل مكونات أسلحة نووية على متن سفينة في الشرق الأوسط. بدأت القوات العسكرية الأمريكية على الفور في المراقبة وخططت لاعتراض السفينة. قبل بدء العملية، أعيد فحص التقرير الأصلي، حيث اكتشف المسؤولون أنه جاء من محلل قام بإعادة توجيه مخرجات نموذج ذكاء اصطناعي، مما أدى إلى استنتاج خاطئ.
❝ كان من السهل لوم الذكاء الاصطناعي عن التقرير الخاطئ، لكن الأهم هو أن المحلل لم يتحقق مما أنتجه النموذج، ولم يفعل المخططون الذين تلقوا التقرير ذلك أيضًا. ❞
الخطوات اللازمة
للتعامل مع انحياز الأتمتة، يجب اتخاذ خطوات واضحة:
• إنشاء إجراءات تشغيل قياسية: يجب أن تشير أي منتج استخباراتي نهائي استخدم أداة ذكاء اصطناعي إلى ذلك بوضوح.
• التدريب: أظهرت الأبحاث أن الأشخاص الأقل خبرة في نماذج الذكاء الاصطناعي هم الأكثر ميلًا للاعتماد عليها. يجب أن يتضمن التدريب هيكلًا يتيح التعرف على كيفية فشل هذه الأنظمة.
إن خطر انحياز الأتمتة لن يُحل من خلال نماذج أفضل أو نماذج لا تتخيل، لأن الفشل يأتي من كيفية استخدام الناس لها. لا يزال بإمكان الجيش الأمريكي معالجة هذه المشكلة، حيث إن حل مخاطر الذكاء الاصطناعي يتعلق أكثر بالبشر والمنظمات أكثر من كونه مسألة هندسية، وهو ليس مشكلة متخيلة للمستقبل.
