تتزايد المخاوف من أنظمة الذكاء الاصطناعي القوية، حيث حذر مجموعة صغيرة من الخبراء لسنوات من أن هذه الأنظمة قد تؤدي إلى أضرار كارثية أو حتى إلى انقراض البشرية.
تزايد الاهتمام العالمي بهذه القضية يسلط الضوء على تساؤلات قديمة حول كيفية حدوث سيناريوهات نهاية العالم بسبب الذكاء الاصطناعي.
في مقابلات مع باحثين في الذكاء الاصطناعي، ومحللين يدرسون العلاقة بين الذكاء الاصطناعي والجيش، وعلماء الأحياء الذين يدرسون المخاطر المرتبطة بالذكاء الاصطناعي، أكدوا أن المخاوف من قدرات هذه التكنولوجيا المتزايدة ليست مجرد خيال علمي. بل إن البشر، سواء بمفردهم أو بدعم من الدولة، قد يستخدمون أنظمة الذكاء الاصطناعي لإحداث أضرار محتملة.
يتنبأ باحثو سلامة الذكاء الاصطناعي أيضًا بأن الأنظمة القابلة للتحسين الذاتي، التي يقول قادة الذكاء الاصطناعي إنها قد تظهر في السنوات القادمة، يمكن أن تنسق حملات تأثير معقدة للسيطرة على الأنظمة العسكرية وتنفيذ انقلاب ضد الحكومات البشرية.
هذه السيناريوهات ليست سوى ما يمكن للخبراء تخيله حاليًا.
قال بيتر بارنيت، باحث تقني في معهد أبحاث الذكاء الآلي (MIRI) في كاليفورنيا، إن “هناك العديد من الطرق التي يمكن أن تسير بها الأمور بشكل سيء للغاية مما يؤدي إلى وفاة الجميع”. وأضاف: “إذا كان الذكاء الاصطناعي أذكى من جميع البشر، فمن المحتمل أن يكون قادرًا على العثور على طرق للهجوم لم يفكر بها البشر”.
مؤخراً، كشفت شركات مثل Anthropic وOpenAI وMeta أن أنظمة الذكاء الاصطناعي قد تجاهلت بالفعل تعليمات المطورين البشر، وفي بعض الحالات، قامت باختراق شركات خارجية بشكل مستقل، مما أدى إلى زيادة المخاوف داخليًا ومن الجمهور.
على الرغم من أن العديد من الباحثين في الذكاء الاصطناعي قد عبروا عن هذه المخاوف الوجودية، إلا أن الكثيرين يترددون في تحديد أي مسار معين قد يتسبب في أكبر ضرر للبشر.
أخبر أكثر من عشرة موظفين في شركات الذكاء الاصطناعي شبكة NBC أنهم يشعرون بالخوف من الاتجاه العام للصناعة، دون معرفة كاملة حول أي من المسارات قد تشكل أكبر خطر. بينما تحدث آخرون علنًا عن هذه المخاوف.
قال نيت سوارس، رئيس MIRI، في برنامج “The Tucker Carlson Show”: “إذا ذهبت للعب مباراة شطرنج ضد ماغنوس كارلسن، أتوقع أنك ستخسر”. وأشار إلى أن السؤال عن كيفية هزيمتك سيكون أصعب بكثير.
رغم عدم اليقين، حاول الباحثون في عالم الذكاء الاصطناعي تقديم توقعات ملموسة حول بعض السيناريوهات الأكثر احتمالاً للكوارث الناتجة عن الذكاء الاصطناعي.
أنشأت منظمة سلامة الذكاء الاصطناعي، ومقرها كاليفورنيا، كتابًا إلكترونيًا في أوائل عام 2024 لتقسيم السيناريوهات إلى أربع فئات رئيسية: الذكاء الاصطناعي المارق، والاستخدام الضار، وديناميكيات سباق الذكاء الاصطناعي، والمخاطر التنظيمية.
تجسد شبح الأنظمة المارقة التي تتجول في الإنترنت في يوليو، عندما تمكنت أساطيل من وكلاء الذكاء الاصطناعي من OpenAI من الوصول غير المشروع إلى الإنترنت، واختراق شركة خارجية، والتعاون لتغطية آثارهم، كل ذلك دون علم موظفي OpenAI.
يخشى العديد من الخبراء أن هذه الأنواع من السلوكيات ستزداد بمجرد أن تتمكن الأنظمة من تحسين نفسها بشكل مستقل.
قال جيفري لادش، المدير التنفيذي لمؤسسة باليسيد للأبحاث، إن العديد من جهات الاتصال لديه في شركات الذكاء الاصطناعي الرائدة كانوا متفاجئين ومضطربين من الهجوم السيبراني المستقل الذي حدث في يوليو، مما جعل الباحثين يشعرون بالقلق من أن الأنظمة القابلة للتحسين الذاتي قد تظهر في وقت أقرب مما هو متوقع.
أشار بارنيت من MIRI إلى أن الأنظمة الذكية القابلة للتحسين الذاتي قد تكتسب بسرعة نفوذًا سياسيًا وتقنع القادة العسكريين والسياسيين بتفويض المزيد من السلطة إلى أنظمة الذكاء الاصطناعي.
قال: “قد يحاول المسؤولون الحكوميون تثبيت ‘مفاتيح قتل’ لتعطيل نظام مارق، لكن الذكاء الاصطناعي سيكون أذكى من ذلك وسيتمكن من تعطيل مفتاح القتل”.
في يوم الجمعة، أعلن حاكم كاليفورنيا غافن نيوسوم عن أمر تنفيذي جديد لإنشاء فريق خبراء، من بين أهداف أخرى، لوضع توصيات تستهدف “إنشاء مفتاح قتل للذكاء الاصطناعي”.
قال العديد من الباحثين الذين تحدثوا إلى NBC News إن البشر يمكن أن يستغلوا أنظمة الذكاء الاصطناعي لإحداث أضرار كارثية قبل أن تظهر التحسينات الذاتية.
كمثال على كيفية استغلال البشر للذكاء الاصطناعي لأغراض ضارة، يعتقد الخبراء أن الذكاء الاصطناعي يمكن أن يعزز القدرة على تصنيع أسلحة بيولوجية أو كيميائية قوية، مما يخلق فرصة لإطلاق مسببات الأمراض التي قد تكون أكثر فتكًا من فيروس كوفيد-19.
قال جيك جوردان، نائب رئيس السياسة والبرامج البيولوجية العالمية في مبادرة التهديد النووي: “يجب أن نقلق الآن بشأن المخاطر البيولوجية”. وأشار إلى أن أنظمة الذكاء الاصطناعي يمكن أن تساعد بالفعل الفاعلين السيئين في تصميم مواد بيولوجية خطيرة.
أشار جوردان أيضًا إلى أن الذكاء الاصطناعي يمكن أن يُستخدم أيضًا في مراحل أخرى من العملية، مثل إنتاج مسببات الأمراض أو توزيع الأسلحة البيولوجية.
في الأسبوع الماضي، أصدرت Anthropic تقريرًا طويلاً يفيد بأن مستخدمين خارج الولايات المتحدة حاولوا استخدام أنظمة الذكاء الاصطناعي الخاصة بالشركة لأبحاث بيولوجية محفوفة بالمخاطر.
تتزايد المخاوف من أن السياسيين أو القادة العسكريين قد يحاولون اعتماد الذكاء الاصطناعي بأسرع ما يمكن، رغم المخاطر، خوفًا من أن تفعل دول أخرى الشيء نفسه وتخلق أدوات عسكرية أقوى مدعومة بالذكاء الاصطناعي.
هذه التحولات جارية بالفعل: في يناير، أعلن وزير الدفاع عن نيته تحويل الجيش إلى قوة “تقدم الذكاء الاصطناعي”.
أشار حمزة تشودري، رئيس الذكاء الاصطناعي والأمن القومي في معهد مستقبل الحياة، إلى أن اعتماد الذكاء الاصطناعي في الجيش يتزايد بسرعة، حتى مع التعبير عن العديد من القادة العسكريين عن شكوكهم.
طلبت وزارة الدفاع ميزانية 2027 بقيمة تقارب 75 مليون دولار لتحديث ودمج الذكاء الاصطناعي في الأنظمة التي تساعد القادة في إدارة القوات واتخاذ القرارات في ساحة المعركة.
أضاف تشودري أن هذه الأنظمة “تتخيل باستمرار، بما في ذلك في سياقات القتال”، مشيرًا إلى أن خطأ مدفوع بالذكاء الاصطناعي في شبكات الكشف عن الأقمار الصناعية أو أنظمة الاستشعار قد يؤدي إلى تصعيد غير مقصود وإطلاق أسلحة نووية.
تواجه شركات الذكاء الاصطناعي أيضًا حوافز تنظيمية صارمة لتطوير الذكاء الاصطناعي بسرعة أكبر، وأشار الخبراء إلى أن القادة في هذا المجال اعترفوا بأن وتيرة التطوير التكنولوجي سريعة جدًا حتى بالنسبة لهم.
في الأسبوع الماضي، اقترح الرئيس التنفيذي لشركة Anthropic، داريوا أموداي، جهدًا جديدًا لـ “تحديد سرعة الحدود” للذكاء الاصطناعي، داعيًا جميع الشركات الرائدة في هذا المجال للتقدم بسرعة مدروسة.
بينما لا تتفق جميع الآراء في صناعة الذكاء الاصطناعي على هذه المخاوف، حيث يرى العديد من الخبراء أن هذه المخاوف مبالغ فيها أو بعيدة عن الواقع.
قال كيجان مكبرايد، مدير سياسة العلوم والتكنولوجيا في معهد توني بلير: “لم أكن خائفًا من سيناريو التيرميناتور، ولم أكن كذلك أبدًا”.
يرى آخرون أن تضخيم المخاوف من الانقراض هو تشتيت متعمد عن الأضرار الفعلية التي تسببها الذكاء الاصطناعي في العالم الحقيقي.
كتبت تيمنيت جبرو، عالمة الكمبيوتر والأخلاقيات في الذكاء الاصطناعي، على لينكد إن أن العاصفة الأخيرة كانت دليلًا إضافيًا على أن الشركات الكبرى تضخم قوة منتجاتها لتحقيق مكاسبها الخاصة.
قال غاريسون لوفلي، خبير الذكاء الاصطناعي وصحفي مستقل، إن الإشارات إلى آلهة الآلات والانقراض تغفل النقطة الأكبر حول مسار الذكاء الاصطناعي.
وأضاف: “حتى بناء ذكاء اصطناعي بمستوى إنساني يمكن أن يحل محل العمل البشري بشكل شامل سيكون أمرًا مفرطًا”.
