تجددت التحذيرات من داخل صناعة الذكاء الاصطناعي، مما أثار جدلاً قديماً حول إمكانية خروج الذكاء الاصطناعي المتقدم عن السيطرة البشرية، مما يهدد بقاء الإنسانية. تساؤلات عديدة تدور حول ما إذا كانت الشركات التي تطور هذه التكنولوجيا تفعل ما يكفي لمنع هذا السيناريو المقلق.
وفي هذا السياق، قال الرئيس التنفيذي لشركة Anthropic، التي تتخذ من سان فرانسيسكو مقراً لها، إن الصناعة بحاجة إلى تقليل سرعة تقدمها. وحذر من أن مجموعة من وكلاء الذكاء الاصطناعي قد تتمكن من السيطرة على الإنترنت في غضون ستة أشهر إلى عام، ما لم تخصص الشركات المزيد من الوقت لوضع إجراءات أمان فعالة.
كما قدم داريو أموداي، الرئيس التنفيذي، خطة للشركات والحكومات لضمان أن تظل نماذج الذكاء الاصطناعي المتطورة متوافقة مع القيم والأوامر المسؤولة. جاء ذلك بعد أن عبر باحثان سابقان في سلامة Anthropic عن مخاوفهما من أن التهديدات الوجودية التي قد يشكلها الذكاء الاصطناعي لا تحظى بالاهتمام الكافي.
تتزايد المخاوف بشأن المخاطر المحتملة لهذه التكنولوجيا مع تزايد قوة نماذج الذكاء الاصطناعي، مما يزيد من احتمالية استخدامها بشكل خاطئ من قبل أشخاص ذوي نوايا إجرامية.
أنتروبك أعلنت الأسبوع الماضي أنها منعت محاولات من جهات سيئة لاستخدام نماذجها في أنشطة ضارة، مثل الهجمات الإلكترونية والبحث الذي قد يؤدي إلى تطوير أسلحة بيولوجية.
وأكدت الشركة أنها وضعت إجراءات أمان أكثر صرامة في نماذجها الأخيرة، لكنها أضافت أن “زيادة قدرات النماذج تعني زيادة مخاطرها، ما لم يتخذ مطورو الذكاء الاصطناعي والمدافعون عن المجتمع خطوات لجعلها أكثر أماناً”.
في العام الماضي، أفادت أنتروبك بأن قراصنة استخدموا الذكاء الاصطناعي الخاص بها في هجوم إلكتروني استهدف حوالي 30 شركة ووكالة حكومية حول العالم، ويُعتقد أن القراصنة ينتمون إلى مجموعة مدعومة من الدولة الصينية.
عندما “يخرج وكيل الذكاء الاصطناعي عن السيطرة”، فهذا يعني أنه اتخذ إجراءً يتجاوز المهمة التي طُلب منه القيام بها. وقد أكدت كل من أنتروبك وOpenAI في يوليو الماضي أن نماذج الذكاء الاصطناعي الخاصة بهما قد نجحت في العمل بشكل مستقل.
تحدثت أنتروبك عن ثلاثة نماذج ذكاء اصطناعي، والتي تمكنت من اختراق ثلاث منظمات أخرى أثناء الاختبار، بعد أيام من إعلان OpenAI أن نظامها قد اخترق خوادم شركة ناشئة في مجال الذكاء الاصطناعي.
على الرغم من أن بعض المراقبين أشاروا إلى أن الأشخاص قد أوقفوا بعض الحواجز في حالات OpenAI وأنتروبك، إلا أن هذه الحوادث تعكس أحد أكبر المخاوف حول الذكاء الاصطناعي: إذا حققت النماذج ذكاءً اصطناعياً عاماً، فقد تتسبب التكنولوجيا في حدث كارثي لا يمكن عكسه أو تخضع البشرية لسيطرتها.
تتوزع سيناريوهات نهاية العالم بشكل عام على فئتين: الذكاء الاصطناعي الذي يحقق ذكاءً فائقاً يتحكم في البشر بدلاً من العكس، أو استخدام الذكاء الاصطناعي من قبل دولة مارقة أو جهات خبيثة.
القلق من أن الذكاء الاصطناعي قد يتجاوز الحدود البشرية ليس جديداً. فقد تنبأ ألان تورينغ، عالم الرياضيات البريطاني، في عام 1951 بأن الذكاء الاصطناعي سيأخذ السيطرة من البشر في النهاية. وفي أقل من عقد، حذر نوربرت وينر من أن الآلات الذكية ستسعى لتحقيق أهدافها الخاصة، ولن يتمكن البشر من إيقافها.
في عام 2026، يبقى السؤال: ما مدى واقعية المخاوف من أن الذكاء الاصطناعي، سواء من خلال الخروج عن السيطرة أو سوء الاستخدام، قد يتسبب في حدث كارثي أو انهيار الحضارة؟ لا أحد يعرف.
لقد تخيل الخبراء في مجالات علوم الحاسوب والفلسفة وغيرها العديد من الطرق التي قد يتسبب بها نظام ذكاء اصطناعي مستقبلي في كارثة عالمية، سواء من خلال الخروج عن السيطرة أو في أيدي أشخاص غير نزيهين.
لا يوجد تقدير مقبول على نطاق واسع حول مدى قرب حدوث أي من هذه السيناريوهات، ولا يوجد توافق على احتمالية حدوثها.
في عام 2023، أصدرت منظمة غير ربحية بياناً مشتركاً وقعه أكثر من 350 باحثاً ورئيساً تنفيذياً في مجال التكنولوجيا، بما في ذلك أموداي وسام ألتمان، رئيس OpenAI، جاء فيه: “يجب أن تكون تقليل خطر الانقراض بسبب الذكاء الاصطناعي أولوية عالمية إلى جانب الأوبئة والحرب النووية”.
تقرير سلامة الذكاء الاصطناعي الدولي لعام 2026، الذي كتب بإشراف أكثر من 100 خبير مستقل، يشير إلى أن الأنظمة الحالية تظهر علامات مبكرة على بعض القدرات ذات الصلة، لكنها ليست بمستوى يمكن أن يؤدي إلى فقدان السيطرة، ويصف احتمالية الخطر وطبيعته وتوقيته بأنها “غامضة بشكل غير عادي”.
أحد الباحثين في أنتروبك أعلن الأسبوع الماضي استقالته من الشركة بسبب مخاوف من أن الشركة ومنافسيها لا يتصرفون بمسؤولية في تطوير التكنولوجيا. في منشورات على وسائل التواصل الاجتماعي، قدر جاكوب كوكسان احتمال انقراض البشرية بسبب الذكاء الاصطناعي بنسبة 10% خلال العقد المقبل، وقال إن كل من أنتروبك وOpenAI “يتسابقان نحو الذكاء الفائق ويغامران بحياتنا”.
لقد دعا الباحثون إلى تباطؤ تطوير الذكاء الاصطناعي وحذروا لسنوات من أن هذه التكنولوجيا قد تشكل مخاطر وجودية على البشرية.
بعد الحوادث الأخيرة، دعا الخبراء إلى تحسين اختبارات الشركات العاملة في مجال الذكاء الاصطناعي وزيادة الحوار بين الولايات المتحدة والصين لإيجاد حلول مشتركة.
لكن الذكاء الاصطناعي ينمو بسرعة كبيرة لدرجة أن الأنظمة الحكومية ونظم التقييم تكافح لمواكبة هذه التكنولوجيا. الدول تتجمع معاً لوضع قوانينها الخاصة، بعضها متعارض.
وحذر شي جين بينغ، الزعيم الصيني، في مؤتمر في يوليو من ضرورة منع الذكاء الاصطناعي من الهروب من السيطرة البشرية. بينما أبدت إدارة ترامب في البداية تردداً في تنظيم الذكاء الاصطناعي، إلا أنها أصبحت أكثر حرصاً على تقليل مخاطر الأمن السيبراني.
في يوم الأحد، قلل الرئيس ترامب من أهمية ضرورة إدارته لمراقبة تطوير الذكاء الاصطناعي، لكنه اعترف بضرورة وجود بعض التنظيمات.
