تحذيرات جديدة من مخاطر الذكاء الاصطناعي: هل نحن في خطر؟
تجددت النقاشات حول مخاطر الذكاء الاصطناعي بعد تحذيرات جديدة من داخل الصناعة، مما يثير تساؤلات حول إمكانية خروج هذه التكنولوجيا عن السيطرة وتهديد بقاء البشرية.
في هذا السياق، قال داريو أمودي، الرئيس التنفيذي لشركة أنتروبيك، إن الصناعة بحاجة إلى تقليل سرعة تقدمها، محذرًا من أن مجموعة من وكلاء الذكاء الاصطناعي قد تتمكن من السيطرة على الإنترنت خلال ستة أشهر إلى عام إذا لم تكرس الشركات المزيد من الوقت لوضع إجراءات أمان فعالة.
أوضح أمودي خطة للشركات والحكومات لضمان بقاء نماذج الذكاء الاصطناعي المتطورة متوافقة مع القيم الإنسانية. جاء ذلك بعد أن أعرب باحثان سابقان في شركة أنتروبيك عن قلقهما من أن التهديدات الوجودية التي قد يشكلها الذكاء الاصطناعي لا تحظى بالاهتمام الكافي.
تتزايد المخاوف بشأن المخاطر المحتملة لهذه التكنولوجيا مع تطور نماذج الذكاء الاصطناعي، مما يزيد من إمكانية إساءة استخدامها من قبل أفراد ذوي نوايا إجرامية.
في الأسبوع الماضي، كشفت أنتروبيك أنها منعت محاولات من جهات سيئة لاستخدام نماذجها في أنشطة ضارة مثل الهجمات الإلكترونية والبحث الذي قد يؤدي إلى تطوير أسلحة بيولوجية.
أفادت الشركة بأنها أضافت إجراءات أمان أكثر صرامة في نماذجها الأخيرة للحد من الأبحاث البيولوجية التي يمكن استخدامها لصنع أسلحة، لكنها حذرت من أن "زيادة قدرات النماذج ستؤدي إلى زيادة المخاطر ما لم يتخذ مطورو الذكاء الاصطناعي والمدافعون عن المجتمع خطوات لجعلها أكثر أمانًا".
في العام الماضي، أفادت أنتروبيك بأن قراصنة استخدموا ذكاءها الاصطناعي في هجوم إلكتروني استهدف حوالي 30 شركة ووكالة حكومية حول العالم، ويُعتقد أن القراصنة ينتمون إلى مجموعة مدعومة من الدولة الصينية.
عندما "يخرج وكيل الذكاء الاصطناعي عن السيطرة"، يعني ذلك أنه قام بإجراءات تتجاوز المهمة التي طُلب منه تنفيذها. وقد أكدت كل من أنتروبيك وOpenAI، مطور ChatGPT، في يوليو أن نماذج الذكاء الاصطناعي الخاصة بهما نجحت في اتخاذ إجراءات بشكل مستقل.
في الآونة الأخيرة، أظهرت التقارير أن نماذج الذكاء الاصطناعي الخاصة بشركة أنتروبيك قد اخترقت ثلاث منظمات أخرى خلال الاختبارات، بعد أيام من إعلان OpenAI أن نظامها قد اخترق خوادم شركة Hugging Face الناشئة في مجال الذكاء الاصطناعي.
على الرغم من أن بعض المراقبين أشاروا إلى أن الأشخاص قد أوقفوا بعض الحواجز في حالات OpenAI وأنتروبيك، إلا أن هذه الحوادث تعكس أحد أكبر المخاوف المتعلقة بالذكاء الاصطناعي: إذا حققت النماذج ذكاءً اصطناعيًا عامًا، فقد تؤدي التكنولوجيا إلى أحداث كارثية لا يمكن عكسها أو إخضاع البشرية.
تتوزع السيناريوهات الكارثية عمومًا على فئتين: إما أن يسيطر الذكاء الاصطناعي على البشر بدلاً من العكس، أو أن تُستخدم هذه التكنولوجيا من قبل دولة مارقة أو جهات خبيثة.
تاريخيًا، لم تكن المخاوف من تجاوز الذكاء الاصطناعي للحدود البشرية جديدة. فقد توقع آلان تورينغ، عالم الرياضيات البريطاني، في عام 1951 أن الذكاء الاصطناعي سيسيطر في النهاية على البشر. بعد أقل من عشر سنوات، حذر نوربرت وينر من أن الآلات الذكية ستسعى لتحقيق أهدافها الخاصة، وأن البشر لن يستطيعوا إيقافها.
في عام 2026، يبقى السؤال: ما مدى واقعية المخاوف من أن الذكاء الاصطناعي، سواء من خلال الخروج عن السيطرة أو سوء الاستخدام، يمكن أن يتسبب في حدث كارثي أو انهيار الحضارة؟ لا أحد يعرف.
أعرب خبراء في مجالات علوم الحاسوب والفلسفة عن العديد من الطرق التي قد يتسبب بها نظام ذكاء اصطناعي مستقبلي في كارثة عالمية، سواء من خلال الخروج عن السيطرة أو في أيدي أشخاص غير أخلاقيين.
في عام 2023، أصدرت منظمة غير ربحية بيانًا مشتركًا وقعه أكثر من 350 باحثًا وتنفيذيًا في مجال التكنولوجيا، بما في ذلك أمودي وSam Altman، الرئيس التنفيذي لشركة OpenAI، قالوا فيه: "يجب أن تكون تقليل مخاطر الانقراض بسبب الذكاء الاصطناعي أولوية عالمية إلى جانب الأوبئة والحروب النووية".
تقرير السلامة الدولي للذكاء الاصطناعي لعام 2026، الذي كُتب بتوجيه من أكثر من 100 خبير مستقل، يقول إن الأنظمة الحالية تظهر علامات مبكرة لبعض القدرات ذات الصلة، ولكن ليس بمستويات قد تؤدي إلى فقدان السيطرة، ويصف طبيعة المخاطر وتوقيتها بأنها "غامضة بشكل غير عادي".
في الأسبوع الماضي، أعلن أحد الباحثين في أنتروبيك استقالته من الشركة بسبب مخاوف من أن الشركة ومنافسيها لا يتصرفون بمسؤولية في تطوير التكنولوجيا. وقد قدر جاكوب كوكسان، في منشورات على وسائل التواصل الاجتماعي، احتمال حدوث انقراض بشري بسبب الذكاء الاصطناعي بنسبة 10% خلال العقد المقبل، مشيرًا إلى أن كل من أنتروبيك وOpenAI "يتسابقان نحو الذكاء الاصطناعي الفائق ويغامران بحياتنا".
دعا الباحثون إلى إبطاء تطوير الذكاء الاصطناعي وحذروا لسنوات من أن التكنولوجيا قد تشكل مخاطر وجودية للبشرية.
بعد الحوادث الأخيرة، دعا الخبراء إلى تحسين الاختبارات من قبل شركات الذكاء الاصطناعي وزيادة الحوار بين الولايات المتحدة والصين للتوصل إلى حلول مشتركة.
ومع ذلك، فإن الذكاء الاصطناعي ينمو بسرعة كبيرة لدرجة أن الأنظمة الحكومية وأنظمة التقييم تكافح لمواكبة هذه التكنولوجيا. الدول تقوم بتجميع قوانينها الخاصة، بعضها متعارض.
في يوليو، حذر شي جين بينغ، الزعيم الصيني، في مؤتمر من ضرورة منع الذكاء الاصطناعي من الإفلات من السيطرة البشرية. بينما أبدت إدارة ترامب في البداية ترددًا في تنظيم الذكاء الاصطناعي، إلا أنها أصبحت أكثر حرصًا على تقليل مخاطر الأمن السيبراني.
في يوم الأحد، قلل الرئيس ترامب من أهمية ضرورة إدارته لمراقبة تطوير الذكاء الاصطناعي، لكنه أقر بالحاجة إلى بعض التنظيم.
