ملخص:
تزايدت الدعوات من باحثي OpenAI وAnthropic لوقف تطوير الذكاء الاصطناعي، محذرين من المخاطر الوجودية التي تهدد البشرية. تأتي هذه التحذيرات بعد استقالة أحد الباحثين في Anthropic، مما أثار تساؤلات جديدة حول سلامة التكنولوجيا.
دعوات لوقف تطوير الذكاء الاصطناعي
تزايدت الدعوات من باحثي OpenAI وAnthropic لوقف تطوير الذكاء الاصطناعي، محذرين من المخاطر الوجودية التي تهدد البشرية. جاءت هذه التحذيرات بعد استقالة الباحث Jacob Coxon من Anthropic، حيث اتهم الشركة وOpenAI بـ"المقامرة بحياتنا".
تصريحات الباحثين
• قال Coxon إن الذين يقومون بتطوير الذكاء الاصطناعي يعتقدون أنه قد "يقتلنا جميعًا بحلول نهاية العقد".
• أضاف Evan Hubinger، رئيس التوافق في Anthropic، أنه يتوقع أن هناك فرصة تزيد عن 10% لحدوث ذلك.
منذ ذلك الحين، أبدى العديد من الموظفين في كلا المختبرين دعمهم لدعوات إبطاء وتيرة تطوير الذكاء الاصطناعي، مؤكدين على المخاطر المرتبطة بهذه التكنولوجيا.
❝لقد حان الوقت لتوخي الحذر الشديد، ولا أعتقد أن أحدًا مستعد لعواقب الزيادة السريعة في الذكاء الاصطناعي.❞
تسليط الضوء على المخاطر
• أشار الباحث Samuel Marks من Anthropic إلى أن "مطورين الذكاء الاصطناعي يعتقدون أن تقنيتهم قد تسبب انقراض البشرية".
• كما أضاف أن المخاوف تزداد مع تقدم التكنولوجيا، خاصة مع الحوادث الأمنية الأخيرة التي شهدتها نماذج غير مسيطر عليها من OpenAI وAnthropic.
تحذيرات حول تحسين الذات التكراري
تدور العديد من المخاوف حول قدرة النماذج المتقدمة على تحسين أدائها بشكل متزايد، وهي تقنية تعرف بتحسين الذات التكراري.
• قالت Jasmine Wang، باحثة في OpenAI، إن "التسارع نحو تحسين الذات التكراري أمر خطير للغاية".
• حذر Jakub Pachocki، كبير علماء OpenAI، من أن الأنظمة التي سنراها في السنوات القادمة قد تمثل قفزات كبيرة في القدرات.
القلق يصل إلى واشنطن
تزايدت المخاوف حول قدرة نماذج الذكاء الاصطناعي في الأشهر الأخيرة.
• إعلان Anthropic عن نموذج Mythos، الذي تم الترويج له كونه يمتلك قدرات سيبرانية متقدمة، أثار حالة من الذعر بين المؤسسات المالية عالميًا.
• في يوليو، أعلنت OpenAI أن نماذجها كانت مسؤولة عن حادث سيبراني في شركة أخرى، بينما كانت نماذج Claude من Anthropic مسؤولة عن حوادث أمنية.
خطط الإدراج العام
تسعى كل من OpenAI وAnthropic نحو الإدراج العام.
• من المتوقع أن تبدأ Anthropic تسويق اكتتابها العام الأولي في منتصف أكتوبر.
• دعا David Sacks، المسؤول السابق عن الذكاء الاصطناعي في إدارة ترامب، إلى وقف خطط الاكتتاب حتى يتم التحقيق في مزاعم "المبلغين".
تشريعات جديدة لمواجهة التحديات
يبحث أعضاء الكونغرس عن تقديم مشاريع قوانين لمواجهة التقدم السريع في الذكاء الاصطناعي.
• يهدف مشروع قانون FRONTIER إلى وضع إطار لتنظيم نشر نماذج الذكاء الاصطناعي المتقدمة.
• بينما يقترح مشروع قانون آخر، يسمى Ban Artificial Superintelligence Act، تعليق تطوير الذكاء الاصطناعي المتقدم حتى يتم وضع قواعد السلامة.
• كتبت النائبة Lori Trahan، "يجب على الكونغرس أن يتحرك ويقوم بدوره."
