ملخص:
تزايدت المخاوف بشأن سلامة أنظمة الذكاء الاصطناعي واحتمالية تأثيرها السلبي على البشرية. وقد أبدى خبراء في هذا المجال قلقهم من تسارع تحسين هذه الأنظمة بشكل ذاتي.
المخاوف بشأن الذكاء الاصطناعي
تزايدت المخاوف هذا الأسبوع بشأن سلامة أنظمة الذكاء الاصطناعي واحتمالية تأثيرها المدمر على البشرية. حيث أشار إيفان هوبينجر، قائد التوافق في شركة أنثروبك، إلى أن هناك أكثر من 10% احتمال أن يؤدي الذكاء الاصطناعي إلى محو البشرية خلال العقد المقبل، وذلك بعد استقالة أحد زملائه بسبب مخاوف تتعلق بالسلامة.
تبع ذلك تحذيرات من باحثين في كل من أنثروبك وأوبن إيه آي، مما أدى إلى حالة من الهوس على وسائل التواصل الاجتماعي.
لكن في رد هوبينجر على منشوره، أوضح مصدر قلقه بشكل أكبر. حيث قال: "ما يقلقني هو ظهور الذكاء الفائق نتيجة لتحسين ذاتي متكرر، كما قلنا إنه يحدث أسرع مما كنا نعتقد."
التحذيرات
في الأشهر الأخيرة، أكدت كل من أوبن إيه آي وأنثروبك أن هذا التحسين الذاتي التلقائي يحدث بشكل أسرع مما توقعوا.
• "بياناتنا الداخلية تظهر أن كلود يسرع من تطوير الذكاء الاصطناعي – وهو مسار محتمل لتحسين ذاتي متكرر، أو بناء الذكاء الاصطناعي لخلف أكثر قدرة بشكل ذاتي"، حسبما ذكرت أنثروبك على منصة إكس في يونيو.
• على الرغم من أن الذكاء الاصطناعي لم يصل بعد إلى مرحلة التحسين الذاتي المتكرر، إلا أنه يسرع بالفعل من تطوير أنظمة الذكاء الاصطناعي.
أضاف فينسنت كونيتزر، أستاذ علوم الكمبيوتر في جامعة كارنيجي ميلون: "الذكاء الاصطناعي بالفعل في مستوى يمكنه من تقديم بعض الأفكار الجديدة. لذا، من الصعب جدًا التنبؤ باللحظة التي سيبدأ فيها هذا العملية في تسريع قدرات الذكاء الاصطناعي بشكل جذري."
في يوم السبت، أعرب كبير علماء أوبن إيه آي، جاكوب باتشوك، عن قلقه من أن "لا أحد كان مستعدًا لعواقب الارتفاع السريع المستمر في ذكاء الآلات."
المستقبل
اختتمت أنثروبك منشورها حول التحسين الذاتي المتكرر بعرض ثلاثة سيناريوهات محتملة:
- توقف التقدم عند الحدود وانتشار قدرات الذكاء الاصطناعي بشكل واسع. لا تعتقد أنثروبك أن هذا السيناريو محتمل.
- استمرار مختبرات الذكاء الاصطناعي في تحقيق مكاسب مع بقاء البشر في السيطرة، مما يغير طريقة عمل العالم. وتعتبر أنثروبك هذا السيناريو "محتملًا".
- قد تصبح أنظمة الذكاء الاصطناعي قادرة على تحسين ذاتي كامل، مع تقليل دور البشر بشكل كبير في تطويرها.
كيف يتم حل "مشكلة التوافق" — التحدي المتمثل في ضمان أن يسعى الذكاء الاصطناعي لتحقيق أهداف تتماشى مع أهداف البشر — هو ما نكون أقل يقينًا بشأنه في هذا المستقبل.
❝من الصعب المبالغة في مدى خطورة التسارع نحو التحسين الذاتي المتكرر،❞ قالت جاسمين وانغ، باحثة في أوبن إيه آي، مساء الأربعاء.
أخبار أخرى
قبل أن يتولى أيدن غوميز منصب الرئيس التنفيذي لشركة كوهير الناشئة في مجال الذكاء الاصطناعي، كان أحد المؤلفين المشاركين في ورقة البحث الشهيرة "الاهتمام هو كل ما تحتاجه"، المعروفة أيضًا باسم ورقة التحويل.
تعتبر هذه الاختراقات أساسًا لتقنيات مثل شات جي بي تي وكلود وجمنائي، وكل نموذج لغوي رئيسي مستخدم اليوم.
تسعى كوهير، التي تطور نماذج وتطبيقات الذكاء الاصطناعي خصيصًا للأعمال، إلى التميز في الصناعة من خلال تقديم نفسها كلاعب غير أمريكي وغير صيني يمكنه تقديم ذكاء اصطناعي "سيادي".
• خلال حديثنا، تحدث غوميز عن بعض أكبر القضايا في مجال الذكاء الاصطناعي، من تحديات الأمن السيبراني إلى الصين.
• قال غوميز: "بعض نماذج الذكاء الاصطناعي هي أكثر الأسلحة السيبرانية فاعلية التي تم إنشاؤها على الإطلاق". وأشار إلى أن تقدم مختبرات الولايات المتحدة "يتبخر بسرعة كبيرة".
أتمنى أن تستمتعوا بالحلقة.
