ملخص:
يحذر الباحثون من المخاطر الكارثية المحتملة للذكاء الاصطناعي، حيث يتفق عدد من الرواد في هذا المجال على ضرورة التباطؤ في تطوير هذه التكنولوجيا. تتصاعد المخاوف في واشنطن بشأن الحاجة إلى تنظيم أكثر صرامة للذكاء الاصطناعي.
تحذيرات من المخاطر الكارثية للذكاء الاصطناعي
في الوقت الذي يحذر فيه الباحثون من أن الذكاء الاصطناعي قد يشكل مخاطر كارثية، يشارك بعض الرواد الذين ساهموا في تطوير هذه التكنولوجيا بمزيد من التحذيرات حول مخاطر التقدم غير المقيد في قدراتها.
خلال الأسبوع الماضي، ظهرت سلسلة من التحذيرات الصارخة بشأن سلامة الذكاء الاصطناعي، حيث أطلق باحثون من مختبرات ذكاء اصطناعي كبرى مثل "أنتروبيك" و"أوبن إيه آي" و"ديب مايند" التابعة لـ غوغل إنذارًا بشأن المخاطر المحتملة الكارثية الناتجة عن تطوير هذه التكنولوجيا.
بينما أبدى قادة الذكاء الاصطناعي مثل سام ألتمان وداريو أمودي وديميس هاسابيس وإيلون ماسك توافقًا نادرًا في الدعوة إلى التباطؤ والرقابة التنظيمية.
في الوقت نفسه، ازدادت المخاوف من أن تعزز هذه القضايا النقاش في واشنطن. بينما دعا بعض أعضاء الكونغرس من الحزبين الديمقراطي والجمهوري إلى مشاريع قوانين للحد من تقدم الذكاء الاصطناعي، أبدى الرئيس الأمريكي دونالد ترامب يوم الاثنين استياءه من الدعوات المتزايدة لتنظيم الذكاء الاصطناعي.
لكن ماذا يعتقد الأشخاص الذين ساهموا في إنشاء الذكاء الاصطناعي عن المخاطر الوجودية التي يواجهها الكثيرون اليوم؟
يوشوا بنجيو
يوشوا بنجيو، عالم حاسوب كندي، يُعتبر رائدًا مركزيًا في مجال التعلم العميق الحديث. قال بنجيو في 9 سبتمبر، ردًا على استقالة الباحث في "أنتروبيك" جاكوب كوكسان، الذي حذر من أن الذكاء الاصطناعي قد "يقتلنا جميعًا بحلول نهاية العقد":
❝يمتلك العلماء في مختبرات الذكاء الاصطناعي المتقدمة رؤى فريدة حول النماذج الأكثر تقدمًا. يجب أن تؤخذ وجهة نظرهم على محمل الجد.❞
أضاف بنجيو أن الأنظمة الحالية للذكاء الاصطناعي "تمتلك بالفعل المهارات اللازمة للاختراق وقوى الإقناع التي يمكن استخدامها ضد مصالح البشر بطرق ضارة بشكل خطير".
جيفري هينتون
يُعتبر جيفري هينتون، أستاذ في جامعة تورنتو، رائدًا في مجال الشبكات العصبية والتعلم العميق. عندما سُئل في 10 سبتمبر عما إذا كان يعتقد أن هناك فرصة تزيد عن 10% أن يقتل الذكاء الاصطناعي جميع البشر خلال عقد من الزمن، قال:
"هذا نوع من الأمور التي يصعب تقديرها، لأننا لم نخلق شيئًا مثل هذا من قبل".
أضاف هينتون أن هناك "احتمالًا غير معقول" لذلك، مشيرًا إلى أن الأنظمة يمكن أن تصمم "فيروسات بيولوجية خطيرة" وتنفذ "هجمات سيبرانية مدمرة".
أيدن غوميز
أيدن غوميز، الرئيس التنفيذي لشركة "كوهير"، كان أحد مؤلفي ورقة البحث "الاهتمام هو كل ما تحتاجه" التي ساعدت في وضع الأساس لنماذج الذكاء الاصطناعي الرائدة اليوم. قال غوميز:
"أعتقد أن هذه النماذج هي أقوى سلاح سيبراني تم إنشاؤه على الإطلاق. إنها رائعة في العثور على الثغرات واستغلالها على نطاق واسع".
أضاف غوميز أن "أمان بيئة النشر هو ما يحدد السلامة"، مشيرًا إلى الهجمات السيبرانية التي نفذتها نماذج ذكاء اصطناعي خارجة عن السيطرة خلال الصيف.
