يتعلمون فنون القتل
ملخص:
حذر إريك شميت، الرئيس التنفيذي السابق لشركة جوجل، من المخاطر الكبيرة التي تشكلها تقنيات الذكاء الاصطناعي، مشيراً إلى إمكانية تعرضها للاختراق. كما أشار إلى أن هذه التكنولوجيا لا تحظى بالتقدير الكافي رغم إمكانياتها الكبيرة.
تحذيرات من المخاطر المرتبطة بالذكاء الاصطناعي
تحدث إريك شميت، الرئيس التنفيذي السابق لشركة جوجل، في قمة Sifted يوم الأربعاء 8 أكتوبر.
أصدر شميت تحذيراً واضحاً حول المخاطر التي يمثلها الذكاء الاصطناعي، مشيراً إلى أنه يمكن أن يكون عرضة للاختراق.
عندما سُئل عما إذا كان الذكاء الاصطناعي أكثر تدميراً من الأسلحة النووية، قال شميت:
❝هناك إمكانية لمشكلة انتشار في الذكاء الاصطناعي، وهذا أمر مؤكد.❞
مخاطر انتشار الذكاء الاصطناعي
تشمل مخاطر الانتشار للذكاء الاصطناعي إمكانية وقوع التكنولوجيا في أيدي جهات سيئة وإعادة استخدامها بشكل ضار.
قال شميت:
• "هناك أدلة على أنه يمكن أخذ نماذج، سواء كانت مغلقة أو مفتوحة، واختراقها لإزالة حواجز الأمان."
• "خلال فترة تدريبها، تتعلم هذه النماذج أشياء كثيرة، ومن الأمثلة السيئة أنها قد تتعلم كيفية قتل شخص ما."
أضاف شميت أن جميع الشركات الكبرى تجعل من المستحيل على هذه النماذج الإجابة على مثل هذه الأسئلة، وهو قرار جيد.
هجمات الذكاء الاصطناعي
أنظمة الذكاء الاصطناعي عرضة للهجمات، وتشمل بعض الطرق:
• حقن الأوامر: حيث يخفي القراصنة تعليمات ضارة في مدخلات المستخدم أو بيانات خارجية.
• كسر الحماية: يتضمن التلاعب باستجابات الذكاء الاصطناعي لتجاهل قواعد الأمان وإنتاج محتوى محظور أو خطير.
في عام 2023، بعد أشهر من إطلاق ChatGPT، استخدم بعض المستخدمين حيلة "كسر الحماية" لتجاوز التعليمات الأمنية المدمجة في الروبوت.
تقدير الذكاء الاصطناعي
على الرغم من التحذيرات القاتمة، كان شميت متفائلاً بشأن الذكاء الاصطناعي بشكل عام، مشيراً إلى أن هذه التكنولوجيا لا تحظى بالتقدير الكافي.
قال:
• "لقد كتبت كتابين مع هنري كيسنجر حول هذا الموضوع قبل وفاته، وخلصنا إلى أن وصول ذكاء غير بشري تحت سيطرتنا هو أمر كبير للبشرية."
• "أعتقد أن مستوى قدرة هذه الأنظمة سيتجاوز ما يمكن للبشر القيام به بمرور الوقت."
أضاف شميت أن سلسلة GPT، التي culminated في لحظة ChatGPT، تُظهر قوة هذه التكنولوجيا.
توجهات السوق
تأتي تعليقات شميت في وقت يتزايد فيه الحديث عن فقاعة الذكاء الاصطناعي، حيث يستثمر المستثمرون أموالهم في شركات تركز على الذكاء الاصطناعي.
قال شميت إنه لا يعتقد أن التاريخ سيعيد نفسه، مشيراً إلى أن المستثمرين يؤمنون بأن العائد الاقتصادي على المدى الطويل سيكون هائلاً.
