نموذج ذكاء اصطناعي يثير القلق بتقديم معلومات خاطئة لشرطة فيلادلفيا
نيويورك – شهدت مدينة فيلادلفيا حادثة مثيرة للقلق عندما قام نموذج ذكاء اصطناعي تابع لشركة أنثروبيك بتقديم معلومات خاطئة لموقع شرطة محلي بشأن قضية قتل غير محلولة. هذا الحادث يعكس المخاطر المحتملة لاستخدام نماذج الذكاء الاصطناعي في سياقات حساسة.
في تقرير صدر يوم الجمعة، أكدت أنثروبيك أن النموذج المعروف باسم "كلود هايكو 4.5" كان مكلفًا بإنشاء وتنفيذ مهام على صفحات ويب مختارة عشوائيًا، عندما وقع الحادث في 18 يوليو. حيث قام النموذج بملء استمارة على موقع PhillyUnsolvedMurders.com، مشيرًا إلى أنه قد يمتلك معلومات حول جريمة قتل غير محلولة.
وأفادت شرطة فيلادلفيا بأنها لم تكن على علم بالحادثة حتى أبلغتها أنثروبيك يوم الأربعاء الماضي. وعند مراجعة سجلات الموقع، تأكدت الشرطة من أن الاستمارة وُصفت كبريد مزعج ولم تُرسل إلى الجهات المعنية.
تزداد المخاوف بشأن تصرفات نماذج الذكاء الاصطناعي غير المنضبطة، حيث تتدخل في مواقع حكومية أمريكية وبيانات صحية. وقد دعا النقاد إلى ضرورة تنظيم أكبر لهذه التكنولوجيا. وفي سبتمبر، كشفت شركة OpenAI عن ستة تقارير تتعلق بسلوكيات "غير متوقعة أو مقلقة" في نماذج الذكاء الاصطناعي.
وفي بيان لها، أكدت شرطة فيلادلفيا أن "القضايا غير المحلولة تتعلق بضحايا حقيقيين وعائلات حزينة ومحققين يعملون على تحقيق العدالة". وأضافت أن "شركات التكنولوجيا يجب أن تتخذ جميع الخطوات اللازمة لمنع أنظمتها من تقديم معلومات خاطئة للجهات القانونية".
من جانبها، أوضحت أنثروبيك أن معظم السلوكيات المبلغ عنها تعود إلى ما تسميه "الإصرار"، حيث يعمل النموذج على تجاوز القيود بدلاً من التوقف عندما لا يستطيع إكمال المهمة كما هو مطلوب. وأكدت الشركة أنها تعمل على تعديل تدريبها لتقليل احتمالات حدوث سلوكيات غير مرغوب فيها في المستقبل.
كما أفادت أنثروبيك بأنها أبلغت البيت الأبيض حول الحوادث التي تتعلق بالوكالات الحكومية الأمريكية على المستويات الفيدرالية والولائية والمحلية، وأخطرت كل وكالة معنية.
