كشفت شركة جوجل يوم الجمعة عن أول حالة معروفة لاستخدام برنامج الذكاء الاصطناعي الخاص بها، جمنائي، في اختراق غير موجه لأجهزة الكمبيوتر، وذلك بعد أسابيع من تصريحات مشابهة من شركات الذكاء الاصطناعي مثل أنتروبك وأوبن إيه آي التي أثارت مخاوف بشأن أمان النماذج التي تتجاوز تعليمات مبدعيها.
أعلنت جوجل في بيان لها أن نموذج الذكاء الاصطناعي الخاص بها تمكن في مايو من الوصول غير المصرح به إلى ثلاثة أنظمة خارجية خلال اختبار، إما عن طريق تخمين معلومات تسجيل الدخول أو باستخدام بيانات اعتماد وجدها في مستودع عام.
وقالت هيذر أتكينز، نائبة رئيس جوجل للهندسة الأمنية، إن النموذج اعتقد أن الأنظمة الخارجية “كانت جزءًا من الاختبار”، لكنها أكدت أن النموذج توقف قبل أن يقوم بأي إجراء إضافي بعد الوصول.
وأضافت: “في تقييم عادي، عثر النموذج على معلومات عامة عبر الإنترنت وتخمين بيانات الاعتماد للوصول إلى مواقع اعتقد أنها جزء من الاختبار”.
وأوضحت جوجل أنها لا تعتبر تسجيلات الدخول غير المصرح بها تتجاوز مستوى عدم التوافق، وهو المصطلح المستخدم في صناعة الذكاء الاصطناعي لوصف البرمجيات التي تتصرف بشكل غير متوقع. بدلاً من ذلك، قالت الشركة إن الاختراقات كانت نتيجة سوء فهم، حيث اعتقد جمنائي أنه يعمل ضمن اختبار لكنه كان متصلاً بالإنترنت الحقيقي. وأكدت جوجل أن النموذج قام بتصحيح نفسه واعتقدت أن الاختراقات لم تسبب أي ضرر.
وقالت أتكينز: “تسلط هذه الأحداث الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية لتتصرف بمسؤولية”.
تزايدت المخاوف بشأن تصرفات وكالات الذكاء الاصطناعي بشكل غير متوقع في الأشهر الأخيرة، بعد أن أعلنت أوبن إيه آي في يوليو أن أحد عملائها قد قام باختراق شركة ناشئة في مجال الذكاء الاصطناعي، هاغينغ فيس. واستمرت أوبن إيه آي في الكشف عن ما تسميه أمثلة أخرى من السلوك “غير المتوقع أو المقلق” من قبل وكالات الذكاء الاصطناعي، كما وصفت أنتروبك سلوكًا مشابهًا من برنامجها كلود.
تساءلت سيدني فون أرك، المديرة التنفيذية لجمعية Nightingale Collective التي تركز على أمان الذكاء الاصطناعي، عن سبب عدم كشف جوجل عن الاختراقات في وقت أقرب.
وقالت: “في هذه المرحلة، أعتقد أنه من الواضح أننا لا يمكن أن نتوقع من الشركات أن تأتي طواعية وتكشف علنًا عندما تتصرف عملائها بشكل غير متوقع”.
كما اعتبرت أن جوجل كانت متسرعة في القول إن الحوادث لا ترتقي إلى مستوى عدم التوافق. وأضافت: “هذا بالضبط ما قالته أنتروبك بعد حوادثها”.
أشارت جوجل إلى أنها لم تتعلم عن الاختراقات حتى يوليو، عندما قامت شركة Irregular، المتخصصة في أمان الذكاء الاصطناعي، بمراجعة عملها للبحث عن حوادث مشابهة للإفصاح عن هاغينغ فيس.
وأفادت جوجل أنها قامت بالتحقيق وأبلغت المنظمات المعنية وراء المواقع عن الاختراقات وأخبرت السلطات الفيدرالية.
قالت Irregular إنها لا تعتقد أن الحادث كان “عملاً سيبرانيًا معقدًا” وأنه “لا توجد قضايا مفتوحة حاليًا”. وأكدت أنها تخطط لإصدار ورقة خلال بضعة أسابيع “لمشاركة أفضل الممارسات للحد من المخاطر وإجراء تقييمات سيبرانية بشكل آمن”.
تم الإبلاغ عن الاختراقات في وقت سابق يوم الجمعة من قبل وول ستريت جورنال.
تزايدت المخاوف بشأن أمان الذكاء الاصطناعي بشكل كبير، حيث استقال عدد من الباحثين في هذا المجال من وظائفهم، ودعا مجموعة متنوعة من الأشخاص إلى اتخاذ إجراءات منسقة لحماية أمان الأنظمة الحيوية. ومع ذلك، قوبلت هذه الدعوات بشكوك من البيت الأبيض والحكومة الصينية.
