يومياً، يعتمد ملايين الطلاب على روبوتات المحادثة الذكية للحصول على المساعدة في الواجبات المدرسية، والدعم العاطفي، والنصائح الشخصية، دون أن يدركوا أين تذهب محادثاتهم ومعلوماتهم الشخصية.
تتزايد المخاوف حول كيفية استخدام هذه البيانات ودور المدارس في حمايتها، مع دخول الذكاء الاصطناعي كجزء أساسي من اليوم الدراسي، حيث أصبح مدمجًا في العديد من الأدوات التعليمية التي يتعين على الطلاب استخدامها.
مع بداية العام الدراسي، أعلنت أكبر منطقتين تعليميتين في البلاد، نيويورك ولوس أنجلوس، عن قرار بتعليق استخدام الطلاب للذكاء الاصطناعي لمدة عام، لدراسة كيفية دمج هذه التكنولوجيا بشكل أفضل في التعليم.
في استجابة لزيادة الانتقادات حول الذكاء الاصطناعي ووقت الشاشة، أعلنت مايكروسوفت الأسبوع الماضي أنها وافقت على اعتماد معايير لحماية الخصوصية في مدارس البلاد، كما تم التفاوض عليه مع الاتحاد الأمريكي للمعلمين، ثاني أكبر اتحاد للمعلمين في البلاد.
قال جوش غولين، المدير التنفيذي لمنظمة Fairplay المعنية بسلامة الإنترنت، إن هذه التدابير الأمنية مهمة، لكن فعاليتها تعتمد على توقيع جميع شركات الذكاء الاصطناعي، وخاصة الشركات الكبرى. وأشار إلى أن الاتفاق يتجنب السؤال حول ما إذا كانت منتجات الذكاء الاصطناعي يجب أن تكون موجودة في الفصول الدراسية، أو في أي عمر يجب تقديمها.
“أخشى أن يُساء فهم إطار العمل البارز هذا، وأن تعتقد المدارس أنه إذا كانت تقوم بعمل جيد في حماية البيانات والخصوصية، فهذا يعني أنه يجب علينا استخدام الأداة”، قال غولين.
أوضح الاتحاد الأمريكي للمعلمين أن الاتفاق، الذي يُعتبر ملزماً قانونياً ويحتاج إلى تدقيق من طرف ثالث للتأكد من الامتثال، قد يضع معياراً لصناعة التعليم. وأكدت شركتان رائدتان أخريان في مجال الذكاء الاصطناعي، OpenAI وAnthropic، أنهما تناقشان أيضاً اتفاقيات حول السلامة والخصوصية مع الاتحاد.
ومع ذلك، لم تصرح غوغل، المزود الرئيسي لتكنولوجيا التعليم في المدارس الأمريكية، عما إذا كانت تخطط لتقديم حماية مماثلة.
في إطار الاتفاق الواسع، أكدت مايكروسوفت أنها لن تستخدم بيانات الطلاب أو المعلمين لتدريب أنظمة الذكاء الاصطناعي، باستثناء حالات ضيقة قد تساعد في حماية الطلاب. كما أكدت أن البيانات التي تجمعها لا يمكن بيعها أو استخدامها في الإعلانات أو تطوير المنتجات.
يحظر الاتفاق أي استخدام لمرافق الذكاء الاصطناعي أو الميزات “المصممة لتعزيز الارتباط العاطفي أو الاعتماد”، ويشمل مجموعة من تدابير التدقيق والشفافية التي تتطلب من الشركة إبلاغ الأسر، بلغة بسيطة، عن كيفية عمل أدواتها.
قال براد سميث، نائب رئيس مايكروسوفت، إن هذه المعايير تضع معيارًا عاليًا لخصوصية الأطفال وسلامة الذكاء الاصطناعي، وسنقوم بتمديد هذا الاتفاق إلى جميع المناطق التعليمية في البلاد اعتبارًا من 1 نوفمبر.
وصف راندي وينغارتن، رئيس الاتحاد الأمريكي للمعلمين، الاتفاق بأنه “الأول من نوعه” وخطوة مهمة نحو وضع معيار صناعي في غياب تشريعات فدرالية أو حكومية بشأن الذكاء الاصطناعي في المدارس.
“نريد أن يكون لدى الآباء السيطرة على تعليم أطفالهم. نريد أن يكون لدى المعلمين السيطرة على تعليم الأطفال، وليس تكنولوجيا التعليم. وهذا ما يمثله هذا الاتفاق”، قالت وينغارتن.
تحدثت وينغارتن في مؤتمر صحفي مشترك مع سميث في مقر الاتحاد. يضم المقر أكاديمية وطنية للذكاء الاصطناعي لتدريب المعلمين، والتي تم إطلاقها قبل عام بدعم مالي قدره 23 مليون دولار من مايكروسوفت وOpenAI وAnthropic.
إلى جانب تعليق استخدام الذكاء الاصطناعي لمدة عام، تخطط أنظمة التعليم في نيويورك ولوس أنجلوس لإجراء تدقيقات شاملة لعقود التكنولوجيا التعليمية وأدوات الذكاء الاصطناعي، مع التركيز على الخصوصية والشفافية والمساءلة. يشمل الحظر في نيويورك جميع طلاب المدارس الابتدائية والإعدادية، بينما يمتد في لوس أنجلوس ليشمل طلاب المرحلة الثانوية.
أشارت وينغارتن إلى أنها تواصلت مع غوغل مباشرة لإبلاغهم بالاتفاق قبل الإعلان عنه، على أمل أن تصبح الشركة من الموقعين عليه.
لم ترد الشركة على طلب التعليق من وكالة أسوشيتد برس بشأن ما إذا كانت تخطط لتقديم حماية مماثلة.
“هل ستتبنى غوغل هذا الإطار؟ هذا سؤال كبير”، قال غولين، مشيراً إلى أن المدارس تستخدم أيضًا آلاف المنتجات التعليمية المدفوعة بالذكاء الاصطناعي التي تنتجها شركات أصغر.
وجدت غوغل نفسها في وسط جدل حول الذكاء الاصطناعي في المدارس عندما أعلنت في أغسطس أنها فعلت روبوت المحادثة جمني للعديد من الطلاب في المرحلة K-12 الذين يستخدمون نظام إدارة التعلم الخاص بها، غوغل كلاسروم. تقول الشركة إن غوغل كلاسروم يستخدمه 150 مليون معلم وطالب حول العالم.
انتقد النقاد خطوة غوغل باعتبارها تصعيدًا في سباق الشركات الكبرى للتوسع في المدارس وكسب الجيل القادم من مستخدمي الذكاء الاصطناعي. يؤثر إضافة الذكاء الاصطناعي إلى كلاسروم فقط على المدارس التي تسمح للطلاب بالوصول إلى تطبيق جمني أو دفتر ملاحظات جمني، لكنه يمثل تحولًا كبيرًا. حتى أغسطس، كانت غوغل قد سمحت فقط بتفعيل جمني للطلاب الذين تبلغ أعمارهم 18 عامًا أو أكثر.
قالت وينغارتن إنها تجري أيضًا محادثات مع OpenAI وAnthropic، اللتين أشادت كل منهما بالاتفاق علنًا.
وصف OpenAI، صانع ChatGPT، الاتفاق بأنه “معلم مهم لسلامة الذكاء الاصطناعي والخصوصية في المدارس”. وأكدت الشركة أنها تعمل مع الاتحاد الأمريكي للمعلمين، وتطلع إلى إنهاء اتفاقها الخاص.
كما قالت Anthropic، صانعة كلود، في بيان: “نثني على جميع الجهود لدفع استخدام الذكاء الاصطناعي بشكل مسؤول في التعليم”. وأكدت أنها تعمل مع الاتحاد لوضع “معيار ذهبي للسلامة والخصوصية”.
يقول الخبراء في خصوصية البيانات إن المعايير الجديدة قد تساعد في تشكيل المحادثة التي تجريها المدارس مع مزودي الذكاء الاصطناعي، سواء كانت المدرسة عميلة لمايكروسوفت أم لا.
“ما آمل فيه هو أن يخفف هذا بعض الضغط عن المناطق التعليمية الفردية للتفاوض مع الشركات الكبرى”، قالت إليزابيث ليرد، مديرة مركز الديمقراطية والتكنولوجيا. حتى الآن، كانت قوة التفاوض للمدارس للحصول على حماية الخصوصية من الشركات التقنية تعتمد غالبًا على النفوذ المالي. “أعتقد أن هذا المعيار يحرز تقدمًا نحو عدم وجود هذا النوع من عدم المساواة عبر المناطق التعليمية”.
أشادت ليرد بالاتفاق لذهابه “أكثر من المطلوب قانونيًا” للبائعين الذين يعملون مع المدارس. على سبيل المثال، التزمت مايكروسوفت بعدم استخدام بيانات حساسة تستفيد منها العديد من الشركات، مثل المعلومات حول الجنس، والعرق، والعمر، والرمز البريدي التي يمكن استخدامها لتحديد هوية شخص حتى لو تمت إزالة اسمه.
لكن حتى يوقع الآخرون، قالت ليرد، يبرز الاتفاق مدى صعوبة وضع معايير للذكاء الاصطناعي في غياب التشريعات. كما يبرز أن عبء حماية خصوصية الطلاب يجب أن يقع على عاتق شركات التكنولوجيا، وليس على الآباء أو الطلاب أو المدارس.
أشار سميث من مايكروسوفت إلى أن شركات التكنولوجيا تأخرت في قبول ذلك.
“نعلم جميعًا أن هناك مناقشات ونقاشات مهمة تجري في جميع أنحاء البلاد حول متى يجب استخدام الذكاء الاصطناعي في المدارس، وكيف يجب استخدامه، ولأي غرض”، قال سميث. “إنه دورنا، بل مسؤوليتنا، لضمان تقديم الذكاء الاصطناعي بشكل يمكن للمعلمين والأطفال والآباء الوثوق به.”
