تسليط الضوء على مخاوف الخصوصية: المدارس الأمريكية تتخذ خطوات لحماية بيانات الطلاب في عصر الذكاء الاصطناعي
في ظل تزايد استخدام الطلاب للذكاء الاصطناعي، يواجه النظام التعليمي الأمريكي تحديات جديدة تتعلق بخصوصية البيانات. يوميًا، يعتمد ملايين الطلاب على روبوتات المحادثة الذكية للحصول على المساعدة في الواجبات المدرسية والدعم العاطفي، دون إدراك لمكان انتهاء محادثاتهم ومعلوماتهم الشخصية.
تتزايد المخاوف بين المعلمين وأولياء الأمور حول كيفية استخدام هذه البيانات ودور المدارس في حمايتها، خاصة مع دخول الذكاء الاصطناعي كمكون أساسي في أدوات التعليم. ومع بداية العام الدراسي، أعلنت أكبر منطقتين تعليميتين في البلاد، نيويورك ولوس أنجلوس، عن تعليق استخدام الطلاب للذكاء الاصطناعي لمدة عام، لدراسة كيفية دمج هذه التكنولوجيا بشكل أفضل في التعليم.
في إطار رد فعل متزايد ضد استخدام الذكاء الاصطناعي، أعلنت مايكروسوفت الأسبوع الماضي عن التزامها بتبني معايير للخصوصية وحماية البيانات في المدارس، وذلك بالتعاون مع اتحاد المعلمين الأمريكيين، ثاني أكبر نقابة للمعلمين في البلاد.
رغم أن هذه التدابير الأمنية تعتبر مهمة، إلا أن جوش غولين، المدير التنفيذي لمنظمة Fairplay، أشار إلى أن هذه المعايير لن تكون فعالة إلا إذا انضمت جميع شركات الذكاء الاصطناعي، وخاصة الشركات الكبرى، إلى هذا الالتزام. وأكد أن الاتفاقية تتجنب سؤالًا مهمًا حول ما إذا كانت منتجات الذكاء الاصطناعي يجب أن تكون موجودة في الفصول الدراسية، أو في أي عمر يجب تقديمها.
قال غولين: "أخشى أن يتم فهم إطار العمل هذا بشكل خاطئ، وأن تعتقد المدارس أنه إذا كانت تقوم بعمل جيد في خصوصية البيانات، فهذا يعني أنه يجب علينا استخدام الأداة."
أشار اتحاد المعلمين الأمريكيين إلى أن الاتفاقية، التي تعتبر ملزمة قانونيًا وتتطلب تدقيقًا من طرف ثالث، قد تضع معيارًا جديدًا في الصناعة. كما أعلنت شركتان رائدتان في مجال الذكاء الاصطناعي، OpenAI وAnthropic، أنهما تبحثان أيضًا في اتفاقيات للسلامة والخصوصية مع الاتحاد. ومع ذلك، لم تعلن غوغل، المزود الرئيسي لتكنولوجيا التعليم في المدارس الأمريكية، عن خططها لتقديم حماية مماثلة.
تتضمن الاتفاقية الشاملة التي أبرمتها مايكروسوفت عدم استخدام بيانات الطلاب أو المعلمين لتدريب أنظمة الذكاء الاصطناعي، باستثناء حالات ضيقة تهدف لحماية الطلاب. كما تنص الاتفاقية على عدم بيع البيانات أو استخدامها في الإعلانات أو تطوير المنتجات.
تشمل الاتفاقية أيضًا حظر استخدام أي ميزات للذكاء الاصطناعي تهدف إلى تعزيز الارتباط العاطفي أو الاعتماد، بالإضافة إلى تدابير تدقيق وشفافية تتطلب من الشركات توضيح كيفية عمل أدواتها للأسر بلغة بسيطة.
قال براد سميث، نائب رئيس مايكروسوفت، إن هذه المعايير تضع مستوى عالٍ من الخصوصية للأطفال وسلامة الذكاء الاصطناعي، مضيفًا أن الشركة ستوسع هذا الاتفاق ليشمل جميع المناطق التعليمية في البلاد بدءًا من 1 نوفمبر.
أشادت راندي وينغارتن، رئيسة اتحاد المعلمين الأمريكيين، بالاتفاقية واصفة إياها بأنها "الأولى من نوعها" وخطوة مهمة نحو وضع معيار صناعي في غياب تشريعات فدرالية أو ولائية حول الذكاء الاصطناعي في المدارس.
تخطط أنظمة التعليم في نيويورك ولوس أنجلوس أيضًا لإجراء تدقيقات شاملة لعقود التكنولوجيا التعليمية وأدوات الذكاء الاصطناعي، مع التركيز على خصوصية البيانات والشفافية والمساءلة.
تواصل وينغارتن التفاوض مع غوغل و<الب>OpenAI و<الب>Anthropic، حيث أعربت الشركات عن دعمها للاتفاقية.
في الوقت نفسه، تثير خطوة غوغل الأخيرة بإطلاق روبوت الدردشة "جمني" للعديد من الطلاب في المدارس جدلًا واسعًا، حيث اعتبرها النقاد تصعيدًا في السباق بين عمالقة التكنولوجيا لدخول المدارس وكسب الجيل القادم من مستخدمي الذكاء الاصطناعي.
تؤكد الخبراء في مجال خصوصية البيانات أن هذه المعايير الجديدة قد تساعد في تشكيل المحادثات التي تجريها المدارس مع مقدمي خدمات الذكاء الاصطناعي، سواء كانت المدرسة عميلة لمايكروسوفت أم لا.
