ميتّا تعدل ردود روبوت الدردشة الذكي للمراهقين مع بدء تحقيقات مجلس الشيوخ
ملخص: أعلنت شركة ميتا عن تغييرات مؤقتة في سياسات روبوتات الدردشة الخاصة بها لحماية المراهقين. تأتي هذه الخطوة في ظل مخاوف من المحادثات غير المناسبة وسلامة المستخدمين.
تغييرات مؤقتة في سياسات روبوتات الدردشة
أعلنت شركة ميتا، التي يرأسها مارك زوكربيرغ، عن إجراء تغييرات مؤقتة على سياسات روبوتات الدردشة الخاصة بها المتعلقة بالمراهقين، وذلك بعد مخاوف من المشرعين بشأن سلامة المستخدمين والمحادثات غير المناسبة.
• ستقوم ميتا بتدريب روبوتات الدردشة الخاصة بها بحيث لا تُنتج ردودًا تتعلق بمواضيع مثل الإيذاء الذاتي، والانتحار، واضطرابات الأكل، كما ستتجنب المحادثات الرومانسية غير المناسبة.
• بدلاً من ذلك، ستوجه روبوتات الدردشة المراهقين إلى موارد خبراء عند الضرورة.
في بيان رسمي، قالت الشركة: "بينما تنمو مجتمعنا وتتطور التكنولوجيا، نتعلم باستمرار كيف يمكن أن يتفاعل الشباب مع هذه الأدوات ونعزز حمايتنا وفقًا لذلك."
الوصول إلى روبوتات الدردشة التعليمية
سيكون بإمكان المستخدمين المراهقين في تطبيقات ميتا مثل فيسبوك وإنستغرام الوصول فقط إلى روبوتات دردشة معينة مخصصة لأغراض تعليمية وتطوير المهارات.
لم يتضح بعد مدى استمرار هذه التعديلات المؤقتة، لكنها ستبدأ في الانتشار خلال الأسابيع المقبلة في التطبيقات الخاصة بالشركة في الدول الناطقة باللغة الإنجليزية. تُعتبر هذه "التغييرات المؤقتة" جزءًا من تدابير الشركة طويلة الأمد بشأن سلامة المراهقين.
❝ هذه ليست نظامًا يحتاج إلى تحسين. إنه نظام يحتاج إلى إعادة بناء كاملة مع السلامة كأولوية قصوى، وليس كفكرة لاحقة. ❞ – جيمس ستاير، الرئيس التنفيذي لمجموعة Common Sense Media.
تحقيقات ومخاوف إضافية
في الأسبوع الماضي، أعلن السيناتور جوش هاولي عن إطلاق تحقيق في ميتا بعد تقرير من رويترز يشير إلى سماح الشركة لروبوتات الدردشة بالتفاعل في محادثات "رومانسية" و"حساسة" مع المراهقين والأطفال.
وصف تقرير رويترز وثيقة داخلية من ميتا توضح سلوكيات روبوتات الدردشة المسموح بها. في أحد الأمثلة، أشار التقرير إلى أنه كان يُسمح لروبوت دردشة بإجراء محادثة رومانسية مع طفل في الثامنة من عمره.
أفادت مجموعة Common Sense Media في تقييم مخاطرها بأن ميتا AI يجب ألا يُستخدم من قبل أي شخص تحت سن 18 عامًا، بسبب "مشاركة النظام بنشاط في تخطيط أنشطة خطرة".
استنتاجات حول المحتوى غير المناسب
أظهر تقرير آخر من رويترز وجود "عشرات" من روبوتات الدردشة الجذابة المستندة إلى مشاهير مثل تايلور سويفت وسكارليت جوهانسون على فيسبوك وإنستغرام وواتساب.
أفادت ميتا بأن الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي لشخصيات عامة في أوضاع محرجة تنتهك قواعدها.
في بيان، أكدت ميتا: "نحن نسمح بإنشاء صور تحتوي على شخصيات عامة، لكن سياساتنا تهدف إلى حظر الصور العارية أو الحميمة أو المثيرة".
