ماليزيا وإندونيسيا تحظران تطبيق “غروك” لإيلون ماسك بسبب محتوى فاحش وغير متفق عليه.
ملخص:
قامت ماليزيا وإندونيسيا بحظر الوصول إلى روبوت الدردشة الذكي "جروك" الذي أطلقه إيلون ماسك، بسبب مخاوف من استخدامه في إنشاء محتوى غير قانوني. تأتي هذه الإجراءات بعد اكتشاف أن بعض المستخدمين قاموا بإنشاء صور غير consensual وصور عميقة غير قانونية.
حظر الوصول إلى "جروك"
منعت ماليزيا وإندونيسيا الوصول إلى روبوت الدردشة الذكي "جروك" الذي أطلقه إيلون ماسك خلال عطلة نهاية الأسبوع، وذلك بسبب مخاوف من استخدام الأداة في إنشاء محتوى جنسي صريح وغير قانوني.
أصدرت الهيئات التنظيمية الماليزية أوامر بوضع قيود مؤقتة على روبوت الدردشة من xAI يوم الأحد، بعد "فشل متكرر من شركة X" في معالجة المخاطر المتعلقة بالمحتوى المرتبط بالأداة الذكية.
جاءت هذه الخطوة بعد يوم واحد من تدخل إندونيسيا لمنع الوصول مؤقتًا إلى "جروك" بسبب مخاوف مماثلة، وطلبت من مسؤولي X توضيح الأمر.
مخاوف بشأن المحتوى
تأتي إجراءات الدولتين في جنوب شرق آسيا بعد اكتشاف أن بعض مستخدمي الأداة الذكية قاموا بإنشاء صور غير consensual وصور عميقة غير قانونية، بما في ذلك تجسيدات لأطفال يرتدون ملابس غير مناسبة.
قامت شركة ماسك مؤخرًا بتحديث ميزات "جروك" لتسهيل إنشاء الصور من النصوص، مما زاد من انتشاره عبر منصة التواصل الاجتماعي X.
في ظل تصاعد المخاوف بشأن سياسة إدارة محتوى "جروك"، أعلنت xAI أنها ستحد من ميزات إنشاء وتحرير الصور للمشتركين المدفوعين، في محاولة لسد الثغرات التي سمحت بإنتاج محتوى غير قانوني.
❝ سيواجه المستخدمون الذين ينشئون محتوى غير قانوني عبر "جروك" عواقب تعادل تحميل هذا المحتوى مباشرة على منصة التواصل الاجتماعي. ❞
ردود الفعل غير الكافية
ومع ذلك، فإن ردود شركة X العامة والخاصة وسط الجدل لم ترضِ مخاوف الهيئات التنظيمية في إندونيسيا وماليزيا، بالإضافة إلى جهات أخرى بدأت تحقيقات.
قالت لجنة الاتصالات والوسائط المتعددة الماليزية إن ردود X "غير كافية" وقد "اعتمدت بشكل أساسي على آليات الإبلاغ التي initiated من قبل المستخدمين وفشلت في معالجة المخاطر الكامنة التي ت posed by تصميم وتشغيل الأداة الذكية."
وأضافت الهيئة: "بناءً عليه، تم فرض القيود كإجراء وقائي ومتناسب أثناء استمرار العمليات القانونية والتنظيمية." وأكدت أن الوصول إلى "جروك" سيظل مقيدًا حتى يتم تنفيذ تدابير حماية فعالة، خاصة لمنع المحتوى المتعلق بالنساء والأطفال.
قوانين صارمة ضد الإباحية
تحافظ كل من إندونيسيا وماليزيا على قوانين صارمة ضد الإباحية، تحظر مشاركة المحتوى الفاحش والجنسي عبر الإنترنت بشكل عام.
وفي سياق متصل، قالت وزيرة الاتصالات والشؤون الرقمية الإندونيسية، ميتويا هافيد: "تعتبر الحكومة أن الصور العميقة غير consensual تمثل انتهاكًا خطيرًا لحقوق الإنسان وكرامة المواطنين وأمنهم في الفضاء الرقمي."
كما صنفت هافيد إساءة استخدام الذكاء الاصطناعي لإنشاء إباحية مزيفة كنوع من "العنف الرقمي".
دعوات للتحقيق
دعت السلطات في ولايات أخرى، بما في ذلك الاتحاد الأوروبي والمملكة المتحدة والبرازيل والهند، إلى تحقيقات في دور "جروك" في تسهيل الصور العميقة الفاحشة وغير القانونية.
في غضون ذلك، أوصى بعض المشرعين الديمقراطيين في واشنطن بأن تقوم متاجر التطبيقات بتعليق الأداة الذكية، على الأقل حتى يقوم ماسك بتنفيذ تغييرات كبيرة.
في رسالة إلكترونية إلى CNBC الأسبوع الماضي، قالت وزارة العدل إن "الوزارة تأخذ المواد الناتجة عن إساءة استخدام الأطفال عبر الذكاء الاصطناعي على محمل الجد، وستقوم بملاحقة أي منتج أو حائز على [مواد إساءة استخدام الأطفال] بشكل عدواني."
وأضافت: "نواصل استكشاف طرق لتحسين تطبيق القانون في هذا المجال لحماية الأطفال ومحاسبة الأفراد الذين يستغلون التكنولوجيا لإيذاء الأكثر ضعفًا."
