كيف أثار موقع “نوديفاي” مجموعة من الأصدقاء للقتال ضد الإباحية المولدة بواسطة الذكاء الاصطناعي
ملخص:
تسليط الضوء على تزايد استخدام تطبيقات الذكاء الاصطناعي لإنشاء محتوى إباحي مزيف، مما يثير قلقًا كبيرًا حول الخصوصية والأمان. تتحدث الضحايا عن تجاربهن المروعة وتأثير هذه التكنولوجيا على حياتهن.
تزايد استخدام تطبيقات الذكاء الاصطناعي لإنتاج محتوى إباحي مزيف
في يونيو من العام الماضي، تلقت جيسيكا غويستوليس رسالة نصية غيرت مجرى حياتها. بينما كانت تستمتع بعشاء مع زملائها في رحلة عمل في أوريغون، أبلغتها صديقة تدعى جيني بمعلومات عاجلة عن زوجها المنفصل، بن.
بعد محادثة استمرت قرابة ساعتين مع جيني في تلك الليلة، شعرت غويستوليس بالذهول والذعر. أخبرتها جيني أنها وجدت صورًا على جهاز الكمبيوتر الخاص ببن لأكثر من 80 امرأة، حيث تم استخدام صورهن من وسائل التواصل الاجتماعي لإنشاء مواد إباحية مزيفة باستخدام الذكاء الاصطناعي. جميع النساء في الصور كن من منطقة مينيابوليس.
استخدمت جيني هاتفها لالتقاط صور للصور الموجودة على جهاز بن، وكشفت اللقطات التي اطلعت عليها CNBC أن بن استخدم موقعًا يسمى "DeepSwap" لإنشاء هذه المواد المزيفة. يُعتبر "DeepSwap" جزءًا من فئة مواقع "nudify" التي انتشرت منذ ظهور الذكاء الاصطناعي التوليدي قبل أقل من ثلاث سنوات.
قررت CNBC عدم استخدام اسم عائلة جيني لحماية خصوصيتها، كما احتفظت باسم عائلة بن بسبب ادعائه بمعاناته من مشاكل صحية عقلية. والآن هما مطلقان.
قالت غويستوليس إنها كانت يائسة لقطع رحلتها والعودة إلى المنزل بعد حديثها مع جيني.
معارضة متزايدة للأدوات القابلة للتزوير بالذكاء الاصطناعي
في مينيابوليس، ستؤدي تجارب النساء إلى زيادة المعارضة ضد أدوات التزوير بالذكاء الاصطناعي والأشخاص الذين يستخدمونها. إحدى الصور المعدلة التي رأت غويستوليس عند عودتها كانت قد تم إنشاؤها باستخدام صورة من عطلة عائلية، وأخرى من تخرج ابنة عمتها. كلاهما تم التقاطه من صفحتها على فيسبوك.
❝لم أتمنى هذا لأحد،❞ قالت غويستوليس.
تطبيقات nudify وتأثيرها المتزايد
تمثل تطبيقات nudify جزءًا صغيرًا ولكنه سريع النمو من عالم الذكاء الاصطناعي الجديد، الذي انفجر بعد ظهور ChatGPT من OpenAI في أواخر عام 2022. منذ ذلك الحين، استثمرت شركات مثل ميتا وألفابت ومايكروسوفت وأمازون مئات المليارات من الدولارات في الذكاء الاصطناعي.
بالنسبة للمستهلكين، كانت معظم الإثارة حتى الآن تتعلق بروبوتات الدردشة ومولدات الصور. لكن ضحايا تطبيقات nudify يعانون من الجانب السلبي لانتعاش الذكاء الاصطناعي. بفضل الذكاء الاصطناعي التوليدي، أصبحت منتجات مثل "DeepSwap" سهلة الاستخدام لدرجة أنه يمكن الوصول إليها من قبل أي شخص تقريبًا.
التحديات القانونية
قدمت غويستوليس بلاغًا للشرطة حول القضية وحصلت على أمر تقييدي ضد بن. لكنها وصديقاتها أدركن بسرعة أن هناك مشكلة في هذه الاستراتيجية. قد تكون أفعال بن قانونية، حيث لم تكن النساء المعنيات قاصرات، ولم يتم توزيع المواد المزيفة، بل كانت موجودة فقط على جهاز بن.
قالت مولي كيلي، طالبة القانون، التي ساعدت المجموعة في التنقل عبر المتاهة القانونية للذكاء الاصطناعي، إن بن لم ينتهك أي قوانين معروفة.
التأثير النفسي على الضحايا
تعاني ضحايا أدوات nudify من صدمات نفسية كبيرة، مما يؤدي إلى أفكار انتحارية، وإيذاء النفس، وخوف من الثقة.
قال أري إزرا والدمن، أستاذ القانون بجامعة كاليفورنيا، إن حتى عندما لا يتم نشر الصور المعدلة علنًا، يمكن أن يخشى الضحايا من احتمال مشاركتها في المستقبل.
جهود التشريع
بدأت مجموعة من النساء في البحث عن مساعدة من المشرعين، وتم توجيههن إلى السيناتور إيرين مايي كواد، التي قدمت مشروع قانون يجرم "نشر محتوى مزيف غير موافق عليه".
قالت مايي كواد إن مشروع القانون يعد بمثابة استجابة قانونية لمواجهة ظهور تكنولوجيا الذكاء الاصطناعي.
خاتمة
تسعى غويستوليس وصديقاتها إلى مواصلة حياتهن مع الدعوة للتغيير، مشددة على أهمية إدراك الناس أن الذكاء الاصطناعي يمكن أن يُستخدم لإيذائهم بطرق لم يتخيلوها من قبل.
