تطبيقات بواجهات بريئة تخفي أدوات لصناعة صور جنسية مزيفة

تتيح هذه الأدوات للمستخدمين تحميل صور أشخاص وتحويلها إلى محتوى جنسي مصطنع، بما يشمل مشاهد تتضمن العنف والتهديد، فيما بدت التطبيقات عند عرضها في متاجر الهواتف وكأنها تؤدي وظائف عادية لا ترتبط بهذا النوع من المحتوى.

كيف تجاوزت التطبيقات الرقابة؟

أظهر التحقيق أن بعض التطبيقات تعرض واجهة عادية عند استخدامها، بينما يمكن تفعيل الأدوات المخفية من خلال الاتصال بخوادم خارجية، ويبدو أن تنزيل التطبيق بعد النقر على إعلان عبر منصات ميتا كان أحد العوامل التي تؤدي إلى ظهور هذه الوظائف.

وساعد هذا الأسلوب التطبيقات على اجتياز عمليات المراجعة الأولية في متاجر الهواتف، فيما استخدم مطوروها أسماء غير معروفة وسياسات خصوصية عامة وعناوين بريد إلكتروني مجانية، وربط الباحثون الشبكة ببنية تحتية ناطقة باللغة الصينية.

وبعد التواصل مع شركة "أبل" بشأن التطبيقات التي رصدها التحقيق، أزالت الشركة 19 تطبيقًا، وقالت إن مطوريها غيّروا محتوى المواقع التي تتصل بها التطبيقات بعد الموافقة عليها. أما "غوغل"، فكانت قد أزالت معظم التطبيقات التي رُصدت قبل التواصل معها.

من جهتها، قالت شركة "ميتا" إنها اتخذت إجراءات ضد 11,600 حساب إعلاني و15 ألف صفحة، كما حجبت 209 تطبيقات مرتبطة بهذه الشبكة، رغم استمرار ظهور إعلانات وتطبيقات مشابهة حتى نهاية التحقيق.

صور الأشخاص في دائرة الخطر

تثير هذه القضية مخاوف متزايدة بشأن استخدام الذكاء الاصطناعي في إنتاج محتوى جنسي مزيف، خصوصًا أن الصور يمكن أن تُستخدم من دون علم أصحابها أو موافقتهم، بما يفتح المجال أمام التشهير والابتزاز وانتهاك الخصوصية.

حمّلوا تطبيق الشمس الأخبار والبث المباشر بين يديكم App Store Google Play

تابعوا الشمس على تلغرام أخبار عاجلة · تقارير حصرية · بث مباشر انضم للقناة

كما تكشف أن وجود التطبيق في متجر رسمي لا يضمن بالضرورة أن جميع وظائفه آمنة، أو أن محتواه سيبقى مطابقًا لما خضع للمراجعة الأولية، الأمر الذي يضع مسؤولية إضافية على شركات التكنولوجيا لمراقبة التطبيقات بعد نشرها، وعلى المستخدمين والأهل الانتباه إلى التطبيقات التي يحمّلونها والصلاحيات التي يمنحونها لها.