وجّهت خديجة الزومي، عضو الفريق الاستقلالي للوحدة والتعادلية بمجلس النواب، سؤالًا كتابيًا إلى وزيرة الانتقال الرقمي وإصلاح الإدارة، أمل الفلاح السغروشني، حول المخاطر التي تطرحها بعض تطبيقات الذكاء الاصطناعي على النساء والقاصرات.
وأبرزت الزومي أن الاستعمال غير المؤطر لتقنيات الذكاء الاصطناعي أفرز ممارسات خطيرة تمس بالحقوق الأساسية، خاصة الحق في الكرامة الإنسانية، والحق في الصورة، وحماية الحياة الخاصة.
وأشارت إلى تورط بعض تطبيقات الذكاء الاصطناعي التوليدي، من بينها تطبيق Grok، في إنتاج صور إباحية ومشينة لأشخاص حقيقيين دون علمهم أو موافقتهم، خصوصًا النساء والقاصرات، معتبرة ذلك شكلًا جديدًا من العنف الرقمي القائم على النوع الاجتماعي.
وأضافت النائبة البرلمانية أن خطورة هذه الظاهرة دفعت عدداً من الدول إلى فتح تحقيقات رسمية واتخاذ إجراءات تقييدية أو حظر مؤقت لبعض التطبيقات، بعد ثبوت قصور الضوابط التقنية والأخلاقية في الحد من إنتاج وتداول محتوى إباحي مزيف يُستعمل في التشهير والابتزاز والضغط النفسي.
وفي هذا الإطار، تساءلت الزومي عن تقييم الوزارة لخطورة هذه التطبيقات داخل الفضاء الرقمي المغربي، وعن التدابير الوقائية والتشريعية والتقنية المزمع اتخاذها لحماية النساء والقاصرات، كما استفسرت عن نية الحكومة تقنين استعمال الذكاء الاصطناعي أو تحيين الإطار القانوني الجاري به العمل، وعن سبل التنسيق بين مختلف القطاعات المعنية للتصدي لهذه الانتهاكات وآثارها الاجتماعية والنفسية.
