مطالب بتشديد الإطار القانوني للحد من الاستعمال الإجرامي للذكاء الاصطناعي

وجهت خديجة الزومي، النائبة البرلمانية عن الفريق الاستقلالي للوحدة والتعادلية بمجلس النواب، سؤالا كتابيا إلى وزيرة الانتقال الرقمي وإصلاح الإدارة، دقت من خلاله ناقوس الخطر بشأن التهديد المباشر الذي تشكله بعض تطبيقات الذكاء الاصطناعي على النساء والفتيات القاصرات، لا سيما عبر توليد صور إباحية دون علم أو موافقة المعنيات بالأمر.

وأوضحت الزومي أن “الذكاء الاصطناعي، رغم إمكاناته التقنية المتقدمة، أصبح جزءا من الحياة الرقمية، غير أن غياب التأطير القانوني والأخلاقي الصارم أفرز ممارسات مستجدة تمس الحقوق الأساسية للأفراد، وفي مقدمتها الكرامة الإنسانية والحق في الصورة وحماية الحياة الخاصة، مما يستدعي تدخلا عاجلا لضبط هذا المجال”.

وشددت النائبة البرلمانية على أن تورط تطبيقات الذكاء الاصطناعي التوليدي، مثل “Grok”، في إنتاج صور مسيئة لنساء وقاصرات فجّر موجة استنكار دولية، معتبرة أن “هذه الأفعال تمثل شكلا جديدا من العنف الرقمي القائم على النوع الاجتماعي، وانتهاكا خطيرا لحقوق المرأة والطفل نظرا لما تخلفه من آثار نفسية واجتماعية عميقة قد تؤدي إلى تفكك أسري”.

وطالبت الزومي الوزيرة الوصية بتوضيح تقييم الوزارة لمستوى خطورة هذه التطبيقات، والكشف عن التدابير الوقائية والتشريعية والتقنية المزمع اعتمادها لحماية الفئات المستهدفة، متسائلة عن نية الحكومة تقنين استعمال الذكاء الاصطناعي أو تحيين الإطار القانوني، وآليات التنسيق بين القطاعات للوقاية من هذه الممارسات والتصدي لانعكاساتها.

وفي شرحه للموضوع، أكد الخبير في الأمن السيبراني الطيب الهزاز، أن “المخاطر التي تثيرها بعض تطبيقات الذكاء الاصطناعي على النساء والقاصرات تشكل إشكالا حقيقيا يتجاوز البعد التقني الصرف، ليشكل تهديداً مباشراً للأمن المجتمعي والحقوق الأساسية، مما يضعنا أمام تحديات غير مسبوقة تمس سلامة الأفراد وكرامتهم”.

وأشار الهزاز في حديثه لصحيفة “صوت المغرب”، إلى أننا اليوم “أمام جيل جديد من تقنيات الذكاء الاصطناعي التوليدي التي لم تعد تكتفي بمهام التحليل أو المساعدة، بل أصبحت قادرة بدقة عالية على إنتاج محتوى مزيف عالي الخطورة، يشمل صوراً وفيديوهات ومواد إباحية اصطناعية (Deepfake)، يتم توليدها غالبا دون علم أو موافقة الضحايا”.

ومن زاوية الرصد السيبراني، أبرز المتحدث أن ما يثير القلق هو أن “هذه الممارسات لا تتم في الفراغ، بل تُستغل ضمن منظومات إجرامية رقمية منظمة، تستهدف النساء والقاصرات بشكل محدد لأغراض الابتزاز والتشهير والضغط النفسي أو التدمير الاجتماعي، مما يضاعف من حجم الضرر الواقع على الضحايا”.

وسجل الخبير ذاته “رصدا لتصاعد استعمال هذه الأدوات خلال الفترة الأخيرة داخل الفضاء الرقمي، سواء عبر منصات مفتوحة للعموم أو عبر قنوات مغلقة في “الويب المظلم” (Dark Web)، وهو ما يجعل هذا التهديد عابراً للحدود وصعب التتبع، نظرا لتعقيد المسارات التقنية التي يسلكها الجناة”.

ولفت المصدر إلى أن “الإشكال الأخطر يكمن في كون التطور التقني يسبق الإطار القانوني والتنظيمي الحالي، وهو الوضع الذي يفرض على الدولة ضرورة الانتقال من منطق رد الفعل إلى منطق الوقاية الاستباقية، لضمان حماية فعالة ومواكبة للسرعة التي تتطور بها هذه التهديدات الرقمية”.

وفي هذا الصدد، دعا الهزاز إلى “تحيين الترسانة القانونية لتجريم الاستعمال الإجرامي للذكاء الاصطناعي بشكل صريح ودقيق، بما يقطع الطريق على أي ثغرات قد يستغلها المعتدون، مع ضرورة إلزام المنصات الرقمية بمسؤولية تقنية وقانونية واضحة في عمليات الرصد والحذف والتبليغ عن المحتويات المسيئة”.

كما شدد على أهمية “إحداث وحدات متخصصة في الرصد المبكر للمحتوى الاصطناعي المسيء للتدخل قبل انتشار الضرر، موازاة مع تعزيز وعي الأسر والمؤسسات التربوية بطبيعة هذه التهديدات الجديدة، لتمكينهم من استيعاب المخاطر واتخاذ الاحتياطات اللازمة”.

وخلص الطيب الهزاز إلى أننا “لا نواجه فقط سوء استعمال لتقنية معينة، بل نواجه تحولاً جذرياً في طبيعة الجريمة الرقمية، حيث أصبح الذكاء الاصطناعي أداة قد تُستخدم ضد الكرامة الإنسانية إذا لم تُضبط بقواعد صارمة، خاصة حين يتعلق الأمر بحماية النساء والقاصرات باعتبارها خطاً أحمر يمس استقرار المجتمع ككل”.