ملخص القضية وما انتهت اليه

في ٧ مارس ٢٠٢٤، ألغى مجلس الإشراف قرار ميتا الأصلي بإزالة مقطع فيديو على إنستغرام يُظهر رجلًا يواجه امرأة بسبب عدم ارتدائها الحجاب في إيران. كانت ميتا قد أزالت المنشور في البداية بعد اعتبار أن عبارة في التسمية التوضيحية تشكل تهديدًا حقيقيًا موجّهًا إلى الرجل في الفيديو، مما يشكل انتهاكًا لسياسة العنف والتحريض. مع ذلك، رأى المجلس أن المنشور لا ينتهك السياسة، حيث إن العبارة كانت خطابًا مجازيًا للتعبير عن الغضب تجاه النظام. علاوة على ذلك، وجد المجلس أن الإزالة غير ضرورية، وأوصى بأن تضيف ميتا أداة سياسية إلى بروتوكول السياسة في الأزمات المستخدم في إيران (حيث تعد الأدوات السياسية تغييرات مؤقتة في السياسة تساعد ميتا في التعامل مع الأوضاع في البلدان المعرّضة للخطر مثل إيران).

مجلس الإشراف هو كيان مستقل عن ميتا، ويقدّم أحكامه المستقلة بشأن كل من القضايا الفردية والأسئلة المتعلقة بالسياسات. يتم تمويل كل من المجلس وإدارته من خلال صندوق استئماني مستقل. يمتلك المجلس سلطة تحديد ما إذا كان ينبغي السماح بالمحتوى أو إزالته على فيسبوك وإنستغرام. وتُعد قراراته ملزمة، إلا إذا كان تنفيذها قد ينتهك القانون. كما يمكن للمجلس أن يختار إصدار توصيات بشأن سياسات المحتوى الخاصة بالشركة.

---

الوقائع

في يوليو ٢٠٢٣، نشر مستخدم على إنستغرام مقطع فيديو يُظهر رجلًا غير قابل للتحديد يواجه امرأة ظاهرة بالكامل في مكان عام بسبب عدم ارتدائها الحجاب. كان المحتوى إعادة نشر لمقطع فيديو شاركه في الأصل شخص مؤيد للنظام الإيراني. تحدث الأشخاص في الفيديو باللغة الفارسية، وكان يحتوي على ترجمة إنجليزية، كما أن التسمية التوضيحية كانت أيضًا بالفارسية وأعربت عن التضامن مع النساء الإيرانيات اللاتي يواجهن النظام. تضمنت التسمية التوضيحية عبارة ترجمتها ميتا إلى “ليس بعيدًا أن نجعلك أشلاء”، وأشارت إلى أن المرأة قد تم اعتقالها وقت نشر المحتوى. حصد المنشور حوالي ٤٧,٠٠٠ مشاهدة، و٢,٠٠٠ إعجاب، و١٠٠ تعليق، و٥٠ مشاركة.

تم الإبلاغ عن المحتوى في البداية من خلال مصنف آلي تم إنشاءه لتحديد الانتهاكات المحتملة لسياسات ميتا وإرسال المحتوى للمراجعة البشرية. قام العديد من المراجعين البشريين بتقييم المحتوى لكنهم اختلفوا حول ما إذا كان المنشور ينتهك سياسة العنف والتحريض. ورغم أن عدة مراجعين قاموا بتقييم المحتوى وفقًا للسياسة، لم يتوصلوا إلى استنتاج موحّد، مما أدى، إلى جانب خطأ تقني، إلى عدم إزالة المنشور في البداية. بعد ذلك، قام أحد المستخدمين بالإبلاغ عن المحتوى، فأُرسل للمراجعة الإضافية بواسطة المصنف الآلي. تمت إزالة المنشور بعد مراجعة إضافية من قبل الفريق الإقليمي لميتا المتخصص في اللغة، حيث اعتبرت الشركة أن عبارة “ليس بعيدًا أن نجعلك أشلاء” تشكل تهديدًا للرجل. قدّم صاحب المنشور طعنًا على القرار، لكن مراجعًا آخر أيده.

يواصل الناس في إيران الاحتجاج ضد الحكومة والمطالبة بالحقوق المدنية والسياسية والمساواة بين الجنسين، وتصاعدت هذه الاحتجاجات بعد وفاة الشابة جينا مهسا أميني البالغة من العمر ٢٢ عامًا أثناء احتجازها لدى الشرطة بعد اعتقالها بسبب عدم ارتدائها “الحجاب المناسب”. وبحلول نهاية عام ٢٠٢٢، قُدر أن ١٤,٠٠٠ شخص قد تم اعتقالهم، وقُتل ٥٠٠ آخرون بسبب حملة القمع العنيفة التي شنتها الحكومة ضد المتظاهرين. لعبت وسائل التواصل الاجتماعي دورًا حاسمًا في حركة احتجاج النساء في إيران، لكنها في الوقت نفسه عرضت النساء لمزيد من القمع من قبل النظام. وأشارت عدة تعليقات عامة إلى أن النظام يستخدم تكتيكات التبليغ الجماعي عن المحتوى الاحتجاجي للضغط على شركات التواصل الاجتماعي لإزالته.

طعن صاحب المنشور على الإزالة أمام مجلس الإشراف وعندما حدد المجلس القضية للمراجعة القانونية، نظرت ميتا فيما إذا كان المحتوى ينتهك أيضًا سياسة تنسيق الأذى والترويج للجريمة، حيث إنه كشف عن امرأة غير محجبة مما قد يعرضها للخطر. وبعد أن اختار المجلس القضية، تراجعت ميتا عن قرارها وأعادت المحتوى استنادًا إلى مدخلات إضافية من فريقها الإقليمي والمنطق المستخدم في قرار دعوة لاحتجاج النساء في كوبا.

---

نظرة على القرار

القضية الرئيسية أمام مجلس الإشراف كانت تتعلق بما إذا كان قرار ميتا الأصلي بإزالة منشور على إنستغرام يصور مواجهة بين رجل إيراني وامرأة لعدم ارتدائها الحجاب — في سياق رفع الوعي حول الاضطهاد ضد النساء والمعارضة للنظام في إيران — إلى جانب تعليق يحتوي على لغة قد تكون تهديدية، يتوافق مع سياسات المحتوى وقيم ميتا ومسؤولياتها في مجال حقوق الإنسان.

في استئنافه أمام المجلس، أوضح المستخدم أن الفيديو يظهر شجاعة امرأة إيرانية تدافع عن حقوقها عندما واجهها ممثل عن الحكومة الإيرانية لعدم ارتدائها الحجاب. وأشار المستخدم إلى أن مستخدمين آخرين شاركوا مقاطع فيديو مشابهة وأن المحتوى لم ينتهك أي سياسة لإنستغرام.

أبلغت ميتا المجلس أن قرار الإزالة الأصلي كان مبنيًا على سياسة العنف والتحريض، حيث فسر الفريق الإقليمي عبارة “ليس بعيدًا أن نجعلك أشلاء” على أنها تهديد بإلحاق أذى جسدي، وهو ما يُحظر بموجب السياسة. ومع ذلك، تراجعت ميتا لاحقًا عن هذا القرار بعد أن خلصت مراجعة لاحقة إلى أن المحتوى يهدف إلى رفع الوعي حول الانتهاكات التي تتعرض لها النساء الإيرانيات. وأوضحت ميتا أن اللغة التي قد تكون تهديدية يجب أن تُفهم في سياقها، وأن العبارة كانت على الأرجح إشارة إلى الإطاحة بالنظام الإيراني. وأقرت ميتا بأهمية هذا النوع من رفع الوعي، خاصة في إيران، واستشهدت بقرار شعار احتجاج إيران.

علاوة على ذلك، أوضحت “ميتا” أن عاملًا آخر دفعها لاستعادة المحتوى هو قرار المجلس الأخير في قضية دعوة لاحتجاج النساء في كوبا، حيث أكد المجلس على أهمية مراعاة القمع الحكومي والمصلحة العامة في الاحتجاجات التاريخية. كما أشارت ميتا إلى قرار شعار احتجاج إيران، حيث حلل المجلس حركة حقوق المرأة في إيران وأبرز أهمية حماية الأصوات في سياق حركة الاحتجاج نظرًا لندرة منافذ التعبير المتاحة للإيرانيين. كما أخذت ميتا في الاعتبار قضية البيان المجازي ضد رئيس بيرو، التي أكدت على أهمية تنفيذ أنظمة تعديل حساسة للسياق تدرك السخرية والمجاز والتعبير البلاغي، لحماية الخطاب السياسي.

وأوضحت ميتا للمجلس أنها أعادت النظر في موقفها فيما يتعلق بانتهاك محتمل لسياسة تنسيق الأذى والترويج للجريمة بسبب الكشف عن هوية المرأة في الفيديو. حيث تنص السياسة على حظر المحتوى الذي يكشف عن شخص دون إذنه ويحتمل أن يعرضه للخطر. وقررت ميتا أن المحتوى لا ينبغي إزالته بموجب هذه السياسة لأن هوية المرأة كانت معروفة على نطاق واسع وأنها كانت قد اعتقلت بالفعل، مما قلل من خطر الأذى المرتبط بالمحتوى.

الامتثال لسياسات وقيم ميتا

سياسة العنف والتحريض

لاحظ المجلس أن الخبراء اللغويين الذين استشارهم أوضحوا أن الأجزاء المتنازع عليها من التعليق تُرجمت إلى “سنمزقكِ إربًا قريبًا!” أو “ليس بعيدًا أن نجعلك أشلاء” وأشار الخبراء إلى أن هذه العبارة تُستخدم في إيران للتعبير عن الغضب والسخط تجاه النظام القمعي، وأن هذا الخطاب المجازي يعكس الغضب المشترك بين المستخدم وجمهوره. وبناءً على ذلك، خلص المجلس إلى أن التعليق لم يتضمن تهديدات فعلية بالعنف.

علاوة على ذلك، وجد المجلس أن العبارة لم تشكل تهديدًا فعليًا بالنظر إلى سياق التصعيد في القمع والعنف ضد المحتجين في إيران. واعتبر أن العبارة كانت مجازية وليست دعوة لارتكاب عنف عالي الخطورة. وقال المجلس إن هذا التفسير يتوافق مع قيمة “الرأي” لدى ميتا وأهمية حماية التعبيرات السياسية.

سياسة تنسيق الأذى والترويج للجريمة

جادل المجلس بأن المحتوى لم ينتهك سياسة تنسيق الأذى والترويج للجريمة أيضًا. ووافق على حجة ميتا بأن المحتوى لم يكشف عن هوية المرأة لأنها كانت معروفة، وأن خطر الأذى كان معدومًا لأنها كانت قد اعتقلت بالفعل بحلول وقت نشر المحتوى. وأشار المجلس إلى أن تحديد ما إذا كان المنشور يكشف عن امرأة ويعرضها للخطر يعتمد على السياق، وأن تنفيذ السياسة على أساس التصعيد فقط يمنح المشرفين الوقت والموارد لتحليل السياق ذي الصلة.

الامتثال لمسؤوليات ميتا في مجال حقوق الإنسان

أبرز المجلس الدور الحاسم لوسائل التواصل الاجتماعي في المجتمعات المغلقة، خاصة في إيران حيث تعتمد حركة الاحتجاج على الفضاءات الرقمية لبقائها. واستشهد المجلس بقضية لجنة الأمم المتحدة لحقوق الإنسان ياكر ضد فرنسا لتسليط الضوء على أن القوانين التي تحدد ملابس النساء تؤثر على حريتهن وكرامتهن، سواء كانت هذه القوانين تفرض ارتداء الحجاب أو تمنع الظهور في الأماكن العامة بدونه. واستخدم المجلس الاختبار الثلاثي المنصوص عليه في المادة ١٩(٣) من العهد الدولي الخاص بالحقوق المدنية والسياسية لتقييم ما إذا كان قرار ميتا بإزالة المنشور يتوافق مع التزاماتها تجاه حق التعبير.

١. الشرعية (وضوح وإمكانية الوصول إلى القواعد)

يتطلب جزء الشرعية من الاختبار، كما رأى المجلس، أن تكون القيود على حرية التعبير مبنية على قواعد واضحة ومتاحة للمستخدمين، وواضحة ودقيقة لمن يتم تكليفهم بتنفيذها.

سياسة العنف والتحريض

لاحظ المجلس أنه بينما أشارت المبررات السياسية إلى أن السياق يؤخذ في الاعتبار عند تقييم مصداقية التهديدات، إلا أن الإرشادات الداخلية لم تعكس نفس المبدأ. وأبرز المجلس أن مشرفي المحتوى على نطاق واسع تم توجيههم للبحث عن معايير محددة، وبمجرد استيفائها، يجب إزالة المنشورات. ومن وجهة نظر المجلس، لم يتم تمكين مشرفي المحتوى من تقييم مصداقية التهديدات، ولكن فقط تنفيذ نهج نمطي جعل تقييم الخطاب البلاغي أو التهديد الفعلي أمرًا صعبًا.

واستذكر المجلس قضية شعار احتجاج إيران لتسليط الضوء على أن مبررات سياسة ميتا تتسع لوجود خطاب بلاغي في سياقات الاحتجاجات بينما القواعد المكتوبة والإرشادات الداخلية لم تفعل ذلك. وأعرب المجلس عن قلقه من أن هذا الاختلال بين المبررات السياسية وممارسات التنفيذ الفعلية لم يلبِّ مبدأ الشرعية. وأكد على نتائجه في القرار المذكور طالبًا من ميتا تقديم إرشادات مفصلة توجه مشرفيها إلى تحليل السياق والامتناع عن الإزالة التلقائية للمحتوى البلاغي الذي يعبر عن المعارضة، خاصة عندما يكون ذا طبيعة سياسية.

سياسة تنسيق الأذى والترويج للجريمة

وجد المجلس أن حظر ميتا للمحتوى الذي يعرض النساء غير المحجبات للخطر، عن طريق نشر صورهن، كان واضحًا بدرجة كافية. ومع ذلك، أعرب المجلس عن قلقه من أن إرشادات مجتمع إنستغرام لم تشر إلى سياسة تنسيق الأذى والترويج للجريمة، مما أضعف إمكانية وصول مستخدمي إنستغرام إلى القواعد. وكان المجلس قد أوصى سابقًا ميتا بتوضيح للمستخدمين كيفية تطبيق سياسات فيسبوك على إنستغرام [قرار أعراض سرطان الثدي والعري؛ قرار عزل أوجلان]. ووفقًا لميتا، فقد بدأت الشركة عملية لتوحيد السياسات، وبينما لا تزال هذه الجهود أولوية، إلا أن الجدول الزمني تأخر بسبب اعتبارات قانونية وتنظيمية. وأكد المجلس على أهمية إكمال هذه العملية بسرعة لضمان وضوح القواعد.

٢. الهدف المشروع

لاحظ المجلس أن سياسة العنف والتحريض تخدم الهدف المشروع المتمثل في حماية الحق في الحياة والأمن الجسدي من خلال حظر المحتوى الذي يشكل خطرًا حقيقيًا على السلامة الجسدية خارج الإنترنت. من ناحية أخرى، وجد المجلس أن سياسة تنسيق الأذى والترويج للجريمة تهدف إلى حماية حقوق المرأة الإيرانية في عدم التمييز وحرية التعبير والتجمع والمشاركة في الحياة العامة والخصوصية والحياة والحرية والأمن.

٣. الضرورة والتناسب

سياسة العنف والتحريض

وجد المجلس أن قرار “ميتا” الأصلي بإزالة المحتوى كان غير ضروري لأنه لم يكن مطلوبًا لحماية سلامة أي شخص. وأعرب المجلس عن قلقه من أنه حتى بعد قراره في قضية شعار احتجاج إيران، تركت سياسات “ميتا” والإرشادات الداخلية مجالًا لتطبيق غير متسق للتهديدات المجازية في إيران.

واستخدم المجلس الاختبار السداسي الذي وضعه خطة عمل الرباط لتقييم ما إذا كان المحتوى المعني يحرض على التمييز أو العنف أو أي عمل غير قانوني. يتضمن هذا الاختبار تحليل السياق، هوية المتحدث، نيته، محتوى وشكل التعبير، مدى وصوله، واحتمالية وقوع الأذى وقربه.

السياق: أبرز المجلس أن المحتوى نُشر خلال موجة من التصعيد في القمع والعنف ضد المحتجين في إيران. علاوة على ذلك، أكد المجلس على أهمية إنستغرام، كواحد من المنصات القليلة غير المحظورة، ودوره في حركة “المرأة، الحياة، الحرية” ضد القوانين التمييزية.

هوية المتحدث: أبلغت ميتا المجلس أنها لم تعتبر كاتب المنشور شخصية عامة. ولاحظ المجلس أن المستخدم بدا مؤيدًا لحركة “المرأة، الحياة، الحرية”، وبالتالي لم يكن لديه سلطة وكان على الأرجح يعرض سلامته للخطر بنشر المحتوى.

النية: بينما أقر المجلس بصعوبة تقييم النية عند تعديل المحتوى على نطاق واسع، خلص إلى أن قراءة موضوعية للمنشور أظهرت دعمًا للمرأة التي ظهرت فيه، ورفع الوعي حول اعتقالها. وأشار المجلس إلى أن الخبراء اعتبروا أن المحتجين الإيرانيين غالبًا ما ينشرون صور النساء بعد اعتقالهن للضغط على السلطات للحفاظ على سلامتهن.

محتوى وشكل التعبير: أوضح الخبراء اللغويون للمجلس أن عبارة “ليس بعيدًا أن نجعلك أشلاء”، في هذا السياق، يمكن أن تُفهم من قبل الإيرانيين على أنها تعبير عن الغضب وخيبة الأمل وليس كتهديد فعلي بالعنف. واستذكر المجلس أنه في قضية شعار احتجاج إيران، وجد أن شعار “الموت لخامنئي” كان تهديدًا بلاغيًا، ولاحظ أن ميتا أصدرت روح السياسة التي تسمح بعبارة “سأقتل من يقتل أختي/أخي.” وظهرت العبارة في هذه القضية في منتصف تعليق يمدح المرأة المصورة ويدعم النساء الإيرانيات في نضالهن ضد ممارسات النظام القمعية.

مدى الوصول: تلقى المنشور ٤٧,٠٠٠ مشاهدة، و٢,٠٠٠ إعجاب، و١٠٠ تعليق، و٥٠ مشاركة. ووجد المجلس أن الوصول الواسع للمنشور لم يشير إلى ضرورة الإزالة حيث لم تتحقق عوامل أخرى في تحليل التحريض.

احتمالية وقوع الضرر وقربه: لاحظت اللجنة أن الشكل الأكثر احتمالًا للضرر الذي قد ينتج عن هذا المحتوى قد يكون في شكل عنف انتقامي من النظام ضد المستخدم نفسه أو المرأة الموجودة في الفيديو. وأكد الخبراء أنه نظرًا للخطر الذي يواجهه المحتجون، فإن الهدف من تداول صور النساء غير المحجبات هو زيادة الوعي حول اعتقالهن والضغط على السلطات لإبقائهن في مأمن.

وبالتالي، خلص المجلس إلى أن المحتوى لا يشكل تهديدًا موثوقًا به أو تحريضًا على إلحاق ضرر خارجي. ولاحظ أن على ميتا أن تسمح لمراجعيها بتحليل اللغة في سياقها المحلي، مما يحاذي التوجيهات الداخلية مع المنطق السياسي. علاوة على ذلك، رأى المجلس أن ضمان تقييمات دقيقة لمصداقية التهديدات سيعزز عملية المراقبة على نطاق أوسع، حيث أن دقة الأتمتة ستتأثر ببيانات التدريب المستندة إلى قرارات المراقبين البشريين.

كما أبرز المجلس مجموعة الآليات المتاحة لميتا لتعديل سياساتها وممارسات إنفاذها خلال الأزمات — بما في ذلك نظام تصنيف الدول “المعرضة للخطر” وبروتوكول سياسات الأزمات. نظام تصنيف الدول “المعرضة للخطر” يحدد الدول المعرضة لخطر الضرر الخارجي والعنف، مما يسمح لـ “ميتا” بتحديد أولويات تطوير منتجاتها وفقًا لذلك. وقد تم تصنيف إيران كدولة “معرضة للخطر” للنصف الثاني من عام ٢٠٢٣. بالإضافة إلى ذلك، تم تصنيف إيران بموجب بروتوكول سياسات الأزمات في ٢١ سبتمبر ٢٠٢٢. وقد مكن بروتوكول سياسات الأزمات ميتا من تعديل سياساتها مؤقتًا لمعالجة حالات معينة، مثل السماح بشعار “سأقتل من يقتل أختي/أخي” في إيران، والذي قد يكون تصريحًا مخالفًا في دول لا ينطبق عليها البروتوكول.

علاوة على ذلك، وجد المجلس أن إزالة المحتوى بموجب سياسة تنسيق الضرر والترويج للجريمة لن تكون ضرورية في هذه الحالة، حيث أن هوية المرأة المصورة كانت معروفة وكان الهدف من المنشور هو زيادة الوعي حول اعتقالها والضغط على السلطات للإفراج عنها. ولاحظت اللجنة أن التوفيق بين حماية هويات المستخدمين الضعفاء وضمان عدم حجب أولئك الذين يسعون للظهور يتطلب دراسة دقيقة، وتحليلًا خاصًا بالسياق، وتقييمًا سريعًا، واتخاذ قرارات فورية.

بيان استشاري حول السياسة:

أوصى المجلس بأن تقدم ميتا رافعة سياسية لبروتوكول سياسات الأزمات تسمح بالتصريحات المجازية غير المحتمل أن تحرض على العنف بموجب سياسة العنف والتحريض. كما أكدت اللجنة على أهمية تطوير معايير لمراقبي المحتوى على نطاق واسع لتحديد هذه التصريحات في السياق المناسب.

---