ملخص القضية وما انتهت اليه

في ١٧ يونيو ٢٠٢٢، ألغى مجلس الإشراف قرار ميتا الأصلي بترك منشور على فيسبوك تم فيه تصوير الصرب على أنهم جرذان. على الرغم من أن ميتا أزالت المحتوى في النهاية، إلا أنها اعتبرت في البداية أن المنشور لا ينتهك معيار مجتمع ميتا بشأن خطاب الكراهية. وقررت في وقت لاحق أنّ المحتوى ينتهك “روح” المعيار ولا ينتهك نصه، لأن سياسة الشركة فيما يتعلّق بالمحتوى لا تحظر الهجمات ضد الجماعات على أساس سمات تتمتع بحقوق حماية يتم اكتشافها ضمنيًا. ثم قررت أنها انتهكت نص السياسة. اعتبر المجلس في قراره أن المنشور انتهك سياسة ميتا بشأن خطاب الكراهية ومعيار المجتمع حول العنف والتحريض. خلص المجلس إلى أنّ المنشور يجرد الاشخاص من إنسانيتهم ويدعو إلى بغضهم وقد يساهم في خلق مناخ يشعر فيه الناس بالحقّ في مهاجمة الصّرب. من وجهة نظر مجلس الإشراف، كان لا بدّ من إزالة المحتوى من المنصة لمعالجة الأضرار الجسيمة التي يشكلها خطاب الكراهية على أساس العرق وتماشيًا مع مسؤوليات ميتا في مجال حقوق الإنسان.

* مجلس الإشراف هو كيان منفصل عن ميتا يقدّم حكمه المستقل على الحالات الفردية ومسائل السياسة. يتم تمويل مجلس الإشراف وإدارته عبر صندوق ائتماني مستقل. يتمتع مجلس الإشراف بسلطة أخذ القرار فيما يتعلّق بالسّماح لفيسبوك وانستغرام للحفاظ على المحتويات المنشورة أو سحبها وهي قرارات ملزمة ما لم يشكّل تنفيذها خرقا للقانون. يستطيع مجلس الإشراف أيضا إصدار توصيات بشأن سياسات الشركة فيما يتعلّق بالمحتوى.

---

الوقائع

في ديسمبر ٢٠٢١، نشرت صفحة مفتوحة للعموم لديها أكثر من ٥٠ ألف متابع على فيسبوك توصف بأنها بوابة إخبارية لكرواتيا، نسخة معدّلة من كارتون “The Pied Piper” الذي أنتجته شركة ديزني مع شرح توضيحي باللغة الكرواتية ترجمته ميتا على هذا النحو “العازف من تشوفغلاف والجرذان من كنين.” [ص ٤]

يصوّر الفيديو الذي يستغرق ١٠ ثواني مدينة تجتاحها الجرذان. تحمل المدينة في الكارتون الأصلي اسم “هاملين” أمّا اسم المدينة في الفيديو الذي تم تعديله فهو يشير إلى مدينة “كنين” الكرواتية. في بداية الفيديو، يصف الراوي كيف عاش الجرذان والبشر معًا في مدينة كنين الملكية لسنوات عديدة ثمّ قرّرت الجرذان أنها تريد العيش في “بلد جرذان نقيّ” وبالتالي بدأت في مضايقة سكّان المدينة واضطهادهم. تابع الراوي بقوله أنّه عندما استولت الجرذان على المدينة، ظهر عازف ناي من قرية تشوفغلاف الكرواتية لكنّ الجرذان لم تأخذه على محمل الجدّ وواصلت “عدوان الجرذان الشّديد”. لكن بعد أن بدأ العازف بعزف أحد ألحانه على “الناي السحري” بدأت الجرذان، التي أسرها اللحن، في ترديد “أغنيتها المفضلة” وتبعت عازف الناي إلى خارج المدينة. ترجمت ميتا كلمات الأغنية التي غنتها الجرذان على النحو التالي: “ما هذا الشيء الذي يضيء في دينارا، الشارة الملكية التي يضعها دوجيتش على رأسه […] ستشرق شمس الحرية من دينارا، وسيقوم القائد العسكري مومسيلو بإحضارها.” [ص ٥] بعد ذلك صوّر الفيديو أهل المدينة وهم يغلقون البوابة خلف عازف الناي والجرذان. اختتم الفيديو بصورة للعازف وهو يقود الجرذان إلى جرار اختفي بعد ذلك وقال الرّاوي في نهاية حديثة أنه ما أن استدرج عازف الناي كل الجرذان إلى “الجرار السحري” حتّى “اختفت الجرذان من هذه البلاد” و”عاش الجميع في سعادة إلى الأبد”. [ص ٥].

تمت مشاهدة المحتوى أكثر من ٣٨٠ ألف مرة ومشاركته أكثر من ٥٤٠ مرة ونال أكثر من ٢٤٠٠ تفاعل وأكثر من ١٢٠٠ تعليق ومن بين التعليقات المكتوبة باللغة الكرواتية عبارات ترجمتها ميتا على النحو التالي: “الكراهية مرض” و”هل فكّرتم في مقدار ما تسببوه من ضرر بهذا الفيديو والحماقات المماثلة لشعبكم الكرواتي الذي يعيش في صربيا؟” [ص ٦]

بلّغ المستخدمون عن هذا المحتوى ٣٩٧ مرة وبلّغ عنه ٣٦٢ مستخدمًا لانتهاك سياسة خطاب الكراهية لكنّ ميتا لم تقوم بإزالة المحتوى. لذلك قرّر العديد منهم التقدّم بطعن أمام مجلس الإشراف.

يستند قرار المجلس في هذه الحالة إلى الطعن الذي قدمه أحد المستعملين الذي يبدو أنّ حسابه موجود في صربيا وقد رفض نظام آلي بلاغه. بعد أن رفع طعنه إلى مجلس الإشراف، أجرت ميتا مراجعة بشرية إضافية لتقرّر مرّة أخرى أن المحتوى لا ينتهك سياساتها.

في يناير ٢٠٢٢، عندما اختار المجلس هذه الحالة للمراجعة التامّة، قرّرت ميتا أنّ المنشور لم ينتهك نصّ سياساتها المتعلّقة بخطاب الكراهية بل انتهك روح تلك السياسة ومسحت المنشور من فيسبوك. لكن عند صياغة تفسير لقرارها للمجلس، خلصت ميتا إلى أن المنشور انتهك نص سياسة خطاب الكراهية وأشارت إلى أن جميع المراجعات السابقة كانت خاطئة.

---

نظرة على القرار

كانت المسألة الرئيسية المطروحة على أنظار مجلس الإشراف تتمثّل في ما إذا كان قرار ميتا الأصلي بالاحتفاظ بالمحتوى على فيسبوك يتماشى مع معايير مجتمع فيسبوك بشأن خطاب الكراهية والعنف والتحريض وكذلك مع قيم الشركة ومسؤولياتها في مجال حقوق الإنسان.

ذكر المستخدم الذي أبلغ عن المحتوى وتقدّم بطعن لدى مجلس الإشراف إن “شخصية عازف الناي أو “Pied Piper” ترمز إلى الجيش الكرواتي الذي طرد سنة ١٩٩٥ الصّرب الكرواتيين الذين تمّ تمثيلهم في الفيديو كجرذان. وفقًا للمستخدم، لم يقيّم الفيديو بشكل صحيح لأن المحتوى يمثل خطابًا يحثّ على الكراهية العرقية ويعزز الكراهية العرقية والدينية في البلقان.

في الشرح الذي قدمته ميتا إلى مجلس الإشراف، وصفت عملية مراجعتها لهذا القرار، لكنها ركزت على توضيح أن الأسباب التي استندت إليها في إزالة المحتوى في نهاية الأمر بموجب السياسة الخاصّة بخطاب الكراهية كانت مبررة. قالت ميتا أنها في البداية رأت أن المحتوى لا ينتهك نص سياسة خطاب الكراهية ثمّ اتّخذت القرار بإزالة المحتوى بناء على “روح تلك السياسة”.

أوضحت ميتا أن قرارها السابق الذي نص على أن المحتوى انتهك فقط “روح” سياسة خطاب الكراهية كان يستند إلى افتراض أن صيغة السياسة لا تحظر الهجمات التي تستهدف الأشخاص على أساس سمات تتمتع بحقوق حماية يتم اكتشافها ضمنيًا. بعد إجراء مراجعة إضافية لهذا المنطق، خلُصت الشركة إلى أنه من الأدق القول بإن السياسة تحظر أيضًا الهجمات التي تستهدف ضمنيًا سمة تتمتع بحقوق الحماية.

ثم أشارت الشركة إلى أن إزالتها للمنشور في نهاية المطاف كانت متسقة مع قيم “الكرامة” و”السلامة” التي تقرّها ميتا، عند موازنتها مع قيمة “حريّة الرّأي”. أشارت ميتا إلى أنه بالنظر إلى تاريخ التوترات العرقية والتمييز المستمر ضد الأشخاص من ذوي الأصول الصربيّة في كرواتيا فقد يساهم الفيديو في حدوث أذى في العالم الحقيقي. ذكرت ميتا أيضًا أن الإزالة تتفق مع المعايير الدولية لحقوق الإنسان واعتبرت أنّ سياستها “متاحة بسهولة” على موقع مركز ميتا للشفافيّة، المتوفّر على شبكة الإنترنت وأنّ قرار إزالة المحتوى كان مشروعًا لحماية حقوق الآخرين ضد التمييز. قالت أيضًا إن قرارها بإزالة المحتوى كان ضروريًا ومتناسبًا لأن المحتوى “لا يسمح للمستخدمين بالتواصل بحرية مع الآخرين دون الشعور بالتعرض للهجوم على أساس هويتهم”. [ص ١٢] إضافة إلى ذلك، اعتبرت ميتا أنّه لا توجد وسيلة أخرى، أقلّ تدخّلًا من الإزالة، لتقييد المحتوى.

عندما سأل المجلس ميتا عما إذا كان المحتوى قد انتهك معيار المجتمع بشأن العنف والتحريض، أجابت بأنّ المحتوى لم ينتهك هذا المعيار لأنّه لا يتضمن تهديدات أو التّعبير عن نية لارتكاب أعمال عنف” ضد الأشخاص من ذوي الأصول الصربية. بالتالي، اعتبرت ميتا أن الإقصاء أو الطرد دون عنف لا يشكل تهديدًا عنيفًا. ووفقًا للشركة، كان لا بدّ من توفّر ربط أكثر وضوحا بين الجرذان في الفيديو والتهجير العنيف والقسري للصرب لإزالة المحتوى بموجب سياسة الشركة.

الامتثال لسياسات ميتا للمحتوى

فيما يتعلق بسياسات المحتوى في ميتا، ركز مجلس الإشراف على ما إذا كان المحتوى ينتهك معيار المجتمع بشأن خطاب الكراهية ومعيار العنف والتحريض. حسب المجلس، بما أنّ الفيديو تضمن مقارنة مرئيّة بين الصرب والجرذان ودعمًا لطرد الصرب من كنين، فهو يحتوي على “هجومين” بموجب تعريف هذا المصطلح الوارد في السياسة الخاصّة بخطاب الكراهية.

بيّن المجلس أنّ المقارنات الضمنيّة “بالحيوانات التي تعتبر في الثقافة السائدة حيوانات دونية فكريًا أو جسمانيًا” ممنوعة بموجب سياسة ميتا بشأن خطاب الكراهية وأشار مجلس الإشراف إلى أنّه في حين لم يذكر الشرح التوضيحي ولا الفيديو الصّرب بالاسم، فإن محتوى الفيديو في سياقه التاريخي واستبدال اسم “هاملين” باسم “كنين” وكلمات الأغنية المستخدمة في الفيديو وتحديد أن عازف الناي من تشوفغلاف مع أغنية فرقة طمسون حول عملية العاصفة واستخدام صورة الجرار هي بلا شك إشارات إلى الصرب المقيمين في كنين. كذلك اعتبر أنّ تعليقات المستخدمين على المنشور وكثرة البلاغات التي قدمها المستخدمون تؤكّد أن هذا الارتباط كان واضحًا تمامًا للأشخاص الذين شاهدوا المحتوى.

كما اعتبر المجلس أن الاحتفاء الضمني بطرد الصرب من كنين في شريط الفيديو يشكل دعمًا للتطهير العرقي في انتهاك صريح لمعيار خطاب الكراهية واعتبر أيضًا أن المحتوى ينتهك سياسة الشركة المتعلقة بالعنف والتحريض التي تحظر المحتوى الذي يهدد الآخرين من خلال الإشارة إلى حوادث عنف تاريخية معروفة.

أبرز المجلس أنّ المدينة المذكورة في الفيديو تحمل اسم “كنين” وأنّ الجرذان فرّوا على متن جرّرات وهما إشارتان إلى “عملية العاصفة”، العملية العسكرية التي تمّ تنفيذها سنة 1995 وأسفرت حسب التقارير عن تشريد وإعدام واختفاء مدنيين من أصول صربية. بالتّالي شدّد المجلس على أنّ هذا الفيديو قد يسهم في خلق بيئة يشعر فيها النّاس بالحق في مهاجمة الصرب.

لم يتفق المجلس مع تقييم ميتا التي اعتبرت أن المحتوى لم يتضمن تهديدات أو تصريحات بنيّة ارتكاب أعمال عنف وأن دعوات الإقصاء أو الطرد دون تحديد وسيلة العنف قد لا تشكل تهديدًا عنيفًا. اعتبر المجلس أنّ استخدام قصة عازف الناي لا يشكّل دعوة للطرد السلمي بل إشارة واضحة إلى وقائع عنف تاريخية معروفة، لا سيّما مع وجود صور الجرارات. ثمّ ذكّر بأنّه يتضح من إبلاغ المستخدمين عن هذا المنشور ومن التعليقات العامة، فإن الجرذان، من وجهة نظر المشاهدين، تعبّر في هذا الكرتون عن السكان الصرب في منطقة كنين بما في ذلك أولئك الذين بقوا هناك.

ثمّ تناول المجلس بالتّحليل الأسباب التي جعلت الشركة تخلُص في العديد من المرّات إلى أنّ المحتوى لم ينتهك سياسات ميتا. قال المجلس أنّه كان من المفيد لو ركزت ميتا على هذا منذ البداية، بدلًا من التركيز على سبب صحة قرارها المنقح بإزالة المنشور. في رأي المجلس، إن كانت الشركة ترغب في الحد من مستوى المحتوى المخالف على منصتها، عليها التعامل مع تحديد المجلس للحالات التي تنطوي على أخطاء في الإنفاذ كفرصة لاستكشاف أسباب هذه الأخطاء.

إدراكًا منه لتعقيد وحجم المحتوى الذي يتولّى المراجعون تقييمه يوميّا وصعوبة تطبيق معايير مجتمع فيسبوك مع مراعاة السياق، اعتبر مجلس الإشراف أنه من المهم أن تحسّن ميتا التعليمات التي تقدمها للمراجعين وكذلك المسارات والعمليات المتبعة للتصعيد.

من وجهة نظر المجلس، يرجّح وجود عاملين حالا دون تصعيد المحتوى في هذه الحالة. أوّلًا، أنّ ميتا لا توفر للمراجعين على نطاق واسع حدودًا واضحة عندما يكون المحتوى “رائجًا” وثانيًا، استخدام نظام المراجعة الآلي.

الامتثال لقيم ميتا

المجلس أن قرار ميتا بإزالة المحتوى متطابق مع قيم الشركة المتمثلة في “حرية الرأي” و”الكرامة” و”السلامة”. حيث يمكن أيضًا لحريّة الرّأي بالنّسبة للمستهدفين بالصّور النمطية السلبية واللاإنسانية أن تتأثر لأنه قد يكون لاستخدامها مفعول يسكت المستهدفين ويمنع مشاركتهم على فيسبوك وانستغرام. اعتبر المجلس أن الارتفاع المتواصل لحالات العنف البدني ضد الصرب في كرواتيا هو ما برر تنحية قيمة “حرية الرأي” الخاصة بالمستخدم وإحلال حماية “حرية الرأي” و”الكرامة” و”السلامة” الخاصة بالآخرين محلها.

الالتزام بمسؤوليّات ميتا في مجال حقوق الإنسان

لتبيّن ما إذا كان التقييد المفروض على حرية التعبير مبررًا بموجب مسؤوليات ميتا في مجال حقوق الإنسان، اعتمد المجلس الاختبار المكون من ثلاثة أجزاء الوارد في المادة ١٩ من العهد الدولي الخاص بالحقوق المدنية والسياسية.

أ‌. الشرعية (وضوح القواعد وسهولة الوصول إليها)

ذكر المجلس أن معيار مجتمع فيسبوك بشأن خطاب الكراهية يحظر الاستهداف الضمني للمجموعات على أساس الخصائص المحمية، بما في ذلك المقارنات اللاإنسانية بالحيوانات والبيانات التي تدعو إلى الإقصاء أو تدعمه. في هذه الحالة، قرر نحو ٤٠ مراجعًا أن المحتوى لم ينتهك معيار المجتمع بشأن خطاب الكراهية. بالنسبة للمجلس، دأب المراجعون على تفسير السياسة على أنها تستوجب وجود مقارنة صريحة بين الصرب والجرذان كي يتخذوا قرارهم بوجود مخالفة. من ثم، اعتبر المجلس أن الإرباك الذي اكتنف هذه العملية يدلّ على وجود حاجة لوضع سياسة وتوجيهات لتنفيذها فيها المزيد من الوضوح.

ب‌. الهدف المشروع

أشار المجلس إلى أن معيار مجتمع فيسبوك بشأن خطاب الكراهية ومعيار العنف والتحريض يتابعان الهدف المشروع المتمثل في حماية حقوق الآخرين، ولا سيما “الحق في المساواة وعدم التمييز”. [ص ١٨]

ج‌. الضّرورة والتّناسب

أخيرًا، انكب المجلس على شرط الضّرورة والتّناسب وذكّر بأنّ معيار مجتمع فيسبوك بشأن خطاب الكراهية يمنع أشكالًا معينة من التعبير التمييزي، بما في ذلك المقارنة بالحيوانات والدعوات إلى الإقصاء. بما أنّ المحتوى في هذه الحالة قارن الصرب بالجرذان واحتفل بأفعال سابقة تنم عن معاملة تمييزية وكان بغيضًا، اعتبر المجلس أن إزالة هذا المحتوى من المنصة كان ضروريًا لمعالجة الخطر الجسيم الذي يشكله خطاب الكراهية على أساس الانتماء العرقي.

كما اعتبر أنّ إزالة المحتوى من المنصّة هو إجراء ضروريّ ومتناسب لأنّ التدخلات الأقل شدة، مثل الشاشات التحذيرية أو غيرها من إجراءات الحدّ من الانتشار لم تكن لتوفر الحماية الكافية ضد الآثار التراكميّة لترك محتوى من هذا النّوع على المنصّة.

في الختام، قرر المجلس أن قرار ميتا بإزالة المنشور من المنصة يتوافق مع مسؤولياتها المؤسسيّة في مجال حقوق الإنسان.

بيان استشاري بشأن سياسة ميتا

أوصى مجلس الإشراف ميتا بتوضيح معيار مجتمع الشركة بشأن خطاب الكراهية والإرشادات المقدمة للمراجعين بهدف توضيح أنه “حتى الإشارات الضمنية إلى المجموعات التي تتمتع بالحماية محظورة بموجب السياسة، عندما يسهل بشكل معقول فهم تلك الإشارات”. [ص ٢١] بالإضافة إلى ذلك، أقرّ المجلس بأنّه يجب على ميتا إشعار جميع المستخدمين الذين أبلغوا عن المحتوى عندما تؤدّي مراجعة لاحقة لتغيير قرارها الأولي. كما يجب على الشركة الإفصاح للعموم عن نتائج أي تجارب تقيم جدوى إدخال هذا التغيير.

---