ملخص القضية وما انتهت اليه

أيد مجلس الإشراف قرار ميتا بالإبقاء على منشور على فيسبوك يحتوي على مقطع فيديو معدل للرئيس الأمريكي آنذاك، جو بايدن. تم تعديل الفيديو لتكرار مشهد، مما يجعله يبدو وكأن بايدن كان يلمس حفيدته البالغة بشكل غير لائق، وأرفق به تعليق يصفه بـ”المولع بالأطفال المريض“. ووجدت اللجنة أن المنشور لا ينتهك سياسة ميتا الخاصة بالوسائط المعدلة لأن السياسة تقصر حظرها على مقاطع الفيديو التي تم إنتاجها باستخدام الذكاء الاصطناعي والتي تظهر أشخاصًا يقولون كلمات لم يقولوها. وأشارت اللجنة إلى أن هذا الفيديو لم يتم إنتاجه باستخدام الذكاء الاصطناعي ويصور فعلًا وليس كلامًا. ووجد المجلس أيضًا أن التحرير المتكرر كان واضحًا ومن غير المرجح أن يضلل المستخدم العادي. ومع ذلك، أعرب المجلس عن قلقه الشديد من أن السياسة كانت ضيقة للغاية وغير متسقة وفشلت في معالجة الأضرار المحتملة لمثل هذا المحتوى، خاصة وأن العديد من الانتخابات أُجريت طوال عام ٢٠٢٤.

مجلس الإشراف هو كيان مستقل عن ميتا، ويقدّم أحكامه المستقلة بشأن كل من القضايا الفردية والأسئلة المتعلقة بالسياسات. يتم تمويل كل من المجلس وإدارته من خلال صندوق استئماني مستقل. يمتلك المجلس سلطة تحديد ما إذا كان ينبغي السماح بالمحتوى أو إزالته على فيسبوك وإنستغرام. وتُعد قراراته ملزمة، إلا إذا كان تنفيذها قد ينتهك القانون. كما يمكن للمجلس أن يختار إصدار توصيات بشأن سياسات المحتوى الخاصة بالشركة.

---

الوقائع

في مايو ٢٠٢٣، بعد انتخابات التجديد النصفي في الولايات المتحدة، نشر أحد مستخدمي فيسبوك مقطع فيديو مدته سبع ثوانٍ يستند إلى لقطات حقيقية من أكتوبر ٢٠٢٢ للرئيس بايدن آنذاك وهو يصوت مع حفيدته. في الفيديو الأصلي، يضع بايدن ملصق ”لقد صوتت“ على صدر حفيدته ويقبلها على خدها. يعيد الفيديو المعدل عرض اللحظة التي تلمس فيها يده صدرها ليبدو أنه يلمسها بشكل غير لائق. وصف التعليق على المنشور الرئيس السابق بـ ”المولع بالأطفال المريض“ ووصف ناخبيه بـ ”المصابين بمرض عقلي“.

على الرغم من أن الفيديو المعدل انتشر بشكل واسع وتم تداوله عبر فيسبوك مع تعليقات مختلفة، إلا أن هذا المنشور تحديدًا حصل على أقل من ٣٠ مشاهدة ولم يتم مشاركته. أبلغ أحد المستخدمين عن انتهاكه لسياسة الشركة بشأن خطاب الكراهية، لكن أنظمة ميتا الآلية أغلقت البلاغ دون مراجعته. أيد مراجع بشري لاحقًا قرار ترك المنشور بعد أن استأنف المستخدم لدى ميتا.

استأنف المستخدم نفسه لاحقًا لدى مجلس الإشراف لإجراء مراجعة إضافية.

---

نظرة على القرار

في ٥ فبراير ٢٠٢٤، أصدر مجلس الإشراف قرارًا بشأن هذه المسألة. كانت المسألة الرئيسية التي كان عليه البت فيها هي ما إذا كان قرار ميتا بالإبقاء على منشور، يظهر مقطع فيديو معدل للرئيس آنذاك جو بايدن وهو يلمس حفيدته بطريقة يمكن اعتبارها غير لائقة، متوافقًا مع سياسات المحتوى ومسؤولياته في مجال حقوق الإنسان.

وقد أفاد المستخدم الذي أبلغ عن المحتوى بأن المنشور المطعون فيه كان ”مقطع فيديو تم التلاعب به بشكل سافر للإيحاء بأن بايدن يغوى الأطفال جنسيًا.“

لم يقدم المستخدم الذي نشر المحتوى في الأصل أي بيان إلى المجلس.

من جانبها، قدمت ميتا أن قرارها بترك المحتوى على المنصة كان صحيحًا ومتوافقًا مع معايير المجتمع الخاصة بها. أوضحت الشركة أن الفيديو لم ينتهك سياستها للوسائط المعدلة، حيث إن السياسة تنطبق فقط على مقاطع الفيديو التي تم تعديلها بواسطة الذكاء الاصطناعي لجعلها تبدو وكأن شخصًا ما قال كلمات لم يقلها. نظرًا لأن هذا الفيديو لم يتم إنشاؤه باستخدام الذكاء الاصطناعي ويصور فعلًا وليس كلامًا، فإنه يقع خارج نطاق السياسة. علاوة على ذلك، ذكرت ميتا أن التعليق المصاحب، الذي وصف الرئيس بايدن آنذاك بأنه ”مولع بالأطفال مريض““، لم ينتهك سياسة التنمر والتحرش. وبررت الشركة ذلك بالقول إن سياستها تسمح بالادعاءات الجنائية والتعبير عن الازدراء ضد الشخصيات العامة، لأن مثل هذا الكلام يمكن أن يكون جزءًا من الخطاب السياسي. كما قالت ميتا إن المنشور لم يتم اختياره للمراجعة من قبل شركائها الخارجيين في التحقق من الحقائق لأن أنظمتها تعطي الأولوية للمحتوى الفيروسي، وكان هذا المنشور بالذات ذو رؤية منخفضة للغاية.

(١) الامتثال لسياسات محتوى Meta

اتفق المجلس مع ميتا على أن المحتوى لم ينتهك سياسة الوسائط المعدلة. كما أكد مجلس مراجعة المحتوى، فإن السياسة تتضمن معيارين صارمين ومحددين: (١) لا تنطبق إلا على مقاطع الفيديو التي تم إنشاؤها أو تعديلها بواسطة الذكاء الاصطناعي، و(٢) تحظر فقط الوسائط التي تجعل الشخص يبدو وكأنه يقول كلمات لم يقلها. المحتوى المطعون فيه، الذي تم تعديله بتحرير بسيط على شكل حلقة متكررة، فشل في كلا الاختبارين: فهو لم يتم إنشاؤه بواسطة الذكاء الاصطناعي، كما أنه يصور فعلًا وليس كلامًا. لاحظ المجلس أيضًا أن ميتا تعتبر إمكانية تضليل ”المستخدم العادي“ بشأن مصداقيته سمة أساسية لانتهاك سياسة الوسائط المعدلة. واعتبرت غالبية أعضاء المجلس أن تأثير الحلقة المتكررة كان ”تعديلًا واضحًا“ يمكن للمستخدمين التعرف عليه بسهولة على أنه تم تحريره.

كما رأت أغلبية أعضاء المجلس أن التعليق الذي وصف الرئيس بـ ”المولع بالأطفال المريض“ مسموح به بموجب سياسة التنمر والتحرش. تنص سياسة ميتا صراحة على استثناء ”الاتهامات الجنائية ضد البالغين، حتى لو كانت تحتوي على تعبيرات ازدراء أو اشمئزاز“. اعتبرت الأغلبية أن العبارة عبارة عن اتهام جنائي (”مولع بالأطفال“) مقترن بتعبير عن الازدراء (”مريض“) موجه إلى شخصية عامة، وهو ما ترى ميتا أنه يمكن أن يكون جزءًا من الخطاب السياسي.

بالنسبة إلى المجلسس، كان من المعقول ألا يقوم برنامج التحقق من الحقائق التابع لطرف ثالث التابع لميتا بمراجعة هذا المنشور المحدد نظرًا لانخفاض توزيعه للغاية وافتقاره إلى الانتشار، حيث يتم إعطاء الأولوية لموارد التحقق من الحقائق بناءً على مدى انتشار المحتوى المحتمل.

(٢) الامتثال لمسؤوليات ميتا في مجال حقوق الإنسان

حلل المجلس قرار ميتا في إطار حقوق الإنسان الدولية – وتحديدًا المادة ١٩ من العهد الدولي الخاص بالحقوق المدنية والسياسية، التي تحمي حرية التعبير، بما في ذلك الخطاب السياسي. كما هو منصوص عليه في المادة ١٩(٣) من العهد الدولي الخاص بالحقوق المدنية والسياسية، يجب أن تستوفي القيود المفروضة على هذا الحق ثلاثة شروط: أن تكون قانونية وأن تسعى إلى تحقيق هدف مشروع وأن تكون ضرورية ومتناسبة.

أكد مجلس حقوق الإنسان مجددًا على القيمة العالية للخطاب السياسي، مشيرًا إلى أنه وفقًا لـ التعليق العام رقم ٣٤، ”تكون قيمة التعبير عالية بشكل خاص عندما يتناول قضايا سياسية ومرشحين وممثلين منتخبين. ويشمل ذلك التعبير “المسيء بشدة” الذي يهين الشخصيات العامة والآراء التي قد تكون خاطئة.“ [ص. ١٦] وشدد المجلس على أن هذه الأشكال من التعبير ”ضرورية للتمتع بالحق في المشاركة في إدارة الشؤون العامة والحق في التصويت.“ [ص. ١٧]

ومع ذلك، أقر المجلس أيضًا بوجود فرق أساسي، مشيرًا إلى قراره السابق في قضية كارتون كنينn : في حين أن الدول ملزمة بالقانون الدولي لحقوق الإنسان، فإن ميتا كشركة لها مسؤوليات مختلفة في مجال حقوق الإنسان. يمنح هذا الاختلاف ميتا حرية إزالة بعض المحتويات بشكل مشروع وتطبيق معايير أقل صرامة عند القيام بذلك.

أ. الشرعية (وضوح القواعد وإمكانية الوصول إليها)

اعتبر مجلس الإشراف أن سياسة ميتا بشأن الوسائط المعدلة تثير مخاوف بشأن الشرعية. يتطلب هذا الشرط أن تكون القيود المفروضة على حرية التعبير واضحة ومتاحة، حتى يتمكن المستخدمون من فهم القيود المفروضة على حقوقهم. وأكد المجلس أن هذه السياسة نُشرت في مكانين مختلفين (كسياسة مستقلة وضمن معيار المعلومات المضللة) مع اختلاف في الأسباب المنطقية واللغة التشغيلية، مما أدى إلى إرباك. احتوت إحدى النسختين على خطأ مطبعي فادح، حيث ذكرت أنها ستزيل المحتوى الذي ”من المحتمل أن يضلل الشخص العادي إلى الاعتقاد…بأن الفيديو هو نتاج الذكاء الاصطناعي أو التعلم الآلي“، وهو عكس ما تهدف إليه. [ص. ١٤] كما أشار المجلس، كما هو موضح في قرارات فيديو أسرى الحرب الأرمن و فيديو التحرش الجنسي في الهند، أن السياسة المذكورة أعلاه تنص على أنها تتطلب “معلومات إضافية و/أو سياقًا لتطبيقها”، وهو شرط عادة ما يتم التعامل معه من قبل فرق تصعيد متخصصة وليس من قبل المشرفين في الخطوط الأمامية على الرغم من أن هذا الأمر لم يتم توضيحه للمستخدمين.

ب. الهدف المشروع

اعتبر المجلس أن ميتا فشلت في تحديد الضرر الذي تهدف السياسة إلى منعه بشكل واضح. ويزداد هذا الغموض سوءًا بسبب اختلاف طريقة عرض الأساس المنطقي للسياسة في مصدرين رسميين، مما يخلق إطارًا مربكًا وغير متسق للمستخدمين. بالنسبة للمجلس، كانت الأسباب المنطقية المذكورة (أن الوسائط المعدلة ”قد تضلل“ أو ”يمكن أن تنتشر بسرعة“) غير كافية. فمن ناحية، يبرر معيار المجتمع الخاص بالمعلومات المضللة (القسم الرابع) القاعدة بالاستشهاد بنصيحة الخبراء بأن ”المعتقدات الخاطئة بشأن الوسائط المعدلة لا يمكن تصحيحها من خلال مزيد من النقاش“ [ص ٨]، في حين أن سياسة الوسائط المعدلة المستقلة لا تقدم سوى أساس منطقي دائري وغير مقنع بأن مثل هذا المحتوى قد يؤدي إلى التضليل. وأوضح مجلس الإدارة أن منع الناس من التضليل ليس، في حد ذاته، سببًا مشروعًا لتقييد حرية التعبير، خاصة في السياق السياسي حيث المزاعم المتنازع عليها أمر متأصل. وخلص المجلس إلى أن الهدف المشروع سيكون حماية حقوق محددة مثل الحق في التصويت والمشاركة في الشؤون العامة (المادة ٢٥، العهد الدولي الخاص بالحقوق المدنية والسياسية) من التدخل غير المبرر، على الرغم من أن ميتا لم تربط سياستها صراحةً بهذا الهدف.

ج. الضرورة والتناسب

وفقًا للتعليق العام رقم ٣٤ للجنة حقوق الإنسان، ذكر المجلس أن مبدأي الضرورة والتناسب ينصان على ”أن أي قيود على حرية التعبير يجب أن تكون مناسبة لتحقيق وظيفتها الوقائية؛ [و]يجب أن تكون أقل الأدوات تدخلًا من بين تلك التي قد تحقق وظيفتها الوقائية“.
[ص ٢٠] كما أشار إلى أن ”إزالة المحتوى لن تفي بمعيار الضرورة إذا كان من الممكن تحقيق الحماية بطرق أخرى لا تقيد حرية التعبير“. [ص ٢٠]

بالنظر إلى ذلك، خلص المجلس إلى أن اعتماد ميتا بشكل أساسي على إزالة المحتوى الذي ينتهك سياسة الوسائط المُتلاعب بها كان إجراءً غير متناسب في معظم الحالات. لذلك، دعا إلى تنفيذ ”وسائل أقل تقييدًا“ من شأنها أن تحقق توازنًا أفضل بين التخفيف من الضرر المحتمل وحماية حرية التعبير. على وجه التحديد، أوصى مجلس الإشراف على المحتوى بتطبيق علامات ملصقة مباشرة على الوسائط نفسها (على سبيل المثال، في أسفل مقطع فيديو) لإعلام المستخدمين بأن المحتوى قد تم تغييره بشكل كبير.

ورأى المجلس أن هذا الإجراء يجب أن يطبق تلقائيًا على جميع الحالات المماثلة للوسائط المعدلة عبر المنصات، ”بغض النظر عن السياق الذي يتم نشرها فيه، عبر المنصة ودون الاعتماد على جهات خارجية للتحقق من صحة المعلومات“. [ص١٧] ومن المرجح أن يضمن هذا النهج تطبيقًا قابلاً للتطوير ومتسقًا، مما يقلل من الضرر الذي يلحق بالعمليات الانتخابية وسمعة الأفراد دون اللجوء إلى الرقابة.

وأكد المجلس أن مثل هذا التصنيف سيقلل من عمليات الحذف المفرطة ويعزز ثقة المستخدمين، وبالتالي يلبي متطلبات الضرورة بموجب مبادئ حقوق الإنسان. تتعارض هذه التوصية بشكل مباشر مع استخدام ميتا الحالي لمدققي الحقائق من أطراف ثالثة – وهي عملية انتقدها المجلس لأن المحتوى الذي يتم تخفيض ترتيبه بناءً على تقييمات مدققي الحقائق يحدث دون إخطار المستخدمين أو تزويدهم بآليات الاستئناف، مما يثير مخاوف كبيرة بشأن الشفافية والإجراءات القانونية الواجبة.

كما أبرز مجلس الإشراف على المحتوى أن سياسة ميتا المتعلقة بالوسائط المعدلة تعتمد على تمييزات تقنية تعسفية وغير منطقية تمنعها من معالجة الأضرار الفعلية الناجمة عن المحتوى المعدل بشكل فعال. إن تركيز السياسة الضيق على مقاطع الفيديو المعدلة بالذكاء الاصطناعي التي تجعل الأشخاص يبدون وكأنهم يقولون كلمات لم يقولوها لا يأخذ في الاعتبار المخاطر الأوسع التي تشكلها أنواع أخرى من التلاعب بالوسائط. في هذا الصدد، شدد المجلس على أن تصوير أفراد يقومون بأشياء لم يفعلوها يمكن أن يكون مضللاً وضارًا بقدر تزوير الكلام. هذا التمييز بين الفعل والكلام يفتقر إلى أساس منطقي متماسك، لا سيما بالنظر إلى أن التقدم في أدوات التحرير جعل جميع أشكال التلاعب بالوسائط متاحة ومقنعة بشكل متزايد.

علاوة على ذلك، انتقد المجلس استبعاد السياسة للمحتوى غير المعدل بالذكاء الاصطناعي والوسائط الصوتية فقط. ما يُسمى بـ ”التزييف الرخيص“، الذي يتم تحريره باستخدام أدوات بسيطة ومتاحة على نطاق واسع، هو أكثر انتشارًا حاليًا من ”التزييف العميق“ الذي ينتجه الذكاء الاصطناعي ويمكن أن يكون مضللًا بنفس القدر. كما سلط المجلس الضوء على أن المحتوى الصوتي فقط يشكل خطرًا فريدًا، لأنه غالبًا ما يتضمن عددًا أقل من المؤشرات غير الأصلية التي قد تكشف التلاعب، مما يجعله محتملًا أن يكون مضللًا مثل مقاطع الفيديو أو أكثر منها.

أخيرًا، حث المجلس شركة ميتا على توسيع سياسة الوسائط المعدلة لتشمل المحتوى الصوتي والسمعي البصري الذي يُظهر أشخاصًا يقومون بأشياء لم يفعلوها، بغض النظر عن طريقة إنشائها. ومع ذلك، حذر المجلس أيضًا من التسرع في تضمين الصور الفوتوغرافية في هذا الإطار الموسع، مشيرًا إلى أن الأبحاث السابقة، مثل تلك المذكورة في الرأي الاستشاري بشأن المعلومات المضللة حول COVID-19، تشير إلى أن فعالية وضع العلامات قد تقل بمرور الوقت بسبب الإفراط في التعرض لها. لضمان تطبيق متسق وقابل للتطوير، أوصى المجلس بأن تعطي ميتا الأولوية لوضع علامات على محتوى الفيديو والصوت مع إجراء مزيد من الأبحاث حول المخاطر والتحديات المرتبطة بالصور الفوتوغرافية المعدلة. وقال المجلس إن هذا النهج سيسمح للشركة بمعالجة الأضرار الأكثر إلحاحًا دون إرباك أنظمة التطبيق أو إضعاف تأثير تدخلاتها.

وبالتالي، أيد مجلس الإشراف قرار ميتا بترك المنشور.

بيان استشاري بشأن السياسة

حث مجلس الإشراف ميا على:

1. توسيع نطاق سياسة الوسائط المعدلة لتشمل (أ) المحتوى الصوتي والسمعي البصري، (ب) المحتوى الذي يُظهر أشخاصًا يقومون بأشياء لم يفعلوها، و(ج) المحتوى بغض النظر عن طريقة إنشائه (بالذكاء الاصطناعي أو غيره).
2. تحديد الهدف المشروع للسياسة المذكورة أعلاه من خلال الإعلان بوضوح وبشكل موحد أنها تهدف إلى منع أضرار محددة مثل التدخل في الحق في التصويت والمشاركة في الشؤون العامة.
3. التوقف عن إزالة الوسائط المعدلة التي لا تنتهك سياسات أخرى، وبدلًا من ذلك تنفيذ نظام لإرفاق علامات واضحة وبارزة بالوسائط نفسها (وليس فقط المنشور)، يتم تطبيقه على جميع الحالات المماثلة على منصات ميتا.

آراء مخالفة أو مؤيدة

اعترضت أقلية من أعضاء مجلس الإدارة، بحجة أن المحتوى كان يجب إزالته. واعتقدوا أن الفيديو الذي تم تغييره بشكل خبيث والذي تم تقديمه كدليل زائف على جريمة خطيرة مثل الاعتداء الجنسي على الأطفال ”يندرج تحت روح السياسة لأنه لا يزال من الممكن أن يضلل المستخدم العادي“. [ص. ١٥] فيما يتعلق بالتعليق، جادلت الأقلية بأن عبارة ”المولع بالأطفال المريض“ عندما تقترن بمقطع فيديو تم تزويره عمدًا، تتجاوز مجرد ادعاء جنائي وتصبح هجومًا شخصيًا خبيثًا ينتهك سياسة التنمر والتحرش. وخلصوا إلى أن مثل هذا المحتوى يشكل خطابًا غير محمي يضر بشكل مباشر بنزاهة الانتخابات ويبرر إزالته.

---