Discurso de Odio, Derechos Digitales, Redes Sociales, Responsabilidad de Intermediarios, Moderación de contenidos, Regulación de Contenido/ Censura
Sanchez v. France (GS)
Francia
En Progreso Expande el alcance del derecho a la Expresión
Global Freedom of Expression is an academic initiative and therefore, we encourage you to share and republish excerpts of our content so long as they are not used for commercial purposes and you respect the following policy:
Attribution, copyright, and license information for media used by Global Freedom of Expression is available on our Credits page.
This case is available in additional languages: View in: English View in: Français View in: العربية
El 22 de septiembre de 2021, la Corte de Distrito del Distrito de Columbia en Estados Unidos resolvió que Facebook debía revelar materiales relacionados con la incitación al odio étnico contra la minoría musulmana rohinyá en Myanmar. En noviembre de 2019, la República de Gambia inició un proceso en contra Myanmar por el incumplimiento de sus obligaciones internacionales por malos tratos contra la minoría rohinyá. En enero de 2020, la Corte Internacional de Justicia (CIJ) ordenó medidas provisionales requiriéndole a Myanmar que evitara la comisión de actos de genocidio en contra de rohinyá. Dado el papel que de Facebook jugó como la principal plataforma de noticias online en Myanmar durante los hechos, Gambia presentó una solicitud de apertura a prueba en la Corte de Distrito del Distrito de Columbia en los Estados Unidos para que se revelaran las comunicaciones públicas y privadas, así como los documentos con los contenidos eliminados por Facebook relacionadas al genocidio. El tribunal falló a favor de Gambia en la solicitud en lo referido al contenido eliminado y a los documentos de investigación interna, toda vez que la Corte determinó que el contenido borrado por Facebook no se encontraba amparado por las reglas de confidencialidad de la Ley de Comunicaciones Almacenadas (LCA). Además, la Corte señaló que las publicaciones eliminadas por Facebook estaban comprendidas en las excepciones de las reglas de confidencialidad que establece la normativa correspondiente.
En 2012, Myanmar fue testigo de un brote de actos violentos en el estado Rakáin, hogar de los musulmanes rohinyá. La violencia causó desplazamientos a gran escala que afectaron a las etnias rakáin y musulmana, incluyendo incendios y saqueos de casas y ejecuciones sumarias. Múltiples organizaciones internacionales de derechos humanos, incluido el Consejo de Derechos Humanos de Naciones Unidas (en adelante la Misión de la ONU), concluyeron que la violencia en Rakáin fue “previamente planificada e instigada y que las fuerzas de seguridad de Myanmar eran cómplices y estaban activamente involucradas” [p. 3]. A principios de octubre de 2016, el ejército de Myanmar llevó a cabo “operaciones de limpieza” que resultaron en asesinatos masivos, ejecuciones, desapariciones, detenciones y torturas de población civil perteneciente a la etnia rohinyá, así como en violaciones y otros tipos de violencia sexual y de género.
Uno de los hallazgos de la Misión de la ONU en Myanmar fue sobre la incidencia de Facebook en la diseminación de artículos, siendo “por lejos la plataforma social de uso más común en Myanmar” para la publicación de noticias online [p. 4]. Los funcionarios de Myanmar recurrían frecuentemente a Facebook para publicar noticias e información, también lo hacían los medios de comunicación como método principal para la publicación de sus historias. En respuesta a estos alegatos, en octubre de 2018 Facebook comisionó una evaluación de impacto en derechos humanos (EIDDHH) de su presencia en Myanmar. De acuerdo con el informe de la EIDDHH, Facebook “(era) internet” en Myanmar y los funcionarios de ese país eran capaces “de propagar rumores sobre personas y hechos de manera verosímil” a través de la plataforma [p. 5]. Por lo tanto, Facebook contribuyó profundamente a moldear la percepción pública en contra de los rohinyá, la plataforma fue utilizada para propagar sentimientos anti musulmanes y desinformación que condujo a la violencia comunitaria y la justicia popular. Además, la campaña de odio incluyó distintas instancias en las que se etiquetó a la comunidad rohinyá en su conjunto como “inmigrantes ilegales”. Por ejemplo, el 1ero de junio de 2012 Zaw Htay, vocero del Presidente de Myanmar, publicó una declaración en su perfil de Facebook equiparando a los rohinyá con “terroristas”, contribuyendo significativamente a los actos de violencia que tuvieron lugar una semana después.
En 2018, Facebook emitió una actualización sobre Myanmar, reconociendo que era “muy lento para prevenir la información falsa y el odio” [p. 6]. En agosto de 2018 Facebook prohibió las cuentas de individuos y organizaciones clave en Myanmar (el jefe de las fuerzas armadas Min Aung Hlaing y el canal de televisión del ejército). Asimismo, borró noticias independientes y páginas de opinión que de manera encubierta diseminaban los mensajes de las fuerzas militares de Myanmar. Catalogándolas como violatorias de sus términos de servicio, Facebook borró 438 páginas, 17 grupos y 160 perfiles de Facebook e Instagram, seguidos por casi 12 millones de personas, por participar de “conductas no auténticas coordinadas” para perpetuar informaciones falsas y el discurso de odio en contra de los rohinyá [p. 6]. Sin embargo, resguardó el contenido borrado.
En noviembre de 2019 la República de Gambia instó acciones en contra de Myanmar ante la Corte Internacional de Justicia para que se establezca la responsabilidad de Myanmar por el delito de genocidio en contra de los rohinyá bajo la Convención para la Prevención y Sanción del Delito de Genocidio de 1948. En enero de 2020, la CIJ ordenó medidas provisionales para que Myanmar evite la comisión de actos de genocidio en contra de los rohinyá y la destrucción de las pruebas. Mientras que la acción de Gambia estaba pendiente de tratamiento ante la CIJ, el 5 de junio de 2020, presentó una solicitud de prueba en razón del 28 USC §1782 ante la Corte de Distrito del Distrito de Columbia en los Estados Unidos, para visualizar los contenidos electrónicos, especialmente documentos y comunicaciones que fueron producidos, elaborados, posteados o publicados por los individuos y agencias estatales cuyas cuentas fueron suspendidas. La solicitud también incluía todos los documentos relativos a cualquier investigación interna conducida por Facebook sobre las violaciones a las políticas de contenidos por parte de estos individuos y entidades. Llamativamente, Gambia también pidió una declaración de la Regla 30(b)(6) para que Facebook esclarezca el sentido de los documentos que le fue ordenado producir.
Facebook se opuso a la solicitud, afirmando que la provisión 28 USC §2702 de la LCA le impedía revelar el material. También sostuvo que la solicitud de prueba implicaba una carga excesiva y que la información podría ser buscada a través de otros canales, requiriéndole al tribunal que ejerza su discreción para rechazar el pedido.
El magistrado Zia Faruqui de la Corte de Distrito del Distrito de Columbia dictó la sentencia en el caso. La principal cuestión debatida ante el tribunal fue si el contenido borrado solicitado por Gambia está sujeto a divulgación por parte de Facebook bajo las cláusulas de la LCA.
De acuerdo con 28 U.S.C. § 1782, un tribunal federal de Estados Unidos está autorizado a ordenar el testimonio o la producción de documentos “para ser utilizados en un procedimiento ante un tribunal extranjero o internacional” en seguimiento a una solicitud de dicho tribunal o “cualquier persona interesada”. Esencialmente, se requiere la presencia de tres elementos al momento de decidir si otorgar o denegar el pedido: (1) que la persona resida o se encuentre en el distrito, (2) que la prueba solicitada sea usada en un procedimiento ante un tribunal extranjero o internacional, y (3) que la solicitud sea realizada por una persona interesada [p. 7]. Mientras que, bajo el artículo 28 U.S.C. § 1782 de la LCA, una entidad que provea el servicio de comunicaciones electrónicas al público “no debe divulgar a sabiendas a ninguna persona o entidad los contenidos de una comunicación mientras que tenga almacenado electrónicamente dicho servicio”. Bajo la LCA, un “usuario” es “cualquier persona o entidad que- (a) use un almacenamiento electrónico de comunicaciones; y (b) esté debidamente autorizado por el proveedor de dicho servicio para ese tipo de uso”. Además, la LCA define “persona” en un sentido amplio como “funcionarios de gobierno e individuos de los Estados Unidos” [p. 10].
Gambia presentó una objeción preliminar ante el tribunal diciendo que los funcionarios públicos de Myanmar no eran “usuarios protegidos” en los términos de la LCA y, por lo tanto, no son titulares del derecho a la protección contra la divulgación. Hipotetizó que al listar explícitamente a los funcionarios públicos de los Estados Unidos en la definición de “persona”, el Congreso buscó evitar la protección de funcionarios públicos extranjeros bajo la LCA. Sin embargo, el intento de Gambia de diferenciar estas categorías no fue exitoso en tanto el tribunal sostuvo que todos los individuos, incluyendo los funcionarios públicos extranjeros, tienen el derecho a la protección de intervenciones indebidas que garantiza la LCA. En igual sentido, Facebook fue también considerado como almacén electrónico de comunicaciones en los términos de la LCA.
En relación a si los registros pedidos por Gambia estaban comprendidos dentro de la definición de “almacenamiento electrónico”, el tribunal distinguió entre dos tipos de almacenamiento electrónico, el primero de ellos siendo almacenamiento temporal (por ejemplo, “cualquier almacenamiento temporal o intermedio de una transmisión o comunicación electrónica incidental a la transmisión electrónica”) y el segundo “almacenamiento de respaldo” (por ejemplo, “cualquier almacenamiento de dicha comunicación por un servicio de comunicación electrónica con el fin de respaldar dicha comunicación”). Ambas partes acordaron que el tema a resolver por el tribunal era si los registros solicitados podían ser calificados como almacenamiento de respaldo.
El tribunal ahondó en un ejercicio interpretativo para identificar el verdadero significado de la palabra “respaldo”, declarando que el contenido borrado por Facebook no era almacenamiento de respaldo en tanto el contenido era permanentemente removido de la plataforma y no podía existir una copia de respaldo sin el original, por lo tanto, la regla de divulgación de la LCA no era aplicable [p. 15]. Facebook argumentó que el contenido entregado y no borrado constituía un almacenamiento de respaldo en tanto el contenido borrado permanece en los servidores de Facebook cerca de donde el contenido activo de la plataforma está guardado. Sin embargo, el tribunal coincidió con el razonamiento aportado por Gambia en relación con que el contenido borrado al que el usuario no tiene acceso no constituiría un almacenamiento de respaldo. El tribunal también dio cuenta de la finalidad para la cual se guardó la información, reconociendo que Facebook guardó los datos para una autorreflexión (en tanto sostuvo que guardó los registros instantáneos como parte de una autopsia de su rol en el genocidio rohinyá) y no para almacenamiento. De acuerdo con el tribunal de distrito, el Congreso restringió el alcance de la LCA para proteger el almacenamiento de respaldo y no todo almacenamiento electrónico. En particular, el tribunal citó numerosos antecedentes jurisprudenciales para apoyar su postura (por ejemplo, Sartori v. Schrodt, 424 F. Supp. 3d 1121 (N.D. Fla. 2019); Flagg v. City of Detroit, 252 F.R.D. 346 (E.D. Mich. 2008); Theofel, 359 F.3d 1070 (9th Cir. 2004); Hately, 917 F.3d 785).
En relación con la confianza que tenía Facebook en el precedente Hately específicamente (en el que el tribunal sostuvo que “una transmisión o comunicación electrónica es almacenada ‘con fines de almacenamiento’ si es una ‘copia’ o ‘duplicado’ de la comunicación almacenada para evitar, entre otras cosas su ‘destrucción’”, p.17), el tribunal sostuvo que Facebook destruyó el contenido por sí mismo y mientras retuvo el acceso fuera de línea al contenido, el acceso no tenía el propósito de evitar la destrucción en la plataforma.
Facebook también arguyó que una interpretación acotada del término “almacenamiento de respaldo” tendría ‘amplias implicancias sobre la intimidad’ en tanto aun frente a la desactivación del perfil de un usuario, el contenido de las comunicaciones del usuario se haría público para cualquier, incluyendo el gobierno de los Estados Unidos [p. 18]. Al principio, el tribunal sostuvo que las preocupaciones de Facebook sobre una divulgación de contenidos que afectara el derecho a la intimidad no eran relevantes, especialmente porque las conductas inauténticas coordinadas no son titulares de un derecho a la intimidad por parte de Facebook (por ejemplo, perfiles falsos que violan los términos de servicio). Más aún, el tribunal consideró importante ponderar el derecho a la intimidad con la necesidad de develar las causas del genocidio rohinyá, mientras que agregó que la incidencia sobre la intimidad era mínima en tanto el contenido requerido seguía permeando en redes sociales de otras maneras.
Sin perjuicio de lo antedicho, el tribunal dijo que había excepciones a la LCA que habilitaban la publicación de contenidos protegidos, siendo la más importante la “excepción del consentimiento” a través de la cual un proveedor está autorizado a divulgar los contenidos de las comunicaciones con el consentimiento de quien las originó. Gambia también agregó que Facebook podía ampararse en una excepción de “protección del proveedor” (es decir, que “un proveedor puede divulgar los contenidos de una comunicación… en tanto puede ser necesariamente incidental a la provisión del servicio o para la protección de los derechos o de la propiedad del proveedor de ese servicio, p. 20”) para dar a conocer contenido sensible. El tribunal estuvo de acuerdo con este argumento, citando Facebook, Inc. v. Super. Ct., 417 P.3d 725, 751 (2018) y declaró que el tribunal puede ordenar la producción de comunicaciones exceptuadas de la protección de la LCA aun cuando el uso de la palabra “puede” induciría a la presunción de que la divulgación de contenido exceptuado por la LCA es enteramente voluntario por parte del proveedor.
En relación con la excepción del consentimiento, si bien el tribunal coincidió con que no hay un número mágico de visualizaciones del contenido para activar la excepción del consentimiento, intentó en cambio buscar una respuesta a la pregunta sobre “si las publicaciones habían sido configuradas por el usuario de manera de ser lo suficientemente privadas para no ser accesibles al público general” [p. 22]. Basándose en los hechos, el tribunal concluyó que los funcionarios públicos de Myanmar quisieron que el alcance de sus publicaciones fuera público, en tanto que no hubiesen alcanzado el objetivo de generar odio contra los rohinyá si sus perfiles y páginas hubieran sido privadas. En consecuencia, fuera de los mensajes privados, el contenido que Gambia solicitó entraba dentro de la excepción del consentimiento y, por lo tanto, correspondía darlo a conocer. Sin embargo, el tribunal no le otorgó a Gambia la excepción de la protección del proveedor.
Otro de los argumentos planteados por Facebook tuvo que ver con la vaguedad de la solicitud de Gambia, en tanto que el tribunal consideró que no ofrecía métricas significativas para identificar los perfiles y era excesivamente onerosa. Sin embargo, el tribunal rechazó este argumento al sostener que el alcance la petición de Gambia era muy específica, al solicitar que todo el contenido de la plataforma desde de 2012 que fuera relevante para el caso ante la CIJ fuera eliminado (por ejemplo, documentos relacionados con el discurso de odio y la incitación a la violencia en Facebook). Este alcance, desde la perspectiva del tribunal, presenta mínimas dificultades en tanto Facebook había proclamado públicamente la fortaleza de su equipo de lenguaje en Myanmar y sus facultades de revisión de contenidos. La solicitud de Facebook al tribunal de que le requiera a Gambia agotar medios alternativos para obtener la publicidad de la información también fue descartado, toda vez que de acuerdo con el tribunal, no existía norma que regulara un requisito de cuasi agotamiento de otros medios en este caso.
Finalmente, en relación con la divulgación de los documentos de investigación interna de Facebook, el tribunal valiéndose de argumentos similares, le ordenó a la plataforma a producir cualquier documentación no privilegiada relativa a su investigación interna. El tribunal sostuvo que los registros de la investigación interna solicitados por Gambia tenían un propósito viable que era evidenciar cómo Facebook conectaba perfiles falsos que en apariencia no tenían relación entre sí con funcionarios públicos de Myanmar y cuyos perfiles o páginas eran manejadas por los mismos funcionarios o las mismas agencias gubernamentales. En cuanto al pedido de Gambia de una declaración conforme al artículo 30(b)(6), el tribunal consideró que representaba una carga excesivamente onerosa para Facebook y, por lo tanto, fue rechazada.
Para concluir, además de señalar que era necesaria una actualización a la LCA, el tribunal estableció una senda firme para dar a conocer el contenido de las publicaciones eliminadas y determinó que Facebook debía cumplir con la solicitud de Gambia de revelar contenido eliminado de la plataforma y los documentos relacionados a ellos de la investigación interna.
El Impacto de la Decisión indica si la decisión expande o restringe la expresión basado en el análisis del caso.
La decisión expande el derecho a la Libertad de expresión.
Este caso presenta una rara combinación de protección de datos personales, moderación de contenidos y temas de libertad de expresión en internet. La moderación de contenidos de Facebook en Myanmar fue reconocida por el Relator Especial para la Libertad de Expresión de las Naciones Unidas en un informe de 2019 como una herramienta crucial para la moderación de contenidos problemáticos. Sin embargo, la negativa de Facebook de aportar pruebas basada en fundamentos de confidencialidad y protección de datos personales fue considera por el tribunal como una restricción a la libertad de expresión. El tribunal del caso también reconoció que “la pregunta sobre cómo las plataformas de redes sociales pueden respetar la libertad de expresión de sus usuarios al mismo tiempo que protegerlos (a los usuarios) de posibles daños es uno de los retos más apremiantes de nuestros tiempos” [p. 13]. Al mismo tiempo, reconoció que el derecho a la protección de la intimidad en este caso debe ser ponderado con la necesidad de develar la causa del genocidio del pueblo rohinyá [p. 18].
Sin perjuicio de lo antedicho, este caso es una importante victoria para múltiples iniciativas de rendición de cuentas en materia de derechos humanos, como es el caso de ICJ de Gambia, que continúan luchando en contra de la implementación arbitraria de estándares comunitarios de Facebook así como en contra de sus decisiones de contenido en relación con actores estatales en varias jurisdicciones como Myanmar.
La Perspectiva Global demuestra cómo la decisión de la corte fue influenciada por normas de una o más regiones.
La importancia del caso se refiere a cuán influyente es el caso y cómo su importancia cambia con el tiempo.
Notifícanos si detectas un error o si el análisis sobre un caso necesita ser revisado.