Civismo digital – Participar del mundo en todos los entornos en los que se nos permite ejercer nuestra libertad implica mantener el civismo con el otro, y eso también incumbe a las redes sociales e Internet. Denunciar el incumplimiento de un derecho o una agresión en el universo digital conlleva una responsabilidad.
por Belén Galeano (Paraguay)
Como un día cualquiera, después de una exhaustiva jornada de trabajo y recién llegada a su casa, Ana se dispuso a descansar y buscó algo de humor en las redes. Recordó la Copa América de fútbol femenino y googleó los goles destacados. El mejor resultado fue un video de recopilaciones en YouTube. La publicidad antes del video estaba dirigida, sobre todo, a hombres: shampoo anticaspa promocionado por un famoso futbolista. Un mensaje de Facebook interrumpió el aviso comercial: era su amigo Nicolás, arrobándola en un video de humor en Facebook Watch. Reaccionó con un “me divierte” a la mención de su amigo y, por inercia, pasó al siguiente video, sin saber que terminaría dolida e indignada.
El contenido del video sugería actitudes severamente misóginas y violentas hacia la mujer: lenguaje sexualmente explícito y denigrante, acciones invasivas contra la integridad física de una persona y la normalizada indiferencia ante un “no”. El video había sido publicado por una cuenta dedicada a compartir constantemente contenido sugerente o explícito de esa índole. Ana denunció 21 videos de la cuenta, sintiéndose a cada segundo un poco más indignada, un poco más reducida a un objeto, pero cumpliendo con lo que sentía, era una responsabilidad.
Creyó que, tal vez debido a ciertas búsquedas, el algoritmo había entendido que sus intereses eran los impulsados normalmente por el mercado hacia la categoría “hombres”, y pensó en la violencia que se construye diariamente hacia las mujeres desde ese mercado, que las considera una minoría. Sin embargo, tras haber denunciado 21 publicaciones y comprobar que solo una había sido eliminada, Ana decidió investigar.
¿No es, acaso, la sugerencia de contenido por una inteligencia artificial, una réplica de nuestra sociedad? ¿Cuántos siglos en el entorno físico debe soportar una minoría para que una sola de las faltas a sus derechos (una sola publicación) sea contemplada? ¿Por cuántas vistas pasa un contenido inapropiado de cualquier tipo de violencia para llegar, al menos, a una denuncia, y cuántas denuncias para llegar, al menos, a una revisión?
Dejar de normalizar la violencia
La tecnología puede ser una gran aliada para crear, fomentar y fortalecer estrategias que mejoren la vida de los seres humanos. “Es muy difícil pensar en el ejercicio de la democracia sin ejercer algún tipo de posicionamiento en redes sociales; es un espacio completamente necesario”, señala Eduardo Carrillo, cofundador de TEDIC (Asociación de Tecnología, Educación, Investigación y Comunicación), organización que busca promover los principios de una cultura libre y defender los derechos civiles en Internet.
Pero no es falso el hecho de que nos hemos mantenido en un estado de pubertad ante las nuevas redes sociales, que imponen o normalizan tendencias o costumbres de las sociedades físicas, como una bicicleta obsequiada a un bebé. La conducta humana no evolucionó a su estado más ético posible antes de que inteligencias artificiales propusieran, en función de los gustos de los usuarios, lo que perpetúa comportamientos que no representan ni promueven una mejora de las sociedades.
Las plataformas cuantifican y califican todo dato y toda expresión, y quienes tienen mayor potestad en la “convivencia” dentro de las redes sociales son los que toman decisiones en ellas. En el caso de la plataforma Facebook, Meta (su dueña) se compromete a eliminar contenido de su dominio o App si infringe las normas comunitarias, “diseñadas para promover la expresión y crear un entorno seguro”. Asimismo, enuncia que el número de veces que se reporta un contenido concreto no determina su eliminación.
“Si alguien publica reiteradamente contenido que no quieres ver, puedes… Dejar de seguir: si dejas de seguir a una persona o una página, no verás sus publicaciones ni actualizaciones en tu sección de noticias; bloquear: si bloqueas a una persona, no podrá iniciar una conversación contigo, etiquetarte ni ver el contenido que publicas en tu perfil. Si bloqueas a un amigo, también se eliminará de tu lista de amigos; tomarte un descanso: puedes elegir cuándo verla en Facebook o impedir que vea tus publicaciones”. Estas son las alternativas que propone Facebook, pero promoviendo, al mismo tiempo, un fenómeno: el de las burbujas de opinión, que limitan la visibilidad de distintas realidades.
No obstante, fue en 2018 que Meta (entonces, Facebook) publicó por primera vez un informe sobre sus esfuerzos por eliminar contenido inapropiado, el cual contempló seis temas generales: violencia gráfica, desnudos de adultos y actividad sexual, propaganda terrorista, lenguaje que incita al odio, spam y cuentas falsas. Las estadísticas del informe proporcionan información sobre cuánto contenido infringió las normas comunitarias, cuánto fue eliminado y cuánto contenido fue detectado sin denuncias de usuarios. Esto no es suficiente para combatir la violencia o los discursos de odio en estos entornos.
Según informes de la Comisión Europea, se estima que solo el 80 % del contenido denunciado es revisado. Por su parte, la misma plataforma YouTube declara que, a pesar de eliminar de manera rápida contenido principalmente de carácter terrorista y videos que incitan al odio, este tipo de material representa una proporción muy pequeña de infracción de normas, que no supera el 1 % de los videos eliminados. Organizaciones como INACH (International Network Against Ciber-Hate –Red Internacional Contra el Ciberodio–) constatan que los delitos de odio cometidos a través de redes sociales se multiplican por 30 en relación con la realidad física. En este sentido, Eduardo Carrillo señala que las restricciones de las plataformas pueden ser muy generales y abarcativas, eliminando contenido que sí promueve acceso a información veraz u opiniones que fortalecen democracias.
Somos ciudadanos del mundo
Afortunadamente, existen organizaciones que dedican sus esfuerzos para difundir la importancia del civismo en entornos digitales. “El civismo lo hacemos en general, digital o no digital”, señala Carrillo. Dado que el contenido inapropiado y los discursos de odio son un problema global, las soluciones deben ser igualmente globales.
En 2019, académicos de distintas universidades de España y en colaboración con intelectuales de Europa, aseguraron que la situación “impone la necesidad de buscar soluciones transnacionales, encaminadas a la lucha contra el odio, a la promoción de la tolerancia, de apoyo a comunidades, además de dirigirse a los proveedores de servicios en Internet”.
La principal solución –y la más duradera– por la que se aboga pasa por la educación y la formación en materia de igualdad y no discriminación1. “Finalmente, es en cómo las personas ejercen su civismo y su derecho a expresar sus opiniones, a acceder a información y asociarse con grupos de personas en el ámbito digital”, propone Carrillo.
Por ejemplo, un análisis de TEDIC del proyecto de ley en Paraguay sobre “contenidos nocivos en Internet para niños y adolescentes”, asevera que, según investigaciones de UNICEF, la sensibilización sobre los contenidos no aptos para los niños no está integrada en el currículum educativo, ni en la mayoría de sistemas y respuestas a la protección infantil en Latinoamérica.
Maricarmen Sequera, otra cofundadora de TEDIC, sostiene que, para los responsables de diseñar políticas en estos ámbitos, “debería ser una prioridad integrar la conciencia sobre los contenidos no aptos para los niños en Internet, en el programa general de protección a la infancia”.
Así, en esta propuesta el objetivo ideal es generar una matriz de personas educadas (alfabetizadas en este civismo), que entiendan el tipo de contenido que circula en línea y tengan las herramientas suficientes para chequear si esa información es correcta o no. A partir de ahí es que podrán tomar una decisión sólida sobre cómo actuar ante esa información.
Sobre el contenido no apropiado, o contenido que pueda tener consecuencias muy directas hacia grupos vulnerables, Carrillo comenta que “no puede ser aceptable”. La extensión de esa matriz ideal que promueven desde TEDIC y a la que aspiran otros activistas digitales, cimentada en el civismo sea donde fuere, sería el principio de la participación de todos en la nueva cultura de criticismo ante el contenido que consumimos, así fuera una escena que ocurra en el entorno real.
¿Qué acciones son las más éticas al contemplar una injusticia, o una actuación no ilegal pero que estigmatiza y excluye a grupos vulnerables en el trabajo, el colegio, las plazas? Como toda creación humana, los mecanismos de las plataformas para categorizar, analizar y eliminar contenido violento o inapropiado no son perfectos. Sin embargo, una sola frase de una de estas plataformas clama por no dejar lugar a la indiferencia, al igual que Ana: “Los animamos a que sigan denunciando contenidos de manera responsable” •
________________________________
1. Discursos de odio: una epidemia que se propaga en la red. Estado de la cuestión sobre el racismo y la xenofobia en las redes sociales. Revista Mediaciones Sociales, Vol. 18 (2019), Ediciones Complutenses. Recuperado de: https://doi.org/10.5209/meso.64527
Sobre los cofundadores de TEDIC
Eduardo Carrillo es relacionista internacional y máster en Administración Pública, con énfasis en Tecnología Digital y Política por la University College London. Cuenta con experiencia laboral en organizaciones de la sociedad civil y organismos internacionales. Investiga sobre políticas públicas en ciencia, tecnología, innovación y digitalización, y en el desarrollo económico y social del Paraguay.
Maricarmen Sequer es investigadora en Derechos Humanos y Tecnología, y abogada por la Universidad Nacional de Asunción. Es autora de numerosos artículos relacionados con el análisis de las legislaciones y derechos humanos en entornos digitales y de acceso a las tecnologías e información: ciberseguridad, privacidad, libertad de expresión y género en Internet.
