El Parlamento Europeo en España alerta de que: «El algoritmo viraliza los discursos de odio en redes sociales»

Imane Raissali (Tánger, 1997) ha llegado a tener protección policial por las amenazas de muerte recibidas en redes sociales por contar que se había quitado el velo. El autor «tenía unos veintipocos años. Me decía que me iba a cortar la cabeza e incluso llegó a explicarme cómo lo haría», asegura en conversación con Alfa y Omega. Aconsejada por terceras personas, «acabé denunciando la situación», aunque al principio no entendía bien la necesidad de hacerlo. Pero con el paso del tiempo, la denuncia y los policías que a partir de entonces empezaron a seguir sus pasos resultaron ser claves para su vida. Literalmente. «Al chico lo detuvieron en el aeropuerto de Barajas» intentando entrar a España, donde Raissali vive desde hace 20 años. «Fue un momento muy complicado para mí. Cambiaron todas mis rutinas», sobre todo porque «es diferente que te peguen una paliza inesperada un día cualquiera que vivir con el miedo constante de no saber cuándo te va a pasar algo»; cuándo va a aparecer un tipo que te quiere cortar la cabeza.

Ese mismo temor fue el que le llevó a cambiar a su hija de colegio después de que le enviaran un vídeo en el que aparecía ella misma en una reunión del AMPA (Asociación de Madres y Padres de Alumnos). «Te sientes muy vulnerable. Si me pueden grabar en una reunión, pueden hacer cualquier cosa», subraya la joven, cuya experiencia le ha llevado a colaborar en distintas ocasiones con el Parlamento Europeo para denunciar los discursos de odio. «Fue precisamente en un encuentro que tuvimos con eurodiputados en el que se estaba hablando de este tema, cuando varios de los jóvenes que estábamos allí les pedimos si podían hacer algo al respecto».

Raissali sufre acoso a diario. Foto cedida por Imane Raissali.

Hasta ahora, la Unión Europea ha venido trabajando a nivel legislativo. De hecho, la pasada legislatura la Eurocámara aprobó la Ley de Servicios Digitales, que obliga a las distintas plataformas a desarrollar sistemas efectivos de moderación del contenido con el fin de no fomentar la desinformación ni los discursos de odio. También pone el foco en la importancia de que el algoritmo de las distintas redes sociales funcione con criterios de mayor transparencia sin potenciar los mensajes más radicales. «Las plataformas favorecen este tipo de discursos, que son más morbosos y llaman más la atención, lo que logra que el usuario pase más segundos delante de la pantalla», denuncia en conversación con Alfa y Omega María Andrés, directora de la Oficina del Parlamento Europeo en España. «Se viralizan por la configuración de ese algoritmo. Es decir, los discursos de odio, aunque puedan ser minoritarios, al final logran llegar a una gran cantidad de personas». Y esto, advierte Andrés, «crea un caldo de cultivo que puede llegar a transformar poco a poco la sociedad e incluso a trascender la pantalla». Como ocurrió en el caso de Raissali.

Pero junto con el trabajo normativo, la Unión Europea cree que es importante trabajar a nivel divulgativo con los jóvenes. Un guante que han recogido desde la Oficina del Parlamento Europeo en España, quienes han lanzado junto a la Fundación FAD Juventud la campaña El odio marca. «Lo primero que queremos advertir es que el discurso de odio tiene un impacto directo en la salud mental del que lo recibe», asegura María Andrés. Especialmente en la de los jóvenes, que «sufren estos insultos o amenazas a una edad en la que, a lo mejor, todavía no tienen herramientas para afrontarlo».

En segundo lugar, al Parlamento le preocupa el crecimiento de este problema —el 50,1 % de los jóvenes de entre 15 y 29 años ha sufrido discursos de odio en el último año— y los efectos que su normalización puede tener a nivel político y social. «El mejor ejemplo lo tenemos ahora en Estados Unidos, donde vemos que se están produciendo redadas indiscriminadas contra los migrantes», señala la directora de la oficina. «Al final, si empezamos a vincular inmigración con criminalidad y sostenemos ese discurso en el tiempo, normalizamos una narrativa que erosiona la confianza del ciudadano hacia ese colectivo y tiene un impacto directo en nuestras democracias», asevera Andrés.

Por eso, «hay que actuar desde la raíz. Si esos comportamientos no están permitidos en el mundo offline, no deberían tener cabida en el mundo online», concluye la directora de la Oficina del Parlamento Europeo en España. «Una institución, por cierto, en cuyo ADN fundacional se encuentran conceptos como el de unidad, colaboración o fraternidad».