Caléndula emitirá alertas tras identificar discursos de odio en las redes sociales

«Ya estoy vislumbrando el futuro. Los negros del #Aquarius comiendo paella, bebiendo cervecita y viendo el mundial y vosotros currando como cabrones y dándole like a Rufián y a la ameba de Talegón»; «Fuera los Moros!, a tomar por culo su religión! así de claro!, que se vayan al coño norte de África!» o «El #Aquarius que se hunda, los negros fuera, los inmigrantes que se ahoguen» son algunos de los tweets con los que se está entrenando a Caléndula, el superordenador del Centro de Supercomputación de Castilla y León ubicado en el campus de Vegazana, para que tras el verano empiece a lanzar alertas «después de generar un modelo que permitirá predecir cuándo un texto en las redes sociales tiene un discurso de odio». Así lo explica el investigador Carlos Arcila, quien junto con su equipo de la Universidad de Salamanca trabaja en el desarrollo de un clasificador de textos basado en el aprendizaje automático (inteligencia artificial).

Los investigadores están recogiendo ejemplos de discursos de odio que se difunden en las redes sociales y mezclándolos con otros inocuos para que el superordenador «desarrolle algoritmos que den pie a modelos predictivos y aprenda a diferencia si un mensaje tiene un discurso de odio o no».

El equipo liderado por Carlos Arcila — Félix Ortega Mohedano, Patricia Sánchez Holgado, Francisco Javier Jiménez Amores, David Blanco Herrero y Maximiliano Frías Alonso, que integran el Observatorio de los Contenidos Audiovisuales de la Universidad de Salamanca— quiere desarrollar un prototipo para que pueda ser aplicado al mercado y que después pueda ser utilizado tanto por las administraciones públicas o las policías o también el sector privado. Arcila explica que las últimas investigaciones apuntan a que existe un aumento de los delitos de odio, dato que demuestran las últimas estadísticas del Ministerio del Interior. Pendientes aún de los datos de 2018, en 2017 se cometieron en España cerca de 1.500 delitos vinculados al racismo o la xenofobia, la orientación sexual, las prácticas religiosas o la ideología política. Los delitos de este tipo cometidos en 2017 supusieron un incremento del 11,6% respecto a los de 2016.

El objetivo del equipo de investigadores salmantinos es que el supercomputador leonés, una vez esté entrenado y sepa clasificar los mensajes de las redes sociales, sea capaz de lanzar alertas tempranas. «Se podrán hacer predicciones en tiempo real para ver si los mensajes que llegan son o no delitos de odio», explica Arcila, quien añade que de este modo, cuando se detecte un aumento en una zona geográfica concreta —que se podrá determinar si los mensajes están geolocalizados—, se podrá actuar previamente y también «ejecutar políticas que ataquen estos delitos del odio». Desarrollo y evaluación de un detector del discurso del ocio en línea en español es el proyecto que se ha vinculado al supercomputador Caléndula para crear una herramienta tecnológica «para contrarrestar sus efectos y combatir los delitos de odio», explica Arcila, tras matizar que aunque muchos de los mensajes que se lanzan en las redes no constituyen un delito en sí mismo (otros sí), el objetivo es predecir y alertar de un aumento de estos mensajes y evitar que se conviertan en delitos y hechos reales. Caléndula se entrenará durante las vacaciones de verano y está previsto que entre octubre o noviembre dé ya las alertas.