Redes, equipos de monitoreo y aplicaciones móvil para combatir los discursos y delitos de odio en Europa

Roberto Moreno-Lopez; Cesar  Arroyo López

doi:10.4185/RLCS-2022-1750

Authors

Roberto Moreno-Lopez Universidad de Castilla-La Mancha
Cesar Arroyo López Instituto de estudios internacionales en educación y sociedad

DOI:

https://doi.org/10.4185/RLCS-2022-1750

Keywords:

Social media; hate speech; hate crimes; young people TICs, Social media, hate speech, hate crimes, young people, TICs

Abstract

En este contexto global, inmediato y participativo, con carácter comunicativo propio, se ha visto en los últimos años como un espacio de expresión y propagación de la intolerancia. Con este caldo de cultivo y utilizando el mencionado anonimato como medio para la impunidad, surge el ciberodio. En el marco del proyecto C.O.N.T.A.C.T. se desarrolla una investigación de tipo mixto con cuestionario ad-hoc (N=186) y 20 entrevistas en profundidad a jóvenes entre los 18 y los 35 años en España con el objetivo central de profundizar en la percepción y los conocimientos sobre discurso de odio presente en la juventud española. Los principales resultados arrojan que el discurso de odio forma parte de la comunicación en internet y las redes sociales y que el alcance e impacto de los discursos de odio se retroalimentan tanto en la calle como en la red. Los jóvenes entienden que el discurso de odio se utiliza contra determinados grupos sociales por su orientación física, cultural, étnica, sexual y aunque pueden llegar a reconocer su uso en el ámbito privado. También identifican el discurso de odio como una estrategia de intimidación. En definitiva, la lucha contra el odio en internet es una cuestión multifacética, donde las medidas de carácter legal se deben acompañar de propuestas y respuestas de carácter social y educativo, y debe contar con el compromiso institucional y de las empresas que prestan servicios tecnológicos, todo ello orientado a construir un espacio online más seguro y respetuoso para todos.

Downloads

Download data is not yet available.

Author Biographies

Roberto Moreno-Lopez, Universidad de Castilla-La Mancha

Diploma in Social Education in 2003 and Doctor in Humanities and Education in 2017 from the Universidad de Castilla-La Mancha. He has developed his research and teaching work in the area of Pedagogy for a decade as a member of the GIES-CLM, TRES, and SIMI groups at the Universidad de Castilla-La Mancha and the Universidad Internacional de la Rioja. His main lines of work focus on diversity, educational and social inclusion, and hate speech and crimes.

roberto.moreno@uclm.es

Índice H: 4

Orcid ID: https://orcid.org/0000-0002-6238-9440

Google Scholar: https://scholar.google.es/citations?user=SU3WbRoAAAAJ&hl=es

ResearchGate: https://www.researchgate.net/profile/Roberto-Moreno-8

Scopus ID: 57195273852

Cesar Arroyo López, Instituto de estudios internacionales en educación y sociedad

Doctorate in Humanities, Arts, and Education from the Universidad de Castilla – La Mancha. Bachelor of Humanities. Specialist in management, planning, and social innovation. Expert in socio-educational intervention with families and children at risk. Specialist in international development cooperation. Expert in European Programs. He has worked in the social field for more than 15 years, the last 8 of which he participated in different initiatives at a European level.

cesar .arroyo@ineeys.es

Orcid ID: https://orcid.org/0000-0002-8249-5697

References

Anti-Defamation League (2010). Responding to Cyberhate, Toolkit for Action. Anti-Defamation League. https://www.adl.org/sites/default/files/documents/assets/pdf/combating-hate/ADL- Responding-to-Cyberhate-Toolkit.pdf

Al Serhan, F., & Elareshi, M. (2020). New media and hate speech: A study of university students in Jordan. Opción: Revista de Ciencias Humanas y Sociales, (26), 166-184.

Assimakopoulos, S., Baider, F. H., & Millar, S. (2017). Online hate speech in the European Union: a discourse-analytic perspective. Springer Nature.

Ayuntamiento de Barcelona (2017). Informe Discurso del Odio. Resumen Ejecutivo. Ayuntamiento de Barcelona. http://ajuntament.barcelona.cat/bcnvsodi/wp-content/uploads/2017/02/Informe_ Discurso-del-Odio_resumen-ejectivo_ES-2.pdf

Ben-David, A., & Fernández, A. M. (2016). Hate speech and covert discrimination on social media: Monitoring the Facebook pages of extreme-right political parties in Spain. International Journal of Communication, 10, 27.

Burnap, P., & Williams, M. L. (2014). Hate speech, machine classification and statistical modelling of information flows on Twitter: Interpretation and communication for policy decision making. Oxford U.K.

Cabo, A., Tarragona, L., & Vallès, O. (2015). Informe del Observatorio PROXI (Vol. I.). Observatorio PROXI. https://www.observatorioproxi.org/images/pdfs/INFORME-proxi-2015.pdf

Cabo Isasi, A. y Juanatey, A. (2016). El discurso de odio en las redes sociales: un estado de la cuestión. Ayuntamiento de Barcelona. http://ajuntament.barcelona.cat/ bcnvsodi/wp-content/ uploads/2017/02/Informe_Discurso-del-Odio_resumen-ejectivo_ES 2.pdf

Davidson, T., Warmsley, D., Macy, M., & Weber, I. (2017). Automated hate speech detection and the problem of offensive language. Proceedings of the International AAAI Conference on Web and Social Media, 11(1), 512-515.

De Haro, J. (2019). Redes sociales en Educación. http://eduredes.antoniogarrido.es/

uploads/6/3/1/1/6311693/redes_sociales_educacion.pdf

De Salvador Carrasco, L. (2012). Redes de anonimización en Internet: cómo funcionan y cuáles son sus límites. Instituto Español de Estudios Estratégicos (IEEE).

Del Río, J., Sádaba, C. y Bringué, X. (2010). Menores y redes ¿sociales?: de la amistad al cyberbullying.

http://www.injuve.es/sites/default/files/RJ88-09.pdf

Ekman, M. (2019). Anti-immigration and racist discourse in social media. European Journal of Communication, 34(6), 606-618. https://doi.org/10.1177/0267323119886151 journals.sagepub. com/home/ejc

European Commission (2016). Code of conduct on countering illegal hate speech online.

http://ec.europa.eu/justice/fundamental-rights/files/hate_speech_code_of_conduct_en.pdf

Farkas, J., Jannick S., & Neumayer, Ch. 2018. Cloaked Facebook Pages: Exploring Fake Islamist Propaganda in Social Media. New Media & Society 20(5), 1850-67.

Gil-Borrelli, C. C., Martín-Ríos, M. D. y Rodríguez-Arenas, M. Á. (2018). Propuesta de actuación para la detección y la atención a víctimas de violencia de odio para profesionales de la salud. Med. clín, 150(4), 155-159.

Gil-Borrelli, C.C., Dolores Martín-Ríos, M. D., López Corcuera, L., Reche Martínez, B., Torres Santos- Olmo, R., Muriel Pati, E. y Rodríguez-Arenas, M. A. (2020). Elaboración de un cuestionario de detección de casos de violencia de odio en urgencias hospitalarias. Gac Sanit 34(2). https://doi. org/10.1016/j.gaceta.2019.01.006

Holcomb, L., & Beal, C. (2010). Capitalizing on web 2.0 in the social studies context. TECHTRENDS, 54(4), 28-32. https://dx.doi.org/10.1007/s11528-010-0417-0

Instituto Nacional de Estadística (2021). Encuesta sobre equipamiento y Uso de Tecnológicas de Información y Comunicación en los Hogares 2021.

Isasi, A. C. y Juanatey, A. G. (2016). El discurso del odio en las redes sociales: un estado de la cuestión. https://plataformaciudadanacontralaislamofobia.files.wordpress.com/2017/03/informe_ discurso-del-odio_es.pdf

Jefatura del Estado. (1999, 13 de diciembre). Ley Orgánica 15/1999, de 13 de diciembre, de Protección de Datos de Carácter Personal. Boletín Oficial del Estado. https://www.boe.es/buscar/pdf/1999/ BOE-A-1999-23750-consolidado.pdf

Lamerichs, N., Dennis, M. C., Puerta, R. R., & Lange-Bohmer, A. (2018). Elite Male Bodies: The Circulation of Alt-Right Memes and the Framing of Politicians on Social Media. Participation, 15(1), 180-206.

López-Berlanga, C. y Sánchez-Romero, C. (2019). La interacción y convivencia digital de los estudiantes en las redes sociales. Revista nacional e internacional de educación inclusiva, 12(2), 114-130.

Martín-Martín, M., Asensio-Muñoz, I., y Bueno-Álvarez, J. (2021). Uso de las redes sociales en estudiantes de secundaria: análisis de perfiles para la intervención educativa. REVISTA COMPLUTENSE DE EDUCACIÓN, 32(3), 303-314. http://dx.doi.org/10.5209/rced.57189

Matamoros-Fernández, A., & Farkas, J. (2021). Racism, hate speech, and social media: A systematic review and critique. Television & New Media, 22(2), 205-224.

Ministerio del Interior (2020). Informe sobre la evolución de los delitos de odio en España. http://www.interior.gob.es/documents/642012/13622471/Informe+sobre+la+evoluci%C3%B 3n+de+delitos+de+odio+en+Espa%C3%B1a+a%C3%B1o+2020.pdf/bc4738d2-ebe6-434f- 9516-5d511a894cb9

Moreno-López, R., & Arroyo-López, C. (2021). Support and advice through health system for hate crimes victims: a socio-sanitary approach. Tirant Lo Blanch. https://editorial.tirant.com/es/libro/ support-and-advice-through-health-system-for-hate-crimes-victims-a-socio-sanitary-approach- arroyo-lopez-cesar-9788418656842

Olweus, D. (1999). Conductas de acoso y amenaza entre escolares. Morata

Olteanu, A., Castillo, C., Boy, J., & Varshney, K. (2018). The effect of extremist violence on hateful

speech online. Proceedings of the international AAAI conference on web and social media, 12(1).

Paz, M. A., Montero-Díaz, J., & Moreno-Delgado, A. (2020). Hate speech: A systematized review.

Sage Open, 10(4), https://doi.org/10.1177/2158244020973022

Pohjonen, M., & Udupa, S. (2017). Extreme speech online: An anthropological critique of hate speech debates. International Journal of Communication, 11, 19.

Romera, E. M., Ortega, R., Rey, R. D., Casas, J. A., Viejo, C. M., Gómez, O. y Luque, R. (2017). Bullying, cyberbullying y dating violence: Estudio de la gestión de la vida social en estudiantes de Primaria y Secundaria de Andalucía. Fundación Pública Andaluza, Centro de Estudios Andaluces.

Sacristán, A. (2013). Sociedad del conocimiento, tecnología y educación. Ediciones Morata.

Save the Children España (2016). Yo a eso no juego. Bullying y ciberbullying en la infancia.

https://www.savethechildren.es/sites/default/files/imce/docs/yo_a_eso_no_juego.pdf

Vrysis, L., Vryzas, N., Kotsakis, R., Saridou, T., Matsiola, M., Veglis, A., Arcila-Calderón, C., & Dimoulas, C. A. (2021). Web Interface for Analyzing Hate Speech. Future Internet, 13(80). https://doi.org/10.3390/fi13030080