Percepciones del alumnado universitario sobre los deepfakes generados mediante inteligencia artificial: El caso de Grok
DOI:
https://doi.org/10.4185/rlcs-2027-2740Palabras clave:
deepfakes, desinformación, ética digital, Grok, inteligencia artificial, universitariosResumen
Introducción: En el contexto de expansión de la Inteligencia Artificial (IA) generativa, los deepfakes emergen como un problema específico que afecta a la veracidad informativa, la identidad y la confianza social. La accesibilidad de herramientas como Grok intensifica estos desafíos, especialmente entre el alumnado universitario, un colectivo clave en la alfabetización digital. El estudio tiene como objetivo analizar sus percepciones sobre los riesgos, la regulación y las necesidades formativas asociadas a esta tecnología. Metodología: Se adopta un enfoque cuantitativo exploratorio basado en un cuestionario estructurado. La muestra está compuesta por 249 estudiantes de tres instituciones andaluzas: Universidad de Sevilla (US), Universidad de Málaga (UMA) y Centro Universitario EUSA. El instrumento recoge percepciones sobre riesgos, regulación y formación en relación con los deepfakes generados mediante Grok. Resultados: La desinformación aparece como el principal riesgo percibido, seguida de la suplantación de identidad y la vulneración de la privacidad. Además, existe una demanda mayoritaria de regulaciones estrictas, mayor transparencia algorítmica y programas avanzados de alfabetización mediática. Grok es valorado de forma predominantemente crítica. Discusión: Los resultados reflejan una preocupación significativa por el impacto social de los deepfakes y evidencian una percepción crítica hacia su uso. La demanda de regulación y formación indica una conciencia creciente sobre los riesgos, así como la necesidad de herramientas para afrontarlos. Conclusiones: Los deepfakes presentan una naturaleza ambivalente que requiere marcos normativos proactivos, responsabilidad ética compartida y una formación universitaria orientada a la gobernanza crítica de la IA.
Descargas
Citas
Abrar, K. T. (24 de septiembre de 2025). Operationalizing “Freedom of Speech, Not Reach”: A comprehensive AI-driven moderation framework using xAI’s Grok models and Community Notes. Authorea. https://doi.org/10.22541/au.175873394.42431625/v1
Acquier, A. y Cossey, J. (2025). Flooding the academic zone with shit? Academic deepfakes and climate action in a post-truth era. ESCP Business School Impact Paper. SSRN. https://doi.org/10.2139/ssrn.5467450
Addati, F. A. (2025). Privacidad bajo amenaza digital: la respuesta estadounidense a los Deepfakes y el vacío legal en Argentina. Ratio Iuris, 13(1), 197-209. https://id.caicyt.gov.ar/ark:/s23470151/thm14at8c
Ali, A., Ghouri, K.F.K., Neseem, H., Soomro, T.R., Mansoor, W. y Momani, A.M. (2022). Battle of Deep Fakes: Artificial Intelligence Set to Become a Major Threat to the Individual and National Security [Conference]. 2022 International Conference on Cyber Resilience (ICCR), Dubai, United Arab Emirates. https://doi.org/10.1109/ICCR56254.2022.9995821
Ballesteros-Aguayo, L. y Ruiz del Olmo, F. J. (2024). Vídeos falsos y desinformación ante la IA: El deepfake como vehículo de la posverdad. Revista de Ciencias de la Comunicación e Información, 29, 1-14. https://doi.org/10.35742/rcci.2024.29.e294
Bañuelos Capistrán, J. (2020). Deepfake: La imagen en tiempos de la posverdad. Revista Panamericana de Comunicación, 1(2), 51-61. https://doi.org/10.21555/rpc.v0i1.2315
Bañuelos Capistrán, J. (2022). Evolución del deepfake: Campos semánticos y géneros discursivos (2017-2021). Icono 14, 20(2), 267-295. https://doi.org/10.7195/ri14.v20i1.1773
Bustos Díaz, J. y Martin-Vicario, L. (2024). Alfabetización mediática en un mundo hiperconectado: De las redes sociales a la Inteligencia Artificial. European Public & Social Innovation Review, 9, 01-17. https://doi.org/10.31637/epsir-2024-1241
Caballero Mariscal, D., Segura, A. y Pinto, M. (2025). El reto de la inteligencia artificial: Un estudio de caso sobre las percepciones del uso del ChatGPT en el estudiantado de Educación e Información y Documentación. Ibersid, 19(2), 117-130. https://doi.org/10.54886/ibersid.v19i2.5039
Carlson, M. (2015). The robotic reporter: Automated journalism and the redefinition of labor, compositional forms, and journalistic authority. Digital Journalism, 3(3), 416–431. https://doi.org/10.1080/21670811.2014.976412
Carpenter, P. (2024). FAIK: A practical guide to living in a world of deepfakes, disinformation, and AI-generated deceptions. Wiley.
Castro, I. (12 de enero de 2026). El Gobierno incluye los 'deepfakes' en el catálogo de intromisiones contra el honor. Eldiario.es https://eldiario.es/politica/gobierno-incluye-deepfakes-catalogo-delitos-honor_1_12902091.html
Cejudo, R. (2024). Ethical problems of the use of deepfakes in the arts and culture. In Ethics of Artificial Intelligence. Springer. https://doi.org/10.1007/978-3-031-48135-2_7
Chapagain, D., Kshetri, N. y Aryal, B. (2024). Deepfake disasters: A comprehensive review of technology, ethical concerns, countermeasures, and societal implications. En 2024 International Conference on Emerging Trends in Networks and Computer Communications (ETNCC) (pp. 1-9). IEEE. https://doi.org/10.1109/ETNCC63262.2024.10767452
Chesney, R. y Citron, D. K. (2019). Deep fakes: A looming challenge for privacy, democracy, and national security. California Law Review, 107(6), 1753-1820. https://scholarship.law.bu.edu/faculty_scholarship/640
Dayal, G., Verma, P. y Sehgal, S. (2024). A comprehensive review on the integration of artificial intelligence in the field of education. Leveraging AI and Emotional Intelligence in Contemporary Business Organizations, 331-349. IG Gklobal Scientific Publishing. https://doi.org/10.4018/979-8-3693-1902-4.ch020
Del Moral Pérez, M. E., López-Bouzas, N., Castañeda Fernández, J. y Bellver Moreno, M. C. (2025). Universitarios frente a las fake news generadas por la inteligencia artificial: Estrategias asociadas al pensamiento crítico que adoptan. Educación XX1, 28(2), 69-121. https://doi.org/10.5944/educxx1.39811
Fernández Fernández, Á., Martínez de Bartolomé Rincón, I. y Morgado Aguirre, B. (2026). Ethics, Personal Image, and Disinformation in the Era of Deepfakes. VISUAL REVIEW. International Visual Culture Review Revista Internacional De Cultura Visual, 18(2), 31-46. https://doi.org/10.62161/revvisual.v18.5930
Gregory, S. (2022). Deepfakes, misinformation and disinformation and authenticity infrastructure responses: Impacts on frontline witnessing, distant witnessing, and civic journalism. Journalism, 23(3), 521-540. https://doi.org/10.1177/14648849211060644
Gomes-Gonçalves, S. (2022). Los deepfakes como una nueva forma de desinformación corporativa: Una revisión de la literatura. IROCAMM – International Review of Communication and Marketing Mix, 5(2), 57–74. https://doi.org/10.12795/IROCAMM.2022.v05.i02.02
Guevara Chávez, J. L. y Almeida Macias, M. R. (2025). Infodemia y alfabetización mediática frente a los riesgos de la desinformación automatizada en entornos digitales. Scripta Mundi, 4(2), 10-36. https://doi.org/10.53591/scmu.v4i2.2309
Gupta, D. y Fatunmbi, T. O. (2024). Generative AI and deepfakes: Ethical implications and detection techniques. Journal of Science, Technology and Engineering Research. https://doi.org/10.64206/21rgkc40
Hasani, A., Rasheed, J., Alsubai, S. y Luma-Osmani, S. (2024). Personal rights and intellectual properties in the upcoming era: The rise of deepfake technologies. En Forthcoming Networks and Sustainability in the AIoT Era. (pp. 379-391). Springer. https://doi.org/10.1007/978-3-031-62881-8_32
Iannuzzi, M., Bogaard, G. y Schell-Leugers, J. M. (2025). AI-generated media and the erosion of trust in legal settings: A review on impact and distortion of belief. AI & Society. https://doi.org/10.31234/osf.io/qshbu_v1
Jondec Briones, H. P., Zevallos Loyaga, M. E., Segura Grados, A. Y. y Castrejon Vilchez, E. M. (2024). El uso ilícito de las técnicas de inteligencia artificial y la necesidad de su regulación: el deepfake. Vniversitas Jurídica, 73. https://doi.org/10.11144/Javeriana.vj73.uiti
Kalpokas, I. y Kalpokiene, J. (2022). Deepfakes: A realistic assessment of potentials, risks, and policy regulation. Springer. https://doi.org/10.1007/978-3-030-93802-4
Kamachee, M., Casper, S., Ding, M. L., Yew, R. J. y Cols. (2025). Video deepfake abuse: How company choices predictably shape misuse patterns. SSRN. https://doi.org/10.2139/ssrn.5076297
Kaur, A., Noori Hoshyar, A., Wang, X. y Xia, F. (2024). Beyond deception: Exploiting deepfake technology for ethical innovation in healthcare. En Proceedings of the 1st International Conference on Artificial Intelligence in Medicine. ACM.
Kaur, J., Sharma, K. y Singh, M. P. (2024). Exploring the depth: Ethical considerations, privacy concerns, and security measures in the era of deepfakes. En Navigating the World of Deepfake Technology (pp. 141-165). IGI Global. https://doi.org/10.4018/979-8-3693-5298-4.ch008
Kılıç, B. y Kahraman, M. E. (2023). Current usage areas of deepfake applications with artificial intelligence technology. İletişim ve Toplum Araştırmaları Dergisi, 6(2), 45-67. The Journal of Communication and Social Studies. https://doi.org/10.59534/jcss.1358318
Koenecke, A., Nam, A., Lake, E., Nudell, J., Quartey, M., Mengesha, Z., Toups, C., Rickford, J. R., Jurafsky, D. y Goel, S. (2020). Racial disparities in automated speech recognition. Proceedings of the National Academy of Sciences, 117(14), 7684- 7689. https://doi.org/10.1073/pnas.1915768117
Lendvai, G. F. y Gosztonyi, G. (2024). Deepfake y desinformación –¿Qué puede hacer el derecho frente a las noticias falsas creadas por deepfake? IDP. Revista de Internet, Derecho y Política, 41, 1-13, https://doi.org/10.7238/idp.v0i41.427515
Levesque, J. (2025). The AI-enhanced trafficking threat: Examining the technological evolution of trafficking in persons operations with AI tools. Journal of Human Trafficking. https://doi.org/10.1080/23322705.2025.2572911
Maniyal, V. y Kumar, V. (2024). Unveiling the deepfake dilemma: Framework, classification, and future trajectories. IT Professional, 26(3), 45-53. https://doi.org/10.1109/MITP.2024.3369948
Menéndez, M. (13 de enero de 2026). El Gobierno incluye los 'deepfakes' en los delitos contra el honor y regula los 'true crimes'. https://www.rtve.es/noticias/20260113/gobierno-incluye-deepfakes-catalogo-delitos-contra-honor/16891904.shtml
Murillo Ligorred, V. y Ramos Vallecillo, N. (2025). La categorización de los deepfakes mediante una investigación cualitativa para la formación de maestros: de la crítica a la creatividad en la inteligencia artificial. Communiars. Revista De Imagen, Artes Y Educación Crítica Y Social, 8(14), 45-61. https://dx.doi.org/10.12795/Communiars.2025.i14.03
Murillo-Ligorred, V., Ramos-Vallecillo, N. y Covaleda, I. (2023). Knowledge, integration and scope of deepfakes in arts education: The development of critical thinking in postgraduate students. Education Sciences, 13(12). https://doi.org/10.3390/educsci13121234
Nannaware, S. C., Pillai, R. y Kate, N. (2025). Deepfakes in action: Exploring use cases across industries. In Deepfakes and Their Impact on Society. IGI Global. https://doi.org/10.4018/979-8-3693-6890-9.ch004
Okhrymovych, V. (2024). Deepfake in the communicative space of Internet culture: Features of application. Artistic Culture. Topical Issues, 40(1), 112-125. Artistic Culture. Topical issues. https://doi.org/10.31500/1992-5514.20(2).2024.318261
Pascual, M.G. y Sosa Troya, M. (13 de enero de 2026). El Gobierno busca combatir los ‘deepfakes’ incluyéndolos como vulneración al derecho al honor. El País. https://elpais.com/sociedad/2026-01-13/el-gobierno-busca-combatir-los-deepfakes-incluyendolos-como-vulneracion-al-derecho-al-honor.html
Pedersen, K. T., Pepke, L., Stærmose, T., Papaioannou, M., Choudhary, G. y Dragoni, N. (2025). Deepfake-driven social engineering: Threats, detection techniques, and defensive strategies in corporate environments. Journal of Cybersecurity and Privacy, 5(2), 18. https://doi.org/10.3390/jcp5020018
Peña-Fernández, S., Meso-Ayerdi, K., Larrondo-Ureta, A. y Díaz-Noci, J. (2023). Without journalists, there is no journalism: The social dimension of generative artificial intelligence in the media. Profesional de la Información, 32(2), e320227. https://doi.org/10.3145/epi.2023.mar.27
Piña, R. (12 de enero de 2026). El Gobierno regula para incluir los 'deepfakes' como un delito contra el honor. El Mundo. https://amp.elmundo.es/espana/2026/01/12/69656fc1fdddfff3198b4593.html
Porlezza, C. y Schapals, A. K. (2024). AI Ethics in Journalism (Studies): An Evolving Field Between Research and Practice. Emerging Media, 2(3), 356-370. https://doi.org/10.1177/27523543241288818
Ramos-Zaga, F. (2024). Deepfake: Análisis de sus implicancias tecnológicas y jurídicas en la era de la Inteligencia Artificial. Derecho global. Estudios sobre derecho y justicia, 9(27), 359-387. https://doi.org/10.32870/dgedj.v9i27.754
Roe, J., Perkins, M., Somoray, K., Miller, D. y Furze, L. (2025). Can synthetic avatars replace lecturers? An exploratory international study of higher education stakeholder perceptions. International Journal of Educational Technology in High Education, 22(71), 1-23. https://doi.org/10.1186/s41239-025-00568-4
Sapkota, R., Raza, S., Shoman, M., Paudel, A. y Karkee, M. (2025). Multimodal large language models for image, text, and speech data augmentation: A survey. arXiv preprint arXiv, 2. https://doi.org/10.48550/arXiv.2501.18648
Singh, A. (2024). Development of personality rights and data privacy regulation of deepfakes. SSRN Electronic Journal. http://dx.doi.org/10.2139/ssrn.5348028
Sundar, S. S., Kang, H. y Saha, K. (2021). Trust in artificial intelligence: Meta-analysis of user perceptions across domains. Computers in Human Behavior, 123, 106878. https://doi.org/10.1016/j.chb.2021.106878
Santisteban Galarza, M. (2024). La criminalización de las ultrafalsificaciones (con especial atención a las implicaciones de la normativa europea de servicios digitales e inteligencia artificial). Revista de Derecho Penal y Criminología, 31(ENERO). https://doi.org/10.5944/rdpc.ENERO.2024.38890
Torres-Toukoumidis, A., Marín-Gutiérrez, I. y Pallo-Chiguano, M. (2025). Inteligencia Artificial y alfabetización mediática: análisis bibliométrico (2013-2025). Cuadernos Del Audiovisual | CAA, 14. https://doi.org/10.62269/cavcaa.58
Vaccari, C. y Chadwick, A. (2020). Deepfakes and disinformation: Exploring the impact of synthetic political media on democratic processes. Social Media + Society, 6(1), 1-13. https://doi.org/10.1177/2056305120903408
Vasist, P. N. y Krishnan, S. (2022). Deepfakes: An integrative review of the literature and an agenda for future research. Communications of the Association for Information Systems, 51, 1436-1473. https://doi.org/10.17705/1CAIS.05126
Westerlund, M. (2019). The emergence of deepfake technology: A review. Technology Innovation Management Review, 9(11), 39-52. https://doi.org/10.22215/timreview/1282
Whittaker, L., Mulcahy, R., Letheren, K., Kietzmann, J. y Pitt, L. (2023). Mapping the deepfake landscape for innovation: A multidisciplinary systematic review and future research agenda. Technovation, 126. https://doi.org/10.1016/j.technovation.2023.102735
Yamaguchi, Y., Hashimoto, C. y Uchino, H. (2025). Fact-checking generative AI in the classroom: Wikipedia, Grok, and the redefinition of critical AI literacy in Japanese higher education based on a 2023 Instructional Practice. En T. Bastiaens (Ed.) Proceedings of EdMedia + Innovate Learning (pp. 526-532). Association for the Advancement of Computing in Education (AACE). https://www.learntechlib.org/primary/p/226182/
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2026 Marta Sánchez-Hunt, Estefanía Cestino González, Aránzazu Román-San-Miguel
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial-SinDerivadas 4.0.
