Calidad web en medios digitales: revisión bibliográfica sobre métodos e indicadores de evaluación general y atributos de confianza


Universitat Pompeu Fabra / Universidad de Chile, España y Chile
Universitat Pompeu Fabra, España

Resumen

Introducción: En el contexto de la pérdida de confianza hacia los contenidos en internet, la desinformación, las noticias falsas y la crisis financiera que afecta a la prensa a escala global, se revisan los estudios que proponen instrumentos dedicados a evaluar los sitios web de los medios digitales. Objetivos: Identificar y caracterizar los trabajos focalizados en el análisis de cibermedios, examinar sus métodos e indicadores, y revisar si estos consideran atributos de fiabilidad. Metodología: Se examina la producción científica sobre calidad web mediante una revisión bibliográfica sistematizada sobre 83 publicaciones recuperadas desde las principales bases de datos. También se detectan parámetros de calidad en general y menciones a aspectos web con implicaciones éticas o sociales. Resultados y discusión: Se constata que las herramientas específicas para medir la calidad web de los medios digitales son escasas y que entre los métodos de evaluación predomina el análisis experto mediante inspección heurística por sobre los estudios de usuario. El parámetro más estudiado es la interactividad, entendida como espacio de participación, seguida por la usabilidad o facilidad de uso, la arquitectura de información y el contenido, entre otros. Además, se detectan muy pocas menciones a asuntos deontológicos –como enlaces engañosos, protección de datos o corrección de informaciones– y casi nulas referencias a directrices, estándares y políticas internacionales. Conclusiones: Numerosos trabajos abordan indicadores específicos de los medios digitales, pero existen pocos protocolos de análisis para los sitios web que los sustentan. Hay un amplio margen de mejora en los estudios de la calidad web en cibermedios, en cuanto a considerar no solo asuntos técnicos sino también parámetros propios del rigor periodístico y la credibilidad informativa.

PALABRAS CLAVE: Calidad web; medios digitales; cibermedios; sitios web; métodos de evaluación; confiabilidad, desinformación.

Website quality in digital media: literature review on general evaluation methods and indicators and reliability attributes

Introduction: In the context of the loss of confidence towards Internet content, misinformation, fake news and the financial crisis affecting the press globally, the studies that propose instruments dedicated to evaluating digital media websites are reviewed. Objectives: Identify and characterize the works focused on digital media, examine their methodologies and indicators, and check if they consider reliability attributes among them. Methodology: Scientific production on web quality is examined through a systematic review on 83 articles retrieved from the main databases, detecting parameters of web quality in general, and mentions of web aspects with ethical or social implications. Results and discussion: As part of the findings, it has been found that specific tools for the evaluation of digital media are scarce and that among the evaluation methods, expert analysis through heuristic inspection predominates over user studies. The most studied parameter is interactivity, understood as a space for participation, followed by usability, accessibility and personalization, among others. In addition, there are very few references to deontological matters and almost no references to international guidelines, standards and policies. Conclusions: Numerous studies address specific indicators of digital media, but there are few analysis protocols for websites that support them. There is, therefore, a wide margin of improvement in the studies of website quality in digital media, incorporating not only technical issues but also considering parameters of journalistic rigor and informative credibility.

KEYWORDS: Website quality; digital media; websites; evaluation methods; reliability; trustfulness; misinformation.

Este trabajo forma parte del proyecto “Narración interactiva y visibilidad digital en el documental interactivo y el periodismo estructurado”. RTI2018-095714-B-C21 (MICINN/FEDER), Ministerio de Ciencia, Innovación y Universidades (España). Inicio: 01/01/2019. Término: 31/12/2021

También cuenta con el apoyo de la Agencia Nacional de Investigación y Desarrollo (ANID) de Chile, a través del programa Becas Chile para Doctorado en el Extranjero. Inicio: 15/10/2017. Término: 15/10/2021

Cómo citar este artículo / Referencia normalizada

Morales-Vargas, A., Pedraza-Jiménez, R. y Codina, L. (2022). Calidad web en medios digitales: revisión bibliográfica sobre métodos e indicadores de evaluación general y atributos de confianza. Revista Latina de Comunicación Social, 80, 39-63. https://www.doi.org/10.4185/RLCS-2022-1515

Keywords

Website quality, digital media, websites, evaluation methods, reliability, trustfulness, misinformation

CONTENIDO

1. Introducción. 2. Metodología. 3. Resultados y discusión. 3.1. Estudios y casos 3.2. Protocolos de análisis 3.3. Métodos y herramientas 3.4. Parámetros e indicadores 3.5. Atributos de confianza 4. Conclusiones. 5. Referencias 6. Currículum Vitae

Introducción

A más de tres décadas desde la invención de la web, esta es hoy el espacio de comunicación más utilizado del mundo (Internet Live Stats, 2021). Mientras el uso de los medios tradicionales como fuente informativa ha decrecido en los últimos años a escala global, en sus versiones digitales se mantiene o aumenta. De hecho, tanto el consumo de prensa online como de redes sociales se ha incrementado sustancialmente en la mayoría de los países, según el Digital News Report (Newman et al., 2021). La versión 2021 de este informe del Reuters Institute añade que más de un 80% de los usuarios lee noticias en línea y casi tres cuartas partes lo hace a través de un teléfono móvil inteligente.

Ahora bien, de acuerdo con este mismo informe, si ya existía inquietud por el fenómeno de la desinformación, con la aparición de la pandemia de la COVID-19 esta ha crecido. Un 58% de los encuestados siente preocupación con respecto a qué noticias son verdaderas y cuáles informaciones son engañosas en internet (Newman et al., 2021).

Ello ha redoblado la necesidad de un periodismo riguroso y confiable, que pueda tanto informar como educar, dado lo permeables que somos a la desinformación. El mismo reporte, pero de 2018, indica que la mayoría de las personas opinan que son los directivos de los sitios web de noticias (75%) y de las plataformas sociales (71%) quienes tienen la mayor responsabilidad de solucionar el problema de las fake news o noticias falsas (Newman et al., 2018).

Por ello, es relevante que los sitios web de la prensa digital, los llamados cibermedios (Díaz Noci y Salaverría, 2003), apliquen criterios de calidad no solo en su contenido periodístico y estándares informativos (Rivas-de-Roca et al., 2020; Romero-Rodríguez et al., 2016), sino también en la organización, navegación, diseño visual y facilidad de uso de su interfaz. La razón es que estos aspectos son decisivos tanto en la credibilidad del sitio como en la visibilidad de las noticias.

Frente a esta preocupación, podemos encontrar respuestas en la práctica que se ocupa de la evaluación de la calidad web, la que apareció con el surgimiento de los sitios web y que con los años se ha convertido en un importante e interdisciplinario campo de estudio. Es así como, tanto desde el ámbito académico como el profesional, se han generado numerosas propuestas para el análisis de los sitios web, expresadas en publicaciones científicas y documentos de orden más técnico orientados hacia la industria. Por ejemplo, Morales-Vargas et al. (2020) y Rekik et al. (2018) presentan sendas revisiones con más de 700 y 500 de estos trabajos sobre calidad web, respectivamente.

Los primeros estudios surgieron de cara a evaluar la usabilidad o medida de eficacia, eficiencia y satisfacción (Nielsen, 2000) y, más recientemente, la experiencia de usuario (Garrett, 2011). Estas consideran la aplicación de testeos experimentales (Rubin y Chisnell, 2008) y métodos cuantitativos provenientes de la estadística (Sauro, 2010; Sauro y Lewis, 2012) y las métricas (Tullis y Albert, 2013). De igual modo, existe una segunda vertiente cuyos métodos se centran en el análisis de profesionales expertos. Sus reportes pueden tomar la forma de estándares (Bevan, 2005), reglas (Shneiderman, 2016), directrices (Leavitt y Shneiderman, 2006), principios (Tognazzini, 2014), heurísticas (Nielsen, 2020) o recomendaciones (Krug, 2014), entre otros.

Por otra parte, estas herramientas pueden ser de uso general, vale decir, que sirven para evaluar cualquier tipo de sitio (Codina, 2008); o corresponder a análisis sectoriales, que están especializados en un sector concreto. Tal es el caso del comercio electrónico, la educación, la sanidad, el gobierno, el turismo o los medios de comunicación (Pedraza-Jiménez et al., 2016).

Ejemplos de estos últimos instrumentos de evaluación de calidad web focalizados en cibermedios encontramos en trabajos pioneros como los de Abdullah y Wei (2008), basado en heurísticas de usabilidad; Zambarbieri et al. (2008), que aplica la técnica de eyetracking o seguimiento ocular; Rodríguez-Martínez et al. (2010), análisis experto destinado a analizar la adopción de la Web 2.0; Al-Radaideh et al. (2011), sustentado en el estudio de usuarios; Chung et al. (2012), sobre la base de encuestas; o el protocolo de análisis de contenidos propuesto por Martins (2012).

La presente investigación apunta precisamente a examinar este tipo de estudios. Busca, de manera general, caracterizar la literatura sobre la evaluación de la calidad web especializada en el sector mediático o aquel relativo a la prensa digital. Ello, con el objetivo de identificar sus diferentes metodologías e instrumentos y conocer sus principales autores.

Y de forma particular, este trabajo pone especial atención en los atributos de calidad web (Hasan y Abuelrub, 2011; Olsina et al., 2006) que consideran estas herramientas y el grado de automatización con que se aplican. También si contemplan entre sus parámetros e indicadores específicos referencias a políticas internacionales de tecnología y comunicación, como los indicadores de universalidad de internet de la Unesco (2019), el reglamento general de protección de datos de la Unión Europea (2016) y otras directrices de calidad informativa.

Además, se plantea conocer si estos instrumentos toman en cuenta aspectos éticos y sociales donde la interfaz web tiene implicaciones, tales como: clickbait o titulares engañosos (García Orosa et al., 2017), privacidad de la información, rendición de cuentas (Mauri-Ríos y Ramon-Vegas, 2015), separación entre publicidad y contenido periodístico (Chung et al., 2012), venta de enlaces patrocinados (Lopezosa et al., 2019), declaración de fuentes de financiación, firma de los periodistas (The Trust Project, 2020), derechos de autor, y protección de la infancia (García de Torres y Farmer, 2017), entre otros.

Todos estos asuntos cobran gran relevancia en estos momentos en que existe una pérdida de credibilidad en los contenidos de internet debido a la proliferación de bulos, noticias falsas y desórdenes informativos (Guallar et al., 2020), acentuados en tiempos del coronavirus (Salaverría et al., 2020). Y en momentos en que la industria de los medios de comunicación pasa por una crisis de financiación en busca de nuevas fuentes de ingresos (Carvajal y Valero Pastor, 2018). Es en este contexto donde la evaluación de la calidad web en cibermedios surge como una disciplina que puede aportar un conjunto de herramientas de gran utilidad. Bajo esa hipótesis, este trabajo presenta una revisión y caracterización de los estudios existentes, los instrumentos que proponen y los principales indicadores que contemplan.

Metodología

Para el cumplimiento del objetivo descrito se utilizaron los principios de la revisión bibliográfica con aproximación sistemática (Booth et al., 2016). Específicamente para conformar el banco de documentos se empleó una revisión llevada a cabo con bases de datos académicas y un mapeo sistemático (Gough et al., 2017). Y como protocolo general para el análisis se aplicó el framework o marco de trabajo SALSA (Codina, 2018; Grant y Booth, 2009).

En primer lugar se definió la evaluación de calidad en sitios web de medios digitales como objeto de estudio. En cuanto al periodo de análisis, fue el comprendido entre 2000 y 2020. Como ecuación de búsqueda (Tabla 1) se escogieron los términos más comúnmente usados en la bibliografía, tanto en inglés como en castellano.

Estos se aplicaron sobre los campos de título, resumen y palabra clave de la colección principal de Web of Science (WoS) y Scopus, las bases de datos académicas multidisciplinarias más importantes. También se consultaron otras especializadas en el campo de la comunicación y las ciencias de la información, como la colección LISTA (Library, Information Science & Technology Abstracts) de EBSCO Host o Emerald Insight, junto a los recursos de información Dialnet Plus, SciELO, Microsoft Academic y Dimensions.

Table 1: Ecuaciones de búsqueda aplicadas en las bases de datos académicas.

["online news" OR "digital media" OR "online newspaper" OR "online media" OR "news website"] AND [quality] AND [assessment OR assess OR assessing OR assurance OR evaluation OR evaluating OR evaluate OR analysis OR index OR heuristic OR standard OR guideline]

[evaluación OR análisis OR "sistema de análisis" OR índice OR protocolo OR pauta OR guía OR heurística ORestándar OR directriz] AND [calidad] AND ["medio digital" OR cibermedio OR "diario electrónico" OR "periódico electrónico" OR "diario digital" OR "periódico digital" OR "prensa digital" OR "noticia en línea"]

Por su amplia cobertura (Martín-Martín et al., 2018), y por incluir no solo artículos de revistas, sino también libros y otros documentos técnicos (Thelwall y Kousha, 2015) –altamente demandados en el ámbito profesional del desarrollo y diseño web–, se usó también el motor de búsqueda Google Académico. Desde allí se extrajeron además las citas recibidas por cada texto a agosto de 2021.

Como criterio de inclusión se consideró los documentos sobre calidad web en cibermedios publicados desde el año 2000. Se excluyeron, a su vez, los estudios basados solamente en estadísticas de visita o analítica web, documentos referidos únicamente a aplicaciones (Apps), e investigaciones centradas solo en los efectos o la psicología del usuario.

En la etapa de evaluación, los 532 trabajos recuperados se revisaron manualmente, examinando sus títulos y resúmenes, con el objetivo de verificar si se ajustaban con estos criterios. Con ello se redujo el alto ruido documental detectado y se descartaron falsos positivos. A continuación, en la fase de análisis se conformó un banco de 83 documentos, cuya información recogida se complementó con indicadores específicos sobre impacto y afiliación –esta última, recogida a partir de la unidad académica declarada por cada autor–, y se sistematizó en tres áreas referentes a datos de la publicación, los autores y el contenido (Tabla 2), a partir de la propuesta de análisis de la producción científica en medios digitales de Abadal y Guallar (2018).

Table 2: Resumen de las características observadas en las publicaciones.

Publicación

Autores

Contenido

• Campos de información bibliográfica: año, título, formato, idioma, entre otras. • Indicadores de impacto: citas recibidas en Google Académico.

• Ámbito de origen: académico, profesional o normativo. • Disciplina o área del conocimiento y país, según la afiliación declarada.

• Factores de calidad web considerados. • Métodos y técnicas. • Instrumentos y herramientas. • Atributos de confianza.

Con esa información, se realizó un análisis comparativo de las diferentes disciplinas o áreas del conocimiento que abordan la materia, a partir de dimensionar la presencia de las facultades o departamentos de comunicación. Entre los trabajos referidos a la calidad en el sector mediático se identificaron 22 textos planteados como propuesta de protocolo de evaluación general de cibermedios. En estos se analizó además su metodología, modo de aplicación y se sistematizaron los indicadores considerados como atributos de calidad web. Finalmente, se buscaron citas a estándares y políticas de tecnología y comunicación internacionales, así como la presencia o no en los criterios de análisis de aspectos de implicación ética, deontológica y social descritos en la introducción.

Resultados y discusión

Entre los principales hallazgos se detecta que la producción científica sobre calidad web específica sobre el sector mediático o dedicado a la prensa digital presenta un moderado pero constante crecimiento las últimas dos décadas. Se observa una mayor concentración a partir del 2009 y destaca el año 2012 con diez publicaciones.

El total de trabajos pertenece al ámbito académico y, respecto al idioma de publicación, el banco de documentos lo conforman 50 en español, 31 en inglés y dos en portugués. En lo referente al formato, los artículos de revistas científicas son, con mucho, los que predominan, con la excepción de seis actas de congreso, cinco informes y cuatro tesis doctorales.

Según el análisis de la afiliación declarada, se identificó que un 53% de los textos dedicados a cibermedios se generaron en universidades españolas. Siete se generaron en Estados Unidos, al que le siguen Reino Unido, Canadá, Brasil y Venezuela, con tres cada uno. También se hallaron trabajos de Austria, Ecuador, Italia, Malasia y otros ocho países.

A través de la sistematización de los nombres de escuelas, facultades o departamentos se pudo establecer que, del total de artículos revisados sobre calidad web en cibermedios, más de la mitad provienen del dominio de la comunicación (58%). Le siguen los negocios –economía, administración, marketing y comercio– con un 15%, las ciencias de la computación –informática y programación– con un 13%, la biblioteconomía y documentación –ciencias de la información– con un 12%, y un 2% que proviene de otras disciplinas.

Del total de trabajos analizados sobre calidad web en medios digitales, diez corresponden a artículos de revisión de aspectos teóricos o metodológicos sobre el análisis de cibermedios y nueve son estudios de caso aplicados a la prensa en internet. A su vez, 22 de los textos proponen un protocolo especializado en la evaluación de sitios web de medios digitales, con una metodología y un conjunto de indicadores explicados, con el fin de facilitar su aplicación. Finalmente, 40 trabajos presentan investigaciones centradas en el análisis de un parámetro en particular, como por ejemplo la participación, la usabilidad o el uso de multimedia.

Estudios y casos

La importancia de la interfaz web para los medios digitales es abordada en textos señeros sobre el estudio del periodismo digital (Salaverría, 2019). En su tipología de los cibermedios, Palacios y Díaz Noci (2009) proponen como primer punto de análisis el grado de desarrollo de los sitios y las acciones que pueden ejecutar los usuarios. Estas últimas son entendidas como el dinamismo o adaptación a la frecuencia de actualización, la interactividad (Cebrián-Herreros, 2009; Abadal y Guallar, 2018), la hipertextualidad y la multimedialidad (Masip et al., 2010).

De igual modo, Salaverría (2017) considera como primer factor tipológico al dispositivo con el cual se accede al cibermedio, y distingue aquellos formulados para la web, para tabletas, para móviles (Serm et al., 2006) y los multiplataforma o convergentes (Cabrera González, 2010). De ahí que otro factor a considerar previo al análisis es si el medio es “nativo digital” o proviene del proceso de convergencia desde otros soportes, impulsado por la evolución tecnológica.

Y una última dimensión a tener en cuenta a la hora de diseñar una evaluación de la calidad web de los cibermedios es su alcance. Entre los trabajos analizados encontramos tanto directrices para medios globales, como la BBC (Anderson y Egglestone, 2012); así como estudios de casos específicos sobre medios locales, como el diario VilaWeb, el primero de España sin referentes previos en papel (Iglesias-García y González-Díaz, 2012).

También investigaciones que comparan entre sí la prensa digital a escala continental, como en América Latina (Said-Hung y Arcila-Calderón, 2011b) o dentro de un mismo país, como es el caso de periódicos electrónicos iranís (Jowkar y Didegah, 2010), los portales de noticias malayos (Abdullah y Wei, 2008), o los cibermedios ecuatorianos (Odriozola Chéné et al., 2017), portugueses (Nunes et al., 2007) y venezolanos (Mogollón et al., 2006), entre otros. También los correspondientes a una región en particular, como los medios digitales de la Comunidad Valenciana en España (López García, 2008), o de los estados de São Paulo en Brasil (Rosa y Veras, 2013) o de Chihuahua en México (Salas Hernández et al., 2018).

Protocolos de análisis

Encontramos también trabajos que tienen por objetivo ofrecer modelos o sistemas para evaluar la calidad web de los medios digitales, con explicaciones metodológicas destinadas a que los puedan aplicar sus propios responsables u otros investigadores. La Tabla 3 presenta los protocolos de análisis para cibermedios con mayor cantidad de citas recibidas en Google Académico.

La lista la encabeza el trabajo de Rodríguez-Martínez et al. (2010), con un sistema de análisis con énfasis en la Web 2.0 y que es aplicado por otros seis estudios: Said-Hung y Arcila-Calderón (2011a, 2011b); Hernández Soriano y Cristóbal Fransi (2014a); Díaz-Campo (2014); Rodríguez-Martínez et al. (2012); y Salas Hernández et al. (2018).

A su vez, el protocolo de evaluación propuesto por Codina (2008) –cuya primera versión se remonta a 2000–, es aplicado, entre otros, en los estudios de Salaverría et al., (2004) sobre los periódicos vascos y navarros; o en el de Hernández Soriano y Cristóbal Fransi (2014b) en que también analizan VilaWeb. Incluso inspira o sirve de base para la generación de otros dos instrumentos específicos: el sistema de análisis de interactividad, buscabilidad y visibilidad de Linares, Codina, Vàllez, et al. (2016) y la escala de medición de la calidad percibida en cibermedios denominada e-SQ-Media (Hernández Soriano, 2015). Este último trabajo es el primero en hacer converger en un mismo modelo el estudio de los cibermedios y la calidad percibida, pues identifica los aspectos más exitosos en las diversas aplicaciones de ambos campos (Cristóbal Fransi et al., 2017).

Junto con el Sistema Articulado de Análisis de Cibermedios, SAAC (Codina et al., 2014), son las únicas herramientas diseñadas para evaluar integralmente la calidad de un medio digital, sin poner el foco en un parámetro en particular sobre otros, como en el resto de los trabajos. Difieren, eso sí, en el método empleado. Mientras e-SQ-Media se basa en la percepción de los usuarios, SAAC responde a la evaluación de profesionales.

Métodos y herramientas

La dicotomía entre los análisis expertos y los estudios de experiencia de usuario (UX) se evidencia en las investigaciones examinadas sobre calidad web en cibermedios. Al analizar sus métodos de aplicación (Gráfico 1), se detecta que más de la mitad corresponde al primer grupo y proponen inspecciones para ser aplicadas por investigadores especializados o profesionales con experiencia en el desarrollo de sitios web (Pribeanu, 2009; Usability.gov, 2013).

Table 3: Protocolos de análisis de cibermedios con más citas en Google Académico (GA).

Autores y año

Título

GA

Rodríguez-Martínez et al. (2010)

Cibermedios y web 2.0: modelo de análisis y resultados de aplicación

193

Rodríguez-Martínez et al. (2012)

Indicadores para la evaluación de la calidad en cibermedios: análisis de la interacción y de la adopción de la Web 2.0

139

Fondevila Gascón (2014)

El uso de hipertexto, multimedia e interactividad en periodismo digital: propuesta metodológica de ranking de calidad

76

Romero-Rodríguez et al. (2016)

Dimensiones e indicadores de la calidad informativa en los medios digitales

54

Aranyi y van Schaik (2016)

Testing a model of user-experience with news websites

52

Codina et al. (2014)

Sistema Articulado de Análisis de Cibermedios (SAAC): Una propuesta sobre el qué y el cómo para estudiar medios de comunicación digitales

44

García-Carretero, Codina, Díaz-Noci, et al. (2016)

Herramientas e indicadores SEO: características y aplicación para análisis de cibermedios

33

Aguirre Mayorga y Bernal Suárez, (2014)

Contenidos periodísticos digitales: hacia un modelo de medición de calidad

26

Sánchez-González y Alonso (2012)

Propuesta metodológica para el análisis de las tecnologías de participación en cibermedios

26

Al-Radaideh et al., (2011)

Usability evaluation of online news websites: a user perspective approach

24

Linares et al. (2016)

Interactividad, buscabilidad y visibilidad en cibermedios: sistema de análisis y resultados

15

Cristóbal Fransi et al. (2017)

Critical factors in the evaluation of online media: creation and implementation of a measurement scale (e-SQ-Media)

11

Limia Fernández et al. (2013)

Interactividad y participación en los cibermedios: una propuesta metodológica para la elaboración, registro y análisis de datos

11

Linares et al. (2015)

Interactividad en cibermedios: Propuesta nuclear de protocolo de análisis

11

García-Carretero, Codina y Pedraza- Jiménez (2016)

Indicadores para el estudio de la visibilidad y del impacto de los cibermedios en el ecosistema digital: mapeo y caracterización de herramientas de análisis SEO online

10

Sanabre Vives (2015)

Un modelo para el análisis y concepción de sitios web: El WebSite Canvas Model aplicado a Eldiario.es

6

Hernández Soriano (2015)

E-SQ-Media, creación e implementación de una escala de medición de la calidad percibida en cibermedios

4

https://typeset-prod-media-server.s3.amazonaws.com/article_uploads/c1a11b8a-3a6b-47e2-a090-1e5a7523c4d3/image/21e2842c-6387-4d9c-b008-d58896803524-u39-63-grxe1f-1.jpg
Figure 1: Métodos de evaluación de calidad web presentes en los trabajos analizados.

Entre las técnicas y herramientas más utilizadas (Tabla 4) en este método encontramos la evaluación heurística, el análisis de contenido, las listas o preguntas de chequeo, los índices y los sistemas articulados, entre otros. Por su parte, los estudios de usuarios detectados se sustentan principalmente en encuestas, cuestionarios de satisfacción, pruebas de usabilidad, experimentos, entrevistas, test A/B, seguimiento de tareas y técnicas como el think aloud en que las personas van “pensando en voz alta” y narrando sus impresiones mientras navegan un sitio web y utilizan sus funciones.

Es frecuente que también se empleen técnicas mixtas que combinan pruebas de usabilidad con estudios de percepción. En estos se aplican cuestionarios donde los usuarios responden posteriormente sobre su valoración acerca de la eficacia, eficiencia y satisfacción frente a los medios de comunicación en internet, para luego ponderarlos mediante modelos matemáticos con múltiples factores, como el formulado por Cristóbal-Fransi et al. (2017).

Solamente cuatro de los estudios están basados en experimentación directa con usuarios: Zambarbieri et al. (2008) utilizan el método de rastreo ocular en la lectura (eye tracking) aplicado a periódicos italianos; Aranyi et al., (2012) basan su trabajo en pruebas psicométricas en sitios de noticias; mientras que Yu y Kong (2016) realizan test A/B sobre navegación web en pantallas pequeñas.

Por su parte, O’Brien y Lebow (2013), proponen una combinación de técnicas de observación y de respuesta a estímulos. Entre los métodos considerados incluyeron escalas psicométricas – participación del usuario, absorción cognitiva, escalas de usabilidad del sistema–, el interés autoinformado en el contenido de las noticias y métricas de rendimiento –tiempo de lectura, tiempo de navegación, número de páginas visitadas y uso de los enlaces recomendados–; y las reacciones fisiológicas –frecuencia cardíaca, actividad electrodérmica y electrocitograma– registradas durante la interacción.

También cabe mencionar la presencia de tres trabajos sobre inspecciones automatizadas mediante métodos computacionales o de inteligencia artificial. Di Massa et al. (2010) utilizan el procesamiento del lenguaje natural para generar un sistema de recomendación de noticias basado en modelos de interés de los usuarios y análisis de contenido multimodal.

Table 4: Herramientas metodológicas presentes en los trabajos de calidad web en cibermedios

Técnicas

Instrumentos

Evaluación heurística

27

Preguntas de chequeo

9

Encuesta

11

Cuestionario de satisfacción

5

Pruebas de usabilidad

7

Escala de puntuación

4

Análisis de contenido

5

Índice

4

Entrevista

5

Escala psicométrica

3

Think aloud

3

Test A/B

2

Procesamiento del lenguaje natural (PLN)

2

Baremos

1

Análisis de correspondencias

1

Eyectracking

1

Aprendizaje automático supervisado

1

Heurístico

1

Aprendizaje profundo (deep learning)

1

Índices SEO

1

Design thinking

1

Conteo de clics

1

Diseño centrado en el usuario

1

Tiempo por tarea

1

Estímulos experimentales

1

Técnica mixta

1

Modelos

Software

Sistemas articulados

11

Alexa

14

SAAC

6

Moz

4

e-SQ-Media

3

Majestic

3

WCAG 2.0

3

Ahrefs

2

eWOM

1

SEMrush

2

WebSite Canvas Model

1

eXaminator

1

Similar Web

1

Sistrix

1

WebXACT

1

Asimismo, Omidvar et al. (2020) usan el deep learning o aprendizaje profundo para determinar la calidad de los titulares de las noticias publicadas mediante el recuento de clics y el tiempo de permanencia de los visitantes, con el objetivo de predecir los titulares que mejor invitan a la lectura. Por otro lado, Scharkow (2013) analiza el contenido de los cibermedios alemanes a través de técnicas de machine learning, concretamente algoritmos de aprendizaje automático supervisado.

Finalmente, destaca la utilización de instrumentos para medir atributos específicos, como son los casos de las guías WCAG 2.0 o WebXACT para evaluar la accesibilidad web. También de softwares especializados, como Alexa y Similar Web para medir el tráfico web, o Ahrefs, Majestic SEO, Moz, SEMrush o Sistrix, para dimensionar la visibilidad y el posicionamiento web de los cibermedios (García-Carretero, Codina, y Pedraza-Jiménez, 2016).

Parámetros e indicadores

Un factor en común en casi todas las publicaciones que plantean protocolos de evaluación de la calidad web en medios digitales es que se organizan en parámetros (Tabla 5) e indicadores. Los primeros son características conceptuales y responden a la pregunta sobre qué queremos estudiar. Los segundos, a cómo vamos a hacer el estudio. Son los elementos de análisis y permiten “operacionalizar” los parámetros. Su presencia puede ser verificada a través de una inspección mediante listas o preguntas de chequeo (Codina et al., 2014).

Table 5: Parámetros de calidad web en los protocolos de evaluación de cibermedios más citados

Trabajo

Parámetros

Rodríguez-Martínez et al. (2010)

Accesibilidad; Visibilidad y popularidad; Acceso a la información; Profundización en la información; Herramientas de interacción; Personalización de la información; Herramientas Web 2.0; Difusión en redes sociales

Rodríguez-Martínez et al. (2012)

Interacción; Participación; Acceso al contenido; Personalización; Versiones; Herramientas Web 2.0; Plataformas Web 2.0

Fondevila Gascón (2014)

Hipertextualidad; Texto; Fotografía; Vídeo; Audio; Infografía; Comentarios en el foro; Entrevistas online

Romero-Rodríguez et al. (2016)

Ámbitos empresariales; Ámbitos socio-laborales de los trabajadores; Ámbitos de contenido informativo y producto final

Aranyi y van Schaik (2016)

Impresión; Contenido; Diseño; Arquitectura de la información; Distracción

García-Carretero, Codina, Díaz-Noci et al. (2016)

Authority (Moz); Trust Flow (Majestic); Citation Flow (Majestic); Global Rank (Ahrefs); URL Rating (Ahrefs); Domain Rating (Ahrefs); Global Rank (Alexa); Local Rank (Alexa)

Aguirre Mayorga y Bernal Suárez (2014)

Agenda informativa; Profundidad en el manejo de la información y documentación; Diversificación en el uso de géneros periodísticos; Multimedialidad; Interactividad; Hipertextualidad

Al-Radaideh et al., (2011)

Usabilidad; Contenido; Diseño web

Limia Fernández et al. (2013)

Personalización; Web 1.0; Web 2.0; Redes sociales

Linares et al. (2015)

Relación cibermedio-usuario; Contenidos generados por usuarios; Buscabilidad y Navegación

Hernández Soriano (2015); Cristóbal Fransi et al. (2017)

Eficiencia; Disponibilidad del sistema; Confiabilidad y privacidad; Interacción; Calidad percibida; Satisfacción del usuario; Lealtad del usuario

Sanabre Vives (2015)

Socios tecnológicos; Socios de contenido; Actividades clave; Recursos clave; Propuesta de valor; Segmentos de clientes; Relación con los clientes; Canal; Flujo de ingresos; Estructura de costes; Benchmarking; Debilidades de la competencia; Social, local y móvil

Entre más de 170 parámetros e indicadores distintos presentes en los trabajos examinados (Gráfico 2), hay algunos que concitan una atención especial entre los autores, quienes formulan protocolos específicos para su análisis. El más estudiado es el de la interactividad e interacción (Cebrián- Herreros, 2009; Linares et al., 2015) como factor determinante en la calidad de los medios digitales (Hernández Soriano y Cristóbal Fransi, 2016). Además del muy citado sistema para medir la adopción de la Web 2.0 (Rodríguez-Martínez et al., 2012), Linares et al. (2015) proponen otro basado en la relación cibermedio-usuario, los contenidos generados por estos últimos, y la buscabilidad y la navegación.

Muy ligado al anterior está el indicador de la participación (Eberwein, 2019; Ksiazek, 2018), donde también encontramos propuestas destinadas a su estudio en particular: Sánchez-González y Alonso (2012) se centran en el análisis de las tecnologías, mientras que Limia Fernández et al. (2013) desarrollan un método para la elaboración, registro y análisis de datos sobre los procesos de interacción y participación en medios digitales.

https://typeset-prod-media-server.s3.amazonaws.com/article_uploads/c1a11b8a-3a6b-47e2-a090-1e5a7523c4d3/image/448ee634-260e-42ef-be4a-7f6e6b6679a5-u39-63-grxe1f-2.jpg
Figure 2: Indicadores de calidad web en cibermedios con más menciones en los trabajos analizados

La usabilidad (Bevan, 2005; ISO, 2018; Nielsen, 2000) como medida de eficacia, eficiencia y satisfacción de los usuarios también es ampliamente abordada, tanto en sitios web de periódicos digitales (Al-Radaideh et al., 2011; Mariage y Vanderdonckt, 2001; Rosa y Veras, 2013) como en dispositivos móviles (Jeong y Jung Han, 2012; Jiménez Iglesias, 2018). Lo propio ocurre con el acceso universal o accesibilidad (Salas Hernández et al., 2018) y la personalización.

De igual modo, la experiencia de usuario (Garrett, 2011) cuenta con trabajos específicos como los de Flavián y Gurrea (2006a, 2006b, 2007), quienes desarrollan una línea de investigación en torno a influencia de los atributos de calidad web en los lectores a la hora de elegir un diario en internet. Rabaya Toma et al. (2018), a su vez, exploran la satisfacción en la lectura y su impacto en la posterior intención de los usuarios en volver a visitar el sitio o recomendarlo.

Otro parámetro analizado es la arquitectura de información (Rosenfeld et al., 2015), con gran número de menciones a indicadores como la navegación, la organización de los contenidos y el acceso a la información, así como el propio diseño gráfico de la interfaz. No obstante, no se detectan protocolos específicos para su análisis.

Y, por supuesto, el contenido también ocupa un lugar destacado, con la profundidad de las informaciones, la fiabilidad y la credibilidad –detalladas en el apartado siguiente–. También con atributos propios de los medios digitales, como la multimedialidad (Guallar et al., 2010) y la hipertextualidad (Fondevila Gascón, 2014; Masip et al., 2010), incluyendo indicadores especiales como la infografía interactiva (Langer y Zeiller, 2017; Túñez López y Nogueira, 2017), la transmisión de video en directo a través de plataformas sociales (Apablaza-Campos et al., 2020; Apablaza-Campos y Codina, 2018) y el análisis de la temporalidad (Freixa, 2020).

Por otra parte, cabe mencionar además los indicadores de impacto, como la experiencia de búsqueda (Lopezosa, Iglesias-García, et al., 2020); el posicionamiento web (Lopezosa, Codina, et al., 2020;

Lopezosa y Codina, 2018); el tráfico (Jowkar y Didegah, 2010); y la visibilidad en internet (García- Carretero, Codina, y Pedraza-Jiménez, 2016; García-Carretero, Codina, Díaz-Noci, et al., 2016; Linares, Codina, Vàllez, et al., 2016), donde los autores realizan un mapeo y caracterización de herramientas e indicadores de optimización para buscadores o SEO –search engine optimization–. En la misma línea, Lopezosa, García-Carretero, et al. (2020) presentan el sistema de análisis de la visibilidad en cibermedios denominado AVCIS, al tiempo que García-Carretero et al. (2020) plantean una metodología especializada para medios nativos digitales.

El factor estratégico o de rendimiento frente a la audiencia es abordado también por Sanabre Vives (2015) en el WebSite Canvas Model con que evalúa el medio español Eldiario.es como estudio de caso. Finalmente, es único el framework o marco de trabajo propuesto por Serm et al. (2006), que de forma pionera, aborda las tareas para desarrollar y evaluar cibermedios en dispositivos móviles.

Atributos de confianza

Por otra parte, son menos numerosas las referencias detectadas a atributos de confianza o asuntos de implicación ética y social. Ello a pesar de que en la credibilidad de las noticias influyen tanto factores tradicionales del rigor periodístico como aspectos tecnológicos, en los cuales el sitio web del medio es determinante.

En concreto, en su investigación Chung et al. (2012) demuestran empíricamente las relaciones entre las características tecnológicas de los cibermedios –como la hipertextualidad de fuentes diversas en las noticias en línea– y las posteriores evaluaciones de credibilidad. A su vez, Martín-Sanromán et al. (2019) señalan, por ejemplo, que prácticas como los enlaces engañosos –clicbait– o la publicidad invasiva en un diario online hacen pensar que son diseños orientados más al anunciante o al propio medio, que al lector.

Entre las menciones encontradas, Rodríguez-Martínez et al. (2012) identifican como un valor si se menciona al periodista autor de la noticia y si existe algún correo electrónico de contacto con este o con la redacción. Del mismo modo, señalan como algo positivo si usuario puede sugerir correcciones o modificaciones en el contenido publicado por el medio.

En la misma línea, Salaverría et al. (2004) valoran también la opción de reportar errores en la información por parte de los lectores. Al igual que Linares et al. (2016), quienes añaden el atributo de la confidencialidad, entendida como que el medio de comunicación permita al usuario compartir de forma anónima y segura materiales y mensajes.

A su vez, la protección de datos personales es señalada por Hernández Soriano y Cristóbal Fransi (2014) como un factor para construir confianza en los lectores. Esta también es reforzada con la ética periodística y el estilo de escritura (Hope y Li, 2004), así como con el manejo de la información y la documentación en profundidad (Aguirre Mayorga y Bernal Suárez, 2014).

El estudio que menciona explícitamente estos aspectos éticos es el de Romero-Rodríguez et al., (2016), que alude a la conveniencia de la presencia de códigos y normativas éticas del propio medio. De igual modo, en su protocolo proponen como atributo consignar la información de transparencia y los vínculos e intereses económicos de la empresa. En la misma línea, Martins (2012) plantea un protocolo de calidad para contenidos en el periodismo digital, basado en la medición de la presencia, carga e intensidad de un conjunto de valores en los periódicos digitales.

En los instrumentos de evaluación de calidad web en cibermedios analizados no se detectaron parámetros e indicadores específicos para analizar la veracidad de los titulares o la debida separación entre la publicidad y el contenido periodístico. Tampoco sobre la presencia de espacios para la declaración de intereses, la política de privacidad y protección de datos, la rendición de cuentas o la defensa del lector, entre otros.

De igual modo, no se hallaron referencias a políticas internacionales de tecnología y comunicación, como las de Unesco o la UE, o a proyectos periodísticos internacionales para la evaluación de la credibilidad en las noticias, como el protocolo The Trust Indicators and their Attributes (The Trust Project, 2020). Solamente menciones a estándares técnicos como las guías de accesibilidad del World Wide Web Consortium (W3C).

Conclusiones

Coincidentemente con los trabajos de Rekik et al. (2018) y Morales-Vargas et al. (2020), se detecta que los estudios sobre la calidad web en el sector mediático presentan una tendencia creciente durante los últimos veinte años. En especial en la disciplina de la comunicación están despertando interés por su relación directa con la sostenibilidad de los medios, aunque comparten espacio con otras áreas del conocimiento Ugras et al. (2016).

En esta investigación se han analizado más de ochenta trabajos y detectado una veintena que proponen protocolos específicos para examinar la calidad de los sitios web de los medios digitales. Las metodologías más utilizadas en ellos son el análisis experto mediante evaluación heurística y listas de chequeo –con algunos autores que hacen énfasis en la necesidad de que estas listas no se limiten solo preguntas sino que incorporen procedimientos explícitos de evaluación experta–. Por el contrario, los estudios de usuario y los procedimientos computacionales o automatizados son mucho menos frecuentes. Esto contrasta con otros sectores (Allison et al., 2019) o el ámbito profesional (Rosala y Krause, 2020), donde hay mayor presencia de métodos participativos y experimentales.

Como también señalan Abadal y Guallar (2018), el parámetro más estudiado es la interactividad, especialmente a través de herramientas de la web social y a partir del contenido generado por el usuario. Le sigue la usabilidad y la experiencia de usuario, con indicadores como accesibilidad, personalización, facilidad de uso, eficacia, eficiencia y satisfacción.

La arquitectura de información también es objeto de análisis, con la navegabilidad, la organización y el acceso a la información, así como el diseño de interfaz, entre muchos otros atributos. Al respecto no se detectan instrumentos específicos para su estudio, como sí existen para el análisis de factores estratégicos y de la visibilidad o el posicionamiento en buscadores.

Y desde luego, el contenido también ocupa un lugar destacado. Para su evaluación, los instrumentos especializados consideran el análisis de indicadores tales como la profundidad de las informaciones, la fiabilidad, la multimedialidad y la hipertextualidad.

Sin embargo, entre estos se hallan muy pocas referencias a atributos de confianza, rigor periodístico o asuntos éticos o deontológicos, y en ningún caso se citan políticas de comunicación y tecnología internacionales. Este hecho llama la atención especialmente si se toman en cuenta los últimos años, debido a fenómenos recientes como la desinformación y el que la industria de los medios, y en particular la prensa, afronte una crisis de financiación y credibilidad a escala global.

Esta relativa carencia señala claramente un hueco de investigación. Esta es una de las funciones de las revisiones bibliográficas sistematizadas como herramienta metodológica –como la aplicada en este trabajo–, además de presentar los rasgos más significativos del tema estudiado.

En todo caso, la calidad de sitios web de los medios digitales y sus instrumentos de análisis sectoriales son claramente un campo de estudio emergente, que se vuelve cada vez más especializado y diverso. Una razón probable son los nuevos modelos de negocio de los medios de comunicación, una vez constatada la baja continua en la venta de ejemplares impresos y el descenso de los ingresos publicitarios. Estas dos tendencias hacen cada vez más importantes los estudios sobre el propio soporte digital de los cibermedios.

De este modo, en esta investigación además de proporcionar una visión sobre los aspectos más significativos de la calidad web aplicada a medios de comunicación –que puede ser útil a otros investigadores y a los profesionales de la prensa–, se ha detectado que en el ámbito de la evaluación de cibermedios existe una interesante y amplia oportunidad de trabajos futuros. Más aún en estos tiempos de fake news, donde se refuerza la necesidad de desarrollar instrumentos integrales que no solo consideren indicadores técnicos y estratégicos, sino también de atributos de confianza.