Content validity and reliability of a university food environment assessment instrument

Cien Saude Colet. 2022 Jun;27(6):2385-2396. doi: 10.1590/1413-81232022276.13792021. Epub 2021 Oct 1.
[Article in Portuguese, English]

Abstract

This study aimed to evaluate the content validity and reliability of an instrument for evaluating the university food environment. A checklist was developed to assess establishments that sell food and beverages in the university environment. The content validation encompassed the development of the instrument, expert evaluation and pretest performance. Reliability was evaluated using a convenience sample (n=64) of establishments distributed across seven campuses of three public universities and was carried out using interobserver (IO) and test-retest (TR) evaluations. Categorical and count variables were analyzed by calculating the percentage agreement (PA), kappa coefficient (k) and prevalence-adjusted, bias-adjusted kappa (ka), and continuous variables were analyzed by the intraclass correlation coefficient (ICC). The checklist consisted of 204 items distributed in seven domains. The instrument's performance was considered excellent or very good for 91.3% (PA) of the items when evaluated. For IO, 68.3% (k) and 96.5% (ka) had excellent, very good or good agreement, while for TR, 65% (k) and 96.5% (ka) had excellent agreement. The instrument showed satisfactory content validity and reliability for characterizing the food environment at Brazilian universities.

O objetivo foi avaliar a validade de conteúdo e a confiabilidade de um instrumento de auditoria para avaliação do ambiente alimentar universitário. Foi desenvolvido checklist para a avaliação de estabelecimentos que comercializavam alimentos e bebidas neste ambiente. A validação de conteúdo abarcou o desenvolvimento do instrumento, a análise por especialistas e a realização do pré-teste. A confiabilidade foi avaliada em uma amostra de conveniência (n=64) de estabelecimentos distribuídos em sete campi de três universidades públicas e foi realizada pelos testes interobservador (TIO) e teste-reteste (TR). Variáveis categóricas e de contagem foram analisadas pelo cálculo da concordância percentual (CP) e dos índices kappa (k) e kappa ajustado pela prevalência e pelo viés (ka) e variáveis contínuas, pelo Coeficiente de Correlação Intraclasse (CCI). O checklist foi composto por 204 itens distribuídos em sete domínios. O desempenho do instrumento foi considerado excelente ou muito bom para 91,3% (CP) dos itens quando avaliados. No TIO 68,3% (k) e 96,5% (ka) tiveram concordância excelente, muito boa ou boa, enquanto no TR 65% tiveram concordância excelente para o k e 96,5% para o ka. O instrumento apresentou validade de conteúdo e confiabilidade satisfatórias.

MeSH terms

  • Brazil
  • Food*
  • Humans
  • Reproducibility of Results
  • Universities