Defining major surgical complications using administrative data in Ontario: a validation study

Can J Surg. 2023 Jul 13;66(4):E378-E383. doi: 10.1503/cjs.013922. Print 2023 Jul-Aug.

Abstract

Background: Although surgical complications are often included as an outcome of surgical research conducted using administrative data, little validation work has been performed. We sought to evaluate the diagnostic performance of an algorithm designed to capture major surgical complications using health administrative data.

Methods: This retrospective study included patients who underwent high-risk elective general surgery at a single institution in Ontario, Canada, from Sept. 1, 2016, to Sept. 1, 2017. Patients were identified for inclusion using the local operative database. Medical records were reviewed by trained clinicians to abstract postoperative complications. Data were linked to administrative data holdings, and a series of code-based algorithms were applied to capture a composite indicator of major surgical complications. We used sensitivity, specificity, positive predictive value (PPV), negative predictive value (NPV) and accuracy to evaluate the performance of our administrative data algorithm, as compared with data abstracted from the institutional charting system.

Results: The study included a total of 270 patients. According to the data from the chart audit, 55% of patients experienced at least 1 major surgical complication. Overall sensitivity, specificity, PPV, NPV and accuracy for the composite outcome was 72%, 80%, 82%, 70% and 76%, respectively. Diagnostic performance was poor for several of the individual complications.

Conclusion: Our results showed that administrative data holdings can be used to capture a composite indicator of major surgical complications with adequate sensitivity and specificity. Additional work is required to identify suitable algorithms for several specific complications.

Contexte:: Même si les complications postopératoires sont souvent incluses parmi les paramètres mesurés lors de recherches sur la chirurgie qui reposent sur les données administratives, leur validation n’a pas fait l’objet d’études. Nous avons voulu évaluer le rendement diagnostique d’un algorithme conçu pour faire le point sur les complications postopératoires majeures à partir des données administratives sur la santé.

Méthodes:: Cette étude rétrospective a inclus des malades soumis à des chirurgies à haut risque non urgentes dans 1 seul établissement en Ontario, au Canada, entre le 1er septembre 2016 et le 1er septembre 2017. Les cas ont été recrutés à partir de la base de données périopératoires de l’établissement. Les dossiers médicaux ont été passés en revue par des médecins dument formés pour extraire les données concernant les complications postopératoires. Ces données ont été reliées à des registres de données administratives, et une série d’algorithmes a été appliqué pour créer un paramètre mixte des complications chirurgicales majeures. Nous avons utilisé la sensibilité, la spécificité, la valeur prédictive positive (VPP), la valeur prédictive négative (VPN) et la justesse afin d’évaluer le rendement de notre algorithme bâti sur les données administratives, plutôt que sur les données extraites du système de tenue de dossier de l’établissement.

Résultats:: En tout, l’étude a recruté 270 patients. Selon l’analyse des dossiers, 55 % ont eu au moins 1 complication postopératoire majeure. La sensibilité, la spécificité, la VPP, la VPN et la justesse pour le paramètre mixte ont été respectivement de 72 %, 80 %, 82 %, 70 % et 76 %. Le rendement diagnostique a été faible pour plusieurs complications individuelles.

Conclusion:: Nos résultats ont montré que les registres de données administratives peuvent servir à créer un paramètre mixte des complications postopératoires majeures avec une sensibilité et une spécificité adéquates. Il faudra approfondir la recherche pour concevoir des algorithmes adaptés à diverses complications spécifiques.

MeSH terms

  • Databases, Factual
  • Electronic Health Records*
  • Humans
  • Ontario
  • Predictive Value of Tests
  • Retrospective Studies
  • Sensitivity and Specificity