With the advancements in precision medicine, the demands on pathological diagnostics have increased, requiring standardized, quantitative, and integrated assessments of histomorphological and molecular pathological data. Great hopes are placed in artificial intelligence (AI) methods, which have demonstrated the ability to analyze complex clinical, histological, and molecular data for disease classification, biomarker quantification, and prognosis estimation. This paper provides an overview of the latest developments in pathology AI, discusses the limitations, particularly concerning the black box character of AI, and describes solutions to make decision processes more transparent using methods of so-called explainable AI (XAI).
Mit den Entwicklungen der Präzisionsmedizin steigen die Anforderungen an die pathologische Diagnostik, histomorphologische und molekularpathologische Daten standardisiert, quantitativ und integriert zu beurteilen. Große Hoffnungen werden in Verfahren der Künstlichen Intelligenz (KI) gesetzt, die gezeigt haben, komplexe klinische, histologische und molekulare Daten zur Krankheitsklassifikation, Biomarkerquantifizierung und Prognoseabschätzung auswerten zu können. Diese Arbeit gibt einen Überblick über neueste Entwicklungen der KI in der Pathologie, diskutiert die Grenzen insbesondere hinsichtlich der Intransparenz der KI und beschreibt Lösungen, die Entscheidungsprozesse mit Verfahren der sog. erklärbaren KI („explainable AI“, XAI) transparenter zu gestalten.
Keywords: Artificial intelligence; Biomarkers; Machine learning; Molecular biology; Precision medicine.
© 2024. The Author(s), under exclusive licence to Springer Medizin Verlag GmbH, ein Teil von Springer Nature.