[From the Ethics of AI to the Ethics of Consciousness: Ethical Aspects of Computational Psychiatry]

Psychiatr Prax. 2021 Mar;48(S 01):S21-S25. doi: 10.1055/a-1369-2824. Epub 2021 Mar 2.
[Article in German]

Abstract

Objective: Identifying ethical problems arising from AI research and Computational Psychiatry for psychiatric research and practice.

Methods: Conceptual analysis and discussion of ethically relevant projects within Computational Psychiatry.

Results: Computational Psychiatry promises a contribution to improving diagnostics and therapy (prediction). Ethical problems include dealing with data protection, consequences for our self-image, as well as the risk of biologization and the neglect of conscious experience.

Conclusion: It is necessary to consider possible applications of AI and Computational Psychiatry now in order to create the conditions for responsible use in the future. This requires a basic understanding of how AI applications work and of the associated ethical problems.

ZIEL: Ermittlung ethischer Probleme, die sich aus KI-Forschung und Computational Psychiatry für die psychiatrische Forschung und Praxis ergeben.

Methode: Begriffliche Analyse und Diskussion ethisch relevanter Projekte innerhalb der Computational Psychiatry.

Ergebnisse: Die Computational Psychiatry verspricht v. a. einen Beitrag zur Verbesserung von Diagnostik und Therapie(-prognosen). Ethische Probleme betreffen u. a. den Umgang mit Datenschutz, Folgen für unser Selbstverständnis sowie das Risiko der Biologisierung und der Vernachlässigung des bewussten Erlebens.

Schlussfolgerung: Es ist erforderlich, sich jetzt mit möglichen Anwendungen der KI und Computational Psychiatry zu befassen, um die Voraussetzungen für einen verantwortungsvollen Umgang in der Zukunft zu schaffen. Dies setzt Grundkenntnisse der Funktionsweise von KI-Anwendungen und der damit zusammenhängenden ethischen Probleme voraus.

MeSH terms

  • Artificial Intelligence
  • Consciousness*
  • Germany
  • Humans
  • Psychiatry*