How authenticity impacts validity: Developing a model of teacher education assessment and exploring the effects of the digitisation of assessment methods

Z Erziehwiss. 2023 Jun 7:1-25. doi: 10.1007/s11618-023-01154-y. Online ahead of print.

Abstract

Based on a literature review of studies on teachers' professional competence and related assessment tools, this paper introduces a model of teacher education assessment. It is influenced by Miller's (1990) framework of assessment in medical education and includes, among other aspects, performance assessments. This model is used to understand the potential effects of transferring assessment tools into a digital format with assessment feedback. Five examples for such a transfer will be discussed: three methods for various aspects of communication, a test for pedagogical content knowledge, and a test for content knowledge. All five are established instruments well-described in terms of validity. All five have recently been transferred into a digital format. The analysis of this transfer also reveals a potentially harmful effect of digital assessment. The closer an assessment instrument is to assessing action-related parts of professional competence, the more authenticity is required; however, digitisation tends to decrease this authenticity. This suggests that an increasing number of digital assessment tools in teacher education might result in an even more dominant focus on knowledge tests, ignoring other parts of professional competence. This article highlights the role of authenticity in validity and discusses the most suitable assessment format to address various parts of professional competence. It ends by highlighting the lessons learned from the transfer of assessment instruments into a digital format that other academic disciplines might find interesting.

Im vorliegenden Beitrag soll ein Modell entwickelt werden, das Testformate und zugrundeliegende Fähigkeitsbereiche der professionellen Handlungskompetenz von Lehrkräften zusammenhängend beschreibt. Grundlage dafür ist Millers (1990) analoges Modell für den Bereich der Medizin. Es werden einleitend Studien zur professionellen Kompetenz angehender Physiklehrkräfte analysiert und die dazugehörigen Testinstrumente diskutiert. Kern des Modells ist es dann, die Breite der zu erhebenden Fähigkeitsbereiche zu beschreiben; dabei werden z. B. Performanztests berücksichtigt. Das Modell wird dann dazu verwendet, an fünf Beispielen die Effekte zu beschreiben, die die Digitalisierung von Testformaten auf die erhobenen Aspekte professioneller Handlungskompetenz angehender Lehrkräfte hat. Es zeigt sich ein potenzielles Problem: je handlungsnäher der zu erhebende Aspekt professioneller Handlungskompetenz ist, desto authentischer zum Berufsalltag müssen eigentlich die Problemsituationen werden, die als Kontexte im Test verwendet werden. Die digitalen Formate allerdings führen tendenziell dazu, dass die Authentizität gesenkt wird. Dies könnte darin resultieren, dass mit einer zunehmenden Anzahl digitaler Testformate die bestehende Dominanz des Assessments des Professionswissens erhöht wird und andere Aspekte professioneller Handlungskompetenz in den Hintergrund rücken. Am Ende des Beitrags wird kurz die Rolle von Authentizität für Validität diskutiert und verschiedene „lessons learned“ abgeleitet, die von Interesse für andere akademische Disziplinen der Lehrkräftebildung sein könnten.

Keywords: Authenticity; Digital assessment; Professional competence; Science education.