Conducting assessment tests, whether large-scale or school-based, through digital tools opens up totally new scenarios, broadening the horizon of research on how students learn. Changing the tool with which students carry out assessment tests does not only have implications on the technological level, but involves much broader aspects that can promote knowledge of the cognitive processes underlying learning. Therefore, the research and teaching perspectives that can be opened up for the promotion of the improvement of learning levels of learning subjects are evident. Conducting assessment tests in digital format makes it possible to collect information that otherwise cannot be found when tests are conducted in traditional format. In principle, the digital mode makes it possible to record in so-called log files (LF) all interactions between the respondent and the platform delivering the test. This information, referred in the literature as process data (PD), makes it possible to study the processes that lead the student to provide a given answer. PDs provide potentially very rich information for observing the respondent's learning processes. PDs allow, for example, to track how a student relates to a task (e.g., time spent reading the task, time between reading and the first or last interaction with the task, number of attempts made to solve the task, etc.), thus providing much information about different cognitive styles and approaches to the task. It is therefore quite evident the change of perspective compared to traditional assessments, more focused on the observation of the final outcome, rather than on the process that determined that outcome. The study of PD becomes therefore a very important object of study of a relatively new discipline that in the international arena is called learning analytics (LA), whose potential is considerable and opens up profoundly innovative and interesting perspectives in pedagogical sciences. The study of PD allows us to identify proxy variables that can provide information on the motivation of the respondent, on his involvement in the task (engagement), on his perseverance, etc.. This opens up possible scenarios for in-depth study of so-called soft skills, on the importance of which there is broad agreement, but on whose methods of observation and measurement there are still many open and controversial questions. However, the interpretation of LF is not simple, both from a technical and a theoretical point of view. At the moment, LFs are often structured according to the technical characteristics of the platform used to deliver the digital tests and are not instead conceived and designed as an integral part of the evaluative action. Although the development of PDs over the years has taken very important steps, it is crucial to define theoretical reference frameworks able to give them an adequate systematic nature, thus making them functional to the cognitive demands on learning processes and on the determinants that can produce their enhancement. Thus, PDs have great potential to provide relevant information in both formative and summative assessment. In addition, they open up a new vantage point on student behavior, the importance of which has been known in the literature for some time, but which current technological developments finally make accessible.

Lo svolgimento di prove di valutazione, siano esse su larga scala o di scuola, attraverso strumenti digitali apre scenari totalmente nuovi, ampliando l’orizzonte di ricerca sulle modalità di apprendimento degli studenti. Cambiare lo strumento con il quale gli allievi svolgono le prove di valutazione non ha implicazioni solo sul piano tecnologico, ma coinvolge aspetti molto più ampi che possono favorire la conoscenza dei processi cognitivi sottesi all’apprendimento. Sono quindi evidenti le prospettive di ricerca e didattiche che si possono aprire per la promozione del miglioramento dei livelli di apprendimento dei soggetti in apprendimento. Lo svolgimento di prove di valutazione in formato digitale rende possibile la raccolta di informazioni che altrimenti non possono essere reperite quando le prove sono svolte in formato tradizionale. In linea di principio, la modalità digitale permette di registrare nei cosiddetti log file (LF) tutte le interazioni tra il rispondente e la piattaforma che eroga la prova. Queste informazioni, denominate in letteratura come process data (PD), permettono di studiare i processi che portano lo studente a fornire una determinata risposta. I PD forniscono informazioni potenzialmente molto ricche per osservare i processi di apprendimento del rispondente. I PD consentono, ad esempio, di tracciare le modalità con le quali uno studente si relaziona con un compito (es. tempo di lettura del compito, tempo che intercorre tra la lettura e la prima o l’ultima interazione con il compito, numero di tentativi effettuati per la soluzione del compito, ecc.), fornendo quindi molte informazioni su stili cognitivi e approcci al compito differenti. Risulta quindi del tutto evidente il cambio di prospettiva rispetto alle tradizionali valutazioni, maggiormente focalizzate sull’osservazione dell’esito finale, anziché sul processo che ha determinato quell’esito. Lo studio dei PD diviene pertanto un oggetto di studio molto importante di una relativamente nuova disciplina che in ambito internazionale è denominata learning analytics (LA), le cui potenzialità sono considerevoli e che apre prospettive profondamente innovative e interessanti nelle scienze pedagogiche. Lo studio dei PD permette di individuare delle variabili di prossimità (proxy) in grado di fornire informazioni sulla motivazione del rispondente, sul suo coinvolgimento nel compito (engagement), sulla sua perseveranza, ecc. Si aprono quindi possibili scenari di approfondimento su competenze cosiddette soft, sulla cui importanza c’è ampia condivisione, ma sulle cui modalità di osservazione e misurazione rimangono ancora molte questioni aperte e controverse. Tuttavia, l’interpretazione dei LF non è semplice, sia dal punto di vista tecnico, sia soprattutto dal punto di vista teorico. Al momento i LF sono spesso strutturati in base alle caratteristiche tecniche della piattaforma usata per erogare le prove digitali e non sono invece pensati e progettati come parte integrante dell’azione valutativa. Per quanto gli sviluppi dei LA negli anni abbia compiuto passi molto importanti, è però cruciale definire dei quadri di riferimento teorici in grado di dare loro un’adeguata sistematicità, rendendoli quindi funzionali alle istanze conoscitive sui processi di apprendimento e sulle determinanti che ne possono produrre l’innalzamento. I PD hanno quindi un grosso potenziale per fornire informazioni rilevanti sia nell’ambito della valutazione formativa sia in quello della valutazione sommativa. Inoltre, essi aprono un nuovo punto di osservazione sul comportamento dello studente, la cui importanza era già nota in letteratura da tempo, ma che gli attuali sviluppi tecnologici rendono finalmente accessibili.

I learning analytics: un ponte verso la valutazione per l’apprendimento e il miglioramento / Carlo Palmiero , 2022 Nov 18. 34. ciclo, Anno Accademico 2020/2021.

I learning analytics: un ponte verso la valutazione per l’apprendimento e il miglioramento

PALMIERO, CARLO
2022

Abstract

Conducting assessment tests, whether large-scale or school-based, through digital tools opens up totally new scenarios, broadening the horizon of research on how students learn. Changing the tool with which students carry out assessment tests does not only have implications on the technological level, but involves much broader aspects that can promote knowledge of the cognitive processes underlying learning. Therefore, the research and teaching perspectives that can be opened up for the promotion of the improvement of learning levels of learning subjects are evident. Conducting assessment tests in digital format makes it possible to collect information that otherwise cannot be found when tests are conducted in traditional format. In principle, the digital mode makes it possible to record in so-called log files (LF) all interactions between the respondent and the platform delivering the test. This information, referred in the literature as process data (PD), makes it possible to study the processes that lead the student to provide a given answer. PDs provide potentially very rich information for observing the respondent's learning processes. PDs allow, for example, to track how a student relates to a task (e.g., time spent reading the task, time between reading and the first or last interaction with the task, number of attempts made to solve the task, etc.), thus providing much information about different cognitive styles and approaches to the task. It is therefore quite evident the change of perspective compared to traditional assessments, more focused on the observation of the final outcome, rather than on the process that determined that outcome. The study of PD becomes therefore a very important object of study of a relatively new discipline that in the international arena is called learning analytics (LA), whose potential is considerable and opens up profoundly innovative and interesting perspectives in pedagogical sciences. The study of PD allows us to identify proxy variables that can provide information on the motivation of the respondent, on his involvement in the task (engagement), on his perseverance, etc.. This opens up possible scenarios for in-depth study of so-called soft skills, on the importance of which there is broad agreement, but on whose methods of observation and measurement there are still many open and controversial questions. However, the interpretation of LF is not simple, both from a technical and a theoretical point of view. At the moment, LFs are often structured according to the technical characteristics of the platform used to deliver the digital tests and are not instead conceived and designed as an integral part of the evaluative action. Although the development of PDs over the years has taken very important steps, it is crucial to define theoretical reference frameworks able to give them an adequate systematic nature, thus making them functional to the cognitive demands on learning processes and on the determinants that can produce their enhancement. Thus, PDs have great potential to provide relevant information in both formative and summative assessment. In addition, they open up a new vantage point on student behavior, the importance of which has been known in the literature for some time, but which current technological developments finally make accessible.
Learning analytics: a bridge toward assessment for learning and improvement
18-nov-2022
CECCONI, Luciano
CALABRESE, Stefano
File in questo prodotto:
File Dimensione Formato  
Tesi di Dottorato - Carlo Palmiero.pdf

Open Access dal 19/11/2023

Descrizione: Tesi definitiva - Palmiero Carlo
Tipologia: Tesi di dottorato
Dimensione 937.88 kB
Formato Adobe PDF
937.88 kB Adobe PDF Visualizza/Apri
Pubblicazioni consigliate

Licenza Creative Commons
I metadati presenti in IRIS UNIMORE sono rilasciati con licenza Creative Commons CC0 1.0 Universal, mentre i file delle pubblicazioni sono rilasciati con licenza Attribuzione 4.0 Internazionale (CC BY 4.0), salvo diversa indicazione.
In caso di violazione di copyright, contattare Supporto Iris

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/11380/1291688
Citazioni
  • ???jsp.display-item.citation.pmc??? ND
  • Scopus ND
  • ???jsp.display-item.citation.isi??? ND
social impact