Un riepilogo numerico generato dall’IA può apparire ordinato e contenere conteggi errati. Prima di utilizzarlo occorre verificare il rapporto con i dati di partenza e con la domanda formulata. L’accuratezza richiede controlli pertinenti, soprattutto quando il risultato sostiene una decisione o viene comunicato ad altri.
Propongo di mantenere disponibili dati e criteri di calcolo. Una cifra dovrebbe poter essere ricostruita attraverso un procedimento verificabile. Le informazioni devono essere trattate con strumenti e autorizzazioni appropriati, evitando di inviare contenuti riservati soltanto per rendere più rapido il riepilogo.
In un esempio ipotetico, una tabella contiene righe annullate che non devono entrare nel totale. Il risultato può essere sbagliato se la regola non viene applicata. Un confronto con un calcolo controllato permette di verificare sia il numero sia il perimetro utilizzato.
NIST propone un quadro volontario per la gestione dei rischi dell’IA. Sul piano operativo, distinguerei il supporto alla lettura dal calcolo utilizzato come riferimento. Il riepilogo diventa utile quando i risultati rilevanti sono verificati e il lettore può comprendere quali dati e criteri li sostengono.