Un assistente digitale può rispondere a domande frequenti e orientare un utente. Il percorso diventa fragile quando il sistema continua a proporre risposte generiche a un problema che non riesce a comprendere. La possibilità di coinvolgere una persona va progettata dall’inizio.
Propongo di definire ambito del servizio e situazioni che richiedono un passaggio. Una richiesta complessa, un reclamo o informazioni mancanti possono rendere necessario un altro canale. Il sistema dovrebbe spiegare il percorso disponibile senza inventare tempi o impegni che l’organizzazione non sostiene.
Un esempio ipotetico è un cliente che segnala un ordine diverso da quello ricevuto. Ripetere le istruzioni generali sulla consegna può aumentare la frustrazione. Il servizio utile raccoglie le informazioni necessarie e le rende disponibili al referente autorizzato, secondo le condizioni applicabili.
La valutazione dovrebbe includere casi non risolti e richieste ripetute, oltre al numero delle conversazioni. Un dialogo chiuso non dimostra che il bisogno sia stato soddisfatto. Propongo prove su domande realistiche e aggiornamento dei contenuti. Il NIST AI RMF offre un riferimento generale sui rischi; il percorso qui descritto resta una scelta organizzativa da adattare alle capacità effettive del sistema.