Un agente vocale sembra umano quando la pausa fra la fine della tua frase e l’inizio della sua risposta resta vicina ai 200 millisecondi, il ritmo tipico di una conversazione fra persone. Oltre circa un secondo e mezzo la pausa si sente come un guasto. Nella pratica, a ottobre 2026, un agente costruito con i pezzi standard (trascrizione, modello, sintesi vocale) non arriva a 200 ms: l’obiettivo realistico è restare nell’ordine di qualche centinaio di millisecondi e togliere ogni attesa che non serve.
Da dove viene il numero: 200 millisecondi
Il riferimento è uno studio pubblicato nel 2009 su PNAS da Tanya Stivers e colleghi, che hanno confrontato la conversazione in dieci lingue molto diverse fra loro. Il risultato: in tutte le lingue i parlanti evitano di sovrapporsi e riducono al minimo il silenzio fra un turno e l’altro.
Le medie delle singole lingue cambiano, ma restano entro una forbice di circa 250 ms dalla media complessiva, e il valore tipico del passaggio di turno sta intorno ai 200 ms.
Due cose da tenere a mente. Primo: è la mediana di una distribuzione, non una soglia che scatta. Secondo: 200 ms è troppo poco per «ascoltare, capire, pensare e rispondere». Le persone rispondono così in fretta perché iniziano a preparare la risposta mentre l’altro sta ancora parlando, prevedendo dove la frase finirà.
Perché questo è un problema per un agente vocale
Un agente AI classico aspetta di essere sicuro che tu abbia finito, e solo allora comincia a lavorare. Quindi deve sommare in sequenza:
- il rilevamento della fine del turno (capire che hai smesso di parlare);
- la trascrizione definitiva di ciò che hai detto;
- la prima parte della risposta del modello linguistico;
- l’eventuale chiamata a uno strumento (calendario, gestionale);
- il primo pezzo di audio sintetizzato;
- il viaggio di rete in entrambe le direzioni.
Ognuno di questi passaggi, da solo, costa decine o centinaia di millisecondi. Messi in fila superano quasi sempre i 200 ms con ampio margine.
Un budget di riferimento (stima, non misura)
Alcuni operatori pubblicano budget indicativi. Quello che ho trovato più dettagliato è di un fornitore di piattaforme vocali, e va letto per quello che è: una stima di mercato, senza fonti primarie per le singole voci.
Indica, per il caso mediano, circa 200-300 ms per la fine del turno, 50-150 ms per la trascrizione finale, 200-400 ms per il primo token del modello, 100-200 ms per il primo audio e 30-80 ms di rete: un totale di circa 600-850 ms. Per il 95° percentile il totale sale a circa 1.450 ms.
Non sono i miei numeri e non li presento come verità: li uso per dare un ordine di grandezza. Ciò che conta è la forma: il tempo non sta in un singolo componente, si accumula su tutta la catena.
Le soglie pratiche: 800 ms e 1,5 secondi
Nella letteratura divulgativa sul tema ricorre una regola pratica: entro circa 800 ms la risposta suona naturale, oltre circa 1,5 secondi suona rotta, con la sensazione del «pronto? ci sei?». Anche queste sono soglie di mestiere più che risultati di laboratorio, ma coincidono con l’esperienza di chiunque abbia telefonato a un risponditore lento.
La differenza rispetto ai 200 ms umani è che a 800 ms non sembri una persona: sembri un buon sistema.
Dove si recupera tempo
- Risposta in streaming. Non aspettare che il modello finisca la frase: appena arrivano le prime parole parte la sintesi vocale.
- Rilevamento della fine del turno. È spesso la voce più grossa e la più delicata: tagliare troppo presto fa interrompere chi sta ancora parlando, aspettare troppo aggiunge pausa pura.
- Strumenti. Una chiamata a un gestionale durante la conversazione può valere da sola più di tutto il resto. Meglio una frase di appoggio mentre si aspetta, che un silenzio.
- Distanza geografica. Server lontani dal chiamante aggiungono tempo a ogni passaggio.
Cosa ho imparato costruendo e collaudando agenti
Io costruisco e uso ogni giorno un sistema di agenti AI, sorvegliato da controlli automatici e da test, e scrivo le lezioni dei miei errori. Quelle sulla voce vengono tutte dal collaudo.
Ho sbagliato più volte nello stesso modo: ho guardato la latenza media, mi sembrava buona, e alla prima chiamata reale la pausa lunga arrivava proprio nel momento che contava. Ho testato l’agente come lo avrebbe usato un cliente, non come lo usa chi lo ha costruito, e la differenza si sente subito.
Da allora guardo la coda lenta, non la media, e provo l’agente con chiamate vere prima di metterlo su un numero reale. Un’altra cosa che ho imparato a mie spese: una risposta un po’ più lenta ma corretta batte quasi sempre una risposta veloce e sbagliata. La velocità si ottimizza dopo che il comportamento è giusto.
Domande frequenti
200 ms sono raggiungibili da un agente AI?
Con una pipeline classica in sequenza, no. Servono architetture che ascoltano e preparano la risposta mentre l’utente parla, e anche così è un obiettivo, non una garanzia.
Qual è il numero da mettere in un requisito?
Per un primo collaudo: mediana sotto circa 800 ms e coda lenta sotto circa 1,5 secondi, misurate su chiamate reali e non in laboratorio.
Una pausa più lunga è sempre un difetto?
No. Se l’agente deve consultare un dato, una breve frase di appoggio rende la pausa accettabile. Il silenzio senza spiegazione è ciò che pesa.
Per approfondire
- Agente vocale AI per PMI: cosa risolve e cosa no
- Gate umano: dove un agente AI non deve mai decidere da solo
- Agenti AI in produzione: cosa si rompe davvero
- Il costo mensile reale di una flotta di agenti AI
- Quanti agenti AI servono a un’azienda e come si divide il lavoro
Fonti
- Stivers T. et al., Universals and cultural variation in turn-taking in conversation, PNAS 106(26), 2009, 10587-10592.
- Picovoice, Voice UX: Latency, Turn-Taking, and Barge-In (riferimento ai 200 ms su dieci lingue).
- Twig, Latency Budgets for Voice AI Agents: The 800ms Rule of Natural Conversation (budget per stadio e soglie 800 ms / 1.500 ms; stime di un fornitore).
