Torna al GlossarioGLOSSARIO AI ACCADEMY · Deployment con Docker, FastAPI e vLLM

Cos'è Throughput (Produttività)?

Indica quante richieste o quanti token il tuo server riesce a generare in un secondo per tutti gli utenti messi insieme. Un alto Throughput significa che il sistema gestisce molta folla senza rallentare.

Un esempio pratico

Il Throughput è come i tornelli di uno stadio: quante persone (richieste) riesci a far entrare al minuto senza creare la coda.

Termini correlati

Vuoi impararli tutti giocando?

Metti alla prova questi termini e altri 100+ con i minigiochi della Glossary Arena. Gratis.

Impara giocando, gratis

Usiamo cookie tecnici essenziali e, solo con il tuo consenso, Google Analytics per migliorare il sito. Maggiori informazioni