6Livello 6

Deployment con Docker, FastAPI e vLLM

Portare un sistema AI in produzione: Docker, un endpoint con FastAPI, serving efficiente con vLLM, gestione delle richieste concorrenti, logging e error handling.

Lezioni (11)

• —Mettere in produzione un sistema AI
• —Perché usare Docker
• —Cos'è FastAPI
• —Creare un endpoint per il modello
• —Gestire richieste concorrenti
• —Cos'è vLLM
• —Serving efficiente del modello
• —Scalabilità base
• —Logging
• —Error handling
• —Struttura minima di un servizio deployabile

Progetto Capstone e Portfolio

Il progetto finale da mettere in portfolio: dalla definizione del problema all'architettura, dataset, interfaccia minima, test, fino a come raccontare valore, limiti e scelte tecniche.

Lezioni (10)

• —Definizione del progetto finale
• —Scelta del problema
• —Architettura del progetto
• —Dataset o documenti sorgente
• —UI e Interfaccia Minima
• —Test e Validazione
• —Presentazione efficace
• —Come mostrarlo nel portfolio
• —Logica Agentica nel progetto finale
• —Come raccontare valore, limiti e scelte tecniche

Troubleshooting, community e aggiornamento

Come risolvere i problemi più comuni nei modelli locali, nei workflow e nei sistemi RAG, capire un errore OOM, e come restare aggiornati nel settore tramite community, leaderboard e benchmark.

Lezioni (10)

• —Errori comuni nei modelli locali
• —Errori comuni nei workflow
• —Errori comuni nei sistemi RAG
• —Capire l'errore OOM (Out of Memory)
• —Leggere la documentazione tecnica
• —Dove seguire il settore
• —Community utili
• —Come restare aggiornati senza perdersi
• —Valutare nuove release e benchmark
• —MTEB, Leaderboard e altre risorse

Pronto a iniziare?

Segui questo percorso passo per passo, con quiz e progressi tracciati. Gratis per iniziare.