AI.info

Guide pratiche

Sfoglia Guide pratiche su AI.info.

In inglese

• Mettere gli LLM in produzione: una guida completa

  Tutto quello che c’è da sapere per servire modelli linguistici di grandi dimensioni su larga scala. La guida tratta framework di serving, quantizzazione, batching, scalabilità e ottimizzazione dei costi.

• Un framework per la qualità dei dati nei progetti di IA

  Una guida pratica per definire standard di qualità dei dati nei progetti di IA e machine learning. Tratta l’analisi dei dati, le regole di validazione, il monitoraggio e le buone pratiche di governance.

• Implementare l’inferenza ML in tempo reale

  Come costruire sistemi di inferenza ML a bassa latenza che restituiscono previsioni in pochi millisecondi. Il testo tratta l’ottimizzazione dei modelli, le architetture di serving, la cache e l’ottimizzazione delle prestazioni.

• Costruire sistemi di raccomandazione basati sull’IA

  Una guida pratica alla creazione di sistemi di raccomandazione con il filtraggio collaborativo, i metodi basati sui contenuti e i moderni approcci di deep learning. Dalla progettazione alla messa in produzione.

• Gestione dell’infrastruttura GPU per i team di machine learning

  Come pianificare, predisporre e gestire le risorse di calcolo GPU per il machine learning: suddivisione dei carichi di lavoro tra Hopper, Blackwell e Rubin, Slurm rispetto a Kubernetes, MIG, costi delle istanze spot e monitoraggio con DCGM.

• CI/CD per i progetti di machine learning

  Come implementare l’integrazione e il deployment continui nei sistemi di machine learning. Una panoramica delle strategie di test, dei controlli di validazione dei modelli, del riaddestramento automatizzato e delle pipeline di deployment.

• L’economia dell’inferenza: quantizzazione, speculative decoding e l’arte di servire gli LLM a basso costo

  PagedAttention, continuous batching, costi della cache KV, quantizzazione, speculative decoding, instradamento MoE e fasce di prezzo per i batch: perché il costo minimo per token continua a scendere, mentre sopra di esso è tornata una fascia premium da 10/50 dollari.

• Costruire un sistema RAG da zero

  Una guida completa, passo dopo passo, alla costruzione di un sistema di generazione aumentata tramite recupero pronto per l’uso in produzione. Tratta l’elaborazione dei documenti, la suddivisione in chunk, gli embedding, gli archivi vettoriali, il recupero ibrido con Cohere Rerank 4, la generazione di risposte con citazioni e la valutazione.

• Mettere in sicurezza le applicazioni LLM in produzione: prompt injection, jailbreak e la nuova superficie d’attacco

  Una guida alla difesa basata sulla OWASP LLM Top 10: incidenti reali, dalla fuga di informazioni su Bing Sydney a EchoLeak e al worm di prompt injection in Word del 2026; perché è difficile correggere la prompt injection; e quali controlli di protezione, red teaming e conformità reggono ora che l’AI Act dell’UE è in vigore.

• Guida all’implementazione della ricerca vettoriale

  Una guida pratica per portare in produzione la ricerca per similarità vettoriale: dalla scelta di un modello di embedding al confronto tra HNSW, IVF e PQ, dalle scansioni iterative di pgvector 0.8.6 alla fusione della ricerca ibrida con BM25 e RRF, fino a Cohere Rerank 4 e all’ottimizzazione del recall.