Glossario dell'AI locale

Definizioni brevi e citabili per orientarsi tra modelli linguistici, privacy e inferenza sul proprio hardware.

Distillazione di un modello linguistico

Tecnica che trasferisce il comportamento utile di un modello grande in un modello più piccolo, ottimizzato per un compito definito.

Small language model

Modello linguistico compatto progettato per svolgere un insieme circoscritto di attività con requisiti inferiori di memoria, energia e latenza.

Inferenza locale

Esecuzione di un modello sul dispositivo o sul server controllato dall'utente, senza inviare ogni richiesta a un'API esterna.

Zero retention

Politica per cui dataset, artefatti temporanei e modello consegnato vengono rimossi automaticamente dall'infrastruttura del servizio entro il periodo dichiarato.

Dataset sintetico

Insieme di esempi generati per rappresentare un compito, usato per insegnare al modello il formato e il comportamento desiderati senza pubblicare dettagli della pipeline.

Modello teacher e modello studente

Il teacher è il modello di partenza che esprime capacità generali; lo studente è il modello più piccolo che apprende il comportamento rilevante per il caso d'uso scelto.