Token
L'unità di base con cui un modello AI legge e scrive effettivamente: un frammento di testo di solito più corto di un'intera parola, non una parola né un carattere in sé.
Nessuna carta richiesta
Cosa significa in pratica
I limiti dei modelli e i costi di utilizzo dell'AI si misurano quasi sempre in token, non in parole o caratteri, ed è per questo che una pagina che sembra breve a schermo può comunque essere costosa da elaborare o raggiungere inaspettatamente un limite: un nome insolito, un numero lungo o un testo in certe lingue possono suddividersi in molti più token rispetto alla stessa lunghezza visibile di normale prosa in inglese, anche se il conteggio dei caratteri non sembra affatto anomalo.
Esempio
La parola inglese "unbelievable" potrebbe essere un singolo token per un modello, oppure venire suddivisa in tre parti ("un", "believ", "able") da un altro; la stessa identica frase può costare, in modo significativo, di più o di meno da elaborare a seconda di quale tokenizer del modello la sta contando, anche se il testo a schermo non è mai cambiato.
Spesso confuso con
vs. Word / Character
Un token non è né una parola né un carattere: è un frammento specifico del modello, a metà strada tra i due, deciso da come è stato addestrato il tokenizer di quel particolare modello. Due modelli diversi possono suddividere la stessa identica frase in un numero diverso di token, ed è per questo che "conteggio delle parole" e "conteggio dei token" non coincidono mai in modo affidabile e non vanno trattati come intercambiabili quando c'è di mezzo un limite reale o un costo reale.
Termini correlati
Frequently asked questions
Vuoi il tuo contesto in un unico posto?
Flaibo conserva il tuo ruolo, il tuo tono e il tuo lavoro passato in un unico posto, e li inserisce nei prompt che porti in qualsiasi AI tu usi, così una nuova chat non deve ripartire da una finestra di contesto vuota.
Inizia gratis