flaibo
Glossario

Parameters (Model Weights)

I miliardi di valori numerici interni che un modello ha appreso durante l'addestramento, che codificano ciò che sa; fissi una volta terminato l'addestramento e invisibili a chiunque lo utilizzi.

Nessuna carta richiesta

Cosa significa in pratica

Un professionista che legge la scheda tecnica di un fornitore vede un modello pubblicizzato con settanta miliardi di parametri e presume che quel numero sia qualcosa che può regolare per ottenere risultati migliori, allo stesso modo in cui regolerebbe un'impostazione in un'app. I parametri sono in realtà l'opposto di una manopola: sono l'enorme insieme di valori numerici interni che il modello ha appreso durante l'addestramento, e che codificano schemi sul linguaggio e sul mondo; una volta concluso l'addestramento, quei valori restano fissi. Nessuno che utilizzi il modello, nemmeno l'azienda che lo ha costruito, regola i singoli parametri a mano; il numero riportato sulla scheda tecnica è solo una stima approssimativa della capacità grezza del modello e del suo costo di esecuzione, non un controllo che qualcuno può manovrare.

Esempio

Vengono pubblicizzati due modelli, uno con otto miliardi di parametri e uno con settanta miliardi. Un professionista non può aumentare il numero di parametri del modello più piccolo per farlo comportare come quello più grande: quel numero è stato fissato il giorno in cui l'addestramento è terminato. Ciò che può regolare, su entrambi i modelli, è un'impostazione come la temperatura o la lunghezza massima della risposta, che cambia il comportamento del modello per una determinata richiesta senza toccare ciò che sa nel profondo.

Spesso confuso con

vs. Settings (like Temperature or Max Length)

I parametri sono fissi al momento dell'addestramento: miliardi di valori interni incorporati nel modello che nessuno regola richiesta per richiesta, e un numero di parametri più alto sulla scheda tecnica è un dato sulla scala del modello, non un controllo. Le impostazioni come la temperatura o la lunghezza massima della risposta sono l'opposto: manopole che un utente o uno sviluppatore possono effettivamente cambiare a ogni singola richiesta, alterando il comportamento del modello senza toccare ciò che sa. Confondere le due cose porta le persone a cercare un cursore dei parametri che non esiste, quando i controlli regolabili che in realtà vogliono sono le impostazioni a livello di richiesta proprio accanto.

Frequently asked questions

Vuoi il tuo contesto in un unico posto?

Flaibo conserva il tuo ruolo, il tuo tono e il tuo lavoro passato in un unico posto, e li inserisce nei prompt che porti in qualsiasi AI tu usi, così una nuova chat non deve ripartire da una finestra di contesto vuota.

Inizia gratis

Il tuo contesto, ovunque