Quando scrivi qualcosa a un modello come ChatGPT o Claude e ricevi una risposta, è facile pensare che dall’altra parte ci sia qualcosa che “capisce”. Che ragioni. Che sappia, in qualche modo, cosa sta dicendo.
Non è esattamente così. Ed è utile sapere come funziona davvero.
Un modello linguistico è, nella sua essenza, un sistema che prevede. Non pensa, non comprende, non ha opinioni. Prende le parole che gli hai scritto e calcola, con una precisione straordinaria, quali parole è più probabile che vengano dopo. Una dopo l’altra, ogni volta.
Per fare questo, è stato addestrato su una quantità enorme di testo: libri, articoli, conversazioni, pagine web. Durante quell’addestramento, ha costruito una rete neurale: una struttura matematica ispirata, molto alla lontana, al funzionamento del cervello umano. Miliardi di connessioni, ognuna con un peso diverso, che insieme determinano come il sistema risponde a ogni input.
Il risultato è sorprendente. A volte quasi inquietante. Ma non è intelligenza nel senso che diamo a quella parola quando parliamo di esseri umani. È qualcosa di diverso, di nuovo, che ancora non abbiamo del tutto imparato a descrivere.
Perché conta saperlo? Perché cambia il modo in cui usiamo questi strumenti. Chi sa che un LLM prevede invece di ragionare, capisce perché a volte “inventa” fatti con la stessa sicurezza con cui ne riporta di veri. Capisce perché è bravo con il linguaggio e meno affidabile con la logica. Capisce, soprattutto, che la responsabilità di valutare quello che legge resta sempre sua.
Gli strumenti cambiano. Il giudizio, per ora, resta umano.
“L'aspetto profondo della tecnologia è che una volta svelati i segreti, la magia non scompare.”