L’AI non è Google: perché questa distinzione cambia tutto
“È confermato, la normativa dice che possiamo procedere.”
Un imprenditore mi ha mostrato la risposta di ChatGPT durante una consulenza. Aveva chiesto conferma su una specifica agevolazione fiscale per la sua azienda. L’AI aveva risposto con sicurezza: sì, l’agevolazione era applicabile, ecco i requisiti, ecco i riferimenti normativi.
Il problema è che quei riferimenti normativi non esistevano. La legge citata era reale, gli articoli menzionati dicevano tutt’altro. L’AI aveva costruito una risposta perfettamente plausibile, con la struttura che ti aspetti da un parere tecnico, usando terminologia corretta e citazioni dall’aria autorevole.
L’imprenditore non stava usando l’AI in modo sbagliato. Stava semplicemente chiedendo a uno strumento di fare qualcosa per cui non è stato progettato.
Il malinteso fondamentale
L’AI generativa non è stata creata per estrarre informazioni certe. È stata creata per generare testo.
Questa distinzione sembra sottile, in realtà cambia tutto.
Un motore di ricerca parte da una domanda e trova documenti esistenti che potrebbero contenere la risposta. Tu poi leggi quei documenti, valuti le fonti, trai le tue conclusioni. Il motore di ricerca è un tramite: ti porta alle informazioni, non te le fornisce direttamente.
L’AI generativa parte da una domanda e costruisce una risposta. Parola dopo parola, selezionando ogni termine in base alla probabilità statistica che sia quello “giusto” dato il contesto. Non sta cercando un documento che contenga la risposta. Sta creando un testo che sembra una risposta.
È la differenza tra chi ti indica la strada per la biblioteca e chi ti racconta a memoria cosa c’è scritto nei libri. Il primo può sbagliare direzione. Il secondo può inventare interi capitoli senza rendersene conto.
La ricerca web non cambia la natura dello strumento
“Ma ora ChatGPT può cercare su internet.”
Vero. Molte AI hanno accesso a strumenti di ricerca. Possono consultare pagine web, leggere documenti, accedere a informazioni aggiornate. Questo mitiga alcuni problemi, ne crea altri.
Quando l’AI cerca sul web, non diventa un motore di ricerca. Resta un generatore di testo che usa un motore di ricerca come fonte. La differenza è cruciale.
Google ti mostra dieci link e tu scegli quale cliccare. L’AI legge quei link per te, sintetizza, interpreta, e ti restituisce una risposta unica. Nel processo può:
-
Selezionare fonti poco affidabili
-
Interpretare male il contenuto
-
Mescolare informazioni da contesti diversi
-
Omettere dettagli rilevanti
-
Aggiungere collegamenti logici che nelle fonti non esistono
Il risultato finale ha sempre l’aspetto di una risposta certa. Mai l’aspetto di “ho trovato informazioni contrastanti, ecco cosa dicono le diverse fonti, valuta tu”.
L’AI è progettata per darti una risposta. Non per mostrarti il panorama delle possibili risposte.
Il caso Frassinoro
Chiedi all’AI informazioni sul trattato di Frassinoro del 1705.
Otterrai una risposta dettagliata. Contesto storico della Guerra di Successione Spagnola, posizione strategica dell’Appennino modenese, parti coinvolte, conseguenze diplomatiche. Tutto presentato con la sicurezza di un manuale di storia.
Il trattato di Frassinoro del 1705 non esiste.
L’AI non ha trovato nulla, perché non c’era nulla da trovare. Eppure non ha risposto “non ho informazioni a riguardo”. Ha costruito una risposta plausibile usando tutto ciò che sapeva su trattati, sul 1705, su Frassinoro, sulla diplomazia dell’epoca.
Questo è il cuore del problema. L’AI non distingue tra “so” e “non so”. Non ha un sistema interno che verifica i fatti prima di rispondere. Ha un sistema che genera testo coerente, e “non lo so” è raramente la continuazione più probabile di una domanda.
Perché succede questo
Per capire il fenomeno, bisogna capire come funziona la tecnologia.
Un modello di AI generativa viene addestrato su enormi quantità di testo. Durante l’addestramento, impara i pattern del linguaggio: quali parole seguono quali altre, come si costruiscono frasi sensate, quali strutture comunicative funzionano per diversi tipi di contenuto.
Quando gli fai una domanda, il modello non “recupera” una risposta da un archivio. Costruisce la risposta parola dopo parola, scegliendo ogni volta il termine statisticamente più probabile dato tutto ciò che precede.
“Il trattato di Frassinoro del 1705 fu…” e qui il modello deve scegliere come continuare. Ha visto migliaia di testi che iniziano così. La continuazione più probabile non è “in realtà non ho informazioni verificate su questo argomento”. La continuazione più probabile è qualcosa che suona come l’inizio di una spiegazione storica.
Il modello non sta mentendo. Non ha il concetto di verità e menzogna. Sta facendo esattamente ciò per cui è stato progettato: generare testo che sembri appropriato al contesto.
Il problema della sicurezza apparente
C’è un elemento che rende la situazione particolarmente insidiosa: l’AI risponde sempre con lo stesso tono.
Che stia riportando un fatto verificabile o inventando di sana pianta, la risposta ha la stessa struttura, la stessa sicurezza, la stessa fluidità. Non c’è differenza stilistica tra “la capitale della Francia è Parigi” e “il trattato di Frassinoro del 1705 stabilì i confini tra…”
Quando leggi un testo umano, hai indicatori. L’autore usa condizionali, ammette incertezze, cita fonti, distingue tra opinioni e fatti. L’AI generativa non ha questi meccanismi integrati. Ogni risposta suona definitiva.
Questo crea un’asimmetria pericolosa. Le risposte sbagliate sembrano tanto autorevoli quanto quelle giuste. E senza competenza sull’argomento, non puoi distinguerle.
L’equazione che cambia tutto
C’è una formula che uso spesso per spiegare questo concetto: 0×AI=0.
Se parti da zero — zero competenza sull’argomento, zero capacità di verificare, zero contesto per valutare — l’AI non ti dà nulla di affidabile. Moltiplica quello che hai, e zero per qualsiasi numero fa sempre zero.
L’AI funziona magnificamente quando sai già qualcosa. Quando puoi riconoscere una risposta sbagliata. Quando hai il contesto per valutare. Quando la usi per amplificare una competenza esistente, non per sostituire una competenza mancante.
L’imprenditore del mio esempio non era un esperto fiscale. Non poteva riconoscere che i riferimenti normativi erano inventati. Se lo fosse stato, avrebbe notato immediatamente le incongruenze. E probabilmente non avrebbe chiesto all’AI, perché avrebbe saputo dove cercare le informazioni corrette.
Per cosa è davvero progettata l’AI
Se l’AI non è fatta per estrarre fatti certi, per cosa è fatta?
Per elaborare. Dai all’AI un documento lungo e chiedile un riassunto. Dai all’AI i tuoi appunti disordinati e chiedile di strutturarli. Qui la capacità generativa diventa un vantaggio: l’AI crea nuovo testo a partire da materiale che tu controlli.
Per esplorare. Usa l’AI per generare angoli diversi su un problema, per trovare domande che non avevi considerato, per esplorare scenari ipotetici. Qui non cerchi fatti, cerchi prospettive.
Per creare. Prima bozza di un testo, variazioni su un tema, idee per un progetto. L’AI genera, tu selezioni e raffini.
Per tradurre. Non solo tra lingue, ma tra registri, tra formati, tra livelli di complessità. Rendi un testo tecnico accessibile, trasforma punti elenco in prosa fluida.
In tutti questi casi, l’AI non estrae informazioni da qualche archivio di verità. Trasforma input che tu fornisci in output che tu valuti. Il ciclo di verifica sei tu.
La competenza del prossimo decennio
Milioni di persone stanno usando l’AI come se fosse un oracolo onnisciente. Fanno domande e prendono le risposte per buone. Non perché siano ingenui, ma perché lo strumento sembra fatto per quello.
L’interfaccia è una chat. Tu chiedi, l’AI risponde. Sembra un dialogo con qualcuno che sa. Ma dietro l’interfaccia c’è un meccanismo che non “sa” nel senso umano del termine. Genera.
La competenza critica del prossimo decennio non sarà saper usare l’AI. Sarà capire cosa l’AI è — e cosa non è. Sarà mantenere il riflesso della verifica anche quando la risposta sembra perfetta. Sarà distinguere tra i compiti in cui l’AI eccelle e quelli in cui può solo simulare competenza.
L’AI non è Google. Non è migliore né peggiore — è uno strumento diverso, progettato per uno scopo diverso. E usare uno strumento per lo scopo sbagliato non è colpa dello strumento.
È un errore di chi lo impugna.