Quando fidarsi e quando no
~ min di lettura
Riepilogo in 30 secondi
- L’IA sbaglia con la stessa sicurezza di quando ha ragione. Non si capisce dall’aria della risposta.
- “Allucinazione”: risposta plausibile ma inventata. Classico: riassunto di un libro che non esiste.
- Va bene per: concetti generali, riformulazioni, strutture, brainstorming, traduzioni.
- Va male per: fatti specifici (nomi, date, citazioni), cose recenti, conti non banali, il tuo caso personale, consulenze mediche/legali/finanziarie.
- Verifica quando conta: cerca su Google, chiedi la fonte esatta, per decisioni importanti senti una persona competente.
L’IA è convincente. Quando ti risponde, suona come una persona che sa quello che dice: scrive in modo fluente e articolato, senza esitazioni. È qui che sta il problema: quando sbaglia, lo fa con lo stesso identico tono di quando ha ragione. Non si capisce dall’aria della risposta.
In questa lezione vediamo dove tende a sbagliare, come riconoscere quei casi, e cosa fare per verificare quando conta.
Quando l’IA inventa
Sezione intitolata “Quando l’IA inventa”Hai visto nella lezione precedente che l’IA prevede la parola successiva in base a quello che ha letto. Se le chiedi qualcosa per cui non ha informazioni precise, riempie i buchi con quello che è probabile, non con quello che è vero.
Un esempio classico: chiederle un riassunto di un libro che non esiste.
Quel libro non esiste. L’autore non esiste. La trama è inventata di sana pianta. Eppure l’IA non ha esitato: ha scritto un riassunto perfettamente plausibile, con date, nomi, temi.
Si chiama in gergo “allucinazione”. È il termine che probabilmente sentirai in giro. Non significa che l’IA abbia un disturbo: significa che sta producendo un testo che suona vero ma che non si basa su niente di reale.
Perché allora non se ne accorge e non ti dice “non lo so”? Per come è fatta, non può. Sceglie sempre la parola più probabile, non la parola più vera: per il suo meccanismo sono la stessa cosa. Non ha un campanello interno che le dice “qui sto improvvisando”. I prodotti più recenti aggiungono dei controlli (cercando sul web, segnalando incertezza) ma è una toppa, non una soluzione strutturale.
Dove tende ad andare bene
Sezione intitolata “Dove tende ad andare bene”L’IA è generalmente affidabile quando:
- Le chiedi di spiegarti concetti generali e ben consolidati (cos’è la fotosintesi, come funziona un motore, le basi di una lingua).
- Le dai un testo da riformulare (riassumere una email, tradurre un paragrafo, riscrivere in modo più formale).
- Le chiedi di generare una struttura (una scaletta per una presentazione, una bozza di mail, una lista di idee).
- Le chiedi di fare brainstorming (dammi dieci angolazioni diverse su un problema).
- Le chiedi di tradurre fra lingue comuni.
In questi casi sta lavorando con materiale che ha visto tantissime volte durante l’ La fase in cui un'IA impara leggendo enormi quantità di testo: libri, pagine internet, conversazioni, codice. Da lì ricava i suoi schemi. . La probabilità che la sua scelta della parola giusta porti a una risposta utile è alta.
Dove tende ad andare male
Sezione intitolata “Dove tende ad andare male”L’IA tende a sbagliare quando:
- Le chiedi fatti specifici e verificabili: nomi propri, date, numeri, citazioni, fonti. Spesso li inventa di sana pianta, come quel libro che non esiste.
- Le chiedi cose recenti: l’IA è stata allenata fino a una certa data, e di quello che è successo dopo non sa nulla (o ha informazioni parziali da una ricerca web, se il prodotto la fa per lei). Per scoprire fino a quando è aggiornata, puoi chiederglielo direttamente (“a che data sono aggiornate le tue informazioni?”) oppure controllare sul sito del prodotto.
- Le fai conti complicati: per la matematica oltre l’aritmetica banale spesso si confonde. Sembra strano (“è pur sempre un computer”), ma l’IA non calcola: indovina la risposta più probabile parola per parola, come fa con tutto il resto. Per i conti seri usa una calcolatrice, oppure chiedi all’IA di spiegarti il metodo invece di fare il calcolo per te.
- Le chiedi cose specifiche del tuo caso che non può sapere: i tuoi conti, la tua salute, le tue email, il tuo contratto. Se non gliel’hai dato in pasto tu, non lo sa.
- Le chiedi consulenza dove l’errore è grave: medica, legale, finanziaria. Qui l’IA può essere uno strumento di esplorazione, non una sostituta di un professionista. In pratica: puoi chiederle “quali domande dovrei fare al mio medico su questi sintomi?” o “che tipi di contratto coprono il mio caso?”, non “diagnosticami questo dolore” o “dimmi se posso firmare questo contratto”.
Come verificare quando conta
Sezione intitolata “Come verificare quando conta”Tre mosse pratiche, in ordine di sforzo crescente.
- Per i fatti puntuali: copia l’affermazione su un motore di ricerca e controlla. Trenta secondi che ti salvano da figure brutte.
- Per citazioni e fonti: chiedi all’IA di darti la fonte esatta. Poi cerca quella fonte: se non esiste, la citazione era inventata. Se esiste, leggila per vedere se dice davvero quello che ti aveva riportato.
- Per le decisioni importanti: l’IA ti aiuta a strutturare il pensiero, ti dà angolazioni diverse, ti scrive bozze. Per la decisione finale, parla con una persona competente.
Una mentalità più che una regola
Sezione intitolata “Una mentalità più che una regola”Il modo migliore per riassumere tutto questo: usa l’IA come un assistente brillante ma incostante. Ti aiuta tantissimo per quasi tutto, e ogni tanto ti racconta cose convincenti che però sono sbagliate. Sapere quando sei in quel “ogni tanto” è la differenza fra usarla bene e farsi fregare.
In dubbio, verifica. La verifica è veloce per quasi tutto.
Verifica cosa hai capito
Sezione intitolata “Verifica cosa hai capito”Cosa viene dopo
Sezione intitolata “Cosa viene dopo”- Quello che condividi quando usi l’IA: cosa succede ai tuoi messaggi dopo che li mandi, chi li vede, cosa puoi controllare, e cosa non conviene mai metterci.