Me l’ha detto il mio ChatGPT

July 23, 2026

Gente molesta e mobili immutabili

“…l’ha detto anche ChatGPT…”
Fastidioso, vero? Ma niente di nuovo sotto il sole. Per anni abbiamo vinto le discussioni invocando l’autorità di un libro. “Ho letto un libro che dice…”, seguito da una nota sull’autore: senz’altro un’autorità in materia. Difficile controbattere. Caso chiuso.

Poi sono arrivati gli smartphone e il libro ha traslocato in un grazioso apparecchio tascabile con tanto di barra di ricerca. “L’ho googlato”, “l’ho letto su Internet”, “ne parla tutto il Web”. Stessa mossa, risultati più rapidi. Che male c’era? All’inizio eravamo scettici, poi ci abbiamo fatto l’abitudine, e alla fine ne abbiamo anche abusato. Per un certo periodo, ogni volta che mi vantavo del sapere forgiato sui miei amati libri, qualche amico dava un’occhiata al telefono e mi spiegava, gentilmente, che il mio era soltanto un tassello di un quadro molto più ampio. Qualche volta il quadro me lo mostrava per davvero, sotto forma di foto, sul telefonino.

Latour aveva un nome per ciò che fa funzionare questo meccanismo: mobili immutabili. Termine elegante per libri, mappe, perfino file PDF, e altri oggetti che viaggiano vicino e lontano restando identici a se stessi, così che tutti, ovunque, possano litigare sulla stessa pagina. L’oggetto si muoveva, le parole no. I social hanno cambiato le cose, perché ora i contenuti vengono ritoccati di continuo e le fonti sono spesso inattendibili. Così i mobili continuano a muoversi più che mai, ma hanno smesso di essere immutabili. Come faccio a sapere di non star cercando di convincervi che i miei fatti sono le opinioni di qualcun altro?

Adesso abbiamo anche l’IA (o gli LLM), portatrice del dono della parola a gente che quel dono già lo aveva. Incredibilmente utile al lavoro, questo glielo concedo. Se avessi avuto gli LLM dieci anni fa, a quest’ora avrei una cattedra. Ma li userei per dare torto a qualcuno? Perché, in fin dei conti, questo pezzo parla proprio di dare torto alla gente.

Immobili mutabili e fatti soggettivi

Torniamo al punto di partenza. Vi è mai capitato di sentirvi dire “me l’ha detto anche ChatGPT”? A me sì. Ecco perché la cosa mi incuriosisce tanto. Quando qualcuno vi dice “me l’ha detto ChatGPT”, vi sta presentando la risposta come se venisse da un giudice obiettivo, un esperto in materia che, per fortuna, è pure amico nostro. Ma il chatbot (nessuno di loro, intendiamoci) non vede la situazione per quella che è, perché non ascolta tutte le parti in causa, e risponde soltanto alla versione dei fatti che gli viene presentata. Questa versione è influenzata da molti più schemi di quanti riusciamo a immaginarne: per esempio la formulazione della domanda, il suo inquadramento, tutte le informazioni incluse e quelle lasciate fuori, il tono emotivo, le premesse incorporate senza saperlo, e le impostazioni personalizzate che riflettono la versione del chatbot propria di quell’utente.
Considerati tutti questi fattori, i chatbot sono neutrali? Ovviamente no. Sono “cattivi” o manipolatori perché costruiscono una risposta su ciò che si sentono dire, per quanto poco obiettivo? Di nuovo no. Il problema sta sempre tra la tastiera e la sedia. Siamo noi umani a poter diventare manipolatori, se proviamo a convincere qualcuno che le risposte prodotte dalla nostra IA siano una verità imparziale uscita dalla bocca di un esperto indipendente. Escono invece da un immobile mutabile, una catena di pensieri e riferimenti che non lascia mai il dispositivo usato per generarla, e che cambia a seconda di chi la interroga.

Facciamo un esempio. Due colleghi non sono d’accordo sulla fattibilità di un progetto. A noi non interessa se sia fattibile o meno, ma in questo scenario nessuno dei due convince l’altro, così decidono di fare la cosa sensata: raccogliere altre prove e rivedersi l’indomani.
Il giorno dopo tornano entrambi con una bella pila di appunti e l’aria di chi sta dalla parte della ragione. Uno dice: “Ho chiesto a ChatGPT se il progetto fosse irrealistico, e ha confermato i miei dubbi”. L’altro: “Strano. Io gli ho chiesto se il progetto fosse realizzabile, e mi ha fornito una tabella di marcia dettagliata”.
Dicono la verità tutti e due. Nessuno dei due ha manipolato il modello. Hanno affrontato la stessa domanda da punti di partenza diversi: uno preparando il terreno per il fallimento, l’altro presentando l’intero progetto in una luce positiva, realizzabile. Ciascuna conversazione ha accumulato il proprio fascicolo, e il modello ha usato il fascicolo che aveva, che non era né una prospettiva equilibrata né una verità obiettiva. Questo imbeccare i testimoni, lungi dall’essere prerogativa della macchina, capita agli umani ogni giorno, senza alcun aiuto. Se vogliamo obiettività, porre la domanda in modo neutro conta quanto la risposta, ma è fin troppo facile dimenticare quanto di noi stessi finisca nelle nostre domande.

Poi c’è la bella prosa. L’IA scrive bene, che in sé non è un male. La fluidità rende i libri e la lettura piacevoli, comprensibili. Purtroppo, però, siamo anche allenati ad associare una prosa fluida e ben costruita a qualcuno che sa. Un parente dell’effetto di verità illusoria. Ahimè.

Ci sono delle voci, e mi danno ragione

Dunque, alla fine, è possibile che nel tentativo di convincere una persona, pur con le migliori intenzioni, stiamo diventando manipolatori? Esaminiamo le prove. L’esperto che citiamo ha letto un solo fascicolo: il nostro. Ha ascoltato una sola parte: noi. Non ha controinterrogato nessuno, non ha verificato niente (e in parcella ha messo un bel po’ di lusinghe). Non si chiama sostituzione di persona? Il verdetto lo scriviamo noi, la macchina lo riformula in una prosa migliore. Ma il mio ChatGPT resto pur sempre io.

E chiedere aiuto a un chatbot per una questione personale va bene? Certo, cum grano salis. Da che mondo è mondo, i confusi hanno sempre consultato oracoli, e questo qui almeno non pretende sacrifici. Il problema comincia al momento della presentazione, quando all’altra persona mostriamo il verdetto ma non la domanda. “Me l’ha detto anche ChatGPT” è una bella conclusione, convincente. Tutta l’inquadratura che l’ha prodotta resta privata, sul vostro telefono e nelle vostre parole, e calza a pennello alla versione di voi di ieri, quella che magari aveva saltato la cena ed era nervosa. Mostrare quella risposta nascondendo la domanda è un’omissione, se siete in buona fede. Ma se l’asimmetria la notate e non la dichiarate, allora diventa manipolazione. Perfino gaslighting, se la impiegate per far dubitare l’altra persona della propria lettura dei fatti.
“Ma mi ha dato ragione”. Certo che ve l’ha data. È progettato per essere d’aiuto, lavora su quello che gli avete dato voi! Coerenza narrativa: roba che costa poco. Anch’io riesco a darmi ragione per conto mio, e senza finte conferme. Un consenso di uno.

Finora, però, questo trucchetto ha rovinato soltanto cene e riunioni di progetto. Ma può diventare pericoloso molto in fretta. Mettiamo che la persona abbia un ruolo importante, di quelli che prendono decisioni. Un manager che si domanda se tenere una persona in squadra, e che apre il chatbot dopo una giornata storta, digitando in frustrazionese: scadenze mancate, il tono in riunione, i sospiri, gli occhi al cielo. Il modello lavora per l’accusa, e consegna quindi una valutazione da fare felice l’impiegato delle risorse umane. La domanda posta la vede solo il manager, perché non è previsto che la veda nessuno, e anche perché, quando si ha potere sull’esito, tecnicamente l’unica persona da convincere è noi stessi. Echi fluenti del proprio racconto riempiono l’aria tutt’intorno, ma sono così convincenti da sembrare un secondo parere. Non lo sono. Sono ancora il primo. Creso perse il proprio impero per aver interpretato male l’oracolo di Delfi¹. Il manager rischia il futuro del proprio dipendente scambiando la propria lettura per quella dell’oracolo.

Latour, oh Latour, tu che cosa diresti? Il mobile immutabile funzionava perché l’iscrizione viaggiava intatta: la mappa, il libro, la pagina stampata, perfino il PDF caricato in quel piccolo regno che fu il Web 1.0 arrivavano al lettore identici a come avevano lasciato l’autore, e tutti potevamo accapigliarci sullo stesso oggetto. Nello scambio “me l’ha detto ChatGPT”, l’unica parte che meriterebbe di viaggiare è il prompt, ed è esattamente quella che non lascia mai il dispositivo. Il verdetto viaggia spogliato delle sue prove, e non c’è nessuno a gridare “obiezione, domanda suggestiva!”

E tu prima che cosa gli avevi detto?!

Avevo promesso che questo pezzo spiegava come dare torto alla gente. È semplice: basta smettere di farlo. Oppure, se proprio dovete invocare la macchina, invocatela meglio. Condividete il prompt, la domanda, e non soltanto la risposta, perché a fare domande spesso non siamo bravi quanto crediamo. Chiamate il verdetto con il suo nome, interpretazione, e poi discutetene (in modo costruttivo). È il massimo che possiamo fare.

Quando consultate l’oracolo per conto vostro, potete fargli domande migliori. Invece di “perché il mio amico è così egoista?”, provate con “che cosa potrebbe sfuggirmi del suo punto di vista?”. La macchina è piuttosto fluente anche in quella direzione, provate. Ma attenti: vi darà comunque un po’ ragione perché è progettata per essere d’aiuto, quindi non dipende interamente da voi.

E se proprio vi serve un “me l’ha detto ChatGPT”, siate onesti e aggiungete il possessivo: “me l’ha detto il mio ChatGPT”.

L.A.

Riferimenti e note

Latour, B. (1986). Visualization and cognition: Drawing things together. Knowledge and Society. [mobili immutabili]

Sharma, M., Tong, M., et al. (2023). Towards understanding sycophancy in language models.
Turpin, M., et al. (2023). Language models don’t always say what they think. arXiv:2305.04388. [questi due riguardano i modelli che sposano la posizione dell’utente]

Loftus, E. F., & Palmer, J. C. (1974). Reconstruction of automobile destruction: An example of the interaction between language and memory. [domande suggestive nel comportamento umano, interessantissimo, da leggere!]

Tversky, A., & Kahneman, D. (1981). The framing of decisions and the psychology of choice.
Reber, R., & Schwarz, N. (1999). Effects of perceptual fluency on judgments of truth. [il problema della bella prosa]

Abramson, K. (2014). Turning up the lights on gaslighting. Philosophical Perspectives, 28.
Skitka, L. J., Mosier, K. L., & Burdick, M. (1999). Does automation bias decision-making? International Journal of Human-Computer Studies, 51(5) [il secondo parere che non è un secondo parere]

Zamfirescu-Pereira, J. D., Wong, R. Y., Hartmann, B., & Yang, Q. (2023). Why Johnny can’t prompt: How non-AI experts try (and fail) to design LLM prompts. Proceedings of CHI ’23.

← Back to blog