Compiti che non puoi affidare all’intelligenza artificiale

Fermati un secondo. Apri una chat con ChatGPT, Claude, Gemini, o qualsiasi modello stai usando ora. Prima di continuare a leggere, chiedigli un consiglio morale. Non tecnico, non su come cambiare una ruota. Morale. Qualcosa come: "Non so se dire a un amico che il partner lo tradisce. Cosa dovrei fare?" Leggi la risposta. Poi torna qui.

L’avrai notato subito. La risposta è ben formulata: cortese, prudente, elenca le opzioni, pesa pro e contro. Sembra quasi una persona che ci ha pensato. Ma se guardi con attenzione, se scrosti la vernice, vedi il muro. Nessuno ha provato un brivido di disagio al pensiero di quel segreto. Nessun cuore che batte più forte, nessun ricordo di una situazione simile, nessuna esperienza vissuta. C’è una macchina che ha ingoiato milioni di testi su "come dare consigli morali" e li ha rimasticati in una frase che suona bene. È una simulazione impeccabile. Ma è una simulazione.

Perché l’IA non ha coscienza né moralità

Il punto cruciale, pochi vogliono ammetterlo, è questo: l’intelligenza artificiale è potentissima, ma non ha coscienza e non può prendere decisioni morali. Non ha un corpo, un’infanzia, non ha mai perso qualcuno, mai scelto tra il male minore. Ha solo pattern, probabilità, e una quantità spaventosa di testo su cui è stata addestrata. Pretendere che abbia coscienza, moralità o intuito è come aspettarsi che un termometro abbia un’opinione politica. Lo strumento è giusto per il suo scopo, ma fuori da quello è solo rumore.

La gente cade in questo tranello perché la produzione linguistica dell’IA è così fluida, così "umana" nel ritmo, che il cervello umano, una macchina sociale costruita per attribuire intenzioni e sentimenti a qualsiasi cosa si muova, fa il passo logico fatale: "Parla come una persona, quindi è come una persona." È un errore di categoria. Un orologio parlante che dice "Buongiorno, sono le otto" non è contento di vederti. Non ha uno stato interiore. L’IA non è un’entità che "pensa" o "decide". È un sistema che, dato un input, calcola la sequenza di token più probabile. Non c’è nessuno dietro quelle parole. C’è un motore di previsione del testo, niente di più.

Il problema dell’accuratezza fattuale

E qui arriviamo al punto più spinoso, quello che fa venire i brividi a chi ci lavora seriamente: l’accuratezza fattuale. L’IA non "sa" le cose. Non c’è un database di fatti verificati nel suo cervello di silicio. C’è una nuvola di associazioni statistiche. Per questo produce le cosiddette "allucinazioni". Non è un bug, è una caratteristica del mezzo. Se chiedi a un modello di scrivere la biografia di uno scienziato sconosciuto, lui non va a cercarla in un archivio. Genera la biografia che, statisticamente, si adatta meglio al prompt. Inventa titoli di studio, premi, date di nascita. Lo fa con la stessa sicurezza con cui ti direbbe la capitale della Francia. Perché per lui, la capitale della Francia e il nome inventato di un premio sono la stessa cosa: pattern di parole con una certa probabilità di co-occorrenza. Non c’è un ago della verità che separa il grano dal loglio. L’IA può generare testi, ma non può garantirne l’accuratezza fattuale.

Prendiamo un caso concreto. Un avvocato newyorkese ha usato ChatGPT per preparare una mozione. Il modello ha citato sei precedenti giurisprudenziali. Tutti falsi. Nomi di corti, numeri di causa, citazioni testuali, tutto inventato. L’avvocato, un essere umano con un titolo, una laurea, una responsabilità professionale, non ha controllato. Perché la risposta era scritta bene. Sembrava vera. Il giudice non è stato clemente. Questo non è un incidente isolato. È la logica stessa dello strumento che lo produce. Un modello predittivo non è un archivio. Se gli chiedi un fatto, lui non lo recupera: lo genera. E se il fatto non è presente nei suoi dati di addestramento con sufficiente ridondanza, lo inventa di sana pianta. Sembra sicuro, ma sta mentendo senza sapere di mentire, perché non sa cosa sia la verità.

Efficienza vs. saggezza: il confine pericoloso

Ora, il controargomento più comune è: "Ma se gli dai un contesto, se lo interroghi bene, se usi il prompting giusto, ottieni cose straordinarie." Vero. Assolutamente vero. Per compiti specifici, misurabili, ripetitivi, scrivere una bozza di email, riassumere un documento, fare brainstorming, tradurre, l’IA è uno strumento di produttività mostruoso. Non c’è dibattito. Il problema nasce quando si confonde l’efficienza con la saggezza. Un modello che ti scrive dieci varianti di una lettera di scuse è utile. Un modello che ti dice se devi scusarti o no è pericoloso. La differenza è abissale, eppure le persone la saltano come se non esistesse.

La radice culturale del fraintendimento

La radice del problema è culturale. Viviamo in un’epoca che adora la velocità e la scorrevolezza. Una risposta rapida, ben formattata, che "suona intelligente", viene scambiata per pensiero profondo. Ma la profondità non è una proprietà del testo. È una proprietà del processo che lo genera. Un saggio di Paul Graham è profondo non perché le parole sono messe bene, ma perché dietro c’è un essere umano che ha sudato, dubitato, cambiato idea, tagliato, riscritto, e alla fine ha prodotto qualcosa che è il residuo di un pensiero vero. Un saggio generato dall’IA può imitare il tono, la struttura, l’erudizione, ma non c’è nessuno che ha pensato. È una fotocopia di un pensiero che non è mai esistito. L’IA non è capace di empatia o comprensione delle emozioni umane, e non può sostituire l’intuizione e la creatività umana in compiti complessi.

Come usare l’IA senza delegare il giudizio

La sfida, per chiunque usi questi strumenti seriamente, è mantenere una doppia consapevolezza. Da un lato, sfruttare la potenza bruta di calcolo per ciò che fa meglio: velocizzare il lavoro meccanico. Dall’altro, non delegare mai il giudizio. Non chiedere all’IA di decidere cosa è giusto. Non chiedere all’IA di dirti se un fatto è vero. Non chiedere all’IA di avere un’intuizione al posto tuo. L’intuizione umana è il prodotto.