Scorri il tuo feed preferito per cinque minuti. Poi dimmi quanti post sembrano scritti dalla stessa persona - una persona che non esiste, che non ha mai avuto un'opinione vera, ma che costruisce frasi dall'aria autorevole e dal contenuto nullo.

Ethan Mollick, ricercatore a Wharton e una delle voci più lucide sull'AI applicata, lo chiama in modo preciso: meaning-shaped attention vampires. Testi che sembrano significativi, ma che consumano attenzione e non restituiscono nulla in cambio. E il problema è che li produciamo noi, spesso senza accorgercene.

Il vero costo non è la qualità del testo

Quando si discute di AI nella scrittura, il dibattito si inceppa quasi sempre sulla qualità dell'output: "si capisce che è AI", "non ha personalità", "è generico". Tutti argomenti legittimi, ma che mancano il punto centrale: il costo reale dell'usare l'AI di default, infatti, non è un fatto estetico, ma cognitivo.

Mollick ha una storia personale interessante da raccontare a riguardo: scrive da decenni, ha sviluppato uno stile riconoscibile, e sa che quello stile è il prodotto di anni di lavoro scomodo - feedback duri, riscritture, insegnanti esigenti. Se avesse avuto un'AI che faceva il lavoro al posto suo, avrebbe saltato tutto quel percorso. E con esso, qualcosa di centrale alla sua carriera e alla sua soddisfazione professionale.

Questo non è nostalgia per la fatica, ma riguarda il modo in cui si costruisce la competenza e si apprende.

Cos’è il cognitive surrender?

Due ricerche recenti - entrambe con team sovrapposti, inclusi ricercatori di Wharton - mettono a fuoco la differenza con precisione.

Primo esperimento: degli studenti delle scuole superiori in Turchia usano ChatGPT per i compiti di matematica. Risultato: compiti migliori, sensazione soggettiva di imparare di più, performance ai test peggiore rispetto al gruppo senza AI. Il motivo è semplice: l'apprendimento richiede sforzo cognitivo. Se l'AI risolve il problema al posto tuo, non impari a risolverlo. Stai solo copiando da un'entità molto sofisticata.

Secondo esperimento: degli studenti a Taipei seguono un corso di Python di cinque mesi con un tutor AI che adatta la sequenza degli esercizi al singolo studente. Risultato finale: +0,15 deviazioni standard all'esame, senza AI e senza ore di insegnamento aggiuntive. L'equivalente stimato di 6-9 mesi di istruzione in più.

La differenza tra i due risultati non è casuale. Bjork ha mostrato che le condizioni che ostacolano l'apprendimento nel breve termine - difficoltà, errore, sforzo - producono retention e trasferimento migliori nel lungo termine. La facilità immediata è nemica dell'apprendimento profondo. Nel primo esperimento, l'AI ha rimosso le cosiddette difficoltà desiderabili. Nel secondo le ha calibrate, mantenendo la resistenza cognitiva necessaria senza sostituire il percorso.

I ricercatori Shaw e Nave di Wharton hanno dato un nome preciso al fenomeno: cognitive surrender (resa cognitiva). Non si tratta dell'utente pigro che si fa scrivere tutto dall'AI, ma dell'utente normale che riceve una risposta autorevole dall'AI e smette di pensarci.

E questo è importante su più livelli. Ma, per capirlo, dobbiamo fare un passo indietro.

La Dual System Theory

La psicologia cognitiva e l’economia comportamentale - in particolare grazie al lavoro di Daniel Kahneman - modellano la cognizione in due sistemi: il Sistema 1 e il Sistema 2. Non si tratta di aree specifiche del cervello, ma di modalità cognitive che riguardano il modo in cui prendiamo le decisioni, interpretiamo le informazioni, ragioniamo e scegliamo le strategie di azione e comportamento.

Il Sistema 1 è immediato, automatico, intuitivo e statistico, quindi incline ai bias (distorsioni cognitive e pregiudizi) e caratterizzato perlopiù da euristiche (strategie rapide e scorciatoie cognitive). Lo usiamo in moltissime situazioni diverse: per rispondere rapidamente a uno scenario imprevisto mentre guidiamo in città (i famosi riflessi pronti), interpretare alla meglio potenziali segnali di pericolo o gestire all’improvviso situazioni urgenti, costruire la nostra rappresentazione del mondo in modo induttivo - cioè organizzare la nostra esperienza in un modello del mondo coerente, che approssima i dati che abbiamo in modo statistico.

Nonostante non sia razionale (ma neanche irrazionale), è una risorsa evolutivamente fondamentale: serve a garantire la sopravvivenza nella complessità del mondo reale, a dotarci di un pensiero veloce, fornire intuizioni efficaci (anche se sub-ottimali), affrontare con una buona approssimazione statistica l’incertezza, gestire la mole di stimoli e informazioni che recepiamo in modo ottimizzato, permetterci di valutare, decidere e pianificare strategie in situazioni che richiedono rapidità, ecc.

Sono i famosi riflessi pronti, ma non solo: è la modalità di default con cui agiamo, quando non siamo concentrati su un compito in particolare, ma adottiamo il “pilota automatico”.

Il Sistema 2, invece, è lento, analitico, razionale e deliberativo. Lo attiviamo quando ragioniamo sulle cose, dobbiamo prendere decisioni complesse, ci soffermiamo a pensare, siamo impegnati in un’attività. La usiamo quando operiamo in modo logico, studiamo, lavoriamo con la matematica, ma anche quando dobbiamo fare delle scelte importanti. Serve ad affrontare problemi in cui bisogna “farsi due conti” per raggiungere una soluzione minimamente sufficiente e che richiedono effort cognitivo e regolazione emotiva. Quindi lo invochiamo solo quando occorre.

Per la totalità della nostra vita cognitiva, rimbalziamo continuamente tra questi due sistemi, con il S1 che delega alla bisogna al S2 lo sforzo cognitivo a seconda dello scenario che abbiamo davanti e del contesto.

Ma, con il livello attuale della GenAI, le scienze cognitive non possono rimanere indifferenti. Per quanto riguarda l’interazione umano-AI, infatti, Massimo Chiriatti ha introdotto qualche anno fa il Sistema 0 - che tratta l'AI come un'estensione cognitiva esterna e un partner attivo nel nostro flusso mentale. Questo sistema è infatti di una modalità che usiamo quando esternalizziamo alcune attività cognitive all'AI, che è in grado di elaborare enormi quantità di dati ed eseguire operazioni complesse al di là delle capacità umane.

Ma recentemente è stato fatto un passo in avanti…

La resa cognitiva non è un caso estremo

I ricercatori di Wharton, infatti, propongono ora il Sistema 3 per modellare meglio la cognizione estesa dall’umano all’AI. Il problema specifico del Sistema 3 è che opera con padronanza e sicurezza apparente anche quando sbaglia, e lo fa in un formato (testo scritto, ben costruito) che il Sistema 1 tende ad associare automaticamente a pensiero umano competente. Il risultato è che bypassiamo il Sistema 2 senza accorgercene.

In uno studio su 758 consulenti di Boston Consulting Group, quelli con accesso a GPT-4 hanno nettamente sovraperformato i colleghi senza AI - tranne in un caso specifico: un problema per cui l'AI produceva una risposta plausibile ma sbagliata. In quel caso, i consulenti con AI erano meno accurati degli altri: l'AI aveva risposto con sicurezza e loro si erano fidati.

Il problema non è che l'AI sbaglia - anche perché sbaglia sempre meno. Il problema è che l'AI risponde sempre, anche quando non dovrebbe, e lo fa in modo convinto e convincente. E noi, evolutivamente programmati a leggere testi ben costruiti come il prodotto di pensiero umano competente, tendiamo ad abbassare la guardia.

C'è anche una dimensione neurobiologica. Il circuito dopaminergico si attiva non sul risultato atteso, ma sulla discrepanza tra attesa e risultato - cioè sul superamento di un ostacolo. Si tratta del cosiddetto prediction error dopaminergico.

La fatica e il fallimento correttivo non sono solo condizioni pedagogiche: sono il segnale che rende il successo neurologicamente saliente e costruisce motivazione profonda verso un dominio. Un sistema che esegue al posto dell'agente, con successo e senza sforzo, rimuove questo segnale e non solo produce assenza di apprendimento, ma anche assenza di curiosità verso ciò che non si è mai faticato a capire.

Cosa fare con questa consapevolezza

Questo non è un discorso luddista. Esiste una distinzione precisa tra cognitive offloading - delegare task ripetitivi e a basso effort cognitivo (calcoli, ricerche di dati) mantenendo il controllo sul ragionamento finale - e cognitive surrender - cedere il controllo del pensiero stesso, accettando l'output dell'AI come proprio senza poterne ricostruire la logica.

La prima è razionale, la seconda è strutturalmente diversa da qualsiasi delega precedente, perché l'AI è abbastanza generale da candidarsi a qualunque compito cognitivo, compresi quelli che costruiscono competenza. Infatti, mentre le automazioni del passato delegavano task, l’AI delega funzioni cognitive - rappresentazione, ragionamento, pianificazione, astrazione. Questa differenza qualitativa rende la resa cognitiva assolutamente diversa dall'usare una calcolatrice.

Alcune abitudini concrete aiutano a tenere il confine:

• Formula prima, interroga dopo. Prima di chiedere all'AI, abbozza una posizione - anche parziale, anche sbagliata. Preserva il processo di ragionamento che altrimenti viene semplicemente saltato.
• Riconosci i momenti di vulnerabilità. Stanchezza e pressione temporale aumentano la probabilità di accettare passivamente qualsiasi risposta autorevole. Sono i momenti in cui la resa è più silenziosa.
• Testa la comprensione. Se non riesci a spiegare la logica di una decisione senza partire da "l'AI ha detto", sei probabilmente già dentro la resa cognitiva.

La domanda che resta aperta è: quali capacità cognitive vale la pena tenere? Per quali task la delega è una liberazione e per quali è un'amputazione?

Una risposta parziale esiste, e viene dalla sociologia dell'expertise. Collins e Evans distinguono tra interactional expertise - saper dialogare con gli esperti di un dominio, capirne il linguaggio, fare le domande giuste - e contributory expertise - saper operare nel dominio, gestire i casi limite, produrre contributi originali. L'AI sviluppa efficacemente la prima, mentre la seconda richiede ancora pratica fisica.

L'asimmetria è insidiosa perché è invisibile all'agente stesso: chi delega sistematicamente sviluppa un profilo che appare competente, sa parlare del dominio, sa usare l'AI nel dominio, ma è strutturalmente più fragile quando l'AI sbaglia o quando il problema non ha precedenti.

L'adozione dell’AI viene quasi sempre misurata su metriche di produttività: tempo risparmiato, task completati, output generato. Raramente viene misurata su quello che si perde nel processo: la capacità di ragionare autonomamente su un problema, il giudizio calibrato dall'esperienza diretta, la competenza che si forma solo facendo le cose in modo difficile.

Non è un argomento contro l'adozione AI. È un argomento per un'adozione AI consapevole - che distingue tra cosa delegare e cosa mantenere, e che costruisce quella distinzione a partire da una comprensione reale di come funziona lo sviluppo delle competenze umane.

In poche parole, il tipo di consapevolezza che Ethan Mollick chiama "choosing to stay human".

Simone Conversano - AI Transformation Specialist - Datapizza