Gianluca Pennino, Chief Strategy & Innovation Officer già autore dei tre volumi "L'intelligenza oltre il biologico", "Dalla fabbrica all'algoritmo" e "L'Umano invisibile" con cui ha affrontato il tema da tre angolazioni complementari (filosofica, politica e operativa), è tornato con “Il mago meccanico: Dietro il sipario dell'intelligenza artificiale” (Amazon KDP) per sciogliere il nodo epistemologico dell’intelligenza artificiale generativa, distinguendo tra comprensione e verosimiglianza e proponendo una guida all’uso consapevole degli strumenti linguistici automatizzati.
Gianluca, la sua "Tetralogia sull’Era Algoritmica" si presenta
come un ambizioso progetto saggistico interdisciplinare. Qual è il nucleo
centrale o la preoccupazione fondamentale che fa da collante a volumi
apparentemente così diversi, che spaziano dalla filosofia della mente alla
sociologia economica fino all'antropologia delle organizzazioni?
Non l'ho progettata a tavolino. Il collante è emerso scrivendo. Ma
se oggi dovessi nominarlo, direi che è una sola domanda: che cosa resta
dell'umano quando l'intelligenza smette di essere una prerogativa
esclusivamente umana?
Non mi interessa molto la paura della sostituzione, quella
appartiene più al cinema che alla filosofia. Il punto è più sottile: è una
scomparsa silenziosa. Deleghiamo, e a forza di delegare rischiamo di smettere
di sentirci responsabili. Nei libri lo chiamo scarico algoritmico della
responsabilità: la tendenza a trasferire alla macchina non
solo un compito, ma anche il peso morale della decisione.
È questo il filo che attraversa tutti e quattro i volumi, anche
quando parlano di cose apparentemente lontanissime.
Cambia soltanto l'angolo di osservazione. L'intelligenza oltre
il biologico nasce per chi studia la mente, filosofi e
ricercatori: l'intelligenza delle macchine deve per forza somigliare alla
nostra? Io credo di no, ed è proprio lì che la cosa diventa interessante. Dalla fabbrica
all'algoritmo cambia bersaglio e guarda al potere: chi
controlla la nuova fabbrica cognitiva, chi ne raccoglie i benefici, chi ci
finisce dentro senza accorgersene. L'Umano invisibile scende
nelle aziende, dove le trasformazioni falliscono non perché manchi la
tecnologia, ma perché ci si dimentica delle persone. Il mago meccanico
è un'altra cosa ancora: è per tutti, e torna alla domanda di partenza. Queste
macchine capiscono davvero, o imitano soltanto?
L'unica cosa che non faccio mai, in nessuno dei quattro libri, è
trattare la tecnologia come neutra. Non lo è. Una macchina è sempre una
decisione su come vogliamo stare al mondo, travestita da strumento.
Se dovessimo descrivere con degli aggettivi ognuno dei quattro volumi,
quali userebbe?
Per L'intelligenza oltre il biologico direi:
speculativo, vertiginoso, ambizioso fino all'eccesso. E lo rivendico. È il
libro in cui mi sono permesso di spingere la domanda sull'intelligenza oltre i
confini più rassicuranti.
Dalla fabbrica all'algoritmo è politico, conflittuale, scomodo. È probabilmente il volume che
può far arrabbiare di più, e va bene così. Perché il tema non è soltanto che
cosa può fare l'intelligenza artificiale, ma chi ne controlla l'infrastruttura,
i benefici, le dipendenze.
L'Umano invisibile è concreto, operativo, sporco di mani. È il libro degli
ottocentomila euro buttati in un software che nessuno apre. Il libro delle
dashboard perfette e delle persone che continuano a lavorare su Excel, WhatsApp
e telefonate perché nessuno ha capito davvero come lavorano.
Il mago meccanico è divulgativo, disincantante, smascherante. È l'unico che ho
scritto esplicitamente per chiunque, non solo per gli addetti ai lavori. Fa una
cosa sola: mostra com'è fatto il trucco. E questo è il punto, perché un trucco
funziona solo finché non sai come funziona.
AI Act: un
suo commento?
L'AI Act è il tentativo più serio al mondo di mettere regole a un
campo che per troppo tempo è cresciuto più rapidamente della nostra capacità di
comprenderlo. Già solo per questo va preso sul serio e, in linea di principio,
difeso.
L'impianto basato sul rischio ha senso: non tutte le applicazioni
di intelligenza artificiale hanno lo stesso impatto, e quindi non tutte possono
essere regolate nello stesso modo. Anche il cosiddetto "effetto
Bruxelles" è reale: l'Europa, quando regola bene, finisce spesso per
influenzare gli standard globali.
Detto questo, c'è un paradosso che mi preoccupa molto: l'Europa è bravissima
a regolare ciò che non produce. Possiamo certificare un
modello, possiamo imporre documentazione, possiamo perfino vietare alcuni usi.
Ma i modelli di frontiera, i chip, il cloud, le grandi infrastrutture
computazionali stanno in larga parte altrove.
E quando un'autorità chiede di guardare dentro la scatola, spesso
la risposta è: segreto industriale. È come se una FDA dovesse approvare farmaci
senza poter davvero analizzare la composizione chimica.
Senza una sovranità tecnologica reale, il rischio è che la
regolazione diventi una forma elegante di impotenza: documentazione
perfettamente conforme, ma pochi strumenti per verificare davvero che cosa
accade dentro i sistemi. Un arbitro preparatissimo, ma senza una squadra in
campo.
Sembra non decollare l’intelligenza artificiale nelle imprese italiane.
Perché?
Perché continuiamo a raccontarci che sia un problema di tecnologia
o di soldi. E quasi mai è solo questo.
I dati più recenti dicono che l'uso dell'intelligenza artificiale
nelle imprese italiane sta crescendo: nel 2025 il 16,4% delle imprese con
almeno dieci addetti utilizza almeno una tecnologia di IA, il doppio rispetto
all'anno precedente. Ma attenzione a leggerlo come una vittoria. Lo stesso
rapporto ISTAT dice due cose che spostano il discorso: la prima barriera
all'adozione non sono i costi, sono le competenze e la cultura organizzativa, e
il divario tra grandi imprese e PMI, invece di chiudersi, si allarga. Quindi il
punto vero non è comprare gli strumenti. È farli vivere dentro
l'organizzazione.
Molti progetti digitali non falliscono per limiti tecnici, ma per
resistenza umana, culturale, organizzativa. Io la chiamo cecità antropologica:
si installa lo strumento e ci si dimentica delle persone che dovrebbero
abitarlo.
Qui c'è un paradosso molto italiano. La forza delle nostre PMI è
spesso esattamente ciò che questi sistemi rischiano di appiattire: la
conoscenza tacita, il mestiere, la relazione, l'eccezione gestita a voce,
l'intuizione commerciale, il dettaglio che non entra nel processo standard.
Il venditore che tiene il cliente migliore su WhatsApp invece che
sul CRM non è necessariamente un arretrato. Magari ha capito che quel software
gli ha trasformato una relazione in un modulo da compilare.
Finché vendiamo l'intelligenza artificiale come sostituzione e non
come potenziamento di quel sapere, le persone la sabotano. E spesso hanno
ragione loro. L'innovazione che dimentica l'essere umano non è innovazione: è
installazione.
Lei è padre di quattro figli. Come educare la nuova generazione all’uso
etico e consapevole di questo nuovo e potente strumento?
Parto da una scena che racconto anche ne Il mago meccanico.
Un bambino di otto anni chiede a ChatGPT perché si sono estinti i dinosauri,
riceve una spiegazione chiara, paziente, ben costruita. E spontaneamente
ringrazia. Ringrazia la macchina.
Nessuno glielo ha insegnato. Lo fa perché quella risposta sembra
venire da qualcuno che lo ha ascoltato davvero.
Ecco, secondo me il mestiere di padre comincia lì. Non bisogna
insegnare ai figli semplicemente a usare lo strumento: quello lo imparano in
dieci minuti, spesso meglio di noi. Bisogna insegnare loro a non averne sempre
bisogno. E soprattutto a riconoscere la differenza tra capire una cosa
e sentirsela raccontare
in modo convincente.
Questi sistemi sono fortissimi nel rendere verosimile qualunque
cosa. E un ragazzo che non distingue il vero dal verosimile è un ragazzo
disarmato.
A casa, quindi, io cerco di difendere l'attrito. Il dubbio. La
fatica di arrivarci da soli prima di chiedere alla macchina. L'abitudine di
verificare invece di fidarsi del tono. Perché questi sistemi rispondono con la
stessa sicurezza quando sanno e quando inventano. Non si accende mai un
semaforo rosso.
Non vieto nulla, sarebbe ipocrita visto che con queste tecnologie
lavoro ogni giorno. Chiedo però una cosa: che restino loro i padroni delle
proprie decisioni. La vera minaccia non è la macchina che pensa. È l'essere
umano che smette.
Un’ultima domanda: di fronte ai paradossi dell'efficienza contemporanea
(siamo più connessi ma più isolati), lei cosa propone?
Diffido un po' della domanda, lo dico onestamente, perché spesso
presuppone che esista una soluzione semplice. E di solito chi vende la
soluzione vende anche lo stesso meccanismo che ha creato il problema.
Quindi non ho una ricetta. Ho, al massimo, una direzione.
Questi paradossi (più efficienti ma meno efficaci, più connessi ma
più soli, più informati ma meno capaci di giudicare) non sono guasti
accidentali da riparare. Sono il prezzo di scelte di progettazione che abbiamo
fatto senza accorgercene.
Il primo passo, banale eppure quasi mai compiuto, è smettere di
misurare solo ciò che è facile misurare: i messaggi scambiati, i tempi di
risposta, i task chiusi, le call fatte, le notifiche evase. Lì i numeri salgono
mentre la fiducia cala. E quasi nessuno guarda il secondo grafico.
Quello che propongo è reintrodurre intenzionalmente ciò che
l'efficienza taglia per prima: la lentezza, la presenza fisica, il silenzio,
l'attenzione, il peso di una decisione che resta tua.
In azienda questo può tradursi in principi molto concreti: tenere
una quota di decisioni in mano agli esseri umani anche quando la macchina
farebbe prima; proteggere spazi di confronto reale; non trasformare ogni
relazione in flusso, ogni intuizione in metrica, ogni responsabilità in
procedura.
Non per nostalgia. Non perché il passato fosse migliore. Ma perché
quel muscolo lì, il muscolo del giudizio, della presenza, della responsabilità,
se non lo usiamo si atrofizza.
Ci riusciremo? Non ne sono sicuro. Ma una cosa la so: una società
efficientissima ma incapace di decidere umanamente non è una società avanzata.
È soltanto una macchina ben oliata che ha dimenticato perché si muove.
