L’AI e il paese che non la capisce

Il problema non è la macchina. È chi la usa

di Francesco Giannelli – CEO e Fondatore Nexus

Collana: Sostiene Lorenzo…

Ieri sera ero a cena con Lorenzo, un mio vecchio amico che si occupa — in un modo che ogni volta richiede una spiegazione diversa — di imprese, tecnologia e comportamento umano. Ha iniziato a interessarsi di intelligenza artificiale quando ancora non esistevano abbonamenti mensili né interfacce amichevoli, quando per parlarne bisognava avere pazienza e, soprattutto, un certo gusto per la complessità. Oggi la osserva con lo stesso sguardo con cui guarda i mercati: senza entusiasmo facile, ma con un’attenzione quasi chirurgica per gli effetti che produce.

Gli ho citato un dato che circola in questi giorni, uno di quelli che sembrano banali finché qualcuno non li mette in fila nel modo giusto. Solo il 7% degli italiani dichiara di sapere “molto” di intelligenza artificiale; il 67% percepisce un rischio per la propria sicurezza; ma appena il 10% è in grado di riconoscerlo quando quel rischio si manifesta davvero.

Lorenzo non si è stupito.
Ha ascoltato, ha fatto una pausa e poi ha detto, con quella calma che di solito precede un ragionamento più ampio:

“È una distribuzione perfetta. Paura diffusa, comprensione minima, capacità di reazione quasi casuale.”

Poi ha aggiunto qualcosa che ha spostato subito il discorso su un altro piano:

“Il problema non è l’AI. È l’asimmetria tra chi la usa e chi crede di usarla.”

Un Paese che adotta prima di capire

C’è qualcosa di profondamente italiano — ma non solo italiano — nel modo in cui stiamo entrando in questa nuova fase tecnologica. Strumenti potentissimi sono diventati improvvisamente accessibili a chiunque, con una semplicità che fino a pochi anni fa sarebbe sembrata fantascienza. Basta una domanda, anche formulata in modo impreciso, e si ottiene una risposta; basta un’idea vaga, e qualcuno — o qualcosa — la sviluppa per noi.

Il risultato è una diffusione rapidissima, quasi entusiasta, che però non è accompagnata da una comprensione altrettanto diffusa. È come se avessimo deciso collettivamente di iniziare a guidare un’auto molto veloce senza aver davvero interiorizzato il funzionamento del motore, dei freni, o anche solo delle regole della strada.

“Non è un problema finché tutto fila liscio,” ha detto Lorenzo, “ma diventa evidente nel momento in cui qualcosa devia dalla normalità.”

La paura senza oggetto

Il dato più interessante, in fondo, non è quel 7% così ridotto. È quel 67% che dichiara di percepire un rischio, come una presenza vaga, una minaccia che si intuisce ma non si sa descrivere.

Si teme l’intelligenza artificiale come si temono le cose che non si conoscono bene: in modo generico, spesso amplificato, a volte perfino affascinato. Si parla di lavoro che scompare, di decisioni automatizzate, di contenuti falsi, di manipolazione. Tutti scenari plausibili, alcuni già in atto.

Eppure, quando il rischio si presenta davvero — in una mail scritta troppo bene, in una voce che sembra reale ma non lo è, in un’immagine credibile ma costruita — quella stessa paura non si attiva. Non perché sia ingiustificata, ma perché non è stata educata.

Lorenzo ha appoggiato il bicchiere e ha detto, quasi sottovoce:

“Temiamo l’idea del pericolo. Ma non riconosciamo la sua forma concreta.”

Un esempio, fin troppo quotidiano

Per spiegarsi meglio, mi ha fatto un esempio che non aveva nulla di teorico.

Immagina un professionista qualsiasi — un avvocato, un consulente, un imprenditore — che riceve una mail apparentemente impeccabile. Il linguaggio è corretto, il tono coerente, la firma plausibile. Gli viene chiesto un documento, oppure una conferma, oppure un pagamento urgente.

La mail non contiene errori. Non tradisce fretta. Non sembra sospetta.

È stata generata, o almeno rifinita, da un sistema di intelligenza artificiale.

Quel professionista, che magari teme l’AI come concetto astratto, come minaccia sistemica, non ha strumenti per riconoscerla in quel momento preciso. Non perché sia ingenuo, ma perché nessuno gli ha insegnato a guardare in quel modo.

E così agisce, come avrebbe fatto dieci anni fa.

Solo che il contesto è cambiato.

Due intelligenze, due logiche

A questo punto Lorenzo ha introdotto quella che, secondo lui, è la vera questione, quella che raramente viene affrontata con chiarezza.

“L’AI non ragiona come noi,” ha detto. “E noi continuiamo a giudicarla come se lo facesse.”

L’intelligenza artificiale non capisce nel senso umano del termine. Non ha esperienza, non ha intenzioni, non ha memoria personale. Eppure è straordinariamente efficace nel simulare tutto questo, perché lavora su correlazioni, probabilità, schemi.

L’essere umano, al contrario, ha esperienza, contesto, capacità interpretativa. Ma spesso non ha metodo, o non lo applica con costanza.

È qui che nasce quella discrepanza sottile ma decisiva: noi attribuiamo all’AI una forma di intelligenza che non possiede, e allo stesso tempo sottovalutiamo il fatto che la nostra, pur essendo più ricca, è anche più disordinata.

L’infrastruttura che manca

Negli ultimi anni si è parlato molto di infrastrutture tecnologiche: di dati, di potenza di calcolo, di modelli sempre più avanzati. Tutto necessario, naturalmente. Ma, ascoltando Lorenzo, viene il dubbio che si stia trascurando l’unica infrastruttura senza la quale tutte le altre rischiano di essere inefficaci.

“La vera infrastruttura,” ha detto, “non è tecnologica. È culturale.”

Senza una diffusione minima di competenze — non tecniche, ma interpretative — l’AI finisce per amplificare non solo le capacità, ma anche le fragilità. Rende più veloci le decisioni, ma non necessariamente migliori; rende più accessibili le informazioni, ma non più affidabili.

Un Paese che adotta l’AI senza comprenderla è un Paese che si muove velocemente, ma senza una direzione chiara.

L’illusione più pericolosa

C’è poi un aspetto, forse il più ingannevole di tutti: la facilità.

L’intelligenza artificiale è, per sua natura, uno strumento estremamente accessibile. Non richiede anni di formazione per iniziare a usarla, non impone barriere evidenti, non scoraggia.

E proprio per questo genera un’illusione sottile: quella di aver capito.

“Quando qualcosa è troppo facile da usare,” ha osservato Lorenzo, “diventa difficile accorgersi di quanto sia complesso.”

Si usa, funziona, risponde. E questo basta per convincersi di averne il controllo.

L’ultima frase

Prima di salutarci, Lorenzo ha detto una cosa che, come spesso accade, sembrava semplice solo in apparenza:

“L’AI non è pericolosa perché è troppo intelligente. È pericolosa perché noi non lo siamo abbastanza, nel modo giusto.”

Non si tratta di diventare esperti, né di trasformarsi tutti in tecnologi. Si tratta, piuttosto, di sviluppare una forma minima di consapevolezza: capire cosa si sta usando, quali sono i suoi limiti, in quali situazioni può ingannare.

Perché l’intelligenza artificiale, più che sostituire chi non la conosce, tenderà a esporlo.

E forse la vera domanda, più che tecnologica, è culturale:

quanto siamo disposti a imparare qualcosa che, apparentemente, funziona anche senza di noi?

 

Per commenti e domande www.nexusx.it