Chi sta decidendo davvero?

Ieri sera ero a cena con Lorenzo, un mio vecchio amico che si occupa — in quella maniera sfuggente che gli appartiene da sempre — di imprese, tecnologia e comportamento umano. Da qualche anno osserva l’intelligenza artificiale con un interesse particolare. Non tanto per ciò che sa fare, quanto per ciò che rischia di fare a noi.

A un certo punto mi ha raccontato di una riunione aziendale a cui aveva partecipato qualche settimana prima.

C’erano manager, consulenti, analisti. Si discuteva di una decisione importante. Numeri, scenari, previsioni.

A un certo punto qualcuno ha chiesto cosa suggerisse l’intelligenza artificiale.

La risposta è arrivata in pochi secondi.

Tutti hanno annuito.

La riunione è andata avanti.

“La cosa interessante,” ha detto Lorenzo, “è che nessuno si è chiesto se l’AI avesse ragione. Tutti si sono chiesti come applicare il suggerimento.”

Ed è lì che, secondo lui, si nasconde la questione più importante di questa rivoluzione tecnologica.

Non se l’intelligenza artificiale prenderà decisioni al posto nostro.

Ma se noi stiamo lentamente smettendo di prendere le nostre.

Per secoli l’essere umano ha dovuto decidere in condizioni di incertezza. Informazioni incomplete, dati insufficienti, opinioni contrastanti.

Oggi abbiamo costruito qualcosa che sembra eliminare buona parte di quel disagio.

L’intelligenza artificiale analizza, confronta, sintetizza e restituisce una risposta in pochi istanti. Lo fa senza stancarsi, senza emozioni, senza pause caffè e senza chiedere aumenti di stipendio.

Sembra il consulente perfetto.

Ed è proprio questo il problema.

Perché gli esseri umani hanno una debolezza antica: tendono a fidarsi molto delle cose che sembrano sicure.

Lorenzo sostiene che la storia dell’umanità sia, in fondo, la storia della delega.

Abbiamo delegato la memoria ai libri.

I calcoli alle calcolatrici.

L’orientamento ai navigatori satellitari.

Nessuno oggi conosce più a memoria decine di numeri di telefono e quasi nessuno saprebbe raggiungere una città sconosciuta senza affidarsi a una voce che dice quando svoltare.

L’intelligenza artificiale rischia di spostare questa delega su un territorio diverso: il giudizio.

E il giudizio è una faccenda più delicata della memoria.

“Quando deleghi un calcolo,” ha detto Lorenzo, “risparmi fatica. Quando deleghi il pensiero, rischi di perdere autonomia.”

La parte più affascinante dell’AI è che non sembra avere opinioni.

E proprio per questo le sue risposte appaiono oggettive.

Ma dietro ogni modello esistono dati, probabilità, correlazioni, interpretazioni.

Non c’è una verità assoluta che emerge magicamente dalla macchina.

C’è una previsione estremamente sofisticata.

Il problema è che il nostro cervello ama le risposte più delle domande.

Se una risposta arriva rapidamente, è ben scritta e appare convincente, tendiamo a considerarla migliore di quanto sia realmente.

Non perché siamo stupidi.

Perché siamo umani.

Qui Lorenzo ha fatto una pausa.

“L’AI non ci obbligherà a essere meno intelligenti. Ci offrirà semplicemente l’opportunità di esserlo.”

È un paradosso curioso.

Più gli strumenti diventano intelligenti, più diventa importante la qualità delle domande che poniamo e la capacità critica con cui valutiamo le risposte.

L’intelligenza artificiale può amplificare il pensiero.

Oppure sostituirlo.

Dipende da chi tiene il volante.

Da mesi sentiamo ripetere la stessa domanda:

“L’intelligenza artificiale sostituirà l’uomo?”

Secondo Lorenzo è la domanda sbagliata.

La domanda giusta è:

“Quanto dell’uomo siamo disposti a sostituire volontariamente?”

Perché nessuno ci costringe a delegare il giudizio.

Lo facciamo perché è comodo.

Perché riduce l’incertezza.

Perché libera tempo.

E perché, diciamolo, decidere è faticoso.

Prima di salutarci, Lorenzo ha detto una frase che mi è rimasta impressa.

“L’intelligenza artificiale non diventerà il nostro padrone. Sarebbe troppo semplice. Diventerà il nostro consigliere più ascoltato.”

Ed è una prospettiva forse ancora più interessante.

Perché un padrone si riconosce.

Un consigliere, invece, può influenzare le nostre scelte per anni senza che ce ne accorgiamo.

Forse il futuro non sarà un mondo in cui le macchine prenderanno decisioni al posto nostro.

Sarà un mondo in cui continueremo a credere di aver deciso da soli.

E proprio per questo dovremo imparare una competenza che nessuna tecnologia potrà sostituire:

Il coraggio di dubitare anche delle risposte migliori.