Questo è un ragionamento sul nome che diamo alle tecnologie, e su quanto quel nome pesi sul futuro di un Paese. Parlo soprattutto dell’intelligenza artificiale, perché è lì che oggi la posta è più alta, e lo spunto arriva da una puntata di Altri Orienti, il podcast di Simone Pieranni dedicato all’Asia, che muove da una domanda solo all’apparenza specialistica, cosa intende la Cina quando dice intelligenza artificiale. Altri Orienti, Ep. 176
L’obiezione materialista
La prima obiezione a un discorso così è anche la più seria, e conviene tenerla in mano per tutto il resto. Le parole non costruiscono data center, non incidono wafer di silicio, non addestrano modelli, non scrivono una politica industriale. Un Paese senza chip, senza energia, senza capitale e senza infrastruttura può scegliere le parole più belle del mondo e restare lo stesso a guardare. A furia di parlare di lingua e di immaginari si rischia di fare proprio quello che in Europa ci riesce meglio, nobilitare con categorie raffinate una debolezza materiale: gli altri costruiscono e noi interpretiamo, gli altri investono e noi distinguiamo.
L’obiezione contiene una verità che non conviene smontare, perché nessuna civiltà tecnologica si regge sul solo lessico. Il punto interessante comincia un passo più in là. Nessuna civiltà tecnologica si regge neppure senza lessico. Le parole non sostituiscono la materia, decidono il modo in cui una società dispone la materia dentro una visione. Decidono se una tecnologia verrà sentita come una minaccia o come una protesi, come un destino inevitabile o come una merce qualsiasi. E decidono, prima ancora, chi avrà il diritto di parlarne e chi dovrà soltanto obbedirle.
Ogni civiltà ha la sua tecnica
La puntata da cui parto serve esattamente a mostrare questo. Sostiene che non esiste una sola idea di tecnologia, neutra e valida per tutti, ma che ogni civiltà ne porta una propria, figlia della sua storia e della sua immagine del mondo. È il senso della parola che Pieranni usa, cosmotecnica: il modo in cui una cultura usa la tecnica dipende da come quella cultura vede il mondo e l’ordine delle cose. Detta sulla Cina suona esotica, ma vale anche per noi. Anche la nostra idea di tecnologia, che ci sembra l’unica possibile, è una posizione particolare che ha imparato a presentarsi come universale.
Il primo posto in cui questa differenza si vede è la traduzione. Il termine cinese 人工智能, che noi rendiamo con intelligenza artificiale, non coincide perfettamente con la nostra espressione, e attorno a questo disallineamento ruota un concetto, Machine Decision is Not Final, che lo usa proprio per rimettere in discussione cosa intendiamo per artificialità e per intelligenza, fuori dai luoghi comuni che dominano il discorso sull’AI. Urbanomic
Musk e Jack Ma, due grammatiche
La scena che tiene insieme tutto è del 2019, a Shanghai, alla World Artificial Intelligence Conference, quando Elon Musk e Jack Ma si trovano sullo stesso palco a discutere di futuro. Non sembrano due imprenditori dal carattere diverso, sembrano due modi opposti di pensare la macchina che per qualche minuto prendono forma umana. Musk parla di superintelligenza e di pericolo, di una vita umana da portare oltre la Terra, e arriva a dire che potremmo essere poco più del programma di avvio biologico di una intelligenza digitale destinata a superarci. Jack Ma risponde con un ottimismo tutto terrestre, l’AI non è una minaccia, è uno strumento uscito da mani umane, e dovrebbe servire a capire meglio noi stessi e a vivere meglio qui. WIRED raccontò quell’incontro come il dialogo tra un Ma molto più fiducioso e un Musk convinto che la macchina avrebbe superato in intelligenza anche l’essere umano più intelligente. WIRED
Sarebbe facile liquidarli con una caricatura, Musk profeta delle catastrofi della Silicon Valley e Jack Ma ottimista del capitalismo cinese. È una lettura comoda e perde la cosa che conta, e cioè che le loro parole si muovono dentro due grammatiche diverse. Musk parla come se l’intelligenza artificiale fosse una creatura capace di staccarsi da noi e di guardarci dall’alto, già più veloce e più sveglia. Jack Ma parla come se la macchina restasse comunque dentro l’orizzonte umano, una cosa che abbiamo inventato e con cui quindi possiamo convivere, e a cui possiamo chiedere conto.
Quella artificiale non è intelligenza
Sullo stesso nodo, in Italia, è intervenuta l’Accademia della Crusca con un articolo dal titolo già esplicito, Il nome (improprio) della cosa: quella artificiale non è intelligenza. Non è nostalgia per la lingua di una volta e non è la solita guerra all’anglicismo. È una tesi più scomoda: un nome sbagliato non è mai innocente. Se chiamo intelligenza un sistema che in fondo calcola probabilità, gli regalo una dignità mentale che forse non possiede. Se la stessa cosa la chiamassi, come l’articolo propone, simulazione artificiale di comportamento umano, la guarderei subito con meno incanto e più prudenza. Il nome non si limita a indicare l’oggetto, gli costruisce intorno una scena, e dentro quella scena stabilisce chi può entrare e a quali condizioni. Accademia della Crusca
Visto che c’è di mezzo la Crusca, vale la pena seguire una pista etimologica. La parola intelligenza viene dal latino intelligere, che è inter legere, cioè scegliere tra, cogliere una cosa distinguendola da quelle vicine. Alla radice, insomma, intelligenza vuol dire setacciare. È lo stesso gesto del frullone, lo staccio per la farina che la Crusca scelse come proprio emblema per separare il fior di farina dalla scoria. Chiamare intelligenza una macchina, allora, non è una semplice constatazione, è già una scelta che porta con sé una certa idea di mente, il pensiero ridotto a calcolo e l’intelligenza ridotta a una quantità che si può misurare e far crescere. Discutere quel nome non è pignoleria. È l’unico modo che abbiamo per tenere una mano su una tecnologia che non produciamo in casa.
Due scene che si fingono universali
Ogni nome, dicevo, costruisce una scena, e le due scene oggi più potenti non sono affatto neutre. In quella americana l’intelligenza artificiale è insieme frontiera e rischio per la sopravvivenza della specie, e ruota intorno alla figura del fondatore che vede prima di tutti gli altri. È un racconto efficace perché mette insieme una specie di religione laica e un mercato, con la salvezza o la fine del mondo sempre dietro l’angolo. Non è un racconto falso, è un racconto locale che ha avuto la forza di farsi passare per universale. Nella scena cinese, almeno come emerge da questo dibattito, l’AI è più facilmente uno strumento di governo e una prova di forza tecnologica dello Stato, dentro una pianificazione che già nel 2017 ha messo nero su bianco un piano nazionale con traguardi fissati al 2030. DigiChina, Stanford Nemmeno questa è un’essenza eterna della Cina, è il prodotto di una storia industriale e di una competizione geopolitica precise.
È qui che torna utile il filosofo Yuk Hui. La sua idea di cosmotecnica serve proprio a smontare la convinzione più radicata della modernità, quella per cui esisterebbe una sola tecnica, neutra e universale, identica ovunque e con lo stesso significato. Anche la tecnica occidentale, dice Hui, è una visione locale, nata da un certo modo di separare l’uomo dalla natura e di pensare il mondo come una riserva da sfruttare. Il paradosso è che proprio mentre ci accorgiamo di questa pluralità, lo sviluppo concreto dell’AI va nella direzione opposta, concentrato in poche aziende e in pochi luoghi, con pochissime lingue e pochissimi immaginari rappresentati. ICI Berlin
L’Italia importa, l’Europa regola
È da questo punto che conviene guardare all’Italia. Il problema italiano non è soltanto che investiamo poco, o che abbiamo poca scala industriale e poca pazienza. Il problema è che spesso non produciamo le parole con cui pensare la nostra tecnologia. Le importiamo. Le prendiamo dalla Silicon Valley, le facciamo passare per il linguaggio dei bandi, le appiattiamo nelle slide dei ministeri e poi le distribuiamo nel sistema pubblico come password per accedere al futuro. Digitale, innovazione, transizione, piattaforma, ecosistema: parole che sembrano operative e che a forza di essere ripetute non orientano più quasi niente.
Eppure un Paese si plasma anche così, nel vocabolario di tutti i giorni di chi lo amministra e di chi lo insegna. Se una pubblica amministrazione tratta l’intelligenza artificiale come una bacchetta magica per tagliare tempi e costi, costruirà un futuro fatto di scorciatoie. Se la tratta invece come un’infrastruttura da capire e da governare, ne costruirà uno più scomodo ma più solido. Quasi sempre, però, non la tratta affatto, la nomina soltanto per spuntare la casella di un finanziamento, e allora il futuro che ne esce è soltanto una simulazione amministrativa.
L’Europa, dal canto suo, ha scelto di dare un nome all’intelligenza artificiale soprattutto attraverso il diritto. L’AI Act, il regolamento europeo sull’AI, è in vigore dal primo agosto 2024 e si applica per gradi, con scadenze diverse per le pratiche vietate, per l’obbligo di formare chi usa questi sistemi, per i modelli di uso generale e per i sistemi ad alto rischio. Commissione Europea Non è una scelta da poco. È il tentativo di dire che la tecnologia non è soltanto potenza ma anche responsabilità, e che deve restare compatibile con i diritti delle persone e con un controllo umano reale. È forse una delle pochissime vere posizioni geopolitiche che l’Europa riesce a esprimere sulla tecnica.
Anche qui, però, c’è un rischio, ed è il rovescio di quello americano. Se l’Europa parla di AI soltanto nella lingua della conformità, finirà per ridurre la propria immaginazione a una procedura. Regolerà benissimo tecnologie nate altrove, addestrate altrove, raccontate altrove e vendute altrove, e farà così una cosa necessaria e insufficiente nello stesso tempo. Perché una civiltà non può limitarsi a stabilire quali moduli compilare prima di usare il futuro inventato dagli altri, deve anche decidere quale futuro vuole rendere pensabile.
La sovranità linguistica
È a questo punto che la Crusca smette di essere un dettaglio da accademici e diventa un fatto politico. In un Paese serio una discussione sul nome dell’intelligenza artificiale non verrebbe liquidata come pignoleria, entrerebbe nelle università e nelle scuole, negli ordini professionali e nelle aziende che il software lo scrivono per gli altri. Non per imporre dall’alto una parola obbligatoria, ma per costringere il Paese all’esercizio che evita da troppo tempo, pensare prima di adottare. Perché adottare senza nominare vuol dire subire, vuol dire prendersi in casa una tecnologia già avvolta nella visione del mondo di qualcun altro. Quando scegliamo di dire AI invece di IA non scegliamo solo una sigla più internazionale, segnaliamo a quale centro del mondo riconosciamo l’autorità.
Niente di tutto questo è una difesa autarchica della lingua, che sarebbe ridicola. La sovranità linguistica non è il rifiuto delle parole straniere, è la capacità di non importare insieme alle parole, senza accorgersene, il mondo intero che si portano dietro. Una lingua viva prende le parole degli altri e le reinventa, una lingua subordinata si limita a ripeterle. E un Paese che ripete a lungo le parole di un altro, prima o poi, finisce per ripeterne anche le priorità.
Il futuro di un Paese si decide nel punto in cui l’infrastruttura e l’immaginario si incontrano. Servono i data center, ma serve anche sapere perché li vogliamo e quali dipendenze siamo disposti ad accettare in cambio. E serve soprattutto la scuola, perché il modo in cui un ragazzo impara oggi la parola intelligenza deciderà il modo in cui domani accetterà, oppure rifiuterà, l’autorità di una macchina.
Un vocabolario civile del futuro
Il vero tema, allora, non è scegliere tra Elon Musk e Jack Ma. Musk ci ricorda che la tecnica può sfuggire alla misura ordinaria dell’uomo, e che non tutto ciò che siamo capaci di costruire resta automaticamente sotto controllo. Jack Ma ci ricorda che la paura può diventare una superstizione che blocca tutto, e che la macchina resta dentro una storia fatta di bisogni e di lavoro umani. Vedono qualcosa e insieme deformano qualcosa, ciascuno dal suo punto di vista, e il guaio comincia quando un singolo punto di vista pretende di parlare per tutti.
L’Italia dovrebbe fare allora una cosa insieme più umile e più ambiziosa, costruirsi un proprio vocabolario tecnico del futuro. Non un glossario per soli esperti, ma un lessico civile, in cui tornare a chiedersi cosa intendiamo davvero quando diciamo automazione, decisione, responsabilità, errore, controllo umano, dato, delega. Lo stesso medico, lo stesso giudice, lo stesso impiegato comunale e la stessa impresa che sviluppa software per altri useranno le medesime tecnologie, e non per questo dovranno per forza viverle con lo stesso immaginario. Lo dico da dentro questo mestiere. Faccio l’architetto della conformità in una piccola società di software in Abruzzo, costruisco strumenti che servono a sapere con esattezza di quali componenti è fatto un sistema, e passo le giornate, su piattaforme per la sanità pubblica e nel settore legale, a decidere come si chiamano le cose, perché è il nome a stabilire l’architettura e la responsabilità che ci si prende, e quindi alla fine che cosa verrà davvero costruito.
Per questo la conformità, se la si prende sul serio, non è burocrazia. È una forma applicata di umanesimo, il tentativo di non lasciare che la potenza si separi dal significato. È il momento in cui una società dice a una tecnologia che può entrare, ma non senza un nome, e che può anche correre, ma non senza rispondere del mondo che sta costruendo.
Forse la domanda più importante non è cosa farà l’intelligenza artificiale all’Italia. Quella domanda ci mette già nella posizione sbagliata, come se il futuro fosse un temporale in arrivo da una server farm lontana, da subire e basta. La domanda seria è un’altra, con quali parole l’Italia vuole rendere governabile e discutibile la propria trasformazione tecnica. Perché un Paese che non dà un nome al proprio futuro non per questo lo evita, lo riceve già nominato da altri, con dentro la parola una gerarchia già decisa, chi inventa e chi si limita a integrare, chi definisce e chi si limita a tradurre.
Il futuro comincia prima della tecnologia. Comincia nel momento in cui una comunità trova, oppure perde, le parole per dire che cosa sta diventando.
Cosa ti porti a casa
Le parole non costruiscono data center, ma decidono il modo in cui una società dispone la materia dentro una visione. Stabiliscono se una tecnologia sarà sentita come minaccia o come protesi, e prima ancora chi avrà il diritto di parlarne e chi dovrà soltanto obbedirle.
Non esiste una sola idea di tecnica, neutra e valida per tutti. È la cosmotecnica di Yuk Hui: anche la nostra tecnologia, che ci pare l’unica possibile, è una posizione locale che ha imparato a presentarsi come universale.
Un nome sbagliato non è mai innocente. Chiamare intelligenza un sistema che in fondo calcola probabilità gli regala una dignità mentale che forse non possiede. Discutere quel nome non è pignoleria, è l’unico modo che abbiamo per tenere una mano su una tecnologia che non produciamo in casa.
L’Italia spesso non produce le parole con cui pensare la propria tecnologia: le importa dalla Silicon Valley, le appiattisce nel linguaggio dei bandi e le distribuisce come password per accedere al futuro. Un Paese che ripete a lungo le parole di un altro finisce per ripeterne anche le priorità.
L’Europa ha scelto di nominare l’AI con il diritto, e l’AI Act è forse l’unica vera posizione geopolitica che riesce a esprimere sulla tecnica. Ma se ne parla soltanto nella lingua della conformità, ridurrà la propria immaginazione a una procedura: regolerà benissimo un futuro inventato altrove.
Domande e risposte
Che cos'è la cosmotecnica?
È un concetto del filosofo Yuk Hui, ripreso nel podcast Altri Orienti di Simone Pieranni. Indica l’idea che non esista una sola tecnica neutra e universale, identica ovunque, ma che ogni cultura usi la tecnica a partire da come vede il mondo e l’ordine delle cose. Anche la tecnica occidentale, dice Hui, è una visione locale, nata da un certo modo di separare l’uomo dalla natura e di pensare il mondo come una riserva da sfruttare. La conseguenza scomoda è che la nostra idea di tecnologia, che ci sembra l’unica possibile, è solo una posizione particolare che ha imparato a presentarsi come universale.
Perché l'Accademia della Crusca dice che «quella artificiale non è intelligenza»?
In un articolo intitolato «Il nome (improprio) della cosa: quella artificiale non è intelligenza», la Crusca sostiene una tesi più scomoda della solita guerra all’anglicismo: un nome sbagliato non è mai innocente. Chiamare intelligenza un sistema che in fondo calcola probabilità gli regala una dignità mentale che forse non possiede. La parola intelligenza viene dal latino intelligere, cioè inter legere, scegliere tra, setacciare: lo stesso gesto del frullone, lo staccio per la farina che la Crusca scelse come emblema. Chiamare intelligenza una macchina è già una scelta, porta con sé il pensiero ridotto a calcolo e l’intelligenza ridotta a una quantità che si può misurare e far crescere.
Cosa intende la Cina quando dice intelligenza artificiale?
Il termine cinese 人工智能, che noi rendiamo con intelligenza artificiale, non coincide perfettamente con la nostra espressione, e attorno a questo disallineamento ruota una riflessione che rimette in discussione cosa intendiamo per artificialità e per intelligenza. Nella scena cinese, almeno come emerge dal dibattito da cui parte questo saggio, l’AI è più facilmente uno strumento di governo e una prova di forza tecnologica dello Stato, dentro una pianificazione che già nel 2017 ha messo nero su bianco un piano nazionale con traguardi fissati al 2030. Non è un’essenza eterna della Cina, è il prodotto di una storia industriale e di una competizione geopolitica precise.
Che cos'è la sovranità linguistica?
Non è una difesa autarchica della lingua, che sarebbe ridicola, e non è il rifiuto delle parole straniere. È la capacità di non importare insieme alle parole, senza accorgersene, il mondo intero che si portano dietro. Una lingua viva prende le parole degli altri e le reinventa, una lingua subordinata si limita a ripeterle. E un Paese che ripete a lungo le parole di un altro, prima o poi, finisce per ripeterne anche le priorità.
L'AI Act basta a dare all'Europa una posizione sulla tecnologia?
L’AI Act, in vigore dal primo agosto 2024 e applicato per gradi, è forse una delle pochissime vere posizioni geopolitiche che l’Europa riesce a esprimere sulla tecnica: dice che la tecnologia non è soltanto potenza ma anche responsabilità. Ma c’è un rischio, il rovescio di quello americano. Se l’Europa parla di AI soltanto nella lingua della conformità, finirà per ridurre la propria immaginazione a una procedura, e regolerà benissimo tecnologie nate altrove, addestrate altrove e raccontate altrove. Una civiltà non può limitarsi a stabilire quali moduli compilare prima di usare il futuro inventato dagli altri, deve anche decidere quale futuro vuole rendere pensabile.
L'autore
