Confondere la mappa con il territorio

Se lavori come freelance può capitarti che gennaio sia un mese sospeso, in cui aspetti l’avvio di nuovi progetti che partono ma non partono poi partono a tutta birra (così, senza virgole) e tu sei lì, incerta se comportarti da cicala e goderti la stasi prodotta da questi tentennamenti o se fare la saggia formica, e mettere legna in cascina per quando non potrai farlo. Manco a dirtelo, io ho fatto ovviamente la cicala. È già febbraio?

Questo numero di Alternate Takes volevo scriverlo in almeno cinque modi diversi, alla fine ha preso questa piega. Non escludo prima o poi di tornare in argomento, per affrontare il discorso sulle metafore da altri versanti. Intanto partiamo da qui.

metàfora s. f. [dal lat. metaphŏra, gr. μεταϕορά, propr. «trasferimento», der. di μεταϕέρω «trasferire»]. – 1. Processo linguistico espressivo, e figura della retorica tradizionale, basato su una similitudine sottintesa, ossia su un rapporto analogico, per cui un vocabolo o una locuzione sono usati per esprimere un concetto diverso da quello che normalmente esprimono

[Treccani]

Sulle parole: quelle che modellano il pensiero

In Teoria letteraria per robot, Dennis Yi Tenen definisce la metafora come «un bagaglio di significati in un mezzo di trasporto compatto». Stipiamo esperienze, intuizioni, relazioni complesse dentro una formula breve, che poi viaggia attraverso contesti diversi: quando quel bagaglio viene spacchettato altrove, può accadere che alcuni oggetti si perdano, altri si rompano e altri ancora assumano significati imprevisti.

Dire “Il tempo è denaro!” rivela che pensiamo che il tempo può essere speso, investito, sprecato, risparmiato: la metafora non descrive solo come parliamo del tempo, ma come lo viviamo. Di conseguenza ci affrettiamo, ottimizziamo, calcoliamo il ritorno sui nostri investimenti temporali. Quale potrebbe essere una metafora meno capitalista in grado di descrivere un diverso rapporto col tempo?

Se è vero che il linguaggio dà forma alla realtà, le metafore giocano un ruolo rilevante, critico, persino, per esempio quando parliamo di tecnologia. Non sono mai scelte neutre: plasmano aspettative, determinano politiche, influenzano il modo in cui deleghiamo responsabilità.

Come funziona una metafora

Una metafora mappa un dominio che conosciamo bene, di solito legato all’esperienza fisica, su qualcosa di più astratto, o viceversa. Quando diciamo che una discussione è una guerra, trasferiamo l’intero arsenale concettuale del conflitto armato: posizioni da difendere, attacchi da sferrare, terreno da conquistare, per non parlare di ciò che comunichiamo dello stato d’animo con cui ci predisponiamo al confronto.

Se la discussione fosse una danza, improvvisamente l’obiettivo non sarebbe più schiacciare l’avversario ma trovare un’armonia, sincronizzare i movimenti. Stessi partecipanti, stesso argomento, comportamenti radicalmente diversi.

Ogni metafora illumina certi aspetti della realtà e ne oscura altri. La metafora bellica mette in evidenza il conflitto nella discussione, e nasconde la possibilità di collaborazione e apprendimento reciproco. Non esistono metafore neutre: si tratta sempre di scelte su cosa rendere visibile e cosa lasciare in ombra.

Descrivere l’alieno con il familiare

«Per concepire una forma di vita aliena bisogna pensare in modo alieno», scrive Tenen. La soluzione è sempre stata usare metafore. Per descrivere il computer abbiamo iniziato a parlare di “cervello elettronico”, Internet è diventata “un’autostrada dell’informazione”, salviamo documenti immateriali in spazi che chiamiamo “archivi”.

Le prime metafore informatiche erano industriali: il computer come macchina, la memoria come archivio fisico, i bug letteralmente insetti che si infilavano nei circuiti. Negli anni ‘80 il personal computer cambia atmosfera: compare il desktop – la scrivania – le finestre, le icone.

Internet è descritta con metafore spaziali: navigare, esplorare. Il web è uno spazio con pagine e siti, luoghi, che possiamo visitare. Questo ha reso Internet comprensibile, ma ha diminuito la visibilità della sua natura di rete distribuita, anche in termini materiali: cavi, server, consumi energetici.

Come nota Tenen «nell’informatica la presenza dilagante di metafore dovrebbe farci intuire la misura della nostra alienazione collettiva.» Più una tecnologia è distante dalla nostra esperienza diretta, più dipenderemo da metafore per comprenderla. E più dipenderemo da metafore, più saremo vulnerabili a chi le sceglie per noi.

Le metafore per l’intelligenza artificiale

Con l’intelligenza artificiale la questione si complica, forse perché cerchiamo di descrivere non strumenti inerti, ma sistemi che sembrano esibire comportamenti cognitivi: il nostro linguaggio per la cognizione è già tutto metaforico.

Intelligenza, per esempio: quale? Gardner ne ha identificato otto forme diverse. Quando parliamo di “macchine intelligenti”, a quale intelligenza ci riferiamo? Tenen osserva: «nella pratica, intelligente è ciò che ribolle al di sopra delle capacità condivise». Un tempo la calcolatrice era intelligente, oggi è banale. «Non appena uno strumento intelligente viene adottato in massa si dissolve nell’intelligenza di base». Insomma, risulta intelligente ciò che ci stupisce: non si tratta di una vera e propria proprietà, ma piuttosto di una relazione temporanea tra capacità del sistema e nostre aspettative. Questa relatività, però, nella metafora scompare.

Apprendimento: per noi, apprendere significa fare esperienza, sbagliare, comprendere, trasformarsi. È qualcosa di intrinsecamente vissuto. Un sistema di machine learning ottimizza parametri statistici: non fa esperienze, non capisce. Parlare di apprendimento crea l’illusione che la macchina viva un processo analogo al nostro. «L’esperienza non può essere automatizzata», scrive Tenen. Il processo creativo «si carica di valore solo attraverso la fatica dell’apprendimento e l’esperienza vissuta». Senza questa dimensione si tratta di computazione, non di apprendimento.

Allucinazioni: la metafora è psichiatrica. Un’allucinazione implica un soggetto che percepisce, una realtà da deviare. Diciamo “allucinazioni” quando un chatbot produce informazioni false: ma un modello linguistico non percepisce nulla. Genera sequenze di token basandosi su probabilità statistiche. Quando produce una frase falsa, sta solo campionando da uno spazio dove alcune combinazioni sono più probabili di altre, indipendentemente dai fatti. Chiamare questi errori allucinazioni antropomorfizza il processo e, per paradosso, lo deresponsabilizza. Se la macchina “allucina” sembra vittima di una disfunzione. Se diciamo che “ha prodotto un output statisticamente plausibile, ma sbagliato”, la responsabilità ricade su chi ha progettato il sistema.

Agenti, assistenti, copiloti: queste metafore sembrano avere l’intento di impressionarci senza spaventarci. L’assistente esegue, il copilota suggerisce, ma il comando resta umano. Come tutte le altre, anche queste metafore nascondono qualcosa. Un agente umano può tradire. Un assistente dovrebbe avere diritti e rispetto. Un copilota condivide la responsabilità in caso di incidente. Nulla di questo si applica al software, ma la metafora lo insinua, fa emergere una soggettività. Ci induce in tentazione di delegare la responsabilità a entità che non possono assumerne.

Conseguenze concrete

Metafore sbagliate producono danni reali. Generano aspettative irrealistiche che poi crollano in disillusione. Concentrano l’attenzione su rischi speculativi (“e se l’AI sviluppasse una coscienza?”) distogliendola da problemi urgenti: bias discriminatori, concentrazione di potere, impatto ambientale. Permettono di scaricare responsabilità su sistemi presentati come neutrali, quando ogni sistema incorpora scelte valoriali.

In Understanding Context, Andrew Hinton ricorda che il contesto è l’infrastruttura del significato. Persone, informazioni e tecnologie acquistano senso solo dentro situazioni, relazioni e ambienti che cambiano nel tempo. Ma le metafore dominanti per l’AI la presentano come autonoma, sganciata dai contesti che la rendono possibile e significativa.

Quando parliamo di intelligenza senza specificare per fare cosa, in quale contesto, secondo quali criteri, a beneficio di chi, stiamo usando una metafora che nasconde più di quanto riveli. Un sistema ottimizzato per massimizzare il coinvolgimento delle persone, per esempio, è intelligente rispetto a quell’obiettivo specifico. Ma quell’intelligenza può essere devastante per tutto il resto: salute mentale, qualità del dibattito, coesione sociale. Le metafore dell’autonomia (“l’algoritmo ha deciso”) nascondono le scelte umane a monte e le conseguenze a valle, creando zone d’ombra dove nessuno si sente responsabile.

Prospettive più sobrie

Finora la metafora che trovo più convincente è quella che proposta da Tenen: l’AI come strumento nella linea storica degli ausili al pensiero. Dalla zairja degli astrologi arabi medievali all’Organum Mathematicum di Kircher, gli umani hanno sempre costruito strumenti per amplificare le capacità cognitive. L’AI è l’ultimo anello di questa catena millenaria.

«Strumenti intelligenti come dizionari e grammatiche hanno sempre accompagnato l’atto di scrivere», scrive Tenen. «Il fatto che siano ora automatizzati non li rende vivi». Un correttore automatico rappresenta secoli di lavoro umano condiviso, non un’entità autonoma.

Con l’AI non stiamo assistendo a una rottura radicale nella storia dell’intelligenza, ma alla continuazione di un processo: esteriorizzare competenze cognitive in artefatti condivisi. La differenza rispetto a dizionari e grammatiche non è di natura, ma di scala e velocità.

Metafore e responsabilità

Chi scrive e lavora con il linguaggio ha una responsabilità: deve essere consapevole di quali metafore usa, cosa illuminano, cosa nascondono, quali comportamenti incoraggiano. Le metafore non sono neutre: le parole che scegliamo costruiscono il contesto in cui altri agiranno.

«Le parole, per quanto complesse siano le operazioni, generano solo altre parole. Che siano vere o false può dircelo solo l’esperienza di vita», dice Tenen. Le metafore più raffinate rimangono gusci vuoti se non si confrontano con la realtà concreta, con l’uso effettivo, con le conseguenze materiali.

Dobbiamo impegnarci a coltivare consapevolezza critica nell’uso e nella scelta delle metafore. Riconoscere che ogni modo di parlare è anche un modo di vedere. Resistere alla tentazione di una metafora unica. Mantenere aperta la possibilità di descrivere lo stesso fenomeno in modi diversi, da prospettive diverse.

Non lasciamoci intrappolare in metafore diventate invisibili. Il lavoro più urgente non è trovare analogie migliori per l’AI, ma recuperare la capacità di vedere le analogie come tali: ponti provvisori, non territori definitivi. Mappe che guidiamo noi, non che ci guidano. Solo così possiamo sperare di mantenere il controllo narrativo su tecnologie che altrimenti controlleranno la narrazione per noi – e con essa, la realtà.

Esercizi

• Rileggi l’introduzione di questo numero di Alternate Takes e trova tutte le metafore nascoste.
• Sfoglia un quotidiano – se ti dà ai nervi comprarlo fai un salto in biblioteca – e prova a individuare le metafore. Rifletti su cosa mettono in luce e cosa invece oscurano.
• Ora rifatti la bocca e rileggi qualche poesia di Petrarca. Così, per puro piacere.

Un libro

Uno dei benefici della fantascienza non è quello di essere scientifica, né meramente narrativa: è quello di riuscire a rendere pensabile l’impensabile. Non lo dico io, ma Bruce Sterling, nell’introduzione a Make It So: Interaction Design Lessons from Science Fiction. Ti consiglio di leggerlo anche se non te ne può importare meno dell’interaction design, con lo spirito curioso di chi vuole esplorare la nostra relazione con la tecnologia, anche quando ce la stiamo solo immaginando.

Tre link

• Che succede quando smettiamo di chiederci “perché?” e ci chiediamo invece “l’AI lo può fare?”. È una domanda rivolta al design, ma secondo me vale la pena che ce la facciamo tutti » When design stops asking why and starts asking, “Can AI do it?”
• Trusting News spiega come verifica la veridicità delle immagini, in questi giorni complessi » In AI age, explain how you verify visuals
• Why Science Fiction Can’t Predict the Future (And Why That’s a Good Thing), un articolo del mitico Ken Liu