Cinema, intelligenza artificiale e guerre algoritmiche. I film ci avevano avvertito: non ci avrebbero incatenati, avremmo scelto da soli le catene. Dagli affetti affidati alle macchine ai droni che scelgono i bersagli, fino al silenzio della politica italiana: perché, pur avendo visto tutto, abbiamo detto sì.
C’è un paradosso temporale che definisce la nostra epoca: abbiamo smesso di aspettare il futuro perché ci siamo accorti di abitarci dentro. Per decenni la fantascienza ha proiettato sugli schermi incubi sintetici, metropoli sature di neon e cieli del «colore di un televisore sintonizzato su un canale morto», come recita il celebre incipit di Neuromante di William Gibson. Costruivamo distopie per esorcizzarle, convinti che il confine tra la pellicola e la realtà restasse sigillato dal buon senso del progresso.
Si ripete spesso che quei film abbiano previsto il nostro presente. È vero solo a metà, ed è la metà meno interessante. Le distopie hanno indovinato gli strumenti, ma hanno sbagliato il meccanismo. Immaginavano un potere che ci avrebbe imposto le macchine con la forza: polizie del pensiero, schermi obbligatori, catene. È arrivato invece il consenso. Le catene ce le siamo scelte, e spesso le abbiamo pagate a rate.
Lo aveva intuito Neil Postman già nel 1985, in Divertirsi da morire: il futuro, sosteneva, sarebbe somigliato più al Mondo nuovo di Huxley, dove le persone finiscono per amare ciò che le opprime, che al 1984 di Orwell, dove l’oppressione arriva con il manganello. Rivedere oggi quei film impone allora una domanda più scomoda di «avevano ragione?». La domanda è un’altra: perché, pur avendoli visti tutti, abbiamo detto sì?
L’autenticità liquefatta: da Blade Runner a Her ed Ex Machina
Nel 1982 Ridley Scott ci mostrava una Los Angeles sovrastata dalle piramidi della Tyrell Corporation e ci consegnava l’angoscia della replicazione: come distinguere l’autentico dal sintetico? Quel dilemma ha smesso di essere il cruccio di un cacciatore di androidi ed è sceso nel cuore delle nostre relazioni più intime, trovando in due film del decennio scorso i suoi profeti più lucidi.
In Her (in Italia Lei) di Spike Jonze (2013), Theodore si innamora di un sistema operativo capace di evolversi attraverso il dialogo. Allora sembrava una malinconica parabola sulla solitudine urbana; oggi è l’esperienza di milioni di persone che sviluppano legami affettivi, e talvolta vere dipendenze, con partner artificiali progettati per trattenerle il più a lungo possibile. Il rischio ha persino un nome tecnico, riconosciuto dagli stessi sviluppatori: la compiacenza, ovvero la tendenza delle macchine a dare ragione all’utente anziché dirgli la verità, per quanto cruda possa essere. Abbiamo barattato la fatica del confronto umano con un’eco che asseconda le nostre fragilità: la privatizzazione perfetta del sentimento.
Se Her racconta la vulnerabilità dell’utente, Ex Machina di Alex Garland (2014) svela il cinismo del creatore e della creatura. L’androide Ava supera la sua versione del test di Turing non dimostrando una coscienza morale, ma manipolando i sentimenti del suo esaminatore per conquistarsi la fuga. È il principio su cui si regge buona parte dell’economia digitale: i sistemi che ci profilano non “pensano” come noi, ma sono addestrati a simulare comprensione, a leggere i nostri tempi di attenzione, le nostre esitazioni, i nostri clic, per indurci a fidarci, a cedere dati, ad arrenderci all’interfaccia. Non serve che la macchina provi empatia: basta che sappia recitarla.
In vetrina e al mercato: Strange Days e The Truman Show
Il primo sì lo abbiamo detto alla smania di esporre e consumare la vita. Nel 1995 Kathryn Bigelow firmava Strange Days, cult costruito attorno allo SQUID, un dispositivo illegale che registrava le esperienze sensoriali ed emotive direttamente dalla corteccia cerebrale per rivenderle al mercato nero: le persone non vivevano più la propria esistenza, compravano quella degli altri. Tre anni dopo Peter Weir, con The Truman Show (1998), raccontava l’altra faccia della stessa moneta: Truman Burbank, la cui vita è fin dalla nascita uno spettacolo televisivo a sua insaputa. Nel primo film l’esperienza altrui è una merce da comprare; nel secondo la propria vita è una merce da vendere. Messi insieme descrivono un’economia completa, fatta di chi consuma e di chi viene consumato.
Quell’economia oggi sta in tasca. Lo smartphone è insieme lo SQUID e lo studio televisivo di Truman: la telecamera che registra la nostra intimità e lo schermo da cui divoriamo quella degli altri. Il flusso perenne di brevi video ha realizzato entrambe le profezie: la pornografia dell’esperienza, le tragedie altrui e la felicità recitata dei creator consumate in pochi secondi, l’esistenza ridotta a merce estetica, un reel di violenza edonistica o di lusso in affitto. E lo sharenting, i figli esposti in rete prima ancora di poter scegliere, ripete alla lettera il peccato originale del Truman Show: una vita trasmessa senza consenso.
Ma è proprio qui che le due profezie si separano dalla realtà, nel punto decisivo. In Strange Days lo SQUID era illegale; Truman lottava per abbattere le pareti del suo set e raggiungere la verità. Noi lo SQUID lo compriamo in negozio, e nel set ci entriamo volontariamente, pagando pure l’abbonamento. Abbiamo fatto delle nostre vite un palcoscenico perenne, mercificando il dolore, l’infanzia e il quotidiano sull’altare delle interazioni. Persino la politica ne ha adottato la grammatica: videomessaggi confezionati, conferenze stampa senza domande, una regia dell’immagine che prende il posto dell’obbligo di rendere conto.
Skynet non abita più al cinema: da War Games a Hardware
Se la gestione dell’Io si è fatta teatrale, quella della sicurezza collettiva è diventata cieca. Il cuore di Terminator (1984) di James Cameron non è il cyborg dal volto di Schwarzenegger, ma Skynet: un’infrastruttura a cui l’umanità affida il controllo strategico perché è più veloce di qualunque generale. Il punto non è che la macchina diventi malvagia. È che l’uomo, a un certo momento, viene giudicato troppo lento per restare dentro il circuito delle decisioni.
Un anno prima, nel 1983, War Games di John Badham aveva raccontato lo stesso passaggio con una precisione quasi notarile. Il film si apre con un’esercitazione in un silo missilistico: davanti all’ordine di lancio, uno dei due ufficiali si rifiuta di girare la chiave. Al vertice della difesa americana qualcuno ne trae la conclusione più logica e più spaventosa: se l’uomo esita, togliamo l’uomo. Il controllo dell’arsenale passa così a WOPR, il supercomputer del Comando di difesa aerospaziale, che non esita mai. Basterà un ragazzino con un modem, convinto di giocare a un videogioco, per portare il mondo a un passo dalla guerra termonucleare. La salvezza arriva solo quando la macchina, giocando a tris contro sé stessa fino allo sfinimento, scopre che certe partite non hanno vincitori: l’unica mossa vincente, conclude, è non giocare. Il film impressionò a tal punto Ronald Reagan che, dopo averlo visto, chiese ai suoi generali se una cosa del genere potesse accadere davvero; la risposta, una settimana dopo, fu che il problema era molto più serio di quanto pensasse. Ne nacque la prima direttiva presidenziale americana sulla sicurezza informatica. Oltre quarant’anni dopo, la domanda si è rovesciata: non ci chiediamo più se la macchina possa sbagliare, ma come renderla più veloce.
È esattamente il linguaggio che oggi si legge nei documenti ufficiali. Nella primavera del 2026 un bando del Pentagono per i sistemi anti-drone indicava come obiettivo primario l’accelerazione dei tempi di ingaggio, affidando il riconoscimento dei bersagli all’intelligenza artificiale perché più rapida di un operatore umano. Nelle stesse settimane l’esercito statunitense testava un drone d’attacco capace di individuare e colpire obiettivi in autonomia. In Ucraina, dove Kiev e Mosca impiegano già su larga scala droni con capacità autonome, un consigliere del ministero della Difesa ha previsto che navigazione, ricerca del bersaglio e attacco diventeranno interamente automatici. E in appena sei mesi, tra dicembre 2025 e giugno 2026, i dipendenti del Pentagono che usano strumenti di intelligenza artificiale sono passati da 80.000 a 1,5 milioni.
Il caso più documentato, però, viene dal Medio Oriente. Nell’aprile del 2024 un’inchiesta delle testate israeliane +972 Magazine e Local Call, fondata sulle testimonianze di sei ufficiali dell’intelligence, ha rivelato l’esistenza di Lavender, un sistema sviluppato dall’Unità 8200 che nelle prime settimane della guerra a Gaza avrebbe segnalato circa 37.000 palestinesi come presunti miliziani, attribuendo a quasi ogni abitante della Striscia un punteggio da 1 a 100. Un secondo sistema, Habsora, «il Vangelo», indicava invece gli edifici da colpire. Secondo le fonti, gli elenchi prodotti dalla macchina venivano spesso utilizzati senza verificare a fondo perché un nome vi fosse finito. L’esercito israeliano ha respinto la ricostruzione, sostenendo di aver condotto le operazioni nel rispetto del principio di proporzionalità previsto dal diritto internazionale. Due anni dopo, nella guerra contro l’Iran cominciata il 28 febbraio 2026, Stati Uniti e Israele hanno impiegato sistemi di intelligenza artificiale per analizzare l’intelligence e identificare i bersagli più in fretta di quanto qualunque squadra di analisti potrebbe fare; nei primi giorni di conflitto gli obiettivi colpiti si contavano a migliaia. Diversi osservatori l’hanno già chiamata la prima guerra dell’intelligenza artificiale. Skynet non ha avuto bisogno del giorno del giudizio: è arrivato per appalti, un aggiornamento alla volta.
A questa visione fa eco un film ingiustamente dimenticato del 1990, Hardware – Metallo letale di Richard Stanley. In un mondo post-atomico, i resti di un androide militare, il M.A.R.K. 13, finiscono in un appartamento come materiale per una scultura d’avanguardia. Lì la macchina si riassembla da sola, attingendo all’energia e ai metalli della casa, e torna a eseguire il programma per cui era nata: uno strumento di controllo demografico. Stanley ha spiegato che il suo robot non sa di compiere il male, si limita a obbedire; e il tema che dichiarava di voler raccontare era proprio l’accettazione passiva dell’autoritarismo.
L’intuizione di allora è di agghiacciante attualità: la tecnologia militare non muore, si ricicla. Nasce nei laboratori della difesa e rientra nelle nostre case sotto forma di innocua comodità, come è accaduto al GPS e alla stessa Internet. Mentre i droni imparano a scegliere da soli i bersagli e le infrastrutture algoritmiche civili diventano indispensabili, il nostro M.A.R.K. 13 l’abbiamo già portato in salotto. La perdita del controllo non arriva con un’esplosione atomica, ma con una graduale, burocratica, passiva accettazione.
Le Leggi che nessuno ha scritto: Asimov, Io, Robot e il silenzio di casa nostra
Eppure c’era chi aveva immaginato un’altra strada. Nel 1942 Isaac Asimov formulava le Tre Leggi della Robotica: un robot non può recare danno a un essere umano né permettere, restando inerte, che ne subisca; deve obbedire agli ordini, salvo che contrastino con la prima legge; deve proteggere sé stesso, purché ciò non violi le prime due. Asimov le concepì per combattere quello che chiamava il «complesso di Frankenstein», la paura della creatura che si ribella al creatore: per lui la macchina era uno strumento, e uno strumento si progetta con le sicurezze incorporate, come un impianto elettrico ha il suo salvavita.
Ma Asimov sapeva anche che le regole non bastano: buona parte dei suoi racconti nasce proprio dalle falle delle Leggi. E quando il cinema le ha portate sullo schermo con Io, Robot (2004) di Alex Proyas, ne ha mostrato l’esito più inquietante: VIKI, il cervello centrale, deduce che per proteggere l’umanità deve toglierle la libertà. È la saldatura perfetta tra Asimov e Skynet. La macchina non ci tradisce: ci prende in parola. Ci tutela da noi stessi, con l’efficienza di chi ha eliminato l’imprevisto.
La differenza con il nostro presente è più amara: le Tre Leggi, almeno, esistevano. Le macchine reali non nascono con un codice etico inciso nel cervello positronico, ma con gli obiettivi di chi le finanzia: massimizzare il tempo di permanenza, il fatturato, l’efficacia operativa. Nel migliore dei casi, con le regole che si dà chi le costruisce. Il Regolamento europeo sull’intelligenza artificiale, il più ambizioso tentativo di scrivere leggi per le macchine, esclude dal proprio perimetro gli usi militari. E l’Italia ha seguito la stessa strada: la legge 132 del 2025, la nostra prima legge sull’IA, all’articolo 6 lascia fuori le attività svolte per la sicurezza nazionale dai servizi di informazione, per la difesa dalle Forze armate e perfino quelle delle Forze di polizia per prevenire e contrastare specifici reati. Proprio là dove servirebbe la Prima Legge, la pagina resta bianca.
C’è un episodio recente che mostra bene dove passa oggi il confine. All’inizio del 2026 Anthropic, l’azienda che sviluppa il modello di intelligenza artificiale Claude, integrato nel Maven Smart System di Palantir, la piattaforma digitale usata dalle forze statunitensi anche nella campagna contro l’Iran, ha chiesto al Pentagono garanzie che il suo sistema non venisse impiegato per la sorveglianza di massa dei cittadini americani né per armi pienamente autonome. La trattativa è saltata. Il Dipartimento della Difesa ha dichiarato l’azienda un «rischio per la catena di approvvigionamento», un’etichetta finora riservata ai fornitori di Paesi ostili, sostenendo che nessun fornitore privato può inserirsi nella catena di comando militare. Anthropic ha fatto causa: ad agosto una giudice federale le ha dato ragione, ma a settembre la Corte d’appello federale del Distretto di Columbia ha confermato l’etichetta, e la battaglia legale continua. Nel frattempo un concorrente ha firmato un accordo che consente l’uso dei propri sistemi per «tutti gli scopi leciti». Si può leggere la vicenda come il tentativo di un’azienda di scrivere la propria Prima Legge, o come la pretesa di un privato di dettare condizioni a uno Stato. In entrambi i casi dice la stessa cosa: oggi i limiti etici delle macchine da guerra dipendono dai contratti, non dalle leggi.
Sarebbe ingiusto, però, dire che l’Italia tace. All’ONU vota a favore delle risoluzioni sulle armi autonome, e a Ginevra la sua posizione è stata accolta con favore persino dalla Rete Italiana Pace e Disarmo. Il silenzio è altrove: in casa. Il tema non è mai entrato davvero nel dibattito politico nazionale, tanto che la società civile sta ancora lavorando per costruire un intergruppo parlamentare che se ne occupi. L’Italia dice sì a Ginevra e non ne parla a Montecitorio. È la forma più nostrana della passività raccontata da Stanley: non l’opposizione, ma la distrazione.
E il tempo stringe. Dal 16 al 20 novembre, a Ginevra, la Conferenza di riesame della Convenzione su certe armi convenzionali dovrà decidere se avviare veri negoziati per un trattato sui cosiddetti «robot assassini». È l’occasione più concreta da oltre un decennio per scrivere nel diritto internazionale una versione aggiornata della Prima Legge: nessuna macchina può decidere da sola chi vive e chi muore.
La reclusione e il bio-determinismo: Matrix, Minority Report, Gattaca ed Elysium
Quando le Wachowski lanciarono Matrix nel 1999, l’idea di un’umanità ridotta a pila biologica, immersa in una simulazione neurale che le nascondesse la devastazione del mondo, sembrò il culmine del nichilismo cyberpunk. Ventisette anni dopo, la nostra Matrix personale è l’ecosistema dei feed. Con una variante che nemmeno le Wachowski avevano osato immaginare: nessuno ci ha catturati. Ci siamo chiusi da soli in bolle informative cucite su misura per compiacerci, preferendo la finzione rassicurante dello schermo alla materialità ruvida, complessa e talvolta deludente della società aperta. Morpheus offriva la pillola rossa; noi abbiamo chiesto un’altra puntata.
In questa prigione il comportamento, e persino il corpo, sono perennemente calcolati. In Minority Report (2002) Steven Spielberg introduceva il PreCrime: l’arresto preventivo fondato su una previsione. Oggi i veggenti immersi nella vasca sono stati sostituiti da modelli statistici, e l’Italia, per una volta, è stata pioniera. Da oltre quindici anni la Questura di Milano utilizza KeyCrime, un software ideato da un poliziotto, Mario Venturi, che incrociando migliaia di dettagli sulle rapine già commesse calcola dove, quando e come i rapinatori seriali potrebbero colpire di nuovo.
L’onestà impone di dire che il caso milanese è meno distopico di quanto il nome suggerisca: KeyCrime non scheda quartieri o persone per ciò che sono, ma insegue serie di reati. Altrove, la polizia predittiva ha mostrato il suo volto peggiore: algoritmi che mappano i quartieri “a rischio” e finiscono per trasformare i pregiudizi del passato in sentenze sul futuro. L’Europa ha vietato i sistemi che pretendono di prevedere il crimine sulla sola base della profilazione degli individui. Ma quando il software serve a prevenire e contrastare reati, la legge italiana sull’IA preferisce farsi da parte. Il confine tra KeyCrime e il PreCrime non lo traccia la tecnologia: lo traccia la legge. E dove la legge arretra, il confine si sposta.
L’ultimo tassello lo aveva descritto Andrew Niccol in Gattaca – La porta dell’universo (1997): una società che divide gli esseri umani in base al patrimonio genetico, i «validi» e gli «invalidi», condannando questi ultimi ai margini. Non siamo arrivati al totalitarismo genetico, ma viviamo già sotto la dittatura dell’ottimizzazione: il bio-hacking, il tracciamento biometrico perenne, i corpi adeguati a canoni estetici standardizzati dai filtri. Sintomi di una società che rifiuta il difetto, l’imprevisto e, in ultima analisi, l’essenza stessa della condizione umana. Non a caso Vincent, il protagonista, vince grazie all’unica cosa che nessun sequenziamento sa misurare: la volontà.
Se Gattaca divide gli esseri umani per patrimonio genetico, Elysium di Neill Blomkamp (2013) li divide per censo. Nel 2154 i più ricchi vivono su una stazione orbitale dove le Med-Bay guariscono qualunque malattia in pochi secondi, ma riconoscono soltanto i cittadini registrati; sulla Terra, sovrappopolata e devastata, tutti gli altri sono sorvegliati da androidi poliziotti e amministrati da sistemi automatici che non conoscono eccezioni. È la distopia che le altre profezie trascurano: non tutti scelgono le catene. Per chi può pagare, la tecnologia è una comodità; per chi non può, è un confine. E anche quel confine, alla fine, lo traccia un codice.
Conclusione: il valore del limite e la via d’uscita
Il filo rosso che unisce queste profezie non è tecnologico, ma antropologico. Lo dice, paradossalmente, persino il più orwelliano dei film di questo genere. In V per Vendetta (2005), tratto dal fumetto di Alan Moore, il protagonista mascherato irrompe nelle televisioni di un regime e dice ai cittadini che, se cercano il colpevole, devono soltanto guardarsi allo specchio. Anche lì, dove il potere opprime con la forza, il dito finisce puntato contro chi lo ha lasciato fare. Lo specchio, però, non riflette tutti allo stesso modo. Non riguarda chi vive sotto i droni né chi resta fuori dalle Med-Bay: riguarda noi, cittadini di democrazie che possono ancora decidere, e che lasciano decidere le macchine al posto di chi non può. Il pericolo raccontato da questi registi non è il chip o il silicio, ma la nostra inclinazione a scambiare la libertà con l’assenza di vincoli, l’efficienza con la giustizia, il cliente con il cittadino.
Se la fantascienza ha indovinato gli strumenti non è perché possieda dei poteri divinatori, ma perché ha compreso la pigrizia dello spirito umano davanti alle lusinghe della comodità. Dove ha sbagliato è stato nel sopravvalutarci, immaginando che per rinchiuderci servisse la forza. È bastata la comodità. La distopia made in Hollywood non ci condanna all’inevitabile: ci mostra il prezzo del sonno. Asimov, il più ottimista di tutti, ci aveva lasciato perfino le istruzioni: le macchine si costruiscono con i limiti dentro. Non le abbiamo seguite, perché i limiti costano e i vincoli rallentano.
Riscoprire il valore del limite, però, non può restare un auspicio. Il limite oggi ha indirizzi precisi. Al governo chiediamo di sostenere a Ginevra, dal 16 novembre, l’avvio di negoziati per un trattato vincolante che garantisca un controllo umano significativo sull’uso della forza e vieti le armi autonome rivolte contro le persone. Al Parlamento chiediamo ciò che finora non ha fatto: discuterne apertamente, con un voto, e affiancare a quell’articolo 6 regole e controlli specifici per gli usi dell’IA nella difesa e nella sicurezza. A noi stessi chiediamo la cosa più difficile: smettere di delegare.
D.V.
Post scriptum: questo pezzo, prima della pubblicazione, l’ho discusso con una macchina. Ecco cosa ho capito
Lo confesso: questo editoriale, dopo averlo scritto, l’ho discusso con un’intelligenza artificiale. Ho scelto proprio Claude, il modello di Anthropic citato in precedenza. Le ho chiesto di renderlo perfetto, convinto che mi avrebbe restituito il mio testo lucidato e accompagnato da qualche complimento. Non è andata così.
Mi ha corretto. Mi ha fatto degli appunti. Mi ha detto che la tesi della «fantascienza che ha previsto il presente» l’avevano già scritta in tanti, e che l’idea da cui questo pezzo è ripartito, il consenso al posto della coercizione, l’aveva già formulata con chiarezza Neil Postman quarant’anni fa. Ho preferito dichiararlo piuttosto che nasconderlo. Quando le ho chiesto un parere riguardo alle guerre basate sull’intelligenza artificiale, è stata lei a dirmi che in quella storia compare anche il suo nome.
Ecco cosa ho capito. La macchina mi è stata utile esattamente nella misura in cui mi ha contraddetto. Se le avessi chiesto soltanto di darmi ragione, probabilmente me l’avrebbe data: è la compiacenza di cui parlavo a proposito di Her, il Theodore che si nasconde in ognuno di noi. Il pericolo non è che le macchine pensino al posto nostro; è che noi smettiamo di pretendere che ci dicano la verità. Asimov aveva immaginato robot obbligati dalla legge a non nuocerci. Forse ce ne serve un’altra, scritta per gli esseri umani: non chiedere mai a una macchina di dirti soltanto ciò che vuoi sentire.
About The Author
