Che cosa siamo (diventati)?

25 Giugno 2024

Tempo di lettura: 7 minuti

“Ecce Homo” (Giovanni 19,5)

Ci sarà stato chi ha pensato che invitare per la prima volta un papa al vertice dei potenti del mondo, valeva la pena in termini di immagine, anche a rischio di qualche sbavatura nel rodato copione che queste cose devono seguire.

Trattandosi di questo papa, Francesco, di sicuro ci sarà stato anche chi avrà ragionato sul come “confinare” il suo intervento ad un tema, l’Intelligenza Artificiale, in fondo potesse essere il meno problematico da fargli maneggiare.

Un tema che parla di futuro possibile, di grandi conquiste dovute alla capacità umana, di inimmaginabili opportunità di valicare nuove frontiere. Ma in un contesto come il nostro, quello della guerra globale, i grandi pensieri positivi sul futuro vengono soffocati sul nascere.

Basterebbe il 3 per cento

La corsa al riarmo, l’industria di morte della produzione di macchine di distruzione di massa, è il vero focus di questo G7 purtroppo. Eppure basterebbe il 3% di ciò che spendono i “grandi” per armarsi, a sfamare tutto il mondo e a cancellare il debito oppressivo della sua parte più povera, come ci ricorda:

“La violenza provocata dalle guerre mostra con evidenza quanta arroganza muove chi si ritiene potente davanti agli uomini, mentre è miserabile agli occhi di Dio” ha ripetuto il Papa nel suo Messaggio per la giornata dei poveri.

E la guerra di poveri ne produce sempre di più. E la guerra contro i poveri, come quella fatta ai migranti, è all’ordine del giorno. E anche quando si parla di IA, inevitabilmente, la guerra entra in gioco, con le sue follie e il suo dominio incontrastato su questo mondo.

Tra intelligenza “naturale” e “artificiale”

Ogni innovazione tecnologica prodotta dall’uomo, ha nell’uso che si decide di farne, la determinazione degli effetti, positivi o disastrosi, sulla vita e sul pianeta. È una intelligenza “naturale”, sulla quale ci interroghiamo sempre meno, che decide.

Sarà forse anche per questo allora, che l’Osservatore Romano pochi giorni fa, ha pubblicato un interessante articolo a firma di Roberto Cetera, proprio sul rapporto tra Intelligenza Artificiale e dispositivo di guerra. L’IA che uccide era il titolo, senza possibilità di equivoci.

Il materiale d’inchiesta preso a riferimento dall’Osservatore Romano, deriva da una pubblicazione del Guardian e di due giornali online israeliani, e riguarda informazioni raccolte soprattutto da alti ufficiali dell’esercito di Tel Aviv.

“Lavanda”

La pianificazione del massacro di Gaza, che ancora non sembra avere fine, è frutto dell’Intelligenza Artificiale. Il software utilizzato per indirizzare i caccia e le truppe d’assalto, per la scelta dei proiettili e delle armi di morte da utilizzare, per calcolare tempi, modi, stategie di uno degli eserciti più potenti del mondo, si chiama Lavender, ‘Lavanda’.

È un sistema sottoposto a pochissima supervisione umana. Seleziona gli obiettivi da “eliminare”, utilizzando un database di informazioni che vengono caricate dalla “control room” della guerra e riguardano profili di migliaia di “potenziali” nemici da colpire. Potenziali, perchè quelli “sicuri” erano già noti e sotto il tiro.

Ma l’eliminazione dei presunti nemici, ritenuti possibili fiancheggiatori delle milizie di Hamas o della Jhiad, è avvenuta sulla base di una “profilazione” di tutta la popolazione civile eseguita dal potentissimo software. 37 mila gli obiettivi individuati, e sottoposti al “processo di eliminazione”.

Lavender ha calcolato tutto, e direzionato gli attacchi, su una base di parametri indicati dal comando “umano” delle operazioni. Tra questi parametri anche il costo valutato di 15-20 vittime civili innocenti per ogni miliziano eliminato, fino a cento innocenti uccisi per ogni alto funzionario colpito.

L’uso dell’IA nella guerra contemporanea, segue una strada antica: le innovazioni tecnologiche sempre hanno avuto come applicazione primaria il “militare”, e questo a testimonianza di quanto sia importante per il nostro mondo “essere più bravi ad uccidere” di tutti gli altri.

La centralità della “tecnica” è spesso servita per creare alibi alle scelte, spesso efferate, prese dall’uomo. Allontanare la “coscienza” dalla “scienza”, ed affidare a quest’ultima una autonomia, una sorta di “neutralità”, allontana anche noi dal pericolo di impazzire di fronte alle mostruosità che siamo in grado di compiere.

Secondo Wired, che riprende la stessa inchiesta, diffusa dal sito di +972 e del giornale di lingua ebraica Local Call, i sei membri dell’unità dei servizi segreti israeliani conosciuta come “unità 8200” intervistati, sono fra coloro che hanno sviluppato e usato Lavender.

Sono loro che hanno rivelato che l’operatore umano, quello che metaforicamente o concretamente, “preme il grilletto”, ha venti secondi per dare l’ok all’obiettivo indicato dal software. Con un flusso continuo di richieste di autorizzazioni a procedere, e con una velocità del genere, nessuna “analisi dell’opportunità” fatta da umani, è possibile. Pena bloccare la guerra, che invece è l’imperativo ultimo, “fino alla vittoria”.

In tempi “normali”, cioè prima della carneficina del 7 ottobre, l’identificazione degli obiettivi avrebbe richiesto l’approvazione di un consulente legale, prima di poter dare il via all’attacco. Oggi non è più così: gli attacchi sono tutti “pre-autorizzati” di default, cioè decide la macchina, compreso il sacrificio di donne, uomini e bambini in altissimo numero.

Il “costo necessario” del quale parla Netanyahu riferendosi al massacro di Gaza, passa tecnicamente dall’eliminazione di qualsiasi procedura di “discernimento” umano, troppo lento e troppo imprevedibile. La macchina, una volta impostati i parametri, procede, e senza alcun problema di “coscienza”. Chissà se in un’ipotetico processo per crimini di guerra, qualche sodato un giorno dirà che “eseguiva gli ordini della macchina”.

Il costo

La guerra, il processo globale che domina il mondo in questo momento, se da una parte si sviluppa come dispositivo che tende ad eliminare il più possibile la dipendenza da valutazioni umane sul “costo” di vite innocenti da far pagare al nemico, dall’altra invece valuta con sempre maggiore importanza il “costo” economico.

Ad esempio sempre dall’inchiesta, si ricava che l’esercito di Tel Aviv fa ampio ricorso anche alle cosiddette “bombe mute”, munizioni non intelligenti che causano un alto numero di vittime innocenti, perché servono a distruggere completamente edifici che potrebbero essere “potenziali” nascondigli per i nemici. Queste bombe “sporche”, che vengono usate in grande quantità con effetti terribili sulla popolazione, costano molto di meno in termini di soldi. E dunque la ragione del loro utilizzo sta tutta nell’economia.

Gospel

Oltre a Lavander, la guerra è condotta da un altro software, Gospel (Vangelo). Questa applicazione dell’intelligenza artificiale è anche chiamata “fabbrica di obiettivi”. Stiamo parlando di una macchina che ha raddoppiato la fornitura all’esercito di obiettivi da colpire con “bombardamenti incessanti e non chirurgici”, passando da 50 bersagli al giorno, a cento.

Nessuno naturalmente spiega quali siano i dati che i profiler abbiano immesso per poi ottenere nome, cognome ed indirizzo di chi annientare. Gospel, dagli ambienti critici sull’uso di questi sistemi, è stato definito “la fabbrica degli assassinii di massa”.

Quando si parla di intelligenza artificiale, si aggiunge sempre il termine “generativa”. Un sistema di “apprendimento” della macchina, capace di elaborare una inimmaginabile quantità di informazioni che potrebbe attingere dalle fonti più disparate. Ad esempio, analizzando il consumo dell’acqua e dell’energia domestica di una popolazione “da profilare”, ma anche mettendosi in rete con i sistemi di controllo della mobilità in una metropoli, oppure con le chiuse di una diga, le dorsali dei dati, le pipeline del gas e del petrolio. Tutto è in rete.

Chi sono i padroni delle macchine? Le macchine hanno certo dei padroni “ufficiali”, ma siamo sicuri che sono quelli che crediamo? Il mercato che abbiamo eletto a unico regolatore globale della vita e della morte sul pianeta, è uno spazio complesso e non trasparente per definizione. Si può comprare tutto nel mercato, e soprattutto si può vendere tutto. E dunque, l’Intelligenza Artificiale Generativa, grande opportunità come dicono al G7, ma anche grande, enorme problema.

Che cosa siamo (diventati)?

Dipende sempre dall’uomo, non c’è dubbio, ma che tipo di “uomo” esiste oggi? Siamo convinti che al ritmo dei nostri salti tecnologici, non sia corrisposta anche una vera e propria mutazione antropologica riguardo a noi stessi? Può esistere l’uomo capace di discernere per il meglio, senza un nuovo umanesimo? Ancora una volta la “tecnica”, e le lodi cantate alla magnificenza dello sviluppo raggiunto, coprono i grugniti di un’uomo ridotto a corpo senz’anima.

I principi, i valori, l’etica, la trascendenza, a cosa servono se l’unico senso che diamo alla vita è uccidere di più e meglio degli altri, arricchirsi di più e meglio dell’altro, sfruttare di più e meglio di ognuno? Qual è il “modello di uomo” che dovrebbe decidere come usare al meglio per noi tutti, l’Intelligenza Artificiale?

Forse quell’Elon Musk che si è appena fatto accreditare uno stipendio annuale da 56 miliardi di dollari, sei milioni di dollari l’ora? E’ lui il Messia? Se non è lui, perché diciamo di affidarci a sistemi sociali e non ai singoli individui, la sistematica demolizione in corso di principi fondanti come quelli di “bene comune”, “collettività”, “solidarietà”, “diritti umani”, ci sta aiutando?

O stiamo solo prendendo atto che, come in guerra, non c’è tempo per una decisione umana, non c’è tempo per la coscienza, e dunque pre-autorizziamo la macchina, il mercato, il denaro, a decidere per noi, ridotti a nostra volta a merce per generare profitto?

Per leggere gli articoli di Luca Casarini su Periscopio clicca sul nome dell’autore

tag:

gaza

intelligenza artificiale

intelligenza naturale

Lavender

Papa Francesco

Roberto Cetera

Luca Casarini

Lascia un commento Annulla risposta

Ogni giorno politici, sociologi economisti citano un fantomatico “Paese Reale”. Per loro è una cosa che conta poco o niente, che corrisponde al “piano terra”, alla massa, alla gente comune. Così il Paese Reale è solo nebbia mediatica, un’entità demografica a cui rivolgersi in tempo di elezioni.
Ma di cosa e di chi è fatto veramente il Paese Reale? Se ci pensi un attimo, il Paese Reale siamo Noi, siamo Noi presi Uno a Uno. L’artista polesano Piermaria Romani si è messo in strada e ha pensato a una specie di censimento. Ha incontrato di persona e illustrato il Paese Reale. Centinaia di ritratti e centinaia di storie.
(Cliccare sul ritratto e ingrandire l’immagine per leggere il testo)

PAESE REALE
di Piermaria Romani