Poco tempo dopo la tragedia delle Torri Gemelle ebbi l’occasione di discutere con Pierre Restany della capacità delle tecnologie di prevenire, o addirittura di evitare, disastri come quello. In effetti la relazione tra tecnologie e catastrofi è un connubio interessante ma poco analizzato, che andrebbe sicuramente approfondito, anche da un punto di vista umanistico. In sostanza la domanda che Restany mi poneva era: perché, nonostante il poderoso dispiegamento di tecnologie di cui una parte del mondo occidentale si è dotato, capace di offendere e di proteggere fino al punto di far sentire quasi dei semidei, non è stato possibile evitare una simile tragedia? Da quella discussione nacque un contributo, che apriva il numero 167 di D’Ars, dicembre 2001, allora ancora diretto da Pierre Restany, dedicato all’intelligenza artificiale. Contributo che qui ripropongo nel decimo anniversario di quella tragedia.

 

L’intelligenza culturale

[Pubblicato su D’Ars, n. 167, dicembre 2001, pp.10-15]

 

L’intelligenza artificiale è una disciplina che studia la possibilità di riprodurre le capacità umane, in particolare quelle di tipo simbolico-razionale, nelle macchine. Le ricerche in questo campo hanno prodotto, concretamente, risultati molto più limitati di quanto all’inizio si pensasse. L’intelligenza artificiale fa parte di quel gruppo di scienze, discipline e tecnologie che cercano di simulare il comportamento umano, e più in generale il comportamento del “vivente”. Di queste discipline è tra le più ambiziose, giacché si propone di operare questa simulazione “dall’alto”, cioè di riprodurre la complessità dell’intelligenza umana nelle macchine. Un approccio radicalmente diverso, per esempio, da quello di altre discipline, come la robotica, che cerca invece di operare la simulazione dell’intelligenza “dal basso”, partendo da semplici dispositivi e via via realizzando macchine con comportamenti nervosi e capacità sempre più complessi.

Essendo prodotte dalla cultura umana che le ha progettate e create, le macchine ne condividono vari aspetti, finalità, comportamenti (valori?). Essendo state costruite ed istruite dall’uomo, esse sono in grado di operare solo in relazione a quelle istruzioni. La quasi totalità della conoscenza delle macchine viene ad esse trasferita da noi, la parte di sapere che, allo stato attuale dell’arte, le macchine sono in grado di acquisire autonomamente, è (ancora) limitata a situazioni semplici, note e circoscritte. Come gli umani, dunque, le macchine “sanno fare” in base al sapere che possiedono, cioè in base alle conoscenze – alle informazioni – che noi abbiamo loro conferito. Come gli umani, spesso meglio (in maniera più precisa, rapida, duratura…), le macchine sono in grado di operare nei contesti e nelle situazioni su cui sono state istruite. In questi ambiti circoscritti e limitati, grazie alle conoscenze che abbiamo loro conferito, ci sollevano da compiti gravosi e ripetitivi, talvolta pericolosi, in cui sono più veloci di noi, compiono meno errori, sono più efficienti e costano meno. Sono invece di gran lunga inferiori a noi di fronte a situazioni nuove, che non conoscono (su cui non sono state “istruite”). Qualsiasi aspettativa in questa direzione, che per esempio pretenda dalle tecnologie una capacità sintetica o predittiva paragonabile o addirittura superiore a quella umana, è destinata ad andare delusa: almeno per il momento, ciò che gli umani non riescono a prevedere non può essere previsto dalle macchine. Le macchine, in quanto strumenti di ausilio, non possono rispondere di conoscenze e di responsabilità che non possiedono. Attenzione a non sopravvalutarle.

Le tecnologie ci rispecchiano. Possono aiutarci a immaginare ciò che noi possiamo immaginare, al limite possono anche fornirci informazioni che esorbitano da quelle a noi necessarie, informazioni che ex post potrebbero essere reinterpretate in maniera innovativa o diversa rispetto a quanto facciamo. Ma se noi non siamo in grado di interpretare quei dati estrapolandone un senso e indirizzandolo a situazioni nuove, creativamente, quei dati restano muti (siamo forse in grado di prevedere i terremoti?).

Ciò vale anche per le tecnologie e per le macchine impiegate all’interno dell’attività sociale, della sicurezza quotidiana. Nessuna macchina o tecnologia, da sola, avrebbe potuto prevedere, per esempio, un atto terroristico come quello dell’11 Settembre, semplicemente perché la nostra cultura non avrebbe potuto immaginarlo, per la sua portata (il numero di vittime, le devastazioni provocate…), per le modalità di attuazione (il sequestro concertato di più aerei di linea, la contemporaneità delle azioni…), per il valore attribuito alla vita umana (anche quella degli stessi terroristi)… Un atto di cui si fatica persino a comprendere chiaramente le motivazioni o i cui esiti appaiono spropositati rispetto ad esse.

È possibile rendere queste macchine più utili ed efficienti? Certamente sì, se noi, i loro creatori e programmatori, saremo in grado di istruirle, cioè di trasferire loro le nuove conoscenze necessarie, introducendo nuovi elementi o modificando quelli già esistenti. In definitiva dobbiamo essere noi a possedere quelle che, nel caso dell’atto terroristico dell’11 Settembre, paradossalmente, sono le stesse conoscenze che potrebbero essere utili alla pace (il che di fatto porterebbe i sistemi di “difesa dall’altro” a diventare inutili).

Tuttavia spesso queste nuove istruzioni producono restrizioni delle libertà. Un primo esempio attuale pubblico di “aggiornamento nell’istruzione delle macchine” è il Patriot Act, firmato da George Bush il 29 Ottobre. Questa legge, sotto l’apparenza di un nome nobile, in realtà pone sotto controllo le informazioni che viaggiano su Internet, imponendo ai provider di installare sui computer Carnivore (o applicativi analoghi), un sistema che consente di acquisire molte più informazioni che in passato sulle comunicazioni elettroniche degli utenti di Internet, sulle e-mail ricevute e inviate, i materiali scaricati, i messaggi letti e inviati sui newsgroup… Dato che Internet è una rete mondiale, che una parte rilevante del traffico di informazioni passa per server statunitensi, che la maggioranza dei siti visitati si trova là – sicuramente quelli più visitati –  e dato che molti dei siti di altre nazioni del mondo, per questioni di economia e di banda, risiedono su server in USA, questa legge in realtà riguarda tutti. E altre nazioni del mondo, Italia compresa, sia pure non ancora in maniera formale, sembrano intenzionate a procedere in questa direzione. Il fatto che anche le più bellicose associazioni che si battono per la tutela  dei diritti civili abbiano opposto solo qualche tiepida risposta induce a pensare che la reazione al clima di insicurezza ponga in secondo piano motivazioni più teoriche e astratte come la privacy, i diritti civili, la fragile barriera che separa democrazia e controllo sociale, che questi ultimi “aggiornamenti delle macchine” procedano in direzione conservatrice.

E l’arte? L’arte può avere oggi un ruolo etico fondamentale se saprà andare oltre la celebrazione drammatica e populistica, che varie manifestazioni mostrano, o se non si perderà in decadenti e poco umane considerazioni. Karlheinz Stockhausen sull’11 Settembre ha detto: “Ciò che è accaduto là […] è la più grande opera d’arte di tutti i tempi. Perché dei geni ottengono in un singolo atto ciò che noi in musica non possiamo sognare, perché delle persone provano per dieci anni come pazze, totalmente fanatiche, un concerto e poi muoiono. Questa è in assoluto la più grande opera d’arte dell’intero universo… io non riuscirei mai ad eguagliarla. In confronto noi, come compositori, siamo nulla.” Affermazioni che si commentano da sole.