Quando riflettiamo – come nel Dossier di questo numero – sull’intelligenza artificiale è utile ricordare uno dei personaggi più famosi della storia del cinema, ovvero quello di HAL in 2001: Odissea nello spazio, capolavoro e film culto di Stanley Kubrick. Più che di un’odissea nello spazio, il film narra di un viaggio nel tempo – dall’uomo primitivo all’uomo del futuro – in cui l’intelligenza è la vera protagonista e in cui HAL (sigla le cui lettere precedono il noto marchio IBM) è più che un semplice computer in senso tradizionale, ma è il soggetto che di fatto detiene il comando dell’astronave, controlla i parametri vitali dei passeggeri che trasporta e interagisce con questi come se fosse a tutti gli effetti – anche se virtuale e artificiale – un membro dell’equipaggio.

Così come gli uomini primitivi delle scene iniziali del film sono in grado di prevedere i comportamenti delle loro prede, anche HAL tramite i suoi algoritmi è in grado di anticipare il futuro e di prevedere il malfunzionamento di una componente dell’astronave, rendendo possibile la sua sostituzione prima che si verifichi l’avaria. E così come gli uomini primitivi uccidono il loro prossimo quando minacciati, allo stesso modo HAL tenterà di uccidere – riuscendoci in quasi tutti i casi – gli altri membri dell’equipaggio quando questi decidono di disattivarlo. A differenza degli uomini primitivi o moderni, l’intelligenza di HAL è però più sofisticata ed è in grado di raccogliere ed elaborare molti più dati, non solo quelli provenienti dalla strumentazione tecnica, ma anche quelli relativi al comportamento delle persone. HAL è infatti una presenza pervasiva che osserva che cosa fanno le altre persone e ne anticipa i desideri e le relative azioni. L’obiettivo rosso della telecamera di HAL è l’immagine che lo contraddistingue e che ricorda una sorta di Big Brother di orwelliana memoria: un sistema pervasivo in cui tutto e tutti sono costantemente controllati.

Quanto di queste opere di finzione si può ritrovare nel mondo reale – umano e artificiale – in cui attualmente viviamo e operiamo? Molto e sicuramente più di quanto possiamo inizialmente immaginare.

Siamo infatti immersi in una realtà circondata da sensori (siano essi computer, tablet, smartwatch, elettrodomestici, telecamere ecc.) che raccolgono una quantità immensa di dati a ogni livello dell’ambiente circostante, sia esso naturale, artificiale o umano. Dati diversi che vengono però raccolti e analizzati con un’unica finalità: prevedere il futuro dei soggetti/sistemi da cui vengono estratti. Che si tratti di fare delle previsioni meteorologiche sulla base dei dati raccolti dalle immagini satellitari e dalle diverse centraline meteo o di prevedere il comportamento di acquisto di un soggetto sulla base dei comportamenti passati o delle informazioni personali raccolte sui social media, il principio è lo stesso. E affinché le previsioni siano sempre più attendibili è necessario aumentare il numero dei sensori così da raccogliere maggior dati possibili (big data) e utilizzare sistemi di equazioni (algoritmi) in grado di analizzarli e prevedere il futuro.

Sensori, algoritmi e capacità di immagazzinare e di analizzare i dati: queste sono le tre caratteristiche che spiegano come mai oggi le previsioni meteo siano più precise e affidabili di un tempo^[1]. In questi anni si è di fatto applicato lo stesso principio dell’osservazione dell’atmosfera alla previsione del comportamento umano. Nel caso della meteorologia la previsione del futuro presenta indubbi benefici per la collettività in tutta una serie di attività – dall’agricoltura ai trasporti – ed è in grado non solo di gestire al meglio le risorse, ma di ridurre i danni e di salvare vite umane. Le previsioni del tempo possono però solo prevedere il futuro e non possono – per quanto si sia anche tentato con limitati e scarsi successi – modificarne l’esito. Anche nel caso della loro applicazione alle persone, le previsioni possono avere indubbi vantaggi: si può per esempio stimare più accuratamente la domanda di alcuni beni o servizi (dai trasporti alla salute, fino alla vendita di prodotti) e coordinare meglio le attività connesse e la gestione delle relative risorse, con maggiore soddisfazione degli utenti e limitando i danni derivanti da sprechi e inefficienze. Non è però scontato che questo si traduca necessariamente in benefici collettivi universali. Alcuni soggetti potrebbero infatti avvantaggiarsi dell’intelligenza artificiale a scapito di altri. Per esempio in Cina, nel caso dei servizi di consegna a domicilio basati sulle app, in cui le scadenze dettate dagli algoritmi e le multe interne in caso di ritardi stanno spingendo i rider a una guida sempre più spericolata, aumentando così il numero di incidenti in cui sono coinvolti e mettendo a rischio la loro incolumità fisica e, più in generale, quella di altri autisti e pedoni^[2].

A differenza delle previsioni del tempo il comportamento umano può infatti essere modificato e influenzato. Non è certo una novità che le imprese abbiano sempre utilizzato una varietà di mezzi per condizionare le preferenze e le decisioni di acquisto dei consumatori. La pubblicità rientra tra questi ed è forse il mezzo tradizionalmente più importante. L’intelligenza artificiale e i big data hanno però aumentato la pervasività di tale fenomeno al punto tale che a ogni nostra singola azione pubblica ed esplicita (per esempio, postare un contenuto su un social media) o privata e implicita (per esempio navigare su un sito in cui i cookie registrano i nostri ingressi oppure entrare in un luogo fisico – una stanza della nostra casa o un negozio in città – in cui sensori dei nostri device – siano essi smartwatch, elettrodomestici o assistenti vocali – registrano i nostri spostamenti), corrisponde un flusso di informazioni che ci vengono estratte e che vengono utilizzate per veicolarci messaggi che aspirano a influenzare i nostri pensieri e il nostro comportamento.

Il prodotto o il servizio su misura non costituisce in fondo lo stadio più avanzato di soddisfazione del cliente/utente? Così come descritto nei diversi contributi che trovate all’interno del Dossier, in questa realtà ultrapersonalizzata che le imprese e le organizzazioni in senso lato stanno esplorando e utilizzando vi sono sicuramente molti vantaggi e benefici per le persone cui si rivolgono. Ma vi sono anche molti rischi e criticità. Come ci ricorda il film di Kubrick, l’intelligenza – anche quando artificiale – è spesso associata a fenomeni di violenza, non necessariamente intesa in senso fisico. Il finale del libro di Orwell, in cui il protagonista non solo è convinto che 2+2=5 ma anche di amare il Grande Fratello, è infatti di una violenza estrema. Per una strana coincidenza due date (1984 e 2001) sono i titoli di due capolavori che risultano estremamente attuali per chi si occupa di big data, algoritmi e intelligenza artificiale e che, dopo avere letto il nostro Dossier, vi invito caldamente a riprendere. Buona lettura!