«Il sistema di difesa prescinde dalle decisioni umane, Skynet comincerà ad auto-istruirsi. Diverrà autocosciente alle 2:14 del giorno 29 agosto. Prese dal panico, le autorità gli ordineranno di disinserirsi.» Terminator 2 – Il giorno del giudizio
Nell’immaginario collettivo occidentale la questione dell’intelligenza artificiale è stata spesso plasmata dalle opere di fantascienza, che in molti casi hanno alimentato la distopia dell’IA nemica pronta a fare del male agli esseri umani. Ciclicamente i mass media usano questi scenari per illustrare in maniera semplificata e banale i possibili pericoli che potrebbero derivare da questo salto tecnologico, ma l’inutile sensazionalismo mediatico svia il discorso pubblico da una tematica estremamente complessa, nebulosa, che coinvolge numerose discipline accademiche e costringe tutti ad interrogarsi sull’evoluzione del nostro mondo.
Se alcuni guru della Silicon Valley vedono nell’IA super-intelligente (ribattezzata con il termine Singolarità) un futuro radioso per l’umanità, altri esperti negli ultimi anni hanno lanciato molteplici allarmi sul “pericolo esistenziale” che potrebbe comportare per la nostra civiltà. Non come un terminator che emerge dalla guerra nucleare, ma come un’entità autocosciente che sfugge al nostro controllo. Ma mentre prosegue il dibattito sull’ipotetico avvento della Singolarità, molti “addetti ai lavori” e pensatori invitano a conservare un sano scetticismo su questi scenari distopici, in certi casi amplificati per ragioni politiche ed economiche. L’evoluzione tecnologica è stata notevole negli ultimi due decenni, ma la costruzione di un ‘dio artificiale’ non è ancora alle porte e forse non lo sarà mai. In compenso le attuali intelligenze artificiali generative stanno già influenzando la nostra epoca, non necessariamente in maniera positiva.
Discriminazioni dettate dagli algoritmi, deresponsabilizzazione dei soldati in zone di guerra, controlli orwelliani da parte delle élite al comando, diffusione incontrollata della propaganda e il rischio di un impatto catastrofico sul mercato del lavoro, rappresentano alcuni dei problemi che potrebbe comportare la rapida e massiva diffusione delle nuove IA. Inoltre con l’incremento del potenziale tecnologico potrebbe verificarsi anche un ‘crollo della realtà percepita’ e della fiducia nei confronti delle istituzioni, con la produzione di video, audio e foto ultra-realistiche, rigorosamente falsi. La fratturazione della realtà condivisa in mille rivoli virtuali è uno scenario assolutamente realistico e probabile, specialmente nelle società avanzate dove la fusione con il mondo virtuale procede senza remore.
Ma le ripercussioni negative generate dall’intelligenza artificiale non rappresentano ancora un ‘pericolo esistenziale’ per la nostra specie. O forse si, ma non per l’avvento di una super mente non umana. Infatti prima di arrivare ad elaborare scenari assurdi come quelli dell’IA che annienta il mondo a colpi di graffette o strane convivenze fra esseri umani ed entità artificiali, come ipotizzato dallo scienziato Max Tegmark, il grande tema andrebbe inquadrato nella più generale questione del Sistema globale e il suo progresso tecnologico ‘inevitabile’.
Abbiamo ancora un reale controllo del meccanismo di sviluppo planetario? Possiamo sottrarci alle ‘magnifiche sorti e progressive’? Dal decollo industriale il genio è uscito della bottiglia e ora siamo avviluppati nella sua tela dalla crescita infinita e obbligatoria. Il gran dibattere sulla Singolarità in realtà rivela la paura di essere diventati degli ingranaggi del Meccanismo globale che artificialmente prosegue incurante delle preoccupazioni umane.
Per quante regolazioni un’autorità possa inventarsi (come sta provando a fare l’Unione Europea), i tentativi di sviluppare questa tecnologia in ogni direzione non verranno fermati. La competizione fra gli esseri umani e i dogmi del Progresso spingono a superare ogni limite esistente sul lungo termine. Ma nella corsa sfrenata verso l’infinito e oltre il reale pericolo non sarà tanto la misteriosa Singolarità, ma la complessità di un modello che nessuno realmente controlla e che accelera caoticamente come un treno privo di sala comandi. L’IA è la nuova frontiera tecnologica, ma allo stesso tempo accelera i lati oscuri della nostra civiltà, alimentando le probabilità di una reazione a catena di errori potenzialmente fatali. Questo è il vero pericolo esistenziale, ma riguarda la Modernità e il suo indissolubile rapporto con la Tecnica.