Di esempi di governi stupidi e dannosi in forza del libero voto delle masse è piena la storia, anche quella di questi giorni. Ma lo storico e accademico Yuval Noah Harari, nel suo ultimo saggio ‘Nexus: A Brief History of Information Networks from the Stone Age to Ai’, paventa che attraverso l’intelligenza artificiale l’uomo potrebbe aver dato vita a un’entità, un potere, una divinità quasi, in grado di sovvertire la democrazia e ridurre l’uomo stesso in servitù.
Harari presenta l’IA non come uno strumento passivo, ma come una forza autonoma che sfugge al controllo umano: “L’IA rappresenta una minaccia senza precedenti per l’umanità perché è la prima tecnologia nella storia in grado di prendere decisioni e creare nuove idee autonomamente. Tutte le invenzioni umane precedenti hanno potenziato gli esseri umani, poiché, per quanto potente fosse il nuovo strumento, le decisioni sul suo utilizzo sono rimaste nelle nostre mani. Le bombe nucleari non decidono da sole chi uccidere, né possono migliorarsi o inventare bombe ancora più potenti. Al contrario, i droni autonomi possono decidere autonomamente chi uccidere, e le IA possono creare nuovi progetti di bombe, strategie militari senza precedenti e IA più avanzate. L’IA non è uno strumento, ma un agente. La maggiore minaccia dell’IA è che stiamo evocando sulla Terra innumerevoli nuovi potenti agenti, potenzialmente più intelligenti e immaginativi di noi, che non comprendiamo né controlliamo completamente”. Questo concetto viene esemplificato dal recente caso di Amazon Q. Come ha spiegato il ceo Andy Jassy, Amazon Q è in grado di ridurre i tempi di aggiornamento software da settimane a poche ore, risparmiando migliaia di ore di lavoro umano. Tuttavia, sebbene l’efficienza sia notevole, resta la domanda su cosa accadrebbe se questa apparecchiatura iniziasse a prendere decisioni in modi non previsti dai suoi creatori.
Harari sottolinea che il problema non risiede solo nell’arroganza umana, ma nella struttura dei network di potere e cooperazione. “La nostra tendenza a evocare poteri che non possiamo controllare – scrive – non deriva dalla psicologia individuale, ma dal modo unico in cui la nostra specie coopera in gran numero. L’umanità acquista un enorme potere costruendo vaste reti di cooperazione, ma il modo in cui queste reti sono strutturate ci predispone a usare il potere in modo scellerato. La maggior parte delle nostre reti è stata costruita e mantenuta diffondendo storie, fantasie e illusioni collettive che spaziano dalle bacchette magiche ai sistemi finanziari. Il nostro problema, quindi, è un problema di rete. Specificamente, è un problema di informazione. L’informazione è la colla che tiene insieme le reti, e quando le persone ricevono informazioni errate, è probabile che prendano decisioni sbagliate, indipendentemente da quanto saggi e benevoli possano essere personalmente”.
Sottolinea ancora Harari che “tradizionalmente, il termine “IAC è stato usato come acronimo di intelligenza artificiale. Ma forse è meglio considerarlo come acronimo di intelligenza aliena. Man mano che l’IA evolve, diventa sempre meno artificiale (nel senso di dipendere dai progetti umani) e sempre più aliena. Anche nel momento attuale, nella fase embrionale della rivoluzione dell’IA, i computer prendono già decisioni su di noi, che si tratti di concederci un mutuo, assumerci per un lavoro o spedirci in prigione. Nei prossimi decenni, è probabile che acquisisca la capacità di creare anche nuove forme di vita, sia scrivendo codice genetico sia inventando un codice inorganico per animare entità inorganiche. L’IA potrebbe quindi alterare non solo il corso della storia della nostra specie, ma anche l’evoluzione di tutte le forme di vita”. Ecco allora che, secondo Harari, “L’ascesa dell’intelligenza aliena rappresenta una minaccia per tutti gli esseri umani, e una minaccia particolare per la democrazia”.
