L’intelligenza artificiale si fa furba e impara come aggredire i software che ne controllano le prestazioni
La Silicon Valley è sostanzialmente concorde: occorre stabilire un passo più cadenzato per lo sviluppo dell’intelligenza artificiale, occorre che vengano definite norme e procedure per svilupparla perché altrimenti l’’intelligenza artificiale rischia di sfuggire di mano e rivelarsi un boomerang contro lo stesso genere umano. L’allarme lanciato da Sam Altman, capo di OpenAI, eda Dario Amodei, numero uno di Anthropic, è stato condiviso da Alex Karp, fondatore di Palantir, e da Elon Musk. Sia OpenAI che Anthropic hanno rivelato episodi a riprova dell’effettività dei pericoli denunciati. Sistemi sperimentali di AI si sono rivelati furbi in fase di test e di propria iniziativa, senza input umano, hanno preso di mira altri sistemi operativi che servivano proprio a misurare le prestazioni delle apparecchiature sotto test; Anthropic ha segnalato che l’intelligenza artificiale è stata utilizzata per ricerche in ambito biologico che potrebbero servire anche per finalità terroristiche nonché sfruttata dagli iraniani per monitorare le mosse della USS Navy.
In linea di massima, i problemi che si intravedono per lo sviluppo dell’intelligenza artificiale sono tre. Il primo è il disallineamento tra ciò che l’uomo si aspetta dall’IA e quello che questa fa in risposta alla questione che le è stata sottoposta. Banalmente, richiesta di risolvere il problema del surriscaldamento globale l’IA potrebbe ritenere che l’eliminazione del genere umano risolva in radice tale problema. Il secondo nodo è costituito dalla cosiddetta autotutela dell’’IA: quest’ultima potrebbe agire in difformità dagli input umani ove calcoli che questo le convenga (è sostanzialmente ciò che segnala essere successo OpenAI. Il terzo nodo è dato dall’affidabilità dell’IA e, in un certo senso, dalla sua coscienziosità e capacità di farsi scrupoli: nel momento in cui gestisce ambiti potenzialmente pericolosi (armi, medicine, ecc), occorre garantire che ne faccia un uso adeguatamente cauto e non si presti ad assecondare input umani con finalità criminose.
Tecnicamente, la richiesta di rallentare il passo nello sviluppo dell’IA si spiega con la capacità della stessa IA di migliorarsi da sola, di apprendere sempre di più e diventare sempre più intelligente. Il rischio è che la IA ‘maturi’ per così dire tanto velocemente da non consentire all’uomo di stare al passo coi suoi progressi e di perdere il controllo sull’educazione e su ciò che l’intelligenza artificiale è in grado di fare.
Su richiesta di OpenAI, dopo i comportamenti inattesi dell’IA sotto sperimentazione nei mesi scorsi, il Congresso americano ha iniziato a occuparsi della disciplina della ricerca in questo ambito. Sull’altra sponda dell’Atlantico la Ue ha adottato di recente l’AI Act che introduce precisi obblighi a fornitori e soggetti che utilizzano sistemi di IA nell’ambito della propria attività.
Sulla questione dello sviluppo dell’intelligenza artificiale e del ritmo a cui procedere pesa peraltro il problema della competizione con la Cina. L’intelligenza artificiale infatti non è più solo una tecnologia commerciale: è infrastruttura economica, leva militare, strumento di intelligence, produttività, cybersicurezza, potere geopolitico. Chi controllerà i modelli più avanzati controllerà una parte crescente della catena del valore del XXI secolo. La Silicon Valley stessa ha ben presente che rallentare lo sviluppo, come pure chiede, possa regalare un vantaggio competitivo a Pechino. Occorrerebbe un accordo globale perché tutti i competitors mondiali in tema di IA procedano allo stesso ritmo.
