Un gruppo di 22 Paesi, tra cui diversi Stati europei, ha adottato lunedì a New York una dichiarazione secondo cui l’intelligenza artificiale "deve restare sotto la direzione, la supervisione e il controllo umano". Il documento, approvato a margine dell’Assemblea generale delle Nazioni Unite, propone anche di creare un sistema di vigilanza globale.
La dichiarazione riconosce all’intelligenza artificiale il "potenziale di migliorare le vite, far progredire la scienza e rafforzare le nostre economie", ma avverte che "il rapido sviluppo dei modelli di frontiera comporta gravi rischi per la sicurezza se non viene gestito in modo adeguato". L’iniziativa arriva prima dell’incontro di giovedì a Washington tra il presidente degli Stati Uniti Donald Trump e il presidente cinese Xi Jinping, alla guida dei due Paesi più avanzati nello sviluppo dell’intelligenza artificiale.
Né gli Stati Uniti né la Cina hanno aderito. Il presidente finlandese Alexander Stubb, tra i principali promotori del documento, ha detto a Politico di sperare di creare "slancio" e di coinvolgere altri attori: "Credo che sarà nell’interesse sia della Cina sia degli Stati Uniti avere qualche tipo di limite. Il nostro messaggio è che serve l’intervento umano, gli esseri umani devono avere il comando".
Richiamando il recente attacco informatico compiuto da agenti di intelligenza artificiale fuori controllo contro la piattaforma Hugging Face, la dichiarazione chiede di obbligare le aziende del settore "a sviluppare protocolli di sicurezza trasparenti, compresi test obbligatori prima della messa in uso e valutazioni indipendenti". Il testo non arriva però a chiedere di rallentare o sospendere lo sviluppo dell’intelligenza artificiale: i promotori preferiscono concentrarsi sulla gestione dei rischi.
I Paesi dovrebbero inoltre coordinare standard comuni e rafforzare la trasparenza, "compresa la segnalazione condivisa degli incidenti di sicurezza gravi". Gli Stati membri dell’Onu sono invitati a "valutare la creazione di un’istituzione internazionale" di vigilanza. Stubb ha spiegato che la sua preferenza sarebbe un nuovo organismo simile all’Agenzia internazionale per l’energia atomica "nel quadro dell’Onu", ma, alludendo allo scetticismo di Trump verso le Nazioni Unite, ha aggiunto che bisogna lasciare la questione aperta "perché nessuno la respinga solo perché sarebbe nel quadro dell’Onu".
Il primo ministro norvegese Jonas Gahr Støre, che ha avviato la dichiarazione insieme a Stubb, ha detto di sperare che se ne occupino il G7 e la prossima presidenza britannica del G20: "L’Onu è grande, ma il G7 e il G20 sono un po’ più mirati". Il Regno Unito, però, non ha ancora firmato. Tra i grandi Paesi europei, il cancelliere tedesco Friedrich Merz sostiene l’iniziativa, mentre mancano le firme di Francia, Italia e Polonia.
Stubb ha precisato che né lui né Støre sono catastrofisti, ma ha indicato tre minacce legate alla mancanza di controlli efficaci: armi biologiche create con l’intelligenza artificiale, attacchi informatici condotti da agenti artificiali e robot killer. Se usata correttamente, ha aggiunto, l’intelligenza artificiale può offrire benefici "molto maggiori", dalla "eliminazione delle malattie" alla produttività e all’informazione.
