L'AI si unisce alla lista delle sfide globali nell'agenda delle Nazioni Unite

L'intelligenza artificiale si sta unendo alla lista delle grandi e complesse sfide globali che i leader mondiali e i diplomatici affronteranno al meetup annuale di alto livello delle Nazioni Unite di questa settimana.

Da quando il boom dell'IA è iniziato con il debutto di Chatgpt circa tre anni fa, le capacità mozzafiato della tecnologia hanno stupito il mondo. le aziende tecnologiche hanno fatto a gara per sviluppare sistemi di intelligenza artificiale migliori anche se gli esperti avvertono dei suoi rischi, comprese le minacce esistenziali come pandemie ingegnerizzate, disinformazione su larga scala o IA canaglia che sfuggono al controllo e richiedono garanzie.

L'adozione da parte delle Nazioni Unite di una nuova architettura di governance è l'ultimo e più grande sforzo per frenare l'IA. I precedenti sforzi multilaterali, tra cui tre summit sull'IA organizzati da Gran Bretagna, Corea del Sud e Francia, hanno portato solo a impegni non vincolanti.

Il mese scorso, l'Assemblea generale ha adottato una risoluzione per istituire due organi chiave sull'IA — un forum globale e un gruppo scientifico indipendente di esperti — in una mossa fondamentale per guidare gli sforzi di governance globale per la tecnologia.

Mercoledì, una riunione del Consiglio di sicurezza delle Nazioni Unite convocherà un dibattito aperto sulla questione. Tra le domande da affrontare: in che modo il consiglio può contribuire a garantire l'applicazione responsabile dell'IA per conformarsi al diritto internazionale e sostenere i processi di pace e la prevenzione dei conflitti?

E giovedì, come parte della riunione annuale dell'organismo, il segretario generale delle Nazioni Unite António Guterres terrà una riunione per lanciare il forum, chiamato global Dialogue on AI governance.

È un luogo per i governi e le” parti interessate " per discutere la cooperazione internazionale e condividere idee e soluzioni. Si riunirà formalmente a Ginevra il prossimo anno e a New York nel 2027.

Nel frattempo, il reclutamento dovrebbe iniziare per trovare 40 esperti per il gruppo scientifico, tra cui due cochair, uno da un paese sviluppato e uno da una nazione in via di sviluppo. il panel ha fatto paragoni con il panel sui cambiamenti climatici delle Nazioni Unite e la sua riunione annuale di punta della COP.

I nuovi corpi rappresentano "un trionfo simbolico.“sono” di gran lunga l'approccio globale più inclusivo al mondo per governare l'IA", ha scritto Isabella Wilkinson, ricercatrice presso il think tank londinese Chatham House, in un post sul blog.

"Ma in pratica, i nuovi meccanismi sembrano essere per lo più impotenti”, ha aggiunto. Tra i possibili problemi c'è se l'amministrazione pesante delle Nazioni Unite sia in grado di regolare una tecnologia in rapido movimento come l'IA.

Prima dell'incontro, un gruppo di esperti influenti ha chiesto ai governi di concordare le cosiddette linee rosse per l'IA che entreranno in vigore entro la fine del prossimo anno, affermando che la tecnologia ha bisogno di “guardrail minimi” progettati per prevenire i “rischi più urgenti e inaccettabili". ”il gruppo, tra cui i dipendenti senior di Chatgpt maker Openai, il laboratorio di ricerca AI di Google Deepmind e il produttore di chatbot Anthropic, vuole che i governi firmino un accordo vincolante a livello internazionale sull'IA, sottolineano che il mondo ha precedentemente concordato trattati che vietano i test nucleari e le armi biologiche e proteggono l'alto mare.

”L'idea è molto semplice", ha detto uno dei sostenitori, Stuart Russell, professore di informatica e direttore dell'Università della California, Berkeley Center for Human Compatible AI. "Come facciamo con i farmaci e le centrali nucleari, possiamo richiedere agli sviluppatori di dimostrare la sicurezza come condizione per l'accesso al mercato.”

Russell ha suggerito che la governance delle Nazioni Unite potrebbe assomigliare al funzionamento di un altro organismo affiliato alle Nazioni Unite, l'Organizzazione internazionale dell'aviazione civile, che si coordina con i regolatori di sicurezza di diversi paesi e si assicura che stiano tutti lavorando sulla stessa pagina.

E piuttosto che stabilire una serie di regole che sono scolpite nella pietra, i diplomatici potrebbero elaborare una “convenzione quadro” abbastanza flessibile da essere aggiornata per riflettere gli ultimi progressi dell'IA, ha detto.