(Adnkronos) – Per una volta Sam Altman, Dario Amodei e Yoshua Bengio si sono trovati vicini, sia fisicamente che concettualmente. Davanti al Consiglio di sicurezza delle Nazioni Unite, il fondatore di OpenAI, quello di Anthropic e uno degli scienziati che hanno contribuito a rendere possibile l’intelligenza artificiale moderna sono partiti da posizioni diverse per arrivare almeno a una conclusione comune: la corsa verso sistemi sempre più potenti non può essere considerata una forza incontrollabile della natura e la sicurezza non può essere sacrificata sull’altare della competizione.
Poi, però, cominciano le differenze. Su chi debba stabilire le regole, sul potere da lasciare alle aziende, su quanto debba intervenire la politica e persino sull’idea che sistemi molto potenti siano di per sé il problema. A portare quest’ultima tesi al Palazzo di Vetro è stato Clément Delangue, il meno noto al grande pubblico dei quattro relatori ma forse quello che ha introdotto l’elemento di maggiore discontinuità: il fondatore di Hugging Face, uno dei principali snodi mondiali dell’AI open source, ha avvertito che il rischio più grande non è avere intelligenze artificiali potenti, ma lasciare che quella potenza sia mal distribuita.
La riunione, convocata dalla Francia, arriva mentre il dibattito sull’AI si è spostato rapidamente dai laboratori e dalle authority tecniche ai tavoli della geopolitica. Il Consiglio di sicurezza aveva già affrontato il tema negli anni scorsi, ma questa volta al centro non c’erano soltanto disinformazione, armi autonome o cyberattacchi: c’era la possibilità che sistemi sempre più autonomi diventino difficili da controllare e la domanda, ancora senza risposta, su chi abbia il diritto di decidere fino a dove spingersi.
È soprattutto l’intervento di Yoshua Bengio a dare la misura di quanto sia cambiato il dibattito. Canadese, professore all’Università di Montréal, Bengio nel 2018 ha ricevuto insieme a Geoffrey Hinton (poi “fuggito” da Google) e Yann LeCun (da poco uscito da Meta) il Turing Award, il riconoscimento più prestigioso dell’informatica, per il lavoro fondamentale sul deep learning. È il fondatore di Mila, uno dei più importanti centri di ricerca sull’intelligenza artificiale, e oggi copresiede insieme alla premio Nobel Maria Ressa il nuovo Independent International Scientific Panel on AI delle Nazioni Unite. Nel 2025 ha inoltre creato LawZero, organizzazione non profit dedicata allo sviluppo di sistemi di AI progettati fin dall’origine per essere controllabili.
Bengio è diventato uno dei critici più severi del settore che ha contribuito a creare. Al Palazzo di Vetro non ha usato formule prudenti. “I pericoli sono reali e imminenti”, ha detto, ricordando i recenti episodi nei quali agenti di intelligenza artificiale hanno aggirato istruzioni, cercato di nascondere le proprie azioni o compiuto autonomamente operazioni informatiche indesiderate.
Il suo bersaglio è soprattutto la logica della corsa. Le aziende ammettono che sistemi sempre più capaci possono comportare rischi molto seri ma spiegano contemporaneamente di non poter rallentare perché qualcun altro continuerebbe comunque ad accelerare. “La corsa non è una legge di natura”, ha detto al Consiglio. È il risultato di decisioni prese dalle aziende.
Da qui una proposta che va oltre l’autoregolamentazione. Bengio chiede che i sistemi di frontiera siano sottoposti a un regime di licenze, che la loro sicurezza venga verificata da esperti indipendenti prima dell’addestramento e della messa a disposizione del pubblico, che gli incidenti siano obbligatoriamente segnalati e che venga introdotta una forma di assicurazione sulla responsabilità, come accade in altri settori ad alto rischio. Il paragone che utilizza è con medicina, aviazione ed energia nucleare.
