Anthropic: il responsabile dell'allineamento ammette il rischio "irrisolvibile" della superintelligenza

Il responsabile scientifico dell'allineamento di Anthropic, Evan Hubinger, questa settimana ha ammesso pubblicamente, in via eccezionale, che l'azienda crede sinceramente che la superintelligenza potrebbe "uccidere l'intera umanità" entro questo decennio, e che attualmente non esiste una soluzione chiara al cosiddetto "problema dell'allineamento". La dichiarazione arriva dopo che il ricercatore di Anthropic Jacob Coxon ha annunciato le sue dimissioni, rappresentando l'ultima scossa proveniente dall'interno dell'azienda.

Secondo quanto riportato da ABC News Australia, Coxon ha dichiarato senza mezzi termini sul social media X di aver scelto di lasciare dopo aver lavorato complessivamente tre anni nella ricerca di pre-addestramento presso Anthropic e OpenAI, perché "nessuna delle due aziende sta agendo in modo responsabile". Le sue parole esatte sono state: "Stanno correndo verso una superintelligenza auto-migliorante, scommettendo le nostre vite."

Hubinger ha successivamente risposto su X che le parole di Coxon erano "corrette". Ha scritto: "Crediamo davvero che l'IA potrebbe uccidere l'intera umanità! Personalmente credo che la probabilità che ciò accada nei prossimi dieci anni sia superiore al 10%." Su una questione di percorso tecnologico che riguarda la sopravvivenza dell'azienda e il destino dell'umanità, ha altresì ammesso: "Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora una soluzione al problema dell'allineamento della superintelligenza, né stiamo chiaramente percorrendo la strada verso tale soluzione."

Coxon non è un caso isolato. A luglio di quest'anno, oltre 1.300 dipendenti di Anthropic, OpenAI e altre aziende di IA all'avanguardia hanno firmato una dichiarazione pubblica congiunta, avvertendo che "lo sviluppo delle capacità potrebbe rapidamente superare la nostra capacità di comprendere o controllare i sistemi che produciamo", e chiedendo al governo degli Stati Uniti di sostenere gli sforzi internazionali per creare strumenti che permettano di "controllare consapevolmente il ritmo dello sviluppo dell'IA d'avanguardia". L'iniziativa è stata denominata "Pacing the Frontier".

Tuttavia, la risposta di entrambe le aziende alla petizione si è limitata a principi generali, senza impegni concreti. Secondo le dichiarazioni su X delle due aziende, citate da ABC News Australia, Anthropic ha riconosciuto che la sua ricerca sull'"auto-miglioramento ricorsivo" pubblicata il mese scorso "indica la necessità di strumenti per controllare consapevolmente il ritmo dello sviluppo dell'IA d'avanguardia, affinché la società possa prepararsi"; OpenAI, dal canto suo, si è espressa in termini vaghi, affermando che "crediamo che, a un certo punto in futuro, l'accelerazione dell'IA nello sviluppo di modelli d'avanguardia potrebbe essere così elevata da richiedere al mondo di controllare il ritmo del progresso dell'IA". Nessuna delle due aziende si è impegnata a sospendere la ricerca e sviluppo né ad accettare una regolamentazione esterna vincolante.

La lacuna a livello regolatorio viene ora indicata con crescente franchezza sulla scena internazionale. Secondo quanto riportato da ABC News Australia, l'Alto Commissario delle Nazioni Unite per i diritti umani, Volker Turk, ha avvertito lunedì a Ginevra che l'IA avanzata potrebbe costituire un "rischio esistenziale" per l'umanità, e ha giurato di esercitare pressioni sulle aziende del settore per mitigare i rischi elencati dal suo ufficio — tra cui l'impatto sui servizi pubblici, sulle comunicazioni e sui sistemi democratici. Turk ha chiesto di "forgiare garanzie ferree" per la sicurezza dell'IA "prima che sia troppo tardi". "Condivido con gli addetti ai lavori del settore la preoccupazione che l'IA avanzata possa costituire un rischio esistenziale per l'umanità", ha dichiarato parlando presso un'agenzia delle Nazioni Unite.

La natura del "problema dell'allineamento" risiede nel fatto che un sistema di IA con capacità superiori a quelle umane potrebbe non condividere i valori umani. In un contesto in cui a livello federale statunitense non è ancora stato istituito un quadro regolatorio vincolante per l'IA d'avanguardia, gli addetti ai lavori del settore stanno ora riconoscendo nel modo più esplicito che, in questa corsa, la distribuzione del rischio e della ricompensa non è simmetrica — i guadagni sono assicurati alle aziende, mentre i costi potrebbero ricadere su tutti.