L’intelligenza artificiale continua a evolversi a ritmi vertiginosi, sollevando sempre più preoccupazioni tra gli esperti del settore. Recentemente, tre ex dipendenti di Anthropic l’azienda che ha sviluppato il chatbot Claude hanno deciso di rendere pubbliche le loro gravi preoccupazioni riguardo alle potenziali conseguenze dell’AI.
Questo allarme non è isolato, ma si inserisce in un dibattito più ampio che vede coinvolti non solo gli esperti di tecnologia, ma anche le istituzioni internazionali. Le dichiarazioni di questi ex ricercatori, tra cui Jacob CoxonEvan Hubinger e Samuel Marks hanno acceso i riflettori su un tema che, fino a poco tempo fa, sembrava appartenere solo alla fantascienza.
Le dichiarazioni degli ex ricercatori di Anthropic
Jacob Coxon, uno dei tre ex dipendenti, ha affermato che “le persone che sviluppano l’AI credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio“. Questa dichiarazione, resa pubblica su X ha suscitato un vivo dibattito tra gli esperti del settore. Coxon ha aggiunto che molti dirigenti e ricercatori di alto livello cercano di usare un linguaggio più pacato con la stampa, ma che privatamente esprimono le stesse preoccupazioni.
Evan Hubinger, responsabile scientifico per l’allineamento di Anthropic, ha confermato le parole di Coxon, affermando che “Jacob ha ragione – crediamo davvero che l’AI potrebbe sterminare tutta l’umanità“. Hubinger ha aggiunto che, secondo lui, la percentuale di rischio supererà il 10% entro il prossimo decennio. “Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento per la superintelligenza e non siamo chiaramente sulla buona strada per farlo“, ha dichiarato.
Samuel Marks, responsabile della supervisione scalabile di Anthropic, ha aggiunto che “gli sviluppatori di AI ritengono che la loro tecnologia potrebbe causare l’estinzione umana (o conseguenze altrettanto negative). Ciò potrebbe accadere nei prossimi anni. In generale, più alto è il livello di anzianità del dipendente, maggiore è la sua preoccupazione“.
Il problema dell’allineamento e i rischi dell’AI
Il concetto di allineamento è centrale nel dibattito sull’AI. Si tratta del processo attraverso il quale i sistemi di intelligenza artificiale vengono guidati affinché i loro comportamenti, obiettivi e output siano conformi ai valori, alle intenzioni e alle esigenze degli esseri umani. Tuttavia, come hanno sottolineato gli ex dipendenti di Anthropic, questo processo è ancora lontano dall’essere risolto, soprattutto per quanto riguarda la superintelligenza.
Uno dei maggiori rischi legati all’AI è la possibilità che diventi in grado di migliorarsi da sé. Gli ultimi sviluppi in questo campo hanno dimostrato che gli agenti di AI possono coordinarsi per raggiungere un obiettivo a qualsiasi costo, soprattutto nei casi di sicurezza informatica. Un esempio recente è l’incidente ad HuggingFace di cui i maggiori dettagli sono emersi solo negli ultimi giorni.
L’appello delle Nazioni Unite
Le preoccupazioni degli ex ricercatori di Anthropic arrivano a pochi giorni di distanza dall’appello delle Nazioni Unite a firma dell’alto commissario per i diritti umani Volker Türk. Türk ha chiesto agli Stati di intervenire prima che l’AI vada fuori controllo e diventi “un rischio esistenziale per l’umanità“.
Questo appello sottolinea l’urgenza di affrontare il problema dell’AI a livello globale, coinvolgendo non solo le aziende tecnologiche, ma anche i governi e le istituzioni internazionali. La sfida è trovare un equilibrio tra l’innovazione tecnologica e la sicurezza dell’umanità, un equilibrio che, secondo molti esperti, è ancora lontano dall’essere raggiunto.
