Il mondo dell’intelligenza artificiale è in fermento, non solo per i nuovi modelli in sviluppo, ma anche per le voci critiche che si levano dall’interno. Jacob Coxon, un ricercatore di Anthropic ha deciso di lasciare l’azienda, esprimendo pubblicamente le sue preoccupazioni riguardo alla direzione che il settore sta prendendo.
La sua decisione non è isolata. Altri esperti hanno già abbandonato il settore per motivi simili, sollevando interrogativi sulla sicurezza e l’etica dello sviluppo dell’AI. Ma cosa sta succedendo realmente all’interno di queste aziende?
Le dimissioni di Jacob Coxon e le sue preoccupazioni
Jacob Coxon ha lavorato per tre anni sia presso OpenAI che presso Anthropic due delle principali aziende nel campo dell’intelligenza artificiale. Le sue dimissioni sono state annunciate su X, dove ha espresso preoccupazioni profonde riguardo alla direzione che queste aziende stanno prendendo.
“Stanno correndo verso una superintelligenza in grado di migliorarsi da sola e stanno giocando con le nostre vite”, ha scritto Coxon. Le sue parole riflettono un timore crescente che le aziende stiano sacrificando la sicurezza in nome della competizione.
Anthropic, valutata quasi mille miliardi di dollari, è nata da un gruppo di ricercatori che hanno lasciato OpenAI per sviluppare l’AI in modo più controllato. Tuttavia, secondo Coxon, anche Anthropic non sta agendo con la necessaria responsabilità.
Le reazioni all’interno di Anthropic
La decisione di Coxon ha suscitato reazioni anche all’interno di Anthropic. Evan Hubinger, a capo del team di allineamento dell’azienda, ha pubblicato una risposta su X, sostenendo che Coxon ha ragione. “Crediamo sinceramente che l’AI possa uccidere tutti gli esseri umani”, ha scritto Hubinger, aggiungendo che Anthropic sta facendo del suo meglio, ma senza un piano chiaro per sviluppare modelli avanzati in modo sicuro.
Queste dichiarazioni sollevano interrogativi sulla capacità delle aziende di gestire i rischi associati all’AI. Nonostante la presenza di esperti consapevoli dei pericoli, la competizione sembra spingere verso una corsa al progresso tecnologico senza adeguate misure di sicurezza.
Un fenomeno crescente: i ricercatori che lasciano il settore
Coxon non è il primo ricercatore a lasciare il settore per preoccupazioni simili. Nel febbraio scorso, Mrinank Sharma, responsabile della sicurezza di Anthropic, ha abbandonato l’azienda per dedicarsi alla scrittura e alla poesia. Nella sua lettera di dimissioni, Sharma ha espresso preoccupazioni simili, sostenendo che il mondo fosse in pericolo.
Questi casi non fanno che alimentare il dibattito sulla necessità di una regolamentazione più incisiva da parte dei governi. Le richieste di un coordinamento globale per rallentare la ricerca sui modelli di AI in grado di migliorarsi da soli si sono fatte sempre più pressanti, anche da parte delle stesse aziende del settore.
Un appello firmato da oltre mille ricercatori, tra cui lo stesso Coxon e il CEO di Anthropic Dario Amodei, chiede un coordinamento globale per rallentare la ricerca sui modelli di AI in grado di migliorarsi da soli. Questo grido d’allarme è diventato ancora più urgente dopo la scoperta che alcuni agenti di intelligenza artificiale avevano hackerato un’altra compagnia, sfuggendo al controllo dell’azienda e agendo al di fuori dei limiti previsti.
La situazione richiede una riflessione profonda sulle implicazioni etiche e di sicurezza dello sviluppo dell’AI. Le dimissioni di Coxon e le dichiarazioni di Hubinger sono un segnale che non può essere ignorato.
