Una faida privata durata 10 anni, se non fosse stato per l’«ipocrisia» di OpenAI, non avrebbe portato alla nascita di Anthropic, l’azienda di IA più forte al mondo

Titolo originale: «La faida decennale che sta plasmando il futuro dell'IA»

Autore originale: Keach Hagey

Il giornalista del Wall Street Journal Keach Hagey ha pubblicato un ampio reportage investigativo in cui, sulla base di approfondite interviste a dipendenti e dirigenti attuali ed ex di entrambe le società, ha rivelato per la prima volta la faida personale che da un decennio oppone i fondatori di Anthropic e OpenAI. Ciò che caratterizza il panorama globale dell'intelligenza artificiale non è solo una rivalità tecnologica, ma anche un trauma personale non superato.

Negli ultimi mesi, il tono dei discorsi privati di Dario Amodei è stato molto più acceso rispetto a quello dei suoi interventi pubblici. Ha paragonato la controversia legale tra Sam Altman ed Elon Musk alla «lotta tra Hitler e Stalin», ha definito «malvagia» la donazione di 25 milioni di dollari effettuata dal presidente di OpenAI Greg Brockman a un super PAC pro-Trump e ha paragonato OpenAI e altri concorrenti alle «aziende del tabacco che vendono consapevolmente prodotti nocivi».

Dopo che la controversia con il Pentagono si è inasprita, su Slack ha definito OpenAI «ipocrita», scrivendo: «Questi fatti indicano un modello comportamentale che osservo spesso in Sam Altman».

All'interno dell'azienda, Anthropic definisce questa strategia di branding come la creazione di una «alternativa salutare» rispetto alla concorrenza. Durante il Super Bowl di quest'anno, uno spot pubblicitario anonimo che ironizzava su OpenAI per aver inserito annunci pubblicitari nei chatbot è stato un esempio concreto di questa strategia.

La storia inizia nel salotto di una casa condivisa in Delano Street a San Francisco nel 2016. Lì vivevano Dario e sua sorella Daniela Amodei, e Brockman, cofondatore di OpenAI, li andava spesso a trovare grazie al suo stretto rapporto con Daniela. Un giorno, Brockman, Dario e l'allora fidanzato di Daniela, il filantropo e sostenitore dell'altruismo efficace Holden Karnofsky, si trovavano seduti insieme a discutere quale fosse il percorso di sviluppo più appropriato per l'IA: Brockman riteneva che tutti gli americani dovessero essere informati su ciò che stava accadendo in prima linea nel campo dell'intelligenza artificiale, mentre Dario e Karnofsky sostenevano che le informazioni sensibili dovessero essere comunicate prima al governo piuttosto che diffuse al pubblico. Questo disaccordo si rivelò in seguito un punto di svolta nell'orientamento filosofico delle due aziende.

Colpito dal bacino di talenti di OpenAI, Dario è entrato a far parte dell'azienda a metà del 2016, rimanendo sveglio fino a tarda notte insieme a Brockman per addestrare agenti di intelligenza artificiale a giocare ai videogiochi. Tuttavia, dopo quattro anni di collaborazione, le tensioni legate al potere e al senso di appartenenza si sono acuite. Nel 2017, quando Musk, uno dei principali investitori di OpenAI, chiese un elenco dei contributi di ciascun dipendente in vista dei licenziamenti, circa il 10-20% del team di 60 persone fu licenziato uno dopo l’altro, cosa che Dario considerò crudele; uno dei licenziati divenne in seguito cofondatore di Anthropic.

Nello stesso anno, un consulente in materia di etica ingaggiato da Dario suggerì che OpenAI fungesse da ente di coordinamento tra le aziende del settore dell'intelligenza artificiale e il governo; da lì Brockman sviluppò l'idea di «vendere l'AGI alle potenze nucleari del Consiglio di Sicurezza dell'ONU». Dario lo considerò quasi un tradimento e pensò di dimettersi.

Dopo che Musk si è dimesso nel 2018, Altman ha assunto la guida dell'azienda. Lui e Dario sono giunti a una conclusione comune: i dipendenti non avevano fiducia nella leadership di Brockman e del capo ricercatore Ilya Sutskever. Dario accettò di restare a condizione che quei due non fossero più al comando, ma scoprì ben presto che Altman aveva promesso contemporaneamente a loro due che avevano il diritto di licenziarlo, creando così una contraddizione tra i due impegni.

Una volta avviato lo sviluppo della serie GPT, il team dirigenziale è stato teatro di un aspro scontro su chi potesse partecipare al progetto relativo al modello linguistico. Dario, all'epoca direttore della ricerca, non permise a Brockman di intromettersi, mentre Daniela, che co-dirigeva il progetto insieme ad Alec Radford, minacciò di dimettersi dal suo incarico. I desideri personali di Radford si sono intrecciati con la guerra per procura tra i dirigenti.

La reputazione di Dario è cresciuta grazie al successo di GPT-2 e GPT-3, ma lui riteneva che Altman avesse sottovalutato il suo contributo. Quando Brockman ha parlato dello statuto di OpenAI in un podcast, Dario si è arrabbiato per non essere stato invitato, nonostante avesse contribuito in misura maggiore alla stesura dello statuto; inoltre, ha appreso con disappunto che Brockman e Altman si stavano incontrando con l'ex presidente Obama, escludendolo.

Il conflitto si è inasprito drasticamente durante uno scontro avvenuto in una sala riunioni. Altman ha convocato i fratelli Amodei e li ha accusati di aver incitato i colleghi a inviare al consiglio di amministrazione commenti negativi sul suo conto. Entrambi hanno negato. Altman ha affermato che l'informazione proveniva da un altro dirigente, e Daniela ha immediatamente convocato quest'ultimo per interrogarlo; questi ha dichiarato di non esserne assolutamente a conoscenza.

Altman ha poi negato di aver detto quelle cose, scatenando una discussione accesa. All'inizio del 2020, Altman ha chiesto ai dirigenti di redigere valutazioni reciproche, e Brockman ha scritto un feedback dai toni duri in cui accusava Daniela di abusare del proprio potere e di ricorrere a procedure burocratiche per escludere chi dissentiva; Altman, dopo averlo esaminato in anticipo, lo ha definito «severo ma giusto». Daniela ha confutato ogni singolo punto, facendo degenerare la discussione al punto che Brockman ha suggerito di ritrattare le sue affermazioni.

Alla fine del 2020, un team guidato da Dario ha deciso di andarsene, e Daniela ha condotto le trattative con gli avvocati in merito alla loro partenza. Altman si recò personalmente a casa di Dario per convincerlo a restare, ma Dario insistette nel dire che avrebbe accettato solo di riferire direttamente al consiglio di amministrazione e dichiarò chiaramente che non avrebbe potuto lavorare con Brockman. Prima di andarsene, ha redatto un lungo promemoria in cui classificava le aziende del settore dell'intelligenza artificiale in "orientate al mercato" e "orientate all'interesse pubblico", sostenendo che il rapporto ideale fosse del 75% di interesse pubblico e del 25% di mercato. Qualche settimana dopo, Dario, Daniela e quasi una dozzina di dipendenti hanno lasciato OpenAI per fondare Anthropic.

A distanza di cinque anni, entrambe le società hanno un valore di oltre 300 miliardi di dollari e sono in lizza per quotarsi in borsa. Al termine del vertice sull'intelligenza artificiale tenutosi a Nuova Delhi lo scorso febbraio, il primo ministro indiano Modi e i leader del settore tecnologico presenti hanno alzato le mani all'unisono, mentre Amodei e Altman hanno preferito non partecipare, limitandosi a sfiorarsi goffamente i gomiti.