Gdyby nie „hipokryzja” OpenAI, trwający 10 lat prywatny spór nie doprowadziłby do powstania Anthropic – najsilniejszej na świecie firmy zajmującej się sztuczną inteligencją

Oryginalny tytuł: „Trwający od dziesięciu lat spór, który kształtuje przyszłość sztucznej inteligencji”

Autor oryginalny: Keach Hagey

Keach Hagey, reporter „Wall Street Journal”, opublikował obszerny reportaż śledczy, w którym po raz pierwszy ujawnił trwający od dziesięciu lat osobisty konflikt między założycielami firm Anthropic i OpenAI, opierając się na wywiadach przeprowadzonych z obecnymi i byłymi pracownikami oraz kadrą kierowniczą obu przedsiębiorstw. To, co kształtuje globalny krajobraz sztucznej inteligencji, to nie tylko rywalizacja technologiczna, ale także niezagojona osobista trauma.

W ostatnich miesiącach retoryka Dario Amodeiego w kręgach wewnętrznych była znacznie bardziej ostra niż ta prezentowana publicznie. Porównał spór prawny między Samem Altmanem a Elonem Muskiem do „konfliktu między Hitlerem a Stalinem”, nazwał darowiznę w wysokości 25 milionów dolarów, jaką prezes OpenAI Greg Brockman przekazał na rzecz super PAC popierającego Trumpa, „złem”, a OpenAI i innych konkurentów porównał do „firm tytoniowych, które świadomie sprzedają szkodliwe produkty”.

Gdy spór z Pentagonem przybrał na sile, nazwał OpenAI na Slacku „hipokrytyczną” organizacją, pisząc: „Te fakty wskazują na pewien schemat zachowań, który często obserwuję u Sama Altmana”.

Wewnątrz firmy Anthropic określa tę strategię brandingową jako tworzenie „zdrowej alternatywy” dla konkurencji. Podczas tegorocznego Super Bowl widocznym przykładem tej strategii była anonimowa reklama, która w satyryczny sposób wyśmiewała firmę OpenAI za umieszczanie reklam w chatbotach.

Historia zaczyna się w salonie domu wieloosobowego przy ulicy Delano w San Francisco w 2016 roku. Mieszkali tam Dario i jego siostra Daniela Amodei, a współzałożyciel OpenAI, Brockman, często ich odwiedzał ze względu na bliskie relacje z Danielą. Pewnego dnia Brockman, Dario oraz ówczesny narzeczony Danieli, filantrop i zwolennik efektywnego altruizmu Holden Karnofsky, zebrali się razem, by przedyskutować właściwą ścieżkę rozwoju sztucznej inteligencji: Brockman uważał, że wszyscy Amerykanie powinni być informowani o tym, co dzieje się na froncie badań nad sztuczną inteligencją, podczas gdy Dario i Karnofsky twierdzili, że poufne informacje należy najpierw przekazywać rządowi, a nie upubliczniać. Ten spór stał się później punktem zwrotnym w filozofii działania obu firm.

Zainspirowany zespołem specjalistów z OpenAI, Dario dołączył do firmy w połowie 2016 roku i wraz z Brockmanem pracował do późna nad szkoleniem agentów sztucznej inteligencji do grania w gry wideo. Jednak po czterech latach wspólnej pracy napięcia związane z podziałem władzy i poczuciem przynależności uległy pogłębieniu. W 2017 roku, kiedy Musk, główny inwestor OpenAI, zażądał listy wkładu każdego pracownika na potrzeby zwolnień, około 10–20% z 60-osobowego zespołu zostało stopniowo zwolnionych, co Dario uznał za okrutne; jedna z tych osób stała się później współzałożycielem firmy Anthropic.

W tym samym roku doradca ds. etyki zatrudniony przez Dario zasugerował, by OpenAI pełniło rolę podmiotu koordynującego współpracę między firmami zajmującymi się sztuczną inteligencją a rządem, z czego Brockman wywnioskował pomysł „sprzedaży AGI mocarstwom nuklearnym zasiadającym w Radzie Bezpieczeństwa ONZ”. Dario uznał to niemal za zdradę i rozważał rezygnację.

Po tym, jak Musk ustąpił ze stanowiska w 2018 roku, kierownictwo przejął Altman. On i Dario doszli do porozumienia: pracownicy nie mieli zaufania do kierownictwa w osobach Brockmana i głównego naukowca Ilji Sutskevera. Dario zgodził się zostać pod warunkiem, że ta dwójka nie będzie już sprawować kierownictwa, ale wkrótce odkrył, że Altman obiecał jednocześnie tej dwójce, iż mają prawo go zwolnić, co doprowadziło do sprzeczności między tymi dwoma zobowiązaniami.

Po rozpoczęciu prac nad serią GPT w zespole kierowniczym wybuchł ostry spór dotyczący tego, kto powinien brać udział w projekcie modelu językowego. Dario, ówczesny dyrektor ds. badań, nie pozwolił Brockmanowi ingerować w sprawę, podczas gdy Daniela, która wraz z Alecem Radfordem kierowała projektem, zagroziła, że zrezygnuje ze stanowiska. Osobiste pragnienia Radforda splotły się z walką o władzę w zarządzie.

Osiągnięcia Dario zyskały na znaczeniu wraz z sukcesem modeli GPT-2 i GPT-3, jednak miał on wrażenie, że Altman bagatelizował jego wkład. Kiedy Brockman omawiał statut OpenAI w podcaście, Dario był zły, że nie został zaproszony, mimo iż wniósł większy wkład w jego opracowanie; był również niezadowolony, gdy dowiedział się, że Brockman i Altman spotykają się z byłym prezydentem Obamą, pomijając go.

Konflikt gwałtownie się zaostrzył podczas starcia w sali konferencyjnej. Altman wezwał rodzeństwo Amodei i oskarżył ich o nakłanianie współpracowników do przekazywania zarządowi negatywnych opinii na jego temat. Oboje temu zaprzeczyli. Altman twierdził, że informacje te pochodzą od innego członka kierownictwa, a Daniela natychmiast wezwała go na przesłuchanie, gdzie ten stwierdził, że nie miał o tym pojęcia.

Altman zaprzeczył następnie, jakoby to powiedział, co doprowadziło do ostrej kłótni. Na początku 2020 roku Altman poprosił kadrę kierowniczą o sporządzenie wzajemnych ocen, a Brockman napisał ostrą recenzję, w której zarzucał Danieli nadużywanie władzy i wykorzystywanie biurokratycznych procedur do wykluczania osób o odmiennych poglądach; Altman zapoznał się z tą recenzją wcześniej i określił ją jako „surową, ale sprawiedliwą”. Daniela odparła każdy argument, co doprowadziło do eskalacji sporu do tego stopnia, że Brockman zasugerował wycofanie swoich uwag.

Pod koniec 2020 roku zespół skupiony wokół Dario postanowił odejść, a Daniela prowadziła negocjacje z prawnikami w sprawie ich odejścia. Altman osobiście odwiedził Dario w jego domu, aby przekonać go do pozostania, ale Dario stanowczo stwierdził, że zgodzi się pracować wyłącznie pod bezpośrednim nadzorem zarządu, i jasno dał do zrozumienia, że nie będzie w stanie współpracować z Brockmanem. Przed wyjazdem sporządził obszerną notatkę, w której podzielił firmy zajmujące się sztuczną inteligencją na „zorientowane na rynek” i „zorientowane na interes publiczny”, twierdząc, że idealny stosunek to 75% na rzecz interesu publicznego i 25% na rzecz rynku. Kilka tygodni później Dario, Daniela i prawie tuzin pracowników odeszło z OpenAI, aby założyć firmę Anthropic.

Pięć lat później obie firmy są wyceniane na ponad 300 miliardów dolarów i rywalizują o wejście na giełdę. Pod koniec szczytu poświęconego sztucznej inteligencji, który odbył się w lutym tego roku w New Delhi, premier Indii Modi i obecni na sali liderzy branży technologicznej podnieśli wspólnie ręce, podczas gdy Amodei i Altman postanowili nie brać w tym udziału, ograniczając się jedynie do niezręcznego uderzenia się łokciami.