Приватна ворожнеча, що тривала 10 років, якби не «лицемірство» OpenAI, не призвела б до появи найсильнішої у світі компанії зі штучного інтелекту Anthropic

Оригінальний заголовок: 《10-річна ворожнеча, що формує майбутнє штучного інтелекту》

Оригінальний автор: Кіч Хейджі

Репортер Wall Street Journal Кіч Хейджі опублікував великий розслідувальний репортаж, у якому вперше розкрив десятирічну особисту ворожнечу між засновниками Anthropic і OpenAI шляхом численних інтерв'ю з нинішніми та колишніми співробітниками та керівниками обох компаній. Те, що формує глобальний ландшафт штучного інтелекту, - це не лише технологічна конкуренція, а й невилікована особиста травма.

В останні місяці внутрішня риторика Даріо Амодея була набагато інтенсивнішою, ніж у публічній. Він порівняв юридичну суперечку між Семом Олтменом та Ілоном Маском з "боротьбою між Гітлером і Сталіним", назвав пожертву президента OpenAI Грега Брокомна на суму 25 мільйонів доларів на підтримку супер-ПАКу на підтримку Трампа "злою", і порівняв OpenAI та інших конкурентів з "тютюновими компаніями, які свідомо продають шкідливі продукти".

Після того, як суперечка з Пентагоном загострилася, він назвав OpenAI "лицемірною" на Slack, написавши: "Ці факти свідчать про поведінкову модель, яку я часто спостерігаю у Сема Олтмена".

Внутрішньо Anthropic називає цю стратегію брендингу створенням "здорової альтернативи" конкурентам. Під час цьогорічного Супер Боулу публічним продуктом цієї стратегії стала анонімна реклама, яка висміювала OpenAI за вбудовування реклами в чат-ботів.

Історія починається у вітальні спільного будинку на вулиці Делано в Сан-Франциско у 2016 році. Даріо та його сестра Даніела Амодей жили там, а співзасновник OpenAI Брокман часто їх відвідував через свої близькі стосунки з Даніелою. Одного разу Брокман, Даріо та тодішній наречений Даніели, філантроп-альтруїст Холден Карнофскі, сиділи разом і обговорювали правильний шлях розвитку штучного інтелекту: Брокман вважав, що всі американці повинні бути поінформовані про те, що відбувається на передньому краї штучного інтелекту, тоді як Даріо та Карнофскі стверджували, що чутливу інформацію слід спочатку повідомити уряду, а не транслювати громадськості. Ця суперечка пізніше стала переломним моментом у філософському напрямку двох компаній.

Натхненний талантами OpenAI, Даріо приєднався до команди в середині 2016 року, працюючи допізна разом з Брокманом, щоб навчити агенти штучного інтелекту грати у відеоігри. Однак після чотирьох років спільної роботи напруженість навколо влади та почуття приналежності поглибилася. У 2017 році, коли головний інвестор OpenAI Маск зажадав список внесків кожного працівника для звільнень, приблизно від 10% до 20% команди з 60 осіб були звільнені по одному, що Даріо вважав жорстоким; один із звільнених пізніше став співзасновником Anthropic.

Того ж року етичний радник, найнятий Даріо, запропонував OpenAI виступити в ролі координаційного органу між компаніями зі штучним інтелектом і урядом, з чого Брокман вивів ідею "продажу AGI ядерним державам Ради Безпеки ООН". Даріо вважав це майже зрадою і задумався про відставку.

Після того, як Маск пішов у відставку в 2018 році, Альтман перебрав на себе керівництво. Він і Даріо дійшли згоди: співробітники не довіряли керівництву Брокмана та головному науковцю Ілї Сутскеверу. Даріо погодився залишитися за умови, що двоє більше не будуть відповідальними, але незабаром виявив, що Альтман одночасно пообіцяв останнім двом, що вони мають право звільнити його, створивши протиріччя між двома зобов'язаннями.

Після початку розробки серії GPT виконавчий склад розгорівся в найінтенсивніший конфлікт щодо того, хто може брати участь у проекті мовної моделі. Даріо, тодішній науковий директор, не дозволив Брокману втручатися, тоді як Даніела, яка спільно очолювала проект з Алеком Редфордом, пригрозила піти з посади. Особисті побажання Редфорда заплуталися у війні довіреностей виконавців.

Повноваження Даріо зросли з успіхом GPT-2 і GPT-3, але він відчував, що Олтман применшував його внесок. Коли Брокман обговорював статут OpenAI в подкасті, Даріо розлютився через те, що його не запросили, хоча він більше вніс у статут; він також був незадоволений, дізнавшись, що Брокман і Олтман зустрічалися з колишнім президентом Обамою, виключивши його.

Конфлікт різко загострився під час протистояння в кімнаті для нарад. Олтман викликав братів Амодей і звинуватив їх у підбурюванні колег до подання негативних відгуків про нього до ради. Обидва заперечували. Олтман стверджував, що інформація надійшла від іншого виконавчого директора, і Данела негайно викликала цього виконавчого директора на допит, який сказав, що він абсолютно не знає про це.

Потім Олтман заперечував, що говорив це, що призвело до запеклого суперечки. На початку 2020 року Олтман попросив виконавчих директорів написати один одному відгуки, і Брокман написав різкий відгук, звинувачуючи Данелу в зловживанні владою та використанні бюрократичних процесів для виключення незгодних, який Олтман попередньо переглянув і назвав «жорстким, але справедливим». Данела заперечувала кожен пункт, що призвело до загострення суперечки до того моменту, коли Брокман запропонував відкликати свої коментарі.

До кінця 2020 року команда, очолювана Даріо, вирішила піти, причому Даніела очолила переговори з адвокатами щодо їхнього від'їзду. Олтман особисто відвідав будинок Даріо, щоб переконати його залишитися, але Даріо наполягав, що він погодиться лише на звітність безпосередньо перед радою директорів, і чітко заявив, що не може працювати з Брокомманом. Перед від'їздом він написав довге мемо, в якому класифікував компанії зі штучного інтелекту на "орієнтовані на ринок" та "орієнтовані на суспільні інтереси", стверджуючи, що ідеальна пропорція становить 75% суспільних інтересів і 25% ринку. Через кілька тижнів Даріо, Даніела та майже десяток працівників залишили OpenAI, щоб заснувати Anthropic.

Через п'ять років обидві компанії оцінюються більш ніж у 300 мільярдів доларів і конкурують за вихід на публічний ринок. На завершення саміту з штучного інтелекту в Нью-Делі в лютому цього року прем'єр-міністр Індії Моді та присутні лідери технологічного сектора підняли руки разом, тоді як Амодей і Альтман вирішили не брати участі, просто незграбно вдарившись ліктями.