Analiza wyników szczegółowego śledztwa przeprowadzonego przez magazyn „The New Yorker”: Dlaczego osoby z kręgów OpenAI uważają Altmana za osobę, której nie można ufać?

Autor oryginalny: Xiaobing, Shenchao TechFlow

Jesienią 2023 roku główny naukowiec OpenAI, Ilya Sutskever, siedział przed komputerem, kończąc pracę nad 70-stronicowym dokumentem.

Niniejszy dokument powstał na podstawie zapisów wiadomości ze Slacka, dokumentacji kadr oraz protokołów z wewnętrznych spotkań wyłącznie w celu udzielenia odpowiedzi na jedno pytanie: Czy można ufać Samowi Altmanowi, człowiekowi odpowiedzialnemu za technologię, która może okazać się najniebezpieczniejszą w historii ludzkości?

Odpowiedź udzielona przez Sutskevera znajduje się w pierwszym wierszu pierwszej strony dokumentu, pod tytułem „Sam wykazuje spójny wzorzec zachowań...”.

Po pierwsze: Kłamstwo.

Dzisiaj, dwa i pół roku później, dziennikarze śledczy Ronan Farrow i Andrew Marantz opublikowali obszerny reportaż śledczy w magazynie „The New Yorker”. Przeprowadzili wywiady z ponad 100 osobami, zdobyli nieujawnione dotąd wewnętrzne notatki służbowe oraz ponad 200 stron prywatnych notatek pozostawionych przez założyciela firmy Anthropic, Dario Amodei, z okresu jego pracy w OpenAI. Historia, którą można zrekonstruować na podstawie tych dokumentów, jest znacznie bardziej ponura niż „pałacowe intrygi” z 2023 roku: pokazuje, jak OpenAI przekształciło się z organizacji non-profit, utworzonej z myślą o bezpieczeństwie ludzi, w machinę komercyjną, a niemal wszystkie zabezpieczenia zostały zniesione przez tę samą osobę.

Wniosek Amodeiego zawarty w jego notatkach jest jeszcze bardziej jednoznaczny: „Problem z OpenAI stanowi sam Sam”.

„Grzech pierworodny” OpenAI

Aby zrozumieć znaczenie tego raportu, należy najpierw wyjaśnić, na czym polega wyjątkowość firmy OpenAI.

W 2015 roku Altman wraz z grupą elity z Doliny Krzemowej did-133">dokonała czegoś niemal bezprecedensowego w historii biznesu: wykorzystała organizację non-profit do opracowania technologii, która może okazać się najpotężniejszą w historii ludzkości. Obowiązki zarządu zostały jasno określone: bezpieczeństwo ma pierwszeństwo przed sukcesem firmy, a nawet przed jej przetrwaniem. Mówiąc wprost, jeśli pewnego dnia sztuczna inteligencja OpenAI stanie się niebezpieczna, zarząd ma obowiązek samodzielnie zamknąć firmę.

Cała koncepcja opiera się na jednym założeniu: osoba odpowiedzialna za AGI musi być osobą niezwykle uczciwą.

A co, jeśli to założenie jest błędne?

Najważniejszym punktem raportu jest ten 70-stronicowy dokument. Sutskever nie angażuje się w biurowe intrygi; jest jednym z czołowych naukowców zajmujących się sztuczną inteligencją na świecie. Jednak do 2023 roku coraz bardziej utwierdzał się w przekonaniu, że: Altman nieustannie okłamywał kierownictwo i zarząd.

Konkretny przykład: W grudniu 2022 roku Altman zapewnił zarząd podczas posiedzenia, że kilka funkcji nadchodzącego modelu GPT-4 przeszło pozytywnie testy bezpieczeństwa. Członek zarządu Toner poprosił o udostępnienie dokumentów zatwierdzających i odkrył, że dwie najbardziej kontrowersyjne funkcje (indywidualne dostosowywanie ustawień przez użytkownika oraz wdrażanie osobistych asystentów) w ogóle nie uzyskały zgody komisji ds. bezpieczeństwa.

W Indiach miały miejsce jeszcze bardziej skandaliczne wydarzenia. Pracownik poinformował innego członka zarządu o „tym naruszeniu”: Firma Microsoft udostępniła w Indiach wczesną wersję ChatGPT bez przeprowadzenia niezbędnych ocen bezpieczeństwa.

W notatce Sutskever odnotował również inny incydent: Altman powiedział byłej dyrektor ds. technologii Mirze Murati, że proces zatwierdzania pod kątem bezpieczeństwa nie ma większego znaczenia, ponieważ radca prawny firmy już go zatwierdził. Murati zwrócił się do radcy prawnego, który odpowiedział: „Nie wiem, skąd Sam wziął to wrażenie”.

200 stron prywatnych notatek Amodeiego

Dokument Sutskevera brzmi jak akt oskarżenia prokuratora. Ponad 200 stron notatek Amodeiego przypomina dziennik prowadzony przez świadka na miejscu zbrodni.

W latach, kiedy Amodei pełnił funkcję dyrektora ds. bezpieczeństwa w OpenAI, był świadkiem, jak firma ustępowała pod presją komercyjną. Zwrócił uwagę na kluczowy szczegół zawarty w analizie inwestycyjnej Microsoftu z 2019 roku: do statutu OpenAI wprowadził klauzulę dotyczącą „fuzji i współpracy”, co oznaczało, że gdyby inna firma znalazła bezpieczniejszą drogę do osiągnięcia AGI, OpenAI powinno zaprzestać konkurowania z nią i udzielić jej wsparcia. Była to gwarancja bezpieczeństwa, którą cenił sobie najbardziej w całej tej transakcji.

Kiedy umowa miała już zostać podpisana, Amodei coś odkrył: Firma Microsoft uzyskała prawo weta w odniesieniu do tej klauzuli. Co to znaczy? Nawet gdyby pewnego dnia konkurent znalazł lepsze rozwiązanie, Microsoft mógłby jednym słowem uniemożliwić OpenAI wypełnienie tego zobowiązania. Klauzula ta nadal figurowała na papierze, ale od dnia podpisania stała się bezwartościowa.

Amodei opuścił później OpenAI i założył firmę Anthropic. Rywalizacja między tymi dwiema firmami zasadniczo dotyczy sporu o to, „jak należy rozwijać sztuczną inteligencję”.

Znikające zobowiązanie obliczeniowe w wysokości 20%

W raporcie znajduje się pewien szczegół dotyczący „zespołu ds. superdostosowania” OpenAI, który przyprawia o dreszcze.

W połowie 2023 roku Altman wysłał e-mail do doktoranta zajmującego się badaniem zjawiska „zwodniczego dostosowania” (gdy sztuczna inteligencja zachowuje się prawidłowo podczas testów, ale po wdrożeniu działa według własnego uznania), wyrażając głębokie zaniepokojenie tą kwestią i rozważając ustanowienie globalnej nagrody badawczej o wartości 1 miliarda dolarów. Doktorant poczuł się zachęcony, wziął urlop i dołączył do OpenAI.

Wtedy Altman zmienił zdanie: zrezygnował z zewnętrznej nagrody, a zamiast tego powołał wewnętrzny „zespół ds. super-dostosowania”. Firma ogłosiła, że przeznaczy na ten zespół „20% obecnych zasobów obliczeniowych”, których potencjalna wartość przekracza 1 miliard dolarów. W komunikacie tym wyrażono głęboką troskę, stwierdzając, że jeśli problem z dostosowaniem nie zostanie rozwiązany, sztuczna inteligencja ogólna (AGI) może doprowadzić do „pozbawienia ludzi władzy, a nawet do wyginięcia ludzkości”.

Jan Leike, który został wyznaczony na kierownika tego zespołu, powiedział później dziennikarzom, że samo to zobowiązanie stanowiło bardzo skuteczne „narzędzie zatrzymywania talentów”.

A co z rzeczywistością? Cztery osoby, które pracowały w tym zespole lub ściśle z nim współpracowały, stwierdziły, że faktycznie przydzielona moc obliczeniowa stanowiła zaledwie 1–2% całkowitej mocy obliczeniowej firmy i że był to najstarszy sprzęt. Zespół ten został później rozwiązany, a jego misja pozostała niespełniona.

Kiedy dziennikarze zwrócili się z prośbą o wywiad z pracownikami OpenAI odpowiedzialnymi za badania nad „bezpieczeństwem egzystencjalnym”, odpowiedź działu PR firmy była żałosna: „To nie jest… prawdziwe”.

Sam Altman zachowywał spokój. Powiedział dziennikarzom, że jego „intuicja nie do końca pokrywa się z wieloma tradycyjnymi podejściami do bezpieczeństwa sztucznej inteligencji”, a OpenAI nadal będzie realizować „projekty dotyczące bezpieczeństwa lub przynajmniej projekty związane z bezpieczeństwem”.

Zepchnięty na margines dyrektor finansowy a zbliżająca się oferta publiczna

Artykuł w „The New Yorker” stanowił tylko połowę złych wiadomości tego dnia. Tego samego dnia serwis „The Information” opublikował kolejną sensacyjną wiadomość: Między dyrektorką finansową OpenAI, Sarah Friar, a Altmanem doszło do poważnego sporu.

Friar powiedziała w prywatnej rozmowie kolegom, że jej zdaniem OpenAI nie jest gotowe do wejścia na giełdę w tym roku. Były dwa powody: zakres prac proceduralnych i organizacyjnych, które należało wykonać, był zbyt duży, a ryzyko finansowe związane z obiecanymi przez Altmana wydatkami na infrastrukturę obliczeniową w wysokości 600 miliardów dolarów w ciągu pięciu lat było zbyt wysokie. Nie była nawet pewna, czy wzrost przychodów OpenAI pozwoli na realizację tych zobowiązań.

Altman chciał jednak przyspieszyć wejście na giełdę w czwartym kwartale tego roku.

Co jeszcze bardziej szokujące, Friar nie podlegał już bezpośrednio Altmanowi. Od sierpnia 2025 roku zaczęła podlegać Fidji Simo (dyrektorowi generalnemu działu aplikacji w OpenAI). A Simo właśnie wziął zwolnienie lekarskie z powodów zdrowotnych. Wyobraźmy sobie następującą sytuację: firma przygotowująca się do debiutu giełdowego, w której między dyrektorem generalnym a dyrektorem finansowym panują zasadnicze nieporozumienia, dyrektor finansowy nie podlega bezpośrednio dyrektorowi generalnemu, a przełożony dyrektora finansowego przebywa na urlopie.

Nawet kierownictwo firmy Microsoft nie mogło tego znieść, twierdząc, że Altman „przekręca fakty, nie dotrzymuje słowa i nieustannie łamie zawarte porozumienia”. Jeden z dyrektorów Microsoftu stwierdził nawet: „Myślę, że istnieje spora szansa, że ostatecznie zostanie zapamiętany jako oszust na miarę Berniego Madoffa czy SBF”.

„Dwulicowy” portret Altmana

Były członek zarządu OpenAI opisał dziennikarzom dwie cechy charakterystyczne Altmana. Ten opis może być najsurowszym charakterystyką postaci w całym raporcie.

Członek zarządu stwierdził, że Altman cechuje się niezwykle rzadkim połączeniem cech: w każdej bezpośredniej interakcji wykazuje silną potrzebę zadowalania innych i bycia przez nich lubianym. Jednocześnie cechuje go niemal socjopatyczna obojętność wobec konsekwencji oszukiwania innych.

Połączenie tych dwóch cech u jednej osoby jest niezwykle rzadkie. Ale dla sprzedawcy to idealny prezent.

W raporcie znajduje się metafora, która dobrze to oddaje: Steve Jobs słynął ze swojego „pola zniekształcającego rzeczywistość”, dzięki któremu potrafił sprawić, że świat wierzył w jego wizję. Ale nawet Jobs nigdy nie powiedział klientom: „Jeśli nie kupicie mojego odtwarzacza MP3, ludzie, których kochacie, umrą”.

Altman wypowiadał się w podobnym tonie na temat sztucznej inteligencji.

Kwestia charakteru dyrektora generalnego: Dlaczego jest to zagrożenie dla wszystkich

Gdyby Altman był po prostu dyrektorem generalnym zwykłej firmy technologicznej, te zarzuty byłyby co najwyżej ciekawą plotką biznesową. Ale OpenAI to nie jest zwykła firma.

Jak twierdzi sama firma, opracowuje technologię, która może okazać się najpotężniejszą w historii ludzkości. Może to zmienić oblicze światowej gospodarki i rynku pracy (sama firma OpenAI opublikowała właśnie dokument strategiczny poświęcony kwestii bezrobocia spowodowanego przez sztuczną inteligencję), a także może posłużyć do stworzenia broni biologicznej na dużą skalę lub przeprowadzenia cyberataków.

Wszystkie bariery bezpieczeństwa straciły sens. Misja non-profit założyciela ustąpiła miejsca gorączce związanej z debiutem giełdowym. Zarówno były główny naukowiec, jak i były szef ds. bezpieczeństwa uważają dyrektora generalnego za „niegodnego zaufania”. Partnerzy porównują prezesa do SBF. W tym kontekście, jakie prawo ma ten dyrektor generalny, by samodzielnie decydować o tym, kiedy wprowadzać na rynek modele sztucznej inteligencji, które mogą wpłynąć na losy ludzkości?

Gary Marcus (profesor sztucznej inteligencji na Uniwersytecie Nowojorskim i wieloletni orędownik bezpieczeństwa sztucznej inteligencji) napisał po przeczytaniu raportu: Gdyby przyszły model OpenAI mógł stworzyć broń biologiczną na wielką skalę lub przeprowadzić katastrofalne cyberataki, czy naprawdę czułbyś się spokojny, pozwalając Altmanowi samodzielnie decydować o jego udostępnieniu?

Odpowiedź OpenAI dla magazynu „The New Yorker” była zwięzła: „Większość treści tego artykułu stanowi powtórzenie wydarzeń opisanych już wcześniej, opierając się na anonimowych wypowiedziach i wybiórczych anegdotach, a źródła tych informacji mają ewidentnie własne interesy”.

To bardzo pasuje do stylu, w jakim Altman zwykle odpowiada: nie odnosi się do konkretnych zarzutów, nie zaprzecza autentyczności notatki, a jedynie kwestionuje motywy.

Drzewko pieniędzy rosnące na trupie organizacji non-profit

Dziesięcioletnią historię OpenAI można przedstawić w następujący sposób:

Grupa idealistów zaniepokojonych zagrożeniami związanymi ze sztuczną inteligencją założyła organizację non-profit, której działalność opiera się na realizacji określonej misji. Organizacja dokonała niezwykłych przełomów technologicznych. Te przełomowe osiągnięcia przyciągnęły ogromne nakłady kapitałowe. Kapitał domagał się zysków. Misja zaczęła się chwiać. Zespół ds. bezpieczeństwa został rozwiązany. Przeciwników usunięto. Organizacja non-profit została przekształcona w podmiot nastawiony na zysk. Rada, która niegdyś miała uprawnienia do likwidacji firmy, składa się obecnie z osób sprzyjających dyrektorowi generalnemu. Firma, która niegdyś obiecała przeznaczyć 20% swoich zasobów obliczeniowych na zapewnienie bezpieczeństwa ludzi, ma obecnie pracowników działu PR, którzy twierdzą: „To nieprawda”.

Bohater tej historii został tak opisany przez ponad stu naocznych świadków: „Nieograniczony prawdą”.

Przygotowuje się do wprowadzenia tej spółki na giełdę, a jej wycena przekracza 850 miliardów dolarów.

W niniejszym artykule zebrano informacje pochodzące z publicznie dostępnych publikacji magazynów „The New Yorker”, „Semafor”, „Tech Brew”, „Gizmodo”, „Business Insider”, „The Information” oraz innych mediów.