Скандал в OpenAI, новые проблемы Маска и меры цифровой безопасности за рубежом

Тема выпуска — за что уволили Сэма Альтмана

В пятницу в OpenAI, разработчике самой мощной генеративной нейросети в мире, произошел настоящий дворцовый переворот. Сначала совет директоров внезапно объявил, что отправил в отставку главу компании Сэма Альтмана, а спустя сутки стало известно, что инвесторы требуют от совета вернуть уволенного обратно. Рассказываем, что известно о скандале в AI-королевстве.

Переворот в OpenAI

В пятницу совет директоров OpenAI огорошил весь мир внезапным сообщением: Сэм Альтман, сооснователь, глава компании и, бесспорно, ее лицо, уволен со скандальным обоснованием. Альтман был «не всегда откровенен в своем взаимодействии с советом» и «совет больше не уверен в его способности продолжать руководить OpenAI», — сообщила компания.

Сам Альтман отреагировал коротким постом в X (экс-Twitter): «Мне нравилось работать в OpenAI. Это изменило меня лично и, надеюсь, немного изменило мир. Больше всего мне нравилось работать с такими талантливыми людьми». Спустя сутки он еще раз написал, как сильно любит команду. Но никаких публичных заявлений о причинах конфликта Альтман до сих пор не сделал.

Кроме увольнения CEO, совет директоров решил, что сооснователь и президент OpenAI Грег Брокман должен уйти с поста председателя совета, оставшись работать в компании в подчинении нового генерального директора. Сам Брокман после этого написал, что ни он, ни Альтман не знали о решении совета директоров и «были шокированы»: «Мы тоже все еще пытаемся разобраться, что именно произошло».

Из поста Брокмана также следовало, что звонок Альтману вечером в четверг назначил Илья Суцкевер, сооснователь, главный исследователь OpenAI и один из членов ее совета директоров. «Вчера вечером Сэм получил сообщение от Ильи с просьбой поговорить в полдень пятницы. [В назначенный час] Сэм присоединился к Google Meet, на встрече был весь совет, кроме Грега [Брокмана]. Илья сказал Сэму, что его увольняют и что эта новость станет публичной очень скоро», — описывает Брокман.

Следующий звонок самому Брокману был назначен всего через 20 минут. «В 12:19 Грегу пришло сообщение от Ильи с просьбой срочно созвониться. В 12:23 Илья отправил ссылку на Google Meet. Грегу сказали, что его исключают из совета директоров (но он жизненно важен для компании и сохранит свою роль), а также сообщили об увольнении Сэма. Примерно в это же время OpenAI опубликовал сообщение в блоге», — пишет экс-председатель совета директоров.

Сюрпризом отставки стали и для главного инвестора OpenAI — Microsoft. И это при том, что корпорация вложила в разработчика ИИ уже $13 млрд и владеет 49% акций. Об отставке Альтмана в техногиганте узнали буквально за несколько минут до официальной публикации решения. Все, что оставалось делать Microsoft в тот момент, — это заявить, что уход Альтмана не повлияет на партнерство. «У нас долгосрочное соглашение с OpenAI с полным доступом ко всему, что нужно для реализации нашей инновационной программы и производственного плана», — заявил глава Microsoft Сатья Наделла. Но, по словам источников Bloomberg, на самом деле тот был «ошеломлен» и «разгневан».

В итоге Брокман также решил покинуть компанию. А вместе с ним и Альтманом из OpenAI уволились еще три ключевых сотрудника: директор по исследованиям Якуб Пачоцки, глава команды по оценке рисков ИИ Александр Мадри и один из первых исследователей компании Шимон Сидор.

Исполняющим обязанности CEO OpenAI после ухода Альтмана была назначена технический директор компании Мира Мурати, одна из ключевых фигур, стоявших за разработкой ChatGPT. О готовящемся увольнении Альтмана она, как пишет Брокман, узнала вечером в четверг.

Research VS Product

Главное действующее лицо IT-переворота года, судя по всему, — сооснователь OpenAI Илья Суцкевер, возглавляющий работу над ChatGPT.

И Альтман, и Суцкевер внесли большой вклад в то, что OpenAI из маленького исследовательского проекта превратился в самого продвинутого в мире разработчика генеративных нейросетей. В 2015 году Сэм Альтман, на тот момент глава акселератора Y Combinator, вместе с Илоном Маском основал некоммерческую организацию OpenAI, чтобы создать «ИИ, позитивный для человека». Сам Альтман — не исследователь, поэтому он не был соавтором ни одного из главных технических достижений компании. Но он лично нанимал всех сотрудников OpenAI и за годы работы стал главным визионером и амбассадором технологии, «лицом будущего, основанного на ИИ». То, что Альтману удалось начать играть такую сакральную роль в мировом масштабе, неудивительно: о его «тяге к власти» и хитрости в Долине ходят легенды. А сам Альтман вполне серьезно писал, что может «подчинить мир своей воле», и удивлялся, почему большинство людей даже не пытаются сделать то же.

Илья Суцкевер — главный ученый компании и настолько же пылкий энтузиаст AGI, как и Альтман. Исследователь родом из СССР, но вырос в Израиле, а учился в Канаде, после работы в Google стал сооснователем OpenAI и стоял за всеми разработками компании. Альтман называл Суцкевера одним из самых уважаемых исследователей в мире, без которого проекту было бы не обойтись. Но, несмотря на свою роль в компании, все эти годы Суцкевер оставался непубличным, редко давал интервью и не вмешивался во внешние дела компании.

Увольнение Альтмана последовало за серьезными разногласиями между ним и Суцкевером, написал по горячим следам Bloomberg. Разногласия касались безопасности ИИ, скорости развития технологии и коммерциализации компании. Увольнение произошло в самой жесткой из возможных форм, однако никаких обвинений против Альтмана в «должностных преступлениях» или проблемах с финансами нет, следует из внутренних документов OpenAI, с которыми ознакомился Axios.

В чем конкретно заключались разногласия Альтмана с Суцкевером, доподлинно не известно. Но есть целый ряд предположений.

• Во-первых, у OpenAI действительно были проблемы с безопасностью: например, в марте компания сообщала об утечке данных пользователей ChatGPT, а недавно она пострадала от DDOS-атаки. Microsoft, крупнейший инвестор OpenAI, в ноябре даже временно ограничил своим сотрудникам доступ к ChatGPT из-за проблем с конфидециальностью данных.
• Кроме того, у Альтмана и Суцкевера, судя по всему, были принципиально разные взгляды на безопасность GenAI в целом: речь идет о том, как заработать на технологии и при этом не навредить обществу. Споры о том, как сохранить баланс между коммерциализацией и безопасностью, предшествовали и разрыву Илона Маска с OpenAI, а также уходу части сотрудников компании, основавших собственный конкурирующий стартап Anthropic в 2020 году.
• В-третьих, OpenAI, похоже, не справлялась с собственными амбициями по монетизации продукта. Спустя неделю после ​​OpenAI DevDay 2023, где Альтман представил новые продукты и апгрейд ChatGPT, OpenAI пришлось закрыть продажу подписок на ChatGPT из-за того, что компания не справлялась с обслуживанием огромного числа запросов.
• Еще один эпизод борьбы за власть, судя по всему, касался непосредственно Суцкевера. В июле главный ученый собрал в OpenAI новую команду для управления «сверхразумными» ИИ и контроля над ним. Но осенью его полномочия были урезаны. После этого Суцкевер начал переманивать членов совета директоров на свою сторону — и, по всей видимости, добился успеха.
• Свою роль могли сыграть и личные амбиции Альтмана в вопросе коммерциализации перспективной технологии. Например, другим участникам совета не нравилось, что он искал инвесторов на Ближнем Востоке для запуска стартапа по производству ИИ-чипов, который мог бы конкурировать с продуктами Nvidia. Утром 17 ноября, то есть в день увольнения, Альтман проводил встречу с представителями Arm и других полупроводниковых компаний на тему своего нового стартапа по разработке чипов, которые должны снизить затраты на генеративные нейросети. И это был не единственный его потенциально многомиллиардный проект. Например, Альтман также вел переговоры с SoftBank о том, чтобы привлечь деньги на разработку нового устройства «эпохи искусственного интеллекта», которое он задумал изобрести с бывшим главным дизайнером Apple Джони Айвом. Суцкевер и его сторонники в совете директоров OpenAI могли быть не согласны с тем, что Альтман вел переговоры с инвесторами о финансировании новых компаний, с другой моделью управления, фактически от имени OpenAI.

Почему переворот удался

Здесь все дело в устройстве самой OpenAI. Головная OpenAI Inc. — это некоммерческая организация, а все коммерческие проекты ведет ее «дочка» OpenAI Global. Она же получает инвестиции. Сэм Альтман, хоть и является сооснователем компании, не владеет ее акциями и не контролирует компанию. У головной структуры есть совет директоров, но его задача — не максимизировать прибыль для инвесторов, а следить за созданием безопасного AGI, общего искусственного интеллекта.

До переворота в совет входили CEO OpenAI Сэм Альтман, президент Грег Брокман, главный исследователь Илья Суцкевер, глава Quora Адам ДʼАнджело, глава робототехнической компании Fellow Robots Таша Макколи и директор по исследовательским грантам в Центре безопасности и перспективных технологий университета Джорджтаун Хелен Тонер. Для того чтобы уволить Альтмана, хватило простого большинства. То есть Суцкеверу достаточно было найти трех сторонников.

Сам Суцкевер публично свое участие в перевороте не комментировал. Но на общем собрании сотрудников OpenAI в пятницу днем защищал решение совета директоров и объяснял сотрудникам, что это было необходимо для защиты миссии OpenAI по созданию искусственного интеллекта на благо человечества. Идею по сути «враждебного поглощения» компании он отверг.

Провернуть фарш назад

Ситуация вокруг пятничной отставки Альтмана продолжает стремительно развиваться. В субботу инвесторы OpenAI уже включились в борьбу за него, а совет директоров вступил с Альтманом в переговоры о его возвращении — по крайней мере, об этом говорят источники сразу нескольких СМИ.

На совет давят инвесторы, в числе которых, кроме Microsoft, фонды Tiger Global, Thrive Capital и Sequoia Capital. По данным источников Bloomberg, Сатья Наделла лично пообещал Альтману полную поддержку в случае возвращения. Кроме того, инвесторы настаивают на том, что нынешний совет директоров должен уйти в отставку (но хотя у них есть рычаги давления, например, оставшаяся и еще не выплаченная часть инвестиций Microsoft, — прямого влияния на совет некоммерческой OpenAI Inc. у инвесторов нет).

Сам Альтман готов вернуться при условии, что структура управления компанией будет изменена. Но это не единственный вариант который он рассматривает. Другой — запуск новой компании, в которую будут приглашены бывшие сотрудники OpenAI, объявившие об уходе в знак солидарности. И вряд ли у него будет проблема с поиском инвесторов.

Все это сопровождается полномасштабным кризисом внутри компании: многие сотрудники готовы уволиться и уйти в новый стартап Сэма Альтмана. Они поставили компании дедлайн в 17 часов по калифорнийскому времени в субботу. После этого многие сотрудники готовы написать заявление об уходе. Их условия — отставка совета директоров и возвращение Альтмана и Брокмана к управлению. По данным источников The Verge, директора в совете поначалу даже были готовы к отставке, но к вечеру субботы никаких заявлений сделано не было. Кроме одного: директор по стратегии OpenAI Джейсон Квон вчера вечером написал сотрудникам, что руководство «оптимистично» по поводу возвращения Сэма Альтмана в компанию.

Сам Альтман вместе с Брокманом тем временем взялись за подготовку презентации нового стартапа для инвесторов. Следующая неделя явно будет интересной — будем следить.

БИГТЕХИ

Apple и Disney бойкотируют X после антисемитского поста Маска

Еще один скандал уходящей недели — тоже громкий, но не такой неожиданный. В эту среду Илон Маск опубликовал твит, в котором назвал «чистой правдой» сообщение одного из пользователей платформы, утверждавшего, что еврейские общины поддерживают «диалектическую ненависть к белым». После этого Apple и Disney, одни из крупнейших рекламодателей X, приостановили размещение рекламы в соцсети, что очень обеспокоило топ-менеджмент X.

Но и это не все: на этой неделе НКО Media Matters for America выпустила доклад, в котором говорилось, что X размещает рекламу Apple, IBM и ряда других компаний возле постов с праворадикальным контентом. IBM после этого тоже объявила, что приостанавливает размещение рекламы в соцсети, пока не изучит «эту совершенно неприемлемую ситуацию». В своем заявлении компания подчеркнула, что соблюдает принцип «нулевой терпимости к разжиганию ненависти и дискриминации». Маск же пригрозил судом проекту Media Matters, который обвинил его в поддержке «антисемитской теории заговора». «X Corp подаст термоядерный иск против Media Matters и всех тех, кто участвовал в этой мошеннической атаке на нашу компанию», — написал он.

ОНЛАЙН-РАССЛЕДОВАНИЕ

Уехали и расслабились

Делает ли эмиграция вашу жизнь безопасной, если на родине вы подвергались риску преследования? Даже если вы не активист, журналист или политик, определенные риски сохраняются. В этом выпуске рубрики «Онлайн-расследование» спецкорреспондент The Bell Ирина Панкратова рассказывает, как создать собственную «модель угроз» для того, чтобы правильно их оценить и вовремя принять меры, повысив собственную цифровую безопасность.

READ LATER

• А пока в OpenAI происходит передел власти, DeepMind от Google пытается определить, какой именно ИИ можно будет считать AGI — общим искусственным интеллектом.
• Россия годами получала стратегические технологии, подпадающие под экспортный контроль, через подставные фирмы и запутанные схемы. FT рассказывает, как Россия организовала контрабанду микросхем французской компании Ommic — задолго до вторжения в Украину.
• Захватывающая история о том, как индийская Appin из Edtech-стартапа превратилась в компанию, нанимающую хакеров для кражи секретов у политиков, военных чиновников и элиты по всему миру.