В 2019 году Karen Hao, опытный репортер из MIT Technology Review, предложила своему редактору статью об OpenAI, компании, которая тогда работала в основном незаметно. То, что последовало, было путешествием, полным неожиданных поворотов, выявившим, насколько амбиции OpenAI разошлись с ее первоначальными целями.
Я впервые переступила порог офисов OpenAI 7 августа 2019 года. Greg Brockman, технический директор компании в то время, встретил меня с нерешительной улыбкой, признав, что предоставление такого обширного доступа было беспрецедентным для них.
Хотя OpenAI могла быть относительно неизвестной широкой публике, я, как репортер, освещающий постоянно развивающийся ландшафт искусственного интеллекта, внимательно следила за ее разработками.
Ранние дни OpenAI и меняющиеся тенденции
До 2019 года OpenAI считалась в некотором роде аутсайдером в исследовательском сообществе AI. Ее смелое заявление о достижении Artificial General Intelligence (AGI) в течение десятилетия было встречено многими со скептицизмом. Несмотря на значительное финансирование, компании не хватало четкого направления, и ее маркетинговые усилия часто воспринимались как чрезмерно раздувающие исследования, признанные другими экспертами неоригинальными. Тем не менее, OpenAI также вызывала зависть. Будучи некоммерческой организацией, она заявила об отсутствии интереса к коммерциализации, создав уникальную среду для интеллектуальных исследований, свободную от ограничений финансового давления.
Однако за шесть месяцев до моего визита серия быстрых изменений намекнула на значительный сдвиг в направлении OpenAI. Первым признаком стало противоречивое решение удержать GPT-2, несмотря на обнародование ее возможностей. Далее последовало объявление о назначении Sam Altman генеральным директором после его ухода из Y Combinator (YC), а также о создании структуры «ограниченной прибыли». На фоне этих событий OpenAI объявила о партнерстве с Microsoft, предоставив технологическому гиганту приоритет в коммерциализации технологий OpenAI и эксклюзивное использование облачных сервисов Microsoft Azure.
Каждое из этих объявлений вызвало споры, спекуляции и растущее внимание, выходящее за рамки границ технологической индустрии. По мере развития изменений было трудно в полной мере осознать их значение. Однако было очевидно, что OpenAI начинает оказывать значительное влияние на исследования AI и то, как политики понимают эту технологию. Решение о переходе к частично прибыльному бизнесу, несомненно, будет иметь далеко идущие последствия для промышленности и правительства.
Однажды вечером, подбадриваемая своим редактором, я связалась с Jack Clark, директором по политике OpenAI, с которым я ранее разговаривала. Я предложила профиль об OpenAI, чувствуя, что это поворотный момент в истории компании. Clark связал меня с руководителем отдела коммуникаций, который направил приглашение на собеседование с руководством и внедрение в компанию на три дня.
Внутри OpenAI: Миссия и Амбиции
Brockman и я встретились с главным ученым Ilya Sutskever в стеклянной переговорной комнате. Сидя бок о бок, они дополняли роли друг друга. Brockman, кодер и исполнитель, казался стремящимся произвести положительное впечатление, в то время как Sutskever, исследователь и философ, казался более расслабленным и отстраненным.
Я начала с вопроса о миссии OpenAI: обеспечить полезный AGI. Почему вкладываются миллиарды в эту проблему, а не в другие?
Brockman, хорошо разбирающийся в защите позиции OpenAI, заявил, что AGI имеет решающее значение для решения сложных проблем, выходящих за рамки человеческих возможностей. В качестве примеров он привел изменение климата и медицину, проиллюстрировав потенциал AGI для анализа огромных объемов данных и ускорения прогресса в этих критических областях.
Он рассказал об опыте друга с редким расстройством, подчеркнув, как AGI может оптимизировать диагностику и лечение, эффективно объединяя специалистов.
Затем я спросила о различии между AGI и AI.
AGI, когда-то нишевая концепция, получила распространение, в основном благодаря влиянию OpenAI. AGI относится к гипотетическому AI, который соответствует или превосходит человеческий интеллект в большинстве экономически ценных задач. Хотя исследователи добились прогресса, дебаты о возможности моделирования человеческого сознания продолжались.
AI, с другой стороны, относится как к текущим технологиям, так и к возможностям ближайшего будущего, демонстрируя приложения в смягчении последствий изменения климата и здравоохранении.
Sutskever добавил, что AGI может решить глобальные проблемы, позволяя интеллектуальным компьютерам общаться и работать вместе более эффективно, чем люди, обходя проблемы стимулов.
Это заявление заставило меня спросить, предназначена ли AGI для замены людей. Brockman ответил, что технология должна служить людям и обеспечивать «экономическую свободу», сохраняя при этом их качество жизни.
Brockman утверждал, что роль OpenAI заключается не в том, чтобы определять, будет ли построена AGI, а скорее в том, чтобы влиять на обстоятельства, при которых она будет создана. Он подчеркнул, что их миссия состоит в том, чтобы обеспечить AGI пользу всему человечеству, построив его и распределив его экономические выгоды.
Наша беседа продолжалась по кругу, с ограниченным успехом в получении конкретных деталей. Я попыталась использовать другой подход, спросив о потенциальных недостатках технологии.
Brockman привел deepfakes в качестве возможного негативного применения.
Я подняла вопрос об экологическом воздействии самого AI.
Sutskever признал проблему, но утверждал, что AGI может противодействовать экологическим издержкам. Он подчеркнул необходимость зеленых центров обработки данных.
«Центры обработки данных — крупнейший потребитель энергии, электроэнергии», — продолжил Sutskever.
«Это 2 процента в мире», — предположила я.
«Разве Bitcoin не составляет около 1 процента?» — сказал Brockman.
Sutskever позже сказал: «Я думаю, что вполне вероятно, что пройдет не так уж много времени, прежде чем вся поверхность Земли будет покрыта центрами обработки данных и электростанциями». Будет «цунами вычислений . . . почти как природное явление».
Я возразила им, что OpenAI делает ставку на то, что она успешно достигнет полезной AGI, чтобы противодействовать глобальному потеплению, прежде чем сам акт этого может усугубить его.
Brockman поспешно сказал: «Мы думаем об этом так: мы находимся на подъеме прогресса AI. Это больше, чем OpenAI, верно? Это поле. И я думаю, что общество действительно получает от этого выгоду».
«В тот день, когда мы объявили о сделке», — сказал он, имея в виду новые инвестиции Microsoft в размере 1 миллиарда долларов, — «рыночная капитализация Microsoft выросла на 10 миллиардов долларов. Люди верят, что существует положительная рентабельность инвестиций даже в краткосрочные технологии».
Таким образом, стратегия OpenAI была довольно простой, объяснил он: не отставать от этого прогресса.
Позже в тот же день Brockman повторил, что никто на самом деле не знает, как будет выглядеть AGI, добавив, что их задача — продолжать двигаться вперед, чтобы шаг за шагом открывать форму технологии.
За кулисами: Прозрачность и Контроль
Первоначально у меня был запланирован обед с сотрудниками в кафетерии, но мне сказали, что я должна быть за пределами офиса. Brockman будет моим сопровождающим.
Эта модель повторялась на протяжении всего моего визита: ограниченный доступ к определенным областям, встречи, которые я не могла посещать, и исследователи, бросающие взгляды на руководителя отдела коммуникаций, чтобы убедиться, что они не нарушают никаких правил раскрытия информации. После моего визита Jack Clark отправил сотрудникам в Slack суровое предупреждение не разговаривать со мной вне санкционированных разговоров. Охранник также получил мою фотографию, чтобы они могли следить за мной, если я появлюсь без разрешения в помещении. Такое поведение контрастировало с приверженностью OpenAI к прозрачности, вызывая вопросы о том, что скрывается.
За обедом и в последующие дни я спрашивала Brockman о его мотивах соучредительства OpenAI. Он заявил, что стал одержим идеей воссоздания человеческого интеллекта после статьи Alan Turing. Это вдохновило его. Он закодировал игру Turing test и разместил ее в Интернете, собрав около 1500 просмотров. Это заставило его чувствовать себя потрясающе. «Я просто понял, что это то, чем я хотел заниматься», - сказал он.
Он присоединился к OpenAI в качестве соучредителя в 2015 году, отметив, что сделает все, чтобы AGI пришла к осуществлению, даже если это означало бы быть уборщиком. Когда он женился четыре года спустя, он провел гражданскую церемонию в офисе OpenAI перед цветочной стеной на заказ с изображением шестиугольного логотипа лаборатории. Sutskever председательствовал.
«По сути, я хочу работать над AGI до конца своей жизни», — сказал мне Brockman.
Я спросила, что его мотивирует.
Brockman упомянул о шансах поработать над преобразующей технологией в течение своей жизни. Он считал, что находится в уникальном положении, чтобы осуществить это преобразование. «Меня действительно привлекают проблемы, которые не будут разыграны так же, если я не буду участвовать», — сказал он.
Он хотел возглавить AGI и жаждал признания за свои достижения. В 2022 году он стал президентом OpenAI.
Прибыль, Миссия и Конкуренция
Во время наших разговоров, Brockman утверждал, что структурные изменения OpenAI не изменили ее основную миссию. Структура с ограниченной прибылью и новые инвесторы улучшили ее. «Нам удалось привлечь этих инвесторов, ориентированных на миссию, которые готовы отдавать приоритет миссии над прибылью. Это безумие», — сказал он.
Теперь у OpenAI были ресурсы для масштабирования своих моделей и опережения конкурентов. Неспособность сделать это может подорвать ее миссию. Именно это предположение привело в движение все действия OpenAI и их далеко идущие последствия. Это установило тикающие часы на каждом из исследовательских достижений OpenAI, основанные не на временной шкале тщательного обдумывания, а на неустанном темпе, необходимом для пересечения финишной черты раньше всех. Это оправдало потребление OpenAI невообразимого количества ресурсов.
Brockman подчеркнул важность перераспределения выгод от AGI.
Я спросила об исторических примерах технологий, успешно распределяющих выгоды для общественности.
«Ну, я на самом деле думаю, что — на самом деле интересно взглянуть даже на интернет как на пример», — сказал он. «Есть и проблемы, верно?» — сказал он в качестве предостережения. «Всякий раз, когда у вас есть что-то суперпреобразующее, будет нелегко понять, как максимизировать положительное, минимизировать отрицательное.
«Огонь — еще один пример», — добавил он. «У него тоже есть реальные недостатки. Поэтому мы должны понять, как держать его под контролем и иметь общие стандарты.
«Автомобили — хороший пример», — продолжил он. «У многих людей есть автомобили, приносящие пользу многим людям. У них тоже есть недостатки. У них есть некоторые внешние факторы, которые не обязательно хороши для мира», — закончил он нерешительно.
«Я думаю, что — то, чего мы хотим от AGI, не так уж сильно отличается от положительных сторон интернета, положительных сторон автомобилей, положительных сторон огня. Реализация очень отличается, потому что это очень разный тип технологии».
Его глаза загорелись новой идеей. «Просто взгляните на коммунальные услуги. Энергетические компании, электрические компании — это очень централизованные организации, которые предоставляют недорогие и высококачественные вещи, которые значительно улучшают жизнь людей».
Brockman, казалось, снова не понимал, как OpenAI превратится в коммунальное предприятие.
Он вернулся к тому, что знал наверняка. OpenAI стремилась перераспределить преимущества AGI и предоставить каждому экономическую свободу. «Мы действительно это имеем в виду», — сказал он.
«Мы думаем об этом так: технология до сих пор была чем-то, что поднимает все лодки, но у нее есть этот реальный концентрирующий эффект», — сказал он. «AGI может быть более экстремальной. Что, если вся ценность будет заперта в одном месте? Это траектория, по которой мы идем как общество. И мы никогда не видели этого экстремума. Я не думаю, что это хороший мир. Это не мир, который я хочу помочь построить».
Последствия и Реакция
В феврале 2020 года я опубликовала свой профиль для MIT Technology Review, выявив несоответствие между публичным имиджем OpenAI и ее внутренней практикой. Я сказала, что «Со временем это позволило ожесточенной конкуренции и растущему давлению для получения все большего финансирования подорвать ее основополагающие идеалы прозрачности, открытости и сотрудничества».
Elon Musk отреагировал тремя твитами:
“OpenAI должна быть более открытой, на мой взгляд”
“Я не контролирую и имею очень ограниченное представление об OpenAI. Уверенность в Dario в отношении безопасности невысока”, - сказал он, имея в виду Dario Amodei, директора по исследованиям.
“Все организации, разрабатывающие продвинутый AI, должны регулироваться, включая Tesla”
Altman отправил электронное письмо сотрудникам OpenAI.
«Хотя это определенно не катастрофично, это было явно плохо», — написал он о статье MIT Technology Review.
Он написал, что это была «справедливая критика», что статья выявила разрыв между восприятием OpenAI и ее реальностью. Он предложил бы Amodei и Musk встретиться, чтобы проработать критику Musk. Чтобы не было никаких сомнений, работа Amodei и безопасность AI имели решающее значение для миссии, написал он. «Я думаю, что в какой-то момент в будущем мы должны найти способ публично защитить нашу команду (но не давать прессе публичную борьбу, которую они хотели бы прямо сейчас)».
После статьи OpenAI не разговаривала со мной три года.