През 2019 г. Карън Хао, опитен репортер в MIT Technology Review, предложи на своя редактор история за OpenAI, компания, която по това време оперираше до голяма степен под радара. Това, което се разгърна, беше пътешествие, изпълнено с неочаквани обрати, разкриващо степента, в която амбициите на OpenAI се бяха отклонили от първоначалните ѝ цели.
За първи път стъпих в офисите на OpenAI на 7 август 2019 г. Грег Брокман, тогавашният главен технологичен директор на компанията, ме посрещна с колеблива усмивка, признавайки, че предоставянето на толкова голям достъп е безпрецедентно за тях.
Въпреки че OpenAI може да е била относително неизвестна за широката публика, аз, като репортер, отразяващ непрекъснато развиващия се пейзаж на изкуствения интелект, следя отблизо нейните разработки.
Ранните дни на OpenAI и променящите се течения
Преди 2019 г. OpenAI се смяташе до известна степен за аутсайдер в общността за изследванията на изкуствения интелект. Нейното смело твърдение за постигане на Artificial General Intelligence (AGI) в рамките на десетилетие беше посрещнато със скептицизъм от мнозина. Въпреки значителното финансиране, на компанията ѝ липсваше ясна посока и маркетинговите ѝ усилия често бяха възприемани като преекспониране на изследвания, считани за неоригинални от други експерти. Независимо от това, OpenAI също привлече завист. Като организация с нестопанска цел, тя декларира липса на интерес към комерсиализация, създавайки уникална среда за интелектуално изследване, освободена от ограниченията на финансовия натиск.
Въпреки това, през шестте месеца, предхождащи посещението ми, поредица от бързи промени намекнаха за значителна промяна в посоката на OpenAI. Първият знак беше противоречивото решение да се задържи GPT-2, въпреки публичността на неговите възможности. След това дойде обявяването на назначаването на Сам Алтман за CEO, след напускането му на Y Combinator (YC), заедно със създаването на структура с "ограничена печалба". Сред тези развития, OpenAI разкри партньорство с Microsoft, предоставяйки на технологичния гигант приоритет в комерсиализацията на технологиите на OpenAI и изключително използване на облачните услуги на Microsoft Azure.
Всяко от тези съобщения генерира противоречия, спекулации и нарастващо внимание, достигайки отвъд пределите на технологичната индустрия. Тъй като промените се разгръщаха, беше трудно да се разбере напълно тяхното значение. Беше очевидно обаче, че OpenAI започва да упражнява значително влияние върху изследванията на изкуствения интелект и начина, по който политиците разбират технологията. Решението да се премине към частично печеливш бизнес със сигурност щеше да има широко разпространени последици в индустрията и правителството.
Една вечер, насърчена от моя редактор, се свързах с Джак Кларк, директор на политиката на OpenAI, с когото бях разговаряла преди това. Предложих профил за OpenAI, усещайки, че това е ключов момент в историята на компанията. Кларк ме свърза с комуникационния отдел, който отправи покана за интервю с ръководството и да се включа в компанията за три дни.
Вътре в OpenAI: Мисия и амбиция
Към нас с Брокман се присъедини главният учен Иля Суцкевер в стъклена заседателна зала. Седнали един до друг, те се допълваха взаимно в ролите си. Брокман, програмистът и внедрителят, изглеждаше нетърпелив да направи положително впечатление, докато Суцкевер, изследователят и философът, изглеждаше по-спокоен и откъснат.
Започнах, като попитах за мисията на OpenAI: да се осигури благоприятен AGI. Защо да се инвестират милиарди в този проблем пред други?
Брокман, добре запознат със защитата на позицията на OpenAI, заяви, че AGI е от решаващо значение за решаването на сложни проблеми извън човешките възможности. Той цитира изменението на климата и медицината като примери, илюстрирайки потенциала на AGI да анализира огромни количества данни и да ускори напредъка в тези критични области.
Той разказа преживяването на приятел с рядко заболяване, подчертавайки как AGI може да рационализира диагностиката и лечението, като свързва специалисти ефикасно.
След това попитах за разликата между AGI и AI.
AGI, някога нишова концепция, набра популярност, до голяма степен благодарение на влиянието на OpenAI. AGI се отнася до хипотетичен AI, който съвпада или надвишава човешкия интелект в повечето икономически ценни задачи. Въпреки че изследователите са постигнали напредък, дебатите продължават относно възможността за симулиране на човешкото съзнание.
AI, от друга страна, се отнасяше както до настоящата технология, така и до близкобъдещите възможности, демонстрирайки приложения в смекчаването на изменението на климата и здравеопазването.
Суцкевер добави, че AGI може да реши глобалните предизвикателства, като позволи на интелигентните компютри да комуникират и работят заедно по-ефективно от хората, заобикаляйки проблемите с стимулите.
Това изявление ме накара да попитам дали AGI е предназначен да замени хората. Брокман отговори, че технологията трябва да служи на хората и да осигури "икономическа свобода", като същевременно поддържа качеството им на живот.
Брокман твърди, че ролята на OpenAI не е да определя дали AGI ще бъде построен, а по-скоро да повлияе на обстоятелствата, при които е създаден. Той подчерта, че тяхната мисия е да гарантират, че AGI е от полза за цялото човечество, като го изградят и разпределят неговите икономически ползи.
Разговорът ни продължи в кръг, с ограничен успех в получаването на конкретни подробности. Опитах различен подход, питайки за потенциалните недостатъци на технологията.
Брокман цитира дийпфейковете като възможно негативно приложение.
Повдигнах въпроса за въздействието на самия AI върху околната среда.
Суцкевер призна проблема, но твърди, че AGI може да противодейства на екологичните разходи. Той подчерта необходимостта от зелени центрове за данни.
"Центровете за данни са най-големият потребител на енергия, на електричество”, продължи Суцкевер.
"Това са 2 процента в световен мащаб,” предложих аз.
"Не е ли Bitcoin около 1 процент?”, каза Брокман.
По-късно Суцкевер каза: "Мисля, че е доста вероятно да не отнеме твърде много време, за да бъде цялата повърхност на Земята покрита с центрове за данни и електроцентрали.” Ще има "цунами от изчисления… почти като природно явление.”
Оспорих ги, че OpenAI се надява, че ще успее да постигне полезен AGI, за да противодейства на глобалното затопляне, преди самият акт да го направи, може да го влоши.
Брокман набързо каза: "Начинът, по който мислим за това, е следният: Ние сме на рампа на напредъка на AI. Това е по-голямо от OpenAI, нали? Това е полето. И мисля, че обществото всъщност получава полза от това.”
"В деня, в който обявихме сделката,” каза той, позовавайки се на новата инвестиция на Microsoft от 1 милиард долара, "Пазарната капитализация на Microsoft се увеличи с 10 милиарда долара. Хората вярват, че има положителна възвръщаемост на инвестициите дори само в краткосрочна технология.”
По този начин стратегията на OpenAI беше доста проста, обясни той: да бъде в крак с този напредък.
По-късно същия ден Брокман повтори, че никой всъщност не знае как ще изглежда AGI, добавяйки, че задачата им е да продължат да настояват напред, за да разкрият формата на технологията стъпка по стъпка.
Зад кулисите: Прозрачност и контрол
Първоначално бях планиран да обядвам със служители в столовата, но ми беше казано, че трябва да бъда извън офиса. Брокман щеше да бъде моят придружител.
Този модел се повтори през цялото ми посещение: ограничен достъп до определени зони, срещи, на които не можех да присъствам, и изследователи, поглеждащи към комуникационния отдел, за да се уверят, че не нарушават политиките за разкриване на информация. След посещението ми, Джак Кларк изпрати строго предупреждение до служителите в Slack да не говорят с мен извън санкционираните разговори. Охранителят получи и моята снимка, за да могат да ме следят, ако се появя неразрешено на територията. Тези поведения противоречаха на ангажимента на OpenAI към прозрачност, повдигайки въпроси за това какво се крие.
По време на обяда и в дните след това, попитах Брокман за мотивите му да съоснова OpenAI. Той заяви, че е обсебен от идеята за възпроизвеждане на човешкия интелект след статия от Алан Тюринг. Това го вдъхнови. Той кодира игра за тест на Тюринг и я пусна онлайн, набирайки около 1500 посещения. Това го накара да се почувства невероятно. "Просто осъзнах, че това е нещото, което искам да преследвам,” каза той.
Той се присъедини към OpenAI като съосновател през 2015 г., отбелязвайки, че би направил всичко, за да доведе AGI до осъществяване, дори ако това означава да бъде служител по поддръжката (janitor). Когато се ожени четири години по-късно, той проведе гражданска церемония в офиса на OpenAI пред специално изработена стена от цветя, украсена с формата на шестоъгълното лого на лабораторията. Суцкевер я ръководи.
"По принцип искам да работя по AGI до края на живота си,” каза ми Брокман.
Поинтересувах се какво го мотивира.
Брокман спомена шансовете да работи по трансформираща технология през живота си. Той вярваше, че е в уникална позиция да доведе до тази трансформация. "Това, което наистина ме привлича, са проблеми, които няма да се развият по същия начин, ако не участвам,” каза той.
Той искаше да ръководи AGI и копнееше за признание за постиженията си. През 2022 г. той стана президент на OpenAI.
Печалба, мисия и конкуренция
По време на разговорите ни, Брокман твърдеше, че структурните промени на OpenAI не променят основната ѝ мисия. Структурата с ограничена печалба и новите инвеститори я подобриха. "Успяхме да привлечем тези инвеститори, приведени в съответствие с мисията, които са готови да дадат приоритет на мисията пред възвръщаемостта. Това е лудо нещо,” каза той.
OpenAI вече имаше ресурсите да мащабира своите модели и да бъде пред конкуренцията. Ако не успееше да го направи, това можеше да подкопае нейната мисия. Именно това предположение задвижи всички действия на OpenAI и техните далекосъжни последици. То постави тиктакащ часовник върху всеки от изследователските напредъци на OpenAI, базиран не на времевата рамка на внимателното обсъждане, а на безмилостния темп, необходим за пресичане на финалната линия преди някой друг. Това оправда консумацията на OpenAI на невъобразимо количество ресурси.
Брокман подчерта важността на преразпределянето на ползите от AGI.
Попитах за исторически примери за технологии, които успешно разпределят ползите на обществеността.
"Е, аз всъщност мисля, че - всъщност е интересно да се погледне дори интернет като пример,” каза той. "Има и проблеми, нали?”, каза той като предпазна мярка. "Всеки път, когато имате нещо супер трансформиращо, няма да е лесно да разберете как да увеличите максимално положителното, да сведете до минимум отрицателното.
"Огънят е друг пример,” добави той. "Той също има някои реални недостатъци. Така че трябва да разберем как да го държим под контрол и да имаме общи стандарти.
"Автомобилите са добър пример,” продължи той. “Много хора имат коли, от които се възползват много хора. Те също имат някои недостатъци. Те имат някои външни ефекти, които не са непременно добри за света,” завърши той колебливо.
"Предполагам, че просто гледам на нещото, което искаме за AGI, не е толкова различно от положителните страни на интернет, положителните страни на автомобилите, положителните страни на огъня. Приложението е много различно, обаче, защото това е много различен тип технология.”
Очите му светнаха от нова идея. “Просто погледнете комуналните услуги. Енергийните компании, електрическите компании са много централизирани образувания, които предоставят нискотарифни, висококачествени неща, които значително подобряват живота на хората.”
Брокман изглеждаше отново неясен относно това как OpenAI ще се превърне в комунална услуга.
Той се върна към единственото нещо, което знаеше със сигурност. OpenAI е ангажирана с преразпределянето на ползите на AGI и даването на икономическа свобода на всички. "Наистина означаваме това,” каза той.
"Начинът, по който мислим за това, е: Технологията досега беше нещо, което повдига всички лодки, но има този реален концентриращ ефект,” каза той. "AGI може да бъде по-екстремен. Какво ще стане, ако цялата стойност бъде заключена на едно място? Това е траекторията, по която сме като общество. И никога не сме виждали толкова крайното. Не мисля, че това е добър свят. Това не е свят, на който искам да помогна да бъде изграден.”
Aftermath and Reaction
През февруари 2020 г. публикувах своя профил за MIT Technology Review, разкривайки несъответствие между публичния имидж на OpenAI и вътрешните ѝ практики. Казах, че "С течение на времето тя позволи на ожесточена конкурентоспособност и нарастващ натиск за все повече финансиране да ерозират своите основополагащи идеали за прозрачност, откритост и сътрудничество.”
Илон Мъск отговори с три туита:
“OpenAI трябва да бъде по-отворена imo”
“Нямам контрол и само много ограничена представа за OpenAI. Увереността в Дарио за безопасност не е висока,” каза той, позовавайки се на Дарио Амодеи, директорът на научните изследвания.
“Всички организации, разработващи напреднал AI, трябва да бъдат регулирани, включително Tesla”
Алтман изпрати имейл до служителите на OpenAI.
"Въпреки че определено не беше катастрофално, беше ясно лошо,” написа той за статията на MIT Technology Review.
Той написа, че това е "честна критика,” че статията е идентифицирала разминаване между възприятието на OpenAI и реалността ѝ. Той предложи Амодеи и Мъск да се срещнат, за да изяснят критиката на Мъск. За да се избегнат съмнения, работата на Амодеи и безопасността на AI са от решаващо значение за мисията, написа той. "Мисля, че в някакъв момент в бъдеще трябва да намерим начин да защитим публично нашия екип (но да не даваме на пресата публичната битка, която биха обичали в момента).”
След статията OpenAI повече не искаше да говори с мен в продължение на три години.