OpenAI의 분노를 산 이야기: 심층 분석
2019년, MIT Technology Review의 베테랑 기자 카렌 하오는 당시에는 거의 알려지지 않았던 회사인 OpenAI에 대한 이야기를 자신의 편집자에게 제안했습니다. 그 후에 펼쳐진 것은 OpenAI의 야망이 초기 목표에서 얼마나 벗어났는지를 보여주는 예상치 못한 반전으로 가득 찬 여정이었습니다.
저는 2019년 8월 7일에 처음으로 OpenAI 사무실에 발을 들였습니다. 당시 CTO였던 그렉 브록먼은 그러한 광범위한 접근 권한을 부여하는 것이 그들에게는 전례가 없는 일임을 인정하면서 망설이는 미소로 저를 맞이했습니다.
OpenAI는 일반 대중에게는 비교적 알려지지 않았을 수도 있지만, 끊임없이 진화하는 인공 지능 환경을 취재하는 기자로서 저는 그들의 발전을 면밀히 모니터링해 왔습니다.
OpenAI의 초기와 변화하는 흐름
2019년 이전에는 OpenAI가 AI 연구 커뮤니티에서 다소 특이한 존재로 여겨졌습니다. 10년 안에 인공 일반 지능(AGI)을 달성하겠다는 대담한 주장은 많은 사람들에게 회의적인 시각을 받았습니다. 상당한 자금 지원에도 불구하고 회사는 명확한 방향이 부족했고, 마케팅 노력은 종종 다른 전문가들이 독창적이지 않다고 판단한 연구를 과장하는 것으로 인식되었습니다. 그럼에도 불구하고 OpenAI는 부러움을 사기도 했습니다. 비영리 단체로서 상업화에 대한 관심이 없다고 선언하여 재정적 압박으로부터 자유로운 지적 탐구를 위한 독특한 환경을 조성했습니다.
그러나 제 방문을 앞둔 6개월 동안 일련의 급격한 변화가 OpenAI의 방향에 상당한 변화가 있음을 암시했습니다. 첫 번째 징후는 GPT-2의 기능을 공개했음에도 불구하고 공개를 보류하기로 한 논란이 많은 결정이었습니다. 다음으로는 샘 알트만이 Y Combinator(YC)에서 물러난 후 CEO로 임명되고 “상한 이익” 구조가 만들어진다는 발표가 있었습니다. 이러한 발전 속에서 OpenAI는 Microsoft와 파트너십을 맺어 기술 대기업에 OpenAI 기술 상용화에 대한 우선 순위와 Microsoft Azure 클라우드 서비스의 독점 사용 권한을 부여했다고 밝혔습니다.
이러한 각 발표는 논란, 추측 및 관심 증가를 불러일으키며 기술 산업의 범위를 넘어섰습니다. 변화가 전개되면서 그 의미를 완전히 파악하기는 어려웠습니다. 그러나 OpenAI가 AI 연구와 정책 입안자들이 기술을 이해하는 방식에 상당한 영향을 미치기 시작했다는 것은 분명했습니다. 부분적으로 영리 기업으로 전환하기로 한 결정은 산업 및 정부 전반에 걸쳐 광범위한 파장을 일으킬 것입니다.
어느 날 저녁, 편집자의 격려를 받아 이전에 이야기를 나눴던 OpenAI의 정책 책임자 잭 클락에게 연락했습니다. 저는 OpenAI가 회사의 역사에서 중요한 순간이라고 느끼면서 OpenAI에 대한 프로필을 제안했습니다. Clark은 저를 홍보 책임자와 연결해 주었고, 홍보 책임자는 리더십을 인터뷰하고 회사 내에서 3일 동안 머무르도록 초청했습니다.
OpenAI 내부: 미션과 야망
브록먼과 저는 수석 과학자 일리야 서츠케버와 함께 유리 회의실에 합류했습니다. 나란히 앉은 그들은 서로의 역할을 보완했습니다. 코더이자 실행자인 브록먼은 긍정적인 인상을 주려고 열심인 것처럼 보였고, 연구자이자 철학자인 서츠케버는 더 느긋하고 초연한 것처럼 보였습니다.
저는 OpenAI의 미션인 유익한 AGI를 보장하는 것에 대해 질문하는 것으로 시작했습니다. 왜 다른 문제보다 이 문제에 수십억 달러를 투자하는가?
OpenAI의 입장을 옹호하는 데 능숙한 브록먼은 AGI가 인간의 능력을 뛰어넘는 복잡한 문제를 해결하는 데 매우 중요하다고 말했습니다. 그는 기후 변화와 의학을 예로 들면서 AGI가 막대한 양의 데이터를 분석하고 이러한 중요한 분야의 발전을 가속화할 수 있는 잠재력을 설명했습니다.
그는 희귀 질환을 앓고 있는 친구의 경험을 이야기하면서 AGI가 전문가를 효율적으로 연결하여 진단과 치료를 간소화할 수 있는 방법을 강조했습니다.
저는 AGI와 AI의 차이점에 대해 질문했습니다.
한때 틈새 개념이었던 AGI는 OpenAI의 영향력 덕분에 큰 인기를 얻었습니다. AGI는 대부분의 경제적으로 가치 있는 작업에서 인간의 지능과 일치하거나 능가하는 가상의 AI를 의미합니다. 연구자들은 진전을 이루었지만 인간 의식 시뮬레이션 가능성에 대한 논쟁은 지속되었습니다.
반면에 AI는 현재 기술과 가까운 미래의 기능을 모두 의미하며 기후 변화 완화 및 의료 분야에서 응용 가능성을 보여주었습니다.
서츠케버는 AGI가 지능형 컴퓨터가 인간보다 더 효율적으로 소통하고 협력할 수 있도록 하여 인센티브 문제를 우회함으로써 전 세계적인 과제를 해결할 수 있다고 덧붙였습니다.
이 진술로 인해 저는 AGI가 인간을 대체하기 위한 것인지 질문하게 되었습니다. 브록먼은 기술이 사람들을 섬기고 삶의 질을 유지하면서 “경제적 자유”를 보장해야 한다고 답했습니다.
브록먼은 OpenAI의 역할은 AGI가 구축될지 여부를 결정하는 것이 아니라 AGI가 만들어지는 상황에 영향을 미치는 것이라고 주장했습니다. 그는 AGI를 구축하고 경제적 이점을 분배함으로써 AGI가 모든 인류에게 혜택을 주도록 하는 것이 그들의 미션이라고 강조했습니다.
우리 대화는 구체적인 세부 사항을 얻는 데 제한적인 성공을 거두며 맴돌았습니다. 저는 다른 접근 방식을 시도하여 기술의 잠재적인 단점에 대해 질문했습니다.
브록먼은 딥페이크를 가능한 부정적인 응용 프로그램으로 언급했습니다.
저는 AI 자체의 환경 영향에 대해 제기했습니다.
서츠케버는 문제를 인정했지만 AGI가 환경 비용을 상쇄할 수 있다고 주장했습니다. 그는 친환경 데이터 센터의 필요성을 강조했습니다.
서츠케버는 “데이터 센터는 에너지, 즉 전기를 가장 많이 소비하는 곳입니다.”라고 덧붙였습니다.
저는 “전 세계적으로 2%나 됩니다.”라고 말했습니다.
브록먼은 “비트코인은 1% 정도 되지 않나요?”라고 말했습니다.
서츠케버는 나중에 “지구 전체 표면이 데이터 센터와 발전소로 덮이는 데 그리 오랜 시간이 걸리지 않을 것 같습니다.”라고 말했습니다. “거의 자연 현상과 같은 컴퓨팅 쓰나미가 있을 것입니다.”
저는 OpenAI가 지구 온난화를 악화시키기 전에 성공적으로 유익한 AGI를 달성하여 지구 온난화에 대처할 수 있다고 도박하고 있다고 반박했습니다.
브록먼은 서둘러 “우리가 생각하는 방식은 다음과 같습니다. 우리는 AI 발전의 경사로에 있습니다. 이것은 OpenAI보다 더 큰 문제입니다. 그렇죠? 이것은 분야입니다. 그리고 사회가 실제로 그로부터 이익을 얻고 있다고 생각합니다.”라고 말했습니다.
그는 Microsoft의 새로운 10억 달러 투자와 관련하여 “계약을 발표한 날, Microsoft의 시가 총액은 100억 달러 증가했습니다. 사람들은 단기 기술에서도 긍정적인 ROI가 있다고 믿습니다.”라고 말했습니다.
따라서 OpenAI의 전략은 매우 간단했습니다. 그는 그 발전에 발맞추는 것이라고 설명했습니다.
나중에 그날 브록먼은 아무도 AGI가 어떻게 생겼는지 실제로 알지 못한다고 다시 말하면서 그들의 임무는 한 단계씩 기술의 모양을 밝히기 위해 계속 나아가는 것이라고 덧붙였습니다.
무대 뒤편: 투명성과 통제
원래는 구내 식당에서 직원들과 점심을 먹기로 예정되어 있었지만 사무실 밖으로 나가야 한다는 말을 들었습니다. 브록먼이 저의 보호자가 될 것입니다.
이 패턴은 제 방문 내내 반복되었습니다. 특정 지역에 대한 접근 제한, 참석할 수 없는 회의, 공개 정책을 위반하지 않았는지 확인하기 위해 홍보 책임자를 흘끗 쳐다보는 연구원들. 방문 후 잭 클락은 직원들에게 허가된 대화 외에 저와 이야기하지 말라는 엄중한 경고를 Slack에 보냈습니다. 경비원은 제가 승인 없이 부지에 나타날 경우를 대비하여 제 사진도 받았습니다. 이러한 행동은 투명성에 대한 OpenAI의 약속과 대조되어 무엇이 숨겨지고 있는지에 대한 의문을 제기했습니다.
점심 식사 중과 그 후 며칠 동안 저는 OpenAI를 공동 설립한 이유에 대해 브록먼에게 질문했습니다. 그는 앨런 튜링의 논문을 읽은 후 인간 지능을 복제하는 아이디어에 집착하게 되었다고 답했습니다. 그것은 그에게 영감을 주었습니다. 그는 튜링 테스트 게임을 코딩하여 온라인에 올렸고 약 1,500건의 조회수를 얻었습니다. 그것은 그를 놀랍게 만들었습니다. 그는 “그것이 내가 추구하고 싶은 종류의 일이라는 것을 깨달았습니다.”라고 말했습니다.
그는 2015년에 OpenAI에 공동 창업자로 합류하여 AGI를 실현하기 위해 청소부가 되는 것까지 무엇이든 할 것이라고 말했습니다. 4년 후 결혼했을 때 그는 실험실의 육각형 로고 모양이 새겨진 맞춤형 꽃 벽 앞에서 OpenAI 사무실에서 시민 의식을 치렀습니다. 서츠케버가 주례를 맡았습니다.
브록먼은 “근본적으로 저는 남은 인생 동안 AGI에 대한 연구를 하고 싶습니다.”라고 말했습니다.
저는 그에게 동기를 부여하는 것이 무엇인지 물었습니다.
브록먼은 자신의 생애 동안 혁신적인 기술에 대한 연구를 할 수 있는 기회에 대해 언급했습니다. 그는 자신이 그 변화를 가져올 수 있는 독특한 위치에 있다고 믿었습니다. 그는 “내가 참여하지 않으면 같은 방식으로 진행되지 않을 문제에 정말 끌립니다.”라고 말했습니다.
그는 AGI를 이끌고 자신의 업적에 대한 인정을 갈망했습니다. 2022년 그는 OpenAI의 사장이 되었습니다.
이익, 미션 및 경쟁
우리 대화에서 브록먼은 OpenAI의 구조적 변화가 핵심 미션을 변경하지 않았다고 주장했습니다. 상한 이익 구조와 새로운 투자자는 그것을 강화했습니다. 그는 “우리는 수익보다 미션을 우선시하려는 이러한 미션 지향적인 투자자들을 확보하는 데 성공했습니다. 그것은 미친 일입니다.”라고 말했습니다.
OpenAI는 이제 모델을 확장하고 경쟁에서 앞서 나갈 수 있는 리소스를 확보했습니다. 그렇게 하지 못하면 미션을 훼손할 수 있습니다. OpenAI의 모든 행동과 광범위한 결과는 이러한 가정에서 비롯되었습니다. 신중한 심의의 시간 척도가 아니라 다른 사람보다 먼저 결승선을 통과하는 데 필요한 끊임없는 속도를 기반으로 각 OpenAI 연구 발전에 똑딱거리는 시계를 장착했습니다. 그것은 OpenAI의 엄청난 양의 리소스 소비를 정당화했습니다.
브록먼은 AGI의 이점을 재분배하는 것의 중요성을 강조했습니다.
저는 기술이 성공적으로 대중에게 이익을 분배한 역사적 사례에 대해 질문했습니다.
그는 “음, 저는 실제로 인터넷을 예로 들어보는 것도 흥미롭다고 생각합니다.”라고 말했습니다. “문제도 있죠, 그렇죠?” 그는 주의 사항으로 말했습니다. “무언가가 엄청나게 변혁적일 때마다 긍정적인 것을 최대화하고 부정적인 것을 최소화하는 방법을 알아내기가 쉽지 않을 것입니다.”
그는 “불도 좋은 예입니다.”라고 덧붙였습니다. “여기에도 몇 가지 심각한 단점이 있습니다. 따라서 우리는 그것을 통제하고 공유 표준을 갖추는 방법을 알아내야 합니다.”
그는 “자동차도 좋은 예입니다.”라고 말했습니다. “많은 사람들이 자동차를 가지고 있고, 많은 사람들에게 혜택을 줍니다. 또한 몇 가지 단점이 있습니다. 그들은 세상에 반드시 좋지 않은 외부 효과가 있습니다.”라고 그는 주저하며 마쳤습니다.
“저는 AGI에 대해 우리가 원하는 것이 인터넷의 긍정적인 측면, 자동차의 긍정적인 측면, 불의 긍정적인 측면과 크게 다르지 않다고 생각합니다. 구현은 매우 다릅니다. 기술의 종류가 매우 다르기 때문입니다.”
그의 눈은 새로운 아이디어로 빛났습니다. “유틸리티를 보세요. 전력 회사, 전기 회사는 사람들의 삶을 의미 있게 개선하는 저렴하고 고품질의 물건을 제공하는 매우 중앙 집중화된 단체입니다.”
브록먼은 OpenAI가 어떻게 유틸리티로 변신할 것인지에 대해 다시 한번 명확하지 않은 것 같았습니다.
그는 자신이 확실히 알고 있는 한 가지로 돌아갔습니다. OpenAI는 AGI의 이점을 재분배하고 모든 사람에게 경제적 자유를 주는 데 전념하고 있습니다. 그는 “우리는 정말로 그것을 의미합니다.”라고 말했습니다.
그는 “우리가 생각하는 방식은 다음과 같습니다. 지금까지의 기술은 모든 배를 들어 올리는 것이지만, 실제 집결 효과가 있습니다.”라고 말했습니다. “AGI는 더 극단적일 수 있습니다. 모든 가치가 한 곳에 갇히면 어떻게 될까요? 그것이 우리가 사회로서 나아가고 있는 궤적입니다. 그리고 우리는 그것의 극단적인 모습을 본 적이 없습니다. 저는 그것이 좋은 세상이라고 생각하지 않습니다. 그것은 내가 건설하는 데 도움을 주고 싶지 않은 세상입니다.”
반향 및 반응
2020년 2월, 저는 _MIT Technology Review_에 OpenAI의 공개 이미지와 내부 관행 간의 불일치를 폭로하는 프로필을 게시했습니다. 저는 “시간이 지남에 따라 맹렬한 경쟁과 점점 더 많은 자금에 대한 압력이 투명성, 개방성 및 협력이라는 창립 이상을 훼손하도록 허용했습니다.”라고 말했습니다.
Elon Musk는 세 개의 트윗으로 응답했습니다.
“OpenAI는 imo에서 더 개방적이어야 합니다.”
“저는 OpenAI에 대한 통제권이 없고 매우 제한적인 통찰력만 가지고 있습니다. 안전에 대한 Dario에 대한 신뢰는 높지 않습니다.”라고 그는 연구 책임자인 Dario Amodei를 언급하면서 말했습니다.
“Advanced AI를 개발하는 모든 조직은 Tesla를 포함하여 규제되어야 합니다.”
Altman은 OpenAI 직원에게 이메일을 보냈습니다.
그는 MIT Technology Review 기사에 대해 “분명히 재앙은 아니었지만 분명히 나빴습니다.”라고 썼습니다.
그는 OpenAI에 대한 인식과 현실 사이의 단절을 확인했다는 점에서 “공정한 비판”이었다고 썼습니다. 그는 Amodei와 Musk가 만나 Musk의 비판을 해결하도록 제안할 것입니다. 의심의 여지를 없애기 위해 Amodei의 작업과 AI 안전은 미션에 매우 중요하다고 그는 썼습니다. “언젠가 미래에 우리 팀을 공개적으로 방어할 방법을 찾아야 한다고 생각합니다(하지만 언론에 지금 그들이 좋아할 공개 싸움을 제공하지는 마십시오).”
기사 이후 OpenAI는 3년 동안 다시는 저에게 말을 걸지 않았습니다.