Vào năm 2019, Karen Hao, một phóng viên kỳ cựu tại MIT Technology Review, đã giới thiệu cho biên tập viên của mình một câu chuyện về OpenAI, một công ty khi đó hoạt động chủ yếu dưới radar. Những gì diễn ra là một hành trình đầy những khúc quanh bất ngờ, tiết lộ mức độ tham vọng của OpenAI đã đi chệch khỏi các mục tiêu ban đầu của nó.
Tôi lần đầu tiên đặt chân vào văn phòng của OpenAI vào ngày 7 tháng 8 năm 2019. Greg Brockman, CTO của công ty vào thời điểm đó, chào đón tôi bằng một nụ cười ngập ngừng, thừa nhận rằng việc cho phép tiếp cận rộng rãi như vậy là chưa từng có đối với họ.
Mặc dù OpenAI có thể là một cái tên tương đối xa lạ đối với công chúng, nhưng tôi, với tư cách là một phóng viên đưa tin về bối cảnh trí tuệ nhân tạo không ngừng phát triển, đã theo dõi chặt chẽ những phát triển của nó.
Những Ngày Đầu của OpenAI và Những Thay Đổi
Trước năm 2019, OpenAI được coi là một ngoại lệ trong cộng đồng nghiên cứu AI. Tuyên bố táo bạo của nó về việc đạt được Trí tuệ Nhân tạo Tổng quát (AGI) trong vòng một thập kỷ đã gặp phải sự hoài nghi của nhiều người. Mặc dù nhận được nguồn tài trợ đáng kể, công ty thiếu định hướng rõ ràng và các nỗ lực tiếp thị của nó thường bị coi là thổi phồng quá mức các nghiên cứu bị các chuyên gia khác coi là không độc đáo. Tuy nhiên, OpenAI cũng thu hút sự ghen tị. Là một tổ chức phi lợi nhuận, nó tuyên bố không quan tâm đến việc thương mại hóa, tạo ra một môi trường độc đáo cho việc khám phá trí tuệ, không bị ràng buộc bởi áp lực tài chính.
Tuy nhiên, trong sáu tháng trước chuyến thăm của tôi, một loạt các thay đổi nhanh chóng đã gợi ý về một sự thay đổi đáng kể trong định hướng của OpenAI. Dấu hiệu đầu tiên là quyết định gây tranh cãi về việc giữ lại GPT-2, mặc dù đã công khai khả năng của nó. Tiếp theo là thông báo về việc bổ nhiệm Sam Altman làm CEO, sau khi ông rời Y Combinator (YC), cùng với việc tạo ra một cấu trúc “lợi nhuận giới hạn”. Giữa những diễn biến này, OpenAI tiết lộ quan hệ đối tác với Microsoft, cho phép gã khổng lồ công nghệ này ưu tiên thương mại hóa các công nghệ của OpenAI và sử dụng độc quyền các dịch vụ đám mây Microsoft Azure.
Mỗi thông báo này đều tạo ra tranh cãi, suy đoán và sự chú ý ngày càng tăng, vượt ra ngoài giới hạn của ngành công nghệ. Khi những thay đổi diễn ra, thật khó để nắm bắt đầy đủ ý nghĩa của chúng. Tuy nhiên, rõ ràng là OpenAI đang bắt đầu gây ảnh hưởng đáng kể đến nghiên cứu AI và cách các nhà hoạch định chính sách hiểu về công nghệ. Quyết định chuyển sang kinh doanh một phần vì lợi nhuận chắc chắn sẽ có những tác động sâu rộng trên toàn ngành và chính phủ.
Một buổi tối, được biên tập viên khuyến khích, tôi đã liên lạc với Jack Clark, giám đốc chính sách của OpenAI, người mà tôi đã từng nói chuyện trước đây. Tôi đề xuất một bài viết về OpenAI, cảm thấy rằng đó là một thời điểm quan trọng trong lịch sử của công ty. Clark đã kết nối tôi với người đứng đầu bộ phận truyền thông, người đã gửi lời mời phỏng vấn ban lãnh đạo và tham gia vào công ty trong ba ngày.
Bên Trong OpenAI: Sứ Mệnh và Tham Vọng
Brockman và tôi được tham gia bởi nhà khoa học trưởng Ilya Sutskever trong một phòng họp bằng kính. Ngồi cạnh nhau, họ bổ sung cho vai trò của nhau. Brockman, người viết mã và thực hiện, có vẻ háo hức tạo ấn tượng tích cực, trong khi Sutskever, nhà nghiên cứu và triết gia, có vẻ thoải mái và tách biệt hơn.
Tôi bắt đầu bằng cách hỏi về sứ mệnh của OpenAI: đảm bảo AGI có lợi. Tại sao đầu tư hàng tỷ đô la vào vấn đề này hơn là những vấn đề khác?
Brockman, người am hiểu về việc bảo vệ vị thế của OpenAI, nói rằng AGI là rất quan trọng để giải quyết các vấn đề phức tạp vượt quá khả năng của con người. Ông trích dẫn biến đổi khí hậu và y học làm ví dụ, minh họa tiềm năng của AGI trong việc phân tích lượng lớn dữ liệu và đẩy nhanh sự tiến bộ trong các lĩnh vực quan trọng này.
Ông kể lại trải nghiệm của một người bạn với một chứng rối loạn hiếm gặp, nhấn mạnh cách AGI có thể hợp lý hóa việc chẩn đoán và điều trị bằng cách kết nối các chuyên gia một cách hiệu quả.
Sau đó, tôi hỏi về sự khác biệt giữa AGI và AI.
AGI, từng là một khái niệm thích hợp, đã thu hút được sự chú ý, phần lớn là do ảnh hưởng của OpenAI. AGI đề cập đến một AI giả định phù hợp hoặc vượt quá trí thông minh của con người trong hầu hết các nhiệm vụ có giá trị kinh tế. Mặc dù các nhà nghiên cứu đã đạt được tiến bộ, nhưng các cuộc tranh luận vẫn tiếp diễn về khả năng mô phỏng ý thức của con người.
Mặt khác, AI đề cập đến cả công nghệ hiện tại và khả năng gần tương lai, thể hiện các ứng dụng trong giảm thiểu biến đổi khí hậu và chăm sóc sức khỏe.
Sutskever nói thêm rằng AGI có thể giải quyết các thách thức toàn cầu bằng cách cho phép các máy tính thông minh giao tiếp và làm việc cùng nhau hiệu quả hơn con người, bỏ qua các vấn đề khuyến khích.
Tuyên bố này khiến tôi đặt câu hỏi liệu AGI có ý định thay thế con người hay không. Brockman trả lời rằng công nghệ nên phục vụ con người và đảm bảo “tự do kinh tế” đồng thời duy trì chất lượng cuộc sống của họ.
Brockman lập luận rằng vai trò của OpenAI không phải là xác định xem AGI có được xây dựng hay không, mà là gây ảnh hưởng đến các hoàn cảnh mà nó được tạo ra. Ông nhấn mạnh rằng sứ mệnh của họ là đảm bảo rằng AGI mang lại lợi ích cho toàn nhân loại bằng cách xây dựng nó và phân phối các lợi ích kinh tế của nó.
Cuộc trò chuyện của chúng tôi tiếp tục lặp đi lặp lại, với thành công hạn chế trong việc thu thập các chi tiết cụ thể. Tôi đã thử một cách tiếp cận khác, hỏi về những nhược điểm tiềm ẩn của công nghệ.
Brockman trích dẫn deepfake là một ứng dụng tiêu cực có thể xảy ra.
Tôi nêu vấn đề tác động môi trường của chính AI.
Sutskever thừa nhận vấn đề này nhưng lập luận rằng AGI có thể chống lại chi phí môi trường. Ông nhấn mạnh sự cần thiết của các trung tâm dữ liệu xanh.
“Các trung tâm dữ liệu là nhà tiêu thụ năng lượng, điện lớn nhất,” Sutskever tiếp tục.
“Nó chiếm 2% trên toàn cầu,” tôi nói.
“Bitcoin không phải là 1% sao?” Brockman nói.
Sutskever sau đó sẽ nói, “Tôi nghĩ rằng có khả năng khá cao là sẽ không mất quá nhiều thời gian để toàn bộ bề mặt Trái đất được bao phủ bởi các trung tâm dữ liệu và trạm điện.” Sẽ có “một cơn sóng thần máy tính . . . gần như một hiện tượng tự nhiên.”
Tôi thách thức họ rằng OpenAI đang đánh cược rằng họ sẽ đạt được AGI có lợi thành công để chống lại sự nóng lên toàn cầu trước khi hành động làm như vậy có thể làm trầm trọng thêm nó.
Brockman vội vàng nói, “Cách chúng tôi nghĩ về nó là như sau: Chúng tôi đang trên đà tiến bộ của AI. Điều này lớn hơn OpenAI, phải không? Đó là lĩnh vực này. Và tôi nghĩ xã hội thực sự đang nhận được lợi ích từ nó.”
“Vào ngày chúng tôi công bố thỏa thuận,” ông nói, đề cập đến khoản đầu tư mới trị giá 1 tỷ đô la của Microsoft, “vốn hóa thị trường của Microsoft đã tăng thêm 10 tỷ đô la. Mọi người tin rằng có ROI dương ngay cả đối với công nghệ ngắn hạn.”
Do đó, chiến lược của OpenAI khá đơn giản, ông giải thích: để theo kịp tiến độ đó.
Cuối ngày hôm đó, Brockman nhắc lại rằng không ai thực sự biết AGI sẽ trông như thế nào, đồng thời nói thêm rằng nhiệm vụ của họ là tiếp tục thúc đẩy, để khám phá hình dạng của công nghệ từng bước một.
Đằng Sau Hậu Trường: Tính Minh Bạch và Kiểm Soát
Ban đầu, tôi dự kiến sẽ ăn trưa với các nhân viên trong quán cà phê, nhưng tôi được bảo rằng tôi cần phải ở bên ngoài văn phòng. Brockman sẽ là người đi cùng tôi.
Mô hình này lặp lạitrong suốt chuyến thăm của tôi: hạn chế tiếp cận một số khu vực nhất định, các cuộc họp mà tôi không thể tham dự và các nhà nghiên cứu liếc nhìn người đứng đầu bộ phận truyền thông để đảm bảo rằng họ không vi phạm bất kỳ chính sách tiết lộ nào. Sau chuyến thăm của tôi, Jack Clark đã gửi một cảnh báo nghiêm khắc cho nhân viên trên Slack không được nói chuyện với tôi ngoài các cuộc trò chuyện được phê duyệt. Nhân viên bảo vệ cũng nhận được ảnh của tôi, để họ có thể tìm kiếm tôi nếu tôi xuất hiện mà không được phê duyệt trong khuôn viên. Những hành vi này trái ngược với cam kết minh bạch của OpenAI, làm dấy lên câu hỏi về những gì đang bị che giấu.
Trong bữa trưa và những ngày sau đó, tôi đã hỏi Brockman về động cơ đồng sáng lập OpenAI của ông. Ông nói rằng ông đã bị ám ảnh bởi ý tưởng tái tạo trí thông minh của con người sau một bài báo của Alan Turing. Nó đã truyền cảm hứng cho ông. Ông đã viết mã một trò chơi kiểm tra Turing và đưa nó lên mạng, thu hút khoảng 1.500 lượt truy cập. Nó khiến ông cảm thấy tuyệt vời. “Tôi chỉ nhận ra đó là loại điều tôi muốn theo đuổi,” ông nói.
Ông gia nhập OpenAI với tư cách là người đồng sáng lập vào năm 2015, lưu ý rằng ông sẽ làm bất cứ điều gì để đưa AGI thành hiện thực, ngay cả khi điều đó có nghĩa là làm người gác cổng. Khi ông kết hôn bốn năm sau đó, ông đã tổ chức một buổi lễ dân sự tại văn phòng của OpenAI trước một bức tường hoa tùy chỉnh được trang trí bằng hình dạng logo hình lục giác của phòng thí nghiệm. Sutskever chủ trì.
“Về cơ bản, tôi muốn làm việc trên AGI trong suốt quãng đời còn lại của mình,” Brockman nói với tôi.
Tôi hỏi về điều gì đã thúc đẩy ông.
Brockman đề cập đến cơ hội làm việc trên một công nghệ mang tính chuyển đổi trong suốt cuộc đời của mình. Ông tin rằng ông đang ở một vị trí độc nhất để mang lại sự chuyển đổi đó. “Điều thực sự thu hút tôi là những vấn đề sẽ không diễn ra theo cùng một cách nếu tôi không tham gia,” ông nói.
Ông muốn dẫn đầu AGI và khao khát được công nhận những thành tựu của mình. Năm 2022, ông trở thành chủ tịch của OpenAI.
Lợi Nhuận, Sứ Mệnh và Cạnh Tranh
Trong các cuộc trò chuyện của chúng tôi, Brockman khẳng định rằng những thay đổi về cấu trúc của OpenAI không làm thay đổi sứ mệnh cốt lõi của nó. Cấu trúc lợi nhuận giới hạn và các nhà đầu tư mới đã nâng cao nó. “Chúng tôi đã cố gắng có được những nhà đầu tư phù hợp với sứ mệnh này, những người sẵn sàng ưu tiên sứ mệnh hơn lợi nhuận. Đó là một điều điên rồ,” ông nói.
OpenAI hiện có các nguồn lực để mở rộng quy mô các mô hình của mình và luôn dẫn đầu đối thủ cạnh tranh. Nếu không làm như vậy có thể làm suy yếu sứ mệnh của nó. Chính giả định này đã khởi động tất cả các hành động của OpenAI và những hậu quả sâu rộng của chúng. Nó đặt một chiếc đồng hồ tích tắc vào mỗi tiến bộ nghiên cứu của OpenAI, không dựa trên thời gian cân nhắc cẩn thận mà dựa trên tốc độ không ngừng cần thiết để về đích trước bất kỳ ai khác. Nó biện minh cho việc OpenAI tiêu thụ một lượng tài nguyên không thể tưởng tượng được.
Brockman nhấn mạnh tầm quan trọng của việc phân phối lại các lợi ích của AGI.
Tôi hỏi về các ví dụ lịch sử về các công nghệ đã phân phối thành công các lợi ích cho công chúng.
“Chà, tôi thực sự nghĩ rằng—thực sự thú vị khi xem xét ngay cả internet như một ví dụ,” ông nói. “Cũng có vấn đề, phải không?” ông nói như một lời cảnh báo. “Bất cứ khi nào bạn có một thứ gì đó siêu chuyển đổi, sẽ không dễ dàng để tìm ra cách tối đa hóa tích cực, giảm thiểu tiêu cực.
“Lửa là một ví dụ khác,” ông nói thêm. “Nó cũng có một số hạn chế thực sự đối với nó. Vì vậy, chúng ta phải tìm cách kiểm soát nó và có các tiêu chuẩn chung.
“Ô tô là một ví dụ tốt,” ông tiếp tục. “Rất nhiều người có ô tô, mang lại lợi ích cho rất nhiều người. Chúng cũng có một số hạn chế đối với chúng. Chúng có một số yếu tố bên ngoài không nhất thiết tốt cho thế giới,” ông kết thúc một cách ngập ngừng.
“Tôi đoán tôi chỉ xem—điều chúng tôi muốn cho AGI không khác nhiều so với mặt tích cực của internet, mặt tích cực của ô tô, mặt tích cực của lửa. Tuy nhiên, việc triển khai rất khác, bởi vì đó là một loại công nghệ rất khác.”
Đôi mắt ông sáng lên với một ý tưởng mới. “Chỉ cần nhìn vào các tiện ích. Các công ty điện lực, các công ty điện là các thực thể tập trung cao độ, cung cấp những thứ chất lượng cao, chi phí thấp, cải thiện đáng kể cuộc sống của mọi người.”
Brockman dường như một lần nữa không rõ về cách OpenAI sẽ biến mình thành một tiện ích.
Ông trở lại với một điều ông biết chắc chắn. OpenAI cam kết phân phối lại các lợi ích của AGI và mang lại cho mọi người tự do kinh tế. “Chúng tôi thực sự có ý đó,” ông nói.
“Cách chúng tôi nghĩ về nó là: Công nghệ cho đến nay là một thứ nâng đỡ tất cả các con thuyền, nhưng nó có hiệu ứng tập trung thực sự này,” ông nói. “AGI có thể còn cực đoan hơn. Điều gì sẽ xảy ra nếu tất cả giá trị bị khóa ở một nơi? Đó là quỹ đạo chúng ta đang đi với tư cách là một xã hội. Và chúng ta chưa bao giờ thấy điều đó cực đoan như vậy. Tôi không nghĩ đó là một thế giới tốt đẹp. Đó không phải là một thế giới mà tôi muốn giúp xây dựng.”
Hậu Quả và Phản Ứng
Vào tháng 2 năm 2020, tôi đã xuất bản bài viết của mình cho MIT Technology Review, tiết lộ sự sai lệch giữa hình ảnh công khai của OpenAI và các hoạt động nội bộ của nó. Tôi nói rằng “Theo thời gian, nó đã cho phép sự cạnh tranh khốc liệt và áp lực ngày càng tăng để có thêm vốn làm xói mòn các lý tưởng sáng lập của nó về tính minh bạch, cởi mở và hợp tác.”
Elon Musk đã trả lời bằng ba tweet:
“Theo tôi, OpenAI nên cởi mở hơn”
“