Chỉ trích công khai trên mạng xã hội
Vào thứ Tư, Miles Brundage, một cựu nhà nghiên cứu chính sách cấp cao tại OpenAI, đã công khai chỉ trích công ty. Ông cáo buộc OpenAI ‘viết lại lịch sử’ về cách tiếp cận của mình đối với việc triển khai các hệ thống AI có khả năng gây rủi ro. Brundage, người trước đây giữ vai trò quan trọng trong việc định hình khung chính sách của OpenAI, đã bày tỏ lo ngại của mình thông qua mạng xã hội, khơi mào một cuộc tranh luận về lập trường ngày càng phát triển của công ty đối với an toàn AI.
Triết lý 'Triển khai lặp đi lặp lại' của OpenAI
Lời chỉ trích của Brundage được đưa ra sau khi OpenAI công bố một tài liệu vào đầu tuần. Tài liệu này trình bày chi tiết triết lý hiện tại của công ty liên quan đến an toàn và căn chỉnh AI. Căn chỉnh (Alignment), trong bối cảnh này, đề cập đến quá trình thiết kế các hệ thống AI hoạt động theo những cách có thể dự đoán được, mong muốn và có thể giải thích được.
Trong tài liệu, OpenAI mô tả sự phát triển của Trí tuệ nhân tạo tổng quát (AGI) là một ‘con đường liên tục’. AGI được định nghĩa rộng rãi là các hệ thống AI có khả năng thực hiện bất kỳ nhiệm vụ trí tuệ nào mà con người có thể làm. OpenAI tuyên bố rằng con đường liên tục này đòi hỏi phải ‘triển khai và học hỏi lặp đi lặp lại’ từ các công nghệ AI. Điều này cho thấy một cách tiếp cận dần dần, từng bước, trong đó các bài học kinh nghiệm từ các lần triển khai trước đó sẽ cung cấp thông tin cho các lần triển khai tiếp theo.
Tranh cãi về GPT-2: Một điểm bất đồng
Tuy nhiên, Brundage thách thức câu chuyện của OpenAI, đặc biệt liên quan đến việc phát hành GPT-2. Ông khẳng định rằng GPT-2, tại thời điểm phát hành, thực sự cần phải thận trọng đáng kể. Khẳng định này mâu thuẫn trực tiếp với ngụ ý rằng chiến lược triển khai lặp đi lặp lại hiện tại thể hiện sự khác biệt so với các thông lệ trong quá khứ.
Brundage lập luận rằng cách tiếp cận thận trọng của OpenAI đối với việc phát hành GPT-2 trên thực tế hoàn toàn phù hợp với chiến lược triển khai lặp đi lặp lại hiện nay của công ty. Ông cho rằng việc công ty đóng khung lịch sử hiện tại của mình là nhằm mục đích giảm thiểu những rủi ro liên quan đến các mô hình trước đó.
Lo ngại về việc thay đổi gánh nặng chứng minh
Một yếu tố cốt lõi trong lời chỉ trích của Brundage tập trung vào những gì ông nhận thấy là sự thay đổi trong gánh nặng chứng minh liên quan đến các mối quan ngại về an toàn AI. Ông bày tỏ lo ngại rằng tài liệu của OpenAI nhằm mục đích thiết lập một khuôn khổ trong đó những lo ngại về rủi ro tiềm ẩn bị coi là ‘gây hoang mang’.
Theo Brundage, khuôn khổ này sẽ yêu cầu ‘bằng chứng áp đảo về các mối nguy hiểm sắp xảy ra’ để biện minh cho bất kỳ hành động nào được thực hiện để giảm thiểu những rủi ro đó. Ông lập luận rằng tâm lý như vậy là ‘rất nguy hiểm’ khi xử lý các hệ thống AI tiên tiến, nơi những hậu quả không lường trước được có thể gây ra những tác động đáng kể.
Cáo buộc ưu tiên 'sản phẩm hào nhoáng'
OpenAI đã phải đối mặt với những cáo buộc trong quá khứ về việc ưu tiên phát triển và phát hành ‘các sản phẩm hào nhoáng’ hơn là các cân nhắc về an toàn. Các nhà phê bình cho rằng công ty đôi khi đã vội vàng phát hành sản phẩm để giành lợi thế cạnh tranh trong bối cảnh AI đang phát triển nhanh chóng.
Sự tan rã của nhóm Sẵn sàng cho AGI và sự ra đi
Thêm vào đó, những lo ngại về cam kết của OpenAI đối với an toàn là sự tan rã của nhóm sẵn sàng cho AGI vào năm ngoái. Nhóm này được giao nhiệm vụ cụ thể là đánh giá và chuẩn bị cho những tác động xã hội tiềm tàng của AGI.
Ngoài ra, một số nhà nghiên cứu chính sách và an toàn AI đã rời OpenAI, nhiều người trong số họ sau đó đã gia nhập các công ty đối thủ. Những sự ra đi này đã đặt ra câu hỏi về văn hóa nội bộ và các ưu tiên trong OpenAI.
Áp lực cạnh tranh gia tăng
Bối cảnh cạnh tranh trong lĩnh vực AI đã gia tăng đáng kể trong thời gian gần đây. Ví dụ, phòng thí nghiệm AI của Trung Quốc DeepSeek đã thu hút sự chú ý toàn cầu với mô hình R1 có sẵn công khai. Mô hình này đã chứng minh hiệu suất tương đương với mô hình o1 ‘lý luận’ của OpenAI trên một số tiêu chuẩn chính.
Giám đốc điều hành của OpenAI, Sam Altman, đã công khai thừa nhận rằng những tiến bộ của DeepSeek đã làm giảm bớt vị trí dẫn đầu về công nghệ của OpenAI. Altman cũng đã chỉ ra rằng OpenAI sẽ đẩy nhanh việc phát hành một số sản phẩm nhất định để nâng cao vị thế cạnh tranh của mình.
Cổ phần tài chính
Áp lực tài chính đối với OpenAI là rất lớn. Công ty hiện đang hoạt động với mức thâm hụt đáng kể, với hàng tỷ đô la thâm hụt hàng năm. Các dự báo cho thấy những khoản lỗ này có thể tăng gấp ba lần lên 14 tỷ đô la vào năm 2026.
Chu kỳ phát hành sản phẩm nhanh hơn có thể cải thiện triển vọng tài chính của OpenAI trong ngắn hạn. Tuy nhiên, các chuyên gia như Brundage đặt câu hỏi liệu tốc độ nhanh hơn này có phải trả giá bằng các cân nhắc về an toàn lâu dài hay không. Sự đánh đổi giữa đổi mới nhanh chóng và phát triển có trách nhiệm vẫn là một điểm tranh luận trung tâm.
Tìm hiểu sâu hơn về cuộc tranh luận về triển khai lặp đi lặp lại
Khái niệm ‘triển khai lặp đi lặp lại’ là trung tâm của cuộc thảo luận hiện tại xung quanh an toàn AI. Những người ủng hộ cho rằng nó cho phép thử nghiệm và học hỏi trong thế giới thực, cho phép các nhà phát triển xác định và giải quyết các vấn đề tiềm ẩn khi chúng phát sinh. Cách tiếp cận này trái ngược với chiến lược thận trọng hơn là thử nghiệm và phân tích trước khi triển khai trên diện rộng.
Tuy nhiên, các nhà phê bình về triển khai lặp đi lặp lại lại nêu lên những lo ngại về khả năng xảy ra những hậu quả không lường trước được. Họ lập luận rằng việc phát hành các hệ thống AI ra thế giới bên ngoài trước khi chúng được hiểu đầy đủ có thể dẫn đến những kết quả không mong muốn và có khả năng gây hại. Thách thức nằm ở việc đạt được sự cân bằng giữa lợi ích của việc học hỏi trong thế giới thực và những rủi ro liên quan đến việc triển khai các công nghệ có khả năng không thể đoán trước được.
Vai trò của tính minh bạch và cởi mở
Một khía cạnh quan trọng khác của cuộc tranh luận xoay quanh tính minh bạch và cởi mở. Một số người cho rằng tính minh bạch cao hơn liên quan đến phát triển và triển khai AI là điều cần thiết để xây dựng niềm tin của công chúng và đảm bảo trách nhiệm giải trình. Điều này bao gồm việc chia sẻ thông tin về những rủi ro và hạn chế tiềm ẩn của các hệ thống AI.
Tuy nhiên, những người khác cho rằng sự cởi mở quá mức có thể bị các tác nhân độc hại khai thác, có khả năng dẫn đến việc lạm dụng các công nghệ AI. Việc tìm kiếm sự cân bằng phù hợp giữa tính minh bạch và bảo mật vẫn là một thách thức phức tạp.
Sự cần thiết của các khuôn khổ quản trị mạnh mẽ
Khi các hệ thống AI ngày càng trở nên tinh vi và được tích hợp vào các khía cạnh khác nhau của xã hội, nhu cầu về các khuôn khổ quản trị mạnh mẽ càng trở nên quan trọng hơn. Các khuôn khổ này cần giải quyết các vấn đề như an toàn, trách nhiệm giải trình, tính minh bạch và các cân nhắc về đạo đức.
Việc phát triển các cơ chế quản trị hiệu quả đòi hỏi sự hợp tác giữa các nhà nghiên cứu, các nhà hoạch định chính sách, các bên liên quan trong ngành và công chúng. Mục tiêu là tạo ra một khuôn khổ thúc đẩy đổi mới đồng thời giảm thiểu rủi ro tiềm ẩn và đảm bảo rằng AI mang lại lợi ích cho toàn xã hội.
Ý nghĩa rộng hơn cho tương lai của AI
Cuộc tranh luận xung quanh cách tiếp cận của OpenAI đối với an toàn AI phản ánh những lo ngại rộng hơn về tương lai của phát triển AI. Khi các hệ thống AI tiếp tục phát triển với tốc độ chưa từng có, các câu hỏi về tác động tiềm tàng của chúng đối với xã hội ngày càng trở nên cấp bách.
Thách thức nằm ở việc khai thác tiềm năng biến đổi của AI đồng thời giảm thiểu những rủi ro liên quan đến việc phát triển và triển khai nó. Điều này đòi hỏi một cách tiếp cận đa diện bao gồm nghiên cứu kỹ thuật, phát triển chính sách, cân nhắc đạo đức và sự tham gia của công chúng. Tương lai của AI sẽ phụ thuộc vào những lựa chọn mà chúng ta đưa ra ngày hôm nay.
Cuộc thảo luận đang diễn ra đóng vai trò như một lời nhắc nhở về tầm quan trọng của việc xem xét kỹ lưỡng và đối thoại cởi mở trong lĩnh vực AI. Khi các công nghệ AI tiếp tục phát triển, điều quan trọng là phải có các cuộc trò chuyện liên tục về các tác động tiềm tàng của chúng và đảm bảo rằng sự phát triển của chúng phù hợp với các giá trị của con người và phúc lợi xã hội.