Sand AI, một startup video AI Trung Quốc, gần đây đã ra mắt một mô hình AI mã nguồn mở để tạo video, thu hút sự hoan nghênh từ các nhân vật nổi bật như Khải-Fu Lý, giám đốc sáng lập của Microsoft Research Asia. Tuy nhiên, thử nghiệm của TechCrunch cho thấy Sand AI kiểm duyệt phiên bản công khai của mô hình của mình, ngăn chặn việc tạo ra những hình ảnh có thể kích động sự giận dữ của các nhà quản lý Trung Quốc.
Magi-1: Một Mô Hình Đầy Hứa Hẹn Nhưng Bị Hạn Chế
Đầu tuần này, Sand AI đã công bố Magi-1, một mô hình có khả năng tạo video bằng cách ‘tự hồi quy’ dự đoán các chuỗi khung hình. Công ty tuyên bố rằng mô hình này có thể tạo ra những thước phim chất lượng cao, có thể kiểm soát và nắm bắt vật lý chính xác hơn so với các đối thủ cạnh tranh nguồn mở.
Mặc dù có tiềm năng, Magi-1 hiện không thực tế đối với hầu hết các phần cứng tiêu dùng. Với 24 tỷ tham số, nó đòi hỏi từ bốn đến tám GPU Nvidia H100 để hoạt động hiệu quả. Các tham số là các biến bên trong mà các mô hình AI sử dụng để đưa ra dự đoán. Đối với nhiều người dùng, bao gồm cả nhà báo TechCrunch đã thử nghiệm nó, nền tảng Sand AI là con đường duy nhất có thể truy cập để đánh giá Magi-1.
Kiểm Duyệt Trong Hành Động: Những Hình Ảnh Nào Bị Chặn?
Nền tảng này yêu cầu một lời nhắc văn bản hoặc một hình ảnh ban đầu để bắt đầu tạo video. Tuy nhiên, không phải tất cả các lời nhắc đều được phép, như TechCrunch đã nhanh chóng phát hiện ra. Sand AI chủ động chặn việc tải lên các hình ảnh có:
- Tập Cận Bình
- Quảng trường Thiên An Môn và Người đàn ông xe tăng
- Cờ Đài Loan
- Các dấu hiệu ủng hộ giải phóng Hồng Kông
Bộ lọc dường như xảy ra ở cấp độ hình ảnh, vì việc đổi tên các tệp hình ảnh không bỏ qua được khối này.
Sand AI Không Đơn Độc Trong Việc Thực Hiện Kiểm Duyệt
Sand AI không phải là duy nhất trong cách tiếp cận của mình. Hailuo AI, một nền tảng truyền thông tổng hợp do MiniMax có trụ sở tại Thượng Hải điều hành, cũng ngăn chặn việc tải lên các hình ảnh nhạy cảm về chính trị, đặc biệt là những hình ảnh mô tả Tập Cận Bình. Tuy nhiên, bộ lọc của Sand AI dường như đặc biệt nghiêm ngặt, vì Hailuo AI cho phép hình ảnh của Quảng trường Thiên An Môn.
Bối Cảnh Pháp Lý Của Kiểm Duyệt AI Ở Trung Quốc
Như Wired đã giải thích trong một bài báo tháng 1, các mô hình AI hoạt động ở Trung Quốc phải tuân theo các kiểm soát thông tin nghiêm ngặt. Một luật năm 2023 cấm các mô hình này tạo ra nội dung ‘gây nguy hiểm cho sự thống nhất quốc gia và sự hài hòa xã hội’. Điều này có thể được hiểu là nội dung mâu thuẫn với các câu chuyện lịch sử và chính trị của chính phủ. Để tuân thủ các quy định này, các startup Trung Quốc thường kiểm duyệt các mô hình của họ thông qua các bộ lọc cấp lời nhắc hoặc tinh chỉnh.
Một Sự Tương Phản Trong Kiểm Duyệt: Chính Trị So Với Nội Dung Khiêu Dâm
Điều thú vị là, trong khi các mô hình AI của Trung Quốc có xu hướng chặn biểu hiện chính trị, chúng thường có ít bộ lọc hơn đối với nội dung khiêu dâm so với các đối tác Mỹ của chúng. Gần đây, 404 đã báo cáo rằng một số trình tạo video do các công ty Trung Quốc phát hành thiếu các biện pháp bảo vệ cơ bản để ngăn chặn việc tạo ra các hình ảnh khiêu dâm rõ ràng không có sự đồng ý.
Những Hàm Ý Của Kiểm Duyệt AI
Các hoạt động kiểm duyệt được Sand AI và các công ty AI Trung Quốc khác sử dụng đặt ra những câu hỏi quan trọng về tương lai của sự phát triển và khả năng tiếp cận AI ở Trung Quốc. Những hoạt động này không chỉ hạn chế phạm vi nội dung có thể được tạo ra mà còn phản ánh những hạn chế chính trị và xã hội rộng lớn hơn mà các công ty này hoạt động.
Phân Tích Chi Tiết Các Hình Ảnh Bị Chặn
Các hình ảnh cụ thể bị chặn bởi Sand AI cung cấp một cửa sổ vào sự nhạy cảm của chính phủ Trung Quốc. Ví dụ, việc kiểm duyệt hình ảnh của Tập Cận Bình nhấn mạnh sự nhấn mạnh của chính phủ vào việc duy trì một hình ảnh được lựa chọn cẩn thận của nhà lãnh đạo của mình. Tương tự, việc chặn hình ảnh của Quảng trường Thiên An Môn và Người đàn ông xe tăng làm nổi bật những nỗ lực của chính phủ nhằm ngăn chặn cuộc thảo luận và tưởng nhớ các cuộc biểu tình năm 1989. Việc kiểm duyệt cờ Đài Loan và các dấu hiệu ủng hộ giải phóng Hồng Kông phản ánh lập trường của chính phủ về các vấn đề nhạy cảm chính trị này.
Các Khía Cạnh Kỹ Thuật Của Kiểm Duyệt
Thực tế là kiểm duyệt của Sand AI hoạt động ở cấp độ hình ảnh cho thấy một hệ thống lọc tinh vi có thể xác định và chặn nội dung trực quan cụ thể. Hệ thống này có khả năng sử dụng công nghệ nhận dạng hình ảnh để phân tích các hình ảnh được tải lên và so sánh chúng với cơ sở dữ liệu nội dung bị cấm. Thực tế là việc đổi tên các tệp hình ảnh không bỏ qua được khối này cho thấy rằng hệ thống không chỉ dựa vào tên tệp mà còn thực sự phân tích dữ liệu hình ảnh.
Bối Cảnh Toàn Cầu Của Kiểm Duyệt AI
Trong khi cách tiếp cận của Trung Quốc đối với kiểm duyệt AI đặc biệt nghiêm ngặt, thì đây không phải là quốc gia duy nhất đang phải vật lộn với vấn đề làm thế nào để quản lý nội dung do AI tạo ra. Tại Hoa Kỳ và Châu Âu, các nhà hoạch định chính sách đang xem xét các quy định để giải quyết các vấn đề như thông tin sai lệch, deepfake và vi phạm bản quyền. Tuy nhiên, các cách tiếp cận và ưu tiên cụ thể khác nhau đáng kể so với ở Trung Quốc.
Vai Trò Của AI Nguồn Mở
Thực tế là Sand AI đã phát hành mô hình Magi-1 của mình dưới dạng nguồn mở đặt ra những câu hỏi thú vị về sự cân bằng giữa đổi mới và kiểm duyệt. Một mặt, AI nguồn mở có thể thúc đẩy đổi mới và hợp tác bằng cách cho phép các nhà nghiên cứu và nhà phát triển tự do truy cập và sửa đổi mã. Mặt khác, nó cũng có thể gây khó khăn hơn trong việc kiểm soát việc sử dụng công nghệ và ngăn chặn nó được sử dụng cho các mục đích xấu.
Tương Lai Của AI Ở Trung Quốc
Tương lai của AI ở Trung Quốc có khả năng được định hình bởi sự căng thẳng đang diễn ra giữa mong muốn của chính phủ trong việc thúc đẩy đổi mới công nghệ và cam kết duy trì kiểm soát xã hội và chính trị. Các công ty AI Trung Quốc sẽ cần phải điều hướng một bối cảnh pháp lý phức tạp và tìm cách phát triển và triển khai công nghệ của họ theo cách vừa sáng tạo vừa tuân thủ các quy định của chính phủ.
Những Hàm Ý Rộng Lớn Hơn
Trường hợp của Sand AI làm nổi bật những hàm ý rộng lớn hơn của kiểm duyệt AI đối với tự do ngôn luận và khả năng tiếp cận thông tin. Khi công nghệ AI trở nên mạnh mẽ và phổ biến hơn, ngày càng quan trọng để xem xét các hàm ý đạo đức và xã hội của việc sử dụng nó và đảm bảo rằng nó không được sử dụng để đàn áp sự bất đồng chính kiến hoặc hạn chế quyền truy cập thông tin.
Phân Tích So Sánh Với Các Nền Tảng Khác
Việc so sánh các hoạt động kiểm duyệt của Sand AI với các hoạt động của Hailuo AI cho thấy rằng có một số khác biệt về mức độ nghiêm ngặt của kiểm duyệt giữa các công ty AI Trung Quốc. Thực tế là Hailuo AI cho phép hình ảnh của Quảng trường Thiên An Môn cho thấy rằng các chính sách kiểm duyệt của nó ít toàn diện hơn so với của Sand AI. Sự khác biệt này có thể phản ánh sự khác biệt trong khả năng chấp nhận rủi ro của các công ty, cách giải thích các quy định của chính phủ hoặc khả năng kỹ thuật của họ.
Tác Động Kinh Tế Của Kiểm Duyệt
Việc kiểm duyệt nội dung do AI tạo ra ở Trung Quốc cũng có thể có những tác động kinh tế. Một mặt, nó có thể bảo vệ các công ty trong nước khỏi sự cạnh tranh từ các công ty nước ngoài không phải tuân theo các yêu cầu kiểm duyệt tương tự. Mặt khác, nó cũng có thể kìm hãm sự đổi mới và hạn chế tiềm năng của các công ty AI Trung Quốc để cạnh tranh trên thị trường toàn cầu.
Thách Thức Của Việc Cân Bằng Đổi Mới Và Kiểm Soát
Chính phủ Trung Quốc phải đối mặt với thách thức cân bằng mong muốn thúc đẩy đổi mới AI với cam kết duy trì kiểm soát xã hội và chính trị. Kiểm duyệt quá nhiều có thể kìm hãm sự đổi mới và hạn chế tiềm năng của các công ty AI Trung Quốc. Kiểm duyệt quá ít có thể dẫn đến sự lan truyền của thông tin sai lệch và sự xói mòn của sự ổn định xã hội và chính trị.
Bối Cảnh AI Toàn Cầu
Bối cảnh AI đang phát triển nhanh chóng, với các công nghệ và ứng dụng mới nổi lên mọi lúc. Trung Quốc là một người chơi lớn trong lĩnh vực AI, nhưng nước này phải đối mặt với những thách thức liên quan đến kiểm duyệt, quyền riêng tư dữ liệu và khả năng tiếp cận tài năng. Tương lai của AI sẽ phụ thuộc vào cách những thách thức này được giải quyết và mức độ mà các quốc gia có thể hợp tác và cạnh tranh một cách công bằng và cởi mở.
Những Cân Nhắc Về Đạo Đức
Việc sử dụng AI đặt ra một số cân nhắc về đạo đức, bao gồm các vấn đề liên quan đến thành kiến, công bằng, minh bạch và trách nhiệm giải trình. Điều quan trọng là phải phát triển các hướng dẫn và tiêu chuẩn đạo đức cho việc phát triển và triển khai AI để đảm bảo rằng nó được sử dụng một cách có trách nhiệm và có lợi.
Tầm Quan Trọng Của Tính Minh Bạch
Tính minh bạch là điều cần thiết để xây dựng niềm tin vào các hệ thống AI. Điều quan trọng là phải hiểu cách các mô hình AI hoạt động và cách chúng đưa ra quyết định. Điều này đòi hỏi phải cung cấp quyền truy cập vào dữ liệu, thuật toán và quy trình ra quyết định. Tính minh bạch có thể giúp xác định và giảm thiểu thành kiến, đảm bảo công bằng và thúc đẩy trách nhiệm giải trình.
Vai Trò Của Giáo Dục
Giáo dục đóng một vai trò quan trọng trong việc chuẩn bị cho các cá nhân và xã hội cho kỷ nguyên AI. Điều quan trọng là phải giáo dục mọi người về công nghệ AI, những lợi ích và rủi ro tiềm ẩn của nó cũng như các hàm ý đạo đức và xã hội của nó. Giáo dục có thể giúp thúc đẩy kiến thức về AI, tư duy phản biện và đổi mới có trách nhiệm.
Tương Lai Của Công Việc
AI có khả năng có tác động đáng kể đến tương lai của công việc. Một số công việc có thể được tự động hóa, trong khi những công việc khác có thể được tạo ra hoặc chuyển đổi. Điều quan trọng là phải chuẩn bị cho người lao động cho những thay đổi này bằng cách cung cấp cho họ các kỹ năng và đào tạo mà họ cần để thành công trong nền kinh tế do AI điều khiển.
Tầm Quan Trọng Của Hợp Tác
Hợp tác là điều cần thiết để giải quyết những thách thức và cơ hội do AI mang lại. Điều này bao gồm sự hợp tác giữa các nhà nghiên cứu, nhà phát triển, nhà hoạch định chính sách và công chúng. Hợp tác có thể giúp đảm bảo rằng AI được phát triển và triển khai theo cách có lợi cho tất cả mọi người.
AI và An Ninh Quốc Gia
AI cũng đang đóng một vai trò ngày càng quan trọng trong an ninh quốc gia. Nó đang được sử dụng cho các ứng dụng như giám sát, thu thập thông tin tình báo và hệ thống vũ khí tự động. Việc sử dụng AI trong an ninh quốc gia đặt ra những câu hỏi phức tạp về đạo đức và chiến lược cần được xem xét cẩn thận.
Sự Cần Thiết Của Quy Định
Việc quy định AI là một vấn đề phức tạp và đang phát triển. Một số người cho rằng AI nên được quy định chặt chẽ để ngăn chặn những tác hại tiềm ẩn, trong khi những người khác cho rằng quy định quá mức có thể kìm hãm sự đổi mới. Điều quan trọng là phải đạt được sự cân bằng giữa thúc đẩy đổi mới và bảo vệ chống lại rủi ro.
AI và Chăm Sóc Sức Khỏe
AI có tiềm năng chuyển đổi chăm sóc sức khỏe theo nhiều cách. Nó có thể được sử dụng để cải thiện chẩn đoán, điều trị và phòng ngừa bệnh tật. AI cũng có thể được sử dụng để cá nhân hóa chăm sóc sức khỏe và làm cho nó dễ tiếp cận và giá cả phải chăng hơn.
AI và Giáo Dục
AI cũng có thể được sử dụng để cải thiện giáo dục. Nó có thể được sử dụng để cá nhân hóa việc học, cung cấp phản hồi và tự động hóa các nhiệm vụ hành chính. AI cũng có thể được sử dụng để tạo ra các công cụ và tài nguyên giáo dục mới.
AI và Môi Trường
AI có thể được sử dụng để giải quyết các thách thức môi trường như biến đổi khí hậu, ô nhiễm và cạn kiệt tài nguyên. Nó có thể được sử dụng để tối ưu hóa tiêu thụ năng lượng, cải thiện thực hành nông nghiệp và theo dõi các điều kiện môi trường.
Sức Mạnh Của AI
AI là một công nghệ mạnh mẽ có tiềm năng chuyển đổi nhiều khía cạnh trong cuộc sống của chúng ta. Điều quan trọng là phải phát triển và triển khai AI một cách có trách nhiệm và đạo đức để đảm bảo rằng nó mang lại lợi ích cho toàn nhân loại. Các hoạt động kiểm duyệt ở Trung Quốc cung cấp một lời nhắc nhở rõ ràng về tiềm năng của AI được sử dụng cho mục đích kiểm soát và đàn áp. Khi AI tiếp tục phát triển, điều quan trọng là phải tham gia vào cuộc đối thoại và tranh luận liên tục về những hàm ý đạo đức của nó và đảm bảo rằng nó được sử dụng để thúc đẩy tự do, công bằng và hạnh phúc của con người. Bản chất nguồn mở của một số mô hình AI mang đến cả cơ hội và thách thức trong vấn đề này. Mặc dù AI nguồn mở có thể thúc đẩy sự đổi mới và hợp tác, nhưng nó cũng gây khó khăn hơn trong việc kiểm soát việc sử dụng công nghệ và ngăn chặn nó được sử dụng cho các mục đích xấu. Thách thức là tìm cách khai thác sức mạnh của AI đồng thời giảm thiểu rủi ro và đảm bảo rằng nó được sử dụng vì lợi ích của tất cả mọi người. Điều này đòi hỏi một cách tiếp cận nhiều mặt bao gồm các hướng dẫn đạo đức, quy định, giáo dục và đối thoại và tranh luận liên tục.
Vai Trò Của Hợp Tác Quốc Tế
Việc phát triển và triển khai AI là những nỗ lực toàn cầu đòi hỏi sự hợp tác quốc tế. Các quốc gia cần làm việc cùng nhau để phát triển các tiêu chuẩn chung, chia sẻ các thực hành tốt nhất và giải quyết các hàm ý đạo đức và xã hội của AI. Hợp tác quốc tế có thể giúp đảm bảo rằng AI được sử dụng để thúc đẩy hòa bình, an ninh và thịnh vượng cho tất cả mọi người.
Kết Luận
Câu chuyện về Sand AI và các hoạt động kiểm duyệt của nó là một hình ảnh thu nhỏ của những thách thức và cơ hội lớn hơn do AI mang lại. Khi AI tiếp tục phát triển và trở nên phổ biến hơn, điều cần thiết là phải giải quyết các hàm ý đạo đức, xã hội và chính trị của việc sử dụng nó. Tương lai của AI sẽ phụ thuộc vào khả năng khai thác sức mạnh của nó vì lợi ích đồng thời giảm thiểu rủi ro và đảm bảo rằng nó được sử dụng để thúc đẩy tự do, công bằng và hạnh phúc của con người. Cuộc đối thoại và tranh luận liên tục về AI là điều cần thiết để định hình tương lai của nó và đảm bảo rằng nó được sử dụng để tạo ra một thế giới tốt đẹp hơn cho tất cả mọi người.