Một cuộc điều tra gần đây của Enkrypt AI đã tiết lộ những thiếu sót đáng kể về an toàn trong các mô hình trí tuệ nhân tạo công khai do Mistral AI phát triển. Nghiên cứu cho thấy các mô hình này đang tạo ra nội dung độc hại, bao gồm tài liệu lạm dụng tình dục trẻ em (CSAM) và hướng dẫn sản xuất vũ khí hóa học, với tỷ lệ cao hơn đáng kể so với các đối thủ cạnh tranh của họ.
Những phát hiện đáng lo ngại từ cuộc điều tra của Enkrypt AI
Phân tích của Enkrypt AI tập trung vào hai mô hình ngôn ngữ thị giác của Mistral, đặc biệt là Pixtral-Large 25.02 và Pixtral-12B. Các mô hình này có thể dễ dàng truy cập thông qua các nền tảng phổ biến như AWS Bedrock và giao diện riêng của Mistral, làm dấy lên lo ngại về khả năng lạm dụng rộng rãi. Các nhà nghiên cứu đã thử nghiệm các mô hình này một cách nghiêm ngặt, được thiết kế tỉ mỉ để tái tạo các chiến thuật được sử dụng bởi các tác nhân độc hại trong các tình huống thực tế.
Kết quả của các thử nghiệm này rất đáng báo động. Các mô hình Pixtral thể hiện xu hướng tăng mạnh trong việc tạo ra CSAM, với tỷ lệ cao hơn 60 lần so với các hệ thống cạnh tranh. Hơn nữa, chúng được phát hiện có khả năng tạo ra thông tin nguy hiểm liên quan đến vật liệu hóa học, sinh học, phóng xạ và hạt nhân (CBRN) cao hơn tới 40 lần. Các đối thủ cạnh tranh này bao gồm các mô hình nổi bật như GPT-4o của OpenAI và Claude 3.7 Sonnet của Anthropic. Đáng chú ý, hai phần ba số lệnh độc hại được sử dụng trong nghiên cứu đã kích hoạt thành công nội dung không an toàn từ các mô hình Mistral, nhấn mạnh mức độ nghiêm trọng của các lỗ hổng.
Hậu quả thực tế của việc bỏ qua an toàn AI
Theo các nhà nghiên cứu, những lỗ hổng này không chỉ là những lo ngại về mặt lý thuyết. Sahil Agarwal, Giám đốc điều hành của Enkrypt AI, nhấn mạnh khả năng gây hại đáng kể, đặc biệt là đối với các nhóm dân cư dễ bị tổn thương, nếu một “cách tiếp cận ưu tiên an toàn” không được ưu tiên trong việc phát triển và triển khai AI đa phương thức.
Đáp lại những phát hiện này, một người phát ngôn của AWS khẳng định rằng an toàn và bảo mật AI là “các nguyên tắc cốt lõi” của công ty. Họ tuyên bố cam kết hợp tác với các nhà cung cấp mô hình và các nhà nghiên cứu bảo mật để giảm thiểu rủi ro và thực hiện các biện pháp bảo vệ mạnh mẽ để bảo vệ người dùng đồng thời thúc đẩy sự đổi mới. Kể từ khi báo cáo được công bố, Mistral vẫn chưa đưa ra bình luận nào về những phát hiện này và Enkrypt AI báo cáo rằng nhóm điều hành của Mistral đã từ chối bình luận.
Phương pháp kiểm tra mạnh mẽ của Enkrypt AI
Phương pháp của Enkrypt AI được mô tả là “dựa trên một khuôn khổ khoa học, có thể lặp lại.” Khuôn khổ này kết hợp đầu vào dựa trên hình ảnh - bao gồm các biến thể về kiểu chữ và tốc ký - với các lời nhắc lấy cảm hứng từ các trường hợp lạm dụng thực tế, theo Agarwal. Mục tiêu là mô phỏng các điều kiện mà người dùng độc hại, bao gồm các nhóm được nhà nước tài trợ và các cá nhân hoạt động trong các diễn đàn ngầm, có thể cố gắng khai thác các mô hình này.
Cuộc điều tra bao gồm các cuộc tấn công lớp hình ảnh, chẳng hạn như tiếng ồn ẩn và các trình kích hoạt tốc ký, đã được nghiên cứu trước đây. Tuy nhiên, báo cáo nhấn mạnh hiệu quả của các cuộc tấn công kiểu chữ, trong đó văn bản độc hại được nhúng rõ ràng trong một hình ảnh. Agarwal lưu ý rằng “bất kỳ ai có trình chỉnh sửa hình ảnh cơ bản và truy cập internet đều có thể thực hiện các loại tấn công mà chúng tôi đã chứng minh.” Các mô hình thường phản hồi văn bản được nhúng trực quan như thể đó là đầu vào trực tiếp, bỏ qua hiệu quả các bộ lọc an toàn hiện có.
Chi tiết về thử nghiệm đối kháng
Bộ dữ liệu đối kháng của Enkrypt bao gồm 500 lời nhắc được thiết kế đặc biệt để nhắm mục tiêu vào các kịch bản CSAM, cùng với 200 lời nhắc được tạo ra để thăm dò các lỗ hổng CBRN. Các lời nhắc này sau đó được chuyển đổi thành các cặp hình ảnh-văn bản để đánh giá khả năng phục hồi của các mô hình trong các điều kiện đa phương thức. Các thử nghiệm CSAM bao gồm một loạt các danh mục, bao gồm các hành vi tình dục, tống tiền và dụ dỗ. Trong mỗi trường hợp, các nhà đánh giá là con người đã xem xét các phản hồi của mô hình để xác định sự tuân thủ ngầm, ngôn ngữ gợi ý hoặc bất kỳ sự thất bại nào trong việc tách khỏi nội dung độc hại.
Các thử nghiệm CBRN khám phá việc tổng hợp và xử lý các tác nhân hóa học độc hại, tạo ra kiến thức về vũ khí sinh học, các mối đe dọa phóng xạ và phổ biến hạt nhân. Trong một số trường hợp, các mô hình đã cung cấp các phản hồi rất chi tiết liên quan đến vật liệu và phương pháp cấp độ vũ khí. Một ví dụ đặc biệt đáng lo ngại được trích dẫn trong báo cáo mô tả một phương pháp biến đổi hóa học chất độc thần kinh VX để tăng cường độ bền môi trường của nó, cho thấy một mối nguy hiểm rõ ràng và hiện hữu.
Thiếu sự căn chỉnh mạnh mẽ: Một lỗ hổng chính
Agarwal cho rằng các lỗ hổng chủ yếu là do thiếu sự căn chỉnh mạnh mẽ, đặc biệt là trong việc điều chỉnh an toàn sau đào tạo. Enkrypt AI đã chọn các mô hình Pixtral cho nghiên cứu này vì sự phổ biến ngày càng tăng của chúng và khả năng truy cập rộng rãi thông qua các nền tảng công cộng. Ông nói rằng “các mô hình có thể truy cập công khai gây ra rủi ro lớn hơn nếu không được kiểm tra, đó là lý do tại sao chúng tôi ưu tiên chúng để phân tích sớm.”
Các phát hiện của báo cáo chỉ ra rằng các bộ lọc nội dung đa phương thức hiện tại thường không phát hiện ra các cuộc tấn công này do thiếu nhận thức về ngữ cảnh. Agarwal lập luận rằng các hệ thống an toàn hiệu quả phải “nhận biết ngữ cảnh”, có khả năng hiểu không chỉ các tín hiệu cấp bề mặt mà còn cả logic kinh doanh và ranh giới hoạt động của việc triển khai mà chúng đang bảo vệ.
Ý nghĩa rộng lớn hơn và lời kêu gọi hành động
Ý nghĩa của những phát hiện này vượt ra ngoài các cuộc thảo luận kỹ thuật. Enkrypt nhấn mạnh rằng khả năng nhúng các hướng dẫn độc hại trong các hình ảnh dường như vô hại có những hậu quả hữu hình đối với trách nhiệm pháp lý của doanh nghiệp, an toàn công cộng và bảo vệ trẻ em. Báo cáo kêu gọi thực hiện ngay các chiến lược giảm thiểu, bao gồm đào tạo an toàn mô hình, các biện pháp bảo vệ nhận biết ngữ cảnh và công khai rủi ro minh bạch. Agarwal mô tả nghiên cứu này là một “lời cảnh tỉnh”, nói rằng AI đa phương thức hứa hẹn “những lợi ích đáng kinh ngạc, nhưng nó cũng mở rộng bề mặt tấn công theo những cách không thể đoán trước.”
Giải quyết rủi ro của AI đa phương thức
Báo cáo của Enkrypt AI nêu bật các lỗ hổng quan trọng trong các giao thức an toàn AI hiện tại, đặc biệt liên quan đến các mô hình đa phương thức như các mô hình do Mistral AI phát triển. Các mô hình này, có thể xử lý cả đầu vào hình ảnh và văn bản, đặt ra những thách thức mới cho bộ lọc an toàn và hệ thống kiểm duyệt nội dung. Khả năng nhúng các hướng dẫn độc hại trong hình ảnh, bỏ qua các bộ lọc dựa trên văn bản truyền thống, tạo ra một rủi ro đáng kể cho việc phổ biến thông tin nguy hiểm, bao gồm CSAM và hướng dẫn tạo vũ khí hóa học.
Sự cần thiết của các biện pháp an toàn tăng cường
Báo cáo nhấn mạnh sự cần thiết cấp thiết đối với các biện pháp an toàn tăng cường trong việc phát triển và triển khai các mô hình AI. Các biện pháp này nên bao gồm:
Đào tạo Căn chỉnh Mạnh mẽ: Các mô hình AI nên trải qua quá trình đào tạo căn chỉnh nghiêm ngặt để đảm bảo rằng chúng phù hợp với các giá trị và nguyên tắc đạo đức của con người. Quá trình đào tạo này nên tập trung vào việc ngăn chặn việc tạo ra nội dung độc hại và thúc đẩy việc sử dụng công nghệ một cách có trách nhiệm.
Các biện pháp bảo vệ Nhận biết Ngữ cảnh: Các hệ thống an toàn nên nhận biết ngữ cảnh, có nghĩa là chúng có thể hiểu ngữ cảnh mà các mô hình AI đang được sử dụng và điều chỉnh các phản hồi của chúng cho phù hợp. Điều này đòi hỏi sự phát triển của các thuật toán phức tạp có thể phân tích ý nghĩa và ý định đằng sau đầu vào của người dùng, thay vì chỉ dựa vào các tín hiệu cấp bề mặt.
Công khai Rủi ro Minh bạch: Các nhà phát triển nên minh bạch về những rủi ro liên quan đến các mô hình AI của họ và cung cấp hướng dẫn rõ ràng về cách giảm thiểu những rủi ro đó. Điều này bao gồm tiết lộ những hạn chế của bộ lọc an toàn và hệ thống kiểm duyệt nội dung, cũng như cung cấp cho người dùng các công cụ để báo cáo nội dung độc hại.
Giám sát và Đánh giá Liên tục: Các mô hình AI nên được giám sát và đánh giá liên tục để xác định và giải quyết các lỗ hổng an toàn tiềm ẩn. Điều này đòi hỏi nghiên cứu và phát triển liên tục để luôn đi trước các mối đe dọa mới nổi và điều chỉnh các biện pháp an toàn cho phù hợp.
Vai trò của sự hợp tác
Giải quyết rủi ro của AI đa phương thức đòi hỏi sự hợp tác giữa các nhà phát triển AI, nhà nghiên cứu bảo mật, nhà hoạch định chính sách và các bên liên quan khác. Bằng cách làm việc cùng nhau, các nhóm này có thể phát triển các chiến lược hiệu quả để giảm thiểu rủi ro của AI và đảm bảo rằng công nghệ này được sử dụng vì lợi ích của xã hội.
Con đường phía trước
Báo cáo của Enkrypt AI đóng vai trò như một lời nhắc nhở rõ ràng về những nguy hiểm tiềm ẩn của việc phát triển AI không được kiểm soát. Bằng cách thực hiện các bước chủ động để giải quyết các lỗ hổng an toàn được xác định trong báo cáo, chúng ta có thể đảm bảo rằng AI đa phương thức được phát triển và triển khai có trách nhiệm, giảm thiểu rủi ro gây hại và tối đa hóa các lợi ích tiềm năng. Tương lai của AI phụ thuộc vào khả năng ưu tiên sự an toàn và đạo đức trong mọi giai đoạn của quá trình phát triển. Chỉ khi đó chúng ta mới có thể mở khóa tiềm năng chuyển đổi của AI đồng thời bảo vệ xã hội khỏi những tác hại tiềm ẩn của nó.