Chiến lược chống lại Deepfake AI

Động cơ của Deepfake: Phân tích Kỹ thuật

Trọng tâm của deepfake nằm ở các mô hình tạo sinh, trí tuệ nhân tạo có khả năng học hỏi từ các bộ dữ liệu khổng lồ và tạo ra hình ảnh, video và âm thanh sống động như thật. Trong những năm gần đây, mạng đối nghịch tạo sinh (GAN) đã phát triển thành các mô hình khuếch tán, vốn thậm chí còn mạnh mẽ hơn. Do đó, cần phải có một phân tích kỹ thuật về các công cụ tạo sinh này để tạo ra một khuôn khổ phòng ngừa mạnh mẽ.

Trò chơi Đối nghịch: Mạng Đối Nghịch Tạo Sinh (GAN)

GAN bao gồm hai mạng nơ-ron: một trình tạo và một trình phân biệt. Nhiệm vụ của trình tạo là tạo ra dữ liệu tổng hợp bắt chước dữ liệu thế giới thực. Nó bắt đầu với một đầu vào ngẫu nhiên (thường được gọi là vectơ tiềm ẩn) và cố gắng biến nó thành một đầu ra mạch lạc. Mặt khác, trình phân biệt hoạt động như một bộ phân loại, đánh giá dữ liệu để xác định xem nó là thật (từ một bộ dữ liệu huấn luyện thực) hay giả mạo (do trình tạo tạo ra).

Quá trình huấn luyện liên quan đến một vòng phản hồi liên tục giữa hai mạng, tương tự như một trò chơi có tổng bằng không. Trình tạo tạo ra một hình ảnh giả mạo và chuyển nó cho trình phân biệt, trình phân biệt này cũng nhận được hình ảnh thực từ bộ huấn luyện. Sau đó, trình phân biệt dự đoán tính xác thực của mỗi hình ảnh. Nếu trình phân biệt xác định chính xác đầu ra của trình tạo là giả mạo, nó sẽ cung cấp phản hồi. Trình tạo sử dụng phản hồi này thông qua lan truyền ngược để điều chỉnh các tham số bên trong của nó để tạo ra một hình ảnh thuyết phục hơn trong lần lặp tiếp theo. Đồng thời, trình phân biệt điều chỉnh các tham số của riêng nó để phát hiện ra các hàng giả tốt hơn. Sự cạnh tranh đối nghịch này tiếp tục cho đến khi hệ thống đạt đến điểm cân bằng, đôi khi được gọi là cân bằng Nash, tại đó các đầu ra của trình tạo trở nên chân thực đến mức trình phân biệt không còn có thể phân biệt chúng một cách đáng tin cậy với dữ liệu thực và đoán với độ chính xác khoảng 50%.

GAN đã chứng minh khả năng tạo ra các phương tiện tổng hợp một cách hiệu quả và là nền tảng cho nhiều mô hình deepfake có ảnh hưởng. Các kiến trúc như GAN tích chập sâu (DCGAN) đã giới thiệu những cải tiến quan trọng bằng cách thay thế các lớp gộp và sử dụng chuẩn hóa lô để cải thiện độ ổn định. StyleGAN của NVIDIA và những người kế nhiệm StyleGAN2 và StyleGAN3 của nó đã đạt được độ chân thực về ảnh chưa từng có trong việc tạo khuôn mặt bằng cách khắc phục các tạo tác đặc trưng và cải tiến kiến trúc mô hình. Các biến thể khác như CycleGAN đã thực hiện các tác vụ chuyển đổi phong cách và do đó đã được sử dụng rộng rãi trong các ứng dụng như Face App để thay đổi tuổi tác của một người.

Mặc dù GAN mạnh mẽ, nhưng chúng được biết đến là khó huấn luyện. Sự cân bằng tinh tế giữa trình tạo và trình phân biệt có thể dễ dàng bị phá vỡ, dẫn đến huấn luyện không ổn định, hội tụ chậm hoặc một chế độ lỗi quan trọng được gọi là “sụp đổ chế độ”. Sụp đổ chế độ xảy ra khi trình tạo phát hiện ra một điểm yếu trong trình phân biệt và khai thác nó bằng cách chỉ tạo ra một số loại đầu ra hạn chế mà nó biết có thể đánh lừa trình phân biệt, do đó không nắm bắt được sự đa dạng thực sự của dữ liệu huấn luyện. Những thách thức vốn có này, cùng với các tạo tác tinh vi mà chúng thường tạo ra, đã trở thành mục tiêu chính của các hệ thống phát hiện deepfake ban đầu.

Đảo ngược sự Hỗn loạn: Mô hình Khuếch tán

Trong AI tạo sinh, công nghệ mới nhất đã chuyển một cách quyết định sang một lớp mô hình mới: mô hình khuếch tán. Lấy cảm hứng từ các khái niệm của nhiệt động lực học mất cân bằng, các mô hình khuếch tán hoạt động dựa trên các nguyên tắc hoàn toàn khác với sự cạnh tranh đối nghịch của GAN. Chúng là các mô hình tạo sinh xác suất có thể tạo ra dữ liệu chất lượng và đa dạng đặc biệt cao bằng cách học cách đảo ngược quá trình phá hủy dần dần.

Cơ chế của một mô hình khuếch tán là một quá trình hai pha:

1. Quá trình khuếch tán chuyển tiếp: Giai đoạn này có hệ thống và tăng dần thêm một lượng nhỏ nhiễu Gaussian vào một hình ảnh trong một số bước thời gian (ví dụ: T bước). Đây là một quá trình chuỗi Markov trong đó mỗi bước có điều kiện trên bước trước đó, từ từ làm giảm chất lượng hình ảnh cho đến khi, ở bước thời gian cuối cùng T, nó trở nên không thể phân biệt được với nhiễu phi cấu trúc thuần túy.

2. Quá trình khử nhiễu ngược: Chìa khóa của mô hình là một mạng nơ-ron (thường có kiến trúc U-Net) được huấn luyện để đảo ngược quá trình này. Nó học cách dự đoán nhiễu được thêm vào ở mỗi bước thời gian trong quá trình chuyển tiếp và trừ nó đi. Sau khi được huấn luyện, mô hình có thể tạo ra hình ảnh chất lượng cao mới bằng cách bắt đầu với một mẫu nhiễu ngẫu nhiên và lặp đi lặp lại áp dụng hàm “khử nhiễu” đã học này để xử lý ngược lại các bước thời gian, chuyển đổi sự hỗn loạn thành một mẫu mạch lạc từ phân phối dữ liệu gốc.

Quá trình tinh chỉnh lặp đi lặp lại này cho phép các mô hình khuếch tán đạt được mức độ chân thực và đa dạng về ảnh vượt trội so với GAN tốt nhất hoặc thậm chí tốt hơn. Quá trình huấn luyện của chúng cũng ổn định hơn nhiều so với GAN, tránh các vấn đề như sụp đổ chế độ và tạo ra đầu ra đáng tin cậy và đa dạng hơn. Ưu điểm kỹ thuật này đã khiến các mô hình khuếch tán trở thành nền tảng của các công cụ AI tạo sinh nổi bật và mạnh mẽ nhất hiện nay, bao gồm các mô hình chuyển văn bản thành hình ảnh như DALL-E 2 của OpenAI, Imagen của Google và Stable Diffusion của Stability AI, cũng như các mô hình chuyển văn bản thành video như Sora của OpenAI. Tính sẵn có rộng rãi và chất lượng đầu ra vượt trội của các mô hình này đã nâng cấp đáng kể mối đe dọa deepfake.

Phương pháp Hoạt động

Cho dù là GAN hay mô hình khuếch tán, các động cơ tạo sinh cơ bản đều được áp dụng thông qua một số kỹ thuật cụ thể để tạo ra video deepfake. Các phương pháp này xử lý các khía cạnh khác nhau của video mục tiêu để đạt được hiệu ứng lừa dối mong muốn.

• Diễn lại: Kỹ thuật này chuyển biểu cảm khuôn mặt, chuyển động đầu và các động tác liên quan đến lời nói của một nhân vật nguồn sang đối tượng mục tiêu trong một video. Quá trình này thường bao gồm ba bước chính: đầu tiên, theo dõi các đặc điểm khuôn mặt trong cả video nguồn và video mục tiêu; thứ hai, căn chỉnh các đặc điểm này với một mô hình khuôn mặt 3D chung bằng cách sử dụng thước đo nhất quán; và thứ ba, chuyển các biểu cảm từ nguồn sang mục tiêu, sau đó là các tinh chỉnh tiếp theo để tăng cường tính chân thực và nhất quán.

• Đồng bộ hóa lời nói: Các kỹ thuật deepfake đồng bộ hóa lời nói chuyên giải quyết vấn đề lời nói, chủ yếu sử dụng đầu vào âm thanh để tạo ra các chuyển động miệng sống động như thật. Âm thanh được chuyển đổi thành các hình dạng và kết cấu miệng động, sau đó được cẩn thận khớp và trộn lẫn với video mục tiêu để tạo ra ảo giác rằng nhân vật mục tiêu đang nói âm thanh đầu vào.

• Tổng hợp dựa trên Văn bản: Phương pháp tinh vi cao này sửa đổi video dựa trên kịch bản văn bản. Nó hoạt động bằng cách phân tích văn bản thành các âm vị cấu thành (các đơn vị âm thanh) và các thị giác vị (các biểu diễn trực quan của âm thanh lời nói). Sau đó, chúng được khớp với các chuỗi tương ứng trong video nguồn và các tham số của mô hình đầu 3D được sử dụng để tạo và làm mịn các chuyển động môi để khớp với văn bản mới, cho phép chỉnh sửa từng chữ một những gì nhân vật dường như đang nói.

Sự phát triển công nghệ từ GAN sang mô hình khuếch tán không chỉ là một cải tiến dần dần; đó là một sự thay đổi mô hình về cơ bản định hình lại bối cảnh chiến lược phòng ngừa deepfake. GAN, mặc dù mạnh mẽ, nhưng có những điểm yếu kiến trúc đã biết, chẳng hạn như huấn luyện không ổn định và sụp đổ chế độ, thường dẫn đến các tạo tác có thể dự đoán và phát hiện được trong miền tần số hình ảnh. Do đó, cả một thế hệ công cụ phát hiện đã được xây dựng đặc biệt để xác định các dấu vân tay dành riêng cho GAN này. Tuy nhiên, các mô hình khuếch tán ổn định hơn trong quá trình huấn luyện và tạo ra đầu ra đa dạng hơn, chân thực hơn và khớp với thống kê của hình ảnh thực, do đó không có nhiều nhược điểm rõ ràng mà những người tiền nhiệm của chúng có.

Do đó, một phần lớn cơ sở hạ tầng phát hiện deepfake hiện có đang nhanh chóng bị lỗi thời. Các nghiên cứu đã chỉ ra rằng các bộ phát hiện được huấn luyện trên hình ảnh do GAN tạo ra phải chịu “sự suy giảm hiệu suất nghiêm trọng” khi được áp dụng cho nội dung từ mô hình khuếch tán. Điều đáng chú ý là các bộ phát hiện được huấn luyện trên hình ảnh mô hình khuếch tán có thể xác định thành công nội dung do GAN tạo ra nhưng không phải ngược lại, cho thấy rằng mô hình khuếch tán đại diện cho một lớp hàng giả phức tạp hơn và thách thức hơn. Trên thực tế, điều này đã thiết lập lại một cách hiệu quả cuộc chạy đua vũ trang công nghệ, đòi hỏi phải thiết kế lại các chiến lược phòng thủ để giải quyết các đặc điểm độc đáo và tinh tế hơn của phương tiện truyền thông do khuếch tán tạo ra.

Hơn nữa, bản chất “hộp đen” của các mô hình tạo sinh này càng làm tăng thêm sự phức tạp của các nỗ lực phòng ngừa nguồn. Cả GAN và mô hình khuếch tán đều hoạt động theo cách không được giám sát hoặc bán giám sát, học cách bắt chước phân phối thống kê của một bộ dữ liệu mà không cần các nhãn ngữ nghĩa rõ ràng. Thay vì học “khuôn mặt là gì” theo cách mà con người có thể hiểu được, chúng học “những mẫu pixel nào có thể có trong một bộ dữ liệu khuôn mặt”. Điều này khiến việc lập trình các ràng buộc trực tiếp vào quá trình tạo sinh trở nên cực kỳ khó khăn (ví dụ: “không tạo ra hình ảnh có hại”). Mô hình chỉ đơn thuần tối ưu hóa một hàm toán học: hoặc là đánh lừa trình phân biệt, hoặc là đảo ngược quá trình nhiễu. Điều này có nghĩa là phòng ngừa không thể dựa vào việc quản lý các thuật toán cốt lõi từ bên trong. Các can thiệp khả thi nhất phải xảy ra trước khi tạo (bằng cách kiểm soát dữ liệu huấn luyện) hoặc sau khi tạo (thông qua phát hiện, hình mờ và xuất xứ), vì hành vi tạo ra bản thân nó vốn có tính kháng cự đối với quản trị trực tiếp.

Phân tích So sánh về Động cơ Tạo sinh

Hiểu những khác biệt chiến lược giữa GAN và mô hình khuếch tán là rất quan trọng đối với bất kỳ bên liên quan nào, từ các nhà hoạch định chính sách đến các quan chức an ninh công ty. Sự chuyển đổi từ công nghệ thống trị của người trước sang người sau có những tác động sâu sắc đến độ khó phát hiện, khả năng lừa dối và bối cảnh mối đe dọa tổng thể.

Hệ thống Miễn dịch Kỹ thuật số: Phân tích So sánh về Phương pháp Phát hiện

Để đối phó với sự gia tăng của phương tiện truyền thông tổng hợp, một lĩnh vực đa dạng về các phương pháp phát hiện đã xuất hiện, tạo thành một “hệ thống miễn dịch kỹ thuật số” non trẻ. Các kỹ thuật này bao gồm từ phân tích pháp y về tạo tác kỹ thuật số đến các cách tiếp cận mới để dò tìm các tín hiệu sinh học tiềm ẩn. Tuy nhiên, hiệu quả của hệ thống miễn dịch này liên tục bị thách thức bởi sự phát triển nhanh chóng của các mô hình tạo sinh và các cuộc tấn công đối nghịch được thiết kế để trốn tránh phát hiện. Cuộc chiến liên tục giữa tạo và phát hiện là một nghịch lý “Nữ hoàng Đỏ”, trong đó những người phòng thủ phải liên tục đổi mới để duy trì hiện trạng.

Phân tích Pháp y về Tạo tác Kỹ thuật số

Danh mục được thiết lập tốt nhất về phát hiện deepfake liên quan đến phân tích pháp y về tạo tác kỹ thuật số, các khuyết tật và sự không nhất quán tinh tế còn lại trong quá trình tạo sinh. Những khuyết tật và sự không nhất quán này thường khó xác định và không thể phát hiện bằng mắt thường, nhưng có thể được xác định bằng các thuật toán chuyên dụng.

• Sự không nhất quán về Hình ảnh và Giải phẫu: Các mô hình tạo sinh ban đầu, và thậm chí một số mô hình hiện tại, phải vật lộn để tái tạo hoàn hảo sự phức tạp của giải phẫu con người và các đặc tính vật lý của thế giới thực. Các phương pháp phát hiện khai thác những thiếu sót này bằng cách phân tích các điểm bất thường cụ thể trong phương tiện truyền thông. Chúng bao gồm các kiểu chớp mắt không tự nhiên, trong đó chớp mắt quá nhiều, quá ít hoặc hoàn toàn không có (thường là do thiếu hình ảnh mắt nhắm trong dữ liệu huấn luyện), chuyển động mắt robot hoặc không nhất quán và môi hoặc hình dạng miệng bị hạn chế không bao giờ hiển thị răng dưới. Các chỉ số khác là thiếu những thay đổi tinh tế trong lỗ mũi trong khi nói, ánh sáng không nhất quán và các điểm không nhất quán trong bóng đổ không khớp với môi trường xung quanh và các phản xạ sai sót hoặc bị thiếu trên kính hoặc các bề mặt phản chiếu khác.

• Phân tích Pixel và Nén: Các kỹ thuật này hoạt động ở cấp độ thấp hơn, kiểm tra cấu trúc kỹ thuật số của hình ảnh hoặc video. Phân tích Cấp độ Lỗi (ELA) là một phương pháp xác định các vùng trong một hình ảnh có các mức nén khác nhau. Vì các vùng bị thao túng thường được lưu lại hoặc nén lại, chúng có thể hiển thị các cấp độ lỗi khác với các phần ban đầu của hình ảnh, do đó làm nổi bật hàng giả. Liên quan chặt chẽ đến điều này là Phân tích Cạnh và Trộn, trong đó kiểm tra cẩn thận ranh giới và đường viền giữa các yếu tố tổng hợp (ví dụ: một khuôn mặt được hoán đổi) và nền thực. Các vùng này có thể bộc lộ sự thao túng thông qua các dấu hiệu như pixel hóa không nhất quán, độ sắc nét hoặc độ mờ không tự nhiên và các sai khác tinh tế về màu sắc và kết cấu.

• Phân tích Miền Tần số: Thay vì phân tích trực tiếp các pixel, các phương pháp này chuyển đổi hình ảnh thành các thành phần tần số của nó để tìm các mẫu không tự nhiên. Vì các trình tạo GAN thường sử dụng kiến trúc được lấy mẫu quá mức, chúng thường để lại các tạo tác phổ đặc trưng, tạo ra các mẫu tuần hoàn không có trong hình ảnh thực. Mặc dù điều này hoạt động tốt đối với hầu hết các GAN, nhưng cách tiếp cận này ít thành công hơn với các mô hình khuếch tán, tạo ra hình ảnh có cấu hình tần số tự nhiên hơn. Tuy nhiên, một số nghiên cứu đã chỉ ra rằng các mô hình khuếch tán vẫn có thể hiển thị sự không khớp có thể phát hiện được trong các chi tiết tần số cao so với hình ảnh thực, tạo ra một lộ trình tiềm năng để phát hiện.

Phân tích Tín hiệu Sinh học: “Nhịp tim” của Deepfake

Một lĩnh vực mới hơn và đầy hứa hẹn trong phát hiện deepfake liên quan đến việc phân tích sự hiện diện của các tín hiệu sinh học thực trong phương tiện truyền thông. Tiền đề cốt lõi là mặc dù các mô hình tạo sinh ngày càng giỏi trong việc sao chép ngoại hình trực quan, nhưng chúng không thể mô phỏng các quá trình sinh lý cơ bản của một người sống.

Một kỹ thuật chính trong lĩnh vực này là quang phổ thể tích từ xa (rPPG). Kỹ thuật này sử dụng máy ảnh tiêu chuẩn để phát hiện những thay đổi nhỏ, tuần hoàn về màu da xảy ra khi tim bơm máu vào các mạch máu nông trên khuôn mặt. Trong một video thực về một người, điều này tạo ra một tín hiệu xung yếu nhưng nhất quán. Trong một deepfake, tín hiệu này thường không tồn tại, bị bóp méo hoặc không nhất quán.

Một phương pháp phát hiện bao gồm nhiều bước:

1. Trích xuất tín hiệu: Tín hiệu rPPG được trích xuất từ nhiều vùng quan tâm (ROI) trên khuôn mặt của người trong video.

2. Xử lý tín hiệu: Tín hiệu thô được làm sạch nhiễu, sau đó được xử lý (thường sử dụng Biến đổi Fourier nhanh (FFT)) để phân tích các đặc điểm miền thời gian và miền phổ của nó. FFT có thể tiết lộ tần số chiếm ưu thế của tín hiệu, tương ứng với nhịp tim.

3. Phân loại: Một bộ phân loại (ví dụ: CNN) được huấn luyện để phân biệt giữa các kiểu nhịp điệu mạch lạc của nhịp tim thực và các tín hiệu ồn ào, không nhất quán hoặc không tồn tại được tìm thấy trong video giả mạo.

Trong môi trường thí nghiệm được kiểm soát, phương pháp này đã đạt được độ chính xác phát hiện rất cao, với một số nghiên cứu báo cáo độ chính xác lên đến 99,22%. Tuy nhiên, có một lỗ hổng quan trọng trong phương pháp này. Các kỹ thuật deepfake nâng cao hơn (đặc biệt là những kỹ thuật liên quan đến diễn lại) có thể thừa hưởng tín hiệu sinh lý từ video nguồn hoặc video “điều khiển”. Điều này có nghĩa là deepfake có thể hiển thị tín hiệu rPPG hoàn toàn bình thường và nhất quán. Nó chỉ đơn giản là nhịp tim của diễn viên nguồn, chứ không phải của nhân vật được miêu tả trong video cuối cùng. Phát hiện này thách thức giả định đơn giản rằng deepfake thiếu tín hiệu sinh lý và nâng cao rào cản cho việc phát hiện. Các phương pháp trong tương lai phải vượt ra ngoài việc chỉ kiểm tra sự tồn tại của xung và nên xác thực tính nhất quán sinh lý và các đặc điểm cụ thể của danh tính của tín hiệu đó.

Cuộc Chạy Đua Vũ Trang Phát Hiện: Những Thách Thức của Mô hình Khuếch tán và Các Cuộc Tấn Công Đối Nghịch

Lĩnh vực phát hiện deepfake được xác định bằng một cuộc chạy đua vũ trang không ngừng nghỉ. Ngay khi một phương pháp phát hiện đáng tin cậy được phát triển, các mô hình tạo sinh sẽ liên tục phát triển để vượt qua nó. Sự trỗi dậy gần đây của mô hình khuếch tán và việc sử dụng các cuộc tấn công đối nghịch là hai trong số những thách thức quan trọng nhất đối với các bộ phát hiện hiện đại.

• Thất bại Tổng quát: Một điểm yếu chính của nhiều mô hình phát hiện là khả năng không tổng quát hóa. Một bộ phát hiện được huấn luyện để xác định hàng giả từ một mô hình tạo sinh cụ thể (ví dụ: StyleGAN2) hoặc trên một bộ dữ liệu cụ thể thường thất bại khi đối mặt với các kỹ thuật thao túng mới hoặc các miền dữ liệu khác nhau. Mô hình khuếch tán làm cho vấn đề này trở nên đặc biệt nghiêm trọng. Vì các đầu ra của chúng chứa ít tạo tác rõ ràng hơn, đa dạng hơn và khớp với các đặc tính thống kê của hình ảnh thực chặt chẽ hơn, chúng có thể trốn tránh hiệu quả các bộ phát hiện được thiết kế cho