Google DeepMind ra mắt Gemma 3n: AI đột phá

Thách thức của AI đa phương thức trên thiết bị

Một trong những rào cản lớn nhất trong nỗ lực này là cung cấp AI đa phương thức chất lượng cao trong môi trường hạn chế tài nguyên của các thiết bị di động. Không giống như các hệ thống dựa trên đám mây, vốn được hưởng lợi từ sức mạnh tính toán rộng lớn, các mô hình trên thiết bị phải hoạt động với những hạn chế nghiêm ngặt về RAM và khả năng xử lý. AI đa phương thức, bao gồm khả năng giải thích văn bản, hình ảnh, âm thanh và video, thường yêu cầu các mô hình lớn có thể áp đảo hầu hết các thiết bị di động. Hơn nữa, sự phụ thuộc vào đám mây gây ra độ trễ và lo ngại về quyền riêng tư, nhấn mạnh sự cần thiết của các mô hình có khả năng chạy cục bộ mà không ảnh hưởng đến hiệu suất.

Gemma 3n: Bước tiến vượt bậc trong AI di động

Để giải quyết những thách thức này, Google và Google DeepMind đã giới thiệu Gemma 3n, một mô hình AI đột phá được thiết kế đặc biệt để triển khai ưu tiên thiết bị di động. Gemma 3n được tối ưu hóa cho hiệu suất trên các nền tảng Android và Chrome, đồng thời đóng vai trò là nền tảng cho phiên bản tiếp theo của Gemini Nano. Sự đổi mới này thể hiện một bước tiến đáng kể, mang lại khả năng AI đa phương thức cho các thiết bị có dung lượng bộ nhớ nhỏ hơn nhiều trong khi vẫn duy trì thời gian phản hồi theo thời gian thực. Đây cũng là mô hình mở đầu tiên được xây dựng trên cơ sở hạ tầng dùng chung này, cung cấp cho các nhà phát triển quyền truy cập ngay lập tức để thử nghiệm.

Nhúng theo lớp (PLE): Một sự đổi mới quan trọng

Điểm mấu chốt của Gemma 3n nằm ở việc áp dụng Nhúng theo lớp (PLE), một kỹ thuật giúp giảm đáng kể việc sử dụng RAM. Mặc dù kích thước mô hình thô lần lượt là 5 tỷ và 8 tỷ tham số, nhưng chúng hoạt động với dung lượng bộ nhớ tương đương với các mô hình tham số 2 tỷ và 4 tỷ. Mức tiêu thụ bộ nhớ động chỉ là 2GB cho mô hình 5B và 3GB cho phiên bản 8B. Điều này đạt được thông qua cấu hình mô hình lồng nhau, trong đó mô hình dung lượng bộ nhớ hoạt động 4B bao gồm một mô hình con 2B được đào tạo bằng phương pháp gọi là MatFormer. Điều này cho phép các nhà phát triển chuyển đổi các chế độ hiệu suất một cách linh hoạt mà không cần tải các mô hình riêng biệt. Các cải tiến hơn nữa, chẳng hạn như chia sẻ KVC và lượng tử hóa kích hoạt, giúp giảm độ trễ và tăng tốc độ phản hồi hơn nữa. Ví dụ: thời gian phản hồi trên thiết bị di động đã được cải thiện 1,5 lần so với Gemma 3 4B, đồng thời vẫn duy trì chất lượng đầu ra vượt trội.

Điểm chuẩn hiệu suất

Các số liệu hiệu suất mà Gemma 3n đạt được làm nổi bật sự phù hợp của nó để triển khai trên thiết bị di động. Nó vượt trội trong các tác vụ như nhận dạng và dịch giọng nói tự động, cho phép chuyển đổi liền mạch giọng nói thành văn bản đã dịch. Trên các điểm chuẩn đa ngôn ngữ như WMT24++ (ChrF), nó đạt được số điểm 50,1%, cho thấy thế mạnh của nó trong các ngôn ngữ như tiếng Nhật, tiếng Đức, tiếng Hàn, tiếng Tây Ban Nha và tiếng Pháp. Khả năng “kết hợp” của nó cho phép tạo ra các mô hình con được tối ưu hóa cho các kết hợp chất lượng và độ trễ khác nhau, mang đến cho các nhà phát triển khả năng tùy chỉnh cao hơn nữa.

Khả năng và ứng dụng đa phương thức

Kiến trúc của Gemma 3n hỗ trợ các đầu vào xen kẽ từ các phương thức khác nhau, bao gồm văn bản, âm thanh, hình ảnh và video, cho phép các tương tác tự nhiên và giàu ngữ cảnh hơn. Nó cũng có thể hoạt động ngoại tuyến, đảm bảo quyền riêng tư và độ tin cậy ngay cả khi không có kết nối mạng. Các trường hợp sử dụng tiềm năng là rất lớn, bao gồm:

• Phản hồi trực quan và thính giác trực tiếp: Cung cấp phản hồi theo thời gian thực cho đầu vào của người dùng thông qua cả kênh hình ảnh và thính giác.
• Tạo nội dung nhận biết theo ngữ cảnh: Tạo nội dung phù hợp dựa trên ngữ cảnh hiện tại của người dùng, được xác định bởi các đầu vào cảm biến khác nhau.
• Các ứng dụng dựa trên giọng nói nâng cao: Cho phép các tương tác và điều khiển bằng giọng nói phức tạp hơn.

Các tính năng chính của Gemma 3n

Gemma 3n kết hợp một loạt các tính năng, bao gồm:

• Thiết kế ưu tiên thiết bị di động: Được phát triển thông qua sự hợp tác giữa Google, DeepMind, Qualcomm, MediaTek và Samsung System LSI để có hiệu suất di động tối ưu.
• Giảm dung lượng bộ nhớ: Đạt được dung lượng hoạt động 2GB và 3GB cho các mô hình tham số 5B và 8B, tương ứng, bằng cách sử dụng Nhúng theo lớp (PLE).
• Cải thiện thời gian phản hồi: Cung cấp phản hồi nhanh hơn 1,5 lần trên thiết bị di động so với Gemma 3 4B.
• Thông thạo đa ngôn ngữ: Đạt được điểm chuẩn đa ngôn ngữ là 50,1% trên WMT24++ (ChrF).
• Đầu vào đa phương thức: Chấp nhận và hiểu âm thanh, văn bản, hình ảnh và video, cho phép xử lý đa phương thức phức tạp và đầu vào xen kẽ.
• Mô hình con động: Hỗ trợ các đánh đổi động bằng cách sử dụng đào tạo MatFormer với các mô hình con lồng nhau và khả năng kết hợp.
• Hoạt động ngoại tuyến: Hoạt động mà không cần kết nối internet, đảm bảo quyền riêng tư và độ tin cậy.
• Dễ dàng truy cập Có sẵn thông qua Google AI Studio và Google AI Edge, với khả năng xử lý văn bản và hình ảnh.

Ý nghĩa và hướng đi tương lai

Gemma 3n cung cấp một con đường rõ ràng để làm cho AI hiệu suất cao trở nên di động và riêng tư. Bằng cách giải quyết các giới hạn RAM thông qua kiến trúc sáng tạo và nâng cao khả năng đa ngôn ngữ và đa phương thức, các nhà nghiên cứu đã phát triển một giải pháp khả thi để đưa AI tiên tiến trực tiếp vào các thiết bị hàng ngày. Việc chuyển đổi mô hình con linh hoạt, khả năng sẵn sàng ngoại tuyến và thời gian phản hồi nhanh thể hiện một cách tiếp cận toàn diện đối với AI ưu tiên thiết bị di động. Nghiên cứu trong tương lai có thể sẽ tập trung vào việc nâng cao khả năng của mô hình, mở rộng khả năng tương thích của nó với nhiều loại thiết bị hơn và khám phá các ứng dụng mới trong các lĩnh vực như thực tế tăng cường, robot và IoT.

Phân tích kỹ thuật: Per-Layer Embeddings (PLE) hoạt động như thế nào?

Để hiểu rõ hơn về cách Gemma 3n đạt được hiệu suất tối ưu với bộ nhớ hạn chế, chúng ta cần đi sâu vào cơ chế hoạt động của Per-Layer Embeddings (PLE). PLE là một kỹ thuật cho phép mô hình AI hoạt động với một footprint bộ nhớ nhỏ hơn nhiều so với số lượng tham số thực tế của nó. Điều này đạt được bằng cách chia mô hình thành các lớp và nhúng các lớp này vào các không gian khác nhau.

Chia nhỏ mô hình thành các lớp

Đầu tiên, mô hình AI được chia thành nhiều lớp khác nhau. Mỗi lớp này có một chức năng cụ thể, chẳng hạn như xử lý văn bản, phân tích hình ảnh hoặc tạo ra các dự đoán.

Nhúng các lớp vào các không gian khác nhau

Thay vì lưu trữ tất cả các lớp trong cùng một không gian bộ nhớ, PLE nhúng mỗi lớp vào một không gian riêng biệt. Điều này cho phép mỗi lớp hoạt động độc lập và chỉ sử dụng bộ nhớ cần thiết cho chức năng cụ thể của nó.

Tiết kiệm bộ nhớ

Bằng cách nhúng các lớp vào các không gian khác nhau, PLE giảm đáng kể tổng lượng bộ nhớ cần thiết để lưu trữ và chạy mô hình AI. Điều này đặc biệt quan trọng trên các thiết bị di động, nơi bộ nhớ là một tài nguyên hạn chế.

Ưu điểm của PLE

• Giảm sử dụng RAM: PLE giúp giảm đáng kể lượng RAM cần thiết để chạy mô hình AI, cho phép nó hoạt động trên các thiết bị di động có bộ nhớ hạn chế.
• Tăng tốc độ phản hồi: Bằng cách giảm lượng bộ nhớ cần thiết, PLE giúp tăng tốc độ phản hồi của mô hình AI, mang lại trải nghiệm người dùng mượt mà hơn.
• Cải thiện hiệu quả năng lượng: PLE cũng giúp cải thiện hiệu quả năng lượng của mô hình AI, kéo dài thời lượng pin của thiết bị di động.

MatFormer: Phương pháp đào tạo mô hình con

MatFormer là một phương pháp đào tạo mô hình con được sử dụng trong Gemma 3n để tạo ra một mô hình con nhẹ hơn, nhưng vẫn duy trì hiệu suất chấp nhận được. Phương pháp này đặc biệt hữu ích cho các ứng dụng trên thiết bị di động, nơi bộ nhớ và năng lượng là những hạn chế quan trọng.

Nguyên tắc cơ bản của MatFormer

MatFormer hoạt động dựa trên nguyên tắc cơ bản là đào tạo một mô hình con nhỏ hơn từ một mô hình lớn hơn đã được đào tạo trước đó. Quá trình này bao gồm việc lựa chọn một tập hợp con các tham số từ mô hình lớn hơn và sử dụng chúng để đào tạo mô hình con.

Các bước thực hiện MatFormer

1. Đào tạo mô hình lớn hơn: Đầu tiên, một mô hình lớn hơn được đào tạo trên một tập dữ liệu lớn. Mô hình này được coi là “mô hình gốc”.
2. Lựa chọn tham số: Sau đó, một tập hợp con các tham số từ mô hình gốc được lựa chọn. Các tham số này được lựa chọn dựa trên tầm quan trọng của chúng đối với hiệu suất của mô hình.
3. Đào tạo mô hình con: Cuối cùng, mô hình con được đào tạo bằng cách sử dụng tập hợp con các tham số đã chọn từ mô hình gốc. Quá trình đào tạo này thường sử dụng một tập dữ liệu nhỏ hơn so với tập dữ liệu được sử dụng để đào tạo mô hình gốc.

Ưu điểm của MatFormer

• Giảm kích thước mô hình: MatFormer giúp giảm đáng kể kích thước của mô hình, làm cho nó phù hợp hơn cho các ứng dụng trên thiết bị di động.
• Duy trì hiệu suất: Mặc dù kích thước nhỏ hơn, mô hình con được đào tạo bằng MatFormer vẫn có thể duy trì hiệu suất chấp nhận được. Điều này là do các tham số được lựa chọn từ mô hình gốc là những tham số quan trọng nhất đối với hiệu suất của mô hình.
• Giảm tiêu thụ năng lượng: Bằng cách giảm kích thước mô hình, MatFormer cũng giúp giảm tiêu thụ năng lượng, kéo dài thời lượng pin của thiết bị di động.

Chia sẻ KVC và lượng tử hóa kích hoạt

Ngoài PLE và MatFormer, Gemma 3n còn sử dụng hai kỹ thuật khác để giảm độ trễ và tăng tốc độ phản hồi: chia sẻ KVC và lượng tử hóa kích hoạt.

Chia sẻ KVC (Key-Value Cache)

Chia sẻ KVC là một kỹ thuật giúp giảm độ trễ bằng cách lưu trữ các giá trị khóa-giá trị (key-value pairs) được sử dụng thường xuyên trong bộ nhớ cache. Khi một giá trị khóa-giá trị được yêu cầu, mô hình sẽ kiểm tra bộ nhớ cache trước khi tính toán lại giá trị đó. Nếu giá trị đó đã có trong bộ nhớ cache, nó sẽ được trả về ngay lập tức, giúp giảm độ trễ.

Lượng tử hóa kích hoạt

Lượng tử hóa kích hoạt là một kỹ thuật giúp giảm kích thước mô hình và tăng tốc độ tính toán bằng cách giảm độ chính xác của các giá trị kích hoạt. Thay vì sử dụng các số dấu phẩy động 32 bit (FP32) để biểu diễn các giá trị kích hoạt, lượng tử hóa kích hoạt sử dụng các số nguyên 8 bit (INT8). Điều này giúp giảm kích thước mô hình và tăng tốc độ tính toán, nhưng cũng có thể làm giảm độ chính xác của mô hình.

Ưu điểm của chia sẻ KVC và lượng tử hóa kích hoạt

• Giảm độ trễ: Chia sẻ KVC giúp giảm độ trễ bằng cách lưu trữ các giá trị khóa-giá trị được sử dụng thường xuyên trong bộ nhớ cache.
• Tăng tốc độ tính toán: Lượng tử hóa kích hoạt giúp tăng tốc độ tính toán bằng cách giảm độ chính xác của các giá trị kích hoạt.
• Giảm kích thước mô hình: Lượng tử hóa kích hoạt cũng giúp giảm kích thước mô hình, làm cho nó phù hợp hơn cho các ứng dụng trên thiết bị di động.

Ứng dụng tiềm năng trong Robotics và IoT

Gemma 3n không chỉ giới hạn trong các ứng dụng trên thiết bị di động mà còn có tiềm năng lớn trong các lĩnh vực như Robotics và IoT.

Trong Robotics

• Nhận dạng đối tượng: Gemma 3n có thể được sử dụng để nhận dạng đối tượng trong thời gian thực, cho phép robot tương tác với môi trường xung quanh một cách thông minh hơn.
• Điều khiển robot: Gemma 3n có thể được sử dụng để điều khiển robot dựa trên các lệnh bằng giọng nói hoặc cử chỉ, giúp robot dễ sử dụng hơn.
• Tự động hóa: Gemma 3n có thể được sử dụng để tự động hóa các tác vụ lặp đi lặp lại, giải phóng con người khỏi những công việc nhàm chán.

Trong IoT

• Nhà thông minh: Gemma 3n có thể được sử dụng để điều khiển các thiết bị nhà thông minh bằng giọng nói hoặc cử chỉ, mang lại trải nghiệm người dùng thuận tiện hơn.
• Công nghiệp thông minh: Gemma 3n có thể được sử dụng để giám sát và điều khiển các quy trình công nghiệp, giúp tăng hiệu quả và giảm chi phí.
• Y tế thông minh: Gemma 3n có thể được sử dụng để theo dõi sức khỏe của bệnh nhân và cảnh báo bác sĩ về các vấn đề tiềm ẩn, giúp cải thiện chất lượng chăm sóc sức khỏe.

Mở rộng khả năng tương thích với nhiều loại thiết bị hơn

Để Gemma 3n có thể được sử dụng rộng rãi hơn, cần phải mở rộng khả năng tương thích của nó với nhiều loại thiết bị hơn. Điều này bao gồm việc tối ưu hóa Gemma 3n cho các thiết bị có bộ nhớ và khả năng xử lý hạn chế hơn, cũng như hỗ trợ các nền tảng phần cứng và phần mềm khác nhau.

Các bước để mở rộng khả năng tương thích

1. Tối ưu hóa cho các thiết bị có bộ nhớ và khả năng xử lý hạn chế hơn: Điều này có thể được thực hiện bằng cách sử dụng các kỹ thuật như lượng tử hóa và cắt tỉa.
2. Hỗ trợ các nền tảng phần cứng và phần mềm khác nhau: Điều này bao gồm việc cung cấp các thư viện và công cụ phát triển cho các nền tảng khác nhau.
3. Đảm bảo khả năng tương thích ngược: Điều này có nghĩa là Gemma 3n phải có khả năng chạy trên các thiết bị cũ hơn.

Kết luận

Gemma 3n là một bước tiến quan trọng trong lĩnh vực AI trên thiết bị di động. Bằng cách giải quyết các hạn chế về RAM và tăng cường khả năng đa ngôn ngữ và đa phương thức, Google DeepMind đã phát triển một giải pháp khả thi để mang AI tiên tiến trực tiếp đến các thiết bị hàng ngày. Với các tính năng như chuyển đổi mô hình con linh hoạt, khả năng sẵn sàng ngoại tuyến và thời gian phản hồi nhanh, Gemma 3n hứa hẹn sẽ cách mạng hóa cách chúng ta tương tác với công nghệ. Trong tương lai, chúng ta có thể mong đợi Gemma 3n sẽ được sử dụng rộng rãi hơn trong các lĩnh vực như Robotics, IoT và nhiều lĩnh vực khác.