Google gần đây đã tiết lộ Edge Gallery, một ứng dụng đột phá cho phép người dùng thực thi các mô hình ngôn ngữ lớn (LLMs) trực tiếp trên điện thoại thông minh của họ, loại bỏ sự cần thiết của kết nối internet đang hoạt động. Hiện tại, ứng dụng này chỉ dành riêng cho các thiết bị Android và có thể truy cập thông qua kho lưu trữ Google AI Edge GitHub, với phiên bản iOS dự kiến sẽ được phát hành trong tương lai gần.
Theo thông báo chính thức của Google, Google AI Edge Gallery đóng vai trò là một ứng dụng Android mã nguồn mở được thiết kế như một nền tảng tương tác dành cho các nhà phát triển. Ứng dụng này hoạt động như một môi trường thử nghiệm cho các nhà phát triển và những người đam mê công nghệ, những người mong muốn khám phá khả năng của AI trên edge, đề cập đến việc thực thi các thuật toán AI trực tiếp trên thiết bị thay vì dựa vào xử lý dựa trên đám mây.
Khám phá Ứng dụng Edge Gallery
Ứng dụng Edge Gallery cung cấp cho người dùng một lựa chọn các mô hình có thể tải xuống, từ các phiên bản nhỏ gọn khoảng 500MB đến các mô hình phức tạp hơn có dung lượng khoảng 4GB. Để truy cập các mô hình này, người dùng phải đăng nhập vào nền tảng Hugging Face và chấp nhận các điều khoản sử dụng liên quan. Hầu hết các mô hình này là mã nguồn mở và có sẵn để sử dụng miễn phí.
Trong số các mô hình có sẵn có Gemma 3 của Google và Gemma 3n mới được giới thiệu, cũng như Qwen 2.5 của Alibaba. Sau khi tải xuống, người dùng có thể tương tác với các mô hình này thông qua ba chức năng chính: tham gia vào các cuộc trò chuyện theo thời gian thực, tải lên và giải thích hình ảnh và sử dụng Prompt Lab, một chế độ tương tác một lượt, nơi người dùng cung cấp một câu hỏi hoặc câu nói và nhận phản hồi do AI tạo ra.
Ưu điểm của Chức năng Ngoại tuyến
Tính năng nổi bật của ứng dụng nằm ở khả năng hoạt động hoàn toàn ngoại tuyến. Sau khi một mô hình được cài đặt, người dùng có thể tương tác với nó mà không cần kết nối dữ liệu đang hoạt động, làm cho nó trở nên lý tưởng cho các môi trường từ xa hoặc người dùng có kết nối hạn chế. Khả năng ngoại tuyến này đảm bảo truy cập không bị gián đoạn vào các chức năng AI, bất kể khả năng truy cập internet.
Gemma 3n: Một Mô hình Nổi bật
Một dịch vụ đáng chú ý trong dòng sản phẩm Edge Gallery là mô hình Gemma 3n của Google, được thiết kế tỉ mỉ để hoạt động trơn tru trên điện thoại thông minh đồng thời giảm thiểu mức tiêu thụ bộ nhớ. Mặc dù được phân loại là một mô hình ngôn ngữ nhỏ, nhưng nó hoạt động đáng khen ngợi trên các số liệu hiệu suất khác nhau. Trong bảng xếp hạng LMArena cho các tác vụ văn bản, Gemma 3n đạt được số điểm 1293. Để hiểu rõ hơn, mô hình o3-mini của OpenAI đạt điểm cao hơn một chút ở mức 1329, trong khi mô hình o4-mini đạt 1379 điểm. Người có thành tích hàng đầu vẫn là Gemini 2.5 Pro của Google, với số điểm 1446.
Hạn chế của các Mô hình Ngoại tuyến
Như với bất kỳ mô hình ngoại tuyến nào, vẫn tồn tại một số hạn chế nhất định. AI không thể truy cập dữ liệu hoặc sự kiện theo thời gian thực ngoài giới hạn đào tạo của nó. Ví dụ: kiến thức của Gemma 3n chỉ cập nhật đến tháng 6 năm 2024. Ràng buộc này ngụ ý rằng các phản hồi của mô hình có thể không phản ánh thông tin hoặc sự phát triển mới nhất.
Tương lai của AI Tạo sinh
Bằng cách tích hợp các khả năng AI mạnh mẽ trực tiếp vào các thiết bị di động, Google đang thể hiện năng lực công nghệ của mình và mở đường cho một tương lai nơi AI tạo sinh có thể hoạt động độc lập với kết nối đám mây. Sự thay đổi hướng tới AI edge này hứa hẹn sẽ mở ra những khả năng mới cho các ứng dụng AI trong các lĩnh vực khác nhau, bao gồm giáo dục, chăm sóc sức khỏevà giải trí.
Đi sâu hơn vào Chức năng của Edge Gallery
Ứng dụng Google AI Edge Gallery biểu thị một bước tiến quan trọng trong việc làm cho trí tuệ nhân tạo trở nên dễ tiếp cận và linh hoạt hơn. Bằng cách cho phép người dùng chạy các mô hình AI phức tạp trực tiếp trên điện thoại thông minh của họ, Google đang dân chủ hóa quyền truy cập vào công nghệ tiên tiến và trao quyền cho người dùng khai thác sức mạnh của AI theo những cách mới.
Các cuộc trò chuyện theo thời gian thực
Tính năng trò chuyện theo thời gian thực cho phép người dùng tham gia vào các cuộc đối thoại động với các mô hình AI. Chức năng này có thể được sử dụng cho nhiều mục đích, chẳng hạn như động não các ý tưởng, luyện tập các kỹ năng ngôn ngữ hoặc đơn giản là tham gia vào các cuộc trò chuyện hấp dẫn. Các mô hình AI được thiết kế để đưa ra các phản hồi mạch lạc và phù hợp theo ngữ cảnh, làm cho các tương tác trở nên tự nhiên và trực quan hơn.
Tải lên và Giải thích Hình ảnh
Khả năng tải lên và giải thích hình ảnh mở ra một loạt các khả năng rộng lớn. Người dùng có thể tải lên hình ảnh về các đối tượng, cảnh hoặc thậm chí văn bản viết tay và các mô hình AI sẽ cố gắng xác định và giải thích nội dung. Tính năng này có thể được sử dụng cho các tác vụ như nhận dạng đối tượng, phân loại hình ảnh và thậm chí cả nhận dạng ký tự quang học (OCR). Ví dụ: người dùng có thể tải lên một bức ảnh về một bông hoa và mô hình AI có thể xác định loài của bông hoa.
Prompt Lab
Prompt Lab cung cấp một chế độ tương tác một lượt, nơi người dùng có thể nhập một câu hỏi hoặc câu nói và nhận phản hồi do AI tạo ra. Tính năng này rất hữu ích để truy xuất thông tin nhanh chóng, lời nhắc viết sáng tạo hoặc tạo ra các quan điểm khác nhau về một chủ đề. Các mô hình AI được đào tạo để cung cấp các phản hồi toàn diện và đầy thông tin, làm cho Prompt Lab trở thành một công cụ có giá trị cho cả mục đích giáo dục và giải trí.
Tầm quan trọng của Điện toán Edge
Ứng dụng Edge Gallery là một ví dụ điển hình về điện toán edge, liên quan đến việc xử lý dữ liệu gần nguồn gốc hơn, trong trường hợp này là điện thoại thông minh. Điện toán edge cung cấp một số lợi thế so với điện toán dựa trên đám mây truyền thống, bao gồm độ trễ giảm, tăng cường quyền riêng tư và cải thiện độ tin cậy.
Độ trễ Giảm
Bằng cách xử lý dữ liệu cục bộ trên thiết bị, ứng dụng Edge Gallery loại bỏ sự cần thiết phải gửi dữ liệu đến một máy chủ từ xa để xử lý. Điều này làm giảm đáng kể độ trễ, dẫn đến thời gian phản hồi nhanh hơn và trải nghiệm người dùng liền mạch hơn. Điều này đặc biệt quan trọng đối với các ứng dụng yêu cầu tương tác theo thời gian thực, chẳng hạn như tính năng trò chuyện theo thời gian thực.
Tăng cường Quyền riêng tư
Điện toán edge cũng có thể tăng cường quyền riêng tư bằng cách giữ dữ liệu nhạy cảm trên thiết bị. Điều này làm giảm nguy cơ vi phạm dữ liệu và truy cập trái phép. Trong trường hợp ứng dụng Edge Gallery, dữ liệu người dùng được xử lý cục bộ và không được truyền đến các máy chủ của Google (trừ khi người dùng chọn chia sẻ nó).
Độ tin cậy Cải thiện
Bằng cách hoạt động độc lập với kết nối internet, ứng dụng Edge Gallery đáng tin cậy hơn các ứng dụng AI dựa trên đám mây. Điều này đặc biệt quan trọng ở những khu vực có kết nối internet hạn chế hoặc không đáng tin cậy. Ứng dụng có thể tiếp tục hoạt động ngay cả khi người dùng đang ngoại tuyến, đảm bảo rằng quyền truy cập vào các chức năng AI không bị gián đoạn.
Hàm ý Rộng lớn hơn của AI Ngoại tuyến
Sự phát triển của các mô hình AI ngoại tuyến như những mô hình có trong ứng dụng Edge Gallery có ý nghĩa quan trọng đối với một loạt các ngành công nghiệp và ứng dụng.
Giáo dục
AI ngoại tuyến có thể cung cấp quyền truy cập vào các tài nguyên học tập được cá nhân hóa ở những khu vực có kết nối internet hạn chế. Học sinh có thể sử dụng gia sư và công cụ giáo dục do AI cung cấp bất kể vị trí hoặc quyền truy cập internet của họ.
Chăm sóc sức khỏe
AI ngoại tuyến có thể hỗ trợ các chuyên gia chăm sóc sức khỏe ở các khu vực vùng sâu vùng xa bằng cách cung cấp quyền truy cập vào các công cụ chẩn đoán và các đề xuất điều trị. Điều này có thể cải thiện chất lượng chăm sóc ở các cộng đồng chưa được phục vụ.
Ứng phó Khẩn cấp
AI ngoại tuyến có thể được sử dụng để hỗ trợ những người ứng phó khẩn cấp trong các tình huống thảm họa khi không có kết nối internet. Các công cụ do AI cung cấp có thể giúp những người ứng phó đánh giá thiệt hại, xác định vị trí nạn nhân và điều phối các nỗ lực cứu hộ.
Khả năng tiếp cận
Đối với những cá nhân có quyền truy cập internet hạn chế hoặc không có, AI ngoại tuyến có thể cung cấp quyền truy cập vào thông tin, công cụ giao tiếp và các dịch vụ thiết yếu khác.
Những thách thức của việc Phát triển các Mô hình AI Ngoại tuyến
Mặc dù AI ngoại tuyến mang lại nhiều lợi ích, nhưng việc phát triển và triển khai các mô hình này cũng đặt ra một số thách thức.
Hạn chế về Nguồn lực
Điện thoại thông minh và các thiết bị di động khác có sức mạnh xử lý và bộ nhớ hạn chế so với các máy chủ đám mây. Điều này đòi hỏi sự phát triển của các mô hình AI nhỏ hơn và hiệu quả hơn, có thể chạy hiệu quả trên các thiết bị này.
Quyền riêng tư Dữ liệu
Đảm bảo quyền riêng tư dữ liệu là rất quan trọng khi xử lý dữ liệu cục bộ trên thiết bị. Các nhà phát triển phải triển khai các biện pháp bảo mật mạnh mẽ để bảo vệ dữ liệu người dùng khỏi truy cập trái phép.
Cập nhật Mô hình
Cập nhật các mô hình AI ngoại tuyến có thể là một thách thức vì các mô hình không được kết nối với internet. Các nhà phát triển phải tìm cách phân phối các bản cập nhật mô hình một cách hiệu quả và an toàn.
Cân nhắc Đạo đức
Như với bất kỳ công nghệ AI nào, các cân nhắc đạo đức là tối quan trọng. Các nhà phát triển phải đảm bảo rằng các mô hình AI ngoại tuyến được sử dụng có trách nhiệm và không duy trì thành kiến hoặc góp phần vào các kết quả có hại.
Nhìn về phía trước
Ứng dụng Google AI Edge Gallery đại diện cho một tiến bộ đáng kể trong lĩnh vực trí tuệ nhân tạo. Bằng cách cho phép người dùng chạy các mô hình AI mạnh mẽ trực tiếp trên điện thoại thông minh của họ, Google đang dân chủ hóa quyền truy cập vào AI và mở đường cho một tương lai nơi AI dễ tiếp cận, linh hoạt và đáng tin cậy hơn. Khi công nghệ tiếp tục phát triển, có khả năng chúng ta sẽ thấy nhiều ứng dụng sáng tạo hơn nữa của AI ngoại tuyến trong những năm tới. Khả năng khai thác sức mạnh của AI mà không cần dựa vào kết nối internet liên tục chắc chắn sẽ có tác động biến đổi đối với các khía cạnh khác nhau của cuộc sống của chúng ta, từ giáo dục và chăm sóc sức khỏe đến ứng phó khẩn cấp và khả năng tiếp cận. Ứng dụng Edge Gallery chỉ là một cái nhìn thoáng qua về những khả năng thú vị đang chờ đợi phía trước. Tương lai của AI ngoại tuyến là tươi sáng và tiềm năng cải thiện cuộc sống trên khắp thế giới là vô cùng lớn.