Google 近期推出了 Edge Gallery，这款突破性的应用程序使用户可以直接在智能手机上运行大型语言模型 (LLMs)，从而无需有效的互联网连接。目前，该应用程序仅适用于 Android 设备，可通过 Google AI Edge GitHub 存储库访问，iOS 版本计划在不久的将来发布。
根据 Google 的官方公告，Google AI Edge Gallery 作为一个开源 Android 应用程序，旨在作为开发人员的交互式平台。此应用程序充当开发人员和热衷于探索边缘 AI 功能的技术爱好者的测试环境。边缘 AI 指的是直接在设备上执行 AI 算法，而不是依赖基于云的处理。
探索 Edge Gallery 应用程序
Edge Gallery 应用程序为用户提供了一系列可下载的模型，范围从大约 500MB 的紧凑版本到大约 4GB 的更复杂的模型。要访问这些模型，用户需要登录到 Hugging Face 平台并接受相关的使用条款。这些模型中的大多数都是开源的，可以免费使用。
可用的模型包括 Google 的 Gemma 3 和新推出的 Gemma 3n，以及阿里巴巴的 Qwen 2.5。下载后，用户可以通过三个主要功能与这些模型进行交互：进行实时对话、上传和解释图像，以及使用 Prompt Lab，这是一种单轮交互模式，用户在其中提供问题或陈述文案，并接收由 AI 生成的响应。
离线功能的优势
该应用程序的显着特征在于其完全离线运行的能力。安装模型后，用户无需有效的数据连接即可与之交互，这使其非常适合远程环境或连接有限的用户。这种离线功能可确保不间断地访问 AI 功能，而与互联网可用性无关。
Gemma 3n：一款出色的模型
Edge Gallery 系列中的一个值得注意的产品是 Google 的 Gemma 3n 模型，该模型经过精心设计，可以在智能手机上无缝运行，同时最大限度地减少内存消耗。尽管它被归类为小型语言模型，但它在多项性能指标上表现出色。在 LMArena 文本任务排行榜中，Gemma 3n 获得了 1293 分。对于上下文，OpenAI 的 o3-mini 模型得分略高，为 1329 分，而 o4-mini 模型获得 1379 分。最高表现者仍然是 Google 的 Gemini 2.5 Pro，得分为 1446 分。
离线模型的局限性
与任何离线模型一样，存在某些限制。AI 无法访问其训练截止日期之后的实时数据或事件。例如，Gemma 3n 的知识仅更新到 2024 年 6 月。此限制意味着该模型的答复可能无法反映最新信息或发展。
生成式 AI 的未来
通过将强大的 AI 功能直接集成到移动设备中，Google 展示了其技术实力，并为生成式 AI 可以独立于云连接运行的未来铺平了道路。这种转向边缘 AI 的转变有望为各种领域的 AI 应用开辟新的可能性，包括教育、医疗保健和娱乐。
深入研究 Edge Gallery 的功能
Google AI Edge Gallery 应用程序标志着在使人工智能更易于访问和通用方面迈出了重要一步。通过使用户能够在智能手机上直接运行复杂的 AI 模型，Google 正在普及对高级技术的访问，并使使用者能够以新颖的方式利用 AI 的力量。
实时对话
实时对话功能允许使用者与 AI 模型进行动态对话。此功能可用于多种目的，例如集思广益、练习语言技能或简单地进行引人入胜的对话。AI 模型旨在提供连贯且与上下文相关的响应，从而使交互感觉更加自然和直观。
图像上传和解释
上传和解释图像的能力开辟了广泛的可能性。使用者可以上传对象、场景甚至手写文本的图像，然后 AI 模型将尝试识别和解释内容。此功能可用于诸如对象识别、图像分类甚至光学字符识别 (OCR) 等任务。例如，使用者可以上传一朵花的图片，然后 AI 模型可以识别花的种类。
Prompt Lab
Prompt Lab 提供了一种单轮交互模式，使用者可以在其中输入问题或陈述文案，并接收由 AI 生成的响应。此功能对于快速信息检索、创意写作提示或生成对某个主题的不同观点非常有用。AI 模型经过训练，可以提供全面且内容丰富的响应，从而使 Prompt Lab 成为教育和娱乐目的的宝贵工具。
边缘计算的意义
Edge Gallery 应用程序是边缘计算的一个典型例子，它涉及在更靠近源头的位置处理数据，在本例中是智能手机。与传统的基于云的计算相比，边缘计算具有多个优点，包括减少延迟、提高隐私性和提高可靠性。
减少延迟
通过在设备本地处理数据，Edge Gallery 应用程序无需将数据发送到远程服务器进行处理。这大大减少了延迟，从而缩短了响应时间并提供了更无缝的使用者体验。这对于需要实时交互的应用（例如实时对话功能）尤为重要。
提高隐私性
边缘计算还可以通过将敏感数据保留在设备上来增强隐私性。这降低了数据泄露和未经授权的访问的风险。对于 Edge Gallery 应用程序，使用者数据在本地处理，并且未传输到 Google 的服务器（除非使用者选择共享）。
提高可靠性
通过独立于互联网连接运行，Edge Gallery 应用程序比基于云的 AI 应用程序更可靠。这在互联网连接有限或不可靠的区域尤其重要。即使使用者处于离线状态，该应用程序也可以继续运行，从而确保对 AI 功能的访问不会中断。
离线 AI 的更广泛影响
像 Edge Gallery 应用程序中提供的那些离线 AI 模型的开发对广泛的行业和应用具有重大影响。
教育
离线 AI 可以在互联网连接有限的区域提供对个性化学习资源的访问。无论学生的位置或互联网访问如何，他们都可以使用 AI 驱动的辅导和教育工具。
医疗保健
离线 AI 可以通过提供对诊断工具和治疗建议的访问来协助偏远地区的医疗保健专业人员。这可以提高服务欠发达社区的护理质量。
紧急响应
离线 AI 可用于协助互联网连接不可用的灾难情况下的紧急响应人员。AI 驱动的工具可以帮助响应者评估损坏情况、查找受害者和协调救援工作。
可访问性
对于互联网访问有限或没有互联网访问的个人，离线 AI 可以提供对信息、通信工具和其他基本服务的访问。
开发离线 AI 模型的挑战
虽然离线 AI 提供了许多好处，但开发和部署这些模型也带来了一些挑战。
资源限制
与云服务器相比，智能手机和其他移动设备的处理能力和内存有限。这需要开发更小巧、更高效的 AI 模型，以便在这些设备上有效运行。
数据隐私
在设备本地处理数据时，确保数据隐私至关重要。开发人员必须实施强大的安全措施来保护使用者数据免受未经授权的访问。
模型更新
由于离线 AI 模型未连接到互联网，因此更新这些模型可能具有挑战性。开发人员必须找到高效、安全地分发模型更新的方法。
伦理注意事项
与任何 AI 技术一样，伦理注意事项至关重要。开发人员必须确保以负责任的方式使用离线 AI 模型，且不会永久存在偏见或导致有害结果。
展望未来
Google AI Edge Gallery 应用程序代表着人工智能领域的重大进步。通过使用户能够在智能手机上直接运行强大的 AI 模型，Google 正在普及对 AI 的访问，并为 AI 更容易访问、通用且可靠的未来铺平了道路。随着技术不断发展，我们可能会在未来几年中看到更多离线 AI 的创新应用。无需依赖持续的互联网连接即可利用 AI 的能力无疑将对我们生活的各个方面产生变革性影响，从教育和医疗保健到紧急响应和可访问性。Edge Gallery 应用程序只是对未来令人兴奋的可能性的预见。离线 AI 的未来是光明的，其改善世界各地人民生活的潜力是巨大的。