揭露 Google AI Edge Gallery:手機端本地運行 AI 模型

Google 在行動 AI 可用性方面採取了一項可能重新定義行動 AI 可用性的舉措,悄悄推出了 Google AI Edge Gallery,這是一款行動應用程式,讓使用者能夠直接在他們的智慧型手機上利用人工智慧的力量,而無需網際網路連線。 這種創新的方法允許本地執行 AI 模型,繞過對蜂窩或 Wi-Fi 網路的需求,從而在網際網路接入有限或沒有網際網路接入的地區開闢了 AI 利用的新途徑。

Google AI Edge Gallery 目前適用於 Android 裝置,並計畫在未來推出 iOS 版本,可透過 GitHub 在其 alpha(實驗性)階段存取。這個平台提供了多種的開放原始碼模型選擇,包括來自 Hugging Face 生態系統的模型,以及 Google 自己的 Gemma 3n 模型。

區分此應用程式與 Google 的 Gemini AI 及其相關迭代至關重要。 Google AI Edge Gallery 作為一個獨立實體運作,專為直覺式互動和通用可訪問性而設計。 它免費提供給運行至少 Android 10 的智慧型手機使用者。

但是,使用者應注意儲存需求,因為每個 AI 模型的大小可能從 500 MB 到 4 GB 不等,具體取決於其複雜性和效能。

與流行的生成式 AI 工具類似,Google AI Edge Gallery 利用其模型來解決使用者查詢、從文字提示生成圖像以及執行基於文字的操作,例如重寫、摘要和翻譯。 此外,它透過生成或修改原始碼將其效用擴展到程式設計。

由於其實驗性質,該應用程式尚未在 Google Play 商店上提供。 要訪問它,使用者必須從 GitHub 上的 Google AI Edge Gallery 儲存庫手動下載 APK 檔案。 安裝後,使用者可以立即開始在本地運行他們首選的 AI 模型。

在 Google Play 生態系統之外有目的地發布此應用程式突出了其實驗狀態。 Google 尋求來自使用者和開發人員的廣泛反饋,以改進該應用程式,並最終向公眾提供更精緻且易於訪問的版本。

深入探討:了解本地 AI 處理的影響

Google AI Edge Gallery 的推出標誌著 AI 的交付和使用方式發生了根本性的轉變。 透過啟用智慧型手機上的本地 AI 處理,Google 正在解決與基於雲端的 AI 解決方案相關的幾個主要局限性:

  • **減少延遲:**基於雲端的 AI 模型要求將資料傳輸到遠端伺服器進行處理,這可能會帶來顯著的延遲,尤其是在網路連接不良的地區。 本地 AI 處理消除了這種延遲,從而實現了近乎瞬時的回應。
  • **增強的隱私:**在本地處理資料可確保敏感資訊保留在使用者的裝置上,從而減輕了與將資料傳輸到第三方伺服器相關的隱私問題。
  • **離線功能:**在沒有網際網路連線的情況下運行 AI 模型的能力為在偏遠地區、飛機上或網路訪問不可用的情況下利用 AI 開闢了新的可能性。
  • **節省成本:**透過消除對基於雲端的處理的需求,使用者可以避免與雲端 AI 服務相關的資料費用和訂閱費。

探索可用的 AI 模型

Google AI Edge Gallery 提供了對精選的開放原始碼 AI 模型的存取,每個模型都專為特定任務而設計:

  • **文字生成:**這些模型可以為各種目的生成人類品質的文字,例如撰寫文章、創建行銷文案或編寫電子郵件。
  • **圖像生成:**這些模型可以從文字描述創建逼真或藝術的圖像,使使用者能夠可視化他們的想法。
  • **文字摘要:**這些模型可以將冗長的文章或文件濃縮成簡潔的摘要,從而節省使用者的時間和精力。
  • **語言翻譯:**這些模型可以在多種語言之間翻譯文字,從而促進跨語言障礙的交流。
  • **程式碼生成:**這些模型可以從自然語言描述生成程式碼片段或完整的程式,從而協助開發人員完成他們的任務。
  • **Google 的 Gemma 3n:**該模型能夠執行各種任務,並且可以針對特定應用進行進一步的微調。

Google AI Edge Gallery 利用幾項關鍵技術來實現智慧型手機上的本地 AI 處理:

  • **模型優化:**AI 模型通常設計為在具有充足計算資源的強大伺服器上運行。 為了在智慧型手機上運行這些模型,Google 採用了各種優化技術,例如模型量化和剪枝,以在不犧牲準確性的情況下減小模型大小和計算複雜性。
  • **硬體加速:**現代智慧型手機配備了專用硬體,例如 GPU 和神經處理單元 (NPU),可以加速 AI 計算。 Google AI Edge Gallery 利用這些硬體加速器來提高 AI 模型的效能。
  • **裝置上推理:**該應用程式在裝置上本地執行推理(進行預測),從而無需將資料傳輸到遠端伺服器。

按照以下步驟在您的 Android 裝置上安裝和使用 Google AI Edge Gallery:

  1. **啟用開發人員選項:**轉到您手機的設定,然後轉到「關於手機」,然後點擊「版本號」七次。 這將啟用開發人員選項。
  2. **啟用 USB 偵錯:**轉到設定,然後轉到「開發人員選項」,然後啟用「USB 偵錯」。
  3. **下載 APK 檔案:**訪問 GitHub 上的 Google AI Edge Gallery 儲存庫並下載 APK 檔案。
  4. **安裝 APK 檔案:**您可能需要在您的安全設定中啟用「從未知來源安裝」才能安裝 APK。
  5. **啟動應用程式:**安裝後,啟動 Google AI Edge Gallery 應用程式。
  6. **下載 AI 模型:**瀏覽可用的 AI 模型並下載您想要使用的模型。
  7. **運行 AI 模型:**選擇一個 AI 模型並提供輸入(例如文字或圖像)以生成輸出。

Google AI Edge Gallery 有可能徹底改變各個行業和應用:

  • **教育:**學生可以使用 AI 模型生成教科書摘要、翻譯外語或獲得編碼作業方面的幫助,即使沒有網際網路存取。
  • **醫療保健:**醫生可以使用 AI 模型診斷疾病、個性化治療計畫或在網際網路連線有限的偏遠地區訪問醫療資訊。
  • **農業:**農民可以使用 AI 模型監測作物健康、優化灌溉或預測產量,即使在網路覆蓋率差的地區也是如此。
  • **救災:**第一 responders 可以使用 AI 模型評估損害、定位倖存者或協調在受自然災害影響的地區的救援工作,那裡的網際網路存取可能會中斷。
  • **可訪問性:**殘疾人士可以使用 AI 模型為視頻生成字幕、將口語翻譯成文字或獲得個性化協助,即使沒有網際網路存取。
  • **創意藝術:**藝術家和設計師可以利用該平台輕鬆地在本地測試以藝術或設計為重點的應用程式,從而提高生產力和創造力,同時保持資料安全性。

應對挑戰:對未來的考量

雖然 Google AI Edge Gallery 提供了顯著的優勢,但它也帶來了一些挑戰:

  • **計算資源:**在智慧型手機上運行 AI 模型可能需要大量的計算,這可能會耗盡電池電量並降低效能。
  • **儲存容量:**AI 模型可能相當大,需要裝置上大量的儲存空間。
  • **安全風險:**從未知來源手動安裝 APK 檔案可能會帶來安全風險。 使用者應採取預防措施,以確保他們正在從受信任的來源下載 APK 檔案。
  • **模型更新:**保持 AI 模型最新可能具有挑戰性,因為使用者可能需要手動下載並安裝更新。

為了應對這些挑戰,Google 需要繼續優化適用於行動裝置的 AI 模型、改進硬體加速以及開發用於分發模型更新的安全機制。

更廣泛的影響:行動 AI 的新時代

Google AI Edge Gallery 的推出代表了在普及 AI 並使其更容易為廣大受眾所接受方面的重要一步。 透過啟用智慧型手機上的本地 AI 處理,Google 正在授權使用者以新的和創新的方式利用 AI 的力量,無論他們的位置或網際網路連線如何。 這可能會迎來行動 AI 的新時代,在這一時代中,基於 AI 的應用程式將無縫地整合到我們的日常生活中,從而提高生產力、創造力和可訪問性。 Google AI Edge Gallery 準備改變行動格局,讓我們得以一窺 AI 無處不在且人人皆可輕鬆獲得的未來。 該開發突顯了 Google 致力於持續創新,塑造 AI 的發展並展示如何應用它來實現真實世界的用途和價值。 這種新方法解決了隱私以及對持續網際網路連線的需求等問題,從而將未來的前進步驟納入 AI 適應。