Amazon Bedrock 現已提供 Meta 最新的人工智慧創新成果，Llama 4 Scout 17B 和 Llama 4 Maverick 17B 模型，作為完全託管、無伺服器的選項。這些新的基礎模型 (FMs) 透過先進的早期融合技術整合了原生多模態功能，使您能夠在應用程式中利用這些功能來實現精確的影像理解和增強的上下文處理。
Llama 4 採用創新的專家混合 (MoE) 架構。這種設計增強了推理和影像理解任務，同時仔細管理成本和速度。與其前身 Llama 3 相比，這種架構方法使 Llama 4 能夠以更低的成本提供卓越的效能，並為全球應用程式提供更廣泛的語言支援。
這些模型先前已在 Amazon SageMaker JumpStart 上提供，現在可以透過 Amazon Bedrock 存取，簡化了生成式 AI 應用程式的建構和擴展，並具有企業級的安全性和隱私。
深入了解 Llama 4 Maverick 17B
Llama 4 Maverick 17B 作為原生多模態模型脫穎而出，它包含 128 個專家模組和總共 4000 億個參數。它的優勢在於它精通理解影像和文字，使其非常適合各種用途的助手和聊天應用程式。該模型支援 100 萬個 token 的上下文窗口，提供了有效管理長文件和複雜輸入所需的靈活性。Llama 4 Maverick 17B 模型的強大之處不僅僅在於其龐大的參數數量，更在於其精巧的設計和對多模態資訊的處理能力。它能夠將視覺資訊與文字資訊融合，從而產生更豐富、更具上下文意識的回應。這使得它在需要深入理解圖像內容並將其與文字資訊結合的場景中非常有用，例如圖像描述、視覺問答、以及基於圖像的產品推薦等。此外，Llama 4 Maverick 17B 的 100 萬個 token 的上下文窗口也使其能夠處理更長的對話歷史和更複雜的輸入，從而提供更自然、更連貫的互動體驗。這對於需要維護長期記憶和理解上下文語境的聊天機器人應用程式至關重要。
探索 Llama 4 Scout 17B
相比之下，Llama 4 Scout 17B 是一個通用多模態模型。它具有 16 個專家模組、170 億個活動參數和總共 1090 億個參數。其效能超越了所有先前的 Llama 模型。目前，Amazon Bedrock 支援 Llama 4 Scout 模型 350 萬個 token 的上下文窗口，並計劃未來擴展。Llama 4 Scout 17B 雖然在參數規模上不如 Maverick 17B，但它仍然是一款非常強大的模型，並且在某些方面具有優勢。它的通用性使其能夠適應更廣泛的應用場景，並且在某些需要快速回應和低延遲的應用中可能表現更好。此外，350 萬個 token 的上下文窗口也為它提供了處理長文本和複雜輸入的能力，儘管不如 Maverick 17B 那麼大。Llama 4 Scout 17B 模型的另一個優點是它的成本效益。由於其較小的規模，它在計算資源方面的需求也較低，因此對於資源有限的開發者和企業來說，它可能是一個更具吸引力的選擇。
Llama 4 模型的實際應用
Llama 4 模型的高階功能可以適應各行各業的廣泛應用。以下是一些突出的用例：
- 企業應用： 您可以開發能夠跨不同工具和工作流程進行推理、處理多模態輸入以及為商業應用提供高品質回應的智慧代理。這些智慧代理可以幫助企業自動化各種任務，例如客戶服務、資料分析、以及內容生成等。它們可以理解和回應各種形式的輸入，包括文字、圖像、以及語音等，並且可以根據上下文資訊提供量身定制的回應。
- 多語言助手： 建立不僅能理解影像，還能以多種語言提供高品質回應的聊天應用程式，以滿足全球受眾的需求。這些多語言助手可以幫助企業擴展其全球業務，並與來自不同國家和地區的客戶進行互動。它們可以自動翻譯文字和語音，並且可以根據不同的文化背景調整其回應。
- 程式碼和文件智慧： 開發能夠理解程式碼、從文件中提取結構化資料以及對大量文字和程式碼進行深入分析的應用程式。這些應用程式可以幫助開發者提高程式碼品質、加快開發速度，並且可以幫助企業從大量文件中提取有用的資訊。它們可以使用自然語言處理和機器學習技術來理解程式碼和文件的語義，並且可以自動化各種任務，例如程式碼審查、文件摘要、以及資料提取等。
- 客戶支援： 透過影像分析功能增強支援系統，以便在客戶分享螢幕截圖或照片時更有效地解決問題。這種增強的客戶支援系統可以幫助企業提高客戶滿意度，並降低支援成本。它可以自動分析客戶分享的螢幕截圖和照片，並且可以根據圖像內容提供相關的解決方案。
- 內容創作： 以多種語言生成創意內容，並能夠理解和回應視覺輸入。這些內容創作工具可以幫助企業快速生成高品質的內容，並且可以根據不同的目標受眾和平台調整其內容風格。它們可以使用生成式 AI 技術來生成各種形式的內容，包括文字、圖像、以及影片等。
- 研究： 建構可以整合和分析多模態資料的研究應用程式，從文字和影像中提供見解。這些研究應用程式可以幫助研究人員更好地理解複雜的現象，並且可以加速科學發現的過程。它們可以使用自然語言處理、機器學習、以及電腦視覺技術來分析多模態資料，並且可以自動化各種任務，例如資料收集、資料清洗、以及資料分析等。
總之，Llama 4 模型在各個行業和應用領域都有著廣泛的應用前景。它們可以幫助企業提高效率、降低成本、改善客戶體驗、並且促進創新。隨著 AI 技術的不斷發展，Llama 4 模型將會變得更加強大和通用，並且將會在我們的生活中扮演越來越重要的角色。
開始在 Amazon Bedrock 中使用 Llama 4
若要開始在 Amazon Bedrock 中使用這些新的無伺服器模型，您必須先請求存取權。這可以透過 Amazon Bedrock 主控台完成，方法是從導覽窗格中選擇「模型存取」，然後啟用 Llama 4 Maverick 17B 和 Llama 4 Scout 17B 模型的存取權。
透過 Amazon Bedrock Converse API 簡化了將 Llama 4 模型整合到您的應用程式中，該 API 提供了一個用於對話式 AI 互動的統一介面。
Llama 4 Maverick 的多模態對話範例
以下是如何使用適用於 Python (Boto3) 的 Amazon SDK 與 Llama 4 Maverick 模型進行多模態對話的範例：