甲骨文雲基礎設施 (OCI) Generative AI 服務迎來了一個激動人心的新成員：Meta Llama 4 模型系列，包括 Scout 和 Maverick。這些模型融合了獨特的專家混合 (MoE) 架構，大幅提升了處理能力和效率。它們經過專門優化，能夠在多模態理解、多語言任務、程式碼生成和工具調用等多个領域發揮卓越性能，並且能夠驅動先進的代理系統。
目前，這些模型已在以下區域的正式發布 (GA) 版本中提供：
- 按需：ORD（芝加哥）
- 專用 AI 集群：ORD（芝加哥），GRU（瓜魯柳斯），LHR（倫敦），KIK（基科約）
Llama 4 系列的主要亮點
多模態能力：打破數據類型的界限
Llama 4 Scout 和 Maverick 並非仅仅是語言模型，它們是真正的多模態大師。它們能够原生處理和整合各種類型的數據，包括文本和图像，從而實現更豐富和更全面的 AI 應用。你可以設想一下，一個 AI 系統能够同時理解一段文字描述和一張相關的图片，從而更好地把握上下文並做出更明智的決策。這種多模態能力為諸如图像字幕生成、視覺問答等任務開闢了全新的可能性。
多模態能力的應用非常廣泛，例如，在醫療領域，AI 系統可以結合病人的病歷文本描述和醫學影像，以更精確地診斷疾病；在零售業，AI 系統可以分析產品描述和圖片，更好地理解顧客的需求，提供個性化的推薦；在自動駕駛領域，AI 系統可以同時處理來自攝像頭和雷達的數據，以提高駕駛的安全性。總之，多模態能力的出現，讓 AI 系統可以像人類一樣，通過多種感官信息來理解世界，從而實現更智能、更高效的應用。
多語言支持：溝通無國界
Llama 4 系列的另一大亮點是其强大的多語言支持能力。這些模型在包含 200 種語言的數據集上進行了訓練，並且針對 12 種主要語言（阿拉伯語、英語、法語、德語、印地語、印度尼西亞語、意大利語、葡萄牙語、西班牙語、塔加祿語、泰語和越南語）進行了微調。這意味著它們能够理解和生成多種語言的文本，從而為全球範圍內的應用打開了大門。值得注意的是，图像理解功能目前僅支持英語。
这种广泛的多语言支持，为跨文化交流和全球化应用带来了极大的便利。例如，企业可以利用Llama 4系列模型，自动将产品信息翻译成多种语言，从而更好地开拓国际市场；研究人员可以使用这些模型，分析不同语言的文献，从而获得更全面的研究成果；新闻机构可以利用这些模型，将新闻报道翻译成多种语言，从而让更多的人了解世界大事。此外，多语言支持还可以促进不同文化之间的交流和理解，消除语言障碍，构建一个更加和谐的世界。
高效開發：更小的 GPU 占用空間
對於開發者而言，Llama 4 Scout 的設計初衷就是為了實現更高的可訪問性。它可以在較小的 GPU 占用空間上高效運行，這使得它成為資源有限的環境下的理想選擇。這意味著即使沒有强大的硬件設備，開發者也能够利用 Llama 4 Scout 的强大功能，加速 AI 應用的開發和部署。
降低 GPU 占用空间对于普及 AI 技术至关重要。许多开发者，尤其是小型企业和个人开发者，可能无法负担昂贵的 GPU 硬件。通过降低 GPU 占用空间，Llama 4 Scout 让更多的开发者可以参与到 AI 应用的开发中来，从而加速 AI 技术的创新和普及。此外，更小的 GPU 占用空间也意味着更低的能耗，这对于环境保护也具有积极意义。
開源模型：賦能社區
Meta 選擇了開放的姿態，以 Llama 4 社区許可協議發布了這兩個模型。這意味著開發者可以自由地對它們進行微調和部署，只需遵守特定的許可條款即可。這種開放的模式能够促進 AI 社区的创新和協作，讓更多的人能够參與到 AI 技术的開發和應用中來。
开放源代码是推动技术创新的一大动力。通过开放 Llama 4 系列模型的源代码，Meta 为 AI 社区提供了一个宝贵的资源，鼓励开发者对其进行修改、改进和定制，从而创造出更多有价值的 AI 应用。这种开放的模式不仅可以加速 AI 技术的创新，还可以促进知识的共享和传播，构建一个更加繁荣的 AI 生态系统。
知識截止日期
需要注意的是，Llama 4 模型的知識截止日期為 2024 年 8 月。這意味著它們可能無法提供在此日期之後發生的事件或信息的最新信息。
在使用 Llama 4 系列模型时，务必注意其知识截止日期，避免使用其生成过时或不准确的信息。对于需要最新信息的应用，可以考虑结合其他数据源，或使用 fine-tuning 等技术，对模型进行更新。
重要提示： Llama 可接受使用政策限制其在歐盟 (EU) 內的使用。
Llama 4 Scout：輕量級冠軍
架构：巧妙的参数设计
Llama 4 Scout 采用了一种巧妙的架构设计，它在总共约 1090 亿个参数中，仅激活了 170 亿个参数。这种设计利用了 16 个专家的混合，从而在性能和效率之间实现了良好的平衡。通过只激活一部分参数，Scout 能够显著减少计算需求，使其能够在资源有限的环境中运行。
专家混合（MoE）架构是一种新兴的 AI 模型架构，它通过将模型分解成多个专家，并根据输入数据的不同，动态地选择激活不同的专家，从而提高模型的效率和性能。Llama 4 Scout 的 MoE 架构使其能够在保持高性能的同时，显著降低计算需求，从而使其能够在资源有限的环境中运行。这种架构对于移动设备和边缘计算等场景尤其重要。
上下文窗口：處理長文本的能力
Llama 4 Scout 支持高达 1000 万个 token 的上下文长度（需要多个 GPU）。不过，在正式发布 (GA) 时，OCI Generative AI 服务将支持 192k 个 token 的上下文长度。即使是 192k 的上下文窗口也足以处理相当长的文本，例如书籍章节或详细的报告。
上下文窗口是指模型可以处理的最大文本长度。更长的上下文窗口意味着模型可以更好地理解长文本的上下文信息，从而生成更准确、更连贯的输出。192k token 的上下文窗口对于处理书籍章节、详细报告、法律文件等长文本已经足够。当然，对于需要处理超长文本的应用，可以使用多个 GPU 来扩展上下文窗口。
部署：小巧而强大
Llama 4 Scout 的设计目标之一就是在较小的 GPU 占用空间上高效运行。这使得它成为各种部署场景的理想选择，包括边缘设备和资源有限的云环境。
小巧的部署空间意味着 Llama 4 Scout 可以部署在各种设备上，包括移动设备、嵌入式系统和边缘服务器。这使得 AI 技术可以更广泛地应用于各种场景，例如智能家居、自动驾驶和工业自动化。此外，更小的部署空间也意味着更低的部署成本和维护成本。
性能：超越競爭對手
Llama 4 Scout 在多个基准测试中都表现出色，超越了 Google 的 Gemma 3 和 Mistral 3.1 等模型。这证明了 Scout 在性能方面的卓越能力，使其成为各种 AI 任务的强大工具。
在 AI 模型的世界里，性能是衡量模型优劣的重要指标。Llama 4 Scout 在多个基准测试中超越了竞争对手，证明了其在语言理解、文本生成、代码生成等方面的卓越能力。这意味着 Llama 4 Scout 可以更好地帮助开发者完成各种 AI 任务，提高工作效率。
Llama 4 Maverick：重量級選手
架构：更大的规模，更强大的力量
与 Scout 相比，Llama 4 Maverick 采用了更大的架构规模。它同样激活了 170 亿个参数，但它是在一个总共约 4000 亿个参数的更大框架内实现的，并且利用了 128 个专家。这种更大的规模赋予了 Maverick 更强大的能力，使其能够在更复杂的 AI 任务中表现出色。
更大的模型规模通常意味着更强的性能。Llama 4 Maverick 通过更大的参数规模和更多的专家，拥有了更强大的语言理解和生成能力，使其能够在更复杂的 AI 任务中表现出色。例如，Maverick 可以处理更复杂的对话，生成更逼真的文本，完成更困难的代码生成任务。
上下文窗口：超長的記憶力
Llama 4 Maverick 支持高达 100 万个 token 的上下文长度。在正式发布 (GA) 时，OCI 部署将支持 512k 个 token 的上下文长度。如此长的上下文窗口使得 Maverick 能够处理极其复杂的文本，例如完整的书籍或多个文档的集合。
512k token 的上下文窗口意味着 Llama 4 Maverick 可以处理完整的书籍、多个文档的集合、甚至长时间的对话记录。这使得 Maverick 可以更好地理解长文本的上下文信息，从而生成更准确、更连贯的输出。例如，Maverick 可以用于生成小说、撰写报告、总结会议记录等任务。
部署：需要更大的空間
由于其更大的规模，Llama 4 Maverick 需要比 Scout 更大的部署空间。在 GA 时，OCI 上的 Maverick 部署大约需要 Scout 的两倍空间。
更大的部署空间意味着 Llama 4 Maverick 需要更强大的硬件设备来支持其运行。因此，在选择 Llama 4 Maverick 时，需要考虑硬件设备的性能和成本。对于资源有限的环境，可能更适合选择 Llama 4 Scout。
性能：與頂級模型相媲美
在代码生成和推理任务中，Llama 4 Maverick 的性能可以与 OpenAI 的 GPT-4o 和 DeepSeek-V3 等顶级模型相媲美。这证明了 Maverick 在 AI 领域的领先地位。
与顶级模型相媲美的性能，意味着 Llama 4 Maverick 已经达到了 AI 领域的最高水平。它可以用于各种复杂的 AI 任务，例如代码生成、自然语言理解、机器翻译等。选择 Llama 4 Maverick，意味着选择了最先进的 AI 技术。
总而言之，Llama 4 系列代表了 AI 模型开发的重大进步。它们在性能、多功能性和可访问性方面都得到了显著提升，为各种应用场景提供了强大的支持。
Llama 4 系列模型的发布，为开发者和企业提供了一系列强大的 AI 工具。 Whether 您需要高性能的模型来处理复杂的任务，还是轻量级的模型来部署到资源有限的设备上，Llama 4 系列都能满足您的需求。
OCI 客户现在可以轻松地利用这些强大的模型，而无需担心基础设施管理的复杂性。他们可以通过聊天界面、API 或专用端点来访问这些模型，从而简化 AI 应用的开发和部署流程。
OCI 提供的简便易用的访问方式，降低了 AI 技术的使用门槛，让更多的开发者和企业可以轻松地利用 Llama 4 系列模型，加速 AI 应用的开发和部署。
Llama 4 模型的发布标志着 OCI Generative AI 服务进入了一个新的时代。通过提供这些先进的模型，OCI 正在帮助客户释放 AI 的全部潜力，并推动各行各业的创新。
OCI 致力于为客户提供最先进的 AI 技术，帮助他们解决各种业务问题，推动创新和发展。 Llama 4 系列模型的发布，是 OCI 在 AI 领域持续投入和不断创新的重要体现。