Amazon Bedrock 现在提供 Meta 最新的 AI 创新成果，Llama 4 Scout 17B 和 Llama 4 Maverick 17B 模型，作为完全托管的无服务器选项。这些新的基础模型 (FM) 通过先进的早期融合技术集成了原生多模态功能，使您能够在应用程序中利用这些功能进行精确的图像理解和增强的上下文处理。
Llama 4 采用创新的专家混合 (MoE) 架构。这种设计增强了推理和图像理解任务，同时仔细管理成本和速度。与之前的 Llama 3 相比，这种架构方法使 Llama 4 能够以更低的成本提供卓越的性能，并为全球应用程序提供更广泛的语言支持。
这些模型以前在 Amazon SageMaker JumpStart 上可用，现在可以通过 Amazon Bedrock 访问，从而简化了具有企业级安全性和隐私性的生成式 AI 应用程序的构建和扩展。
Llama 4 Maverick 17B 深入了解
Llama 4 Maverick 17B 是一款出色的原生多模态模型，包括 128 个专家模块和总共 4000 亿个参数。它的优势在于精通理解图像和文本，使其非常适合通用助手和聊天应用程序。该模型支持 100 万个 token 的上下文窗口，提供了有效管理长文档和复杂输入所需的灵活性。
Llama 4 Scout 17B 探索
相比之下，Llama 4 Scout 17B 是一款通用多模态模型。它具有 16 个专家模块、170 亿个激活参数和总共 1090 亿个参数。它的性能超过了所有以前的 Llama 模型。目前，Amazon Bedrock 支持 Llama 4 Scout 模型的 350 万 token 上下文窗口，并计划未来扩展。
Llama 4 模型的实际应用
Llama 4 模型的高级功能可以适应各个行业中的各种应用。以下是一些突出的用例：
- 企业应用： 您可以开发能够跨不同工具和工作流程进行推理、处理多模态输入并为商业应用提供高质量响应的智能代理。这些智能代理可以极大地提升企业内部的运营效率和决策能力。例如，在供应链管理中，智能代理可以分析来自不同渠道的数据，包括文本、图像和视频，从而预测潜在的瓶颈和优化物流流程。在金融服务领域，智能代理可以分析大量的财务报告和市场数据，以识别投资机会和管理风险。
- 多语种助手： 创建不仅可以理解图像还可以提供多种语言的高质量响应的聊天应用程序，以满足全球受众的需求。这些多语种助手可以打破语言障碍，促进跨文化交流和合作。例如，在旅游行业中，多语种助手可以为来自不同国家的游客提供个性化的旅行建议和预订服务。在教育领域，多语种助手可以为学生提供多种语言的课程辅导和学习资源。
- 代码和文档智能： 开发能够理解代码、从文档中提取结构化数据以及对大量文本和代码进行深入分析的应用程序。这些应用程序可以极大地提高开发人员和研究人员的工作效率。例如，在软件开发中，代码智能应用程序可以自动检测代码中的错误和漏洞，并提供修复建议。在法律领域，文档智能应用程序可以从大量的法律文件中提取关键信息，并进行法律分析和研究。
- 客户支持： 通过图像分析功能增强支持系统，从而在客户共享屏幕截图或照片时能够更有效地解决问题。图像分析功能可以帮助客户支持人员快速识别问题并提供解决方案，从而提高客户满意度。例如，在电子商务领域，客户支持系统可以通过分析客户上传的商品照片来识别商品的型号和规格，并提供相应的售后服务。在医疗保健领域，客户支持系统可以通过分析患者上传的症状照片来初步判断病情，并提供就医建议。
- 内容创作： 生成多种语言的创意内容，能够理解和响应视觉输入。这可以帮助内容创作者更快地创作出高质量的内容，并扩大内容的影响力。例如，在广告行业中，内容创作应用程序可以根据目标受众的喜好和兴趣生成个性化的广告文案和图像。在新闻媒体领域，内容创作应用程序可以自动生成新闻报道和评论，并配以相关的图片和视频。
- 研究： 构建可以集成和分析多模态数据的研究应用程序，提供来自文本和图像的见解。这可以帮助研究人员更深入地理解复杂的研究问题，并发现新的研究方向。例如，在医学研究中，研究应用程序可以分析患者的病历、医学影像和基因数据，以发现疾病的诊断和治疗方法。在社会科学研究中，研究应用程序可以分析社交媒体数据、新闻报道和调查问卷，以了解社会趋势和公众舆论。
开始在 Amazon Bedrock 中使用 Llama 4
要开始在 Amazon Bedrock 中使用这些新的无服务器模型，您必须首先请求访问权限。这可以通过 Amazon Bedrock 控制台完成，方法是从导航窗格中选择模型访问，然后为 Llama 4 Maverick 17B 和 Llama 4 Scout 17B 模型启用访问权限。
通过 Amazon Bedrock Converse API 可以简化将 Llama 4 模型集成到您的应用程序中，该 API 为会话 AI 交互提供了一个统一的界面。
Llama 4 Maverick 的多模态对话示例
以下是如何使用适用于 Python (Boto3) 的 Amazon SDK 与 Llama 4 Maverick 模型进行多模态对话的示例：