Amazon Bedrock에서 Meta의 최신 인공 지능 혁신인 Llama 4 Scout 17B 및 Llama 4 Maverick 17B 모델을 완전 관리형 서버리스 옵션으로 사용할 수 있게 되었습니다. 이러한 새로운 파운데이션 모델(FM)은 고급 초기 융합 기술을 통해 기본 멀티모달 기능을 통합하여 애플리케이션 내에서 정확한 이미지 이해 및 향상된 컨텍스트 처리에 이러한 기능을 활용할 수 있도록 지원합니다.
Llama 4는 혁신적인 MoE(Mixture of Experts) 아키텍처를 사용합니다. 이 설계는 추론 및 이미지 이해 작업을 모두 향상시키는 동시에 비용과 속도를 신중하게 관리합니다. 이전 모델인 Llama 3에 비해 이 아키텍처 방식은 Llama 4가 더 낮은 비용으로 우수한 성능을 제공하고 글로벌 애플리케이션에 대한 더 광범위한 언어 지원을 제공할 수 있도록 합니다.
이전에 Amazon SageMaker JumpStart에서 사용할 수 있었던 이러한 모델은 이제 Amazon Bedrock을 통해 액세스할 수 있으므로 엔터프라이즈급 보안 및 개인 정보 보호를 통해 생성적 AI 애플리케이션의 구축 및 확장을 간소화합니다.
Llama 4 Maverick 17B 상세 분석
Llama 4 Maverick 17B는 128개의 전문가 모듈과 총 4천억 개의 파라미터를 포함하는 기본 멀티모달 모델로 두각을 나타냅니다. 이 모델의 강점은 이미지와 텍스트를 모두 이해하는 데 능숙하다는 점이며, 이는 다재다능한 어시스턴트 및 채팅 애플리케이션에 매우 적합합니다. 1백만 토큰 컨텍스트 창을 지원하는 이 모델은 긴 문서와 복잡한 입력을 효과적으로 관리하는 데 필요한 유연성을 제공합니다.
Llama 4 Scout 17B 탐색
반면 Llama 4 Scout 17B는 범용 멀티모달 모델입니다. 이 모델은 16개의 전문가 모듈, 170억 개의 활성 파라미터 및 총 1,090억 개의 파라미터를 특징으로 합니다. 이 모델의 성능은 이전의 모든 Llama 모델을 능가합니다. 현재 Amazon Bedrock은 Llama 4 Scout 모델에 대해 350만 토큰 컨텍스트 창을 지원하며, 향후 확장을 계획하고 있습니다.
Llama 4 모델의 실제 응용
Llama 4 모델의 고급 기능은 다양한 산업 분야에서 광범위한 응용 분야에 적용할 수 있습니다. 다음은 몇 가지 주요 사용 사례입니다.
- 엔터프라이즈 애플리케이션: 다양한 도구와 워크플로에서 추론하고, 멀티모달 입력을 처리하고, 상업적 애플리케이션에 대한 고품질 응답을 제공할 수 있는 지능형 에이전트를 개발할 수 있습니다.
- 다국어 어시스턴트: 이미지를 이해할 뿐만 아니라 다국어로 고품질 응답을 제공하여 전 세계 고객에게 서비스를 제공하는 채팅 애플리케이션을 만드십시오.
- 코드 및 문서 인텔리전스: 코드를 이해하고, 문서에서 구조화된 데이터를 추출하고, 대량의 텍스트와 코드에 대한 심층 분석을 수행할 수 있는 애플리케이션을 개발합니다.
- 고객 지원: 고객이 스크린샷이나 사진을 공유할 때 보다 효과적인 문제 해결을 가능하게 하는 이미지 분석 기능을 통해 지원 시스템을 개선합니다.
- 콘텐츠 제작: 시각적 입력을 이해하고 이에 응답하는 기능을 통해 여러 언어로 창의적인 콘텐츠를 생성합니다.
- 연구: 텍스트와 이미지 모두에서 통찰력을 제공하는 멀티모달 데이터를 통합하고 분석할 수 있는 연구 애플리케이션을 구축합니다.
Amazon Bedrock에서 Llama 4 시작하기
Amazon Bedrock에서 이러한 새로운 서버리스 모델을 사용하려면 먼저 액세스를 요청해야 합니다. 이는 탐색 창에서 모델 액세스를 선택하고 Llama 4 Maverick 17B 및 Llama 4 Scout 17B 모델 모두에 대한 액세스를 활성화하여 Amazon Bedrock 콘솔을 통해 수행할 수 있습니다.
Amazon Bedrock Converse API를 사용하면 Llama 4 모델을 애플리케이션에 통합하는 것이 간소화됩니다. 이 API는 대화형 AI 상호 작용을 위한 통합 인터페이스를 제공합니다.
Llama 4 Maverick을 사용한 멀티모달 대화 예시
다음은 Amazon SDK for Python (Boto3)을 사용하여 Llama 4 Maverick 모델과 멀티모달 대화를 수행하는 방법의 예입니다.