Foundry AI Local: Windows 11의 비밀 무기, 게임 규칙을 뒤흔드는 혁신
사람들이 인공지능(AI)에 대해 이야기할 때, 흔히 클라우드에서 실행되는 ChatGPT나 Google Gemini 같은 모델을 떠올립니다. 하지만 Microsoft는 개인용 컴퓨터(PC)에서 로컬 AI를 실행하는 매우 간단한 방법을 출시했습니다. 그 편리함은 주목할 만한 가치가 있습니다.
지난주에 열린 Microsoft Build 개발자 컨퍼런스에서 Microsoft는 Microsoft Foundry AI Local을 발표했습니다. 이것은 개발자를 위한 로컬 AI 대규모 언어 모델(LLM)이지만, 로컬 AI의 잠재력을 경험하고자 하는 모든 사람에게 중요한 의미를 갖습니다. 이 도구를 자세히 살펴보고 왜 이렇게 주목받는지 알아봅시다.
Foundry AI Local: 로컬 AI의 새로운 시대
Microsoft Foundry AI Local은 본질적으로 당신의 머신에서 로컬로 LLM을 실행할 수 있는 커맨드 라인 도구입니다. 초기 목표 청중은 개발자였지만, 사실상 모든 것을 처리하기 때문에 로컬 AI를 시도하는 가장 간단한 방법 중 하나입니다. 더 중요한 것은 PC 성능을 최적화할 수도 있다는 것입니다.
새로운 응용 프로그램을 설치하고 싶다고 상상해 보세요. 전통적인 방법은 웹사이트나 Microsoft Store로 이동하여 다운로드 링크를 찾은 다음 Windows에 모든 내용을 어디에 넣어야 하는지 알려주는 것입니다. 이제 “winget”을 사용하면 모든 것이 간단해집니다. “winget”은 응용 프로그램을 위한 DoorDash와 같습니다. 커맨드 라인을 열고 원하는 응용 프로그램의 이름을 입력하기만 하면 “winget”이 나머지 작업을 자동으로 완료합니다. 타사 웹사이트에 로그인할 필요조차 없습니다.
Foundry AI Local은 이와 유사하게 작동합니다. 이 기사에서 두 개의 명령을 복사하여 붙여넣기만 하면 즉시 시작할 수 있습니다. Microsoft는 전용 GPU 또는 NPU가 필요한지 명확하게 언급하지 않았지만, 있으면 도움이 됩니다. 기본적으로 Windows 10 또는 11 시스템, 최소 8GB의 RAM 및 3GB의 저장 공간이 필요합니다(16GB의 RAM 및 15GB의 디스크 공간 권장). Copilot+ PC는 선택 사항이지만, Qualcomm Snapdragon X Elite 프로세서, Nvidia RTX 2000 시리즈 또는 AMD Radeon 6000 시리즈 GPU 또는 최신 모델이 장착된 장치가 있는 경우 더 나은 경험을 얻을 수 있습니다.
빠르게 시작하기: Foundry AI Local 사용 단계
다음은 Foundry AI Local을 시작하는 방법에 대한 자세한 단계입니다.
커맨드 라인 터미널 열기: Windows 키를 누르고 “terminal”을 입력하기 시작합니다. 제안된 응용 프로그램 목록에서 Windows Terminal 응용 프로그램을 볼 수 있으며 Windows PowerShell로 표시될 수도 있습니다. 중요하지 않으며 둘 다 사용할 수 있습니다.
명령 입력: 프롬프트에서 다음 명령을 입력합니다.
1 | winget install Microsoft.Foundry.AI.Local |
- 다운로드 및 설치가 완료되면 다음 명령을 실행합니다.
1 | FoundryAI local start |
- AI 모델 선택: Foundry AI Local은 다양한 AI 모델을 제공합니다. 사용할 모델을 선택하여 설치할 수 있습니다. 예를 들어 Mistral AI 모델을 설치하려면 다음 명령을 실행합니다.
1 | FoundryAI local model add MistralAI.Mistral-7B-Instruct-v0.1 |
- AI 모델 사용: 모델이 설치되면 Foundry AI Local을 통해 해당 모델을 사용할 수 있습니다. 명령줄에서 직접 텍스트를 입력하여 모델에 질문하거나 작업을 요청할 수 있습니다. 예를 들어 Mistral AI 모델에 질문하려면 다음 명령을 실행합니다.
1 | FoundryAI local chat "안녕하세요. 오늘 날씨가 어때요?" |
이 모든 것이 기술적인 것처럼 들릴 수 있지만, AI를 사용하기 위해 코딩 전문가가 될 필요는 없다는 점을 기억하는 것이 중요합니다. Foundry AI Local은 AI를 더 쉽게 접근할 수 있도록 설계되었으며, 일반 사용자도 AI의 이점을 누릴 수 있도록 하는 데 주력하고 있습니다. Microsoft는 AI를 민주화하고 있으며, Foundry AI Local은 그 여정에서 중요한 단계입니다.
Foundry AI Local의 잠재력
Foundry AI Local은 다양한 가능성을 열어줍니다. 개발자는 테스트를 위해 LLM을 로컬에서 실행하여 클라우드에 의존하지 않고도 애플리케이션을 개발하고 디버깅할 수 있습니다. 이는 특히 데이터 프라이버시 또는 인터넷 연결이 제한적인 상황에서 중요합니다.
또한, Foundry AI Local은 교육 및 개인 학습에 사용할 수도 있습니다. 사용자는 PC에서 직접 AI 모델을 실험하고, 언어 번역, 텍스트 요약, 콘텐츠 생성과 같은 다양한 작업을 수행할 수 있습니다. 이는 AI를 배우고 이해하는 데 매우 유용한 도구입니다.
Copilot+ PC와의 시너지 효과
Microsoft는 Copilot+ PC를 통해 온디바이스 AI를 더욱 강화했습니다. Copilot+ PC는 Qualcomm Snapdragon X Elite 프로세서와 같은 최신 하드웨어를 활용하여 AI 작업을 더욱 효율적으로 처리합니다. Foundry AI Local과 Copilot+ PC를 함께 사용하면 사용자 경험이 크게 향상됩니다.
Copilot+ PC는 NPU(신경망 처리 장치)를 통해 AI 작업을 가속화하고, CPU와 GPU의 부담을 줄여줍니다. 이를 통해 PC는 더 빠르고 효율적으로 AI 작업을 수행할 수 있으며, 배터리 수명도 연장됩니다. 결과적으로 Copilot+ PC는 Foundry AI Local과 같은 로컬 AI 도구에 이상적인 플랫폼을 제공합니다.
주의 사항 및 제한 사항
Foundry AI Local은 강력한 도구이지만, 몇 가지 주의 사항과 제한 사항이 있습니다.
- 하드웨어 요구 사항: Foundry AI Local은 리소스 집약적인 AI 모델을 실행하므로 적절한 하드웨어가 필요합니다. 권장 사양을 충족하지 못하면 성능 저하가 발생할 수 있습니다.
- 모델 크기: 특정 모델은 상당한 양의 디스크 공간을 차지할 수 있으므로 스토리지 공간을 고려해야 합니다.
- 보안: 로컬 AI 모델을 실행할 때는 보안 측면을 고려해야 합니다. 신뢰할 수 있는 출처에서 모델을 다운로드하고, 정기적으로 업데이트하여 보안 취약점을 해결해야 합니다.
결론
Microsoft Foundry AI Local은 PC에서 로컬 AI를 경험하는 간단하고 효율적인 방법을 제공합니다. 개발자뿐만 아니라 일반 사용자도 AI의 잠재력을 탐색하고 활용할 수 있도록 지원합니다. Copilot+ PC와 함께 사용하면 더욱 강력한 시너지 효과를 발휘하여 사용자 경험을 극대화할 수 있습니다. Foundry AI Local은 AI의 문턱을 낮추고, 누구나 AI의 혜택을 누릴 수 있도록 하는 데 기여할 것입니다.
```