Foundry AI Local:本地AI的新纪元
当人们谈论人工智能(AI)时,往往会想到像 ChatGPT 或 Google Gemini 这样运行在云端的模型。然而,微软推出了一种极其简便的方法,可以在个人电脑(PC)上运行本地 AI,其便捷性绝对值得你关注。
在上周举行的微软 Build 开发者大会上,微软发布了 Microsoft Foundry AI Local。这是一款面向开发者的本地 AI 大型语言模型(LLM),但它对于所有希望体验本地 AI 潜力的人来说都具有重要意义。让我们深入了解一下这个工具,看看它为何如此引人注目。
Microsoft Foundry AI Local 本质上是一个命令行工具,可以在你的机器上本地运行 LLM。虽然最初的目标受众是开发者,但它却是目前尝试本地 AI 最简单的方式之一,因为它几乎为你处理了所有事情。更重要的是,它还能优化你的 PC 性能。
想象一下,你想要安装一个新的应用程序。传统的做法是,你需要导航到网站或 Microsoft Store,找到下载链接,然后告诉 Windows 应该将所有内容放置在哪里。现在有了 “winget”,一切都变得简单多了。“winget” 就像应用程序的 DoorDash。你只需打开命令行并输入你想要的应用程序的名称,“winget” 就会自动为你完成剩下的工作。你甚至不需要在第三方网站上登录。
Foundry AI Local 的工作方式与之类似。你只需要从本文复制并粘贴两条命令,就可以立即开始使用。虽然微软并未明确指出你需要专用的 GPU 或 NPU,但它们确实会有所帮助。基本上,你需要 Windows 10 或 11 系统,至少 8GB 的 RAM 和 3GB 的存储空间(建议使用 16GB 的 RAM 和 15GB 的磁盘空间)。Copilot+ PC 是可选的,但如果你拥有配备 Qualcomm Snapdragon X Elite 处理器、Nvidia RTX 2000 系列或 AMD Radeon 6000 系列 GPU 或更新型号的设备,你将会获得更好的体验。
快速上手:使用Foundry AI Local的步骤
以下是如何开始使用 Foundry AI Local 的详细步骤:
打开命令行终端: 按下 Windows 键并开始输入 “terminal”。你应该会在建议的应用程序列表中看到 Windows Terminal 应用程序,也可能显示为 Windows PowerShell。这并不重要,两者都可以使用。
输入命令: 在提示符下,输入以下命令: