當人們談論人工智能（AI）時，腦海中浮現的往往是像ChatGPT或Google Gemini這樣運行於雲端的模型。然而，微軟推出了一種在個人電腦（PC）上運行本地AI的極其簡便方法，其便捷性絕對值得你關注。
在上週舉行的微軟Build開發者大會上，微軟發布了Microsoft Foundry AI Local。這是一款面向開發者的本地AI大型語言模型（LLM），但它對於所有希望體驗本地AI潛力的人來說都具有重要意義。讓我們深入了解一下這個工具，看看它為何如此引人注目。
Foundry AI Local：本地AI的新紀元
Microsoft Foundry AI Local 本質上是一個命令行工具，可以在你的機器上本地運行LLM。雖然最初的目標受眾是開發者，但它卻是目前嘗試本地AI最簡單的方式之一，因為它幾乎為你處理了所有事情。更重要的是，它還能優化你的PC性能。
想像一下，你想要安裝一個新的應用程式。傳統的做法是，你需要導航到網站或Microsoft Store，找到下載連結，然後告訴Windows應該將所有內容放置在哪裡。現在有了“winget”，一切都變得簡單多了。“winget”就像應用程式的DoorDash。你只需打開命令行並輸入你想要的應用程式的名稱，“winget”就會自動為你完成剩下的工作。你甚至不需要在第三方網站上登錄。
Foundry AI Local 的工作方式與之類似。你只需要從本文複製並貼上兩條命令，就可以立即開始使用。雖然微軟並未明確指出你需要專用的GPU或NPU，但它們確實會有助於提升效能。基本上，你需要Windows 10或11系統，至少8GB的RAM和3GB的儲存空間（建議使用16GB的RAM和15GB的磁碟空間）。Copilot+ PC是可選的，但如果你擁有配備Qualcomm Snapdragon X Elite處理器、Nvidia RTX 2000系列或AMD Radeon 6000系列GPU或更新型號的設備，你將會獲得更好的體驗。
快速上手：使用Foundry AI Local的步驟
以下是如何開始使用Foundry AI Local的詳細步驟：
打開命令行終端： 按下Windows鍵並開始輸入“terminal”。你應該會在建議的應用程式列表中看到Windows Terminal應用程式，也可能顯示為Windows PowerShell。這並不重要，兩者都可以使用。
輸入命令：
首先，你需要安裝 Foundry AI Local 的 CLI (Command Line Interface)。 在 terminal 中輸入：