Foundry AI Local : L’Ère Nouvelle de l’IA Locale
Microsoft Foundry AI Local est essentiellement un outil en ligne de commande qui peut exécuter localement des LLM sur votre machine. Bien que le public cible initial soit les développeurs, c’est l’un des moyens les plus simples d’essayer l’IA locale, car il s’occupe de presque tout pour vous. Plus important encore, il peut également optimiser les performances de votre PC.
Imaginez que vous souhaitiez installer une nouvelle application. La façon traditionnelle de faire est de naviguer vers le site Web ou le Microsoft Store, de trouver le lien de téléchargement, puis de dire à Windows où placer tout le contenu. Maintenant, avec « winget », tout devient beaucoup plus facile. « winget » est comme le DoorDash des applications. Il vous suffit d’ouvrir la ligne de commande et de saisir le nom de l’application souhaitée, et « winget » fera automatiquement le reste pour vous. Vous n’avez même pas besoin de vous connecter sur des sites Web tiers.
Foundry AI Local fonctionne de manière similaire. Vous n’avez qu’à copier et coller deux commandes de cet article et vous pouvez commencer à l’utiliser immédiatement. Bien que Microsoft n’ait pas explicitement indiqué que vous aviez besoin d’un GPU ou d’un NPU dédié, ils seraient certainement utiles. Fondamentalement, vous avez besoin d’un système Windows 10 ou 11, d’au moins 8 Go de RAM et de 3 Go d’espace de stockage (16 Go de RAM et 15 Go d’espace disque sont recommandés). Le Copilot+ PC est facultatif, mais vous obtiendrez une meilleure expérience si vous possédez un appareil équipé d’un processeur Qualcomm Snapdragon X Elite, d’un GPU Nvidia RTX série 2000 ou AMD Radeon série 6000 ou plus récent.
Démarrage Rapide : Les Étapes Pour Utiliser Foundry AI Local
Voici les étapes détaillées pour commencer à utiliser Foundry AI Local :
Ouvrez un terminal en ligne de commande : Appuyez sur la touche Windows et commencez à saisir « terminal ». Vous devriez voir l’application Windows Terminal dans la liste des applications suggérées, ou elle pourrait être affichée sous le nom de Windows PowerShell. Cela n’a pas d’importance, les deux peuvent être utilisés.
Entrez la commande : À l’invite, entrez la commande suivante :
1 | powershell -ExecutionPolicy Bypass -Scope CurrentUser -File "https://aka.ms/ai/install-localai.ps1" |
Cette commande téléchargera et exécutera un script PowerShell qui installera automatiquement Foundry AI Local pour vous.
- Lancez le LLM : Une fois l’installation terminée, vous devez sélectionner et exécuter un LLM. Entrez la commande suivante :
1 | foundryai local serve |
Cela lancera l’interface de ligne de commande, où vous pourrez choisir un LLM à exécuter.
- Commencez à utiliser : Une fois que vous avez sélectionné un LLM, Foundry AI Local lancera un serveur local et vous pourrez interagir avec lui via votre navigateur ou toute application prenant en charge l’API OpenAI.
Les Avantages de Foundry AI Local
Pourquoi cet outil est-il si passionnant ? Voici quelques raisons principales :
Facilité d’utilisation : Comme mentionné précédemment, Foundry AI Local a été conçu pour être très facile à utiliser. Vous n’avez besoin que de quelques commandes pour le démarrer et le faire fonctionner.
Traitement local : Étant donné que tout le traitement se fait localement sur votre PC, vous pouvez bénéficier de vitesses de réponse plus rapides et d’une confidentialité accrue. Vos données ne sont pas envoyées dans le cloud et ne sont pas utilisées pour entraîner des modèles d’IA.
Personnalisation : Foundry AI Local vous permet de choisir différents LLM et de les personnaliser selon vos besoins.
Les Cas d’Utilisation Potentiels de Foundry AI Local
Foundry AI Local ouvre la porte à divers cas d’application. Voici quelques cas d’utilisation potentiels :
Assistant IA local : Vous pouvez utiliser Foundry AI Local pour créer un assistant IA local qui peut vous aider à effectuer diverses tâches, telles que la rédaction d’e-mails, le résumé de documents ou la réponse à des questions.
Applications d’IA hors ligne : Vous pouvez utiliser Foundry AI Local pour exécuter des applications d’IA sans connexion Internet. Ceci est très utile pour les personnes qui ont besoin de travailler dans des zones reculées ou des environnements sensibles.
Développement IA : Les développeurs peuvent utiliser Foundry AI Local pour tester et déboguer leurs modèles d’IA sans avoir à dépendre des services cloud.
Conclusion
Microsoft Foundry AI Local est une avancée significative dans le domaine de l’IA locale. Il offre aux développeurs et aux utilisateurs ordinaires un moyen simple d’exécuter des LLM sur un PC. Avec le développement continu des technologies de l’IA, nous pouvons nous attendre à voir de plus en plus de solutions d’IA locale comme Foundry AI Local apparaître. Cela marque la démocratisation de l’IA, la rendant facilement accessible et utilisable par tous.