O mundo da Inteligência Artificial (IA) muitas vezes evoca imagens de modelos operando na nuvem, como o ChatGPT ou o Google Gemini. No entanto, a Microsoft introduziu um método incrivelmente simples para executar IA localmente em computadores pessoais (PCs), e a sua conveniência merece toda a sua atenção.
Na conferência Microsoft Build para desenvolvedores, a Microsoft revelou o Microsoft Foundry AI Local. Embora seja direcionada principalmente para desenvolvedores como um modelo de linguagem grande (LLM) de IA local, ela tem implicações significativas para qualquer pessoa que deseje experimentar o poder da IA local. Vamos nos aprofundar nesta ferramenta e ver o que a torna tão notável.
Foundry AI Local: Uma Nova Era para a IA Local
O Microsoft Foundry AI Local é essencialmente uma ferramenta de linha de comando que permite executar LLMs localmente em sua máquina. Embora o público-alvo inicial sejam os desenvolvedores, é uma das maneiras mais fáceis de experimentar a IA local no momento, pois cuida de quase tudo para você. Mais importante, ele otimiza o desempenho do seu PC.
Imagine que você deseja instalar um novo aplicativo. Tradicionalmente, você precisaria navegar até um site ou a Microsoft Store, encontrar o link de download e, em seguida, dizer ao Windows onde colocar tudo. Agora que você tem o “winget”, tudo se torna muito mais fácil. O “winget” é como o DoorDash para aplicativos. Basta abrir a linha de comando e digitar o nome do aplicativo desejado, e o “winget” fará o resto para você. Você nem precisa fazer login em um site de terceiros.
O Foundry AI Local funciona de forma semelhante. Você só precisa copiar e colar duas linhas de comando deste artigo, e estará pronto para começar. Embora a Microsoft não tenha afirmado explicitamente que você precisa de uma GPU ou NPU dedicada, elas certamente ajudariam. Basicamente, você precisa de um sistema Windows 10 ou 11, pelo menos 8 GB de RAM e 3 GB de espaço de armazenamento (16 GB de RAM e 15 GB de espaço em disco são recomendados). Um Copilot+ PC é opcional, mas você terá uma experiência melhor se tiver um dispositivo equipado com um processador Qualcomm Snapdragon X Elite, uma GPU Nvidia RTX série 2000 ou uma GPU AMD Radeon série 6000 ou mais recente.
Requisitos de Sistema e Desempenho
É crucial destacar que a experiência com o Foundry AI Local pode variar significativamente dependendo da configuração do seu sistema. Embora os requisitos mínimos sejam um sistema Windows 10 ou 11 com 8GB de RAM e 3GB de espaço livre em disco, para um desempenho mais suave e eficiente, a Microsoft recomenda pelo menos 16GB de RAM e 15GB de espaço em disco. A presença de uma GPU dedicada, como uma Nvidia RTX série 2000 ou uma AMD Radeon série 6000 (ou versões mais recentes), ou um processador Qualcomm Snapdragon X Elite, pode aprimorar ainda mais a experiência, permitindo tempos de resposta mais rápidos e a capacidade de lidar com modelos de IA mais complexos.
A otimização do desempenho do seu PC é um dos principais benefícios do Foundry AI Local. Ao executar modelos de IA localmente, você reduz a dependência da nuvem, o que pode resultar em menor latência e maior capacidade de resposta. Isso é particularmente importante para aplicativos que exigem interação em tempo real, como jogos, edição de vídeo e criação de conteúdo. Além disso, a execução local de modelos de IA pode ajudar a proteger a sua privacidade, pois os seus dados não precisam ser transmitidos para um servidor de terceiros.
Casos de Uso Potenciais
As aplicações do Foundry AI Local são vastas e variadas. Para desenvolvedores, ele oferece uma maneira conveniente de testar e depurar modelos de IA localmente antes de implantá-los na nuvem. Isso pode ajudar a acelerar o processo de desenvolvimento e garantir que os modelos estejam funcionando conforme o esperado antes de serem disponibilizados para os usuários.
Para usuários finais, o Foundry AI Local pode fornecer uma variedade de benefícios. Por exemplo, ele pode ser usado para alimentar assistentes virtuais que podem operar offline, fornecer traduções em tempo real sem a necessidade de uma conexão com a internet ou gerar conteúdo criativo, como artigos e poemas. Além disso, a execução local de modelos de IA pode ajudar a melhorar a acessibilidade para pessoas com deficiência, fornecendo recursos como reconhecimento de voz e conversão de texto em fala.
Desafios e Considerações
Embora o Foundry AI Local ofereça muitas vantagens, é importante estar ciente de alguns desafios e considerações. Um dos maiores desafios é a demanda por recursos computacionais. A execução de modelos de IA localmente pode consumir muitos recursos do seu PC, especialmente se você estiver usando modelos complexos. Isso pode levar a uma diminuição do desempenho e ao aumento do consumo de energia.
Outra consideração importante é a privacidade. Embora a execução local de modelos de IA possa ajudar a proteger a sua privacidade, é importante estar ciente de que os modelos ainda podem coletar dados sobre como você os está usando. É importante ler atentamente os termos de serviço e as políticas de privacidade de qualquer modelo de IA que você esteja usando para garantir que você esteja confortável com a forma como os seus dados estão sendo tratados.
Futuro da IA Local
O Foundry AI Local representa um passo significativo para a democratização da IA. Ao tornar mais fácil e acessível a execução de modelos de IA localmente, a Microsoft está capacitando desenvolvedores e usuários finais a explorar o poder da IA de novas e inovadoras maneiras. À medida que o hardware se torna mais poderoso e os modelos de IA se tornam mais eficientes, podemos esperar ver ainda mais aplicativos e casos de uso para a IA local nos próximos anos.
A capacidade de executar IA localmente tem o potencial de revolucionar muitos aspectos de nossas vidas, desde a maneira como trabalhamos e aprendemos até a maneira como interagimos com a tecnologia. À medida que a IA continua a evoluir, é importante que permaneçamos conscientes de seus benefícios e desafios e que trabalhemos para garantir que ela seja usada de forma responsável e ética.
Primeiros Passos: Como usar o Foundry AI Local
Veja como começar a usar o Foundry AI Local:
Abra um terminal de linha de comando: pressione a tecla Windows e comece a digitar “terminal”. Você deverá ver o aplicativo Windows Terminal na lista de aplicativos sugeridos, ou talvez ele apareça como Windows PowerShell. Não importa qual você usa, ambos funcionarão.
Insira os comandos: No prompt, insira os seguintes comandos: