Sekretny as Windows 11: Foundry AI Local, gra zmieniająca zasady
Kiedy ludzie rozmawiają o sztucznej inteligencji (AI), często myślą o modelach działających w chmurze, takich jak ChatGPT lub Google Gemini. Jednak Microsoft wprowadził niezwykle prosty sposób na uruchomienie lokalnego AI na komputerze osobistym (PC), a jego wygoda z pewnością zasługuje na Twoją uwagę.
Na niedawnej konferencji Microsoft Build dla programistów, Microsoft ogłosił istnienie Microsoft Foundry AI Local. Jest to lokalny duży model językowy (LLM) dla programistów, ale ma znaczenie dla każdego, kto chce doświadczyć potencjału lokalnego AI. Zagłębmy się w to narzędzie i zobaczmy, dlaczego jest tak interesujące.
Foundry AI Local: Nowa era lokalnego AI
Microsoft Foundry AI Local to zasadniczo narzędzie wiersza poleceń, które pozwala na lokalne uruchamianie LLM na Twojej maszynie. Choć początkowo skierowane do programistów, jest to jeden z najprostszych sposobów na wypróbowanie lokalnego AI, ponieważ załatwia prawie wszystko za Ciebie. Co ważniejsze, może również zoptymalizować wydajność Twojego komputera.
Wyobraź sobie, że chcesz zainstalować nową aplikację. Tradycyjnie musiałbyś przejść do strony internetowej lub Microsoft Store, znaleźć link do pobrania, a następnie poinformować system Windows, gdzie wszystko umieścić. Teraz, dzięki “winget”, wszystko staje się prostsze. “winget” działa jak DoorDash dla aplikacji. Wystarczy otworzyć wiersz poleceń i wpisać nazwę żądanej aplikacji, a “winget” automatycznie zrobi resztę za Ciebie. Nie musisz się nawet logować na stronach internetowych osób trzecich.
Foundry AI Local działa w podobny sposób. Wystarczy skopiować i wkleić dwa polecenia z tego artykułu, aby od razu zacząć korzystać. Chociaż Microsoft nie określił wyraźnie, czy potrzebujesz dedykowanego GPU lub NPU, to z pewnością pomogą. Zasadniczo potrzebujesz systemu Windows 10 lub 11, co najmniej 8 GB pamięci RAM i 3 GB przestrzeni dyskowej (zalecane jest 16 GB pamięci RAM i 15 GB przestrzeni dyskowej). Copilot+ PC jest opcjonalny, ale jeśli masz urządzenie wyposażone w procesor Qualcomm Snapdragon X Elite, kartę graficzną Nvidia RTX serii 2000 lub AMD Radeon serii 6000 lub nowszą, uzyskasz lepsze wrażenia.
Szybki start: Kroki, aby zacząć korzystać z Foundry AI Local
Oto szczegółowe kroki, jak rozpocząć korzystanie z Foundry AI Local:
Otwórz terminal wiersza poleceń: Naciśnij klawisz Windows i zacznij wpisywać “terminal”. Powinieneś zobaczyć aplikację Windows Terminal na liście sugerowanych aplikacji, ewentualnie wyświetlaną jako Windows PowerShell. Nie ma to znaczenia, obie działają.
Wprowadź polecenia: W wierszu poleceń wprowadź następujące polecenia:
Niestety, nie otrzymałem dalszych poleceń, które miałyby zostać wprowadzone do terminala. Zazwyczaj w tym miejscu artykuł przedstawia konkretne komendy, które użytkownik powinien skopiować i wkleić, aby zainstalować i uruchomić Foundry AI Local. Bez tych komend, instrukcje są niekompletne i użytkownik nie będzie w stanie efektywnie korzystać z narzędzia.
Potencjalne zastosowania Foundry AI Local
Gdyby Microsoft dostarczył odpowiednie polecenia, użytkownicy mogliby wykorzystać Foundry AI Local do różnych celów, w tym:
- Lokalne testowanie modeli AI: Programiści mogliby łatwo testować i dostrajać modele AI bez konieczności polegania na połączeniu z chmurą. To skraca czas rozwoju i pozwala na eksperymentowanie w bezpiecznym środowisku.
- Przetwarzanie danych offline: Możesz przetwarzać wrażliwe dane lokalnie bez wysyłania ich do zewnętrznych serwerów, co zapewnia większe bezpieczeństwo i prywatność. Jest to szczególnie ważne w branżach takich jak opieka zdrowotna i finanse.
- Poprawa wydajności aplikacji: Aplikacje mogą wykorzystywać lokalne AI do wykonywania zadań takich jak rozpoznawanie mowy, tłumaczenie języków i generowanie tekstu, co poprawia ich szybkość i responsywność.
- Edukacja i eksperymenty: Uczniowie i entuzjaści AI mogą eksplorować i eksperymentować z modelami AI lokalnie, bez kosztów związanych z usługami chmurowymi.
Korzyści z lokalnego AI
Wykorzystanie lokalnego AI, takiego jak Foundry AI Local, oferuje wiele korzyści:
- Prywatność: Dane są przetwarzane lokalnie, co minimalizuje ryzyko wycieku lub naruszenia prywatności.
- Niezawodność: Możesz korzystać z AI nawet bez dostępu do Internetu, co zapewnia ciągłą dostępność i niezawodność.
- Szybkość: Przetwarzanie lokalne może być szybsze niż przetwarzanie w chmurze, zwłaszcza gdy masz mocny sprzęt.
- Koszty: Unikasz kosztów związanych z usługami chmurowymi, takimi jak opłaty za przesyłanie danych i obliczenia.
Przyszłość Foundry AI Local
Microsoft Foundry AI Local ma potencjał, aby zrewolucjonizować sposób, w jaki programiści i użytkownicy korzystają z AI. Dzięki dalszemu rozwojowi i optymalizacji, to narzędzie może stać się niezbędnym elementem dla każdego, kto chce wykorzystać moc AI lokalnie. Miejmy nadzieję, że Microsoft udostępni więcej informacji i zasobów, aby ułatwić użytkownikom rozpoczęcie pracy z Foundry AI Local i wykorzystanie jego pełnego potencjału.
Podsumowując, Microsoft Foundry AI Local to obiecujące narzędzie, które otwiera drzwi do nowego świata lokalnego AI. Chociaż wymaga jeszcze dopracowania i ulepszenia dla przeciętnego użytkownika, jego potencjał jest ogromny. Jeśli interesujesz się AI i chcesz eksperymentować z nim lokalnie, zdecydowanie warto zwrócić uwagę na Foundry AI Local. Miejmy nadzieję, że wkrótce zobaczymy więcej wsparcia i dokumentacji, aby ułatwić korzystanie z tego rewolucyjnego narzędzia. W przyszłości, dzięki odpowiedniemu sprzętowi i oprogramowaniu, local AI może stać się wszechobecny i zmienić sposób, w jaki interakcja with technology codziennie. To z pewnością interesujący krok naprzód w dziedzinie sztucznej inteligencji.