Foundry AI Local: Senjata Rahsia Windows 11, Pengubah Permainan
Apabila orang bercakap tentang kecerdasan buatan (AI), apa yang terlintas di fikiran ialah model yang berjalan di awan seperti ChatGPT atau Google Gemini. Walau bagaimanapun, Microsoft telah memperkenalkan cara yang sangat mudah untuk menjalankan AI tempatan pada komputer peribadi (PC), dan kemudahannya benar-benar layak mendapat perhatian anda.
Pada persidangan pembangun Microsoft Build yang diadakan minggu lepas, Microsoft mengeluarkan Microsoft Foundry AI Local. Ini ialah model bahasa besar (LLM) AI tempatan untuk pembangun, tetapi ia penting bagi semua orang yang ingin mengalami potensi AI tempatan. Mari kita selami alat ini dan lihat mengapa ia begitu menarik.
Foundry AI Local: Era Baharu AI Tempatan
Microsoft Foundry AI Local pada dasarnya ialah alat baris arahan yang boleh menjalankan LLM secara tempatan pada mesin anda. Walaupun khalayak sasaran asalnya ialah pembangun, ia merupakan salah satu cara paling mudah untuk mencuba AI tempatan pada masa ini kerana ia mengendalikan hampir semua perkara untuk anda. Lebih penting lagi, ia juga boleh mengoptimumkan prestasi PC anda.
Bayangkan anda ingin memasang aplikasi baharu. Cara tradisional adalah, anda perlu menavigasi ke tapak web atau Microsoft Store, mencari pautan muat turun, dan kemudian memberitahu Windows tempat untuk meletakkan semua perkara. Sekarang dengan “winget”, semuanya menjadi lebih mudah. “winget” adalah seperti DoorDash untuk aplikasi. Anda hanya membuka baris arahan dan menaip nama aplikasi yang anda inginkan, dan “winget” secara automatik melakukan yang selebihnya untuk anda. Anda tidak perlu log masuk di tapak web pihak ketiga.
Foundry AI Local berfungsi dengan cara yang sama. Anda hanya perlu menyalin dan menampal dua baris arahan daripada artikel ini, dan anda boleh mula menggunakannya dengan serta-merta. Walaupun Microsoft tidak menyatakan secara jelas bahawa anda memerlukan GPU atau NPU khusus, ia pasti akan membantu. Pada asasnya, anda memerlukan sistem Windows 10 atau 11, sekurang-kurangnya 8GB RAM dan 3GB ruang storan (16GB RAM dan 15GB ruang cakera disyorkan). Copilot+ PC adalah pilihan, tetapi anda akan mendapat pengalaman yang lebih baik jika anda mempunyai peranti yang dilengkapi dengan pemproses Qualcomm Snapdragon X Elite, GPU Nvidia RTX 2000 siri atau AMD Radeon 6000 siri atau model yang lebih baharu.
Bermula Pantas: Langkah untuk Menggunakan Foundry AI Local
Berikut ialah langkah demi langkah tentang cara untuk bermula dengan Foundry AI Local:
Buka terminal baris arahan: Tekan kekunci Windows dan mula menaip “terminal”. Anda sepatutnya melihat aplikasi Windows Terminal dalam senarai aplikasi yang dicadangkan, atau ia mungkin dipaparkan sebagai Windows PowerShell. Ia tidak penting, kedua-duanya boleh digunakan.
Masukkan arahan: Pada gesaan, masukkan arahan berikut:
1
winget install Microsoft.Foundry.AI.Local
Arahan ini akan memasang Foundry AI Local pada sistem anda. Sebaik sahaja pemasangan selesai, anda boleh meneruskan ke langkah seterusnya.
Lancarkan Foundry AI Local: Taip dan masukkan arahan berikut untuk memulakan pelayan:
1
FoundryAI.Local serve
Ia sepatutnya bermula secara automatik, dan ia akan menyerlahkan URL tempat AI anda sedang berjalan. Dalam kebanyakan kes, ini sepatutnya:
http://localhost:8080.Buka Pelayar Web Anda: Navigasi ke
http://localhost:8080dalam pelayar web anda. Jika semuanya berjalan dengan betul, anda sepatutnya melihat antara muka pengguna web (UI) yang membolehkan anda berinteraksi dengan LLM tempatan.Mula Berinteraksi dengan AI: Antara muka pengguna web menyediakan kotak teks di mana anda boleh memasukkan gesaan. Taip gesaan anda dan hantar untuk menerima respons daripada LLM tempatan.
Faedah Menggunakan Foundry AI Local
Foundry AI Local menawarkan beberapa faedah, terutamanya untuk pembangun dan penggemar yang berminat untuk meneroka AI tempatan.
- Privasi: Kerana LLM berjalan secara tempatan, data anda kekal pada mesin anda. Ini bermakna maklumat sensitif tidak dihantar ke pelayan pihak ketiga, menawarkan privasi yang dipertingkatkan.
- Kelajuan: LLM tempatan boleh beroperasi lebih cepat daripada yang berasaskan awan jika anda mempunyai perkakasan yang mencukupi. Tiada latensi yang berkaitan dengan menghantar data ke dan dari pelayan awan.
- Penyesuaian: Sebagai pembangun, anda boleh menyesuaikan dan memperhalusi LLM agar sesuai dengan keperluan khusus anda. Fleksibiliti ini membolehkan untuk senario penggunaan yang lebih disesuaikan.
- Pendekatan Luar Talian: AI Tempatan berfungsi walaupun anda tidak mempunyai sambungan internet.
Kesimpulan
Microsoft Foundry AI Local mewakili langkah penting ke hadapan dalam membuat teknologi AI lebih mudah dicapai dan dikawal oleh pengguna. Sama ada anda seorang pembangun yang bereksperimen dengan aplikasi AI yang baharu, atau hanya ingin tahu tentang keupayaan AI tempatan, Foundry AI Local menyediakan cara yang mudah dan berkuasa untuk mula menggunakannya. Dengan mengikuti langkah-langkah dalam panduan ini, anda boleh menyediakan dan menjalankan LLM anda sendiri dalam beberapa minit, membuka banyak kemungkinan.
Walaupun LLM tempatan bukanlah perkara baharu, inisiatif Foundry AI Local Microsoft membawanya ke khalayak yang lebih luas. Ia mempunyai potensi yang besar untuk merevolusikan cara kita berinteraksi dengan AI dan mewujudkan pelbagai senario penggunaan baharu. Sekarang anda boleh menggabungkan keupayaan AI ke dalam projek anda tanpa perlu bergantung pada sambungan internet yang berterusan atau bimbang tentang kebimbangan privasi. Ia benar-benar adalah pengubah permainan untuk landskap AI.
```