נשק סודי של Windows 11: Foundry AI Local, משנה את כללי המשחק

כשמדברים על בינה מלאכותית (AI), לרוב עולים בראש מודלים כמו ChatGPT או Google Gemini שפועלים בענן. עם זאת, מיקרוסופט הציגה דרך קלה במיוחד להריץ AI מקומי במחשב אישי (PC), והנוחות שלה בהחלט שווה את תשומת הלב שלכם.

בכנס המפתחים Build של מיקרוסופט שנערך בשבוע שעבר, מיקרוסופט הכריזה על Microsoft Foundry AI Local. זהו מודל שפה גדול (LLM) AI מקומי המיועד למפתחים, אך יש לו משמעות רבה לכל מי שרוצה לחוות את הפוטנציאל של AI מקומי. בואו נעמיק בכלי הזה ונראה מדוע הוא מושך כל כך הרבה תשומת לב.

Foundry AI Local: עידן חדש של AI מקומי

Microsoft Foundry AI Local הוא בעצם כלי שורת פקודה שיכול להריץ LLM באופן מקומי על המכונה שלכם. למרות שהקהל היעד המקורי הוא מפתחים, זוהי אחת הדרכים הקלות ביותר לנסות AI מקומי כיום, מכיוון שהוא מטפל כמעט בכל דבר עבורכם. חשוב מכך, הוא גם יכול לייעל את ביצועי המחשב האישי שלכם.

תארו לעצמכם שאתם רוצים להתקין אפליקציה חדשה. הדרך המסורתית היא לנווט לאתר או לחנות Microsoft, למצוא קישור להורדה, ואז להגיד ל-Windows היכן צריך למקם את הכל. עכשיו, עם “winget”, הכל נעשה פשוט יותר. “winget” הוא כמו DoorDash לאפליקציות. אתם פשוט פותחים את שורת הפקודה ומקלידים את שם האפליקציה שאתם רוצים, ו- “winget” עושה את השאר בשבילכם באופן אוטומטי. אתם אפילו לא צריכים להיכנס לאתר של צד שלישי.

Foundry AI Local עובד באופן דומה. אתם רק צריכים להעתיק ולהדביק שתי פקודות מהמאמר הזה, ואתם יכולים להתחיל להשתמש בו מיד. למרות שמיקרוסופט לא ציינה במפורש שאתם צריכים GPU או NPU ייעודיים, הם בהחלט יעזרו. בעיקרון, אתם צריכים מערכת Windows 10 או 11, לפחות 8GB של RAM ו-3GB של שטח אחסון (מומלץ להשתמש ב-16GB של RAM ו-15GB של שטח דיסק). Copilot+ PC הוא אופציונלי, אבל אם יש לכם מכשיר מצויד במעבד Qualcomm Snapdragon X Elite, GPU מסדרת Nvidia RTX 2000 או AMD Radeon 6000 או דגמים חדשים יותר, תקבלו חוויה טובה יותר.

התחלה מהירה: שלבים לשימוש ב-Foundry AI Local

להלן השלבים המפורטים כיצד להתחיל להשתמש ב-Foundry AI Local:

1. פתחו מסוף שורת פקודה: לחצו על מקש Windows והתחילו להקליד “terminal”. אתם אמורים לראות את אפליקציית Windows Terminal ברשימת האפליקציות המוצעות, או שאולי היא תוצג כ-Windows PowerShell. זה לא משנה, שניהם יכולים לשמש אתכם.

2. הקלידו פקודות: בשורת הפקודה, הקלידו את הפקודות הבאות:

   1 2	winget install Microsoft.Foundry.AI.Local foundryai local start

   הפקודה הראשונה מתקינה את הכלי Foundry AI Local, והפקודה השנייה מפעילה אותו.

3. התחילו לשאול שאלות: לאחר הפעלת הכלי, תוכלו להתחיל לשאול שאלות או לתת פקודות. לדוגמה, תוכלו לשאול:

   1	foundryai local "What is the capital of France?"

   הכלי אמור לענות לכם בתשובה.

למה Foundry AI Local כל כך חשוב?

Foundry AI Local מייצג שינוי משמעותי באופן שבו אנו ניגשים לבינה מלאכותית. על ידי הפעלת מודלים של AI באופן מקומי, אנו יכולים להימנע מהצורך בחיבור אינטרנט יציב ומהסיכונים הפוטנציאליים לפרטיות הקשורים בשליחת נתונים לענן. המשמעות היא שאנו יכולים להשתמש בכלי AI גם במצבים לא מקוונים, כגון בטיסות או באזורים עם חיבור אינטרנט מוגבל.

בנוסף, הפעלת AI באופן מקומי יכולה להיות מהירה ויעילה יותר מהפעלתו בענן. זה נובע מכך שהנתונים לא צריכים לעבור דרך האינטרנט, מה שיכול להפחית את זמן האחזור ולשפר את הביצועים.

Foundry AI Local גם מפשטת את התהליך של ניסוי עם מודלים של AI שונים. במקום להצטרך להוריד ולהגדיר מודלים מורכבים בעצמכם, אתם יכולים פשוט להשתמש בכלי כדי לגשת למגוון רחב של מודלים המוכנים לשימוש. זה הופך את זה לקל יותר למפתחים ולאנשי מקצוע אחרים לחקור את הפוטנציאל של AI ולמצוא פתרונות חדשים לבעיות.

פוטנציאלים עתידיים

הפוטנציאל של Foundry AI Local הוא עצום. ככל שהכלי ממשיך להתפתח, אנו יכולים לצפות לראות אותו משולב ביותר ויותר יישומים ותרחישים. לדוגמה, הוא יכול לשמש כדי להפעיל תכונות חדשות בתוכנה פרודוקטיבית, לשפר את חוויית המשחק, או לספק עזרה מותאמת אישית במכשירים ניידים.

בסופו של דבר, Foundry AI Local יכולה לעזור להפוך את ה-AI לנגיש יותר ושימושי יותר עבור כולם. על ידי הפשטת התהליך של הפעלת AI באופן מקומי, מיקרוסופט סוללת את הדרך לדור חדש של יישומי AI חדשניים שיכולים לשפר את חיינו בדרכים רבות.

חשוב לציין, כי היתרונות של foundryai local ניכרים בשיפור האבטחה והפרטיות. הנתונים מעובדים ישירות על המכשיר של המשתמש, ולא משותפים עם שרתים חיצוניים. זה הופך את הכלי הזה לידידותי במיוחד מסיבות של אבטחה.

ביקורות

כאן, התוכנה הזו התקבלה באופטימיות על ידי אנשים רבים.

“אני ממש נרגש לגבי זה. זה משנה את כללי המשחק.” - אמר אחד המפתחים.

“אני מעריך את נוחות השימוש שלו.” - טען אחד המשתמשים הבודקים.

עם זאת, ישנם גם מבקרים שמצביעים על הסתמכות גבוהה על משאבי המחשב, במיוחד עבור משתמשים ללא חומרה מתקדמת.

“אני תוהה אם הגישה הזו תציב עומס מיותר על מחשבים ישנים יותר.” - הצהיר אחד המבקרים.

סיכום

Microsoft Foundry AI Local מייצגת צעד משמעותי קדימה בהפיכת ה-AI לנגיש ליותר אנשים. הפשטות של השימוש, הפוטנציאל לשיפור ביצועים, והדגש על פרטיות הופכים אותה לכלי בעל ערך עבור מפתחים ומשתמשים כאחד. ככל שה-AI ממשיך להתפתח, Foundry AI Local מוכנה לשחק תפקיד מפתח בעיצוב עתיד הטכנולוגיה.
```