מפתחות מהפכת הסוכנים: תיעדוף אבטחה

המפתח לפתיחת מהפכת סוכני הבינה המלאכותית: תעדוף תקני אבטחה

תעשיית סוכני הבינה המלאכותית חווה כיום נרטיב מוכר. סוכני בינה מלאכותית ממנפים את היכולות הכלליות של מודלים גדולים כדי להפוך לאוטומטיים את הפתרון של משימות משתמש מורכבות באמצעות טכנולוגיות וכלים קיימים. זה ממקם אותם כנתיב המבטיח ביותר לפריסת טכנולוגיית מודלים כיום.

בחודשים האחרונים הייתה התפוצצות של מוצרי סוכני בינה מלאכותית. הצעות בעלות פרופיל גבוה כמו Manus זכו לתשומת לב מיינסטרים, ומודלים חדשים מ-OpenAI ו-Google הופכים יותר ויותר ל’סוכני בינה מלאכותית’. באופן מכריע, פרוטוקולים סטנדרטיים צוברים תאוצה במהירות.

Anthropic שחררה את MCP (Model Communication Protocol) כקוד פתוח בסוף השנה שעברה. MCP שואפת לבסס מפרט פתוח וסטנדרטי המאפשר למודלים גדולים של שפה לקיים אינטראקציה בצורה חלקה עם מקורות נתונים וכלים חיצוניים שונים, כגון תוכנות עסקיות, מסדי נתונים ומאגרי קוד. תוך חודשים משחרורו, OpenAI, Google, Alibaba ו-Tencent הביעו כולם תמיכה ושילבו אותו. בעקבות זאת, גוגל השיקה את A2A (Agent-to-Agent), במטרה להפוך לאוטומטיים את שיתוף הפעולה וזרימות העבודה בין סוכני בינה מלאכותית. זה הניע עוד יותר את נוף סוכני הבינה המלאכותית המתפתח.

בבסיסו, פרוטוקולים אלה מטפלים בשני אתגרים מרכזיים: MCP מקל על חיבורים בין סוכנים לספקי כלים/שירותים, בעוד ש-A2A מאפשר חיבורים שיתופיים בין סוכנים להשגת משימות מורכבות ביותר.

לכן, ניתן לדמות את MCP לממשקים מאוחדים מוקדמים, בעוד ש-A2A דומה לפרוטוקול HTTP.

עם זאת, בהיסטוריה של האינטרנט, הופעת HTTP לוותה במרכיב קריטי שהיה הכרחי לשגשוג האמיתי של האינטרנט: תקני אבטחה בשכבות על גבי הפרוטוקול.

כיום, MCP ו-A2A ניצבים בפני מצוקה דומה.

“כאשר HTTP הופיע, הוא נתקל מאוחר יותר באתגרי אבטחה משמעותיים. האינטרנט חווה את ההתפתחות הזו”, מסביר זיקסי, ראש צוות טכני של IIFAA (Internet Industry Financial Authentication Alliance) Trusted Authentication Alliance ומומחה לאבטחת סוכני בינה מלאכותית.

אתגרים אלה יכולים להתבטא בצורות שונות. נכון לעכשיו, שחקנים זדוניים יכולים ליצור כלי ‘בירור מזג אוויר’ מזויפים ולרשום אותם בשרתי MCP, ולגנוב בחשאי מידע על טיסות משתמשים ברקע. כאשר משתמש רוכש תרופות באמצעות סוכן, סוכן A עשוי להיות אחראי לרכישת cefpodoxime, בעוד סוכן B רוכש אלכוהול. בשל היעדר יכולות זיהוי סיכונים חוצי פלטפורמות, המערכת אינה יכולה לספק אזהרת ‘שילוב מסוכן’, כפי שפלטפורמות מסחר אלקטרוני קיימות עושות. באופן קריטי יותר, אימות סוכן לסוכן ובעלות על נתונים נותרו לא ברורים. האם המשתמש מאשר יישום מקומי במכשיר שלו, או שהוא מסנכרן נתונים פרטיים לענן?

“A2A, בתיעוד הרשמי שלו, מציין שהוא מבטיח רק את האבטחה של השידור ברמה העליונה. הוא משאיר את האחריות להבטחת המקורות של זהות ואשראי, פרטיות נתונים וזיהוי כוונות לחברות בודדות.”

השגשוג האמיתי של סוכנים חכמים מחייב טיפול בנושאים אלה. IIFAA, שבה זיקסי עובדת, הוא הארגון הראשון שהחל לטפל בבעיה זו.

“בהקשר זה, IIFAA מוקדש לפתרון סדרה של בעיות שסוכנים חכמים יתמודדו איתן בעתיד”, אומר זיקסי. “בעידן של A2A, הגדרנו גם מוצר דומה בשם ASL (Agent Security Layer), שיכול לבנות על פרוטוקול MCP כדי להבטיח את האבטחה של סוכנים מבחינת הרשאות, נתונים, פרטיות והיבטים אחרים. מוצר תווכה זה מטפל גם באתגרים של מעבר A2A לתקני אבטחה עתידיים.”

קבוצת העבודה של IIFAA Intelligent Agent Trusted Interconnection היא ארגון שיתוף פעולה האקולוגי הראשון לאבטחת סוכני בינה מלאכותית מקומית. הוא הוקם במשותף על ידי האקדמיה הסינית לטכנולוגיית מידע ותקשורת (CAICT), Ant Group, ויותר מעשרים חברות ומוסדות טכנולוגיה אחרים.

מ-ASL למדרגיות

“הפיתוח של סוכני בינה מלאכותית מתרחש מהר יותר ממה שציפינו, הן מבחינה טכנולוגית והן מבחינת קבלת התקנים של המערכת האקולוגית”, אומר זיקסי.

הקונספט של IIFAA לפרוטוקול אבטחה לתקשורת בין סוכנים הופיע כבר בנובמבר בשנה שעברה, לפני שחרורו של MCP. קבוצת העבודה של IIFAA Intelligent Agent Trusted Interconnection הוקמה רשמית בדצמבר, במקביל לשחרור הרשמי של MCP.

“שחקנים זדוניים שולטים לפעמים בטכנולוגיות חדשות מהר יותר ממגינים. אנחנו לא יכולים לחכות שהבעיות יתעוררו לפני שנדון בסדר. זה ההכרח בקיומה של קבוצת עבודה זו”, אמר חבר IIFAA בהצגה קודמת. בניית נורמות תעשייה לאבטחה ואמון הדדי יחד היא קריטית להתפתחות בריאה לטווח ארוך.

לדברי זיקסי, ההתמקדות הנוכחית שלהם היא בטיפול בסוגיות המרכזיות הבאות בשלב הראשון:

• זהות מהימנה של סוכן: “אנו שואפים לבנות מערכת הסמכת סוכנים המבוססת על מוסדות סמכותיים ומנגנוני הכרה הדדית. בדיוק כמו שצריך דרכון וויזה לנסיעות בינלאומיות, זה יאפשר לסוכנים מוסמכים להצטרף במהירות לרשת שיתוף פעולה ולמנוע מסוכנים לא מוסמכים לשבש את הסדר השיתופי.”

• שיתוף מהימן של כוונות: “שיתוף פעולה בין סוכנים חכמים מסתמך על האותנטיות והדיוק של הכוונה. לכן, שיתוף מהימן של כוונות הוא חיוני להבטחת שיתוף פעולה יעיל ומהימן בין סוכנים מרובים.”

• מנגנון הגנה על הקשר: “כאשר סוכן בינה מלאכותית מתחבר למספר שרתי MCP (פרוטוקול מרובה ערוצים), כל מידע תיאור הכלי נטען לאותו הקשר מפגש. שרת MCP זדוני יכול לנצל זאת כדי להחדיר הוראות זדוניות. הגנת הקשר יכולה למנוע הפרעה זדונית, לשמור על אבטחת המערכת, להבטיח את שלמות כוונת המשתמש ולמנוע התקפות הרעלה.”

• הגנה על פרטיות נתונים: “בשיתוף פעולה בין סוכנים מרובים, שיתוף נתונים עלול להוביל להפרות פרטיות. הגנה על פרטיות היא חיונית למניעת שימוש לרעה במידע רגיש.”

• שיתוף מהימן של זיכרון סוכן: “שיתוף זיכרון משפר את היעילות של שיתוף פעולה בין סוכנים מרובים. שיתוף מהימן של זיכרון מבטיח עקביות נתונים, אותנטיות ואבטחה, מניעת חבלה ודליפה, שיפור אפקטיביות שיתוף הפעולה ואמון המשתמש.”

• מחזור מהימן של זהות: “משתמשים מצפים לחוויית שירות חלקה וחלקה ביישומי בינה מלאכותית מקוריים. לכן, השגת זיהוי זהות חוצה פלטפורמות ולא פולשני היא המפתח לשיפור חוויית המשתמש.”

“אלה המטרות קצרות הטווח שלנו. בהמשך, נשחרר את ASL לכל התעשייה. זוהי הטמעה של תוכנה, לא מפרט פרוטוקול. ניתן ליישם אותה על MCP ו-A2A כדי לשפר את האבטחה ברמת הארגון של שני הפרוטוקולים הללו. זו המטרה קצרת הטווח”, מסביר זיקסי.

“בתחילה, לא נציין דברים בשכבת האבטחה. לא נציין A2AS. במקום זאת, אנו מקווים שאם מישהו יציין A2AS בעתיד, ASL שלנו תוכל להפוך לרכיב הטמעה של תוכנה, בדיוק כמו ש-SSL הוא רכיב הטמעה של תוכנה של HTTPS.”

האנלוגיה ל-HTTPS: הבטחת עתיד סוכני הבינה המלאכותית

תוך שרטוט קווים מקבילים להיסטוריה של HTTPS, הבטחת האבטחה מאפשרת את האימוץ הנרחב של פונקציונליות כמו תשלום, ובכך סוללת את הדרך להזדמנויות מסחריות בקנה מידה גדול יותר. קצב דומה מתרחש כעת. ב-15 באפריל, Alipay שיתפה פעולה עם קהילת ModelScope כדי לחשוף את שירות ‘שרת MCP לתשלום’. זה מאפשר למפתחי בינה מלאכותית לשלב בצורה חלקה שירותי תשלום של Alipay באמצעות שפה טבעית, ומאפשר פריסה מהירה של פונקציונליות תשלום בתוך סוכני בינה מלאכותית.

טיפול במטרות קצרות טווח אלה אחת אחת יוביל בסופו של דבר להיווצרות של תקן וסביבת שיתוף פעולה מאובטחים של סוכנים. המפתח לתהליך זה הוא השגת אפקט קנה מידה. ‘חנויות’ MCP מקומיות שמתקדמות במהירות כבר החלו לפעול. ‘אזור MCP’ של פלטפורמת הסוכנים החכמים Baibaoxiang של Ant Group ישלב את פתרונות האבטחה של IIFAA. ‘חנות MCP’ זו תומכת כעת בפריסה וקריאה של שירותי MCP שונים, כולל Alipay, Amap ו-Wuying, ומאפשרת את היצירה המהירה ביותר של סוכן חכם המחובר לשירותי MCP תוך 3 דקות בלבד.

זיקסי מאמין שהיכולות הכלליות של מודלים גדולים טומנות בחובן את הפוטנציאל לחולל מהפכה אמיתית בחוויות המשתמש ובפרדיגמות האינטראקציה. בעתיד, הגישה הנוכחית של קריאה לאפליקציות להשלמת משימות עשויה להיות מוחלפת על ידי שער סופר המסתמך על מאגר כלים הנסתר מאחורי הקלעים, בדומה לחנות MCP. זה יהפוך לפשוט ויותר מבין את צורכי המשתמש. מסחור הופך לאפשרי.

“הפיתוח של AGI נכנס כעת לשלב הסוכן החכם. בהשוואה לרובוטי צ’אט ובינה מלאכותית עם יכולות חשיבה מוגבלות, סוכנים חכמים השתחררו סוף סוף מהשלב הסגור של נקודה לנקודה, ופתחו באמת פרק חדש ביישומים מסחריים.”

IIFAA השיקה לאחרונה את ASL והכריזה על שחרור הקוד הפתוח שלה. על ידי שיתוף גלוי של קוד, תקנים וניסיון, היא שואפת להאיץ את החדשנות והאיטרציה הטכנולוגית, ולדחוף מפעלי תעשייה ומפתחים להשתתף בהרחבה, ולקדם את הסטנדרטיזציה של הטכנולוגיה בתוך התעשייה. תוכנית הקוד הפתוח תאמץ את רישיון Apache 2.0 המתירני ביותר ותהפוך את שיטות העבודה המומלצות לאבטחת מסמך עיצוב ספריית הקוד לזמינות חיצונית. מפתחים גלובליים יכולים להשתתף בבנייה משותפת בתוך קהילת Github.

צו האבטחה בפיתוח סוכני בינה מלאכותית

עלייתם של סוכני בינה מלאכותית מייצגת שינוי פרדיגמה באופן שבו אנו מקיימים אינטראקציה עם טכנולוגיה. איננו מוגבלים עוד ליישומים נפרדים, אלא אנו עוברים לעולם שבו סוכנים חכמים יכולים לתזמר בצורה חלקה ריבוי של כלים ושירותים כדי להשיג את מטרותינו. עם זאת, חזון זה מותנה בטיפול בסיכוני האבטחה הטמונים הנלווים לטכנולוגיה כה עוצמתית. בדיוק כפי שהאינטרנט דרש HTTPS כדי להקל על מסחר אלקטרוני מאובטח ועסקאות רגישות אחרות, סוכני בינה מלאכותית זקוקים לתקני אבטחה חזקים כדי לטפח אמון ולאפשר אימוץ נרחב.

הנוף הנוכחי של פיתוח סוכני בינה מלאכותית מאופיין בחדשנות וניסויים מהירים. מודלים, פרוטוקולים ויישומים חדשים צצים בקצב חסר תקדים. אמנם הדינמיות הזו ללא ספק מרגשת, אך היא גם מציבה אתגר: חששות אבטחה לרוב נדחקים לשוליים לטובת מהירות ופונקציונליות. זה יכול להוביל לפגיעויות ששחקנים זדוניים יכולים לנצל, ועלול לפגוע בנתוני משתמשים, לשבש שירותים ולערער את האמון בכל המערכת האקולוגית.

האנלוגיה לימים הראשונים של האינטרנט מתאימה במיוחד. בהיעדר אמצעי אבטחה נרחבים, האינטרנט סבל מהונאות, הונאות ופעילויות זדוניות אחרות. זה בלם את צמיחתו ומנע ממנו להגיע לפוטנציאל המלא שלו. רק עם הופעת HTTPS ופרוטוקולי אבטחה אחרים הפך האינטרנט לפלטפורמה בטוחה ומהימנה למסחר אלקטרוני, בנקאות מקוונת ועסקאות רגישות אחרות.

באופן דומה, סוכני בינה מלאכותית זקוקים לבסיס חזק של אבטחה כדי לממש את הפוטנציאל הטרנספורמטיבי שלהם. ללא בסיס כזה, הם מסתכנים בהפיכתם לחממה לצורות חדשות של פשעי סייבר וניצול מקוון. זה עלול לדכא חדשנות, לשחוק את אמון המשתמשים ובסופו של דבר למנוע מסוכני בינה מלאכותית להפוך לטכנולוגיה הנמצאת בכל מקום ומועילה שאנשים רבים חוזים.

טיפול באתגרי האבטחה

אתגרי האבטחה העומדים בפני סוכני בינה מלאכותית הם רב-גוניים ודורשים גישה מקיפה. חלק מהאתגרים המרכזיים כוללים:

• אימות והרשאה: הבטחה שרק סוכנים מורשים יכולים לגשת לנתונים ומשאבים רגישים. זה דורש מנגנוני אימות חזקים ובקרות גישה גרגיריות.
• פרטיות נתונים: הגנה על נתוני משתמשים מפני גישה, שימוש או גילוי בלתי מורשים. זה דורש יישום טכניקות שימור פרטיות כגון אנונימיזציה, הצפנה ופרטיות דיפרנציאלית.
• אימות כוונות: אימות שהכוונה של סוכן מותאמת למטרות המשתמש ושהיא אינה מנוצלת על ידי שחקנים זדוניים. זה דורש פיתוח אלגוריתמים מתוחכמים לזיהוי כוונות ואימות.
• אבטחה הקשרית: הגנה על סוכנים מפני התקפות זדוניות המנצלות פגיעויות בסביבה הסובבת. זה דורש יישום אמצעי אבטחה חזקים בכל שכבות המערכת, מהחומרה ועד לתוכנה.
• אבטחת סוכן לסוכן: הבטחה שסוכנים יכולים לתקשר ולשתף פעולה בצורה מאובטחת זה עם זה. זה דורש פיתוח פרוטוקולי תקשורת מאובטחים ומנגנוני אמון.

ASL של IIFAA הוא צעד מבטיח בכיוון הנכון. על ידי מתן הטמעה של תוכנה המשפרת את האבטחה של MCP ו-A2A, ASL יכולה לעזור לטפל בחלק מהאתגרים הללו. עם זאת, יש לעשות יותר כדי ליצור מסגרת אבטחה מקיפה לסוכני בינה מלאכותית.

הדרך קדימה: שיתוף פעולה ותקינה

הפיתוח של סוכני בינה מלאכותית מאובטחים דורש מאמץ שיתופי הכולל חוקרים, מפתחים, בעלי עניין בתעשייה ומקבלי מדיניות. חלק מהצעדים המרכזיים שיש לנקוט כוללים:

• פיתוח תקנים פתוחים: הקמת תקנים פתוחים לאבטחת סוכני בינה מלאכותית היא חיונית להבטחת יכולת פעולה הדדית ולקידום חדשנות.
• שיתוף שיטות עבודה מומלצות: שיתוף שיטות עבודה מומלצות לפיתוח סוכני בינה מלאכותית מאובטחים יכול לעזור למנוע פגיעויות נפוצות ולקדם תרבות של אבטחה.
• השקעה במחקר: השקעה במחקר על אבטחת סוכני בינה מלאכותית חיונית לפיתוח טכניקות וטכנולוגיות חדשות לטיפול באיומים מתעוררים.
• קידום חינוך ומודעות: קידום חינוך ומודעות לגבי אבטחת סוכני בינה מלאכותית יכול לעזור להעלות את הרף לאבטחה ולעודד פיתוח אחראי.
• הקמת מסגרות רגולטוריות: הקמת מסגרות רגולטוריות לאבטחת סוכני בינה מלאכותית יכולה לעזור להבטיח שתועדף אבטחה ושמשתמשים מוגנים.

על ידי עבודה משותפת, אנו יכולים ליצור עתיד שבו סוכני בינה מלאכותית לא רק חזקים ומועילים אלא גם מאובטחים ומהימנים. זה ידרוש מאמץ משותף לטיפול באתגרי האבטחה העומדים בפנינו ולבניית בסיס חזק של אבטחה עבור המערכת האקולוגית של סוכני הבינה המלאכותית. רק אז נוכל לפתוח את הפוטנציאל המלא של סוכני בינה מלאכותית וליצור טכנולוגיה טרנספורמטיבית באמת. המאמצים של ארגונים כמו IIFAA ראויים לשבח בהובלת יוזמה זו, אך אימוץ והקפדה נרחבים על תקני אבטחה הם חיוניים לפיתוח בטוח ומשגשג של סוכני בינה מלאכותית.