בקצרה

סביבת Sandbox AI מגבילה את המקום שבו רץ קוד שהסוכן יצר. בתהליך עסקי כדאי להפריד בין סביבת החישוב לבין השירות שמורשה לעדכן רשומות קריטיות. מגדירים לאילו משאבים כל מסלול יכול לגשת, בודקים שפעולות אסורות אכן נחסמות, ובוחנים את ההצעה העסקית שנוצרה לפני כל שינוי בפרודקשן (production).

הרעיון של המאמר, משורטט ב־18 שניות. לחצו על הרמקול לסאונד.

מה זה Sandbox AI?

סוכן שכותב סקריפט קצר לבדיקת קובץ צריך מקום להריץ אותו. LangChain מתארת בקרות sandbox על קבצים, רשת, משאבי מחשוב ומצב שנשמר בין הרצות. לכן, בבחירת פתרון לא מספיק לשאול אם יש לו סביבה מבודדת (sandbox). צריך לברר על אילו מסלולי הרצה ההגבלות שהוגדרו באמת חלות.

הכיסוי משתנה בין מימושים. בתיעוד VS Code שנבדק ב־18 בנובמבר 2026 קיימת הבחנה בין בידוד תהליכים לבין כלים מובנים שאינם כלים להרצת תהליכים, שעליהם חלות הרשאות נפרדות. התיעוד גם מציין שהפעלת הבידוד אינה חוסמת כברירת מחדל תקשורת יוצאת. הפרטים האלה מתייחסים להתנהגות המתועדת של VS Code, ולא לכל פלטפורמת סוכנים. מבקשים מידע מקביל על הסביבה שבה משתמשים בפועל.

להפריד חישוב מהרשאה עסקית

המחשה בלבד, לא סיפור לקוח: מפיץ רוצה שסוכן יהפוך גיליון של ספק להצעות לעדכון מחירים במערכת הזמנות ותיקה, מערכת לגאסי (Legacy). משימת החישוב מקבלת קובץ יצוא מאושר ומפיקה הצעה עם מזהי מוצרים, מחירים קודמים, מחירים מוצעים והכלל ששימש לחישוב. העובדה שנוח לקרוא גיליון באמצעות סקריפט אינה סיבה לתת למשימה חשבון במסד הנתונים של הפרודקשן.

בתכנון המוצע, שירות נפרד של האפליקציה בודק את ההצעה מול רשומות המוצרים העדכניות ומבצע שינויים מורשים. מוצר חסר, מטבע לא ברור או מחיר שהשתנה הופכים לחריגה שהשירות צריך לטפל בה. התוצר מהסביבה המבודדת הוא קלט להחלטה, ולא הוראה שחובה לבצע. כך האחריות לתקינות העסקית נשארת במערכת הקיימת.

איך מבודדים סוכן AI: בודקים שהגבול נאכף

ההנחיות של NVIDIA ממליצות לאכוף הגבלות מתחת לשכבת המודל, כולל הגבלת יעדי רשת וגישה לקבצים. משפט שמבקש מהסוכן לא לגעת בפרודקשן אינו שקול לאכיפה כזאת. מתעדים איזה רכיב אוכף כל הגבלה ומה קורה כשהמשימה מבקשת גישה רחבה יותר.

בדוגמת עדכון המחירים, משתמשים ברשומות סינתטיות ובסביבת בדיקה מבוקרת. התרגיל הבא הוא הצעה לבדיקת קבלה, ולא בדיקה שבוצעה בפועל. בודקים את הפעולה שנוסתה ואת התוצאה שלה באמצעות ראיות נפרדות מההודעה הסופית של הסוכן.

  • קובץ ספק תקין מפיק הצעה, בעוד שרשומות הבדיקה במערכת הלגאסי נשארות ללא שינוי.
  • בקשה לפתוח קובץ בדיקה שאינו קשור למשימה נדחית בידי מנגנון הבידוד שהוגדר.
  • בקשה ליעד רשת ניסיוני שלא אושר נחסמת, ללא מעורבות של שירות בפרודקשן.
  • הצעה שחסר בה מזהה מוצר נדחית בידי השירות של האפליקציה.
  • משימה של ספק שני אינה יכולה לקרוא את הקלט הזמני של המשימה הראשונה לאחר הניקוי שסוכם.

מדיניות הבידוד היא חלק מהמשך הפיתוח

מגדירים מי אחראי לחריגות לפני הפיילוט הראשון. אם הורדת חבילה נכשלת, המפתח צריך לבדוק מה חסר ולאיזה יעד מותר לפנות. גישה בלתי מוגבלת לא צריכה להיות התיקון הרגיל. מתעדים את מטרת החריגה, היקפה ומועד פקיעתה, ומריצים שוב את בדיקות הגבול הרלוונטיות לאחר שינוי בכלים או בהגדרות ההרצה.

מחליטים גם אילו תוצרים נשמרים אחרי הרצה. בתהליך המוצע, שומרים את ההצעה שאושרה ואת תוצאת האימות בתיעוד הביקורת של המערכת העסקית, במקום להסתמך על קבצים זמניים בסביבת ההרצה. מודדים הצעות מועילות, הצעות שנדחו, זמן טיפול בחריגות ועלות תפעול. כך אפשר להחליט אם האוטומציה אכן משפרת את תהליך עדכון המחירים.

צוות קטן ומנוסה יכול לבנות את היכולת בהדרגה: להתחיל בהפקת הצעות ולהוסיף עדכונים מבוקרים כשהבדיקות העסקיות מוכנות. UVISION מספקת מפתחים ייעודיים ופרויקטים מנוהלים עם לפחות מפתח אחד במשרה מלאה בכל פרויקט. האחריות לאורך זמן מחברת את פיתוח ה־AI להרשאות, לכללים העסקיים ולהמשך התחזוקה של מערכת הלגאסי.

שאלות נפוצות

מה זה Sandbox AI?

Sandbox AI היא סביבה מוגבלת להרצת קוד של סוכן. הערך שלה תלוי בבקרות שהוגדרו ובמסלולי ההרצה שעליהם הן חלות. בדוגמת עדכון המחירים, משתמשים בה להפקת הצעה מקלט מאושר. את ההרשאה לשנות רשומות עסקיות משאירים בשירות נפרד של האפליקציה, עם בקרות משלו על השינויים המותרים.

איך מבודדים סוכן AI?

מתחילים במיפוי מסלולי ההרצה, הקלט הנדרש ויעדי הגישה המותרים לתהליך אחד. מגדירים גבולות שניתנים לאכיפה ובודקים גם משימה תקינה וגם פעולות שאמורות להידחות, באמצעות נתוני בדיקה מבוקרים. בתהליך המחירים המוצע, מוודאים שהחישוב לא משנה רשומות עסקיות ושהשירות של האפליקציה דוחה הצעות שחסרים בהן מזהי מוצרים.

מה זה sandbox בתכנות?

בתכנות, sandbox היא סביבה מוגבלת שמריצה קוד בלי לתת לו גישה בלתי מוגבלת לקבצים, לרשת או למערכות אחרות. בהמחשה שבמאמר, סקריפט שנוצר הופך גיליון של ספק להצעות לשינוי מחירים. הרצה שהסתיימה בהצלחה מעידה רק שהחישוב הסתיים. היא אינה מוכיחה שהשינויים תקינים מבחינה עסקית, שאושרו לביצוע או שיושמו במערכת הלגאסי עצמה.

לקריאה נוספת

רוצים לבחון איך זה מתאים למערכות שלכם?

לשירות הרלוונטי