צאט בוט לעסקים: ידע ארגוני עם הרשאות שנשמרות

תשובה מועילה מתחילה במקור שמותר לקרוא

RAG (Retrieval-Augmented Generation) היא גישה שבה מוסיפים מידע חיצוני לתהליך יצירת התשובה, כפי שמסביר AWS. עוזר פנימי יכול כך למצוא נוהל או סעיף בחוזה במקום שעובד יחפש בכמה מערכות. עצם החיבור אינו הופך כל מסמך למתאים לכל עובד.

דוגמה להמחשה: צוות השירות רשאי לקרוא נהלים כלליים של ספק, ורק צוות הרכש רשאי לקרוא את תנאי החוזה שסוכמו איתו. שתי הקבוצות שואלות על אותו ספק. העוזר צריך לשמור על ההבדל גם כשהחוזה המוגבל מכיל את התשובה המתאימה ביותר. מתחילים באוסף שהבעלות עליו וכללי הגישה אליו ברורים.

צ'אט בוט לעסקים: זהות המשתמש חייבת להגיע לשלב השליפה

האפליקציה צריכה לאמת את זהות האדם שהתחבר ולשלוף רק תוכן שמותר לו לקבל. הודעה כמו 'אני עובד ברכש' אינה בסיס לבחירת הרשאות. לכל קטע שנשמר באינדקס החיפוש מצמידים זיהוי של רשומת המקור ואת ההרשאות הדרושות לשליפתו.

Microsoft מתעדת דפוס סינון שמשווה מזהי משתמשים או קבוצות לתנאים בשאילתה, ומדגישה שהשוואת המחרוזות אינה אימות זהות בפני עצמה. הסקירה הכללית שלה מציגה גם חיבורי הרשאות מובנים, שחלקם מסומנים כתצוגה מקדימה. בודקים את המחבר והגרסה המסוימים, ולא מניחים שהפלטפורמה משמרת אוטומטית כל הרשאה במקור.

כשחסר מידע על הרשאות של קטע, משאירים אותו מחוץ לתוצאות עד לתיקון המיפוי. את גבול ההרשאה אוכפים לפני שמרכיבים את המידע שנשלח למודל. בקשה מהמודל שלא לחשוף מסמך שכבר קיבל אינה מנגנון השליפה המבוקר שמתואר כאן.

מתכננים גם את היום שבו ההרשאה משתנה

הייבוא הראשוני הוא רק ההתחלה. מגדירים כיצד שינוי בקבוצה, הגבלת מסמך או מחיקת מקור מגיעים לאינדקס החיפוש. קובעים אחראי לסנכרון, יעד מדיד לזמן העדכון והתראה כשהעדכונים נעצרים. מידע שאינו יכול לסבול את ההשהיה מחייב בדיקת הרשאה עדכנית או נשאר מחוץ לעוזר המבוסס על האינדקס.

כוללים בתכנון גם תשובות שמורות והיסטוריית שיחה. לפני שימוש חוזר בתשובה שנוצרה ממקור מוגבל, בודקים את הנמען הנוכחי ואת הרשאותיו. אי אפשר פשוט להשיב לאחור מידע שכבר נצפה או הועתק; המטרה התפעולית היא לעצור שליפה ושימוש חוזר חדשים ללא הרשאה.

בדוגמת הספק להמחשה, מבטלים למשתמש בדיקה את הגישה של צוות הרכש וחוזרים על השאלה גם בשיחה חדשה וגם בשיחה קיימת. בודקים את הקטעים שנשלפו לצד התשובה. סירוב מנומס אינו מספיק אם התוכן המוגבל עדיין הגיע למודל.

איך משפרים צאט בוט מבוסס RAG?

מבדילים בין ידע חסר לידע חסום. משתמש שרשאי לקרוא מסמך ולא מוצא אותו צריך בירור של תהליך השליפה. משתמש שאינו רשאי לקרוא אותו צריך תשובה בגבולות ההרשאה, ולא הרחבה שלה. גם בהסבר שהעוזר אינו יכול לענות, נמנעים מחשיפת כותרות או קטעים מוגבלים.

מודדים אם משתמשים מורשים מוצאים את הנוהל העדכני, אם המקורות המצוטטים תומכים בתשובה וכמה זמן לוקח לעדכון להופיע. בודקים אותה שאלה גם בתפקידים שונים. כך יודעים אם צריך לשפר את המקורות, את השליפה או את מיפוי ההרשאות; החלפת המודל לבדה לא בהכרח תטפל בכשל.

מחברים מערכות קיימות עם אחריות מתמשכת

במערכת לגאסי (Legacy) ממפים את כללי הגישה בפועל לפני ייצוא התוכן. חשבון אינטגרציה בעל הרשאות רחבות אינו סיבה להציג את כל המידע שלו לכל משתמש בעוזר. מתחילים בקריאה בלבד של קבוצת רשומות מוגדרת, ומסכימים כיצד מטפלים בביטול גישה, במקור שאינו זמין ובתשובה לא ודאית.

מתקצבים קליטת מידע, חיפוש, שימוש במודל, סנכרון ותחזוקה הנדסית. כלי פיתוח מבוססי AI יכולים להאיץ את המימוש הראשוני, אבל עדיין צריך מי שמכיר את הכללים במערכת המקור ושומר עליהם כשהעסק משתנה.

UVISION מספקת מפתחים ייעודיים ופרויקטים מנוהלים עם לפחות מפתח אחד במשרה מלאה לכל פרויקט. העבודה שלה במערכות לגאסי קריטיות ובשילוב AI לאורך זמן מתאימה לאחריות הזאת: לחבר ידע שימושי, לשמור על גבולות העסק ולהמשיך לתחזק את האינטגרציה.