בקצרה
אישור אנושי בתהליך AI מציב אדם בנקודת החלטה מוגדרת. כשסוכן משנה רשומות עסקיות, האישור צריך לחול על ההצעה המסוימת שהאדם בדק. אם ההצעה או הנתונים הרלוונטיים שעליהם התבססה משתנים בזמן ההמתנה, עוצרים ומבקשים החלטה חדשה לפני ביצוע הפעולה במערכת שמשרתת את העסק.
הבעיה נוצרת בין הבדיקה לביצוע
דוגמה להמחשה: עוזר מכין תיקון של כתובת משלוח במערכת הזמנות קיימת. מנהל בודק את הכתובת המוצעת, אבל לפני שהוא מאשר, עובד אחר מעדכן את ההזמנה. אסור לעוזר לפרש את האישור הישן כרשות לדרוס את ההחלטה החדשה.
מפרידים בין שלוש עובדות: הוכנה הצעה, אדם מוסמך אישר אותה והשינוי המבוקש אכן הושלם. תשובה בצ׳אט שאומרת 'אושר' אינה מוכיחה לבדה את שלושתן. לכל הצעה נותנים מזהה קבוע ומספר גרסה שמשתנה כשפרטי הפעולה משתנים.
סוכני AI לעסקים צריכים הצעה מדויקת לאישור
מציגים לבודק את הרשומה, הערכים הנוכחיים הרלוונטיים, הערכים המוצעים והסיבה לשינוי. מצרפים את המקורות הדרושים להחלטה. שומרים את ההצעה שנבדקה, במקום לבקש מהמודל לשחזר אחר כך את הפעולה מתוך סיכום שיחה.
קושרים את ההחלטה לגרסת ההצעה, לזהות המאשר, למועד ההחלטה ולכלל התפוגה. בודקים בקוד האפליקציה שלמאשר יש סמכות מתאימה. הודעה שטוענת שנשלחה ממנהל אינה מספיקה. עריכת ההצעה יוצרת גרסה חדשה שדורשת בדיקה מחדש.
אישור אנושי בתהליך צריך לשרוד את ההמתנה
אישור אנושי בתהליך (Human in the loop) דורש יכולת לעצור ולהמשיך בצורה מבוקרת. LangGraph מתעדת מנגנון עצירה שממתין לקלט חיצוני וממשיך בעזרת תשובה שסופקה. תיעוד שמירת המצב מבחין בין מצב התהליך לנתוני האפליקציה, ומבהיר ששמירה בזיכרון בלבד אינה שורדת הפעלה מחדש. מנגנונים אלה אינם מגדירים את סמכויות האישור או את כללי התוקף של הארגון.
מציגים למפעילים מצבים נפרדים של המתנה, דחייה, תפוגה, אישור והשלמה. מגדירים מי אחראי לבקשה שלא נענתה ומתי מעבירים אותה לטיפול נוסף. פקיעת תוקף צריכה לעצור את הפעולה, ולא לאשר אותה בשקט. שומרים היסטוריה שמאפשרת להסביר מה בדיוק ראה המאשר.
בודקים מחדש את הרשומה ברגע השינוי
מיד לפני הביצוע משווים את מצב הרשומה הרלוונטי למצב שנבדק. עדיף שהמערכת המקבלת תאכוף עדכון מותנה, למשל שינוי שמתבצע רק אם גרסת הרשומה עדיין תואמת. קריאה ואחריה כתיבה ללא תנאי משאירות חלון שבו שינוי אחר יכול להתרחש.
אם הממשק של מערכת הלגאסי (Legacy) אינו יכול לאכוף את התנאי, מתעדים את המגבלה ומסכימים על מסלול טיפול שמבצע שינויים בזה אחר זה או על טיפול ידני בהתנגשויות. מעטפת תוכנה אינה מבטלת מעצמה התנגשות שהמערכת המקבלת אינה יכולה למנוע. בדוגמת המשלוח, הזמנה שהשתנתה חוזרת לבדיקה עם הכתובת החדשה מוצגת בבירור.
LangGraph מתעדת גם שהמשך לאחר עצירה מריץ את צומת התהליך שוב מתחילתו. לכן לא ממקמים שינוי עסקי בקוד שעלול לרוץ שוב לפני עיבוד ההחלטה. מתעדים תוצאה מאומתת בנפרד מהאישור, וחוקרים תוצאת ביצוע לא ידועה במקום לראות באישור הוכחה להשלמה.
בודקים את זמן ההמתנה וממשיכים לתחזק
משתמשים ברשומות סינתטיות כדי לבדוק אישור לאחר שינוי הזמנה, אישור שפג תוקפו, מאשר שאיבד סמכות והפעלה מחדש בזמן שבקשה ממתינה. מוודאים שאף מקרה אינו עוקף את כללי ההחלטה שסוכמו. בודקים גם השלמה רגילה ומורשית, כדי שהבקרות לא יהפכו את התהליך לבלתי שמיש.
עוקבים אחרי גיל הבקשות הממתינות, בדיקות חוזרות בגלל הצעות שהתיישנו ומאמץ תפעולי לכל שינוי שהושלם. משתמשים בנתונים כדי לשפר את הניתוב ואת מסך הבדיקה. יותר לחיצות אישור אינן בהכרח פיקוח טוב יותר.
UVISION מספקת מפתחים ייעודיים ופרויקטים מנוהלים עם לפחות מפתח אחד במשרה מלאה לכל פרויקט. שמירה על החיבור בין הצעות AI, סמכות עסקית ומערכות לגאסי קריטיות היא חלק מאחריות הנדסית ארוכת טווח, לצד המשך הפיתוח.
שאלות נפוצות
מה זה human in the loop?
זהו תהליך נתמך AI שבו אדם מעורב בנקודת החלטה מוגדרת. בתהליך המתואר כאן הסוכן מכין שינוי מסוים ברשומה ואדם מוסמך בודק אותו לפני הביצוע. האישור חייב להישאר קשור לאותה הצעה. שינוי בפרטי הפעולה או במצב הרשומה הרלוונטי מחייב החלטה חדשה, ולא המשך אוטומטי על סמך האישור הקודם.
מהו תהליך אישור?
תהליך אישור מעביר פעולה מוצעת דרך בדיקה, החלטה מתועדת וביצוע מבוקר. אצל סוכן AI הוא צריך לזהות את הרשומה, הערכים המוצעים, המאשר וגרסת ההצעה. בקשה ממתינה, דחויה או כזאת שפג תוקפה נפרדת מעבודה שאושרה או הושלמה. שמירת החלטת האישור אינה מוכיחה שהמערכת המקבלת אכן ביצעה את השינוי.
מהו היתרון המרכזי של אישור אנושי בתהליך AI?
במקרה הזה היתרון הוא שמירת הסמכות העסקית על שינוי משמעותי, בזמן שהסוכן מכין את העבודה. היתרון תלוי בכך שהמאשר רואה את ההצעה האמיתית וששירות הביצוע אוכף את החלטתו. אם הרשומה משתנה או תוקף האישור פג, המערכת צריכה לעצור לבדיקה מחודשת במקום לבצע החלטה שכבר אינה עדכנית.
לקריאה נוספת
רוצים לבחון איך זה מתאים למערכות שלכם?
לשירות הרלוונטי