בינה מלאכותית עם מעורבות אנושית (Human-in-the-Loop): המדריך המלא

האוטומציה המלאה היא הבטחה מפתה. אך בהחלטות עסקיות רציניות, כאלה הנוגעות לסיכון, למרווחים, לרגולציה וללקוחות, הבינה המלאכותית לבדה לרוב אינה מספיקה. בהקשר של ה-IT האיטלקי, אימוץ תהליכי Human-in-the-Loop מואץ: בחברות טכנולוגיה עם פחות מ-250 עובדים, השימוש ב-AI HITL לניתוח נתונים גדל ב-40% תוך שישה חודשים, ועלה מ-6.3% ל-8.8% עד ספטמבר 2025, לפי הנתונים שדווחו על ידי Software Oasis. זה אינו פרט טכני. זהו סימן אסטרטגי.

הסיבה פשוטה. הבינה המלאכותית מצטיינת בטיפול בנפח, במהירות ובחזרתיות. האנשים מצטיינים כאשר נדרשים הקשר, שיקול דעת ואחריות. אם מפרידים בין שני העולמות הללו, מקבלים או איטיות או טעויות. אם משלבים אותם היטב, הופכים את ה-analytics למערכת קבלת החלטות איתנה יותר.

לכן ה-human-in-the-loop AI analytics הופכת למודל תפעולי, לא רק לקטגוריה טכנולוגית. עבור עסקים קטנים ובינוניים רבים באיטליה זוהי גם הדרך הריאלית ביותר לאמץ בינה מלאכותית בלי לבנות מאפס צוות מדעני נתונים. וזה מסביר מדוע הנדסת פרומפט לבדה משרתת מעט כאשר הבעיה האמיתית אינה ליצור תשובה, אלא לקבל החלטה אמינה.

תוכן עניינים

• מבוא: הבינה המלאכותית לבדה אינה מספיקה
• המודל התפעולי, בלי ז'רגון
• שלוש רמות אוטומציה שונות מאוד
• היכן נוצר הערך
• היכן הפרויקטים מסתבכים
• כאשר המודל מאותת והאנליסט מחליט
• מדוע זה חשוב גם לתאימות רגולטורית ולביקורת
• תחזיות, מלאי והקשר מקומי
• מחירים, מבצעים והחלטות ששומרות על המרווח
• התהליך התפעולי בפועל
• מדוע מודל זה נגיש גם לעסקים קטנים ובינוניים
• שיטות עבודה מומלצות ליישום מוצלח
• הטיה, אחריותיות ומעקבות
• GDPR ובקרה תפעולית
• נקודות מפתח

מבוא: הבינה המלאכותית לבדה אינה מספיקה

מערכת אוטומטית לחלוטין פועלת היטב כל עוד העולם מתנהג כצפוי. הבעיה היא שעסקים, לקוחות, שרשראות אספקה והונאות לעולם אינם פועלים לפי תסריט נקי. מספיקה אנומליה אחת, שינוי רגולטורי או סימן דו-משמעי, והפלט הנכון מבחינה סטטיסטית עלול להפוך להחלטה שגויה מבחינה עסקית.

הלוגיקה של HITL נולדת כאן. היא אינה מוסיפה בודק אנושי "במורד הזרם" מתוך זהירות בירוקרטית. היא מעצבת מחדש את התהליך כך שהבינה המלאכותית תעבוד היכן שהיא חזקה יותר ותבקש התערבות אנושית רק היכן שזה באמת חשוב.

המטרה אינה להאט את האוטומציה. אלא למנוע מהאוטומציה לטעות בהחלטות שעולות הכי הרבה.

עבור מנהיג עסקי מנוסה, זה משנה את השאלה. לא עוד "כמה אני יכול לבצע אוטומציה?", אלא "איזה חלק מההחלטה חייב להישאר תלוי הקשר, ניתן להסבר וניתן לניהול?". שם ה-human-in-the-loop AI analytics הופכת ליתרון תחרותי, בעיקר בפיננסים ובקמעונאות, שם מהירות ושיקול דעת חייבים לדור בכפיפה אחת.

מהי הגישה של Human-in-the-Loop AI Analytics

עבור חברה, HITL אינה פונקציה טכנית נוספת. זהו מודל תפעולי להחלטה מי עושה מה בין המערכת לבין האנשים לאורך תהליך הניתוח.

ב-human-in-the-loop AI analytics, הבינה המלאכותית בוחנת נפחים גדולים של נתונים, מגבשת סיווג, תחזית או התראה, ולאחר מכן מפנה להתערבות אנושית רק את המקרים הדורשים שיקול דעת הקשרי. זה קורה, לדוגמה, כאשר האות דו-משמעי, הערך הכלכלי של ההחלטה גבוה, או כאשר הסיכון הרגולטורי אינו מאפשר תגובה אוטומטית ללא אימות.

היחס דומה לזה שבין טייס מסחרי למערכת הטייס האוטומטי. המכונה מנהלת היטב את החלק הסטנדרטי והחוזר על עצמו. האדם מפקח על הצמתים שבהם חשובים ניסיון, הקשר ואחריות.

המודל התפעולי, בלי ז'רגון

בפועל, המחזור פועל כך:

• הבינה המלאכותית מנתחת את הנתונים ומזהה דפוסים, אנומליות וקורלציות שבעין אנושית היו דורשים הרבה יותר זמן.
• המערכת מודדת את רמת הביטחון של התחזית, או מיישמת ספי סיכון שהוגדרו על ידי העסק.
• המפעיל האנושי מתערב במקרים שנבחרו, תוך שימוש בהקשר מסחרי, היסטוריית לקוח, מדיניות פנימית או קריטריוני תאימות.
• ההחלטה האנושית הופכת למשוב שימושי לתיקון המודל ולחידוד הכללים במחזורים הבאים.

כאן נחתך ההבדל בין תיאוריה ל-ROI. מערכת HITL טובה אינה שולחת הכל לבדיקה ידנית. אם הייתה עושה זאת, היא הייתה מאבדת את יתרון קנה המידה של האוטומציה. אם, לעומת זאת, הייתה תמיד נותנת למודל להחליט, היא הייתה חושפת את החברה לטעויות היקרות ביותר. הערך נוצר מבחירה חכמה של הנקודות שבהן ההתערבות האנושית באמת משנה את התוצאה הכלכלית או את פרופיל הסיכון.

עבור עסק קטן או בינוני איטלקי, היבט זה חשוב יותר מתחכום האלגוריתם. בפיננסים, זה אומר לגרום לאנליסט לבדוק רק תיקים עם פרופיל חריג או תיעוד לא עקבי. בקמעונאות, זה אומר לגרום לרק ההתראות בנוגע לתמחור, מלאי או נטישה שהמערכת אינה מצליחה לפרש בביטחון מספק להגיע למנהל הקטגוריה או לאחראי המסחר האלקטרוני. פלטפורמות כמו Electe הופכות סכמה זו לישימה גם ללא צוות פנימי של מדעני נתונים, מכיוון שהן הופכות את המשוב התפעולי לחלק מובנה מהתהליך.

שלוש רמות אוטומציה שונות מאוד

כדי למנוע בלבול, כדאי להבחין בין שלושה מודלים.

מודל, איך זה עובד, איפה זה מתאים יותר

Human-in-the-loop

האדם מתערב באופן פעיל במקרים נבחרים

החלטות בעלות השפעה גבוהה, פיננסים, קמעונאות קריטית

Human-on-the-loop

האדם מפקח ומתערב רק במקרי הסלמה

תהליכים בשלים עם נפחים גבוהים

Human-out-of-the-loop

המערכת מחליטה בעצמה

פעילויות חוזרות ובסיכון נמוך

ההבדל הוא ארכיטקטוני, לא סמנטי. הוא מגדיר את זמני התגובה, העלויות התפעוליות, איכות ההחלטות ורמת השליטה שההנהלה שומרת על התהליך.

כלל שימושי הוא פשוט. ה-HITL הגיוני כאשר עלות הבדיקה הממוקדת נמוכה מהעלות הפוטנציאלית של שגיאה אוטומטית. לכן הוא מאומץ בקלות רבה יותר בתהליכים שבהם מספר מקרים שגויים יכולים לשחוק שוליים, ליצור חיכוך עם הלקוח או לפתוח בעיית ציות.

בקיצור, human-in-the-loop AI analytics לא מוסיפה אנשים מתוך זהירות. היא מקצה לאנשים את השלבים שבהם השיפוט שלהם מייצר את הערך הכלכלי הרב ביותר ואת השליטה הניהולית הרבה ביותר.

יתרונות וסיכונים של שיתוף הפעולה בין אדם למכונה

עבור מנהיג עסקי, הנקודה אינה להוסיף פיקוח אנושי מתוך זהירות. הנקודה היא להקצות את השיפוט האנושי במקום שבו האוטומציה מאבדת דיוק כלכלי. ה-HITL עובד כאשר הוא מפחית את עלות השגיאות יותר משהוא מגדיל את עלות התהליך.

זה משנה את האופן שבו יש לקרוא את הערך של AI analytics. מודל טהור ממקסם קנה מידה ומהירות. מודל human-in-the-loop ממקסם את היחס בין אוטומציה לאיכות החלטות בשלבים המשפיעים על שוליים, סיכון ואמון פנימי. עבור עסקים קטנים ובינוניים איטלקיים רבים, במיוחד בפיננסים ובקמעונאות, זהו הבדל אסטרטגי. אין צורך לרדוף אחר אוטומציה מלאה. יש צורך לבצע אוטומציה טובה לזרימות בעלות נפח גבוה ולתת לאנשים להתערב במקרים שעלולים ליצור הפסדים, מחלוקות או בחירות מסחריות שגויות.

היכן נוצר הערך

הערך מתרכז בנקודות החיכוך של התהליך, לא בפיקוח האנושי כשלעצמו.

שלושה יתרונות חוזרים באופן עקבי:

• החלטות טובות יותר במקרים מעורפלים. האנליסט מוסיף קונטקסט תפעולי, היסטוריית לקוח, חריגים מסחריים או מגבלות רגולטוריות שהמודל לא מזהה במידה מספקת של ביטחון.
• אמון גבוה יותר מצד ההנהלה. מערכת שמציגה ספי החלטה, הנמקות להסלמה ומעקב ביקורות קלה יותר לאימוץ בתהליכים המחייבים אחריות פורמלית.
• מודלים שמשתפרים עם הזמן. משוב אנושי, אם מובנה, הופך לאיתות שימושי לחידוד סיווגים, סדרי עדיפויות וספי התערבות.

התוצאה העסקית ישירה: פחות החלטות שמתקבלות אוטומטית בלי בדיקה בנקודות שבהן טעות עולה הכי הרבה.

אנלוגיה שימושית היא בקרת האיכות בתעשייה. אין חברה סדירה שמציבה מפקח על כל פריט אם הפגם נדיר וזול. אבל אין חברה שמשאירה בלי בדיקה אצוות שבהן טעות יכולה לגרום להחזרות, קנסות או נזק תדמיתי. HITL מיישם את אותה לוגיקה על החלטות מבוססות נתונים. הוא דוגם, מסנן ומעביר להסלמה רק במקום שבו הסיכון מצדיק זאת.

מסיבה זו הגישה מעניינת גם לחברות בלי צוות מדעני נתונים. פלטפורמות כמו Electe מפחיתות את המורכבות התפעולית מכיוון שהן מהפכות את המשוב של מי שעובד על אשראי, תמחור, מלאי או לקוחות לשלב ניהולי בתוך התהליך, ולא לפרויקט טכני נפרד.

היכן פרויקטים מסתבכים

היתרונות אינם אוטומטיים. תהליך שמעוצב לא טוב יישאר תהליך מעוצב לא טוב, גם אם הוא כולל בודק אנושי.

הסיכונים הנפוצים ביותר הם אלה:

• עומס תפעולי. אם הספים מוגדרים לא נכון, יותר מדי חריגים מגיעים לצוות וזמן התגובה מתדרדר.
• הטיה אנושית שחוזרת למערכת. אם הבודק מקבל החלטות בצורה לא עקבית או לא מתועדת, המודל לומד אותות מוטים.
• עלות ארגונית לא מוערכת. נדרשים תפקידים ברורים, תורי עבודה, סדרי עדיפויות, ממשקים פשוטים וקריטריוני הסלמה שניתן לאמת.
• ממשל למראית עין. נוכחות של אדם בתהליך לא מבטיחה שליטה ממשית אם אין מסלולי ביקורת, מדדים ואחריות מוגדרת.

פרויקט HITL נכשל לרוב מסיבה מאוד קונקרטית. החברה משלבת אנשים בתהליך אוטומטי בלי לעצב מחדש את נקודות ההחלטה, זמני ההתערבות והקריטריונים שבהם מקרה עובר לבדיקה.

קיימת גם שגיאת תפיסה ניהולית. חלק מהצוותים מתייחסים ל-HITL כשלב זמני, שמועיל רק עד שהמודל יהיה "מספיק טוב" לעבוד בעצמו. בתהליכים בעלי השפעה גבוהה ההנחה הזו לרוב לא מתקיימת. באשראי, מניעת הונאות, מגוון מוצרים או תמחור מבצעים, פיקוח סלקטיבי אינו עלות שיורית שיש לבטל. הוא מרכיב יציב במודל התפעולי, מכיוון שהוא מגן על הרווח והפסד ומאפשר להגן על ההחלטות.

השאלה, אם כך, אינה אם להגיע לאפס פיקוח. השאלה היא היכן הפיקוח מפיק את ה-ROI הגבוה ביותר והיכן הוא מאט מבלי ליצור ערך. מהבחנה זו נגזר חלק גדול מהתשואה על ההשקעה, בעיקר עבור עסקים קטנים ובינוניים שצריכים לאמץ AI analytics עם משאבים מוגבלים ומטרות שנמדדות בזמן קצר.

מקרה שימוש בענף הפיננסי

בפיננסים, הערך של HITL בולט במקרים שמשקלם גדול ביותר על הרווח וההפסד ועל האחריות הרגולטורית. לא בפרקטיקות סטנדרטיות, שהאוטומציה מטפלת בהן היטב, אלא בהחלטות רוויות עמימות שבהן טעות עולה זמן, הון תדמיתי או התערבויות ביקורת.

הדוגמה הברורה ביותר היא מניעת הלבנת הון. המודל מנתח כמויות עצומות של עסקאות, מזהה תבניות חריגות ומעניק סדר עדיפויות למקרים. האנליסט מתערב רק היכן שנדרש שיקול דעת. בפועל, ה-AI מתפקד כמערכת סינון במהירות גבוהה, בעוד קצין הציות מטפל בחריגים המחייבים קונטקסט, ניסיון ויכולת להנמיק החלטה.

כאשר המודל מסמן והאנליסט מכריע

נתייחס ללקוח קורפורטיבי עם תנועות שאינן מתאימות לפרופיל שלו לפי ההיסטוריה. מנוע אוטומטי יכול לסווג את המקרה כחשוד בשל סטייה סטטיסטית. אנליסט, לעומת זאת, יכול לקשר את הסטייה לשינוי מבני בחברה, לתקופה עונתית בעסק או לתיעוד שכבר קיים במערכות הפנימיות.

כאן נוצר ה-ROI האמיתי.

אם כל חריגה מטופלת כסיכון מלא, הבנק מגדיל את התוצאות החיוביות השגויות, מאט את צוותי הבקרה וגוזל זמן מהמקרים הקריטיים באמת. אם, לעומת זאת, המודל מסנן והמפעיל מאשר את המקרים הגבוליים, המוסד מפחית את העלות התפעולית של הבדיקה מבלי לפגוע באיכות הפיקוח. עבור מוסד פיננסי קטן או בינוני, או עבור גוף עם צוות ציות מוגבל, זה משנה את יכולת הקיימות של התהליך יותר מהדיוק התיאורטי של המודל.

למי שרוצה לראות את הנושא מוצג גם במישור התפעולי, הסרטון הזה מציע התייחסות שימושית:

מדוע זה חשוב גם לציות ולביקורת

באשראי ההיגיון דומה, אבל היתרון הניהולי בולט אף יותר. מודל ניקוד יכול לעבד במהירות משתנים מובנים רבים. עם זאת, פרופילים מסוימים נשארים קשים לקריאה עם כללים סטנדרטיים, למשל פרילנסרים, מיקרו-חברות, עסקים עם עונתיות בולטת או מצבים פיננסיים לא ליניאריים.

במקרים כאלה, ה-HITL משפר שלוש תוצאות תפעוליות:

1. מפחית תוצאות חיוביות שגויות, ומגביל דחיות או חסימות שלא היו עומדות בבדיקה ידנית;
2. הופך את ההחלטה לניתנת להסבר, מכיוון שהמעורבות האנושית משאירה עקבות של הקריטריון שיושם;
3. מפשט ביקורת ובקרות פנימיות, שכן התהליך מתעד מי אימת את המקרה, עם אילו ראיות ובאיזה רגע.

עבור מנהיג עסקי מנוסה, הנקודה האסטרטגית היא זו. ה-HITL אינו רק מוסיף חתימה אנושית בסוף תהליך המודל. הוא מעצב מחדש את זרימת קבלת ההחלטות כדי לרכז את תשומת הלב המקצועית רק במקומות שבהם לאוטומציה יש סבירות גבוהה יותר לטעות או שבהם ההשפעה הרגולטורית גבוהה יותר.

בחזית הרגולטורית כדאי לשמור על עמדה זהירה. אין זה נכון להתייחס כאל עובדה מוגמרת לחובה ספציפית של Consob בנוגע ל-HITL בתחום ה-AI analytics ללא הפניה רגולטורית ישירה וניתנת לאימות באותה נקודה. הכיוון, עם זאת, ברור: בפעילויות של ציות, בקרה ומתן אשראי, גוברות הציפיות לגבי מעקב, פיקוח אנושי והנמקה של החלטות אוטומטיות.

עבור עסקים קטנים ובינוניים איטלקיים, ההבחנה הזו חשובה מאוד. פרויקט HITL מתוכנן היטב לא בהכרח דורש צוות מדעני נתונים פנימי. הוא דורש פלטפורמה שמנתבת מקרים מפוקפקים, אוספת משוב, שומרת על מסלול ביקורת ומקלה על עבודתם של צוותי הכספים והסיכונים. כאן כלים כמו Electe מורידים את סף הכניסה. הם הופכים את ה-HITL מארכיטקטורה תיאורטית לתהליך מדיד, עם יתרונות מוחשיים בזמני בדיקה, איכות ההחלטות ועלות הציות.

מקרה שימוש בתחום הקמעונאות והמסחר האלקטרוני

בקמעונאות, הטעות היקרה ביותר אינה נובעת מתחזית לא מושלמת באופן מופשט. היא נובעת מתחזית נכונה על נתונים היסטוריים אך שגויה ביחס להקשר האמיתי של נקודת המכירה, האזור או שבוע המבצע. לכן לגישת human-in-the-loop יש ערך תפעולי ישיר. היא מכניסה שיקול דעת מסחרי במקרים שבהם המודל, לבדו, מסתכן בקריאת העבר בדיוק אך ההווה באיחור.

תחזיות, מלאי והקשר מקומי

קמעונאי משתמש ב-AI כדי להעריך ביקוש, הזמנות חוזרות והקצאת מלאי בין ערוצים וחנויות. המודל מזהה עונתיות, מגמות מכירה, השפעות של מבצעים קודמים ומחזוריות לפי מק"ט. מנהל הקטגוריה, לעומת זאת, רואה אותות שלעיתים רחוקות נכנסים מיד למאגרי הנתונים: תוכן ברשתות חברתיות שמאיץ ביקוש, חג מקומי, עיכוב מצד ספק, קמפיין אגרסיבי של מתחרה באותו אזור.

הנקודה אינה לתקן תמיד את המודל. הנקודה היא להתערב רק כאשר עלות הטעות עולה על עלות הבדיקה האנושית. בקמעונאות זה קורה לעיתים קרובות במוצרים עונתיים, פריטים עם רווחיות גבוהה, השקות מבצעיות ומגוונים מקומיים.

עבור עסק קטן או בינוני איטלקי, היתרון מוחשי. פחות מחסור במלאי במוצרים שבאמת נמכרים. פחות הון קפוא בפריטים איטיים. פחות הנחות כפויות בסוף מחזור. בפועל, ה-HITL פועל כמגדל בקרה: ה-AI מנהל את התנועה השוטפת, האחראי המסחרי לוקח בידיו את החריגים שיכולים להשפיע על רווח ושירות.

העיכוב באימוץ הופך גישה זו לרלוונטית עוד יותר. לפי ISTAT, רק חלק מוגבל מהעסקים עם לפחות 10 עובדים משתמש בטכנולוגיות בינה מלאכותית, עם הבדלים ניכרים לפי גודל העסק והענף, כפי שדווח בסקר הרשמי על השימוש ב-ICT בעסקים: ISTAT, Imprese e ICT. עבור עסקים קטנים ובינוניים רבים, הבעיה אינה להבין אם ה-AI שימושי. הבעיה היא לאמץ אותו ללא בניית צוות טכני ייעודי. פלטפורמה שמכניסה את המנהל למעגל קבלת ההחלטות מפחיתה מחסום זה.

מחירים, מבצעים והחלטות ששומרות על הרווח

אותה סכימה תקפה עבור תמחור ושיווק, שם אוטומציה טהורה יכולה לשפר את המהירות אך גם לייצר בחירות קצרות רואי.

• תמחור דינמי. האלגוריתם מציע שינוי עקבי עם ביקוש, מלאי והתנהגות היסטורית. האחראי המסחרי יכול לעצור אותו אם קיים סיכון לשחיקת מיצוב המותג או ליצירת חוסר עקביות בין הערוץ המקוון לחנות הפיזית.
• מבצעים. ה-AI מזהה אשכולות וחלונות זמן עם סבירות גבוהה יותר להמרה. צוות השיווק בודק אם המסר מתאים להקשר, אם המבצע פוגע במכירות של קווים אחרים או אם לחנות יש באמת זמינות מלאי.
• מגוון. המודל מציע אילו קטגוריות לקדם. הקונה מתקן בהתאם לאילוצים לוגיסטיים, הסכמים עם ספקים או רגישויות ספציפיות של השוק המקומי.

כאן עולה נקודה אסטרטגית שלעיתים קרובות מוערכת בחסר. בקמעונאות, המטרה אינה למקסם כל תחזית בודדת. המטרה היא לקבל החלטות ניתנות לחזרה שמגנות על הרווח, זמינות המדף ועקביות מסחרית. ה-HITL מעביר את העבודה האנושית מפעילויות חוזרות לחריגים בעלי השפעה גבוהה.

עבור מסחר אלקטרוני או רשת מקומית, הבדל זה חשוב יותר מתחכום המודל. מערכת ניבוי מתריעה. מערכת human-in-the-loop עוזרת לצוות להחליט קודם, עם יותר הקשר ופחות חיכוך תפעולי. וכאן בדיוק פתרונות כמו Electe הופכים למעניינים עבור עסקים קטנים ובינוניים. הם הופכים לישים תהליך שעד לפני שנים ספורות נראה שמור לקמעונאים עם מדעני נתונים פנימיים ותקציבי ארגון גדול.

כיצד Electe משלבת את זרימת ה-Human-in-the-Loop

מודל HITL שימושי רק אם זרימת התהליך קריאה למי שמקבל את ההחלטות. אם הבדיקה דורשת מדעני נתונים, שאילתות ידניות או שלבים טכניים מורכבים, עסקים קטנים ובינוניים רבים עוצרים לפני שהם מתחילים.

תהליך העבודה בפועל

בפלטפורמה מתוכננת היטב, התהליך אמור להיראות כך:

1. חיבור למקורות הנתונים
   CRM, ERP, מסחר אלקטרוני, גיליונות תפעוליים ומערכות פיננסים נכנסים לאותו זרם מידע.
2. ניתוח אוטומטי של אותות
   ה-AI מעבד את הנתונים ומייצר תחזיות, התראות, דוחות וחריגות.
3. הקצאת רמת ודאות ועדיפות
   לא כל תובנה שווה באותה מידה. חלקן ברורות, אחרות דורשות בדיקה.
4. העברה סלקטיבית למשתמש
   מקרים לא ודאיים או בעלי השפעה גבוהה מגיעים ללוח בקרה לבדיקה.
5. משוב אנושי
   המנהל מאשר, מתקן או דוחה את התובנה עם ההקשר גלוי לעין.
6. למידה מתמשכת
   המערכת משתמשת במשוב זה כדי לחדד את המודל לאורך זמן.

הלוגיקה הזו עולה בקנה אחד עם ארכיטקטורת לולאת המשוב הפעילה המתוארת במקורות המאומתים: ה-AI מבקש אימות אנושי בנקודות של אי-ודאות מקסימלית, במקום לדרוש בקרה על כל מערך הנתונים. זהו הצעד שהופך את ה-HITL לבר-קיימא, לא רק נכון תיאורטית.

למה המודל הזה נגיש גם לעסקים קטנים ובינוניים

עבור עסק קטן ובינוני, הנקודה המהותית אינה "להשתמש ב-AI". היא היכולת להשתמש בו בלי להקים מחלקה טכנית ייעודית. לכן הממשק חשוב בדיוק כמו המודל.

גישה יעילה צריכה להציע:

• לוחות בקרה ברורים, לא פלט אטום;
• התראות על חריגות אמיתיות, לא רעש מתמיד;
• הקשר גלוי לצד התובנה, כך שהאדם יכול להחליט במהירות;
• אינטגרציות חלקות עם המערכות הקיימות כבר בשימוש, כפי שמתואר בעמוד המוקדש לאינטגרציות של Electe.

אם הבודק צריך לפרש מודל ללא הקשר, הלולאה נשברת. אם הוא רואה תובנה, נימוק והשפעה באותו מרחב, הלולאה הופכת להחלטה.

כאן טמונה הנקודה האסטרטגית. HITL לא אמור לדרוש מעסקים קטנים ובינוניים להסתגל לטכנולוגיה. הפלטפורמה אמורה לתרגם מורכבות אנליטית לתהליך שאחראי פיננסים, תפעול או קמעונאות יכול לנהל בכמה צעדים.

שיטות עבודה מומלצות ליישום מוצלח

פרויקטי HITL מייצרים ערך כאשר הם מפחיתים את עלות קבלת ההחלטות, לא כאשר הם מוסיפים שכבת בקרה נוספת. עבור עסק קטן ובינוני איטלקי, הנקודה אינה להכניס בדיקה אנושית בכל מקום. היא לבחור את השלבים שבהם שיקול הדעת האנושי מתקן טעויות יקרות, מאיץ חריגות והופך את המודל ליעיל יותר עם הזמן.

לכן סדר ההתחלה חשוב יותר מהשאיפה הראשונית. מקרה שימוש ראשון טוב כולל שלושה מאפיינים יחד: השפעה כלכלית נראית לעין, נתונים היסטוריים מספקים, והחלטה שכיום כבר תלויה בניסיון של אדם. פיננסים וקמעונאות מתאימים לרוב לפרופיל הזה. באשראי מסחרי, למשל, בדיקה ממוקדת של מקרים דו-משמעיים יכולה להפחית טעויות הערכה מבלי להאט את כל הזרימה. בקמעונאות, אותו עיקרון חל על הזמנות חוזרות, תמחור מבצעים וניהול חריגות מלאי.

קריטריון מדוע הוא חשוב

ההשפעה הכלכלית של הטעות

החברה יכולה למדוד את ערך התיקון

זמינות נתונים היסטוריים

המודל יכול להתחיל מאותות שכבר קיימים בתהליכים

קיום שיקול דעת אנושי כבר קיים

המשוב לא צריך להיות מומצא. הוא צריך להיות מובנה

כאן נקבע ה-ROI.

אם הצוות האנושי מתערב בכל החלטה, ה-AI הופך רק לשלב ביניים. אם הוא מתערב רק במקרים של אי-ודאות גבוהה או השפעה גבוהה, החברה משיגה אפקט שונה מאוד: פחות עומס תפעולי על מקרים פשוטים ויותר תשומת לב על המקרים שבאמת משנים את התוצאה הכלכלית. זהו ההיגיון שכבר צוין קודם לכן. בכך שהארגון מרכז את המשוב בנקודות הנכונות, הוא מנצל טוב יותר גם את זמן האנשים וגם את היכולת של המודל.

שיטת העבודה המומלצת השנייה נוגעת לעיצוב נקודת ההתערבות האנושית. בהרבה מימושים הבעיה אינה האלגוריתם, אלא העמימות של התהליך. אם לא ברור מי מאשר, באילו ספים ועל בסיס אילו מידע, הלולאה אינה לומדת. היא רק מעבירה חיכוך משלב אחד לאחר.

לפני ה-go-live כדאי להגדיר ארבעה מרכיבים תפעוליים:

• תפקיד קבלת החלטה מדויק, לדוגמה קונטרולר, אנליסט סיכונים, קניין או מנהל סניף
• קריטריוני אסקלציה, מבוססים על רמת הביטחון של המודל, ערך כלכלי של המקרה או סיכון רגולטורי
• הקשר שמוצג לבודק, כגון היסטוריית הלקוח, נימוק ההתראה, השפעה משוערת ונתוני תמיכה
• אופן השימוש החוזר במשוב, כך שהתיקון נכנס למערכת ומשפר מקרים עתידיים

כלל אצבע פרקטי עוזר להבין אם הפרויקט מוכן: אם הבודק אינו יודע מדוע המקרה הוקצה לו, המימוש עדיין אינו בשל.

יש גם טעות נפוצה בחברות SMB. חושבים שצריך להכשיר את ההנהלה במתמטיקה של המודל. למעשה צריך משהו אחר: יכולת לקרוא חריגה, להעריך את הסבירות של התובנה ולספק משוב עקבי. זהו הבדל חשוב. מנהל קטגוריה אינו צריך לאמן את האלגוריתם. עליו לזהות אם הצעת חידוש מלאי מתעלמת מקידום מכירות מקומי, משינוי ספק או ממחסור מלאי שכבר ידוע לצוות.

פלטפורמות כמו Electe הופכות גישה זו לנגישה יותר בדיוק משום שהן מעבירות את המורכבות הטכנית מאחורי ממשק תפעולי. עבור חברות SMB רבות, היתרון האסטרטגי טמון כאן. לא צריך לבנות צוות מדעני נתונים כדי להשתמש היטב ב-AI analytics, אלא לאפשר לפיננסים ולקמעונאות לתקן, לאמת ולשפר את המערכת בתוך זרימת העבודה היומיומית.

איכות המימוש נמדדת באמצעות מספר מדדים קונקרטיים: זמן בדיקה לחריגה, שיעור קבלת ההמלצות, הפחתת שגיאות חוזרות והשפעה כלכלית של התיקונים. אם המספרים הללו אינם משתפרים, הפרויקט מאוטמט פלטים. הוא עדיין לא משפר החלטות.

מימוש טוב של human-in-the-loop AI analytics משתמש במעט התערבויות אנושיות, ממוקמות היטב וניתנות למעקב. כך שיתוף הפעולה בין אדם למכונה מפסיק להיות הבטחה טכנית והופך למשמעת תפעולית עם תשואות הניתנות למדידה.

ממשל ואתיקה ב-AI היברידי

כאשר ה-AI נכנס לתהליך שמשפיע על אשראי, מחירים, הונאות או ציות רגולטורי, השאלה המרכזית משתנה. לא חשוב רק אם המודל מפיק תחזית מדויקת. חשוב אם החברה יכולה לשחזר כיצד התחזית הזו הפכה להחלטה, מי אישר אותה ובאילו קריטריונים.

כאן הממשל אינו שכבה מנהלית שמוסיפים בדיעבד. הוא פועל כמו מערכת הבקרה של קו ייצור: אם נקודות הביקורת מוגדרות היטב, החברה מפחיתה שגיאות יקרות לפני שהן מגיעות ללקוח, לבודק או לרגולטור. ב-AI היברידי, ערך ההתערבות האנושית טמון גם בכך. הפיכת תהליך שבאוטומציה טהורה עלול להישאר אטום, לגלוי ובר-פיקוח.

הטיה, אחריותיות ומעקב

הצומת הראשונה היא ההטיה. בתחום הפיננסי, כפי שכבר צוין קודם לכן, הבעיה אינה נובעת רק מנתונים היסטוריים, אלא גם מהאופן שבו המודל מתרגם נתונים אלה לאותות תפעוליים. נוכחות human-in-the-loop מתוכננת היטב מסייעת ליירט חריגות שהמערכת רואה כתקינות משום שלמדה אותן מהעבר.

עם זאת, הנוכחות האנושית אינה מתקנת את הבעיה מעצם הגדרתה. היא מעבירה אותה למישור אחר אם חסרה משמעת תפעולית. בודק יכול לשפר החלטה, אך הוא יכול גם לאשר באופן מכני את המלצות המודל או להכניס העדפות סובייקטיביות שקשה לזהות.

לכן, בחברות SMB המעוניינות להשיג ROI אמיתי מפרויקטי HITL בתחומי הפיננסים והקמעונאות, כדאי להתייחס לשלושה מרכיבים כרכיבי תהליך, לא כפורמליות ביקורת:

• יומן החלטות, כדי לשייך כל אישור או שינוי לתפקיד מדויק;
• נימוק מובנה לבדיקה, שימושי להבחין בין חריגה עסקית לבין שיפוט אינטואיטיבי;
• ניתוח תקופתי של דפוסי אישור ותיקון, כדי להבין אם הצוות האנושי משפר את המודל או רק מאשרר את הפלטים.

להבחנה זו יש השפעה כלכלית ישירה. אם המשוב האנושי אינו נרשם וניתן לשימוש חוזר, החברה משלמת פעמיים. פעם עבור הטכנולוגיה. ופעם עבור בדיקה ידנית שאינה מייצרת למידה.

GDPR ובקרה תפעולית

הצומת השנייה היא האחריותיות. בהחלטה רגישה, לומר ש"האלגוריתם הציע זאת" אינו מספיק למבקר, ללקוח קורפורטיבי או לפונקציית סיכונים. נדרשת שרשרת החלטות קריאה. הקלטים ששימשו, הסף שהפעיל את האסקלציה, ההתערבות האנושית, ההחלטה הסופית.

מנקודת מבט של GDPR, גישה זו מסייעת משום שהיא מקלה על הוכחת מזעור נתונים, בקרת גישות ופיקוח על החלטות הנוגעות למידע רגיש. היא אינה מבטיחה ציות באופן אוטומטי. אך היא מפחיתה שבריריות טיפוסית של פרויקטי AI בחברות SMB: מודל שפועל היטב מבחינה טכנית אך קשה להגן עליו מבחינה תיעודית.

כאן חסומות יוזמות רבות. לא בגלל מגבלות האלגוריתם, אלא משום שאיש לא הגדיר מי רשאי לתקן המלצה, באילו מקרים, עם אילו ראיות ועם איזו אחריות סופית.

עבור מנהיג עסקי, המבחן השימושי הוא פשוט: האם ניתן להסביר החלטה זו בצורה עקבית למבקר פנימי, ללקוח או לרשות פיקוח? אם התשובה אינה ודאית, הסיכון אינו תיאורטי. הוא תפעולי.

כדי להטמיע אמצעי בקרה אלה בצורה פרגמטית, מבלי ליצור מורכבות בלתי ניתנת לניהול עבור צוותים קטנים, מועיל גם המדריך של Electe בנושא בינה מלאכותית אחראית ויישום אתי של הבינה המלאכותית.

מסקנות וצעדים מעשיים הבאים

הלקח החשוב ביותר הוא זה: human-in-the-loop AI analytics אינו פתרון זמני בהמתנה לבינה מלאכותית "אוטונומית יותר". לרוב מדובר במודל הבשל ביותר להפיכת ניתוח הנתונים להחלטות אמינות, ניתנות להסבר ומועילות לעסק.

הבינה המלאכותית מנהלת קנה מידה, מהירות וזיהוי דפוסים. האנשים מנהלים חריגים, אחריות והקשר. כאשר שתי הרמות הללו פועלות יחד, החברה לא מקבלת רק יותר אוטומציה. היא מקבלת איכות החלטה טובה יותר.

נקודות מפתח

• בחר תהליך בעל השפעה גבוהה. התחל מסיכון, מלאי, תמחור או ציות, לא ממקרי קצה שוליים.
• הגדר ספי הסלמה ברורים. האדם צריך להתערב במקרים הנכונים, לא בכולם.
• עצב את המשוב כחלק מהמודל. הבדיקה צריכה לשפר את המערכת, לא להישאר פעולה מבודדת.
• התייחס לממשל ולמעקבות כדרישות. לא כבקרות שמוסיפים אחר כך.
• שקול פלטפורמות נגישות. עבור עסק קטן-בינוני, היתרון האמיתי מגיע כאשר התהליך נשאר מובן גם ללא צוות טכני ייעודי.

אם ברצונך להפוך נתונים גולמיים להחלטות אמינות יותר מבלי להגדיל את המורכבות התפעולית, גלה כיצד Electe, פלטפורמת ניתוח נתונים מבוססת AI עבור עסקים קטנים ובינוניים, יכולה לתמוך בגישת Human-in-the-Loop עם דמו מותאם אישית.