באדיבות הקתדרה במוז״א ופרופ׳ ליאור זלמנסון, במסגרת הסדרה ״בינה בזמן אמת-עונה חדשה!״
השבוע התפרסם כי חברת פורד החזירה לתמונה מאות מהנדסים ותיקים, אחרי שהתברר שמערכות בינה מלאכותית פשוט אינן מספיקות לבדן כדי לפתור בעיות מורכבות בתכנון, ייצור ואיכות. מה שהמכונה לא הצליחה להחליף לא היה רק הידע הטכני, אלא הזיכרון הארגוני: הניסיון של מי שכבר ראו מספיק תקלות, דגמים, החלטות גרועות ופתרונות מאולתרים כדי לזהות מתי משהו פשוט "לא מריח נכון".
ברשתות, סיפורים כאלה כבר זכו לכינוי "AI Boomerang": חברות שמיהרו לצמצם עובדים מתוך אופטימיות אלגוריתמית, רק כדי לגלות שהעבודה חוזרת אליהן כבומרנג. התגובה הציבורית המיידית היא שמחה לאיד. הנה, אומרים לנו, עוד הוכחה שבינה מלאכותית לעולם לא תחליף בני אדם.
אבל המסקנה הזו היא פנטזיה לא פחות מוגזמת מהפנטזיה ההפוכה.
הטעות הראשונה היא לחשוב שרק בגלל שבינה מלאכותית עושה משהו אחד מדהים, היא כבר יכולה לעשות הכול. הטעות השנייה היא להניח שבגלל שהיא נכשלת במשהו, היא לא תשנה כלום. שתי הגישות מתעלמות מהאפשרות הפשוטה והמורכבת יותר: בינה מלאכותית יכולה לבצע חלקים עצומים מהעבודה ברמה שלא הייתה אפשרית עד לאחרונה, ועדיין להיכשל קשות בדיוק במקומות שבהם נדרשים הקשר, אחריות, ניסיון ושיפוט. 10 האחוזים האחרונים של המשימה אינם תמיד "שאריות העבודה" לפעמים, הם הסיבה שהעבודה קיימת מלכתחילה.
יש כאן גם עיוות מרתק בכל הנוגע לאופן שבו אנחנו מעריכים את התוצרים של שיתוף הפעולה הזה בין אדם למכונה. כשידוע שאלגוריתם פלט את רוב העבודה בשבריר שנייה, תפיסת המאמץ צונחת, ובהתאם לכך משתנה גם האופן שבו שופטים את ערך התוצר הסופי. אך האבסורד הוא שהמאמץ האנושי לא באמת נעלם לגמרי אלא ברובו משנה צורה. התאמה להקשר העסקי ופתרון תקלות, דורשים מאמץ קוגניטיבי אדיר ולעיתים שוחק הרבה יותר. נוצר מצב שבו המאמץ האנושי הקריטי ביותר הופך לשקוף עבור הארגון.
גם המשפט הנוח והשגור, "ה-AI יעשה את השגרה והאדם יטפל בחריגים", צריך להטריד כל מי שמנהל אנשים. איזה מין עובד אמור לטפל רק בחריגים? הרי כדי להבין מקרה חריג, חייבים קודם להכיר לעומק את השגרה. אם העובד נחשף רק למקרים שבהם המערכת נכשלה, הוא כבר אינו מתפקד כ"אדם בלולאה" (Human in the loop). הוא הופך לאדם שבקצה הלולאה – זה שנשאר כדי לספוג את הלקוח הכועס, לתקן את ההחלטה המסוכנת ולפרום את התהליך שכבר הסתבך והרבה פעמים בלי הידע איך להתיר את הפלונטר.
לכן, תופעת הבומרנג אינה הוכחה לכך שהאדם ניצח את המכונה. היא הוכחה שארגונים השליכו על המכונה פנטזיות בינאריות וקיצוניות: או שהיא תחליף את כולם, או שהיא לא תחליף אף אחד. בפועל, המציאות מבלבלת בהרבה. המכונה תחליף חלקים מהתהליך, תשנה תפקידים מן היסוד, תמחק לחלוטין מיומנויות מסוימות ותהפוך מיומנויות אחרות לקריטיות מאי פעם.
אולי זו הסיבה שהסיפור האמיתי של השבוע אינו רק זה של פורד, אלא גם של ענקיות כמו AWS ומיקרוסופט, שמשקיעות כעת מיליארדים בגיוס מהנדסים וצוותים שיעזרו לארגונים להטמיע AI בפועל. המהפכה האוטומטית, כך מתברר, דורשת המון עבודה אנושית.
