מדברים בינה – ירון בלום – הבעיה היא לא כשהבינה המלאכותית טועה. הבעיה שהיא נשמעת צודקת

הבעיה היא לא כשהבינה המלאכותית טועה. הבעיה שהיא נשמעת צודקת.

גם האלגוריתם זקוק למבוגר אחראי

בעולם שבו תשובות זמינות לנו בלחיצת כפתור, מידע זורם במהירות חסרת תקדים, וכלי בינה מלאכותית יודעים לנתח, לנסח, להציע ולחשב בתוך שניות, קל מאוד להתבלבל בין תשובה לבין שיקול דעת, ובין ביטחון שמוקרן כלפי חוץ לבין המחיר האמיתי של החלטות המתקבלות על בסיסו.
זו בדיוק אחת התובנות המרכזיות שעלו בשיחה שלי עם ירון בלום לקראת הפאנל המרכזי בכנס השנתי של PMI Israel, שיחה שהביאה אל השולחן זווית אחרת, מפוכחת וחדה במיוחד, כזו שמגיעה מעולמות שבהם טעות אינה רק סטייה מקצועית או החלטה פחות מוצלחת, אלא לעיתים עלולה לשאת מחיר כבד בהרבה.

כשדיוק הוא לא מותרות

ירון בלום מביא אל הפאנל פרספקטיבה יוצאת דופן, שנבנתה לאורך שנים בזירות הרגישות והמורכבות ביותר של קבלת החלטות בתנאי אי ודאות.
כמי ששירת בתפקידים בכירים בשירות הביטחון הכללי, ובהמשך כיהן כמתאם השבויים והנעדרים מטעם מדינת ישראל, הוא פעל במשך שנים במציאות שבה מידע הוא לעיתים חלקי, והחלטות מתקבלות בזמן אמת תחת לחץ, מורכבות ומשקל כבד במיוחד.
בעולמות שמהם הוא מגיע, טעות אינה מסתכמת במחיר עסקי, בעיכוב או בהחלטה פחות מדויקת. לעיתים, המחיר עלול להיות חיי אדם.
זו מציאות שמחייבת סטנדרט אחר של חשיבה, דיוק בלתי מתפשר, בחינה מתמדת של הנחות יסוד, יכולת לקרוא סיטואציות לעומק, להבין גם את מה שלא נאמר, ולהפעיל שיקול דעת גם כאשר התמונה רחוקה מלהיות מלאה.

אולי דווקא משום כך, כשהשיחה נוגעת לבינה מלאכותית, נקודת המבט שלו אינה מתחילה בהתפעלות מהיכולות הטכנולוגיות, אלא בשאלה עמוקה יותר: מה קורה לנו כאשר אנחנו מתחילים להסתמך יותר ויותר על מערכת שיודעת לספק תשובות במהירות, אך אינה נושאת בהשלכות של ההחלטות המתקבלות בעקבות השימוש בה.

הבעיה אינה בכך שהבינה המלאכותית יכולה לטעות. גם בני אדם טועים. ההבדל הוא שאצל בני אדם, במקרים אפשר לזהות היסוס, לשמוע אי ודאות, להבין פער בידע או לראות את המאמץ בקבלת החלטה בתוך תנאים מורכבים. בינה מלאכותית, לעומת זאת, עלולה לטעות באופן הרבה יותר מסוכן, משום שהיא עושה זאת לעיתים באופן רהוט, בטוח, משכנע וקוהרנטי להפליא. ודווקא כאן טמונה הסכנה האמיתית. לא בטעות עצמה, אלא באשליית הוודאות שהיא מייצרת.

בין יעילות לתלות

ככל שאנחנו נשענים יותר על מערכות המספקות תשובות מהירות, מסודרות ומשכנעות, כך גדל הסיכון שנפסיק להשקיע בפיתוח יכולות המעניקות לאדם את היתרון האמיתי שלו.
ידע מקצועי. חשיבה ביקורתית. יצירתיות. אינטואיציה. היכולת להבין הקשר. היכולת לזהות פערים. ובעיקר, היכולת להישאר אלו שמובילים את קבלת ההחלטות.

בינה מלאכותית אמורה להעצים את היכולות שלנו, לא להחליף את אלו המגדירות אותנו כאנשי מקצוע.

כמי שפועל כיום גם בעולמות הסייבר, ירון מתבונן על הבינה המלאכותית גם דרך עדשה מקצועית נוספת.
מבחינתו, כל מערכת שמרחיבה יכולות, מגדילה באותה נשימה גם את "שטח התקיפה".
ככל שהמערכות הופכות מחוברות יותר, אוטומטיות יותר, מהירות יותר ותלויות יותר בהחלטות המבוססות על עיבוד מידע מיידי, כך מתרחבים גם אזורי החשיפה, חלקם ברורים לעין, אך רבים מהם דווקא סמויים לחלוטין.
בעולמות כאלה, רב הנסתר על הגלוי, ולכן מי שמתאהב ביעילות מבלי להבין לעומק את הסיכון, עלול לגלות מאוחר מדי שהמורכבות לא נעלמה. היא פשוט שינתה צורה.

השיחה הזו היא על מנהיגות. על האיזון העדין שבין יעילות לתלות, בין שליטה למהירות, ובין היכולת להיעזר בטכנולוגיה לבין הפיתוי לוותר בהדרגה על היכולות שמאפשרות לנו להוביל.

“בעולם של תשובות מהירות, מנהל הפרויקט אינו מי שמחפש תשובה. הוא מי שמבצע אינטגרציה, מפעיל שיקול דעת, ונושא באחריות לתוצאה.”

מנהל הפרויקט כמרכז העצבים של קבלת החלטות

אחת הנקודות המעניינות שעלו מתוך השיחה עם ירון נוגעת דווקא למקומו של מנהל הפרויקט בתוך המציאות החדשה שנוצרה סביבנו.
בעולמות שמהם הוא מגיע, קבלת החלטות איכותית לעולם אינה נשענת על נתון בודד, תשובה מהירה או ניתוח נקודתי, מרשים ככל שיהיה.
היא דורשת יכולת לבצע אינטגרציה בין שכבות שונות של מידע, להבין הקשרים, לקרוא נכון את הסביבה, ולהרכיב מתוך מכלול המשתנים תמונה בהירה ושלמה המאפשרת לנוע קדימה מתוך שיקול דעת אמיתי.

במובן הזה, תפקידו של מנהל הפרויקט הופך קריטי יותר מאי פעם. בעוד שהטכנולוגיה יודעת לעבד מידע, לזהות דפוסים ולהציע חלופות, מנהל הפרויקט הוא מרכז העצבים של המערכת. הוא זה שמבצע את האינטגרציה בין כלל המרכיבים, בין אנשים, אינטרסים, אילוצים, סיכונים, שיקולים עסקיים והשלכות רחבות יותר, ומרכיב מתוך כל אלו את התמונה השלמה שמאפשרת תנועה נכונה קדימה.
אחרי הכול, השלם גדול מסכום חלקיו, וזו בדיוק היכולת האנושית שהופכת את מנהל הפרויקט לדמות המובילה בתוך מערכת ארגונית מורכבת.

מה שלא נאמר חשוב לא פחות ממה שנאמר

כשהשיחה עוברת לעולמות המו"מ והמודיעין מתחדדת אולי יותר מכל ההבנה שאין תחליף אמיתי לגורם האנושי.
בעולמות הללו, המידע החשוב ביותר אינו בהכרח המידע שנאמר בקול רם. לעיתים, דווקא הדברים שאינם נאמרים הם אלו שמספרים את הסיפור האמיתי. ההיסוס הקטן. השקט הלא צפוי. שינוי בטון. פער בין מסר גלוי לבין כוונה סמויה. תזמון. בחירת מילים. תגובה שנדחתה. שפת גוף. הקשר. דינמיקה.

היכולת לקרוא סיטואציה אינה נובעת רק מגישה למידע. היא נובעת מניסיון, מהבנת בני אדם, מהיכרות עם מורכבות, והיכולת לזהות שכבה נוספת מעבר למה שמונח באופן פורמלי על השולחן. במודיעין, כמו במשא ומתן, מידע לבדו אינו מספיק. צריך להבין משמעות. לקרוא מציאות.

וזו אינה תובנה ששייכת רק לעולמות הביטחון. זו תובנה השייכת גם לעולם ניהול הפרויקטים.

כי פרויקטים אינם מנוהלים רק דרך גאנטים, ישיבות סטטוס ותוכניות עבודה. הם מנוהלים דרך אנשים. דרך אינטרסים. דרך התנגדויות. דרך מתחים. דרך אילוצים. דרך מה שנאמר בחדר, ודרך מה שקורה מחוץ לו. דרך החלטות שמתקבלות באופן רשמי, ודרך דינמיקות בלתי פורמליות שמשפיעות לא פחות.
בדיוק שם, במקום שבו נדרש לקרוא את התמונה שמעבר למסך, היתרון האנושי נשאר חד וברור.

המבוגר האחראי

אולי זו הסיבה שהשיחה עם ירון מחזירה אותנו לשאלה פשוטה אך מהותית. לא האם הבינה המלאכותית חכמה. היא בהחלט חכמה. לא האם היא יכולה לייעל אותנו. היא יכולה. אלא מי נשאר המבוגר האחראי בתוך מערכת היחסים הזו.

מי עוצר כדי לשאול את השאלה הנכונה.

מי מטיל ספק כשהתשובה נשמעת מושלמת מדי.

מי מבין את המחיר של החלטה שגויה.

ומי מוכן לקחת אחריות.

כי בעולם שבו הטכנולוגיה הופכת חזקה יותר מיום ליום, היתרון התחרותי של האדם לא יהיה במהירות העיבוד, אלא בשיקול הדעת, ביכולת להבין הקשר, ביצירתיות, ובמנהיגות שיודעת לחבר בין כל חלקי הפאזל לכדי תמונה שלמה.

אני מזמינה אתכם לשלוח אלי שאלות לפאנל או לירון בלום, מחשבות, דילמות וסוגיות שאתם פוגשים במציאות האישית והמקצועית שלכם, כאשר חלק מהשאלות יעלו לדיון על הבמה וישתלבו בשיח עצמו.

בכל שבוע תתפרסם כתבה עם אחד מחברי הפאנל, כדי שתוכלו להכיר קצת יותר לעומק את האנשים שמאחורי השיח.

ניפגש בכנס!