לאחרונה יצא לי להתפזר קצת וללכת לאיבוד בעולם נתוני הבריאות. מטרת העל השאפתנית שלי היא להתחיל להעיר אחרים לתחום העניין הנישתי שלי- איסוף ועיבוד של נתוני בריאות עצמיים. כמו הרבה מהפרויקטים שלי שמתחילים ומתקדמים ומתקשים למצוא אחיזה ברת קיימא במציאות, גם קהילת הפייסבוק שאני מנסה לייצר תגלה בעצמה בהמשך האם היא הצליחה להתגבש למשהו או לא.
אבל היו בינתיים כמה תחנות מעניינות במהלך העבודה על התוכן של הקהילה הזאת, שהעלו לי שאלות על האופן שבו אנחנו משתמשים במוח שלנו בזמנים מג'ונרטים אלו. והנה כמה סוגיות נוספות על AI, מתוך העבודה עם כלי AI, בלעדיהם, ועליהם.
על AI- מדידה אימפקט של הטמעת כלי AI
כחלק מהעבודה שלי אני מגדירה מדדי אימפקט. חשיבת אימפקט דוברה פה כבר כמה פעמים, והצגתי את הסוגיות השונות שלה, ועל החלחול שלה לשיח החברתי והעסקי. אבל נראה שמשום מה היא עוצרת בשער ה-AI.
כשאני שואלת "מה האימפקט של הטמעת כלי AI" אנשים מתעצבנים עליי. מיד נזרקות לאוויר תשובות כמו "מה זאת אומרת, זה הופך את העבודה לטובה יותר!", "מלא אנשים משתמשים בזה", "זה עשה תוצרים וואו", והאהוב עליי "זה פשוט לאן שהעולם הולך!". אני שמה שנייה בצד את הדטרמיניזם הזה, נפרק את זה בזמן אחר, אבל זה לא סותר את השאלה הבסיסית שמונחת פה: מה הערך שנותנת הטמעת כלי AI?
מי שאמר "מספר גבוה יותר של משתמשים" שיוריד את היד, זה לא יעד אימפקט פטריק. מספר משתמשים, מספר שעות עבודה על כלי AI, מספר הדרכות בארגון, מספר מודלים בשימוש רחב, מספר שעות שנחסכו בעבודה- כל אלו הן תפוקות. Outcomes. התוצרים של תהליך ההטמעה בפועל. אלו דברים שנמדדים בכפייתיות גם בארגונים וגם באקדמיה, אבל אלו לא מדדי אימפקט.
מדידת אימפקט שואלת "באיזה אופן הטמעת כלי AI סייעה לנו להגיע למטרות העבודה עצמה?". אני אתן דוגמה כי זה מרגיש אמורפי- אם למשל, מטרת העסק שלנו היא לקדם תלמידים שמתקשים עם החומר בכיתה בעקבות המלחמות בשנים האחרונות- הנתון של כמה תלמידים אימצו את השימוש בכלי AI הוא תפוקה, והנתון של כמה תלמידים הוציאו ציונים טובים יותר במבחן הבא לאחר ההטמעה- הוא אימפקט. אימפקט גם יכול להיות רחוק יותר בעתיד, למשל- כמה תלמידים הצליחו לצמצם פערים בלמידה בסוף השנה או התקבלו למסלול הנדסת חשמל באוניברסיטה.
כאמור, החשש העיקרי שלי הוא שכמו הרבה טכנולוגיות שנמכרות לנו- ה AI הוא פתרון שמחפש בעיה, מה שמקשה מאוד על ניסוח אמיתי של מדידת הערך שהוא נותן, והתחקות אחר המנגנון של יצירת ערך בכלל. הקושי הוא אפילו גדול יותר כשטרם הוגדרה המטרה ויעד האימפקט שאליו אנחנו מכוונים מלכתחילה. זה לא אומר שאין שום אימפקט להטמעת כלי AI, זה פשוט אומר שלא נגלה אם לא נגדיר ונמדוד אותו.
עבודה עם כלי AI- בלדה למוחות מנוונים
באופן דיסטופי, כיאה לשנים האחרונות, הדוגמה שבה השתמשתי היא פארסה, הולוגרמה שמנסה לשחזר מערכת חינוך שכבר לא קיימת באמת. הרי ברור לנו שתלמידים כבר הטמיעו לעצמם כלי AI, שזה משפיע על האופן שבו הם לומדים, כותבים עבודות, ועונים על מבחנים, ושאין בכלל טעם בלבחון את השליטה שלהם בחומר. ברור לנו גם שמורים נותנים למודלי שפה לתת ציונים לעבודות שג'ונרטו על ידי תלמידים, לשאלות שמלכתחילה ג'ונרטו בכלי AI. למידה ללא מעורבות אדם.
צפיתי בסרטון שניתח היטב את התופעה וההשלכות שלה. השורה התחתונה (כדי שלא תצטרכו לצפות בסרטון בעצמכם) היא שקיימים מחקרים רבים יותר ומהימנים יותר מתודולוגית שמצביעים על ניוון קיצוני, ולעיתים קבוע, של המוח שלנו בעקבות שימוש תכוף בכלי AI, מאשר כאלה שמראים שיפור או ערך קוגניטיבי.
המוח האנושי הוא חסכן קוגניטיבי ויחפש כל דרך קיצור זמינה לתהליכים הפנימיים והעיבוד גירויים שלו. ככה נולדות הטיות מחשבה. כלי AI מציעים לנו בעצם את החיסכון האולטימטיבי- עזבו, גם ככה אתם לא רוצים לכתוב מיילים, לקרוא מאמרים ארוכים, לנתח ולעבד ולשאול שאלות. תכניסו תוכן מצד אחד, תלחצו על כפתור- והרי העבודה נעשתה. בוטים יקראו את המייל שבוטים אחרים כתבו, בוטים יגיבו על ההערות שבוטים העלו לאחר שבוטים אחרים כתבו מאמר. ואנחנו? מה אנחנו עושים בזמן הזה בעצם? רודפים אחרי משימות נוספות כמובן.
כלומר ה-AI לא פותר באמת את העבודה השחורה הזאת, המלוכלכת, המתישה, הסיזיפית. הוא הרי מתחזק אותה במקומות שלנו נשבר. כשהכלכלה מציעה לנו פתרונות פלסטר כאלה שמשמרים את המערכת עצמה שכבר לא מותאמת לעולם ולצרכים שלנו, שווה לעצור ולשאול שאלות. אם בן אדם ולא האייג'נט שבנית בקלוד היה עובר על זה הוא היה שואל "אם העבודה כל כך מתישה שצריך לשלם מנוי פרימיום לבוטים שיעשו אותה במקומנו, אולי הבעיה היא באופן שבו אנחנו עובדים?"
אבל השאלות לא ישאלו, כי אף אחד לא ינסח את זה בפורמפט, ואף מוח אנושי לא יקרא אותן ויעבד אותן. חשיבה תהפוך להיות איזה תחביב משונה של זקנים, כמו סריגה וגינון ואומנות בעץ. אני לא יכולה לחכות כבר לבית אבות של מילאניאלס.
על עבודה בלי כלי AI- התמכרות ותקשורת בין אישית
יש את הסיפור על המחקר המפורסם שבדק התמכרויות על עכברי מעבדה. עכברים שישבו בכלוב ריק לבד קיבלו אפשרות למנות אוכל או למנות סמים. מהר מאוד כל העכברים מצאו את עצמם בצד הפחות סימפטי של דרום תל אביב, מחפשים מישהו שישלים להם לחמש שקל לבאר שבע. כשעכברי מעבדה הושמו בכלוב משותף שנבנה כגן עדן לעכברים עם מזון ובנות עכברות ומשחקים- הם פשוט לא נגעו בסמים והיו היי בנטורל. המסקנה הייתה שההיפך מהתמכרות היא היקשרות וחיבור לאחרים בתנאים מטיבים. בדיוק כל הדברים הנהדרים האלה שנלקחו מאיתנו בשנים האחרונות.
כשאנחנו שואלים את צ'אט ג'יפיטי בפעם העשרים היום מה הוא חושב עלינו מתוך השיחות שלנו עד כה, אנחנו לא מחפשים תובנות להרהר בהן על קיומנו. אנחנו מחפשים קשר שמרגיש כאילו הוא מכיר אותנו באופן אינטימי. כשאנחנו מבקשים ממנו לתת לנו רעיונות לארוחת ערב אנחנו בעצם מחפשים חבר שמכיר אותנו ויודע מה אנחנו אוהבים לאכול לסיעור מוחות משותף. כשמורה משתמש בו לבדוק מבחנים הוא מחפש קשר מקצועי מלמד ותומך. כשאנחנו שואלים על תסמינים של מחלה אנחנו לא מחפשים לחיות בפרק של האוס, אנחנו מחפשים קשר ישיר ומענה אמיתי של אנשי רפואה.
כשהמערכות החברתיות שלנו כושלות, כשאין מספיק כוח אדם, כשכוח האדם שכבר יש הוא שחוק ולא נותן מענה- אנחנו מחפשים טכנולוגיה זולה ומהירה, ג'אנק פוד של תוכן והצגה של קשר אינטימי, וההתמכרות למענה המהיר הזה בלתי נמנעת. במקום לפתור בעיות עומק אמיתיות בעולם העבודה, במערכת החינוך, באקדמיה, בצורך שלנו בקשר אנושי אמיתי ובלתי אמצעי, האצלנו סמכויות לצ'אט בוטים שיתנהלו בבלאגן שיצרנו. ממש כמו בוול-אי.