פוסט זה נכתב על ידי אדם אמיתי. אגב- דרך טובה לזהות אם התוכן שאתם קוראים נכתב על ידי אדם או ג'ונרט על ידי מכונה, היא כמות הרפרנסים הנישתיים שעולים בטקסט, נסו לספור אותם.
נתחיל בסיפור להמחשה
כאישה עם וותק של כמה עשורים בכאבים כרוניים, המסלול הרגיל והקבוע שלי היה ליצור קשר עם גורם רפואי בכל פעם שמצבי השתנה או החמיר. הגורם הרפואי היה מקבל אותי לבדיקה כזאת או אחרת, שולח אותי הלאה לבדיקה נוספת אם התעקשתי, והיה מסכם את המלצות הרפואיות ב- "את רוצה שארשום לך כדור לזה?". בשלב זה הייתי מסרבת בנימוס, הרי אני מחפשת פתרון לבעיה ולא פלסטר לשריטה ברגל, ויוצאת מהמשרד המצוחצח מלאה בתסכול על כך שלא לוקחים אותי ואת התלונות שלי ברצינות. כשהייתי מגיעה הביתה הייתי פותחת גוגל, מנסחת שאילתא משובחת, ומוצאת גם תסכול דומה ממשתמשי רשת נוספים, גם מחקרים פורצי דרך שהרופאים שלי לא הכירו עדיין, וגם עצות לפתרונות אפשריים שאנשים ניסו וגיבשו רשמים לגביהם בתוך פורומים ובלוגים.
אבל אז האינטרנט מת.
התיאוריה על מותו של האינטרנט מדברת על כך שהאינטרנט נפטר עוד ב2016, אבל נראה כי תהליך הגסיסה נגרר גם לימינו אנו, פשוט כי המשכנו להתנהל כרגיל סביב מה שנשאר ממנו. כיום, אם אני אחפש בגוגל פתרון ל-painsomnia (מצב בו כאבים לא מפסיקים להעיר אותך במהלך הלילה) אני אמצא סדרת כתבות מקצועיות ובלוגים שכלל התוכן שלהם ג'ונרט בקלות על ידי AI (דוגמה 1, דוגמה 2, דוגמה 3) ופחות אנשים אמיתיים שחולקים את החוויה שלהם ואת הפתרונות שעבדו להם. ייתכן ואני אקבל המלצות מבוססות AI כבר מגוגל עצמו, שלעיתים יתכנסו להמלצות על אכילת אבנים או קפיצה מגשר.
AI הוא מושג כל כך חרוש בשלב זה, שלא ברור למה הוא מתכוון. מודל AI בסופו של דבר הוא לא יותר ממאגר נתונים פעיל, שמאכילים אותו כמו גרמלינז בדיאטת דאטה לא מגוונת מספיק, לא מעודכנת מספיק, ולא ניואנסית מספיק, ואז מריצים עליו כמה אלגוריתמים שכתבו אנשים רגילים, במטרה לעבד את הנתונים האלה ולהוציא פלט ג'נרטיבי כאילו חדשני ומתוחכם. תוך כמה שניות נשמע ה"פינג" של המכונה שעושה "פינג", ופוסט חדש לבלוג נולד, שיר חדש לספוטיפיי נוצר, או תמונה של חתול עם 3 זנבות ואוזניים על הגב הופקה. קיצור הדרך הזה שמתבסס על ידע מוגבל וחלקי, שמעובד על ידי אלגוריתמים שמתבססים על המון פרוקסים כדי לקבל החלטות, הוא לא יותר מתוצר ממוצע של סך הג'אנק שהמודל אכל.
אם פעם אנשים נאלצו לכתוב את מחשבותיהם בעצמם, לעשות קישורים ועיבודים במודל המתוחכם של אינטיליגנציה אורגנית אנושית, והיו מייצרים תוצרים ייחודיים ומקוריים שבתורם נתנו השראה נוספת ליצירות ייחודיות ומקוריות אחרות (או לא), היום כלל הפוסטים בבלוגים השונים נראים אותו הדבר. מאחר וכולנו עובדים באינטרנט על כלכלת תשומת לב, ככל שתפרסמו יותר פוסטים, תקבלו יותר חשיפה, ותגדילו את השווי שלכם. ועל כן בזמן שמדפסת הפוסטים הג'נרטיבית עובדת יום ולילה, הפוסטים שמתקבלים לעמוד התוצאות הראשון, השני והשלישי של גוגל כוללים כולם מידע גנרי דומה. במקרה הזה- אם יש בעיה רפואית מומלץ להשתמש בתרופות נגד כאב ללא מרשם, לתרגל מיינדפולנס, ולפנות לגורם רפואי. אתרים על גבי אתרים שמציעים לי את אותם הדברים באותו ניסוח שוב ושוב, מאחר ואלו מגבלות הידע הקיים.
אם אעשה את השטות של ללכת לגורם רפואי, ואגרום לו להקשיב לטענותיי, והוא אפילו ייקח אותן ברצינות, ויגיד שהוא באמת לא יודע, ויחפש באינטרנט פתרון, סביר להניח שהוא יתקל בהמלצות המג'ונרטות שמבטאות את ממוצע הידע האנושי המוגבל, אולי כי לא חוקרים גוף של נשים כי זה מסובך מידי, ויציע לי לקחת תרופה ללא מרשם נגד כאבים, לתרגל מיינדפולנס, או לפנות לגורם רפואי.
בינה מלאכותית היא אינה בינה, ואינה מלאכותית
הרמה בה מתופעלים מודלים של AI לא מאפשרת תוצרים מבוססי בינה מלאכותית. התוצרים מבוססים בינה אנושית, ואפילו לא את החלקים הנישתיים, המיוחדים, ופורצי הדרך בבינה האנושית. מי שמתקף את הידע של AI הוא אנחנו, בדרך כלל אנשים מהשורה, והידע שלנו מוגבל. אם מודל לעצות רפואיות יתוקף על ידי 800 רופאים שיסמנו לו בכל פעם שהוא נותן תשובה טובה שזו הדרך לפתור סוגיות מסוימות, ייווצר מהר מאוד אקוצ'מבר שמפיץ את אותו ידע ממוצע ולא חדשני, שלא חושב מחוץ לקופסה. הידע של אותם 800 רופאים הוא מוגבל, הידע שאותו אוכל המודל הוא מוגבל, והאלגוריתמים שמטפחים לסרוק את כלל הידע הזה, לא משנה עד כמה מתוחכמים הם יהיו, לא יעלו על דפוסים שהמתכנת לא יכל לצפות אותם, ולכן לא יכולים להציע לי הצעות מידע שעדיין לא עובד ואושר.
אם בעוד 40 שנה פריצת דרך מדעית תגלה ששתיית מיץ לימון פעם ביום מרפאת כאבים בשינה, אף מודל AI כיום לא יוכל להמליץ לי על הפתרון הפשוט והיעיל הזה, כי גם אם המודל יתפוס מחקרים מוקדמים בתחום ויעלה את מיץ הלימון כאפשרות למניעת כאבים, מספיק אנשי מקצוע שלא מכירים את המחקר שבחיתוליו כלגיטימי, לא יתקפו את התשובות כרלוונטיות. כלומר, מודלים של AI מסוגלים לספק תשובה ממוצעת, ממאגר ידע בינוני, שמתוקף על ידי בני אדם עם טווח ידע מוגבל. כשאנחנו מציגים בינה כמלאכותית אנחנו בסך הכל מסירים את האחריות מכותבי האלגוריתמים. "זה לא אנחנו, זאת המכונה! יש לה אינטליגנציה משלה!" אז לא. אין לה. המודל יפלוט מה שיגידו לו לפלוט בקוד האלגוריתם שלו שכתבו אנשים שלרוב הידע המקצועי שלהם מתמקד בכתיבת אלגוריתמים ולא בהכרח בידע המקצועי שהמודל שלהם אוכל או פולט.
האינטרנט כשמורת טבע נוספת שאנחנו הורסים
הרבה זמן לא נכנסתי לראנט ארוך על האינטרנט כמקום פיזי וביטוי של האינפוספיר. אולי זה לא הזמן הנכון להוסיף עוד שכבות אזוטריות. אבל בסופו של דבר, האינטרנט הגוסס שלנו הוא שמורת טבע ארכאולוגית שמתפוררת מול עניינו. לינקים שבורים, מסמכים שלא קיימים כי הורדו מהרשת, משתמשים שנטשו חשבונות, ובעיקר בעיקר: בוטים.
בעשור הקודם, טמבלר הותקפה על ידי צבא בוטים לתוכן למבוגרים. מעבר לתלונות רבות של המשתמשים, וכמה מבצעי חיסול בוטים שארגנו המשוגעים לדבר, לא היה מה לעשות לגבי זה. מפלטפורמה שוקקת חיים, בשלב מסוים היה ברור שמרבית המשתמשים שמגיבים, מפרסמים, או שולחים לך הודעות, הם בוטים לערוצי תוכן למבוגרים. אבל זה לא רק בטמבלר. מרבית מאזרחי האינטרנט הם בוטים כיום. ליתר דיוק, סביב 50%. וזה היה נכון ל-2023.
מה שזה אומר שרוב התוכן שמועלה הוא תוכן AI מג'ונרט, ורוב התגובות הן בוטים. מודלים של AI סורקים את הרשת ואוספים מידע, כמו למשל גוגל שקנו את המידע של רדיט, מה שהיה יכול להיות נהדר אם רדיט בעצמם לא היו פלטפורמה שרובה בוטים (בעידוד בעלי הפלטפורמה כמובן ליצירת תחושה של פעילות ענפה עבור שוק המניות).
פייסבוק הוא בעיקרו פרסומות מג'ונרטות, שיתופים מפרופילים פייק, ואחוזי חשיפה לקהל בוטים נלהב במיוחד. זה לא רק שהגלריה של התוכן שאנחנו רואים נאצרת עבורנו על ידי אלגוריתמים בעייתים, ולא רק שהתוכן עצמו שאנחנו צופים בו הוא ברובו העלאת גירה של תוכן שכבר ראינו בעבר שמיוצר באופן סיטונאי, אבל גם הצופים מימיננו ושמאלנו, הם בוטים, שמריעים או צועקים בוז בהתאם למה שהקוד שלהם אומר להם לעשות.
כשארכיאולוגי הרשת העתידיים יחפרו בהריסות פייסבוק וx הם יצטרכו לעבור דרך שכבות על גבי שכבות של דאטה לא אנושי שיד אדם או מחשבת אדם לא נגעו בו עשורים. אני לא אכנס להשפעה של המצב על יוצרי תוכן, כי זאת סוגיה נפרדת. אבל בסופו של דבר כולנו היינו אזרחי הרשת במשך שנים, נשענו על הכלי הזה כמקור לידע, לביטוי עצמי, ולמתיחת גבולות החשיבה האנושית. זה אינו המצב, ובדומה לפנטזיה בסיפור שאינו נגמר, הלא-כלום אוכל את הרשת שלנו, מעבד אותה, ומוציא אותה מהצד השני כמו וול-אי כקובייה קטנה ואפורה עם פינות חדות.
זהו חברים, הגענו לעתיד. זאת ללא ספק האפוקליפסה המשעממת ביותר עד כה.
איך AI כן יכול לעזור לנו- לא הכל רע. עדיין
כדי ש-AI יהיה רלוונטי ושימושי עבורנו, יש כמה דברים שחשוב שיקרו:
ראשית, התזונה של המודל חייבת להיות מגוונת, אקזוטית, יצירתית יותר, וניאנסית מספיק, לצד טריות המידע, ורזולוציית הפירוט המירבית, כפי שהיא מובנית על ידי אנשי מקצוע מולטידיסצפילנריים. מה שאני יודעת לא מספיק כדי לעצב את התזונה האולטימטיבית למודל AI, כי התחום המקצועי שלי אינו כולל את הידע המקצועי הרלוונטי ממקצועות אחרים. כשאנחנו משתמשים בידע הקיים בשטח אנחנו מייצרים תזונה של ידע מקצועי לא מעמיק ולא מקיף סביב סוגיות.
בהקשר הזה, יש להבין שהאגו שלנו ששומר על מאגרי המידע של כל משרד ממשלתי וכל גוף מחקר בנפרד ממידע שנאסף במקום אחר, מייצג סגמנטיזציה שפוגעת בנו בסופו של דבר. הכוח של מודלים AI נעוץ ביכולת שלהם לסרוק הרבה ידע מסוגים שונים בזמן קצר ומזוויות שונות. עד שלא נאחד את הנתונים שנאספים על כולנו ונביט במאגר מכלל הזוויות האפשריות, יהיה קשה לייצר התכתבות של מודל AI עם העולם האמיתי שבחוץ. כשאנחנו מבססים מודלים על מאגרים פנימיים אנחנו בסך הכל מקבלים תמונה מסוכמת של הידע המוגבל שאגרנו. הידע שיש אצל אחרים והאופן בו הוא מתממשק לידע שלנו- הוא מה שיהפוך את התוצאה לבעלת ערך כלשהו.
דבר נוסף הוא האתיות של האלגוריתמים שאנחנו משתמשים. בסופו של דבר אלגוריתמים מבטאים תפיסת עולם של בני אדם, גם אם מכונות כתבו אותם, כי נו- המכונות שכותבות אלגוריתמים נכתבו על ידי אנשים וכן הלאה. במיוחד כשמדובר בתפיסת עולם עסקית, אבל לא רק- מה האלגוריתם לוקח בחשבון ומה הוא ממלא כפרוקסי בעצמו, ומה הוא פולט, מוגדר מתוך נקודת מבט מצומצמת. מאגר נתונים לאומי שרץ עליו בוט יוכל להסתכל על רמת הכנסה כדי לזהות רמת חיים, אבל אם לא יגדירו לו לחפש את שביעות הרצון של התושבים מהקהילתיות בשכונה שלהם אז אף אחד לא יחשוב שיש לקהילתיות משמעות לרמת החיים של התושבים בעיר. האלגוריתמים צריכים לבטא בסופו של דבר את ההסתכלות האתית ביותר המתאפשרת לנו כבני אדם אורגניים, כדי לוודא שהמכונות לא עושות עלינו סיבוב ומשרתות אינטרסים פחות אתיים שמשפיעים על החיים שלנו.
לסיכום, אני אמליץ לקחת את הדברים בפרופורציה. AI במתכונת הנוכחית שלו הוא פשוט חישוב של ממוצע כלל הידע שהוא אכל. הידע אינו חדש ואינו בהכרח מסוגל להצביע על מסקנות אינטיליגנטיות מורכבות אלא אם הנחנו אותו לעשות את זה. מודל AI הוא בסך הכל מודל שקורא ממש ממש מהר את כלל הידע שלנו ומספק לנו את התשובה הממוצעת שהידע במגבלותיו יכול לספק לנו לשאלה בינונית כזאת או אחרת. אנחנו כבר יודעים למה ממוצע הוא לא מייצג וסובל מנקודות עיוורון רבות, וכדי לסייג את התוצר עם תוצרים שמספקים מדדים מעמיקים יותר. AI לא מסוגל עדיין לספק תשובה לשאלה שהוא לא אכל לפני כן, ואם אנחנו נמשיך להסתמך על תוכן וידע מג'ונרט, נמצא את עצמנו מהדהדים את אותן טעויות שוב ושוב.
One Reply to “רסנו את ההתלהבות שלכם מ-AI”