Computer says no: לא לפוליטיקה של רובוטים

מאיזושהי סיבה לא ברורה, מספרים וגרפים עושים רושם עז על שמאלנים. אולי זה נובע מרגשי נחיתות של בוגרי מדעי הרוח והחברה, או ממורשת "הסוציאליזם המדעי". אחרת, אין לי שום הסבר מה גרם להתלהבות סביב הפוסט האחרון בבלוג של אישתון, "המדריך למצביע השמאלני".

אישתון מבקש בפוסט הזה "לעקור את המחשבה הילדותית" על פיה טענות רציונליות יכולות לשנות את דעתם של אנשים המצביעים לימין. באמצעות סדרה מבהילה של גרפים, שאמורה כנראה להכות בהלם את הקוראים עד שיאבדו את יכולת השיפוט שלהם, הוא מציג בשורה חדשה: שמאלנות מדעית, המבוססת על "מדד האפקטיביות" לההצבעות של המפלגות השונות.

המסקנות שאליו מובילה המתודה הזאת הן לא כל כך מעניינות. אז יותר אפקטיבי להצביע עבודה ולא מרצ – ביג דיל. בכלל, המעמד המקודש שמעניק השמאל בשנים האחרונות להצעות חוק ול"פרלמנטריזם" הוא קצת תבוסתני, ומעיד על שכחה מסוימת מהי בעצם פוליטיקה. עם כל הכבוד לחברי כנסת חרוצים שעושים את העבודה שלהם, בשביל לנהל את מנגנוני המדינה באופן רציונלי אין צורך בדמוקרטיה. את זה יכולים לעשות גם בירוקרטים שימונו על ידי שליט אבסולוטי. במובן מסוים, נראה שזה מה שרבים בשמאל היו רוצים – רצון שמתבטא בפולחן של בג"צ, שהוא בעצם בירוקרטיה ממונית כזו.

אבל הרבה יותר משמעותית כאן המתודה עצמה של אישתון, שהיא לדעתי מסוכנת ואפילו מזעזעת. זה מתבטא בתשובתו לתגובה הראשונה לפוסט –

אם אתה מעוניין להציג נתונים (מדידים) סותרים, אני אשמח. אם אתה מעוניין להצביע על פי תחושת הבטן שלך, לבריאות. אבל אל תנסה לזרוק עלי את המילה "מדיד" כאיזו מילת גנאי, אתה נשמע לגמרי ימני כשאתה עושה את זה… זה מדע. זה עובד כבר כ-120 שנה. חוזים עם זה בחירות. מריצים עם זה פוליטיקאים. גורמים לאנשים לקנות מוצרים. זה עובד.

מה שמזעזע, זה שאישתון צודק. זה באמת עובד. השאלה מה נשאר מאיתנו אחר כך.

*

במהדורה האחרונה של "נתזים" הובא מאמר מ-Daily Beast  המתאר את האליטה החדשה שהצמיח שלטון אובמה. לטענת המחבר ג'ואל קוטקין, הנשיא הדמוקרטי אמנם שנוא על ברוני הנפט ובעלי הבנקים, אבל נתמך על ידי הברונים החדשים של עידן המידע – אלה שכולנו עובדים אצלם בחינם, ושמתמחים בהנדסת הנפש שלנו. אובמה הוא הנשיא של גוגל ופייסבוק: הוא הוכתר על ידי העולם שהם יצרו, והוא גם נבחר באמצעותם. מה זאת אומרת נבחר באמצעותם? מי שקרא קצת על הצורה שבה נוהל הקמפיין של אובמה ייווכח לדעת איזה שימוש מטורף נעשה בו ב-data mining ו- microtargeting. השמאל, בזכות זיקתו הטבעית לאקדמיה, הפך להיות כוח החלוץ באנליזה ומניפולציה של התנהגות אנושית, כפי שמתארת הכתבה הזאת ב-Slate. הקמפיינים של אובמה הסתמכו על עשרות מיליוני רישומי התנהגות שהיו שמורים במאגרים מסחריים של חברות שונות. כך הם הגיעו למשל למסקנה הזו –

The Analyst Institute’s centrality in the left’s research culture has enshrined the use of randomized field experiments as the best tool for measuring what actually moves voters. And the biggest conceptual contribution this body of experimental work has made is to cleanly separate what a voter does in election season into two discrete phases: choosing among candidates and deciding whether to vote. Experiments have shown that giving voters more information about candidates or issues or the stakes of the election does little to adjust their likelihood of casting a ballot. To budge a nonvoter out of complacency, campaigns have learned, they have to use psychological techniques focused on getting someone to do something he or she is not used to doing. There’s one set of tools for changing opinions, and another for modifying behavior.

מה זה אומר? זה אומר שהרבה מההחלטות שהתקבלו לכאורה על ידי אובמה לאורך הקמפיין התקבלו למעשה על ידי המחשב. אנשיו של אובמה, וכמובן אובמה עצמו, לא יכולים אפילו להסביר למה מלה כלשהי שחוזרת בנאום או תשדיר תעמולה מביאה לקלפי מצביעים בנבאדה; אבל הם פשוט עושים מה שהמחשב אומר להם. יש להניח שגם הבעות או תנועות יד מסוימות של אובמה הוכתבו על ידי המחשב, על סמך האלגוריתמים הגאוניים שהמציאו הגיקים של הדמוקרטים.

לזכותו של אובמה ייאמר שהוא לא לגמרי רובוט. הוא אדם קיים, שיש לו אפילו פגמים, ואיתו המהנדסים נאלצו לעבוד. מבחינת הגיקים, הם היו מעדיפים להמציא מועמד from scratch, כלומר למצוא מישהו שיתאים בדיוק לאידיאל שהמודלים שלהם פולטים. בבחירות הבאות, יש להניח שהם כבר יעשו את זה. בינתיים, גם הרפובליקנים ימציאו את הרובוטריק שלהם.

זה יהיה מאוד מסעיר. אבל זאת לא תהיה פוליטיקה. אנחנו, בני האדם, לא נבין אפילו מה קורה שם.

השימוש בכריית מידע, אופטימיזציה ו- microtargeting פולש עכשיו לכל תחום בחיים. כשעבדתי בעיתון, הופיע יום אחד איזה "מומחה אופטימיזציה" (SEO), שהסביר לנו מה צריך לעשות כדי להעלות את הכתבות שלנו בדירוג של גוגל ולהגדיל את הטראפיק. לטענתו, אין כאן על מה להתווכח – אלה דברים שעובדים, דברים שהוכחו ב-google analytics. כאשר אנשים מדברים על המודל החדש והמבטיח שיימצא לעיתונות דיגיטלית, כדאי לזכור שזה המודל – התאמה גוברת והולכת לציוויי הסטטיסטיקה. די מהר, כבר לא יהיה צריך עיתונאים. המחשב ידע למצוא בעצמו את התכנים שמביאים את הטראפיק.

ולא רק בעיתונות השוקעת. יש מחקרים שבודקים אילו מלים מגדילות סיכוי של מאמר להתקבל לכתב עת מדעי. הרבה כותבים מכניסים המלים האלה באופן שרירותי למאמר, גם אם הם בעצמם לא מבינים למה. באופן דומה, האוניברסיטאות מוּנחות היום על ידי אלגוריתמים שמבטיחים מקום גבוה בדירוגים הבינלאומיים. הדרוגים האלה עדיין הרבה פחות מורכבים מהאלגוריתמים של גוגל, ועם זאת גם הם מביאים את האוניברסיטאות ליישם מדיניות שרירותית – למשל להגדיל את מספר הסטודנטים הבינלאומיים, כי זה מה ש"דירוג שנחאי" אוהב. וכך האוניברסיטאות אולי מטפסות בדירוגים, אבל מבחינת הסטודנטים והמרצים בהן הן מתות.

חשוב להבהיר מה ההבדל בין התופעה החדשה הזו לבין "שיקולי רייטינג" או פופוליזם מהסוג המוכר. בצורה הקלאסית של פופוליזם, קובעי דעת קהל כיוונו את צעדיהם לפי מודל כלשהו של "האדם הפשוט" או של "המכנה המשותף הרחב ביותר", שנקבע לפי מוסכמות וקירובים. ככה המציא אלכס גלעדי את "מסעודה משדרות" – דמות מדומיינת שמצייגת את מה שנקרא פעם "ישראל השנייה". אבל בעידן האופטימיזציה, לא פונים לשום דמות. אין סובייקט שהמוצר אמור להתאים לו. זאת מכיוון שהמפרסמים או התועמלנים לא מסתפקים במסעודה, אלא רוצים למקסם ככל היותר את הצריכה והתפוקה. הם לא רוצים רק את מסעודה – הם רוצים גם אתכם. הסובייקט נקטע ונשבר לאוסף של נתונים, המתורגמים מצדם למקבץ של תכונות מוצר והחלטות.

אנחנו מאמינים למשל שאנחנו יודעים מה יפה בעינינו. אבל מדעני מחשב כבר יצרו אינספור סדרות של נתונים  כמו מרחק בין העיניים או הפרופורציות בין הפה למצח, ובאמצעות ניסויים חילצו תכונות יופי ששום יצור אנושי לא היה יכול לחזות. ברור, שגם מושאי האהבה והתשוקה שלנו עוברים במהירות את אותו פילוח ושבירה. גרסה בסיסית של השבירה הזאת מורגשת על ידי מי שנכנס לאתר היכרויות. סימון אוסף מסוים של תכונות רצויות ישיג מיד רשימה של משתמשים התואמים את התכונות האלה. אבל לא רק ששאר הטיפוסים האנושיים – אלה שחורגים למשל מהגובה, הגיל ואורך האיבר הרצוי – פשוט מושלכים מחוץ לתבנית; משתמשים מסוימים עשויים לעבור התאמת יתר לטיפוס האופטימלי, ולפתח בשיטתיות תכונות מסוימות (למשל שרירי חזה) עד לרמה מפלצתית. זוהי צורה עכשווית של איבוד צלם אנוש, שמתפשטת כבר כיום בקרבנו.

ויש גם משמעויות חמורות יותר. לפני שנתיים פירסם שי פוגלמן בהארץ כתבה מצמיתה על "הדיגיטציה של הרוע" שמתרחשת בשטחים. פוגלמן מביא סדרה של תיאורי זוועה של חקירות אלימות של פלסטינים שנערכו ברובן בחטמ"ר עציון. אך המדיניות החדשה לא הונחתה על ידי קצין סאדיסט כלשהו, אלא על ידי "מנה"ל" – תוכנה סטטיסטית שהוכנסה לשימוש בתחנות משטרה –

התוכנה, כפי שמתברר מדבריהם של אנשי משטרה, משקללת את כל פעולות השוטרים בתחנה על פי פרמטרים קבועים מראש. מטרתה, כפי שהוצהר במסמכי המשטרה, "יצירת כלי ניהולי, אפקטיבי, איכותי, יעיל, מוכוון בעיות, תוצאתי ואינטגרטיבי, שבאמצעותו ניתן יהיה לבצע הערכה ארגונית אובייקטיבית" – על פי הסיסמה "מה שלא נמדד לא מנוהל, ומה שלא מנוהל לא ניתן לשיפור".

כל פעילות משטרתית מוזנת למערכת, שמסייעת לשוטרים בגיבוש מהלכי החקירה והתפקוד השוטף בתחנה. בסופו של יום המערכת גם נותנת להם ניקוד על הפעולות שנקטו, לפי הישגיהם […]. לאחר בדיקת המערכת ושקלול הציון שהיא נותנת לתחנות השונות, מתברר כי שני פקטורים הופכים את מעצרם של צעירים פלסטינים בחשד שיידו אבנים לאטרקטיבי ביותר, לפעמים הרבה יותר מטיפול בעבירות פליליות אחרות. לכידתם של זורקי אבנים מוגדרת על פי רוב "עבירת חשיפה", כלומר עבירה שלא הוגשה עליה תלונה במשטרה, ומעצר החשודים והודאתם הם תוצאה של עבודה יזומה מצד שוטרי התחנה.

וכך, כל טיפול בעבירת חשיפה מעניק לתחנה 4.2 אחוזים נוספים לציון. גם גילם הצעיר של הנחקרים שהודו באשמה מעניק לשוטרי תחנת חברון תוספת ציון, שיכולה להגיע בנסיבות מסוימות עד שבעה אחוזים. תוספת ציון, שיכולה להגיע עד 20 אחוז, תקבל התחנה אם יוגדרו המעצר והודאת החשוד כעמידה ביעד של המחוז – כפי שקורה בכמה מן האישומים הנדונים.

זה נשמע מגוחך לומר, אבל הרובוטים כבר שולטים בנו. הגוף שלנו והנשמה שלנו הם חומר גלם בידיהם. כמובן, יש גם מי שאחראים לזה: המהנדסים והמתכנתים, אותם טכנאים גיקים ששולחים את זרועותיהם עמוק יותר ויותר לתוך הנפש, התרבות והפוליטיקה שלנו. כתבתי לא מזמן שהעולם מתחיל רק עכשיו להבין מה המשמעות של שלטון החנונים. כדאי להבין במהירות, לפני שלא יישאר מי שיבין.

מיותר לציין שהכלכלה העולמית כבר נשלטת על ידי רובוטים. המסחר הממוחשב הוא בין הגורמים העיקריים לכך שמחזורי הבורסה כבר לא מובנים לאף אחד. במקום לשרת את האנושות, הם הפכו לישויות חוץ אנושיות שאותן האנושות משרתת, כאילו לטובתה. כפי שמתארת הכתבה הזאת, הקריסה הגדולה של הכלכלה העולמית עשויה להיגרם מכך שמחשב כלשהו ייצא משליטה ויגרור תגובת דומינו שלא ברא השטן.

אבל הדבר האחרון, האחרון שאנחנו צריכים זה לשעבד גם את הפוליטיקה לאלגוריתמים כאלה. יש כוחות שחותרים לכך שזה יקרה. אישתון הוא רק סימפטום. אבל המחשבה שחישוב מתמטי של הצבעות על סדרה כלשהי של חוקים – חישוב שאפילו לא מובן לרוב מי שקורא אותו, אבל אמור להתקבל כ"אמת מדעית" – מעידה רק לאיזה שפל, לאיזו רמה מכוערת של דה-הומניזציה ירדה התודעה הפוליטית בדור שלנו.

מי שלא הבין עד כאן על מה אני מדבר כנראה כבר לא יבין. החיים תחת הרובוט עשויים להיות לו נוחים. אבל לי נדמה שאחת המשימות המרכזיות של אנשים פוליטיים בקונסטלציה הנוכחית היא להציב גבולות לרובוטים, ולא להשתעבד להם. מבחינה מסוימת, זה חשוב יותר מההתנגדות לכל אידיאולוגיה פוליטית מוגדרת. מה שמונח על הכף הוא האנושיות עצמה. לא להיות רובוט, להיות אדם.