linked in

שלח פרופיל עכשיו >

ההרשמה נקלטה

בהצלחה!

ראש בראש: שופט אנושי ואלגוריתם

12/05/2019 09:50:58
ראש בראש: שופט אנושי ואלגוריתם

נניח שאתם עומדים למשפט, מה הייתם מעדיפים, שופט אנושי או אלגוריתם? יתרון לאלגוריתם: לא מושפע מתוצאות המשחק של קבוצת הכדורגל המקומית; חסרון לאלגוריתם: רואה כבשה על עץ וחושב שזאת ציפור

אנו מפקידים יותר ויותר מישורים בחיינו בידי אלגוריתמים. הם מאבחנים מחלות, נוהגים ואפילו מלחינים יצירות. בניגוד אלינו, הם לא מתעייפים או מושפעים מרגשות, יש להם יכולת לעבד כמות עצומה של דאטה, והם אובייקטיבים, לפחות לכאורה. אין פלא שאנו מפנים אליהם יותר ויותר סמכויות של קבלת החלטות.

למשרות תוכנה במיטב הסטרטאפים בארץ ובעולם - שלחו קורות חיים או פרופיל לינקדאין 

במיוחד כשיש כל-כך הרבה ממצאים מחקריים שמצביעים על ליקויים, טעויות והטיות בשיפוט האנושי. אם ניקח, למשל, זירה חשובה במיוחד של קבלת החלטות: בית המשפט. כולנו היינו רוצים להאמין ששופטים הם נטולי פניות, אובייקטיבים וכך הלאה. אבל המחקר מצביע על הטיות שונות בפסקי דין של שופטים. בין השאר: שופטים שונים מקבלים החלטות שונות לגבי אותו המקרה, ומה שעוד יותר מערער את הביטחון: אותו שופט יכול לקבל החלטה שונה לגבי אותו המקרה בזמנים שונים. יש מחקרים המצביעים על כך ששופטים שהם אבות לבנות, נוטים לתת פסקי דין חמורים יותר במקרים של אלימות כלפי נשים, ועוד ממצא: שופטים (גברים) נוטים לתת פסקי דין חמורים יותר לאחר הפסד של קבוצת הכדורגל המקומית. ההטיות בשיפוט האנושי קיימות גם, כמובן, מחוץ לכתלי בית המשפט, ויש אף דיסציפלינה מדעית בשם "כלכלה התנהגותית", אשר מוקדשת לחקר השפעותיהם על תהליך קבלת ההחלטות שלנו. אם מערכת השיפוט האנושית כה לקויה, עולה השאלה, למה אנחנו לא מעבירים לאלגוריתמים באופן סופי את השרביט, ונותנים לנהל להם לנהל את העולם (או לפחות את מערכת בית המשפט)?

האלגוריתם שלח לכלא

אמנם טרם העברנו אליהם את השליטה בעולם, אבל אנחנו כן מפנים לידיהם הקרות יותר ויותר סמכויות ותהליכי קבלות החלטות רבים נשענים היום על אלגוריתמים. ביניהם: מיון מועמדים למשרות, אישור או דחייה של בקשה להלוואה, עלות הביטוח הרפואי והערכת הסיכוי שעבריין יחזור לפשוע. מסתבר שגם ההישענות שלנו על השיפוט המספרי הקר של האלגוריתם היא בעייתית, כפי שמסבירה ד"ר קתי אוניל בספרה: Weapons of Math Destruction, המודלים המתמטיים "נועדו לפתור בעיות, אבל בעצם מנציחים בעיות, במסווה האובייקטיבי של "הנוסחה חישבה ומצאה", היא אומרת. "הם נוטים להעניש את העניים והמדוכאים בחברה, ולהעשיר את העשירים".

ניקח שוב את דוגמת בית המשפט, כאשר הפעם על הדוכן ניצב האלגוריתם. מערכת המשפט האמריקאית אימצה מודלים ממוחשבים כדי להעריך את הסיכון לכך שעבריינים יחזרו לפשוע. המערכת מעבדת מגוון נתונים ומציגה בפני השופטים האמריקאים דירוג המתיימר להעריך מה הסיכון לכך שהנאשם יחזור לפשוע. השופטים נעזרים בכך כדי לקבוע את גזר הדין. למשל, אם המערכת קבעה שיש סיכוי גבוה לכך שהעבריין יחזור לפשוע, השופט יקבע משך ארוך יותר לגזר הדין או יקשיח את תנאי השחרור על תנאי.

אם כן, לאלגוריתם כוח אמיתי לשלוח את העבריין לתקופת מאסר ממושכת יותר או פחות. לכן יש חשיבות עצומה לכיצד הוא נבנה ועל איזה סוג של דאטה הוא מתבסס בקביעת דירוג הסיכון שלו. מסתבר שהאלגוריתם משתמש, בין השאר, במידע על מעצרים קודמים. אבל שיעורי המעצר בקרב שחורים גבוהים הרבה יותר משיעורי המעצר בקרב לבנים, כיוון שנוכחות המשטרה בשכונות השחורות גבוהה יותר, המשטרה נוטה יותר לעצור שחורים וכו וכו'. האלגוריתם, אשר משתמש בדאטה על היסטוריית המעצרים, למעשה מטה את הכף לרעת נאשמים שחורים, ומכניס בדלת האחורית "האובייקטיבית לכאורה" את האפליה היישר אל כתלי בית המשפט והכרעת הדין.

כבשה על עץ = ציפור; כבשה צבועה ורוד = פרח

הדאטה עליו מתבסס האלגוריתם הוא חלק מהבעיה אבל לא כולה. בהרצאה מרתקת, מביאה המתמטיקאית Hannah Fry דוגמה נוספת לליקוי בשיפוט של אלגוריתמים. בניסוי שנערך, אלגוריתם לזיהוי תמונה חשב שכבשים על עץ הם בעצם ציפורים, וכאשר הכבשים האלה נצבעו בוורוד ופוזרו על שדה דשא, האלגוריתם פסק שלפניו פרחים.

אלגוריתמים הם עדיין טכנולוגיה חדישה באופן יחסי, ולמרות הרצון להפקיד את הסמכות העליונה ואת תהליך קבלת ההחלטות בידי גורם חיצוני שהוא לא אנחנו, לתודעה האנושית יש תפקיד משמעותי בתהליכי קבלת החלטות. אנחנו לפחות מצביעים בעד איחוד כוחות.  

 




חזרה לבלוג >      חיפוש משרות >