חיפוש

מציאות אלגוריתמית

עודכן ב: ינו 28

השנה היא 2021 ואנחנו מתקרבים למציאות שבה יותר ויותר החלטות יתקבלו על-ידי אלגוריתמים. לפני שאתייחס למה צופן העתיד, אנחנו נמצאים כיום בשלב קריטי בדרך למציאות אלגוריתמית – שלב ההתחמשות בדאטה. חברות ורשויות המדינה מתחמשות בדאטה שלנו, כמה שיותר – יותר טוב. רשויות משתפות מאגרי מידע, חברות רוכשות חברות עם דאטה, המדינה רוכשת מחברות דאטה, חברות מתמזגות עם חברות עם דאטה, חברות מתחרות עם חברות על דאטה. דאטה הפכה מזמן למטבע הסחיר המבוקש ביותר.

כשחברות יחזיקו מספיק דאטה, והטכנולוגיה, שכבר קיימת היום, תבשיל לכדי תפוצה מסחרית רחבה, נגיע לשלב שבו החלטות יום-יומיות מתקבלות באופן עצמאי על-ידי אלגוריתמים. האלגוריתמים לא יחליטו לבד, הם יתבססו על הדאטה שנצבר בעשור (או יותר) האחרונים. הסיכון העיקרי במעבר להחלטות אלגוריתמיות הוא ההטיה המובנית בקבלת החלטות אוטומטיות על בסיס מידע שבראשיתו נוצר על בסיס הנחות מפלות.

החלטות אלגוריתמיות אינן חזון אחרית הימים, זה קורה כבר כיום בישראל בחברות עתירות ידע: חברות ביטוח בישראל החלו להציע פרמיות מבוססות מידע - נהג שנוסע במהירות המותרת ישלם פחות מנהג שעובר בין נתיבים בלי לאותת. גם רשויות המס החלו לקבל החלטות מבוססות-מכונה. בכל יום שעובר, יותר החלטות אנושיות עוברות הסבה למכונה: זכויות, הטבות וקצבאות יקבעו בעתיד באופן אוטומטי, כמה נוח.

אין ספק כי קיימות תמורות חיוביות לקדמה ולחדשנות, בינה מלאכותית הביאה לפיתוח של חדשנות חסרת תקדים בתחום הרפואה, החקלאות, הסביבה ועוד. חדשנות אינה אויבת של הפרטיות, אפשר לחיות בעולם שבו מתקבלות עלינו החלטות באופן אוטומטי – כל עוד התהליך הוא שקוף והוגן. אנחנו רוצים לדעת שהקנס שקיבלנו הגיע בעקבות החלטה אוטומטית מצילום ברחוב, אנחנו רוצים שתהיה לנו האפשרות לערער על ההחלטה ולבקש שבן אדם, בשר ודם, יבחן את ההחלטה בשנית.

ועוד רעיון, מעט חדשני – מרשם אלגוריתמים ציבורי. מרשם כזה נוסד לאחרונה באמסטרדם והלסינקי - שם התושבים יכולים לראות אלו פעילויות עברו המרה אלגוריתמית, ועבור כל פעילות לבדוק על איזה מאגר נתונים האלגוריתם מתבסס, מהן האפליות או ההטיות האפשריות (לדוגמה העובדה ששירות ניתן רק בשפה אחת), ועוד.


אסור שהליך קבלת ההחלטות במדינה יהיה מונע רק משיקולי יעילות ויהיה חף משיקולים שבטובת האזרח.

46 צפיות0 תגובות