חיפוש

להנות ממהפכת המידע ולשמור על הפרטיות

מהפכת המידע כאן. היא הביאה לנו חדשנות מדהימה: תחבורה ציבורית מותאמת אישית (כמו באבל או תיק-תק), עוזרת לנו לקנות דברים שמתאימים לנו יותר, ואפילו לזהות ולצפות את בעיותינו הרפואיות. עד כמה המהפכה מדהימה? כולם בטוחים שאם יש לכם בעיה (נגיד פקקים בכביש), אפשר פשוט לקחת המון המון נתונים (מי נוסע מתי ולאן), לזרוק עליה למידת מכונה (או אפילו, למידה עמוקה), וזהו. פתרון יצוץ.


לא מעט מכנים את המהפכה הזו, המהפכה התעשייתית הבאה. אבל כמו שלמהפכה התעשייתית היה מחיר סביבתי כבד של זיהום עקב השימוש בפחם, גם למהפכת המידע יש מחיר סביבתי כבד - אובדן הפרטיות. אותו אובדן נראה כמו תופעת לוואי בלתי נמנעת של המהפכה - רוצים לבנות מצלמה שמזהה נטיות מיניות או פוליטיות על סמך תמונת פנים? בבקשה. אספו המון תמונות, בנו את המכונה הנכונה - ובבקשה.


קטונתי מלדון בחשיבות הפרטיות, אבל בסופו של דבר - פרטיות היא דבר חמקמק, חשוב, ובעיקר, קשה לשיקום. תארו לעצמכם כי התיק הרפואי האישי שלכם דלף. זהו, אין לכן דרך לחזור אחורה ו"להשיג" את הפרטיות מחדש. וזה כמובן עוד לפני שגיאות של האלגוריתמים (זוכרים את האמריקאי שנעצר כי ככה אמר האלגוריתם?) או הטיות של אלגוריתמים (מנגון גיוס עובדים אוטומטי שעבר אימון על קורות חיים שמוטים מאוד לכיוון גברים לבנים, ולכן דחה נשים ומיעוטים).


למרבה המזל, מידע הוא לא פחם. אפשר להשיג תובנות ממידע, עם הגנה (כמעט) מלאה על פרטים מזהים של האנשים עליהם אומנה המערכת. אפשר לצמצם מאוד את הסכנה בפרסום או העברת מאגרי מידע גדולים על ידי כלי התממה מתקדמים כמו פרטיות דיפרנציאלית, ואפשר מאוד להקטין את ההטיות של אלגוריתמים אם זוכרים שהם יכולים להיות מוטים.


כל מה שצריך בשביל להנות מהמפכה הנפלאה הזו ולשמור על פרטיות הוא קצת להתעניין בלמידת מכונה משמרת פרטיות, לצמצם איסוף מידע לא דרוש, לדאוג שמידע רגיש רב לא יאסף במקום אחד, וכמובן לבדוק שאנחנו לא מנסים לפתור בעיה שכדאי לא לפתור מבחינה מוסרית.


38 צפיות0 תגובות

פוסטים אחרונים

הצג הכול