פרק שביעי שקיפות אלגוריתמית

אדם, מכונה, מדינה : לקראת אסדרה של בינה מלאכותית 204 הטענה הרווחת היא שכדי להתגבר על אי-בהירותן של מערכות לומדות ועל הסכנות הפוטנציאליות הטמונות בהן נחוצה שקיפות אלגוריתמית . מחברות הטכנולוגיה נדרש להסביר לנו איך בדיוק האלגוריתמים שלהן עובדים ממש כשם שמחברת קוקה קולה נדרש לחשוף את המתכון הסודי שלה . ואילו התביעה מממשלות היא לא לאפשר למשטרה להשתמש במערכות זיהוי פנים עד שלא יסבירו לנו איך האלגוריתם פועל . 1 . 7 ה מו שג ש קיפ ו ת אלגור י ת מית ה וא מוש ג " ע כ ו ר" בתחום הרגולציה של מערכות בינה מלאכותית, ובפרט בתחום האתיקה, מרבים לעסוק ברכיב 883 העכירות המובנה במערכות בינה מלאכותית . רכיב זה מקשה את הבנת פעולתן ואת הבקרה על תפקודן התקין . כדי לפתור את חוסר הבהירות המובנה במערכות אלגוריתמיות לקבלת החלטות וכדי לקדם אחריותיות, מוצע בספרות המושג ״שקיפות אלגוריתמית״ . התפיסה הרווחת היא שעכירות יוצרת קשיים באיתור הגורם האחראי על תקלות ואף עלולה להעצים את הנזק הנגרם מפעילותה של המכונה, מאחר שהמשתמשים אינם מסוגלים להבין מה היה צריך להיות השימוש הנכון או לאתר את המקור לתקלה . ואכן, כפי שראינו בחלק...  אל הספר