] 81 [ להבין מכונות שהמערכות הללו לא פעלו על פי אותם חוקים המנחים את בני האדם, יוצרת להם הזדמנויות — כפי שאירע כאשר AlphaGo הצליחה להפתיע את לי סידול — ובעיות בעת ובעונה אחת . כך למשל אחד היתרונות של מערכות שפותחו בגל הראשון של הבינה המלאכותית היה שהן היו “שקופות" מאוד . מאחר שהן פעלו בדרך כלל על פי חוקים מפורשים שקבעו בני אדם, היה קל להבין מדוע מערכת כלשהי מגיעה למסקנה נתונה, בין שזהו צעד במשחק ובין שזהו אבחון רפואי . לא כך היו פני הדברים בגל השני של הבינה המלאכותית ; המערכות הללו היום “מעורפלות" הרבה יותר . מדוע בחרה AlphaGo לעשות את הצעד ה- 37 חסר התקדים הזה, למשל ? לשאלה זו לא הייתה תשובה ברורה בתחילה, ומפתחי המערכת נדרשו לבחון בקפידה את כל החישובים הסבוכים שהיא עשתה קודם שיכלו להבין את החלטתה . הערפול החדש הזה עורר מאמץ מחקרי שמטרתו לסייע למערכות 35 הוא גם עורר כבר תגובה אפשרית בינה מלאכותית “להסביר את עצמן" . של מדיניות ציבורית . באיחוד האירופי לדוגמה קבע סעיף 15 של התקנה הכללית החדשה להגנה על הנתונים, כי “מידע משמעותי על ההיגיון של 36 לפי שעה, התחושה בקרב קבלת ההחלטות הממוכנת" ה...
אל הספר