הקדמה

העיוור והחזק של הרשת או שעלינו לדבוק בגישה הישנה של תכנות, או אולי לשלב בין שתי הגישות בהתאם לבעיה . רשתות נוירונים הינן בבחינת קופסה שחורה - Black Box . אי אפשר לדעת כיצד הן הגיעו לתוצאה הנדרשת, לא ניתן לעשות Reverse Engineering לרשת . כפי שנראה בפרק א', הרשת אינה יותר מאוסף המשקלות שלה, זהו "החיווט" שלה, אני יכול ללמד אותה להגיע למשקלות הנכונים ואולם אינני יודע לחשב אותם מראש . אנו אומרים כי מערכת כזאת איננה "שקופה" . לעיתים השקיפות חשובה לנו, אם למשל המערכת מנבאת את סיכויינו להיות חולים, היינו רוצים לדעת מדוע . לא היינו מסתפקים בטענה שהרשת מנבאת נכון ואפילו אם כמעט תמיד . לאחרונה החל להתפתח תחום חדש הקרוי Explainable AI והוא כולל אוסף של טכניקות המנסות לפענח את הקופסה השחורה הזאת . על בעיית השקיפות עונות הרשתות הגרפיות הנידונות בפרק ג' . הפרק השני עוסק בלימוד חיזוק או Reinforcement Learning . לימוד חיזוק הוא מודל המייצג סוג של חשיבה או תכנון, כלומר צפייה קדימה בזמן . בכדי לבצע משימה בעלת שלבים רבים ובצורה הטובה ביותר נצטרך לתכנן את הפעולות תוך כדי צפייה קדימה בזמן . בדיוק כפי שאנו ע...  אל הספר