תקציר

עמוד:14

אדם, מכונה, מדינה : לקראת אסדרה של בינה מלאכותית 14 בדיעבד כשלים ותופעות שהם לא צפו הן לעמוד בחובות תיעוד רגולטוריות ממקורות אחרים . פיתוח כלים להתמודדות עם הטיות ו"הנדסת הוגנות" . אף שאי-אפשר למנוע את בעיית ההטיות האלגוריתמיות, בייחוד כשמקור ההטיה הוא במציאות עצמה, המגולמת בנתונים, אפשר לזהות אותה ולצמצם את היקפה . מוצע לנקוט כמה אסטרטגיות לצמצום הטיות אלגוריתמיות, ובהן קיום הליך הוגן מבחינה סטטיסטית, גיוון ההון האנושי בקרב מפתחים של מערכות בינה מלאכותית ויישום הליכי בקרה בדיעבד ( auditing ) . התמודדות עם אתגרי השקיפות האלגוריתמית : איתנות מדעית תהליכית . מוצע לאמץ מודל המבוסס על התפיסה הקלסית של שקיפות, אבל כולל חלופה שמותאמת למגבלות הטכנולוגיות של מערכות אלגוריתמיות שאינן מסוגלות לספק הסבר רציונלי לפלט נקודתי . המודל מיועד למקרים שבהם אין אפשרות לספק פלט, אבל יש נחיצות חברתית לשמור על חובות של שקיפות כדי שלא למנוע פיתוח בטכנולוגיות מסוימות ושימוש בהן . המלצות לגבי מוסד מאסדר לבינה מלאכותית בישראל מוצע להקים מוסד מאסדר לבינה מלאכותית בישראל, שתפקידיו יהיו לקדם ולתאם אסדרה של מערכות נבונות בישראל, לרבות תהליך של גיבוש חקיקה רוחבית מתוך מעקב אחר התפתחויות גלובליות מתאימות . המוסד המאסדר יתווה מדיניות בעניין פיתוח מערכות נבונות בישראל, הטמעה שלהן ושימוש בהן ; יספק הנחיה מקצועית לרגולטורים ענפיים כדי להבטיח הרמוניזציה של הכללים החלים על פיתוח מערכות אלו, פרישׂה שלהן ושימוש בהן ; וישמש גורם מנחה שיורי, כלומר יהיה ממונה על אסדרת מערכות נבונות פרטיות בתחומים שאין בהם מאסדר מגזרי . הרגולטור יספק הנחיה מקצועית בתחום הבינה המלאכותית גם לרשויות המדינה . בין השאר הוא ייתן חוות דעת על מסמכי מכרזים ממשלתיים של מערכות בינה מלאכותית כדי להבטיח שהמדינה מצטיידת במערכות בינה מלאכותית העולות בקנה אחד עם הסטנדרטים הישראליים והעולמיים בתחום, וכן כדי לייצר בעבור השוק הפרטי תמריצים "רכים" לעבוד בהתאם לסטנדרטים .

המכון הישראלי לדמוקרטיה ע"ר


לצפייה מיטבית ורציפה בכותר