מבוא

עמוד:11

מד ריך לאימוץ טכנולוגיות חדשו ת על ידי רשויות השלטון בישראל 11 בחירת הטכנולוגיות, פיתוחן והטמעתן . הכשל העיקרי שעלה הוא שהגורמים האחראים לאימוץ טכנולוגיה חדשה התייחסו אליה רק כאל שיפור של מערכות קיימות, ולא היו מודעים לאופנים מרחיקי הלכת שבהם משנה הטכנולוגיה את היכולת הקיימת או מערערת את סדרי הכוחות הקיימים . תופעה זו הובילה לאי- הפעלתן של מערכות בקרה נדרשות, ובראשן הערכת סיכונים לפגיעה בזכויות והטמעת תקני בקרה מקצועיים . לתפיסתנו, כשל חוזר ונשנה זה ניתן למניעה, הן באמצעות זיהוי מראש של טכנולוגיות שעלולות לגרום לשיבוש חברתי, כלכלי או משפטי גם אם יופעלו באופן תקין, והן באמצעות איתור טכנולוגיות שהפעלתן באופן לא תקין תביא עימה מגוון סיכונים . שלושת מקרי הבוחן שהסתיימו בכישלון אירעו בשנתיים האחרונות בארץ ובארצות הברית . במסגרתם הוטמעו טכנולוגיות מתקדמות שהקנו לרשויות שלטוניות יכולות שלא היו בידיהן קודם לכן או טכנולוגיות שהעבירו למכונות את שיקול הדעת שהיה נתון עד אז בידי פקידים . 9 מקרי הבוחן נבדלים זה מזה בטכנולוגיות שהוכנסו לשימוש, במדינות שבהן התרחשו, בתחומי המשפט ( אכיפת חוק, דיני עבודה וכדומה ) ובקשיים שהתגלו בשלבים השונים . עם זאת, כפי שנראה, לכולם מכנה משותף : כניסתן של הטכנולוגיות נעשתה באופן חפוז, ללא הליך בדיקה סדור לבחינת ההשלכות של השימוש בהן וללא הערכת סיכונים, אגב הסתפקות בבחינה מקצועית על ידי גורמים משפטיים שלא היו בקיאים ביכולות הטכנולוגיות, ללא דיון ציבורי וללא פיקוח פרלמנטרי . בעקבות זאת, במקום התועלות הצפויות, נפגעו זכויות אדם בסיסיות : בארצות הברית אירעו פיטורים שלא כדין, ובישראל — חריגה מהוראות חוק האזנת סתר, פגיעה לא מידתית בצדדים שלישיים, משבר אמון קשה כלפי רשויות השלטון וכן אפליה נגד קבוצה מוחלשת . 9 המונח ״בינה מלאכותית״ הוא שם אב לכמה טכנולוגיות ומתודות סטטיסטיות, הכוללות גם למידת מכונה . במאמר זה לא נוכל לעסוק באבחנות השונות . להסבר על אודות הטכנולוגיה ראו u day k aMath & John Liu , e xPLainabLe a rtificiaLi nteLLigence : a n i ntroduction to i nterPretabLe Machine Learning ( 2021 )

לעמוד קודם  |  לעמוד הבא