בעשורים האחרונים, העולם עד להתקדמות עצומה אל עבר שימוש בטכנולוגית הבינה המלאכותית, שחלחלה בסערה גם לעולם המשפט והמערכת השיפוטית. אכן, קצב התפתחות הבינה המלאכותית הוא מסחרר, יתרונותיה רבים, ונראו זה מכבר הוכחות מעשיות בדבר יכולתה לבצע פעולות בהצלחה. אולם כאשר ענייננו במערכת השיפוטית, במסגרתה מתקבלות הכרעות המשפיעות באופן ישיר ועמוק על חייהם וזכויותיהם של בני אדם, גדל המחיר שאנו עלולים/ות לשלם תמורת טעויות, הטיות והחלטות שגויות, ובהתאם עולות שאלות ותהיות רבות בדבר מהימנות הבינה המלאכותית, ומידת מסוגלותה להשיג צדק.
על מנת לבחון את השאלות העקרוניות העולות מהעידן המשפטי החדש, נערכה סקירת ספרות שיטתית נרטיבית הבוחנת– האם הבינה המלאכותית ראויה להחליף את התפקיד השיפוטי, או שמא לתמוך בתפקיד זה בלבד. המחקר סקר שישה מאמרים שכל אחד מהם הביא פרספקטיבה ייחודית לדיון. שילוב הממצאים והתובנות השלים את התמונה לכדי ניתוח מעמיק והצעת פתרון לשימוש נכון בבינה המלאכותית במערכת השיפוטית.
ראשית, סקר המחקר את השימושים הנוכחיים בבינה מלאכותית במערכות משפט ברחבי העולם. שנית, נדונו האתגרים העומדים בפני פיתוח בינה מלאכותית שופטת. שלישית, נדונו ההטיות והמגבלות של הבינה המלאכותית המעכבות את היותה מהימנה וצודקת. רביעית, הובאו העקרונות והדרישות שיש לצפות מבינה מלאכותית לפעול על פיהם על מנת להיות מהימנה. חמישית, ולאור המסקנות מהפרקים הקודמים, הוצגה הדרך הנכונה להשתמש בבינה המלאכותית בבית המשפט. שישית, לאחר ניתוח מעמיק המתבסס על כל הנאמר לעיל, ניתנה תשובה לשאלה המרכזית בה עסק המחקר – האם הבינה המלאכותית תחליף את תפקיד השופט/ת האנושי/ת, או שמא תסייע לה/ו בתפקידה/ו בלבד?
שימושים נוכחיים
עיקר השימוש המשפטי בבינה מלאכותית כיום מתחלק לשלוש קטגוריות: האחת, ארגון מידע; השנייה, ייעוץ; והשלישית, ניבוי וצפיה מראש של תוצאות ההליך המשפטי. עניינו של ארגון מידע ביכולת לאגור ולעבד מידע רב, ובלזהות תבניות וחזרתיות. יכולת זו משמעותית ואף חיונית לתפקיד השיפוטי הן מן הטעם של הצפת המידע מטעם הצדדים בהליך, במיוחד במערכת משפט אדברסרית כגון זו הישראלית, בה הצדדים מגישים את ראיותיהם במלואן לבית המשפט, וברוב המוחלט של המקרים מוגש מידע רב, מיותר בחלקו ולא מאורגן; והן מן הטעם שבישראל ובשיטות משפט הדוגלות בתקדימים, פסקי דין והחלטות ניתנים על בסיס ההלכות ופסקי דין קודמים, ומלאכת החיפוש המשפטי וביסוס ההכרעה הנוכחית היא מסורבלת, בפרט בישראל כמדינה שבה אחוז הליטיגציה וניהול התיקים הוא מהגבוהים בעולם. עניינו של הייעוץ הוא ביכולת הבינה המלאכותית לספק תשובה לשאלה. לאור יכולת רחבה זו, ניתן להיעזר בבינה המלאכותית במספר רמות בהתאם לצורך השיפוטי; החל משאלה משפטית מצומצמת בדרך אל ההכרעה, וכלה בדרישה שהאלגוריתם יכריע בסכסוך כולו. דרישה זו כרוכה בתהליך קבלת החלטות מלא, במסגרתו האלגוריתם ייקח בחשבון את מכלול המידע המשפטי הקיים במערכת המשפט בה נדון התיק, ויחיל על עובדות המקרה הנתון את הדין, ויציג לשופט/ת הכרעה מוצעת. ניבוי ישמש גורמים חיצוניים ולאו דווקא שופטים/ות, לרוב ישמש את עורכי הדין על מנת להעריך את סיכויי הצלחת תביעתם טרם פתיחת ההליך, ובמסגרתו האלגוריתם יציג להם הכרעה בסכסוך הקונקרטי, על בסיס הכרעות קודמות במקרים דומים, ובהתחשב בשופט/ת, העדפותיו/ה ודרך פרשנותו/ה לחוק כפי שהן משתקפות מהכרעותיו/ה הקודמות. יחד עם זאת ישנן מערכות ניבוי לסיכויי הרשעות עתידיות או הידרדרות פלילית, כגון מערכת "COMPAS" המשומשת כיום בבתי משפט בארה"ב.
האתגרים בפני פיתוח בינה מלאכותית שופטת:
- ריבוי גורמים והעדר רגולציה: תהליך קבלת החלטות שיפוטי שנע על ידי בינה מלאכותית, כרוך בעבודתם של גורמים רבים, משפטיים וטכנולוגיים כאחד, על מנת לתכנת, לעצב, לאמן, ולפקח על הפעילות האלגוריתמים ותוצריה. כל אחד מהגורמים המעורבים יש לו חלק בתוצרי המערכת האלגוריתמית, אולם בהעדר רגולציה שאלת הסמכות ובעקבותיה שאלת האחריות נותרות ללא תשובה, ואין לדעת מי יישא בתוצאות שגויות או בעייתיות של המערכת.
- תרגום השפה המשפטית לשפת קוד: הכלי המשמעותי ביותר בעולם המשפט הוא השפה. מילים יש בכוחן להכריע לכאן או לכאן, משמעותן משתנה ותלוית הקשר, והרבה פעמים עניינן בניואנסים ובסמנטיקה. תרגום כזה הוא תהליך מורכב מאין כמוהו, ולא ניתן להבטיח כי הקוד יהיה בסופו של יום שווה ערך למילים המקוריות ושתוצריו שווים למקור. זאת ועוד, התרגום נעשה על ידי אנשי טכנולוגיה שלאו דווקא בעלי רקע משפטי, מה שעלול להגדיל את הסיכון בתרגום והפערים בין המקור לתוצר.
- סביר שהמערכת האלגוריתמית תאחסן את הדאטה המשפטית לאורך השנים, ובעת הכרעה תיתן לפסק דין ישן משקל זהה לזה החדש. אולם, עולם המשפט מאוד דינמי, לפעמים ההכרעה הישנה תהא דומיננטית, ולפעמים תקדים חדש בזמן יתווסף על תקדים ישן בזמן ושניהם יחד יהוו השפעה על החלת הדין. לפעמים התקדים החדש יחליף באופן מלא את הישן, ולפעמים הכרעה תהא אגבית ולא תקבע הלכה. לאור זאת, אין לצפות מבינה מלאכותית להבחין בדקויות אלו, ולדעת להחיל את הדין הנכון על העובדות הנתונות.
- לבינה מלאכותית אין שיקול דעת. אין חוש צדק, יכולת לבחון את מהימנותם של אנשים (כגון בעלי דין ועדים) או ראיות, ואין ביכולתה לתת ערך חברתי או חינוכי במקרים המתאימים. אולם אלה הם לב לבה של מערכת המשפט, וללא הבטחת חוש בסיסי של צדק בהכרעה מעבר לבחינה מכנית של עובדות, כל הצדקה לקיומה של מערכת זו נעלמת.
הטיות ומגבלות הבינה מלאכותית בדרך למהימנות
הטיות אלגוריתמיות הפכו להיות בעיה ידועה לכל. אנשי הטכנולוגיה מנסים למצוא להן פתרון ומציעים דרכים להתמודד איתן. אולם טרם נמצאה או יושמה הדרך למנוע אותן מראש. אלגוריתם לומד מהחומרים שעליהם אומן. אם חומרים אלה מוטים, ההטיה עוברת גם להכרעת האלגוריתם; יצוין כי אף אם באופן מקרי האלגוריתם מזהה סטטיסטיקה מסוימת, לפיה למשל רוב ההרשעות הרשיעו בני אוכלוסייה מסוימת, תיווצר הטיה לפיה האוכלוסייה תהפוך לשיקול רלוונטי להכרעה בהרשעה. לא זו בלבד, קשה עד בלתי אפשרי במקרים מסוימים לזהות את ההטיה ולתקן אותה בדיעבד, מה שיוצר אתגר נפרד בהנחה והתגלתה ההטיה, כיצד לנטרל אותה, ואילו עקרונות יש לתכנת את האלגוריתם על בסיסן על מנת למנוע הטיות כאלה. במצב דברים זה, המוכיח את עצמו בשימושים האמיתיים במערכות המשפט ברחבי העולם, נשאלת השאלה האם ברצוננו להסתכן בהכרעות לא צודקות בשם היעילות והקדמה הטכנולוגית.
דרישות למהימנות הבינה המלאכותית: להלן על קצה המזלג (להרחבה ר' העבודה): כיבוד והבטחת זכויות היסוד, שוויון והעדר גזענות, איכות ואבטחת הדאטה, שקיפות, שליטה בידי המשתמש, דיוק ויציבות מפני אי ודאות, אחריות, יושר, יכולת שחזור, ורגולציה.
הדרך הנכונה לשימוש בבינה מלאכותית בבית המשפט: מילות הקסם הן "אוטומציה חלקית". על מנת לסלול את הדרך הנכונה, יש להבחין בין הפעולות שאין בהן סיכון לפגוע בזכויות אדם, אשר יוקצו למערכות האלגוריתמיות, ואחרות הדורשות בהכרח את האינטליגנציה האנושית, שיוותרו בידי השופט/ת האנושי/ת. האחרונות הן: הכרעה במהימנות הצדדים והראיות, קביעת העובדות הרלוונטיות בהתאם, דיוק השאלה המשפטית העולה מהעובדות, והחלת הדין הרלוונטי על העובדות. מן הראוי שאלה יוותרו בידי השופט/ת. כל פעולה טכנית נוספת תועבר לבינה המלאכותית, כגון: עיבוד וארגון החומר המשפטי, חילוץ מידע רלוונטי בהתאם לפרמטרים נתונים, זיהוי מקרים והכרעות קודמים דומים או זהים, או הצעת תיקונים לטיוטת ההכרעה. על ידי חלוקה זו, יתרונות הבינה המלאכותית באות לידי ביטוי במלואן, ואף מורידות עומס והסחות דעת מהשופט/ת האנושית, תוך שפעולות שאינן ניתנות לאוטומציה מושלמת, אשר הן לב לבו של התפקיד השיפוטי, יבוצעו על ידי שופט/ת אנושי/ת, באופן שיאפשר לה/ו להתמקד בלב תפקידו/ה, תוך שמירה על יעילות וצדק בד בבד.
לאור כל האמור, אין מנוס מהמסקנה כי לא ניתן לוותר על נוכחות האדם במערכת השיפוטית, וכל הקדמה והיכולות המפותחות של המערכות האלגוריתמיות לא יוכלו להשיג את הצדק וההכרעות הרצויות. בשל כך, הבינה המלאכותי מקומה לסייע, לייעל, ולצמצם ככל הניתן את העבודה הטכנית המוטלת על האדם, בזמן שלתהליך קבלת ההחלטות לשמו, אין תחליף לבינה האנושית.
***
מונאיה נסראלדין:
בוגרת תואר ראשון מאוניברסיטת חיפה במסלול דו חוגי במשפטים ו"אופקים: תכנית המצטיינות והמצטיינים" (LLB). סטודנטית לתואר שני באוניברסיטת חיפה במסלול משפט עסקי מסחרי (LLM). עוזרת שופט מחוזי לשעבר; מתמחה לשעבר בפרקליטות מחוז צפון (אזרחי); בוגרת של קורס חדשנות חברתית של מרכז קיימא ועוזרת מחקר בתחום הקיימות, החדשנות החברתית והיזמות; וחוקרת עצמאית. תחומי מחקר עיקריים: משפט וטכנולוגיה, בינה מלאכותית והתפקיד השיפוטי, הקיימות בזרקור המשפט הטכנולוגי, וה-ESG והאחריות התאגידית.
