דו"ח להערות הציבור: שימוש בבינה מלאכותית במגזר הפיננסי

החודש פורסם להערות הציבור דו"ח ביניים בנושא בינה מלאכותית בסקטור הפיננסי. הדוח נכתב על ידי משרדי המשפטים והאוצר, רשות התחרות, רשות ניירות ערך, רשות שוק ההון והפיקוח על הבנקים.  הדו"ח כולל המלצות ראשונות מסוגן ביחס לרגולציה על שימוש בטכנולוגיית  AI  במגזר הפיננסי.  הדו"ח פתוח להערות עד ל-15 בדצמבר.

גישה כללית ועקרונות מנחים לטיפול בבינה מלאכותית במגזר הפיננסי

הגישה המנחה בדו"ח שמה במרכז את עידוד החדשנות ואימוץ הבינה המלאכותית, תוך  התמודדות עם הסיכונים הנלווים לכך  וקביעת אסדרה מתאימה במידת הצורך.

מוצע לאמץ כלי אסדרה גמישים שיוכלו לתת מענה עם התפתחות הטכנולוגיה, כמו הוראות מנהל ותקנות זמניות, לצד הענקת שיקול דעת לגופים המפוקחים ליישם כלים של  אסדרה עצמית.

לגישת מנסחי הדו"ח, על האסדרה הישראלית להתאים את עצמה לאסדרה העולמית בתחום, תוך הימנעות מקביעת סטנדרט מקומי. הדו"ח דוגל בגישה מבוססת סיכון, ובהסרת חסמים רגולטוריים מיותרים, במטרה לעודד שוק תחרותי, חדשני ויעיל.

הדו"ח סוקר את האתגרים בתחום הבינה המלאכותית באופן כללי, את הסיכונים הייחודים הנוגעים לעולם הפיננסי, ואת ההשפעות בשלושה תחומי פעילות – ייעוץ השקעות וניהול תיקים, אשראי במערכת הבנקאית וחיתום ביטוח. את האתגרים המרכזיים ביחס לבינה המלאכותית, סקרנו במדריך המשפטי שפורסם השנה.

אתגרי הבינה המלאכותית במגזר הפיננסי

הדו"ח סוקר את האתגרים הייחודיים למגזר בשימוש בכלי בינה מלאכותית:

סיכוני היציבות הפיננסית –

הסתמכות על מספר מצומצם של מודלים מקובלים של בינה מלאכותית בידי שחקנים שונים במגזר הפיננסי עלולה להוביל לתופעה בה שחקנים רבים פועלים באופן דומה ובלפגיעה ביכולת קבלת החלטות מגוונות. משמעות הדבר היא כי כשל במערכות אלה, עלול להביא לזעזוע במגזר כולו, ולסכן שחקנים רבים בשל ההסמכות המשמעותית עליהן.

המלצות בדו"ח:  לעקוב באופן רציף אחר שימוש הבינה המלאכותית ועל מיפוי פעילויות רגישות המסתמכות עליה, תוך הקפדה על רגולציה מתאימה.

סיכוני סייבר והונאה –

הבינה המלאכותית עלולה לשמש כלי להפצת דיסאינפורמציה ולהונאות פיננסיות, באמצעות שימוש ב-deep fake או אמצעי התחזות אחרים.

המלצות בדו"ח: יש להרחיב את המעקב והפיקוח הרגולטוריים על סיכונים אלה, על הנחיית גופים פיננסיים במיפוי הסיכונים ועל הגברת מודעות בקרב הציבור.

סיכון לתחרות –

שימוש במערכות בינה מלאכותית עלול להעצים את ריכוזיות השוק וליצור חסמי כניסה לשחקנים חדשים, בעיקר במצבים בהם ספקים בודדים שולטים על פיתוח מודלי הבסיס.

המלצות בדו"ח: יש לחזק את עקרונות התחרות ההוגנת בהתאם לדיני התחרות, ולשפר את הגישה למידע הנדרש לאימון מודלי בינה מלאכותית, כדי להבטיח שוויון הזדמנויות והפחתת הריכוזיות בשוק.

אפליה ופגיעה בפרט –

טעויות הנובעות משימוש בבינה מלאכותית עלולות להוביל לנזקים משמעותיים ללקוחות, הנובעים מהסתמכות על עיבוד הנתונים שנעשה באמצעותה. למשל, בדחיית בקשות אשראי, זיהוי שגוי של עסקאות חשודות, העדפות במסחר מבוסס בינה מלאכותית ועוד.

הצוות ממליץ לקדם פתרונות לבחינת תוצרי הבינה המלאכותית להפחתת הטיות ותוצאות מפלות.

עיקרי ההמלצות בתחומים פיננסיים פרטניים – יעוץ השקעות וניהול תיקים, אשראי במערכת הבנקאית, וחיתום ביטוח.

ייעוץ השקעות וניהול תיקים

בכוחה של הבינה המלאכותית להוזיל עלויות ולהנגיש את שירותי הייעוץ וניהול התיקים לקהל רחב יותר.

המלצות הצוות:

• עידוד בעלי רישיון יעוץ השקעות וניהול תיקים להטמיע טכנולוגיית בינה מלאכותית בפעילותם כדי להגדיל את מספר האנשים הנגישים לשירותים הפיננסיים.
• הוספת פרק בהוראת שירותים מקוונים שיעסוק בטנולוגיית בינה מלאכותית עכשווית, ובחינת פעילותם של צ'אט-בוטים בייעוץ השקעות וניהול תיקים.
• קידום עריכת מחקר לבחינת התנהלות משתמשים במערכות בינה מלאכותית לשם הבנת ההשפעה של הטכנולוגיה על התנהגות משקיעים.

אשראי במערכת הבנקאית

יישומים של בינה מלאכותית בתחום האשראי משמשים, בין היתר, לאיתור צרכי לקוחות, חיתום ודירוג אשראי. בחלק מהמקרים מדובר באבולוציה של המודלים בהם נעשה שימוש היום, עם זאת לאור פעולתה של הבינה המלאכותית קיים חשש מאפליה לצד פעילות שיווק אגרסיבי של אשראי ללקוחות.

המלצות הצוות:

• לשם מזעור סיכוני אפליה והדרה ממליץ הדו"ח להבהיר כי שימושי בינה מלאכותית אינם משנים מן הדין הקיים, ועל המוסדות הפיננסיים להבטיח, בטרם השימוש בכלי בינה מלאכותית, כי בידיהם הכלים להקפיד על האסדרה בתחום.
• הדו"ח ממליץ לחברות לכלול את סוגיות הבינה המלאכותית בתהליך הממשל התאגידי שלהן כדי לממש את אחריות ההנהלה והדירקטוריון ביחס לסיכונים הייחודיים.
• יישום תהליכי בחינת נתונים המשמשים לקביעת סיכוני אשראי הכרחי בכדי להבטיח את פרטיות הנתונים ושימוש בנתנוים רלוונטיים בלבד בתהליכי האימון.

חיתום ביטוח

בינה מלאכותית יכולה לייעל את תהליכי החיתום, תמחור הפרמיה וניהול הכיסוי הביטוחי, אך מעלה סיכונים של שקיפות, פרטיות והטיה בהחלטות אוטומטיות. הדו"ח ממליץ על הקפדה על העקרונות הכלליים של שימוש באסדרה קיימת ועדכונה ככל שיעלה צורך.

מה הלאה?

להבטחת שילוב אחראי של בינה מלאכותית בשירותים פיננסיים ממליץ הדו"ח על מספר צעדים חשובים:

• לחזק את ההסברתיות ביחס למודלים בהם ישנה חובת הנמקה בדין, אשר יוצרים סיכון משמעותי לצרכנים או כאשר מידת המעורבות של הבינה המלאכותית בהחלטה ניכרת.
• להקפיד על מעורבות אנושית בתהליך קבלת ההחלטות, במקומות המתאימים לפעילות.
• להקפיד על יידוע וגילוי בדבר עצם השימוש בכלי בינה מלאכותית ובדבר השפעתה על השירות או המוצר לצרכני הקצה.
• להגביר את ההגנה על המידע האישי גם בשימושי בינה מלאכותית.
• למנוע אפליה במתן השירותים, האשראי והביטוח.
• להרחיב את האחריות של הגופים הפיננסיים בפני לקוחותיהם כך שתכלול גם את הפעילות המתבצעת באמצעות בינה מלאכותית.
• לפתח מנגנוני הערכת סיכון וממשל תאגידי שיאפשרו לקיים פעילות בינה מלאכותית הוגנת ושקופה. בין היתר, באמצעות קביעת מנגנוני פיקוח, יצירת מסמכי מדיניות רלוונטיים ובחינת ספקים מתאימה.

אנו ממליצים לנקוט כעת בצעדים להבטחת שימוש אחראי ובטוח בבינה מלאכותית, ובכלל זאת:

• למפות ולזהות את תהליכי הבינה המלאכותית בשימוש בארגון.
• לערוך סקר סיכונים ביחס לשימושים אלה.
• לנסח מדיניות פנימית לשימוש ופיתוח בינה מלאכותית ולקבוע בעלי תפקידים ליישומה.
• ליישם אמצעי הגנה להבטחת פעילות אחראית והוגנת של המערכות.

————

מחלקת פרטיות, בינה מלאכותית וסייבר במשרדנו ישמחו לסייע וללוות בהבנת הסיכונים הפרטניים של הטמעת כלי בינה מלאכותית, ביצירת תוכנית ציות בתחום ומיפוי הסיכונים המשמעותיים הקשורים בפעילות.

ד"ר צבי גבאי הוא ראש מחלקת שוק ההון

ד"ר אבישי קליין הוא ראש מחלקת פרטיות, בינה מלאכותית וסייבר

מאשה יודשקין היא עורכת דין במחלקת פרטיות, בינה מלאכותית וסייבר