בינה מלאכותית בארגון: כבר לא מספיק לומר "אל תכניסו מידע סודי"

השימוש היומיומי בכלי AI בארגון יוצר ערך אמיתי, אך גם סיכוני פרטיות, אבטחת מידע וציות שמתחילים כבר ברגע כתיבת הפרומפט. לא רק השאלה אם המידע "נשמר" או "משמש לאימון" חשובה, אלא גם איזה מידע הוזן, לאן הוא הגיע, מי יכול לגשת אליו ומה נעשה בפלט. במאמר קצר זה נצביע על מוקדי הסיכון המרכזיים ונציע צעדים מעשיים שיסייעו לארגון להשתמש ב-AI באופן יעיל, בטוח ומבוקר.

—–

שתי פרשות שפורסמו לאחרונה המחישו כי מה שנראה כשיחה פרטית עם צ'אטבוט עשוי להפוך לחלק מחומר חקירה.

בפרשת היעלמותן של מלי וליאל יהלומי, שאותרו לבסוף בארגנטינה וללא חשד לביצוע עבירה, דווח  כי השתיים נעזרו במנועי חיפוש מבוססי AI, ובהם Gemini, לצורך בירורים על רכישת טלפון ללא הצגת תעודה מזהה, מדינות ללא הסכם הסגרה עם ישראל ואפליקציות העלולות לאפשר את איתורן. עוד דווח כי חלק מההתייעצויות נמחקו ושוחזרו, אך לא פורסם כיצד הגיעו החוקרים למידע או באילו אמצעים בוצע השחזור.

בפרשה אחרת, שבה הוגש כתב אישום נגד שני צעירים בגין הצתת סניף ג'פניקה בגבעתיים, ציינה המדינה בבקשת המעצר כי בפריקת הטלפון של אחד הנאשמים נמצאו שאלות שהופנו ל-ChatGPT לפני האירוע. בין היתר בנוגע לחומרת  העבירה ולעונש. השיחות הוצגו כחלק ממכלול ראיות, וההליך עודנו מתנהל.

אין פירוש הדבר שכל שיחת AI חשופה, ופרומפט לבדו אינו מוכיח כוונה או מעשה. משקלו הראייתי תלוי בזהות המשתמש, במועד, בהקשר ובאופן שבו המידע נשמר והופק. ובכל זאת, מקרים כאלה ממחישים כי פרומפט עשוי להפוך לרשומה דיגיטלית בעלת משמעות בחקירה, בהליך משפטי, בביקורת רגולטורית או בבירור פנים-ארגוני.

ומה קורה בתוך הארגון?

עובדים משתמשים בכלי AI כדי לסכם מסמכים, לנסח מכתבים, לנתח נתונים ולבדוק קוד. במסגרת זו עלולים להיות מוזנים קורות חיים, הערכות ביצועים, תלונות לקוח הכוללות מידע רפואי או פיננסי, קוד מקור, פרטי גישה, טיוטות חוזים ומידע עסקי רגיש. לכן, הפרומפט עשוי לכלול מידע אישי על לקוחות ועובדים, סודות מסחריים וחומרים העשויים להיות מוגנים גם בחיסיון.

מבחינה משפטית ואבטחתית, הסיכון מתחיל כבר בהזנת המידע, גם בלי "דליפה" גלויה או חקירה. ההזנה עשויה להוות מסירת מידע לספק חיצוני, שימוש במידע למטרה נוספת או מתן גישה שלא אושרה מראש. במקרים מתאימים היא עלולה לחרוג מהמטרה שלשמה נאסף המידע, מההסכמה או מחובת היידוע, מהתחייבויות לסודיות, מדרישות אבטחת מידע או מתנאי ההתקשרות עם לקוח. העלאת מידע לכלי לא מאושר או לא מפוקח עשויה להיחשב גם אירוע אבטחה המחייב בירור, תיעוד, צמצום נזק ולעיתים בחינה של חובת דיווח לרשות להגנת הפרטיות.

גם לשאלה אם הכלי "שומר" את השיחה או "מתאמן" אין תשובה בינארית. המידע עשוי להישמר בחשבון, במכשיר, אצל הספק או ביומני בקרה; לעבור לספקי משנה ולפלטפורמות אחסון גם מחוץ לישראל; ולהיות כפוף לתקופות שמירה ולהרשאות החורגות מאלה של הארגון. מחיקה מחלון השיחה אינה מבטיחה מחיקה מיידית מכלל המערכות והגיבויים. כאשר הכלי מחובר גם לדוא"ל, למסמכים, למערכת משאבי אנוש או ל-CRM, היקף החשיפה הפוטנציאלי מתרחב גם למידע  שאליו הכלי מסוגל לגשת מכוח הרשאות המשתמש.

גם הפלט דורש תשומת לב. מערכת AI עשויה לסווג מועמד, להסיק מסקנה על תפקודו של עובד או ליצור מידע חדש על לקוח. אם התוצאה נשמרת בתיק, מועברת למערכת אחרת או משפיעה על החלטה, האחריות לשימוש בה נותרת בידי הארגון. לכן יש לבחון אם השימוש תואם את המטרה והיידוע המקוריים, אם המידע מדויק, מי רשאי להיחשף אליו והאם נדרשת בקרה אנושית.

לצורך ניהול הסיכונים, יש לבחון שלושה מעגלים: חובות הארגון כלפי האנשים שהמידע נוגע אליהם; מערכת היחסים עם ספק ה-AI; ופרטיות העובדים המשתמשים בכלי. חוק הגנת הפרטיות ותקנות הגנת הפרטיות (אבטחת מידע) עשויים לחול כאשר מידע אישי מוזן לכלי, נשמר באמצעותו או משמש להפקת מידע על אדם מזוהה או הניתן לזיהוי.

מול הספק לא די ב-DPA גנרי. יש לברר אם הוא פועל כ"מחזיק" המעבד מידע עבור הארגון בלבד, או רשאי להשתמש בו גם למטרותיו, כגון שיפור השירות או אימון מודלים. יש לבחון את חובות מיקור החוץ לפי תקנה 15, את הבסיס להעברת מידע מחוץ לישראל, שימוש בספקי משנה, תקופות שמירה ומחיקה, טיפול באירועי אבטחה ויכולת הפיקוח של הארגון. גם הבטחה שהמידע "אינו משמש לאימון" אינה עונה לבדה על שאלות השמירה, הגישה, ההעברה והמחיקה.

במקביל, יכולת טכנולוגית לצפות בלוגים או בשיחות עובדים אינה מצדיקה ניטור גורף. הבקרה צריכה להיעשות למטרה לגיטימית ומוגדרת, בהיקף הנחוץ ובשקיפות. יש להבהיר לעובדים איזה מידע נאסף על השימוש, מי רשאי לעיין בו, לאילו מטרות ולכמה זמן, ולהעדיף ככל האפשר איתור חריגות על פני קריאה שוטפת בתוכן השיחות.

מה כל ארגון צריך לעשות בפועל?

• מיפוי השימוש בפועל: לברר בכל יחידה באילו כלים משתמשים, באמצעות איזה חשבון, אילו מידע וקבצים מוזנים ולאילו מערכות הכלי מחובר. רשימת שמות של כלים אינה מספיקה; צריך להבין את מסלול המידע מהקלט ועד הפלט.
• לקבוע כללים ישימים: להכין טבלה קצרה של "מותר, דורש אישור, אסור". לדוגמה, מידע פומבי יכול להיות מותר; מידע שעבר השחרה עשוי לדרוש אישור; וסיסמאות, מידע רגיש מזהה, גישה למאגרי מידע וסודות מסחריים לא יוזנו לכלי חיצוני ללא מסלול מאושר ומוגן מראש.
• בחירת והגדרת כלים מאושרים: גרסה ארגונית אינה חותמת כשרות אוטומטית. יש לקבוע הזדהות חזקה, הרשאות מינימליות, תקופות שמירה, אפשרויות אימון ושיתוף משוב, גישת מנהלים וחיבורים למערכות אחרות. תכונה שאינה נחוצה צריכה להישאר כבויה.
• לבדוק ולהסדיר את הספק: לפני אישור כלי לשימוש ארגוני, יש לבצע בדיקת פרטיות ואבטחת מידע ולוודא כי ההסכם עם הספק מסדיר את מטרות העיבוד, ספקי המשנה, מיקום המידע, תקופות השמירה והמחיקה, וכן את הטיפול באירועי אבטחה. אין להניח כי תנאי שימוש סטנדרטיים או DPA גנרי מספקים מענה מלא להיבטים אלה.
• הכנת העובדים גם לרגע של טעות: ההדרכה צריכה לכלול דוגמאות רלוונטיות מהעבודה השוטפת. עובד שהעלה מידע בטעות צריך לדעת שלא להסתיר את האירוע או להסתפק במחיקת השיחה, אלא לדווח מיד, כדי שניתן יהיה לצמצם חשיפה, לתעד ולבחון אם נדרש דיווח רגולטורי. את הכללים וההגדרות יש לבחון מחדש באופן תקופתי.

אין מדיניות AI אחת שמתאימה לכל ארגון, ואיסור גורף אינו פתרון מעשי. מדיניות נכונה מחברת בין העבודה בפועל לבין דיני הפרטיות, אבטחת המידע, ההסכמים המחייבים את הארגון ופרטיות העובדים.

***

אנו מלווים ארגונים במיפוי שימושים וזרימות מידע, בסיווג סיכונים, בגיבוש מדיניות ונהלים, בבחינת ספקים והסכמים ובהטמעת בקרות והדרכות, כדי לאפשר שימוש יעיל בטכנולוגיה בלי לאבד שליטה על המידע.

עו"ד ליאב שפירא, שותף במחלקת פרטיות, AI וסייבר במשרדנו עומד לרשותכם בכל שאלה בנושא.