חובות השקיפות לפי חוק הבינה המלאכותית של האיחוד האירופי: מה החברה שלכם צריכה לדעת

סעיף 50 לחוק הבינה המלאכותית של האיחוד האירופי, שנכנס לתוקף ב-2 באוגוסט 2026, מטיל חובות שקיפות המחייבות ארגונים להבהיר מתי אנשים מנהלים תקשורת עם מערכת בינה מלאכותית או נחשפים לתוכן שנוצר או עבר מניפולציה באמצעות בינה מלאכותית. הסעיף חל גם על ספקים (Providers) ומיישמים (Deployers) של מערכות בינה מלאכותית מסוימות, לרבות מערכות יוצרות תוכן, וכן על מקרים של יצירה או מניפולציה של זיופים עמוקים (Deep Fake).

על רקע זה פרסמה הנציבות האירופית הנחיות המבהירות את האופן בו יש לפרש וליישם את דרישות סעיף 50, וכיצד הן צפויות להיאכף.

מה חשוב לדעת

ההנחיות מספקות את התמונה הברורה ביותר עד כה של עמדת הנציבות באשר לפרשנות סעיף 50, לאופן שבו ציות צפוי להיראות בפועל ולמוקדי האכיפה האפשריים. בהירות זו חשובה במיוחד נוכח השילוב ההולך וגובר של כלי בינה מלאכותית יוצרת במוצרים, בשירותים ובתהליכי עבודה פנימיים – המקשה על ההבחנה בין אינטראקציה אנושית לאינטראקציה מבוססת בינה מלאכותית, ובין תוכן אותנטי לתוכן סינתטי.

מדריך מעשי זה נועד לסייע לצוותים שלכם להבין את חובות השקיפות החדשות ולהעריך אילו צעדים נכון לבצע כבר עכשיו.

מה המשמעות של חובות השקיפות עבור החברה שלכם?

על אילו שימושים חל החוק?

חובות השקיפות לפי חוק הבינה המלאכותית חלות על מגוון מצבים שבהם שימוש בבינה מלאכותית עלול להטעות אנשים. בין היתר, מדובר במקרים הבאים:

• מערכות בינה מלאכותית המקיימות אינטראקציה ישירה עם אנשים – כגון צ'אטבוטים, עוזרים קוליים, בוטים ברשתות חברתיות ובוטים לשיווק או לתמיכה.
• מערכות בינה מלאכותית היוצרות תוכן או משנות אותו – טקסט, תמונה, שמע או וידאו – שמשתמשים, לקוחות או הציבור עשויים להיחשף אליו.
• זיופים עמוקים (Deepfakes) – מקרים שבהם מערכת בינה מלאכותית משמשת ליצירה או למניפולציה של תמונה, שמע או וידאו באופן שיוצר דמיון ממשי לאדם, לאובייקט, למקום, לישות או לאירוע קיימים, כך שהתוצאה עשויה להיתפס כאותנטית.

יש לנו צ'אט תמיכה. מה צריך לעשות?

החובות החדשות חלות גם על צ'אטבוטים, שכן הם נועדו לקיים אינטראקציה עם אנשים. חוק הבינה המלאכותית מחייב ליידע אנשים כי הם אינם מקיימים אינטראקציה עם אדם אלא עם מערכת בינה מלאכותית. הדרישה לא תחול כאשר ברור מן הנסיבות שאין אדם בצד השני של השיחה.

ניתן לעמוד בדרישה זו, למשל, באמצעות ניסוח המבהיר כי מדובר בכלי בינה מלאכותית, כגון "מופעל על ידי בינה מלאכותית", או באמצעות הודעה בממשק הצ'אט – למשל בכותרת "תמיכת הבינה המלאכותית של החברה" או בהודעת פתיחה בנוסח "היי, אני צ'אטבוט הבינה המלאכותית של החברה".

מהי "אינטראקציה ישירה"?

ככלל, מדובר במצב שבו המשתמש והמערכת מחליפים מידע הלוך ושוב. צ'אטבוט, עוזר קולי או סוכן בינה מלאכותית הפועל בממשק המשתמש הם דוגמאות מובהקות לכך. לעומת זאת, אם הבינה המלאכותית רק מסייעת לצוות התמיכה האנושי מאחורי הקלעים, והלקוח נמצא באינטראקציה עם אדם בלבד, ככלל לא תיחשב הסיטואציה לאינטראקציה ישירה.

הספק של הכלי לא אמור לדאוג לכל זה?

גם הוא נושא באחריות. עם זאת, חוק הבינה המלאכותית מטיל אחריות הן על הספק – החברה המפתחת ומספקת את הכלי, והן על המיישם – החברה המשתמשת בכלי לצרכיה. לכן, תמיד מוטלת עליכם החובה לבדוק אם הספק כלל מענה לדרישות החוק במוצר, ואם לא לוודא שהדרישות נוספות לכלי מטעמכם.

כחלק מהמוצר, אנחנו מאפשרים למשתמשים ליצור תוכן. למה צריך לשים לב?

ישנן שתי דרישות, ושתיהן נדרשות במצטבר:

• על התוכן לכלול סימון טכני שניתן לזיהוי אוטומטי, וגם
• התוכן חייב להיות ניתן לזיהוי כתוכן שנוצר באמצעות בינה מלאכותית או עבר שונה באמצעותה.

עמידה רק באחת מן הדרישות אינה מספיקה.

נוסף על כך, יש לספק למשתמשים דרך לבדוק את התוכן ולאמת אם נוצר באמצעות בינה מלאכותית.

ככלל, כאשר המערכת מבצעת רק עריכה סטנדרטית או שינויים שאינם משנים באופן מהותי את הקלט או את משמעותו, החובות לא יחולו. בהנחיות האיחוד האירופי מובאות כדוגמאות פעולות שונות ובהן, תיקוני דקדוק ואיות, המרת פורמט, חיתוך, תיקון צבע מינורי ודחיסה טכנית.

בנוסף, תוכן שאינו נחזה כלל בידי אנשים ומועבר בין מכונות בלבד לא יהיה ככלל בתחולת החוק.

על אילו סוגי תוכן ושימושים בבינה מלאכותית חלות החובות?

החובות חלות על טקסט, תמונות, שמע או וידאו שנוצרו או עברו שינוי באמצעות בינה מלאכותית. הן חלות גם על תכנים המשלבים כמה סוגי מדיה. לכן, אם המוצר שלכם מסוגל ליצור טקסט, תמונות, שמע או וידאו באמצעות בינה מלאכותית, או לבצע עריכה מהותית של סוגי תוכן אלה, ייתכן שהחובות יחולו.

האם די בסימון גלוי של "נוצר על ידי בינה מלאכותית" או בסימן מים?

לא. לפי ההנחיות, הדרישה היא לסימון הניתן לקריאת מכונה. תווית גלויה או סימן מים יכולים לשמש אמצעי משלים מועיל, אך אינם מהווים תחליף לדרישה זו.

האם אנחנו צריכים לפתח כלי זיהוי משל עצמנו?

לא בהכרח. ניתן להסתמך על כלי שמספק ספק המודל, על פתרון של צד שלישי או על פתרון זמין לציבור. עם זאת, האחריות לוודא שהפתרון מתאים למוצר שלכם ועומד בדרישות הדין נותרת בידכם.

המידע על כלי הזיהוי צריך להימסר באופן ברור ומובחן, לא יאוחר ממועד האינטראקציה הראשונה עם המשתמש או ממועד החשיפה הראשונה לתוכן. המשמעות היא שטקסט משפטי חבוי או מידע המוסתר מאחורי כמה לחיצות עכבר עשויים לא לעמוד בדרישות. מבחינה מעשית, הגישה הבטוחה יותר היא למקם את המידע בסמוך לצ'אטבוט, לתוכן או במקום אחר בדרך שמשתמש מבצע במוצר, במקום שבו הוא רלוונטי בפועל.

אנחנו משתמשים בבינה מלאכותית רק לצרכים פנימיים. האם אנחנו מחוץ לתחולה?

לא. אין פטור גורף רק משום שהכלי מיועד רק לשימוש פנימי. אם עוזר בינה מלאכותית פנימי נמצא  באינטראקציה ישירה עם עובדים, החובות עדיין עשויות לחול.

אם כלי פנימי מייצר תוכן סינתטי שעובדי החברה משתמשים בו, בוחנים אותו או מפיצים אותו, גם החובה לסמן את התוכן עשויה להיות רלוונטית. אמנם טיוטת ההנחיות מתייחסת למקרים מוגבלים שבהם תפוקות פנימיות בעלות אופי טכני מובהק עשויות שלא לעורר צורך מעשי בסימון ובזיהוי, אך אין מדובר בכלל גורף.

מה צריכים צוותי המוצר לעשות עכשיו?

נקודת פתיחה טובה היא לבחון כל רכיב מבוסס בינה מלאכותית ולשאול:

• האם המשתמש מקיים אינטראקציה ישירה עם מערכת בינה מלאכותית?
• האם המערכת מייצרת טקסט, תמונות, שמע או וידאו, או משנה אותם באופן מהותי?
• מי צפוי להיחשף לתוכן?

בהתאם לתשובות, מומלץ לצוותי המוצר לקבל ייעוץ משפטי לצורך בחינת תחולת החובות הללו.

אנחנו לא נמצאים באיחוד האירופי. האם החובות עדיין עשויות לחול עלינו?

כן. אם נעשה שימוש בפלט של מערכת הבינה המלאכותית שלכם באיחוד האירופי, הכללים עשויים לחול גם אם החברה שלכם מחוץ לאיחוד.

מה הסיכון בהפרת החובות?

סיכון האכיפה הוא ממשי. אי-עמידה בחובות השקיפות עלולה להוביל לקנסות של עד 15 מיליון אירו, או עד 3% מהמחזור השנתי העולמי של החברה, לפי הגבוה מביניהם.

לאור הנחיות הנציבות וכניסתו לתוקף של סעיף 50 לחוק הבינה המלאכותית של האיחוד האירופי, ארגונים צריכים לבחון האם אופן הפעילות שלהם נותן מענה מספק לחובות השקיפות החדשות.

מחלקת פרטיות, סייבר ובינה מלאכותית  במשרדנו עומדת לרשותכם ותשמח לסייע וללוות אתכם בהבנת תחולת החובות בפועל ובהיערכות הארגונית הנדרשת לצורך עמידה בדרישות.

***

ד”ר אבישי קליין הוא שותף וראש מחלקת פרטיות, סייבר ובינה מלאכותית במשרד.

עו"ד מאשה יודשקין היא עורכת דין במחלקת פרטיות, סייבר ובינה מלאכותית במשרד.