התביעה הייצוגית שהוגשה השבוע בבית המשפט המחוזי בישראל נגד ענקית הגיימינג "רובלוקס" היא שלב צפוי ומובן במאבק הציבורי להגנה על קטינים. הורים מאשימים את החברה בהפקרה וביצירת מרחב מסוכן, וקל להבין מדוע הם מפנים את האצבע המאשימה כלפי הפלטפורמה (שהראתה גם יכולות ניטור משופרות בארצות אחרות). אלא שהאמת מורכבת יותר: להאשים את רובלוקס בבריונות או בפדופיליה זה קצת כמו להאשים רק את "גוגל" בחשיפה של ילדים לאלימות. הפלטפורמה היא המגרש; השאלה האמיתית היא מי מפקח על המגרש הזה ואיזה ציוד הגנה קיבלו הילדים לפני שעלו אליו.
רובלוקס היא הרבה יותר ממשחק דמוי לגו; היא אקו-סיסטם דיגיטלי עצום המונה כיום 151 מיליון שחקנים פעילים ברחבי העולם מעבר למשחק הנרטיבי עצמו, ניתן ליצור בו בצורה חופשית (בדומה ללגו), לפתח משחקים על גביו ואף לייצר הכנסות ממשחקים אלו. הנתונים מציירים תמונה של מעורבות חסרת תקדים: בין ינואר לספטמבר 2025 בלבד בילו המשתמשים למעלה מ-88.7 מיליארד שעות בפלטפורמה, כשהמשתמש הממוצע שוהה בה כ-2.8 שעות מדי יום. עוצמת המותג חורגת מגבולות האפליקציה, התכנים הקשורים לרובלוקס ביוטיוב הגיעו לטריליון צפיות, וכל סרטון חמישי בטיקטוק ברחבי העולם עוסק בה. עבור דור ה-Z, מדובר בזירה המרכזית לביטוי עצמי וזהות. זהו מקום מפגש, זירה ליצירה משותפת וגם פלטפורמה למסחר. ככזו, היא נושאת איתה את כל תחלואי הרשת: החל מבריונות רשת (בינלאומית), עבור לכר פורה (פוטנציאלי) לפדופיליה ועד כתשתית להונאות כלכליות.
הטענות נגד הפלטפורמה הן המובנות והברורות ביותר, אך הן גם המוגבלות ביותר. במקום להתמקד רק בקוד המשחק, מעניין לבחון מה עוד ניתן לעשות כהורים ומשתמשים.
הסדרה "ילד חרא" (ששודרה לאחרונה ב-yes) יצרה הקבלה מצמררת ומדויקת בין השיטות הישנות של פדופילים, אותן "סוכריות בגן השעשועים" שהורים תמיד הזהירו מפניהן, לבין הסכנות המתוחכמות והגדולות הרבה יותר הממתינות לילדים בעולמות הווירטואליים. הסדרה הראתה בין השאר שהאיום נותר דומה במהותו, אך הוא עבר מטמורפוזה למרחב שבו ההגנות הפיזיות של ההורים כבר אינן רלוונטיות.
כאן נכנסת גם האחריות שלכם, ההורים. אי אפשר לצפות מילד לנווט במרחב כזה ללא חינוך טכנולוגי וערכי עמוק, שחייב להתחיל כבר בבתי הספר כחלק בלתי נפרד מתוכנית הלימודים. גם כהורים, מוטלת חובה להבין את המשחקים שהילדים שלהם משחקים בהם כמרחב חיים. עליהם להיות אחראים בעצמם ברשת.
אירוע נוסף שארע לאחרונה ב-X (טוויטר לשעבר) מדגים זאת היטב: שימוש בבינה המלאכותית "גרוק" אפשר לכאורה למשתמשים לייצר תמונות פוגעניות (גם) של ילדים בבגד ים מינימליסטי על בסיס תמונות קיימות. המקרה הזה ממחיש שהסכנה מתחילה לעיתים דווקא בהתנהגות של מבוגרים והורים ברשת, חשיפת יתר של תמונות ילדים במרחבים ציבוריים הופכת אותם למטרות קלות עבור כלים טכנולוגיים דורסניים, ללא קשר לפלטפורמה כזו או אחרת. מודלים סינים ומודלים מקומיים בקוד פתוח מאפשרים כבר חודשים רבים יצירות AI ללא צנזורה פיקוח או רגולציה ועם החופש היצירתי המבורך שלעצמו מתאפשרת גם הפקה קלה של עוולות קשות.
הפתרונות שמעבר
כדי לייצר שינוי אמיתי, יש לפעול במישורים שאינם תלויים רק ברצון הטוב של התאגיד:
● אכיפה משטרתית וירטואלית: על משטרת ישראל לייעד שוטרי בטיחות ייעודיים שישוטטו בעולמות הווירטואליים, תוך הגדלת תקציבי הסייבר והתקנים ליחידות אלו.
מדינת ישראל כבר מפעילה כלי ייחודי: מוקד 105. מדובר במטה לאומי להגנה על ילדים ברשת, הפועל תחת משטרת ישראל (להב 433) בשיתוף משרדי החינוך, הבריאות, הרווחה והמשפטים.
לחץ ציבורי יכול להוביל להגדלת תקנים ותקציבים ליחידה זו.
● חקיקה מותאמת: גם הכנסת נדרשת לעדכן את "חוק האזנות סתר" וחוקי הגנת הפרטיות כדי לאפשר ניטור חכם המגן על קטינים, וליצור מנגנונים המאפשרים נוכחות משטרתית מונעת בתוך השרתים, סמויה וגלויה (ולא פחות חשוב, מפוקחת גם היא).
● המשמר האזרחי הדיגיטלי: הקמת "סיירות הורים" או משמרות בטיחות של מתבגרים שיפעלו בתוך הגרסאות הישראליות של הפלטפורמה (גם הם בצורה מפוקחת). עצם הידיעה על נוכחותם של "סמויים" לטובת הילדים עשויה להרתיע פדופילים ובריוני רשת.
הגישה הריאליסטית של ההורים: לנווט דרך שורת הרווח
תאגיד הוא גוף מוטה רווח במהותו, ולכן טוענים ההורים שהציפייה שיעדיף "מוסר" על פני "כסף" באופן וולונטרי אינה עולה בקנה אחד עם המציאות הכלכלית (אם כי לא מדובר בהכרח ברשעות מכוונת כמובן נ.מ). הדרך היחידה להבטיח אכיפה מוסרית יותר היא באמצעות איום כלכלי מוחשי, הם מציינים גם שבמדינות מסוימות עם רגולציה או לחץ ציבורי שונה מופעלים אמצעים אפקטיבים יותר לסינון וניטור התוכן.
אם שיפור הבטיחות יעלה לתאגיד פחות מההפסד הצפוי מתביעות, קנסות רגולטוריים, מרד צרכני או פגיעה בשווי המותג, הוא יבחר בדרך המשתלמת לטענתם. נראה שהמטרה של המאבק המשפטי והציבורי היא להשתמש בהטיית הרווח של התאגיד כדי לנווט את הספינה לכיוון בטוח יותר עבור הילדים.
שורה תחתונה, ההגנה על הילדים דורשת גישה הוליסטית: הורים שמבינים את המרחב ונוהגים בו באחריות, מערכת חינוך שמכינה את הילדים לסכנות המודרניות, ומדינה שמשקיעה במערכים כמו 105 ובחקיקה אקטיבית לשיפור יכולות ההגנה, הטיפול והאכיפה (תוך שמירה על פרטיות). רק שילוב הכוחות הזה יהפוך את המטאוורס ממלכודת למרחב יצירה בטוח.
הכותב: ניר מירצקי ראש מחלקת AI וחדשנות בחברת קרייזילאבס ושופט תוכנית המענקים ליוצרי משחקים ישראליים של GameIS בשיתוף Xsolla