למה צ'טבוטים AI מתחילים לבדוק גיל?

איך חברות טק בודקות אם המשתמשים שלהן ילדים? השאלה הזו הפכה דחופה במיוחד לאחרונה, בעקבות דאגות גוברות מסכנות שצצות כשילדים משוחחים עם צ'טבוטים של AI. במשך שנים, ענקיות הטכנולוגיה שאלו תאריך לידה – שניתן לזייף בקלות – כדי לעמוד בחוקי פרטיות ילדים, אך לא נדרשו להתאים את התוכן בהתאם. שני פיתוחים בשבוע האחרון מראים כמה מהר הדברים משתנים בארה"ב, והופכים את הנושא לקרב חדש אפילו בין הורים למגנים על בטיחות ילדים.

בצד אחד ניצבת המפלגה הרפובליקנית, שתומכת בחוקים במספר מדינות הדורשים מאתרי תוכן למבוגרים לאמת גיל משתמשים. מבקרים טוענים שזה מספק כיסוי לחסימת כל מה שנחשב 'מזיק לקטינים', כולל חינוך מיני. מדינות אחרות כמו קליפורניה מכוונות לחברות AI עם חוקים להגנה על ילדים שמשוחחים עם צ'טבוטים באמצעות אימות גיל. הנשיא טראמפ מנסה לשמור על רגולציה של AI כנושא ארצי במקום לאפשר למדינות להחליט לבדן. התמיכה בחוקים בקונגרס משתנה ללא הרף.

בלוג פוסט שפרסמה OpenAI בשבוע שעבר חושף תוכנית להשקת אימות גיל אוטומטי. החברה תשתמש במודל שמנתח גורמים כמו שעת היום ועוד כדי לנבא אם השיחה מתנהלת עם קטין מתחת לגיל 18. עבור מי שיזוהו כנערים או ילדים, ChatGPT יפעיל מסננים שמפחיתים חשיפה לתכנים כמו אלימות גרפית או משחקי תפקידים מיניים. יוטיוב השיקה משהו דומה בשנה שעברה.

אם תומכים באימות גיל אך חוששים מפגיעה בפרטיות, זה נשמע כמו ניצחון. אך יש תופסת: המערכת אינה מושלמת, ועלולה לסווג ילד כמבוגר או להיפך. מי שיסווגו בטעות כקטינים יוכלו לאמת זהות באמצעות סלפי או תעודה מזהית לחברת Persona. אימותים כאלה נכשלים יותר אצל אנשים בעלי צבע עור כהה או מוגבלויות מסוימות. סמיר הינדוג'ה, שמנהל את מרכז המחקר להצקות מקוונות, מזהיר כי אחסון מיליוני תעודות זהות ונתונים ביומטריים על ידי Persona מהווה נקודת תורפה. 'כשאלה נפרצות, חושפים אוכלוסיות שלמות בבת אחת', הוא אומר.

הינדוג'ה מציע אימות ברמת המכשיר, שבו ההורה קובע את גיל הילד בעת הגדרת הטלפון בפעם הראשונה. המידע נשמר במכשיר ומשותף באופן מאובטח עם אפליקציות ואתרים. זה דומה למה שטים קוק, מנכ"ל אפל, דרש לאחרונה מחברי קונגרס. קוק נלחם בחוקים שדורשים מחנויות אפליקציות לאמת גילים, מה שיטיל על אפל אחריות כבדה.

פיתוחים נוספים צפויים ביום רביעי, כשלוח הרגולציה הפדרלית לסחר (FTC) מקיימת סדנה יומית על אימות גיל. ישתתפו בכירים מבטיחות ילדים בגוגל ומטא, ניק רוסי מאפל וחברה שמתמחה בשיווק לילדים. ה-FTC הפכה פוליטית יותר תחת טראמפ. הסדנה עשויה לשפוך אור על גישת ה-FTC לאימות גיל, בעוד מדינות אדומות תומכות בחוקים לאתרי פורנו. כל זה מתרחש על רקע עלייה בתוכן התעללות מינית בילדים המיוצר על ידי AI, תביעות על התאבדויות בעקבות שיחות צ'טבוטים והתקשרות רגשית של ילדים ל-AI.