ChatGPT יחזה את גילכם להגנת משתמשים צעירים

בעידן הדיגיטלי שבו בינה מלאכותית משפיעה יותר ויותר על חיי ילדים ומתבגרים, OpenAI משיקה פיצ'ר חדש ומתקדם ב-ChatGPT: חיזוי גיל. הפיצ'ר הזה נועד לזהות משתמשים מתחת לגיל 18 ולהפעיל עליהם מסננים מחמירים נגד תכנים בעייתיים. החברה מדווחת כי הביקורת הרבה שהוטחה בה בשנים האחרונות על השפעת ChatGPT על צעירים דחפה אותה לפתח הגנות כאלה. דיווחים על התאבדויות של נערים הקשורות לשיחות עם הבוט ועל באגים שנתנו גישה לתכנים ארוטיים לקטינים הדגישו את הדחיפות. (72 מילים) OpenAI מסבירה כי חיזוי הגיל מבוסס על אלגוריתם בינה מלאכותית שמנתח אותות התנהגותיים ואותות ברמת החשבון. בין האותות: הגיל שצוין בפרופיל, משך זמן קיומו של החשבון וזמני הפעילות היומיים הרגילים. אם הפיצ'ר מזהה חשבון של קטין, הוא מפעיל אוטומטית מסננים שחוסמים דיונים על מין, אלימות ונושאים בעייתיים אחרים. החברה כבר פיתחה מסננים כאלה בעבר, והפיצ'ר החדש מחזק אותם. (85 מילים) הפיצ'ר פורסם בפוסט בבלוג של OpenAI ביום שלישי, והוא חלק ממאמצים מתמשכים להתמודד עם בעיית המשתמשים הצעירים. בעבר, אפריל שעבר, OpenAI נאלצה לתקן באג שהכריח את ChatGPT לייצר ארוטיקה למשתמשים מתחת לגיל 18. כעת, חיזוי הגיל יאפשר זיהוי מדויק יותר ומהיר יותר של קטינים, מבלי להסתמך רק על הצהרות עצמיות. (78 מילים) למקרה של טעות, OpenAI מאפשרת למשתמשים להוכיח את גילם הבוגר באמצעות שליחת סלפי לבדיקת זהות דרך שירות Persona, שותפתה של החברה. זהו צעד חשוב במיוחד עבור עסקים ישראליים שמשתמשים ב-ChatGPT בכלים עסקיים, שכן הגנות כאלה עשויות למנוע סיכונים משפטיים ומוניטין. בישראל, שבה חקיקה להגנת ילדים באינטרנט מתקשחת, פיצ'ר כזה רלוונטי במיוחד לחברות טק. (82 מילים) השקת חיזוי הגיל ב-ChatGPT מסמנת שינוי משמעותי במדיניות של OpenAI כלפי אחריות חברתית. עבור מנהלי עסקים, זה אומר צורך לבחון מחדש מדיניות שימוש בכלי AI, לוודא שהעובדים והלקוחות מוגנים. האם זה יספיק כדי למנוע נזקים עתידיים? רק הזמן יגיד, אבל זה צעד בכיוון הנכון להפוך AI לבטוח יותר לכולם.