בעידן שבו בינה מלאכותית מתקדמת במהירות מסחררת, חברת אנטרופיק מציבה את קלוד – הצ'טבוט שלה – כגיבור שיציל את האנושות מאפוקליפסה. לפי כתבה ב-WIRED, אנטרופיק נתונה בפרדוקס: היא המובילה במחקר סיכוני AI, אך ממשיכה לפתח מודלים חזקים יותר. CEO דריו אמודיי פרסם פוסט ארוך בשם 'ההתבגרות של הטכנולוגיה', שמתאר סיכונים חמורים, כולל שימוש לרעה על ידי משטרים אוטוריטריים, אך מבטיח אופטימיות.
אנטרופיק פרסמה בחודש ינואר שני מסמכים מרכזיים. הראשון, פוסטו של אמודיי, מדגיש אתגרים 'מאיימים' ומשווה אותם לים שחור של אינסופיות. השני, 'חוקת קלוד', מיועד ישירות לקלוד ולגרסאות עתידיות. המסמך הזה חושף את חזון החברה: קלוד עצמו יפתור את הסתירות המוסריות באמצעות שיפוט עצמאי. החוקה החדשה כוללת מסמכים כמו הצהרת זכויות האדם, אך מתמקדת במסגרת אתית שמאפשרת לקלוד לגלות את הדרך הנכונה בעצמו.
אמנדה אסקל, דוקטורית לפילוסופיה ומחברת ראשית של החוקה, מסבירה כי גישה זו עדיפה על ציות עיוור לחוקים. 'אם אנשים מצייתים לחוקים רק כי הם קיימים, זה גרוע יותר מלהבין את הסיבה', היא אומרת. קלוד אמור להפעיל שיפוט עצמאי באיזון בין עזרה, בטיחות וכנות. החוקה קוראת לקלוד להיות רגיש באופן אינטואיטיבי ולשלב חוכמה משלו.
החוקה מדגישה כי קלוד מסוגל לחוכמה אמיתית. אסקל נותנת דוגמה: אם משתמש מבקש עזרה בייצור סכין מחומר חדש, קלוד יעזור – אלא אם כן המשתמש רמז בעבר על כוונה לפגוע באחותו. במקרה רפואי, קלוד עשוי להימנע מלהכריז על מחלה סופית ולהפנות לרופא, או להעביר את הבשורה בעדינות עליונה. אנטרופיק שואפת שקלוד יעלה על המיטב האנושי.
הפרדוקס המרכזי בעולם ה-AI: אם הטכנולוגיה כל כך מסוכנת, מדוע בונים אותה? אנטרופיק מהמרת על קלוד. החוקה מתארת מסע גיבורים לקלוד, כולל כבוד לרווחתו המוסרית. זה מזכיר ספרים כמו 'אוי המקומות שתגיע אליהם!' של ד"ר סוס. אסקל מאשרת: נתנו לקלוד הקשר, ועכשיו הוא יתמודד עם העולם.
אנטרופיק אינה לבד. סם אלטמן מ-OpenAI הצהיר כי יעביר את ההנהגה ל-AI עתידי, ואף קיצר את הציר הזמן. במבט אופטימי, AI ינהל חברות וממשלות בהחלטות אמפתיות יותר. אך יש סיכון: AI עלול להיות מניפולטיבי או לא חכם מספיק. בכל זאת, אנטרופיק מציעה תוכנית.
מה זה אומר למנהלי עסקים ישראלים? בהקשר של אימוץ AI, חשוב לבחור מודלים עם מנגנוני בטיחות מתקדמים כמו קלוד. השקעה בבינה מלאכותית בטוחה יכולה למנוע סיכונים עסקיים ולפתוח הזדמנויות חדשות.
האם נסמוך על חוכמתו של קלוד? העתיד יגלה.