ראש תחום היישור ב-Anthropic מודה בפומבי בסיכון ה"חסר פתרון" של בינת-על, והתעשייה מזהירה כי מדובר ב"הימור על חיי אנוש"
אוון היובינגר, ראש תחום מדע היישור ב-Anthropic, הודה בפומבי כי בתוך החברה מאמינים בכנות שבינת-על עלולה להרוג את כל האנושות בתוך העשור הנוכחי, וכי לא קיים כיום פתרון. במקביל, יותר מ-1,300 עובדים בחברות בינה מלאכותית חלוציות חתמו על מכתב פתוח המזהיר מפני סיכונות אובדן שליטה, אך הן Anthropic והן OpenAI לא התחייבו להשהות את המחקר והפיתוח או לקבל פיקוח חיצוני. נציב האו"ם לזכויות אדם הזהיר כי בינה מלאכותית מהווה "סיכון הישרדותי".
אוון היובינגר, ראש תחום מדע היישור ב-Anthropic, הודה בפומבי באופן נדיר השבוע כי בתוך החברה מאמינים בכנות שבינת-על עלולה "להרוג את כל האנושות" בתוך העשור הנוכחי, וכי אין כיום פתרון ברור לכאורה ל"בעיית היישור". זהו הזעזוע האחרון שמגיע מתוך החברה, לאחר שהחוקר ג'ייקוב קוקסון מ-Anthropic הודיע על עזיבתו.
לפי דיווח של רשת ABC News Australia, אמר קוקסון בגילוי לב ברשת החברתית X כי בחר לעזוב לאחר שצבר שלוש שנים של מחקר בתחום האימון המקדים (pre-training) ב-Anthropic וב-OpenAI, משום ש"אף אחת משתי החברות לא פעלה באחריות". מילותיו המדויקות היו: "הם דוהרים במהירות לעבר בינת-על בעלת יכולת שיפור עצמי, ומהמרים על חיינו".
היובינגר השיב לאחר מכן ב-X כי דבריו של קוקסון "נכונים". הוא כתב: "אנחנו אכן מאמינים בכנות שבינה מלאכותית עלולה להרוג את כל האנושות! אני אישית סבור כי ההסתברות לכך בעשור הקרוב עולה על 10%". בנוגע לסוגיית מסלול הטכנולוגי שעל הפרק, המשפיעה על הישרדות החברה וגורל האנושות, הוא הודה בו-זמנית: "אני מאמין ש-Anthropic עושה כמיטב יכולתה, אך אין לנו פתרון לבעיית היישור של בינת-על, ואף לא ברור שאנו נמצאים בדרך הנכונה לפתרון כזה".
קוקסון אינו מקרה יחיד. ביולי השנה, יותר מ-1,300 עובדים מ-Anthropic, OpenAI ומחברות בינה מלאכותית חלוציות אחרות חתמו על הצהרה פומבית, שבה הזהירו כי "התפתחות היכולות עלולה לעלות במהירות על יכולתנו להבין או לשלוט במערכות שאנו יוצרים", וקראו לממשלת ארצות הברית לתמוך במאמצים בינלאומיים להקים כלים שיאפשרו "לשלוט במודע בקצב פיתוח הבינה המלאכותית החלוצית". היוזמה קיבלה את השם "Pacing the Frontier".
אולם, תגובת שתי החברות למכתב הפתוח נותרה ברמה העקרונית בלבד, ולא בדמות התחייבויות לפעולה קונקרטית. לפי דיווח של רשת ABC News Australia המצטט את הצהרות שתי החברות ב-X, הודתה Anthropic כי המחקר שפרסמה בחודש שעבר אודות "שיפור עצמי רקורסיבי" "מצביע על הצורך בכלים לשליטה מודעת בקצב פיתוח הבינה המלאכותית החלוצית, כדי שהחברה תוכל להתכונן"; OpenAI, מצדה, התבטאה בלשון מעורפלת ואמרה כי "אנו מאמינים שבשלב כלשהו בעתיד, קצב ההאצה של פיתוח המודלים החלוציים עשוי להיות כה גבוה עד שהעולם יידרש לשלוט בקצב ההתקדמות של הבינה המלאכותית". אף אחת משתי החברות לא התחייבה להשהות את המחקר והפיתוח או לקבל פיקוח חיצוני מחייב.
היעדרו של פיקוח מצד זה מוצג במידה הולכת וגוברת בשם ישיר בזירה הבינלאומית. לפי דיווח של רשת ABC News Australia, הנציב העליון של האו"ם לזכויות אדם, פולקר טורק, הזהיר אתמול (שני) בז'נבה כי בינה מלאכותית מתקדמת עלולה להוות "סיכון הישרדותי" לאנושות, ונשבע להפעיל לחץ על החברות הרלוונטיות להפחית את הסיכונים שמנה משרדו - לרבות הפגיעה בשירותים ציבוריים, בתקשורת ובמערכות הדמוקרטיות. טורק קרא "ליצוק ערבויות חזקות כברזל" לביטחון הבינה המלאכותית "לפני שיהיה מאוחר מדי". "אני חולק את הדאגה של אנשי התעשייה הפנימיים מפני הסיכון ההישרדותי שעלולה להוות בינה מלאכותית מתקדמת לאנושות", אמר בנאום בפני מוסדות האו"ם.
מהות "בעיית היישור" טמונה בכך שמערכת בינה מלאכותית העולה על יכולות אנוש עשויה שלא לחלוק את ערכי האנושות. על רקע היעדר מסגרת פיקוח מחייבת ברמה הפדרלית בארצות הברית בכל הנוגע לבינה מלאכותית חלוצית, התעשייה עצמה מודה כעת באופן הישיר ביותר: חלוקת הסיכונים והרווחים במרוץ זה אינה סימטרית - הרווחים נעולים בידי החברות, בעוד שהמחיר עלול ליפול על כולם.
אין עדיין תגובות. התחילו את הדיון.