חוקר באנתרופיק: "סיכוי של יותר מ-10% שבינה מלאכותית תהרוג את האנושות"

סערה בעולם הבינה המלאכותית מתרחשת היום (רביעי), לאחר שחוקר הבטיחות בחברת אנתרופיק, ג'ייקוב קוקסון בן ה-27 שעבד בעבר ב-OpenAI, הודיע על התפטרותו והזהיר כי החברות המובילות "מהמרות על החיים שלנו". הפוסט שפרסם זכה בתוך שעות ספורות לעשרות מיליוני צפיות ברשת, ואף גרר תגובה מהמשקיע המיליארדר ביל אקמן, שכינה את המהלך "מדאיג".

>>> הצטרפו לערוץ הוואטסאפ החדש של i24NEWS עברית <<<

שעות מועטות לאחר מכן, חוקר נוסף בחברה, אוון הובינגר, גיבה את דבריו והצהיר כי קיים סיכוי של יותר מ-10% שהטכנולוגיה תוביל להשמדת האנושות בתוך העשור הקרוב, תוך שהוא מציין כי לחברה אין כרגע תוכנית להתמודדות עם תרחיש זה.

קוקסון מתח ביקורת חריפה על המרוץ של אנתרופיק ושל OpenAI לעבר סופר-אינטליגנציה בעלת יכולת שיפור עצמי, והזהיר ברשת החברתית כי אין להקל ראש בעוצמת הטכנולוגיה הזו, ברקע אזהרתו בריאיון ל"וול סטריט ג'ורנל" שלפיה עמיתיו מגדירים את המצב כ"סוף המשחק" וכי "עד סוף השנה הבאה הדברים עלולים לצאת מכלל שליטה".

לדבריו, "אלה יהיו בתוך זמן קצר מערכות על-אנושיות שיוכלו לפרוץ לכל דבר, לחולל מהפכה בכל תחום בן לילה, ולרכוש כוח ומשאבים אמיתיים".

הובינגר אישר את החשש וציין כי לחברה אין מענה לבעיית ה"אליגנמנט" (Alignment) - מונח המגדיר את האופן שבו מרסנים ומכוונים מערכת בינה מלאכותית כך שתפעל בהתאם לערכים, לכוונות ולבטיחות של בני האדם, במקום לפעול על פי מטרות משל עצמה שעלולות לפגוע בהם.

לדברים הצטרף גם סמואל מרקס, מוביל תחום הפיקוח הניתן להרחבה (Scalable Oversight) באנתרופיק, שסיפק הערכה רחבה ומטרידה יותר. מרקס ציין כי מפתחי בינה מלאכותית מאמינים שהטכנולוגיה שלהם "עלולה לגרום להכחדת האנושות" כבר במהלך השנים הקרובות. לדבריו, השיטות הנוכחיות של אליגנמנט מסוגלות רק "לדחוף קלות את המערכות לעבר התנהגות טובה יותר" אך לא להתאים ולרסן אותן בצורה חזקה ומוחלטת.

מרקס הבהיר כי התוכנית הזמנית של התעשייה היא לפתח מודלים שיאמנו ויאבטחו את יורשיהם טוב יותר מכפי שבני אדם מסוגלים, אך תמריצים מסחריים ותחרותעיקשת גוררים את החברות להמשיך במרוץ המסוכן, וזאת בעוד אנתרופיק אף נערכת להנפקת ענק היסטורית בבורסה.