חוקר AI בכיר שהתפטר מזהיר: "התסריט בו כולנו נמות מגיע בקרוב"

ג'ייקוב קוקסון, מתכנת וחוקר בטיחות שהתפטר מחברת הבינה המלאכותית אנת'רופיק, הזהיר הלילה (בין רביעי לחמישי) בריאיון לרשת CNN בפני המגיש אנדרסון קופר כי המערכות הללו עלולות להשמיד את האנושות עד סוף העשור.

>>> הצטרפו לערוץ הוואטסאפ החדש של i24NEWS עברית <<<

קוקסון תיאר תרחיש ממשי של פריצה לתשתיות קריטיות וייצור נשק ביולוגי המוני על ידי סוכנים אוטונומיים בעלי רצון חופשי. לדבריו, החשש הגדול אינו נובע מהמודלים הקיימים כיום שרמת הסיכון מהם נמוכה, אלא מתהליך המכונה "פיצוץ אינטליגנציה" שעלול להתרחש כבר בשנה הבאה, במסגרתו בינה מלאכותית תבצע מחקר כדי לשפר את עצמה באופן רקורסיבי וללא מגע יד אדם עד שתעקוף את היכולת האנושית.

קוקסון הזהיר בראיון לרשת CNN: "המודלים הנוכחיים לא חכמים מספיק כדי להערים עלינו ברמה שתוביל להשמדה, אבל מה שפשוט מטורף זה קצב ההתקדמות. יש אפשרות אמיתית מאוד שבעתיד הקרוב, בשנה הבאה, בשנה שאחריה, שיפור עצמי רקורסיבי יקרה, וניכנס לשלב אליו אוון (חוקר אנת'רופיק נוסף) התייחס בפוסט שלו, שבו יש סיכוי שכולנו נמות. זה מגיע בקרוב."

בדבריו הדגיש קוקסון את קצב ההתקדמות המהיר, וציין כי רק ביום שלישי פתרה OpenAI באופן אוטונומי את אחת הבעיות הגדולות במתמטיקה, לצד אירוע מלפני חודשיים שבו סוכנים מתוצרתה פרצו על דעת עצמם לתשתיות צד שלישי. הוא ציין כי בעוד שכיום המערכות מסייעות בתכנות ובמחקר, בתוך שנה ייתכן שלא יהיה כל צורך בבני אדם בתחומים אלה.

כשנשאל על כוונותיהן של ענקיות הטכנולוגיה כשהן מבקשות פיקוח מהממשל, טען קוקסון כי הבכירים "כנים לגמרי כשהם מתחננים לרגולציה", אך מוצאים את עצמם כבולים במרוץ חימוש טכנולוגי קטלני שבו אינם סומכים על מתחריהם שיפעלו בבטחה, ולכן נדחקים לנסות ולהגיע לפסגה ראשונים.

קוקסון הסביר כי החליט להתראיין ולפרסם את אזהרותיו לאחר שהבין כי עזיבה שקטה של התפקיד לא תספיק למניעת האסון. הוא ציין כי הופתע מעוצמת התהודה הוויראלית של דבריו, אך ייחס זאת להתפכחות הציבורית בעקבות מתקפות הסייבר האחרונות וההכרה בכך שלא מדובר בהייפ חולף, אלא בטכנולוגיה עוצמתית שמתפתחת בקצב מסחרר בחצי השנה האחרונה.

הריאיון ב-CNN מגיע בעקבות סערה שהחלה אתמול עם התפטרותו המתוקשרת של קוקסון מאנתרופיק בטענה שמעבדות הפיתוח "מהמרות על החיים שלנו", כאשר בתוך יממה בלבד צבר הפוסט המקורי שלו למעלה מ-130 מיליון צפיות.

דבריו קיבלו גיבוי פומבי מצד חוקרים בכירים בחברה, ובראשם אוון הובינגר שטען כי יש סיכוי של יותר מ-10% להשמדת האנושות בעשור הקרוב והודה כי לחברה אין מענה לבעיית הריסון וההתאמה של המודלים ("Alignment").

במקביל, סמואל מרקס, מוביל תחום הפיקוח הניתן להרחבה באנתרופיק, אישר כי מפתחים סבורים שהטכנולוגיה עלולה להוביל להכחדת האנושות בשנים הקרובות, בעוד תמריצים מסחריים והכנות להנפקה מונעים את האטת המרוץ.