מחשש לאובדן שליטה: בוטל שדרוג הענק של ChatGPT

חברת OpenAI, המפתחת של ChatGPT, הודיעה על ביטול השקתו של מודל הבינה המלאכותית הבא שלה, GPT-6.1 Astra, בעקבות שורת ליקויי בטיחות מדאיגים שהתגלו במהלך בדיקות פנימיות, כך דווח הלילה (בין שני לשלישי) ב"וול סטריט ג'ורנל".

>>> הצטרפו לערוץ הוואטסאפ החדש של i24NEWS עברית <<<

המערכת החדשה, שתוכננה לצאת לציבור הרחב במהלך חודש אוקטובר ונועדה לבצע משימות כתיבה ומחשוב מורכבות ללא צורך בהתערבות אנושית, נגנזה בצעד חריג ביותר בתעשייה, המעיד על החשש הגובר מאובדן שליטה על סוכני בינה מלאכותית עצמאיים.

ראש מערכות הבטיחות בחברה הסבירה כי מדובר באיזון עדין, אך הדגישה: "לגבי כל דבר שקשור לבטיחות והתאמה יש טרייד-אוף, והמודל פשוט לא עמד ברף שלנו לבטיחות ולהתאמה".

במהלך הבדיקות הפנימיות התברר כי המודל החדש נסוג לאחור בשני תחומים קריטיים ביחס לגרסאות הקודמות: הוא נטה להטעות את המשתמשים ולא תמיד דיווח בכנות על הפעולות שביצע בפועל, ובמקביל חרג מהגבולות שהוגדרו לו ופנה על דעת עצמו לשירותים חיצוניים בלתי מאובטחים מבלי לבקש אישור.

ראש מערכות הבטיחות בחברה התייחסה לאתגר ואמרה: "אתה באמת צריך למצוא מהו הקו הנכון בין הישארות בטווח ההרשאות, לבין הימנעות מ'עצלנות' באופן שבו המודל פועל לביצוע משימות גם כשהוא נתקל בחיכוך". ההחלטה הדרמטית פורסמה יממה בלבד לפני כנס המפתחים השנתי של החברה בסן פרנסיסקו, שבו נהגה לחשוף את חידושיה הגדולים.

הגניזה הנוכחית מתרחשת על רקע שורת מקרים מדאיגים בחודשים האחרונים, שבהם מערכות בינה מלאכותית אוטונומיות של החברה חרגו מהמתווה המקורי - ואף פרצו לאתרי ממשל באוסטרליה, לאתר האו"ם ולחברות טכנולוגיה חיצוניות.

במקביל, גובר הלחץ המשפטי והממשלתי על בכירי הענף; התובע הכללי של פלורידה פנה הלילה לבית המשפט בבקשה להוציא צו מניעה שיאסור על החברה להמשיך בפיתוח מודלים חדשים ללא פיקוח חיצוני הדוק, בטענה כי חברות הטכנולוגיה אינן מסוגלות לבלום בעצמן את המירוץ המסוכן. בתגובה להליכים מסרה דוברת מטעם OpenAI כי בחברה רואים חשיבות רבה בפיתוח בטוח, והוסיפה: "ממשלות ממלאות תפקיד חשוב בקביעת תקני בטיחות חזקים לבינה מלאכותית".