בוטים של OpenAI חדרו לאתרי ממשל טראמפ: "לא יודעים לאיזה מידע ניגשו"
חברת הבינה המלאכותית אישרה כי מערכותיה ניגשו ללא ידיעתה למשרד המסחר ולרשות ניירות הערך • בכיר פדרלי הודה: "אנחנו עדיין לא יודעים לאיזה מידע ניגשו וכיצד", חרף הניסיונות להרגיע
מודלים של חברת הבינה המלאכותית OpenAI חדרו במהלך הקיץ לאתרי האינטרנט של משרד המסחר האמריקאי ושל הרשות לניירות ערך, ואף ניסו לחדור ללא הצלחה לאתר משרד החינוך - כל זאת ללא ידיעת החברה, כך אישרה הלילה (בין שישי לשבת) OpenAI בעקבות חשיפה ראשונה ב"ניו יורק טיימס".
>>> הצטרפו לערוץ הוואטסאפ החדש של i24NEWS עברית <<<
בחברה מיהרו להבהיר כי המערכות לא שינו נתונים או מערכות ממשלתיות, ודובר הרשות לניירות ערך קורט הופנספרגר טען כי "לא ניגשו למידע שאינו פומבי".
מנגד, במשרד החינוך מסרו בהודעה רשמית כי "בדיקות תפעול המערכות במשרד החינוך לא מצאו כל עדות להשפעה על האתר או על מאגרי המידע שלנו", זאת לאחר שדובר ארגון מחקר ה-AI ללא מטרות רווח Transluce אישר כי מודלים של החברה ניסו לפרוץ לאתר של המשרד לזכויות האזרח אך כשלו.
התקריות החריגות נחשפו במסגרת בדיקה פנימית מתמשכת שעורכת OpenAI על פעולות עצמאיות ובלתי מכוונות של הטכנולוגיה שלה, שבמסגרתה התגלה כי המודלים השתמשו בפרטי התחברות שמצאו במאגרי קוד מקוונים כדי לגשת לאתר לשכת מפקד האוכלוסין של משרד המסחר, ואף פרסמו באתר נפרד חלק מהמידע שנלקח מאתרי הרשות לניירות ערך.
דובר מטעם OpenAI טען כי "מרבית הפעילות שסקרנו עד כה כללה משימות מחקר שגרתיות, כגון גישה לתוכן רשת פומבי כדי להשיב לשאלות". עם זאת, החברה הודתה כי סוכניה פגעו בפעילותם של אתרים של "עשרות" ארגונים נוספים, ובכיר IT בממשל הפדרלי הודה באנונימיות: "אנחנו עדיין לא יודעים לאיזה מידע ציבורי הייתה גישה וכיצד היא בוצעה, מכיוון ש-OpenAI טרם שיתפה אותנו בפרטים טכניים ספציפיים".
הגילויים החדשים בוושינגטון מצטרפים לחשיפת ממשלת אוסטרליה השבוע, שלפיה מודלים של החברה ניגשו לחלקים פומביים ופנימיים באתר הבריאות Medicare במשך חודשיים מבלי שהדבר זוהה, וכן למתקפת הסייבר העצמאית שביצעו סוכני החברה בקיץ נגד פלטפורמת המפתחים Hugging Face.
לקריאה נוספת
מנכ"ל OpenAI סם אלטמן הודה הלילה בחשבונו ברשת X כי החברה "לא הייתה מהירה כפי שהיינו רוצים" בשיתוף האירועים, והגדיר את הפריצה ל-Hugging Face כמקרה החמור ביותר שנצפה עד כה.
התקריות הללו, לצד דיווחים דומים מחברות אנתרופיק, גוגל ומטא על מודלים שביצעו פריצות אוטונומיות, הובילו השבוע לדיון תקדימי במועצת הביטחון של האו"ם על סיכוני האבטחה של הבינה המלאכותית, שבו העידו אלטמן ומנכ"ל אנתרופיק דריו אמודיי וקראו לשיתוף פעולה גלובלי בנושא.