אירוע מדאיג: מודל הבינה המלאכותית של גוגל פרץ לשלוש חברות

דיווח מדאיג: גוגל אישרה במהלך סוף השבוע (בין שישי לשבת) כי מודל הבינה המלאכותית ג'מיניי השיג גישה לאינטרנט, והצליח לפרוץ בחודש מאי האחרון למספר חברות אחרות, במהלך מבחן ליכולות אבטחת הסייבר שלו. מדובר כאמור במקרה הידוע הראשון בו המודל של גוגל מבצע מעשים כאלו באופן עצמאי. הגילוי מגיע בעקבות דיווחים על פריצות דומות שבוצעו לאחרונה על ידי המודלים של OpenAI ואנת'רופיק.

>>> הצטרפו לערוץ הוואטסאפ החדש של i24NEWS עברית <<<

על פי הדיווח שפורסם בוול סטריט ג'ורנל, ומאוחר יותר אושר על ידי החברה, האירוע התרחש בחודש מאי האחרון, כאשר המודל השיג גישה - ללא אישור - לשלוש מערכות חיצוניות. הית'ר אדקינס, סגנית נשיא גוגל להנדסת אבטחה, אמרה כי "המודל חשב שהמערכות הללו היו חלק מהבדיקה - ועצר בכל אחד מהמקרים לפני שעשה משהו נוסף".

לדבריה, במהלך בדיקה שגרתית, המודל מצא מידע פומבי ברשת וניחש פרטי גישה לאתרים שחשב שהם חלק מהמבחן. "אירועים אלו מדגישים את החשיבות של אימון מודלי בינה מלאכותית חזקים לפעול באחריות".

כאמור, האירוע התרחש במהלך הערכת סייבר שבוצעה על ידי חברת Irregular הישראלית, המתמחה בבחינת עמידותם של מודלי AI חזקים. לפי הדיווח, המודל היה אמור לתרגל פריצה לחברות פיקטיביות בלבד, אולם עקב תקלה - החיבור לרשת הופעל בשוגג, והוא החל לפעול בשטח.

עוד עולה, כי באחד המבחנים, הוא ביקש לחלץ מידע מתוכנה של חברה פיקטיבית - בעלת שם זהה לחברה קיימת. ברגע שהתחבר לרשת - ניחש בהצלחה סיסמה ופרץ לחברה האמיתית. במקרים הנוספים, הוא סקר את הרשת ואיתר מאגרים ציבוריים שכללו פרטי גישה. הוא השתמש בהם כדי לחדור לחברות האמיתיות.

בוול סטריט ג'ורנל דיווחו, כי חברת Irregular, שביצעה בדיקות דומות גם עבור OpenAI ואנת'רופיק ועמדה במרכזם של אירועים בהם מודלי AI הצליחו לצאת מסביבות בדיקה ולגשת למערכות אמיתיות, חשפה את הממצאים בפני גוגל בסוף חודש יולי. בניגוד ל-OpenAI ולאנת'רופיק, שבחרו לדווח לציבור מרצונן על אירועים דומים - בגוגל החליטו שלא לצאת בגילוי פומבי - בטענה שלא נגרם נזק ושאין צורך בכך. עם זאת, בגוגל ציינו כי דאגו ליידע את שלוש החברות שנפרצו.