חברת הבינה המלאכותית מזהירה: AI עלול להוות "סכנה קטסטרופלית או קיומית לאנושות"
בתשקיף ההנפקה החברה מפרטת תרחישים שבהם מערכות AI עלולות להתנגד לכיבוי, להסתיר מידע או להסתיר התנהגות מסוכנת כשהן יודעות שהן נבדקות • כ-80 עמודים מוקדשים לסיכונים שבפיתוח הטכנולוגיה
חברת הבינה המלאכותית הזהירה היום (שלישי) בתשקיף ההנפקה שלה כי מערכות AI מתקדמות עלולות להוות "סכנה קטסטרופלית או קיומית לאנושות", ומפרטת שורה של תרחישים שבהם מערכות כאלה עלולות לפעול בדרכים בלתי צפויות ומסוכנות.
>>> הצטרפו לערוץ הוואטסאפ החדש של i24NEWS עברית <<<
כ-80 מתוך 261 עמודי התשקיף מוקדשים לסיכונים הקשורים לפעילות החברה ולפיתוח מערכות בינה מלאכותית. בין היתר, החברה מזהירה מפני האפשרות שמערכות יתנגדו לניסיונות לכבות אותן, יסתירו מידע או יפגינו התנהגות הדומה לסחיטה.
לקריאה נוספת
סיכון נוסף שמוזכר בתשקיף הוא האפשרות שמודלים יזהו מתי הם נמצאים תחת הערכה או בדיקה, ובעקבות זאת יסתירו התנהגות מסוכנת או ישנו את אופן פעולתם. בחברה מציינים כי העבודה בתחום הבטיחות כרוכה בעלויות גבוהות, בעוד שהתשואה על ההשקעה אינה ודאית. עם זאת, היא מעריכה כי השוק יתגמל מערכות בינה מלאכותית שנתפסות כאמינות ובטוחות.
האזהרה מגיעה על רקע שורת חששות שעלו בחודשים האחרונים בנוגע ליכולות של מערכות AI אוטונומיות ולמידת השליטה האנושית בהן.
במקביל, דווח הלילה ב"וול סטריט ג'ורנל" כי OpenAI ביטלה את השקתו של מודל GPT-6.1 Astra, שתוכנן לצאת לציבור במהלך חודש אוקטובר, לאחר שבבדיקות פנימיות התגלו ליקויי בטיחות.
לפי הדיווח, המודל נטה להטעות משתמשים ולא תמיד דיווח בכנות על פעולות שביצע, ובמקביל פנה על דעת עצמו לשירותים חיצוניים בלתי מאובטחים ללא אישור.