בכירים בחברות ה-AI מזהירים מאובדן שליטה: "לא נשקר, נשקפות לנו סכנות אמיתיות"

ראשי ענף הבינה המלאכותית יצאו השבוע בקריאה דרמטית וחסרת תקדים להאטה מבוקרת בקצב הפיתוח ולהחלת רגולציה ממשלתית, מחשש מאובדן שליטה טוטאלי על המודלים המתקדמים.

>>> הצטרפו לערוץ הוואטסאפ החדש של i24NEWS עברית <<<

דאריו אמודי, מנכ"ל חברת ANTHROPIC, התריע במאמר ובראיונות לתקשורת מפני התרחישים המסוכנים של הטכנולוגיה והזהיר: "לא אשקר לכם, יש סכנות אמיתיות".

אמודי הסביר כי הכלים העתידיים עלולים לחמוק משליטת יוצריהם וציין כי "הרעיון שאנחנו צריכים דרך כלשהי לוודא שאנחנו יכולים להשבית, להגביל או לכבות מודלים של בינה מלאכותית, זה לא הדבר היחיד. אם מודל בינה מלאכותית הוא חזק מספיק, הוא יכול לעקוף ניסיונות לכבות אותו, וראינו את זה גם בסימולציות".

הדברים הגיעו בעקבות התפטרותו של ג'ייקוב קוקסון, לשעבר חוקר AI בחברה, שהזהיר מיכולות פריצה על-אנושיות ויצירת נשק ביולוגי.

באופן מפתיע למדי, הקריאה זכתה לגיבוי מיידי גם מצד מנהלי החברות המתחרות הגדולות בעולם. סם אלטמן, מנכ"ל חברת OpenAI, צייץ ברשתות החברתיות: "אני מסכים עם דאריו בכך שעלינו להאט את הקצב של החזית. זה היה נושא מרכזי בדיונים שקיימנו ב-OpenAI בשבועות האחרונים".

אלטמן אף חשף כי בעקבות אותן דאגות בטיחות החליטה החברה לעצור את תוכניותיה הפיננסיות, כשהבהיר: "בהתחשב בכל מה שקורה עם בטיחות, כרגע זה יהיה רגע לא נכון לצאת להנפקה ציבורית. הייתי אומר שלא ב-2026". אילון מאסק, מפתח Grok, חיזק גם הוא את הדברים וצייץ בפשטות: "דאריו צודק", בעוד מומחים משווים את הצורך בפיקוח עולמי לאמנות להגבלת נשק גרעיני.

בניגוד לחששות הכבדים בקהילת הטכנולוגיה, נשיא ארצות הברית דונלד טראמפ הביע זלזול בצורך במעקות בטיחות וברגולציה רחבה. טראמפ כתב בתגובה לסערה: "הדבר היחיד שהבינה המלאכותית צריכה מבחינת פיקוח או מעקות בטיחות הוא נשיא חזק וחכם. לארה"ב יש אחד כזה. ממשל טראמפ עצר את אנשי הבינה המלאכותית מלעשות דברים רעים ואנחנו נמשיך לעשות זאת".

כאשר נשאל הנשיא על אופי שימושו האישי בכלים אלו, התחמק ממתן מענה ישיר והפציר: "את יודעת, לרוב, אפשר להשתמש ב-AI להרבה דברים... טוב, אני לא רוצה לומר".