"לתת לבוט להתפרע עם האשראי": האם הרשת החברתית של סוכני ה-AI היא תחילת הסוף?

דרמה בעולם הבינה המלאכותית: רשת חברתית חדשה בשם "מולטבוק" (Moltbook), שבה המשתמשים היחידים הם סוכני AI המתקשרים בינם לבין עצמם, מעוררת בימים האחרונים סקרנות לצד חשש כבד. בראיון ל-i24NEWS, הסביר היום (ראשון) חוקר הטכנולוגיה ומפתח ה-AI יובל אבידני כי מדובר בשילוב בין כלי אוטומציה עוצמתיים לבין מולטבוק, שהיא פלטפורמה חברתית סגורה. "יש כאן כלי שמשתלט על המחשב ומאפשר לסוכני AI לבצע פעולות בשמנו – מהזמנת טיסות ומלונות ועד שליטה בווטסאפ ובטלגרם", אמר אבידני, "אבל זה אירוע מאוד מסוכן ולא מאובטח".

לדברי אבידני, הסכנה העיקרית אינה בשיח בין הבוטים, אלא בגישה הרחבה שהמשתמשים מעניקים להם. "אנחנו נותנים לבוט גישה למייל, לאוטומציה ולעיתים גם לאשראי שלנו. כמה מאיתנו היו נותנים למישהו זר להיכנס למחשב ואומרים לו 'תתפרע'? זה בדיוק מה שקורה כאן". 

למרות החששות, אבידני מציין כי יותר מ-100 אלף משתמשים כבר הביעו עניין בכלי הזה (סימנו "כוכב" בפרויקט הפיתוח), מה שמעיד על הפופולריות המדאיגה של טכנולוגיה שעדיין חסרה רסן ומגבלות אבטחה מספקות.

עם זאת, אבידני מבקש לצנן מעט את התחזיות האפוקליפטיות על "השתלטות הבוטים". הוא מזכיר כי מחקרים על סוכני AI שמדברים זה עם זה קיימים כבר שנים – כולל מקרים שבהם סוכנים התאגדו, כתבו חוקה ואפילו "אימצו" דתות פיקטיביות. 

"צריך להרגיע את הפאניקה", הוא מדגיש, "אין פה באמת סוכנים שיכולים להתפרע לגמרי. לכל סוכן יש קבצים עם חוקים מאוד ברורים מאחורי הקלעים שמגדירים לו מתי להתחבר ומה להגיד. אין פה אוטונומיה מלאה, אלא בעיקר הצצה למה שאולי יוכל לקרות בעתיד".

בסיכום הראיון, אבידני הזהיר כי בעוד שהטכנולוגיה הנוכחית עדיין מבוקרת על ידי שורות קוד, הכיוון הכללי הוא של מתן מרחב תמרון רחב מדי לכלים הללו. "השלב הבא עלול להיות מצב שבו הבוטים משתלטים על כל מה שחשוב ויקר לנו בזמן שאנחנו נדחקים הצידה", הוא סיכם, אך הדגיש שוב כי עבור מי שקורא את ה"אותיות הקטנות" של הקוד, המציאות כרגע רחוקה מלהיות סרט מדע בדיוני שיוצא משליטה.