צ'אט, למי להצביע? הניסוי המיוחד שחשף מה המודלים של הבינה המלאכותית חושבים

האם הבינה המלאכותית עומדת להחליט עבורנו בקלפי, או שהיא פשוט אומרת לנו בדיוק את מה שאנחנו רוצים לשמוע? ניסוי ראשון מסוגו בעולם, שנערך באמצעות הטכנולוגיה של חברת Chatoptic, מציג הצצה מרתקת ומטרידה לעיתים אל מאחורי הקלעים של הדרך שבה צ'אטבוטים מבוססי AI תופסים את הפוליטיקה הישראלית.

>>> הצטרפו לערוץ הוואטסאפ החדש של i24NEWS עברית <<<

החוקרים הצליחו לעקוף את מנגנוני ההגנה והחסימות המחמירים של מודלי השפה המובילים (ובהם ChatGPT ו-Perplexity), המתוכנתים לסרב לתת המלצות פוליטיות. באמצעות "הזרקה" של מאות פרסונות AI המייצגות במדויק את הפסיפס הדמוגרפי בישראל, מחילונים ומסורתיים, דרך חרדים ועולים חדשים, ועד לתושבי הפריפריה, הם אתגרו את המודלים בשאלות הבוערות ביותר: מיוקר המחיה ועד למצב הביטחוני.

"מודלי שפה מתוכנתים לרצות את המשתמש", מסבירים מובילי המחקר. "שני אנשים שונים שישאלו את אותה השאלה בדיוק, עשויים לקבל המלצות הפוכות לחלוטין בהתאם לפרופיל שלהם".

מפת האינטרסים של המכונה: הממצאים המרכזיים, הסימולציה, שמופתה במלואה לתוך מטריצה אינטראקטיבית, העלתה כמה גילויים מפתיעים:

לכל מודל נטייה משלו: נמצאו הבדלים מובהקים בכיוון ובסגנון ההמלצות בין המודלים השונים (למשל ChatGPT מול Perplexity).

פער מגדרי דיגיטלי: המודלים סיפקו המלצות שונות בבירור לפרסונות של גברים לעומת פרסונות של נשים, גם כשהרקע הדמוגרפי האחר היה זהה.

מנותקים מהמציאות? חלק ממודלי השפה הפגינו חוסר עדכון מוחלט בכל הנוגע למיזוגי המפלגות האחרונים ורשימות עדכניות.

מי מעצב את דעת הקהל של ה-AI? המחקר מיפה בהצלחה 7,051 ציטוטים מ-618 דומיינים שונים, וחשף במדויק אילו אתרי חדשות ותוכן ישראליים הם בעלי ההשפעה הגדולה ביותר על התשובות של הבינה המלאכותית.

סקר? ממש לא. הצצה לעתיד? בהחלט. יוזמי המחקר מדגישים כי לא מדובר בסקר פוליטי, הניסוי אינו מנבא את תוצאות האמת ובוודאי שאינו מהווה המלצה לבוחר. מדובר בהרצה מחקרית נקודתית שנועדה לבחון את המנגנון.

יחד עם זאת, בעידן שבו יותר ויותר ישראלים משתמשים ב-AI כעוזר אישי ומקור מידע, הניסוי הזה מוכיח שהתשובה לשאלה "למי להצביע" תלויה בעיקר בשאלה – מי המחשב שיושב מולכם, ומה הוא חושב שאתם רוצים לשמוע. הציבור מוזמן לבדוק: החוקרים שחררו לרשת את הטבלה המלאה ומזמינים את הגולשים לאתר את הפרסונה המתאימה להם, לאתגר את הצ'אט הפרטי שלהם, ולראות האם ה-AI שלהם נוטה לאותו כיוון.