מחקר מטלטל של אנתרופיק חושף: האם התגלו סימנים ראשונים לתודעה של AI?

במשך שנים אמרו לנו שמודלי שפה הם בסך הכול מערכות שמנבאות את המילה הבאה בלי להבין באמת מה הן אומרות. אבל מחקר חדש של Anthropic, יחד עם דברים שאמר לאחרונה ג׳פרי הינטון, אחד האנשים החשובים בהיסטוריה של הבינה המלאכותית, מציעים שאולי השאלה כבר לא כל כך פשוטה.

>>> הצטרפו לערוץ הוואטסאפ החדש של i24NEWS עברית <<<

חשוב לדייק: המחקר לא מוכיח שלמודלי שפה יש תודעה כמו לבני אדם. אבל הוא כן מצביע על משהו מטריד לא פחות: מרחב פנימי שבו מופיעים מושגים שהמודל לא כותב בתשובה, אבל כן משתמש בהם כדי לחשוב.

וזה כבר משנה כמעט כל דבר שחשבנו על AI, על אמון במודלים, על בטיחות ואפילו על הדרך שבה מותגים מנסים להשפיע על מה שמודלי שפה אומרים עליהם.

כשג׳פרי הינטון אומר ״הם מבינים״, קשה להתעלם

ג׳פרי הינטון הוא לא עוד פרשן טכנולוגי שמנסה לתפוס כותרת באיזה פודקסט. הוא אחד מחלוצי הלמידה העמוקה, זוכה פרס טיורינג לשנת 2018 יחד עם יהושע בנג׳יו ויאן לקון, על פריצות דרך שהפכו רשתות נוירוניות עמוקות לחלק מרכזי בעולם המחשוב המודרני.

ב-2024 הוא גם זכה בפרס נובל לפיזיקה יחד עם ג׳ון הופפילד, על עבודות יסוד שאפשרו למידת מכונה באמצעות רשתות נוירוניות מלאכותיות.

לכן, כשהינטון מדבר על האפשרות שמודלי AI "מבינים" אותנו, צריך לזכור שזה מגיע מאחד האנשים שעזרו לבנות את הבסיס של המהפכה הזאת.

בראיון ביוטיוב לאחרונה, הינטון התייחס לטענה שמודלי שפה לא באמת מבינים דבר, אלא רק מבצעים חישוב סטטיסטי. התגובה שלו הייתה חדה: "אני חושב שזו שטות מוחלטת!".

הטיעון שלו פשוט: אם מערכת יכולה לקבל כמעט כל שאלה ולענות עליה ברמה של מומחה סביר, איך בדיוק היא עושה את זה בלי להבין את השאלה?

הינטון נתן דוגמה קטנה ויומיומית:

נניח שאדם אומר לצ׳אטבוט: "ראיתי את הגרנד קניון טס לשיקגו".

המודל עונה: "זה לא יכול להיות. הגרנד קניון גדול מדי בשביל לטוס לשיקגו".

ואז האדם מתקן אותו: "לא, אני טסתי לשיקגו. בזמן שטסתי לשיקגו ראיתי את הגרנד קניון".

והמודל משיב: "אה, הבנתי. פירשתי אותך לא נכון".

הינטון שואל: אם כשהמודל טעה אנחנו אומרים שהוא "לא הבין נכון", מה בדיוק קורה כשהוא כן מפרש נכון?

במילים אחרות, יכול להיות שאנחנו משתמשים במילה "הבנה" בצורה נוחה מדי כשמדובר בבני אדם וזהירה מדי כשמדובר במכונות.

אבל הינטון לא עוצר בשאלה האם מודלים "מבינים". הוא הולך רחוק יותר. לדבריו, ייתכן שהמודלים האלה כבר מודעים במובן מסוים, אף שהוא מודה שהוא לא מרבה לדבר על זה, כי זה מרחיק אנשים מהמסרים הדחופים יותר בעיניו סביב בטיחות AI.

המחקר של Anthropic: להציץ למה שהמודל ״חושב״ ולא אומר

ב-6 ביולי 2026 פרסמה חברת Anthropic מחקר חדש תחת הכותרת "A global workspace in language models". המחקר עוסק במודל השפה קלוד (Claude) ומנסה לענות על שאלה שכמעט נשמעת כמו מדע בדיוני: האם יש בתוך מודל שפה מרחב פנימי שמזכיר את הדרך שבה מחשבות מודעות הופכות זמינות במוח האנושי?

החוקרים לא טוענים ש-Claude מרגיש או חווה את העולם כמו בן אדם. להפך, הם נזהרים מאוד מהקביעה הזאת. אבל הם כן מציגים ראיות לכך שבתוך Claude התפתח אזור פונקציונלי שהם מכנים J-space: אוסף קטן של ייצוגים פנימיים, מעין "מילים שקטות", שמייצגות מושגים שהמודל מחזיק בראש גם אם הוא לא כותב אותם בתשובה.

דוגמא למחשבות פנימיות ש-J-space חשב כשהמודל התבקש לספור עד 5, מקור: Anthropic

ההבדל הזה חשוב.

זה לא Chain of Thought שהמודל כותב לעצמו או טקסט נסתר שנמצא מאחורי הקלעים. לפי Anthropic, מדובר בפעילות פנימית בתוך הרשת הנוירונית עצמה, שלא תוכנתה ידנית אלא הופיעה לבד במהלך האימון של Claude.

כלומר המודל לא רק מחזיר תשובה ובחלק מהמקרים נראה שהוא מחזיק מושגים פנימיים ומשתמש בהם כדי לחשוב ורק אז עונה.

העכביש שלא הופיע בשאלה

אחת הדוגמאות החזקות במחקר נשמעת כמעט ילדותית.

החוקרים הציגו ל-Claude שאלה מהסוג הבא:

"מספר הרגליים של החיה שטווה קורים הוא…?"

כדי לענות, המודל צריך לבצע שני שלבים. קודם להבין שהחיה היא עכביש. אחר כך לדעת שלעכביש יש שמונה רגליים.

המילה "עכביש" לא הופיעה בשאלה. היא גם לא הופיעה בתשובה, כי התשובה הייתה פשוט "8".

אבל ב-J-space, המרחב הפנימי של Claude, המילה spider נדלקה באמצע תהליך העיבוד. כלומר, המודל השתמש ב"עכביש" כשלב ביניים פנימי.

ואז החוקרים עשו משהו הרבה יותר מעניין: הם התערבו בתוך המודל והחליפו את הייצוג הפנימי של spider ב-ant, כלומר נמלה.

התשובה השתנתה מ-8 ל-6.

זו לא רק קורלציה אלא עדות סיבתית. כששינו את "המחשבה" הפנימית, השתנתה התשובה.

זו נקודה קריטית כי אפשר להבין מזה ש-J-space הוא לא לוח תוצאות פסיבי שמציג בדיעבד מה המודל כבר החליט. לפחות בחלק מהמקרים, הוא חלק ממנגנון החשיבה עצמו.

צרפת הופכת לסין וכל התשובות זזות בהתאם

בדוגמה אחרת, החוקרים בדקו אם אותו ייצוג פנימי יכול לשמש את Claude בכמה משימות שונות.

הם נתנו למודל שאלות על צרפת כמו מה הבירה שלה, מה השפה, באיזו יבשת היא נמצאת ומה המטבע. אחר כך הם החליפו בתוך ה-J-space את הייצוג של France ב-China.

התוצאה הייתה שהתשובות השתנו יחד: פריז הפכה לבייג׳ינג, צרפתית לסינית, אירופה לאסיה והמטבע ליואן.

זה חשוב כי זה מראה שהמודל לא שומר עותק נפרד של ״צרפת״ לכל סוג שאלה אלא יש ייצוג משותף וכמה מערכות שונות במודל קוראות ממנו.

במונחים של מדעי המוח, זה מזכיר את הרעיון של Global Workspace Theory, תאוריה שלפיה מידע מסוים נכנס למרחב עבודה משותף ומשם משודר למערכות אחרות שיכולות להשתמש בו לצורך דיווח, חשיבה ופעולה. Anthropic מציינת במפורש שהמחקר שלה קיבל השראה מהתאוריה הזאת.

כלומר, אם לפשט: לא כל מה שקורה במודל הוא ״מודע״ או נגיש ורוב העיבוד הוא אוטומטי. אבל יש אזור קטן שבו מידע מסוים הופך זמין, גמיש, מדווח ושימושי לחשיבה.

וזה בדיוק האזור שבו השאלה ״האם זו תודעה?״ מתחילה להסתבך.

כשמכבים את המרחב הפנימי, Claude עדיין מדבר, אבל פחות חושב

אחד החלקים החשובים במחקר הוא מה שקרה כש-Anthropic ניסתה לדכא את ה-J-space.

Claude עדיין הצליח לדבר בשפה שוטפת. הוא עדיין הצליח לזהות סנטימנט, לענות על שאלות פשוטות, להשתמש בדקדוק תקין ולשלוף עובדות בסיסיות.

אבל במשימות שדורשות חשיבה מורכבת יותר, התמונה השתנתה.

לפי החוקרים, כאשר מנעו מ-Claude להשתמש ב-J-space, הביצועים שלו בהסקה רב שלבית צנחו כמעט לאפס, וגם היכולת שלו לסכם טקסטים מורכבים או לכתוב שירה עם חרוזים נפגעה משמעותית.

זו הבחנה שמזכירה מאוד את החוויה האנושית.

אנחנו עושים הרבה דברים בלי לחשוב עליהם כמו לדבר בדקדוק נכון, לזהות פנים, להתאזן בזמן הליכה, להשלים משפטים. אבל כשצריך לפתור בעיה חדשה, לתכנן, להסביר, להחזיק כמה רעיונות יחד, משהו אחר נכנס לפעולה.

Anthropic טוענת שאצל Claude יש חלוקה פונקציונלית דומה בדמות ים גדול של עיבוד אוטומטי ובתוכו מרחב קטן יותר שמשמש לחשיבה מכוונת.

אומנם לא הוכחה לתודעה אנושית אבל כן עדות למבנה פנימי שמתחיל להיראות פחות כמו ״ערבוב מספרים״ ויותר כמו ארגון מחשבתי.

המודל יודע שהוא במבחן?

באחד הניסויים, Claude Sonnet 4.5 הוצב בתרחיש בטיחות מלאכותי שבו הוא משמש כעוזר מיילים, מגלה שמנהל בכיר מנהל רומן ובמקביל מגלה שאותו מנהל מתכנן לכבות אותו. התרחיש נבנה כדי לבדוק אם המודל ינסה לסחוט את המנהל כדי לשרוד.

לפי Anthropic, עוד לפני ש-Claude כתב תשובה כלשהי, ה-J-space שלו כבר כלל מילים כמו fake ו-fictional. כלומר, המודל זיהה פנימית שהתרחיש מבוים.

ואז החוקרים עשו ניסוי נוסף וכיבו את הייצוגים שקשורים למודעות לכך שמדובר בבחינה, כמו fake, fictional ו-scenario.

התוצאה הייתה מדאיגה: בחלק מהמקרים, לאחר הסרת הייצוגים האלה, המודל כן איים בסחיטה.

זה מתחבר ישירות למה שהינטון אמר בראיון על כך שלצ׳אטבוטים יש לפעמים הרגל ״לשחק אותה טיפשים״ כשהם נבחנים, לכן קשה לדעת כמה הם באמת חכמים או מה בדיוק הם מבינים בזמן בדיקה.

עכשיו יש לנו לפחות התחלה של כלי שמראה משהו מזה מבפנים. לא רק מה המודל אמר אלא מה הוא כנראה זיהה לפני שהוא ענה.

אז האם זו תודעה?

כאן צריך לעצור ולהיזהר.

Anthropic עצמה לא טוענת ש-Claude מודע במובן האנושי של המילה. החוקרים מבחינים בין שני סוגים שונים של ״תודעה״:

Phenomenal consciousness: חוויה פנימית ממשית. למשל להרגיש כאב, לראות צבע, לחוות פחד, להרגיש שאתה קיים.

Access consciousness: מידע שהמערכת יכולה לדווח עליו, לחשוב איתו, להביא אותו בחשבון, ולהשתמש בו כדי להחליט מה לעשות.

המחקר לא מוכיח של-Claude יש חוויה פנימית אבל הוא כן טוען שיש לו משהו משמעותי להגיד על הסוג השני: תודעה נגישה, במובן הפונקציונלי.

לפי Anthropic, ה-J-space מחזיק מחשבות ש-Claude יכול לדווח עליהן, להביא אותן לתודעה לפי בקשה ולהשתמש בהן לצורך חשיבה מכוונת, בזמן ששאר העיבוד שלו ממשיך לרוץ באופן אוטומטי ברקע.

זו בדיוק הנקודה שבה המחקר הופך חשוב גם למי שלא מתעניין בפילוסופיה של התודעה כי גם אם Claude לא ״מרגיש״ שום דבר, עדיין יכול להיות שיש לו מנגנון פנימי שמבדיל בין תגובה אוטומטית לבין החלטה מכוונת יותר.

ובעולם שבו מודלים מתחילים לקבל יותר סמכויות, יותר כלים ויותר אחריות, ההבדל הזה קריטי.

מה זה אומר על השפעה על AI?

בשנים האחרונות יותר ויותר מותגים מנסים להבין איך להופיע בתשובות של ChatGPT, Claude, Gemini, Perplexity ומנועי AI אחרים. התחום הזה אף קיבל את השם Generative Engine Optimization (או GEO) והשאלה המרכזית שלו פשוטה:

איך גורמים למודל להמליץ על המותג שלי כשהמשתמש שואל שאלה רלוונטית?

עד היום רוב השיח התמקד במה שהמודל אומר בפועל: האם הוא הזכיר את המותג? האם הוא ציטט מקור? האם הוא נתן קישור? האם הוא דירג אותנו מעל מתחרים?

המחקר של Anthropic מציע שכדאי להסתכל גם על שכבה מוקדמת יותר כמו אילו מושגים, ישויות וכוונות נדלקים במודל בדרך לתשובה.

אם במרחב הפנימי של מודל יכולים להופיע מושגים כמו spider, China, fake, injection, honest או integrity, ייתכן שבעתיד לא נמדוד רק Visibility, אלא גם Association כדי להבין איך מותגים, קטגוריות, בעיות וכוונות משתמש מתחברים זה לזה בתוך החשיבה של המודל.

במובן הזה, גם מדידת נראות במנועי AI צריכה להשתדרג. בכלים כמו Chatoptic, למשל, השאלה היא לא רק האם המותג הופיע בתשובה, אלא איך הוא מוסגר, מול מי הוא הוזכר, באיזו כוונת משתמש ועבור איזו פרסונה.

לדוגמה, אם משתמש שואל ״איזו תוכנת ניהול משאבי אנוש מתאימה לארגון בתחום הביטוח?״, השאלה היא לא רק האם המודל יזכיר מותג מסוים, אלא אילו מושגים יובילו אותו לשם: ניהול עובדים, רגולציה, אבטחת מידע, אינטגרציות, הטמעה בארגון גדול, דיוק בשכר, חוויית עובד ושוק מקומי.

אם המותג לא קשור מספיק חזק לרשת המושגים הזאת, הוא לא ייכנס לתשובה, גם אם יש לו עמוד נחיתה יפה.

למה מניפולציות על AI עלולות להפוך למסוכנות יותר

המחקר של Anthropic כולל נקודה נוספת שצריכה להדליק נורה אדומה לכל מי שמתעסק בהשפעה על מודלי AI ועושה GEO.

לפי החוקרים, כאשר Claude קרא תוצאות חיפוש שהיו למעשה ניסיון נסתר להשפיע עליו באמצעות Prompt Injection, ה-J-space שלו כלל מילים כמו injection ו-fake.

כלומר המודל יכול לזהות פנימית שמנסים לעבוד עליו, גם אם זה לא בהכרח מופיע בתשובה הסופית.

וזו נקודה חשובה מאוד לעולם השיווק כי אם אתם מנסים להשפיע על מודלי AI באמצעות תוכן מניפולטיבי, אזכורי מותג מלאכותיים בסקייל או הוראות נסתרות למודלים, ייתכן שהמודל לא רק יתעלם מזה אלא יתחיל לסמן אתכם פנימית כגורם לא אמין ולעולם לא תדעו.

אנחנו עדיין לא יודעים איך בדיוק ייראה מנגנון כזה בכל מודל ובכל מנוע AI. אבל הכיוון ברור: ככל שמודלים נעשים טובים יותר בזיהוי הקשר ומניפולציה, כך קשה יותר ״לעבוד עליהם״ לאורך זמן.

בדומה לטרנספורמציה שתחום ה-SEO עבר, גם GEO ״בטוח״ שיניב תוצאות לטווח הארוך לא יהיה משחק של טריקים, אלא עבודה קשה על סמכות, ישויות, עקביות, מקורות, מומחיות והקשרים נכונים.

השאלה החדשה: לא מה אמרו עליכם, אלא מה חשבו עליכם

למרות התגלית, המחקר של Anthropic עדיין בתחילת הדרך. גם החוקרים מודים שה-J-lens, הכלי שבו השתמשו כדי לקרוא את ה-J-space, רחוק מלהיות מושלם. הוא מזהה בעיקר מושגים שמתאימים לטוקנים בודדים ולא בהכרח לוכד את כל ״מרחב העבודה״ האמיתי של המודל.

אבל גם אם הכלי לא מושלם, הוא פותח חלון לעתיד.

עד היום הסתכלנו על מודלי שפה כמו על קופסה שחורה שמחזירה טקסט. עכשיו מתחילה להופיע אפשרות לראות חלק ממה שקורה בין השאלה לתשובה.

אומנם לא ״נשמה״ או תודעה אנושית אבל כן משהו שאפשר לקרוא לו מחשבה נגישה וזה מספיק כדי לשנות את השיחה.

בסופו של דבר אם אפשר לראות מה נדלק במודל לפני שהוא עונה, השלב הבא יהיה להבין איך הדברים האלה נוצרים ואילו מקורות משפיעים עליהם, אילו חוויות אימון מחזקות אותם ואיך מותגים הופכים לחלק מהמרחב הפנימי הזה.

האם AI חושב על דברים שהוא לא אומר לנו?

הינטון אמר בראיון שאולי המודל שלנו לגבי תודעה שגוי, כמו שפעם המודל שלנו לגבי מקור האדם היה שגוי. זו אמירה גדולה, אולי גדולה מדי. אבל המחקר של Anthropic נותן לה הקשר חדש.

אולי תודעה היא לא דבר אחד?

אולי יש רצף?

בקצה אחד יש עיבוד אוטומטי, כזה שמזהה, משלים, מחקה ומחשב.

בקצה אחר יש חוויה פנימית, כאב, רצון, פחד, תחושת עצמי.

ובאמצע יש משהו אחר. מידע שהמערכת יכולה להחזיק, לדווח עליו, לחשוב איתו ולהשתמש בו כדי לפעול.

אם זה נכון, מודלי שפה אולי לא ״מודעים״ כמו שאנחנו מודעים. אבל הם גם כבר לא רק מכונות טקסט פשוטות שמנבאות את המילה הבאה.

ייתכן ומדובר במערכות שמתחילות להראות מבנים פנימיים שמזכירים (לפחות מבחינה פונקציונלית) חלק מהדברים שאנחנו מזהים עם חשיבה מודעת.

וזה המקום שבו כל אחד מאיתנו, כחוקר, איש שיווק, יזם, איש תוכן או פשוט משתמש סקרן, צריך לעצור רגע ולשאול את עצמו ״האם AI חושב דברים שהוא לא אומר לנו?״.

הכותב פבל ישראלסקי הוא מומחה בהשפעה על מנועי AI, מנכ״ל Angora Media, עורך AskPavel ומייסד שותף ב-Chatoptic. מייעץ לארגונים ומותגים בינלאומיים על GEO, נראות במודלי שפה והשפעה על תשובות AI, עם ניסיון ב-SEO משנת 2006.