זיכרון של סוכן בינה מלאכותית מועיל כל עוד הוא יודע לתקן את טעויותיו

אם סוכן בינה מלאכותית זוכר עובדה שגויה, הוא עלול לחזור בביטחון על אותה טעות במפגש הבא. במחקר שפרסמה Anthropic ב-6 בנובמבר 2026 מתוארת שיטה לעיון מחדש ברשומות בין משימות: הסוכן משווה אותן ליומני העבודה הקודמת, מתקן אי-דיוקים ומשלב מידע מועיל. החברה מכנה את תהליך הרקע הזה ״חלימה״.

המסקנה המעשית למי שמתכננים סוכנים שפועלים לאורך זמן: כדאי להעריך זיכרון לא לפי מספר ההערות שנשמרו, אלא לפי יכולתה של המערכת לבדוק את מקורן, לעדכן מידע שהשתנה ולמצוא את הדרוש בארכיון גדול. הניסויים של Anthropic מראים גם את היתרונות של הגישה וגם את התנאים שבהם הזיכרון מתחיל להפריע.

מה החוקרים מכנים זיכרון של סוכן

בתיאור רכיבי הזיכרון, Anthropic מגדירה אותו כידע מאינטראקציות וממשימות קודמות, שנשמר בין מפגשים כהקשר נגיש לסוכן. זהו רובד נפרד במערכת: מדובר בהערות, בקבצים, באינדקסים ובייצוגים חיצוניים אחרים, ולא בשינוי הפרמטרים של המודל או בסיכום קצר רגיל של הדיאלוג הנוכחי.

המערכת מורכבת מכמה רבדים. יומן או תמליל מתעדים אירועים; הערות מבודדות תצפיות מסוימות; ייצוגים מקושרים, כגון wiki, אוספים מידע לפי נושאים; ואפשר לטעון מראש למפגש חדש שכבה עליונה מצומצמת. על הסוכן להחליט מה לשמור, מה לבדוק בהמשך ומה כדאי להציג מיד בהרצה הבאה.

ההחלטה האחרונה קשה במיוחד: לעיתים חשיבותו של אירוע מתבררת רק לאחר שהסוכן רואה את ההמשך. לכן Anthropic בחנה הפרדה בין העבודה במהלך מפגש לבין עיבוד ברקע. בזמן הביצוע הסוכן משאיר יומנים והערות; בהמשך, תהליך נפרד יכול לעיין בהם מחדש, להשוות בין מקורות ולעדכן את מבנה הזיכרון.

איך בדקו את המנגנון

במקום מבחן כללי אחד, החברה תיארה כמה משימות: שאלות על בסיס ידע, משחק Pokémon Red, יצירת wiki על סמך מסמכי חברה והכנת תדריך משפטי על תנאי עסקאות. המגוון הזה בודק תפקידים שונים של הזיכרון: שמירת כללים בין מפגשים, בחירת פרטים מועילים, תיקון טעות ושילוב מידע מכמה מסמכים.

במשימה אחת המבוססת על מסד נתונים, כל שאלה התחילה במפגש חדש. בין המפגשים נשמרה רק תיקיית הזיכרון, שהמודל יכול היה לעיין בה. החוקרים השוו את הביצועים עם זיכרון ובלעדיו, וגם בחנו כיצד המודלים יוצרים רשומות. Anthropic מצביעה על הבדל חשוב: הערה הכוללת כלל שנבדק והסבר למקורו עשויה לסייע בשאלה הבאה, ואילו אוסף השערות שלא נבדקו אינו יוצר מעגל למידה אמין.

בניסוי נפרד בנה סוכן wiki על סמך כ-350 אלף מסמכים פנימיים, בהיקף של כ-420 מיליון טוקנים. לאחר מכן, 128 מפגשים רצופים הרחיבו ובדקו דפים, תיקנו קישורים ואיחדו כפילויות. הבדיקה כללה 25 שאלות על הקורפוס. זו משימה ניסיונית צרה על אוסף מסמכים מוגדר, ולא הערכה אוניברסלית של זיכרון לכל סוגי הסוכנים.

מה הראו הניסויים

במשימת בסיס הידע, הזיכרון שיפר את התוצאה הממוצעת בכמה מודלים. למשל, אצל Opus 5.5 שיעור הקריטריונים שהושגו בממוצע עלה מ-0.655 ללא מאגר ל-0.838 איתו; אצל Sonnet 5.5 הוא עלה מ-0.644 ל-0.833. עם זאת, התוצאה הייתה תלויה באופן שבו המודל השתמש ברשומות: Claude Sonnet 4.6 לא קרא לעיתים קרובות את קובצי הזיכרון לפני שענה, ואילו Opus 5.5 ו-Sonnet 5.5 ניסחו טוב יותר כללים שנבדקו והשתמשו בהם בהמשך.

הניסוי ב-Pokémon הדגים את המחיר של תיעוד יתר. בהרצה אחת, Sonnet 3.7 יצרה 413 קבצים ב-225 תיקיות ותיעדה מפגשים, חפצים ודמויות רבים. חלק ניכר מהמידע הזה התיישן במהירות: המיקום ומצב המשחק השתנו, והסוכן השקיע פעולות בפענוח הרשומות ובארגון מחדש שלהן. בהשוואה נפרדת, סביב ציון הדרך של 10,000 צעדים, Fable 5 השתמשה בתשעה קבצים בשתי תיקיות ובקובץ כללי נפרד; לפי Anthropic, Fable 5 זכתה בארבעה תגים, ואילו Sonnet 3.7 זכתה באחד.

דוגמה בולטת נוגעת להערה שגויה על המיקום של Pokémon Center ליד המערה Mt. Moon. הסוכן סבר שכבר עבר את המערה וחזר שוב ושוב לאותו מסלול. תהליך הרקע השווה את ההערה ליומן הפעולות, זיהה את הטעות ושכתב אותה. לאחר מכן הסוכן חזר לכניסה והגיע ל-Cerulean City; הגרסה שבה הרשומה לא תוקנה נתקעה באותו אזור. כאן ה״חלימה״ פעלה כבדיקה של ההיסטוריה, ולא כהוספה חופשית של עובדות חדשות.

בניסוי ה-wiki הגדולה, הציון לפי הקריטריונים ב-25 שאלות עלה מ-13% ל-48% ככל שה-wiki נבנתה. בהשוואה נפרדת, wiki ללא חיפוש השיגה 48%; בשימוש משולב ב-wiki ובחיפוש, התוצאה השתנתה מ-54% ל-61%, וחיפוש ללא wiki השיג 53%. בניסוי הזה, ה-wiki שימשה בעיקר כמפת קשרים וכרובד נושאי מעל החיפוש, ולא כתחליף למסמכי המקור.

למה יותר זיכרון אינו תמיד טוב יותר

שמירת רשומה היא תחזית לגבי העתיד: הסוכן מניח שהמידע השמור יהיה שימושי שוב. התחזית עלולה להתיישן, להיות שגויה או לשכפל מידע שזמין ישירות במצב הסביבה הנוכחי. במשחק אפשר לראות על המסך היכן הדמות נמצאת, אבל אי אפשר לקבל באותו אופן אסטרטגיה שהוסקה או כלל שאומת, בלי לחשוב עליהם מחדש.

הניסוי במסמכים חשף סיכון אחר: טעויות מבניות. כמה סוכנים איחדו במקביל תנאי חוזים לדף משותף ודרסו חלקים מהטבלה. כתוצאה מכך, ה-wiki הכילה 41 מתוך 57 העובדות שנבדקו, והתדריך הראשון עמד ב-72% מהקריטריונים. לאחר שהוקצה דף נפרד לכל חוזה ותנאים חשובים הועתקו מילה במילה, התדריך השיג 100% מהקריטריונים. בניסוחים בעלי משמעות משפטית, שמירת ציטוט וקישור למסמך המקור הועילה יותר מפרפרזה כללית.

לבסוף, בניית wiki לא תמיד מצדיקה את העלות. במשימה שבה התשובות נמצאו במסמך יחיד, Anthropic לא זיהתה יתרון ברור לעומת חיפוש טקסט רגיל. במבחן אחר, ה-wiki שנוצרה הייתה גדולה מקובצי המקור. התוצאות האלה מצביעות על כלל שימוש פשוט: מבנה מורכב נחוץ כששאלות דורשות בקביעות לקשר מידע ממקורות שונים; לשאילתות חיפוש פשוטות, הוא עלול להוסיף תחזוקה בלי תועלת ברורה.

מה אפשר ליישם בתכנון סוכנים

התוצאות תומכות בארכיטקטורה מעשית בת שלושה חלקים. ראשית, שמרו יומנים ראשוניים כדי שלרשומות יהיה בסיס שאפשר לבדוק. לאחר מכן, צרו הערות תמציתיות על מסקנות, כללים ותוכניות — וציינו מאין הגיעו והאם נבדקו. לבסוף, הפעילו מדי פעם תהליך נפרד שמחפש סתירות ברשומות, מתקן קשרים ובונה מחדש את האינדקס, בלי להחליף את חומרי המקור בפרפרזה משלו.

לגבי מידע משתנה, כדאי לשמור את התאריך או את ההקשר שבו היה תקף ולבדוק את הרשומה כשמשתמשים בה שוב. לגבי ידע יציב, שמרו את המקור ואת האימות. ובכל מפגש כדאי לטעון להקשר המשותף רק אינדקס קצר: Anthropic מציינת בנפרד שהנחיות שנטענות צורכות מקום בחלון ההקשר, ושהערה שגויה שנוספת אוטומטית לכל הרצה עלולה להפיץ את הטעות שוב ושוב.

הלקח העיקרי מהמחקר הוא שזיכרון של סוכן נעשה מועיל בזכות סינון ותחזוקה, ולא בזכות צבירה. הארכיון מספק את ההיסטוריה, החיפוש מאתר קטעים דרושים, הערות מובְנות מקשרות בין כללים שחוזרים על עצמם, ובדיקה ברקע מחברת את המסקנות מחדש לראיות הראשוניות. הקשר הזה, שאפשר לבדוק, הוא שהופך את ניסיון העבר למשאב למפגש הבא.