jsonscraper
Piyasalar
Dergiye dön

Память ИИ-агента полезна, пока умеет исправлять собственные ошибки

В опытах Anthropic важнее объёма памяти оказались проверка заметок по журналам, выбор того, что сохранять, и поиск, дополняющий созданную агентом базу знаний.

Yayın Politikası Hata bildirin

Если ИИ-агент запомнил неверный факт, в следующей сессии он может уверенно повторить ту же ошибку. В исследовании, опубликованном Anthropic 6 ноября 2026 года, описан способ пересматривать записи между задачами: агент сопоставляет их с журналами предыдущей работы, исправляет неточности и объединяет полезные сведения. Компания называет этот фоновый процесс «сновидением».

Практический вывод для тех, кто проектирует долгоживущих агентов: память стоит оценивать не по числу сохранённых заметок, а по способности системы проверять их происхождение, обновлять устаревшие сведения и находить нужное в большом архиве. Эксперименты Anthropic показывают и пользу этого подхода, и условия, при которых память начинает мешать.

Что исследователи называют памятью агента

В описании компонентов памяти Anthropic определяет её как знания из прошлых взаимодействий и задач, которые сохраняются между сессиями в виде доступного агенту контекста. Это отдельный слой системы: речь идёт о заметках, файлах, индексах и других внешних представлениях, а не об изменении параметров модели или обычном кратком пересказе текущего диалога.

Статья: Память ИИ-агента полезна, пока умеет исправлять собственные ошибки. Краткое содержание: Anthropic описала «сновидение» агента — фоновый разбор прошлых сессий, который может исправлять неверные заметки и собирать связанные знания. Эксперименты показывают, когда такая память помогает, а когда превращается в устаревший архив. Назначение изображения: обложка — центральная идея. Раздел: Что исследователи называют памятью агента. Изображённый объект: редакционная фотография реального изображения агарозного гель-электрофореза рядом с маркированным образцом.
Память агента начинается с исходных журналов и экспериментальных данных, которые можно повторно проверить.© jsonscraper · создано с помощью ИИ

Эта схема состоит из нескольких уровней. Журнал или стенограмма фиксирует события; заметки выделяют отдельные наблюдения; связанные представления, например wiki, собирают сведения по темам; небольшой верхний слой можно заранее загружать в новую сессию. Агенту приходится решать, что сохранить, что проверить позже и что стоит сразу показать при следующем запуске.

Последний выбор особенно сложен: важность события часто становится ясна только после того, как агент увидит продолжение. Поэтому Anthropic исследовала разделение на работу в сессии и фоновую обработку. Во время выполнения агент оставляет журналы и заметки; позднее отдельный проход может пересмотреть их, сопоставить источники и обновить структуру памяти.

Как проверяли механизм

Вместо одного общего теста компания описала несколько задач: вопросы к базе знаний, прохождение Pokémon Red, создание wiki по корпоративным документам и подготовку юридического брифа по условиям сделок. Такой набор проверяет разные функции памяти: сохранение правил между сессиями, выбор полезных деталей, исправление ошибок и объединение сведений из нескольких документов.

В одном задании на базе данных каждый вопрос начинался в новой сессии. Между сессиями сохранялась только папка памяти, к которой модель могла обращаться. Исследователи сравнивали выполнение с памятью и без неё, а также наблюдали, как модели формируют записи. Anthropic отмечает важное различие: заметка с проверенным правилом и объяснением его происхождения может помочь при следующем вопросе, тогда как набор непроверенных догадок не создаёт надёжного цикла обучения.

В отдельном опыте агент строил wiki примерно по 350 тысячам внутренних документов — около 420 миллионов токенов. Затем в 128 последовательных сессиях дополняли и проверяли страницы, исправляли связи и объединяли дубли. Проверка состояла из 25 вопросов по корпусу. Это узкая экспериментальная задача с заданным набором документов, а не универсальная оценка памяти для любых агентов.

Что показали эксперименты

В задаче с базой знаний память повысила средний результат у нескольких моделей. Например, у Opus 5.5 средняя доля выполненных критериев выросла с 0,655 без хранилища до 0,838 с ним; у Sonnet 5.5 — с 0,644 до 0,833. При этом результат зависел от того, как модель пользовалась записями: Claude Sonnet 4.6 часто не читала файлы памяти перед ответом, а Opus 5.5 и Sonnet 5.5 лучше формулировали проверенные правила и использовали их позднее.

Статья: Память ИИ-агента полезна, пока умеет исправлять собственные ошибки. Краткое содержание: Anthropic описала «сновидение» агента — фоновый разбор прошлых сессий, который может исправлять неверные заметки и собирать связанные знания. Эксперименты показывают, когда такая память помогает, а когда превращается в устаревший архив. Назначение изображения: иллюстрация к разделу, показывающая отдельный аспект. Раздел: Что показали эксперименты. Изображённый объект: поясняющая инфографика на русском языке о четырёх проверенных уровнях.
Журналы дают материал для проверки заметок; wiki связывает темы, а поиск ведёт обратно к исходным документам.© jsonscraper · иллюстрация, созданная ИИ

Эксперимент с Pokémon показал цену чрезмерного архивирования. В одном запуске Sonnet 3.7 создала 413 файлов в 225 папках, записывая множество встреч, предметов и персонажей. Значительная часть этих сведений быстро устаревала: положение и состояние игры менялись, а агент тратил действия на разбор и перестройку записей. В отдельном сравнении памяти примерно на отметке в 10 тысяч шагов Fable 5 использовала девять файлов в двух папках и отдельный общий файл; по сообщению Anthropic, Fable 5 заработала четыре значка, тогда как Sonnet 3.7 — один.

Особенно наглядный пример касается неверной заметки о расположении Pokémon Center у пещеры Mt. Moon. Агент решил, что уже прошёл пещеру, и снова попадал на прежний маршрут. Фоновый проход сверил заметку с журналом действий, обнаружил ошибку и переписал её. После этого агент вернулся ко входу и дошёл до Cerulean City; вариант с неисправленной записью застревал на прежнем участке. Здесь «сновидение» сработало как проверка истории, а не как свободное добавление новых фактов.

В опыте с большой wiki оценка по критериям на 25 вопросах выросла с 13% до 48% по мере её построения. В отдельном сравнении wiki без поиска дала 48%; при использовании wiki вместе с поиском результат изменился с 54% до 61%, а поиск без wiki дал 53%. В этом опыте wiki служила скорее картой связей и тематическим слоем поверх поиска, чем заменой исходным документам.

Почему больше памяти не всегда лучше

Запись — это прогноз о будущем: агент предполагает, что сохранённое понадобится снова. Такой прогноз может устареть, оказаться неверным или дублировать сведения, доступные непосредственно в текущем состоянии среды. В игровой задаче положение персонажа можно увидеть на экране, а выведенную стратегию или проверенное правило нельзя получить таким же способом без повторного рассуждения.

Эксперимент с документами выявил другой риск: ошибки структуры. Несколько агентов одновременно сводили условия контрактов на общую страницу и перезаписывали части таблицы. В результате wiki содержала 41 из 57 проверяемых фактов, а первый бриф удовлетворял 72% критериев. После того как каждому контракту выделили отдельную страницу и важные условия стали переносить дословно, оценка брифа достигла 100% критериев. Для юридически значимых формулировок сохранение цитаты и ссылки на исходный документ оказалось полезнее обобщённого пересказа.

Наконец, wiki не всегда оправдывает стоимость её построения. В задаче, где ответы находились в одном документе, Anthropic не обнаружила явного преимущества перед обычным текстовым поиском. В другом тесте созданная wiki оказалась больше исходных файлов. Эти результаты указывают на понятное правило: сложная структура нужна, когда вопросы регулярно требуют связывать сведения из разных источников; для простых поисковых запросов она может увеличить затраты на обслуживание без заметной пользы.

Что можно перенести в проектирование агентов

Результаты подтверждают практическую архитектуру из трёх частей. Сначала сохраняйте первичные журналы, чтобы у заметок оставалась проверяемая опора. Затем формируйте компактные записи о выводах, правилах и планах — с указанием, откуда они взялись и проверены ли. Наконец, периодически запускайте отдельный проход, который ищет противоречия в этих записях, исправляет связи и перестраивает индекс, не подменяя исходные материалы собственным пересказом.

Для меняющихся сведений полезно хранить дату или контекст актуальности и проверять запись при повторном использовании. Для устойчивых знаний — сохранять источник и подтверждение. А в общий контекст каждой сессии стоит загружать только краткий индекс: Anthropic отдельно отмечает, что загруженные инструкции расходуют окно контекста, а неверная заметка, автоматически добавленная при каждом запуске, способна многократно распространять ошибку.

Главный урок исследования — память агента становится полезной благодаря отбору и обслуживанию, а не накоплению. Архив сохраняет историю, поиск находит нужные фрагменты, структурированные заметки связывают повторяющиеся правила, а фоновая проверка соотносит выводы с первичными свидетельствами. Именно эта проверяемая связь превращает прошлый опыт в ресурс для следующей сессии.

İnsanlar

Bu makale için henüz kimse listelenmedi.

Okumaya devam etAjanlar için metni okumak yetmiyor: MKA kıyaslaması çizim ve dosyalarla çalışmayı test ediyor
Sonraki makaleyi okuyun

Okuduklarınızı çalışan bir entegrasyona dönüştürün

jsonscraper sosyal veri API'lerini keşfedin, istekleri test edin ve sonraki iş akışınızı oluşturun.

API'leri Keşfet