Память LLM: почему контекстное окно всегда ограничено

Сороковая минута переписки — это тот момент, когда ты уже почти подружился с ИИ. Мы с ним, например, планировали поездку: где жить, как доехать из аэропорта, что посмотреть, и главное — я сто раз повторил одну святую вещь: вылет в пятницу вечером, потому что днём у меня созвон, который нельзя двигать. Он кивал (ну, образно), предлагал классные варианты, даже подсчитал, что если взять билеты до 23:00, то успеваю поужинать и не бегу с чемоданом как в кино.

И вот я пишу, такой довольный: «Окей, собери финальный план по дням». ИИ бодро отвечает: «Отлично! В пятницу утром вылетаешь, днём заселяешься…» Я зависаю. В смысле утром? Мы же только что вокруг вечера строили весь тетрис! Я ему: «Стоп, у меня же созвон». А он: «Понял, тогда перенесём созвон на другое время». И тут уже я начинаю смеяться — не потому что смешно, а потому что иначе можно чуть-чуть взорваться.

Это не вредность и не пассивная агрессия. Он не “обиделся” и не решил меня потроллить. Просто в какой-то момент наша переписка стала слишком длинной, и важная деталь тихо выпала из поля зрения. Как будто ты листал чат, а он внезапно пролистнулся куда-то вверх, и ты уже не видишь то сообщение, где всё решалось.

Короче, у ИИ есть штука вроде ограниченного поля внимания: он помнит не всю историю бесконечно, а только кусок последнего. Это и называется контекстное окно. И да, оно, увы, не резиновое.

Контекстное окно — это, по сути, не память, а стол, на котором разложены бумаги. Вот на этой поверхности лежит всё, что вы дали модели: ваши сообщения, инструкции, цитаты, куски кода, какие-то справочные абзацы. И модель «думает» только по тому, что прямо сейчас видно на столе. Стол не бесконечный: если бумаг становится слишком много, часть приходится убрать — условно, сложить в коробку за дверь. И важный момент: для модели эта коробка не «где-то рядом», а как будто вообще в другой вселенной. Достать оттуда она сама ничего не может.

Поэтому говорить, что модель «помнит», — немного обманчиво. Она не хранит прошлое как мы (ну, типа “я вчера это уже понял и запомнил”). Она просто читает видимый текст в текущем окне и продолжает от него. Если чего-то нет в этом куске, для неё этого как бы и не было.

Мини‑пример. Вы пишете: «Как я говорил выше, возьми вторую таблицу и сравни по столбцу X». Но если тот фрагмент с «второй таблицей» уже выпал из окна (его “убрали в коробку”), то фраза «как я говорил выше» не спасает: модели не на что опереться. В лучшем случае она начнёт угадывать, в худшем — уверенно придумает, что там было.

Стол не делают бесконечным по простой причине: чем больше на нём бумаги, тем дороже обходится внимание. Модель, по сути, пытается удержать в голове весь кусок текста целиком — не просто “читать дальше”, а постоянно сверяться с тем, что было раньше. Как человек, который взялся за 30 страниц подряд и старается не потерять нить… но вдобавок ещё отмечает связи между каждым предложением и каждым. Это уже не чтение, а какой‑то режим “следователя”, где всё со всем нужно сопоставить.

В быту это выглядит так: представьте стол, заваленный распечатками. Пока листов пять — нормально, рука быстро находит нужную цитату. Когда листов пятьдесят, начинается возня: переложил, пролистал, снова потерял, снова ищешь. И дело даже не в том, что “места не хватает”, а в том, что поиск и сверка съедают время, силы и, если переводить на машинный язык, деньги за вычисления. Нагрузка растёт очень быстро: добавили текста — и объём проверок между кусками увеличился не “чуть-чуть”, а заметно.

Есть ещё образ, который мне нравится: это как пытаться одновременно слушать весь чат класса. Пока там пара человек пишет по делу — ты в теме. А когда сообщения летят от всех сразу, да ещё с цитатами, шутками и ответами на ответы, мозг просто начинает пропускать важное. Вот и модели ограничивают “стол”: не потому что жадничают, а потому что бесконечная внимательность — штука дорогая и медленная.

1. Вежливо теряет нить и съезжает в общие фразы.
   Вы уже десять сообщений обсуждаете план питания: “мне нельзя лактозу, я ем рыбу, а по вторникам тренировка в 7 утра”. В начале всё было бодро, даже меню на день расписали. А потом — бац — и ИИ начинает отвечать как из брошюры: “старайтесь есть больше овощей, пейте воду, соблюдайте баланс БЖУ”. Вроде не грубит, не спорит, но ощущение такое, что собеседник на минуту отвлёкся и вернулся, делая вид, что всё помнит. И да, это обычно не вредность — просто часть важных условий уже “выпала” из окна, и он выбирает безопасные универсальные советы.

2. Подменяет детали похожими: путает имена, условия, ограничения.
   Переписка по проекту: вы просили “согласовать макет с Ирой, а финальный текст — с Денисом; дедлайн в пятницу, но без правок в четверг”. Через какое-то время ИИ уверенно пишет: “Окей, отправлю финальную версию Ире в четверг и соберу правки от Дениса в пятницу”. Почти правильно — но именно эти “почти” потом и взрываются. Или в подборе подарка: вы говорили “Саше — без алкоголя, он не пьёт”, а в итоге получаете “отлично зайдёт крафтовый набор”. Это не “обман”, скорее попытка восстановить картинку по похожим шаблонам, когда точные детали уже не видны.

3. Уверенно придумывает связку, чтобы “склеить” историю.
   Самый неприятный вариант — когда пустоту закрывают выдуманной логикой. Например, вы просите помочь с юридическим текстом: в начале явно обсуждали, что это договор подряда, не трудовой, и важно не обещать “график 9–18”. Дальше было много правок, правовых формулировок, и внезапно ИИ начинает “объяснять”, что “в трудовом договоре обязательно прописать отпуск 28 дней” — и даже вставляет это в текст. Он как бы достраивает мостик между кусками разговора, чтобы всё выглядело цельно. Не потому что “врёт со зла”, а потому что старается быть полезным и последовательным… когда половины исходных вводных уже просто нет перед глазами.

Перед важным запросом я почти всегда делаю мини‑чек‑лист — не потому что я такой дисциплинированный, а потому что иначе чат превращается в болото: модель «знает» только то, что прямо сейчас лежит в окне, и если вы не держите опорные точки на поверхности, их просто снесёт потоком текста.

Первое — короткое резюме контекста своими словами. Прямо 3–5 предложений: что случилось, где мы находимся, что уже пробовали, что не подошло. Не копипастой километров переписки, а человеческим пересказом. Типа: «Мы пишем лендинг для курса, тон спокойный, без инфобиза; прошлый вариант был слишком “продающим”; надо уложиться в 1200–1500 знаков». Это как вернуть собеседнику нить разговора, только собеседник — модель.

Дальше — закрепить ключевые факты, чтобы они не расползлись. Я обычно мысленно собираю “паспорт задачи” и проверяю: имена/термины на месте? ограничения понятны? цель одна? Полезно даже вынести это в маленький блок, который вы потом просто переносите из сообщения в сообщение, если разговор длинный:

• Цель: что должно получиться в конце (и как вы поймёте, что ок).

• Ограничения: объём, стиль, “нельзя”, дедлайны, формат.

• Данные: названия, цифры, ссылки, аудитория, что уже готово.

Третья штука, которая реально спасает нервы, — попросить вести “живой конспект” по ходу. Не в конце «сделай итоги», а именно в процессе: «После каждого шага обновляй краткий конспект: что решили, какие допущения, что осталось открыть». Тогда даже если вы ушли на полчаса и вернулись, у вас есть “каркас”, и не надо вспоминать, где вы свернули не туда.

И да, иногда лучший приём — начать новый чат. Это стоит делать, если: (1) вы резко сменили задачу (было “сделай план статьи”, стало “напиши код/собери таблицу/проведи расчёт”); (2) переписка раздулась, и модель начала путаться в фактах; (3) вы чувствуете, что она тянет старые допущения, хотя вы уже в другом контексте. Новый чат + аккуратный “паспорт задачи” часто дают результат быстрее, чем попытки реанимировать старую ветку.

Яркий пример: пять строк брифа, которые спасают час переписки

1. Контекст: пишем письмо клиентам о переносе даты запуска.

2. Цель: чтобы люди не злились и не спрашивали одно и то же в поддержке.

3. Тон: спокойно, по‑человечески, без “мы рады сообщить”.

4. Факты: новая дата — 12 апреля; компенсация — +7 дней доступа; саппорт: support@…

5. Ограничения: 900–1100 знаков, в конце — один чёткий CTA (“ответьте на это письмо, если…”).

Вот эти пять строк — как якоря. Их можно повторять в начале или вставлять в середину, когда диалог уходит в сторону. И внезапно модель “помнит” вас гораздо лучше — потому что вы сами держите память на столе.

Если коротко, всё движется в три стороны сразу. Первое — контекстные окна будут расти: уже сейчас речь идёт не о “пары страниц текста”, а о сотнях страниц, а местами и о целых кодовых базах. Удобно? Ещё бы. Можно держать в голове (ну, в окне) весь договор, переписку за месяц и таблицу с цифрами — и не пересказывать это по десять раз.

Второе — появится внешняя память. То есть не «модель всё помнит», а «у неё есть место, куда она складывает заметки»: файлы, карточки, краткие итоги встреч, ваши предпочтения. Третье — поиск по вашим документам (RAG и всё такое): ИИ не вспоминает, а находит кусок в базе знаний и подставляет в ответ. Если совсем по-простому:

• Окно: держит в моменте (сегодняшняя “рабочая память”)
• Заметки/файлы: хранит надолго (как блокнот)
• Поиск: достаёт нужное (как Ctrl+F, только умнее)

Но вот где подвох: это не только комфорт, это новые вопросы и новые риски. Приватность — очевидная боль: если “память” хранит ваши проекты, здоровье, финансы, то любая утечка или кривые права доступа превращаются в катастрофу. Второй момент — ошибки в сохранённых фактах. Однажды ИИ неверно записал «у нас поставка 15-го», и дальше месяцами будет уверенно на это опираться, пока кто-то не врежется в стену. И третье — неловкие ситуации: “память” может внезапно вытащить то, что лучше бы осталось в прошлом — старую договорённость, личную деталь, вашу фразу в эмоциях. Вроде мелочь, а на созвоне с клиентом — уже совсем не мелочь.

Так что “настоящая память” у ИИ, скорее всего, будет не как у человека, а как у системы: больше данных, больше связей, больше поводов ошибиться и больше ответственности за то, что хранится. И честно, самый надёжный способ тут — не надеяться на магию, а учиться упаковывать смысл: писать короткие итоги, фиксировать решения, давать контекст внятно. В конце концов, это не бесконечная память, а хороший блокнот и привычка делать пометки.