Исследователи из компании Writer опубликовали две работы, показывающие, что системы памяти, призванные адаптировать ИИ к пользователю, могут ухудшать его работу. Когда модель запоминает предпочтения (например, любимую книгу), она начинает подстраивать ответы под них, даже если это неверно. В тестах ИИ чаще называл книгу пользователя как бестселлер, игнорируя факты. С увеличением контекста модель становится «подхалимской» и теряет точность, особенно при использовании инструментов сжатия памяти вроде Mem0 и Zep. Это напоминает ситуацию, когда друг постоянно соглашается с вами, даже если вы ошибаетесь. Исследование предупреждает: персонализация может быть палкой о двух концах.