AI 前沿 · 每日整理
Memorilla：16 个 token 记住整部对话——先说清，这是预印本论文不是斯坦福官宣
先说清身份：这不是斯坦福大学的官方发布，而是一篇挂在 arXiv 上的论文，编号 arXiv:2610.21375，10 月 15 日首发、11 月 3 日更新到第 3 版，作者是斯坦福的阿迪布瓦法·法拉普尔等 7 人，11 月 5 日作者本人在 X 上发帖介绍后才被媒体报道。论文提出一个叫 Memorilla 的记忆模块：把用户和 AI 的全部对话历史压缩成 16 个“记忆 token”，再喂给一个参数被冻结、不再训练的大模型去回答问题。据作者自己的测试，在 PersonaMem-v2 这项考“记不记得用户说过什么”的基准上拿了 44.6%，高于次优方法的 30.9%。
原文摘录
Memorilla is a memory system for language models, built at Stanford with researchers from Toronto, Penn and MIT. It reads an entire collection of documents (months of chats with an assistant, say) and boils it down to just 16 vectors that sit next to the question fed to an already trained LLM.（大意：Memorilla 是斯坦福与多伦多、宾大、MIT 的研究者合作做的语言模型记忆系统：它读完整部文档集合（比如好几个月的对话），只浓缩成 16 个向量，放在问题旁边喂给已经训练好的大模型。）
值得肯定
思路很抓人：不管对话多长，最后只留 16 个 token，推理成本一下就降下来了；作者自己也承认了取舍，这种“学出来的记忆”擅长把散在各处的事实连起来，但容易丢掉人名这类必须一字不差的细节，而检索恰好擅长保住原文，所以未来更可能是两者混用
需要注意
所有数字都是作者自己测的，还没有独立团队复现过，效果能不能从实验用的 Qwen 模型推广到别的模型也还没验证；很多媒体写成了“斯坦福发布”，其实只是预印本加作者一条推文，别被标题骗了