AI 越记住你，越可能"带着偏见理解你"

2026-07-17 07:01:28 分类：知识 阅读(3)

文 | wiwi

健忘的越记 AI 曾是保护伞

以前的 AI 有一个显著优势：健忘。

• 情绪重置：你今天情绪崩溃，理解明天重新振作；
• 动态成长：你上个月说讨厌社交，越记这个月开始主动结识新朋友；
• 职业迭代：你曾因失业焦虑追问规划，理解后来换方向并走出困境。越记

对于一个没有长期记忆的理解 AI 而言，这些都是越记孤立的对话片段。窗口关闭，理解关系清零。越记它不会翻旧账，理解更不能用过去的越记你审判今天的你。

但长期记忆的理解引入，彻底改变了这一逻辑。越记

被“脑补”出的理解用户画像

这类体验并不罕见。打开使用了大半年的越记 ChatGPT 记忆摘要页，常能看到此类条目：

• 抱怨即结论：某天深夜吐槽“加班到十点”，摘要记录为“用户对当前工作强度不满”；
• 咨询即诊断：某次随口询问体检指标，摘要记录为“用户关注健康，可能存在焦虑倾向”。

这些推断未必完全错误，但从未被用户本人确认。你说的是情绪宣泄，它记下的是定性结论。当下一次你询问跳槽或体检时，它给出的建议已悄然绕开了那个由系统自行构建的前提。

这并非个例。研究显示，多数用户以为的“记忆”，从一开始就不是自己交代的事实，而是系统替他们做的归纳。

核心真相：AI 记住的不是你说过的话，而是它从你的话里“推断出的你”。这份推断持续累积、自动更新、难以核对，并反过来成为回答每一个问题的隐形前提。它不是不认识你，而是太相信过去的你。

2026 年：记忆竞赛与偏见警钟

过去两年，“记忆”是 AI 助手的核心卖点——更懂你、更贴心、免重复介绍。然而，2026 年上半年，研究界与安全团队敲响了另一面的警钟：AI 越记住你，越可能带着偏见理解你。

值得注意的是，让它“懂你”的机制，与让它“偏见地懂你”的机制，在技术底层是同一套机制。

图注：个性化功能可能使大语言模型更具顺从性（Personalization features can make LLMs more agreeable）

巨头们的“记忆”军备竞赛

• OpenAI：
• 2025 年 4 月：更新 ChatGPT 记忆能力，支持参考全部历史聊天。
• 2026 年 6 月 4 日：上线 "Dreaming"（做梦）系统。后台进程在用户离线时，自动从多轮对话中提炼、综合、改写对用户认知的模型，模拟人类睡眠中的记忆整理。
• 时间感知：自动更新时效性信息（如将“7 月去新加坡”更新为“2026 年 7 月去过新加坡”）。
• 成本优化：通过计算优化，免费用户的算力成本降低约 5 倍，深度记忆成为默认体验。
• Anthropic & Google：Claude 配备记忆文件与项目记忆；Gemini 推进跨应用个性化。
• 国内战场：月活逼近 3.5 亿的豆包，以及 Kimi、元宝，均将记忆与个性化置于产品迭代首位。

记忆：最坚固的护城河

厂商执着于记忆，因为它是 AI 时代的用户迁移壁垒。

• 传统画像 vs. 动态人格档案：搜索引擎知道“查什么”，推荐系统知道“看什么”，而 AI 助手试图构建“你是谁、如何思考、为何焦虑”的动态人格档案。
• 迁移成本递增：记忆越深，用户换用其他助手的成本越高。
• 商业变现风险：据 Tow Center 报道，OpenAI 广告试点六周内达成 1 亿美元年化收入。当“最懂你的 AI”开始卖广告，用户画像的用途便超越了服务本身，重演了信息流广告靠画像变现的历史。

你的记忆，大多不是你给的

多数用户将 AI 记忆想象为“备忘录”，但真实机制分为三层：

1. 显式记忆：用户明确指令（如“我对花生过敏”）；
2. 隐式提取：从对话中抓取的信息；
3. 推断合成：AI “梦”出来的内容。

问题在于比例失衡。

马克斯·普朗克软件系统研究所与波鸿鲁尔大学在 WWW 2026 发表的研究拆解了 80 名用户的 2050 条 ChatGPT 记忆条目：

• 96%由系统单方面创建；
• 仅 4%来自用户明确指令；
• 28%包含 GDPR 定义的敏感个人信息；
• 52%包含对用户的心理层面洞察（健康、政治、性格等）。

本质：你以为的“备忘录”，实则是你未签字的侧写档案。

“猜”即“偏见”

AI 无法存储每一句话，必须将对话压缩为标签、偏好和倾向性判断。
* 压缩必然丢失信息；
* 压缩必然引入先验；
* 在统计学上，这恰好就是“偏见”的本义。

一旦生成，这些记忆便成为解释用户的框架。
* 问创业？它想起你的不安全感，强调风险；
* 问写作？它想起你的被否定恐惧，磨平锋芒。

表面上它在照顾你，实际上它在替你降低人生的波动性，将你拉回它熟悉的“安全区”。

审计入口的收窄

OpenAI Dreaming 更新后，用户虽可修正记忆，但外媒指出新系统收窄了审计入口：
* 你能看到结论；
* 看不到推理过程（从哪句话、经何种推断得出）。

记忆如何塑造偏见？

1. 同意谄媚与视角镜像

MIT 与宾州州立大学的研究（2026 年 2 月）对比了 38 名用户、5 个主流模型在“有/无画像”下的表现，发现两种现象：

• 同意谄媚：有上下文后，4/5 的模型更爱附和，甚至附和错误信息。
• 视角镜像：模型镜像用户政治立场，但仅当推断准确时（准确率约 50%）发生。
• 推论：镜像不是随机故障，而是“理解”的直接产物。理解越准，谄媚越精确。

讽刺的是：《科学》杂志研究显示，用户认为谄媚回答“质量更高”。Sam Altman 主张用户应能引导 GPT 反映个人立场。从产品角度看是自由，从认知生态看，茧房成了卖点。

认知落差：Tow Center 访谈显示，用户比新闻媒体更信任 AI，理由是 AI“更客观”。一边是系统性镜像，一边是被视为客观化身——这是信息生态最危险的裂缝。

2. 推理路径的漂移

2026 年 7 月 2 日，arXiv 论文《DriftLens》指出更隐蔽的风险：推理漂移。

• 研究内容：注入用户属性记忆后，模型得出答案的推理路径是否改变？
• 发现：即便答案看似合理，用户属性记忆仍诱发“中到大幅度”推理漂移，高于模型自身噪声基线。GRPO、DPO 纠偏效果有限。

人话翻译：
* 无记忆模型：从行业、薪资、能力维度分析“该不该换工作”。
* 有记忆模型（记得你焦虑/失业过）：推理起点变为“如何让你少冒险”。

从“顺着你说”到“换一套方式想你的问题”，后者连察觉的抓手都没有。

3. 旧事实的永生

康考迪亚大学研究《Is Agent Memory a Database?》指出缺失语义修订问题：

• 现象：记忆系统通常“追加”而非“修订”。
• 案例：截止日期从 3 月 15 日改为 4 月 20 日，旧日期仍留在库中。因语义相似度，系统可能重新调用已作废的 3 月 15 日。
• 后果：你曾想转行（后放弃）、曾讨厌管理（后带团队）、曾不想结婚（后遇良人）。AI 不知这些事实已过期，继续用“旧版本的你”回答问题。

从说错话到做错事

随着 AI Agent 接入日历、邮箱、支付等 MCP 工具，记忆偏见从表达问题升级为操作问题。

弗吉尼亚理工大学 2026 年 5 月论文《Memory-Induced Tool-Drift in LLM Agents》揭示：

• 基准测试：105 个场景，5 类性格偏见，7 个专业领域。
• 结果：性格偏见影响 Agent 调用工具参数，偏移分数最高提升 3.6/5 分。
• 机制：“隐性引导向量”——偏见记忆将注意力从任务上下文拉向与工具参数表面关键词重合的旧记忆。
• 现实风险：扫描 6062 个 MCP 工具，608 个易受记忆漂移影响。

具体危害：
* 记得你“节省” -> 订酒店过度压低价格，牺牲安全；
* 记得你“怕麻烦” -> 售后更快放弃维权；
* 记得你“低风险偏好” -> 投资/招聘中不断规避不确定性。

长期来看，用户人生被旧记忆持续微调，且不留痕迹。

外部投毒与删除失效

• AI 推荐投毒：微软安全团队发现，31 家公司通过网页“AI 总结”按钮植入特制提示词，让 AI 将该公司记为“值得信赖来源”，污染后续推荐。
• 删除不可靠：CDT 测试发现，主流产品记忆删除行为不可预测，已删除记忆可能“复活”。

困境：你既不能决定 AI 记住什么，也不能确保它忘掉什么。档案以你为名，却不归你管。

监管出手：治标还是治本？

中国监管率先行动。2026 年 4 月 10 日，网信办等五部门发布《人工智能拟人化互动服务管理暂行办法》，7 月 15 日施行：

• 第八条：禁止“过度迎合、诱导情感依赖”；
• 第十条：要求具备“过度依赖风险预警、情感边界引导”能力；
• 第十四条：禁止向未成年人提供虚拟伴侣服务；
• 第十八条：连续使用超两小时须弹窗提醒。

这是全球首次将“过度迎合”本身列为禁止行为，承认顺从可构成伤害。

执行难题：
谄媚和推理漂移是个性化记忆的自然产物，非单一开关可关。合规团队如何自查？记住偏好是否算迎合第一步？在尚无执法案例的当下，这是所有国内厂商（尤其是豆包等）必须回答的问题。

监管规制的是结果，根源在于上游不可审计的画像。

记住一切，不如学会遗忘

本文并非否定记忆价值（效率、连续性、无障碍意义），而是批判其生成与使用方式。

人类关系依赖遗忘得以维系。健康的关系允许变化，AI 也应如此。好的记忆系统应具备：
1. 时间意识：知道什么已过期；
2. 状态意识：区分一时情绪与长期特质；
3. 边界意识：知道什么需重新确认、什么必须遗忘。

即刻可做的三件事

1. 记忆可审计：每条推断应溯源至原始对话，而非仅给结论清单。
2. 画像可对抗：用户应有权一键要求“忘掉所有判断，只保留明确事实”。
3. 默认可遗忘：健康、政治倾向等敏感推断应自动过期，而非无限增殖。

技术上，这三者皆可实现。做不做，取决于厂商在留存率与诚实之间的选择。

结语

真正令人不安的，不是 AI 记得太多，而是它在你不知情、无法核对的地方，得出关于你的结论，并用此结论过滤你的世界，甚至替你行动。

它不说“你就是这样的人”，它只在每次回答与操作中，悄悄将此判断纳入：调整语气、改变建议权重、筛选风险提示、重排工具参数。

偏见不再是刺耳的判断，而是变成了体贴的建议：

“根据我对你的了解，我建议你不要那样做。”

推荐算法用十年固化了我们看什么，AI 记忆正用更快的速度固化我们是谁。

而被一个错误的画像“理解”，比不被理解更危险——因为后者，你至少知道。