tencent/Hy-Memory-30B-A3B · Hugging Face

Reddit r/LocalLLaMA 模型

摘要

腾讯混元发布 Hy-Memory-30B-A3B,一个约 3B 激活参数的紧凑型长期记忆写入模型,可替换 Mem0、MemOS 和 Hy-Memory 等外部记忆框架中的通用大语言模型,采用记忆在线蒸馏(OPD)与归因记忆强化学习两阶段训练,在四个记忆框架的交叉评测中平均得分超越 Claude Opus 5。

暂无内容
查看原文
查看缓存全文

缓存时间: 2026/10/16 11:47

tencent/Hy-Memory-30B-A3B · Hugging Face

来源:https://huggingface.co/tencent/Hy-Memory-30B-A3B

https://huggingface.co/tencent/Hy-Memory-30B-A3B#model-introduction模型介绍

Hy-Memory-30B-A3B是腾讯混元开发的一款紧凑型长期记忆写入模型(约 3B 活跃参数),用于执行外部记忆框架中的写入流程。它直接替代Mem0、MemOS和Hy-Memory(涵盖聊天、工作和编程场景)中的通用大语言模型,决定保留哪些信息、如何精确表示这些信息,以及如何根据新证据更新持久化记忆库。该模型采用两阶段训练——先进行记忆在策略蒸馏(OPD),再进行归因式记忆强化学习——并可直接迁移到训练中未见过的记忆框架,例如EverMemOS。

跨框架宏平均分数

固定 20% 基准测试矩阵上的跨框架宏平均分数。每个框架的分数为六项指标的等权平均值;总体分数为四个框架分数的等权平均值。EverMemOS 未参与训练。


https://huggingface.co/tencent/Hy-Memory-30B-A3B#two-stage-training两阶段训练

两阶段训练过程

图 1:Hy-Memory-30B-A3B 在两个阶段均使用相同的已部署框架配置进行训练。OPD 针对学生模型写入的状态链提供密集的教师监督;RL 检查生成的记忆库,进行数据块级贡献归因,并将选定的记忆库传递到后续窗口。在 rollout 网格中,每个单元格表示第 i 次 rollout 处理完第 t 个数据块后的记忆库,颜色深浅由该数据块的分数 s_i[t] 决定。优势值在每列内部归一化(虚线表示一个数据块级分组),因此不同数据块对应的最佳 rollout 可能不同。带边框的单元格是 sum_t s_i[t] 最高的最终记忆库,它将成为下一个窗口的父记忆库。


https://huggingface.co/tencent/Hy-Memory-30B-A3B#experiments实验

https://huggingface.co/tencent/Hy-Memory-30B-A3B#evaluation-principles评估原则

评估仅更换记忆写入模型。每次比较均固定框架版本和提示词、检索配置,以及回答模型、评判模型和框架侧的其他组件。本报告中所有提及的 DeepSeek Flash 端点均指DeepSeek V4.1 Flash。在 API 允许的情况下,解码设置保持一致;每个写入模型均从空状态构建自己的记忆库,测试样例和评分规则完全相同。

为提高计算效率,主要四框架矩阵中的所有基准测试均使用固定的 20% 子样本进行评估。每个框架的分数为六项指标的等权平均值:LoCoMo Judge、LongMemEval(LME)、PersonaMem-v2(PM-v2)、Travel SPS、Shopping PS和Code Memory Bench(CMB)。CMB 本身是两项代码仓库问答评估的等权平均值。总体分数为四个框架分数的等权平均值。

https://huggingface.co/tencent/Hy-Memory-30B-A3B#final-cross-harness-results最终跨框架结果

记忆写入模型Mem0Hy-Mem.MemOSEverMem.平均值Hy-Memory-30B-A3B54.0260.5550.5156.89****55.49Claude Opus 553.4360.5350.5054.0454.62DeepSeek V4.1 Flash49.7360.2049.1755.4753.64Hy345.9958.0650.1952.3051.63Qwen3.6-35B-A3B47.5155.8747.3650.7550.37Hy3-A3B Base40.2050.3949.0550.9847.66Qwen3-30B-A3B39.8145.6745.4446.5744.37 表 1:固定 20% 基准测试子样本上的六项指标均值。宏平均值对四个框架赋予相同权重。

https://huggingface.co/tencent/Hy-Memory-30B-A3B#detailed-benchmark-results详细基准测试结果

表 2–5 报告了在相同的固定 20% 基准测试子样本上,用于计算表 1 中各框架均值的六项基准测试分数。

https://huggingface.co/tencent/Hy-Memory-30B-A3B#table-2-detailed-results-on-the-mem0-harness表 2:Mem0 框架上的详细结果

写入模型LoCoMoLMEPM-v2旅行购物CMB平均值Hy-Memory-30B-A3B59.5473.0051.6254.5118.3367.1354.02Claude Opus 569.4766.0053.5842.9817.7870.7453.43DeepSeek V4.1 Flash58.7869.3949.5635.0716.6768.9249.73Hy341.2262.0044.4446.8717.2264.1645.99Qwen3.6-35B-A3B50.0069.0049.3836.3920.0060.3047.51Hy3-A3B Base50.0047.0040.8237.9114.4451.0340.20Qwen3-30B-A3B46.1856.0042.3231.9816.6745.6839.81

https://huggingface.co/tencent/Hy-Memory-30B-A3B#table-3-detailed-results-on-the-hy-memory-harness表 3:Hy-Memory 框架上的详细结果

写入模型LoCoMoLMEPM-v2旅行购物CMB平均值Hy-Memory-30B-A3B73.2889.0051.5457.6521.1170.7360.55Claude Opus 574.43****89.6948.7151.3423.3375.7060.53DeepSeek V4.1 Flash72.9085.8649.0053.4622.7877.1860.20Hy369.4789.0052.7649.0121.6766.4458.06Qwen3.6-35B-A3B70.9984.8543.5649.8220.0065.9855.87Hy3-A3B Base66.4187.0049.8431.3617.7849.9750.39Qwen3-30B-A3B64.1282.0041.0632.8318.8935.1045.67

https://huggingface.co/tencent/Hy-Memory-30B-A3B#table-4-detailed-results-on-the-memos-harness表 4:MemOS 框架上的详细结果

写入模型LoCoMoLMEPM-v2旅行购物CMB平均值Hy-Memory-30B-A3B62.9873.0051.9224.1521.1169.9150.51Claude Opus 563.7479.3852.8422.1419.4465.4650.50DeepSeek V4.1 Flash61.0773.0050.6818.6121.67****69.9749.17Hy362.9881.0049.6418.8718.8969.7850.19Qwen3.6-35B-A3B55.3479.0051.3420.0815.5662.8247.36Hy3-A3B Base58.4073.0050.8626.0521.1164.8849.05Qwen3-30B-A3B59.1673.0048.2823.0316.6752.4945.44

https://huggingface.co/tencent/Hy-Memory-30B-A3B#table-5-detailed-results-on-the-held-out-evermemos-harness表 5:未参与训练的 EverMemOS 框架上的详细结果

写入模型LoCoMoLMEPM-v2旅行购物CMB平均值Hy-Memory-30B-A3B****73.2876.0053.2856.5619.0563.19****56.89Claude Opus 573.2880.4151.1945.9123.8949.5354.04DeepSeek V4.1 Flash72.5282.8349.7459.4718.8949.3855.47Hy368.7083.0048.6846.5219.4447.4452.30Qwen3.6-35B-A3B69.0879.0050.6043.5318.7743.5250.75Hy3-A3B Base64.5081.0052.1441.7420.5645.9350.98Qwen3-30B-A3B67.9460.0047.1044.8018.3341.2746.57


https://huggingface.co/tencent/Hy-Memory-30B-A3B#quickstart快速入门

使用 vLLM(已在 v0.31.0 上测试)部署模型,并设置\-\-served\-model\-name hy\-memory,然后调用兼容 OpenAI 的 API。下面的示例在启用不思考模式的情况下提取用户事实和偏好。

`` from openai import OpenAI

client = OpenAI( base_url=“http://127.0.0.1:8000/v1”, api_key=“EMPTY”, )

response = client.chat.completions.create( model=“hy-memory”, messages=[ { “role”: “system”, “content”: ( “从对话中提取明确的用户事实和偏好。” “将每条记忆写成简洁、独立完整的陈述。” “不要推断或编造信息。” ‘仅返回一个 JSON 对象,其中包含一个由字符串组成的 “memories” 列表。’ ), }, { “role”: “user”, “content”: ( “我叫 Alex。我住在西雅图,是一名软件工程师。” “我主要使用 Python,喜欢附带代码示例的简洁回答。” “我是素食者,因此推荐餐食时请考虑这一点。” ), }, ], temperature=0.0, max_tokens=512, extra_body={ “chat_template_kwargs”: { “reasoning_effort”: “no_think”, }, }, ) ``


https://huggingface.co/tencent/Hy-Memory-30B-A3B#resource-availability资源获取

  • **框架代码与评估工具:**https://github.com/Tencent-Hunyuan/Hy-Memory
  • **模型权重、配置和模型卡:**https://huggingface.co/tencent/Hy-Memory-30B-A3B
  • **技术报告:**https://arxiv.org/pdf/2610.22196

相似文章