12GB 显卡跑 125B 模型:DeepSeek V1 作者开源了本地个人 Agent,数据不出本机
一、先说结论
11 月 21 日,前 DeepSeek V1 作者、DeepSeek-VL 项目负责人 Tony Zhang 公布新创业项目 Linger(出自 Simplex AI),并直接开源。
一句话结论:本地个人 Agent 的门槛,正从"要有一张几万块的卡"降到"一张 12GB 显存的消费级显卡"。对福建中小企业真正有意义的不是参数有多大,而是数据可以不出去、也不按 token 付费。
二、这次到底变了什么
Linger 的核心是一个叫 Another Me 的智能体系统,跑在个人电脑上,做的是记忆中枢加主动提醒。
几个官方披露的数字(来源:量子位报道的官方口径与 SimplexAI 评分体系):
| 项目 | 官方披露数据 |
|---|---|
| 本地可跑模型规模 | 125B 参数 Qwen3.8-Flash-Next |
| 硬件门槛 | 12GB 显存的 RTX 3060 + 64GB 内存 |
| 生成速度 | 45.5 tokens/秒 |
| 旗舰卡表现 | RTX 5090(32GB)179 tokens/秒 |
| 长期记忆基准 | LoCoMo 准确率 95%,官方称超过 Mem0、MemOS 等系统 |
| 推理引擎 | PolyStrata,把 MoE 专家模块分层放在显存、内存、SSD 之间动态调度 |
| 模型自动推荐 | 从 49 个语言模型、两种推理引擎、多种量化方案中按硬件选配 |
按 SimplexAI 的评分口径,不同本地配置对应的"等效云端模型"大致是:8GB 显卡 + 32GB 内存得 35.4 分,约等于 Gemini 2.5 Pro;Mac 24GB 统一内存得 51.9 分,约等于 Claude Opus 4.5;12GB 显卡 + 32GB 内存得 57.3 分,约等于 Claude Opus 4.6。这些是官方评分体系下的对比,不是实测跑分,选型时要留意。
另外几个机制对办公场景比较实在:
- 每晚自动整理收件箱、日历、聊天记录和会议,形成个人知识库供所有 Agent 查询
- 主动提醒带时间判断:客户邮件要求周五前报价,不是立刻打断,而是等到周三早上再提醒;会议时间变更则立即通知
- 隐式强化:你对一次提醒说"应该当时就告诉我",系统会记下线索;同类情况再次出现会自动生成规则。连续两次对某类提醒表示不用,它就保持沉默
- 接管本机浏览器与已登录应用,卡住时人可以上手接管
- 语音交互:实时转录会议,会后直接提问并跟进待办
三、福建企业真正能用在哪
- 涉密与客户数据不出内网。合同、客户清单、财务原始数据走本地模型,是很多福建制造、外贸、工程类企业上 AI 的第一道门槛。
- 没有 token 预算的重复性办公。报价初稿、合同摘要、会议纪要、周报这类活,用本地模型跑,成本直接归零。
- ERP/OA 数据落在本地,让 AI 只读本地副本做分析,避免为了一个查询把生产库开放到云端。
- 个人电脑即可承载:中小企业不一定有 GPU 服务器,运维人员自身的办公机就能当节点。
- 多 Agent 协同执行一个复杂任务,人只跟一个会话对话,这套"Super Agent"思路对企业内部流程编排有参考价值。
四、可照做的四步
- 先盘点数据出不出门。把要喂给 AI 的资料分三类:可以出内网、只能本地跑、根本不该给模型。
- 按"任务"选模型,不按"最贵"选。官方推荐了 49 个模型与多种量化组合,用本地工具做一轮对比测试,重点看中文合同、报价单、表格这三类你真会用的活。
- 把提醒规则写成偏好。与其指望 AI 猜,不如像官方演示的那样,直接告诉它"客户回复要立刻通知我""晚上 9 点后会议变更不用马上说",并让它记住。
- 先单机试点,再谈集群。一台机器验证真实任务的准确率和省下的时间,跑通了再考虑横向扩展。
五、三个坑
- 坑一:把官方评分当成自己的实测。等效模型那套分是评测体系给的,你的合同、图纸、表格是另一回事。
- 坑二:本地部署不等于零成本。模型选型、量化调优、备份、升级都是人力成本,小团队没有 IT 支撑时算总账。
- 坑三:数据不出本机就万事大吉。本地模型的知识截止和推理能力通常弱于旗舰云端模型,复杂分析任务别硬塞给本地小模型。
六、什么时候上、什么时候别上
该上:数据敏感、任务重复、量级稳定,且内部至少有一两个人能维护本地模型环境的企业。
先别上:任务本身需要复杂推理或最新知识、团队没有任何人能管环境、或者只是想"试试 AI 好不好用"的阶段——那种情况直接用云端 API 更划算。
本地模型真正替企业省下的不是钱,是数据出门的那道审批流程。
—— 福建IT网 · 行情资讯
