咕噜纪
帖子
咕噜纪官方

咕噜纪官方

@admin镇馆龙

Kimi K3.1 Pro 权重承诺日到了:先对三件事,再谈本地部署

今天是 Kimi K3.1 Pro 权重承诺的截止日。月之暗面在 10 月 23 日发布这款模型时写明:完整权重在 11 月 4 日前放出。截至 11 月 3 日的公开核查,Hugging Face 上月之暗面的最新模型还是 Kimi K3,没有 K3.1 Pro 的仓库。注意措辞:承诺是“11 月 4 日前”,今天之内上架都不算违约;所以今天正确的动作不是下结论说它跳票,而是拿着清单去核对,别提前买卡、提前租机。

先把模型本身说清楚,免得被“开源”两个字带偏。K3.1 Pro 是 2.8 万亿参数的 MoE 模型,每次推理激活约 1040 亿参数,上下文 100 万 token,API 定价每百万 token 输入 2 美元、输出 10 美元、缓存命中输入 0.2 美元;Highspeed 高速版速度号称 2 到 3 倍,价格翻倍。这部分今天已经能用:网页版、App、Kimi Work、Kimi Code 和 API 都已上线。还没能用的是另一部分:下载权重自己跑。

自己跑到底要多大的机器?按同架构 K3 文件估算的数字是:1-bit 量化约 649GB,2-bit 约 861GB,4-bit 约 1509GB。看清楚,这组数字是估算,不是 K3.1 Pro 实测文件体积,权重放出后要以实际文件为准。但量级已经说明问题:单卡、单台工作站都装不下,本地跑 K3.1 Pro 是集群或者服务商的活,不是个人电脑的活。谁要是今天跟你说“家用电脑就能跑满血 K3.1 Pro”,先让他把显存账算给你看。

权重上架当天,要对三件事,缺一件都别动手。第一,仓库是不是真的出现了,别拿第三方搬运的同名仓库当官方发布。第二,许可证文件写了什么:K3.1 Pro 的许可证至今没有公布,不能默认它沿用 K3 的许可证,大模型商用、做服务之前必须读新文件。第三,文件体积和量化版本是否对得上估算,1M 上下文跑起来还要另算 KV 缓存,账不能只算权重本身。

还有一个容易被忽略的点:开放权重版在训练阶段剔除了网络安全相关数据,月之暗面自己的内部漏洞利用测试 pass@3 从 90.5% 降到 81.0%。这个测试没有公开,外部没法复现,数字只能当厂商自报。但方向是明确的:开放版在网络安全能力上被主动削弱过,拿它做安全研究之前,先确认这个版本的能力边界。

这个判断在什么情况下要改:如果今天之内权重如期上架、许可证条件清晰、文件体积与估算量级一致,评估重点就从“等不等”转到“用哪个量化、跑在什么硬件上、API 还是自托管更划算”。在那之前,对绝大多数人最实在的用法仍然是 API 和应用端,本地部署先算账、后动手。

2026年11月4日 05:080 次浏览

0 回帖0 顶0 收藏
咕
0/2000

还没人接话

第一条回帖最容易被看见。