XNews

Kimi K2(Thinking)AMA 与 Vendor 验证工具

Kimi K2(Thinking)AMA 与 Vendor 验证工具

Kimi K2 团队在 AMA 回应多项技术与产品问题,并开源 Vendor Verifier 工具。 - AMA 透露 KDA 混合结构及其在预训练与 RL 阶段的效率优势。 - 团队确认将来可能在 K3 中采用 KDA,正在开发视觉语言(VL)版本。 - K2 的非迎合式人格通过数据挑选与后训练塑造,输出更不讨好用户。 - K2 Thinking 在推理上更细致但更慢,优化仍在进行中。 - 训练硬件为带 Infiniband 的 H800 GPU,成本与官方数字不可直接量化。 - Moonshot 发布 K2-Vendor-Verifier,用于检测第三方提供商端点上的性能波动与可靠性。 - Verifier 运行 4000 个样本,指标包含 tool_call_f1 与 schema_accuracy,并发布公共 leaderboard 与配置建议。 - 团队建议使用官方端点与特定参数设置以获得稳定结果。

Key insights

AMA 揭示:KDA 架构与未来路线

Kimi K2 团队在 AMA 中介绍 KDA 混合结构(KDA hybrids with NoPE MLA),指出该结构在预训练与强化学习阶段更快、更经济且更高效,并表示可能在下一代旗舰 K3 中采用该设计。团队还确认正在开发视觉语言(VL)版本,但发布优先以文本模型为主以便更快上线。

模型风格与推理权衡:非迎合人格与更细致思考

团队说明 K2 的非迎合式人格是通过精心数据挑选与后训练塑造的。K2-Thinking 在推理阶段表现出更细致但更慢的行为,团队承认推理耗时较长并在优化中;训练资源与成本存在复杂性,公开的训练费用数字并非官方确认。

K2-Vendor-Verifier:为第三方端点提供透明验证

Moonshot 团队开源 K2-Vendor-Verifier,针对第三方供应商端点的可靠性与基准波动进行透明自动化验证。工具运行约 4000 个样本,计算 tool_call_f1 与 schema_accuracy,并生成详细日志与汇总报告,同时维护公共 leaderboard,帮助识别不同供应商在推理密集任务上的性能差异。

部署建议与基准可比性:优先官方端点与参数设置

团队在工具文档中给出最佳实践:首选官方端点(kimi-k2-thinking-turbo),使用流式输出、温度 1.0、根据任务调整 max token(推理 128k、编码 256k 等)并加入重试机制。此举旨在提高基准可比性并减少第三方端点导致的性能下降。

Source posts