XNews

模型、硬件与基准(数学模型、文档模型、TPU/GPU对比)

模型、硬件与基准(数学模型、文档模型、TPU/GPU对比)

多个模型与硬件进展被报道:DeepSeek 发布数学模型并开源,硬件基准与 TPU/GPU 生态讨论升温,Landing AI 推轻量文档模型。

Key insights

DeepSeekMath-V2 宣布开源并在数学竞赛中高分通过

DeepSeek 发布 DeepSeekMath-V2,声称在 IMO-ProofBench 与 2025 年 IMO 的问题中表现接近金牌水平,并在 Putnam 2024 中获得接近满分的成绩。该模型以 Apache 2.0 协议在 Hugging Face 开源,提供社区下载与复现路径。

硬件对比显示推理成本差异明显,NVIDIA 在成本上领先

基准测试报告指出在 30 token/秒 参考速率下,NVIDIA H100 推理成本为每百万 token $1.06,AMD MI300X 为 $2.24,TPU v6e 为 $5.13,指出 H100 在推理成本上显著领先,TPU v7 即将发布但定价未知。

关于 TPU 与 CUDA 护城河的社区讨论

社区有人指出 NVIDIA 的 CUDA 护城河并非牢不可破,优秀工程师通过软件优化(如 Triton)可在非原生平台上取得性能优势,Anthropic 与其他组织长期使用 TPU,而硬件优势受系统工程与内核优化影响更大。

Landing AI 推轻量文档解析模型 DPT-2 mini 用于高吞吐场景

Landing AI 发布 DPT-2 mini,针对英文数字原生文档(如发票、合同)优化的小模型,强调速度与一致性,适合批量结构化提取,不适用于复杂布局或手写扫描文档,并通过 ADE 库提供快速上手示例。

Jeff Dean 回顾强调多项技术叠加推动 AI 快速发展

Jeff Dean 在分享中回顾过去十五年 AI 的关键进展,包括无监督学习发现概念、Word2Vec 的向量语义、TPU 的专用硬件优势、Transformer 的 self-attention 架构与稀疏模型、蒸馏与思维链等技术共同导致近期模型能力的跃迁。

芯片厂商与云服务的战略互补与沟通立场

NVIDIA 对 Google 的进步表达礼赞同时重申其 GPU 的通用性与在性能、多功能性上的优势,指出 ASIC(如 TPU)虽高效但灵活性受限,表明生态合作与竞争并存。

Source posts