DeepSeek-OCR 与像素输入思路
DeepSeek 在论文中提出“光学压缩”,通过高分辨率图像编码为少量视觉 token 再由解码器还原文本,实验显示 10 倍压缩可达 97% 精度;同时引发 Karpathy 主张将 LLM 输入从文本转向像素,认为像素输入更高效且保留视觉信息,有望成为解决长上下文与记忆管理的新路径。
DeepSeek 在论文中提出“光学压缩”,通过高分辨率图像编码为少量视觉 token 再由解码器还原文本,实验显示 10 倍压缩可达 97% 精度;同时引发 Karpathy 主张将 LLM 输入从文本转向像素,认为像素输入更高效且保留视觉信息,有望成为解决长上下文与记忆管理的新路径。