XNews

开源课程教授从零构建SGLang

开源课程教授从零构建SGLang

Datawhale与RadixArk(SGLang)联合发布了一门免费的开源课程,从LLM推理概念入手,引导学习者从零构建一个mini-sglang。课程涵盖正确性、效率、调度、内存管理、PD分离等高级主题,最终指导学员向真实的SGLang提交PR。课程还包含罕见的编程伦理章节,并由SGLang核心开发者共同编写。

Source posts