XNews

免费开源课程:与官方维护者一起从零手写SGLang

免费开源课程:与官方维护者一起从零手写SGLang

Datawhale与RadixArk联合发布了一门免费开源课程,指导学员从零手写mini-SGLang。课程涵盖LLM推理概念,逐步构建正确性、效率、服务、调度、内存管理及扩展。第三和第四部分由SGLang官方维护者授课,涉及注意力后端、量化以及贡献PR工作流程。

Source posts