开源课程:从零构建mini-sglang,然后深入真实SGLang

Datawhale与RadixArk(SGLang)联合推出了一门开源课程,该课程首先教授大语言模型推理的相关概念,然后引导学习者从零构建一个mini-sglang,最后深入探索真实的SGLang源代码。课程分为四个部分,其中高级章节由SGLang核心成员撰写,并强调编码规范与性能分析优先的方法。

Datawhale与RadixArk(SGLang)联合推出了一门开源课程,该课程首先教授大语言模型推理的相关概念,然后引导学习者从零构建一个mini-sglang,最后深入探索真实的SGLang源代码。课程分为四个部分,其中高级章节由SGLang核心成员撰写,并强调编码规范与性能分析优先的方法。