オープンソースコース、SGLangをゼロから構築する方法を解説

DatawhaleとRadixArk(SGLang)は、無料のオープンソースコースを公開しました。このコースはLLM推論の概念から始まり、学習者をゼロからミニSGLangの構築へと導きます。コースでは、正確性、効率性、スケジューリング、メモリ管理、PD分離などの高度なトピックをカバーし、最終的には実際のSGLangへのプルリクエスト提出に至ります。また、コーディング倫理に関する珍しい章を含み、SGLangのコア開発者によって共著されています。