DatawhaleとRadixArk、SGLangをゼロから構築するオープンソースコースを開講

DatawhaleとRadixArkは、LLM推論の概念とミニSGLangをゼロから構築する無料コースを公開した。コースではKVキャッシュ、連続バッチ処理、RadixAttentionをカバーし、一部はSGLangコアメンバーが執筆している。学習者をSGLangプロジェクトへの貢献者にすることを目的としている。

DatawhaleとRadixArkは、LLM推論の概念とミニSGLangをゼロから構築する無料コースを公開した。コースではKVキャッシュ、連続バッチ処理、RadixAttentionをカバーし、一部はSGLangコアメンバーが執筆している。学習者をSGLangプロジェクトへの貢献者にすることを目的としている。