DatawhaleとRadixArk、ゼロから構築するミニSGLangの公開講座を開講

DatawhaleとRadixArk(SGLang)は、ゼロからミニSGLangを構築することでLLM推論を学ぶオープンソース講座を公開しました。本講座では、基本概念(プリフィル/デコード、ルーフラインモデル)をカバーした後、KVキャッシュ、スケジューラ、ページ管理メモリ、RadixAttentionを実装し、最終的に実際のSGLangコードを用いた高度な最適化に踏み込みます。また、コーディング倫理に関する章も含まれており、学習者を貢献者へと導く設計となっています。