XNews

DatawhaleとRadixArk、オープンソースの「SGLangをゼロから構築」コースを公開

DatawhaleとRadixArk、オープンソースの「SGLangをゼロから構築」コースを公開

DatawhaleとRadixArkは、ミニSGLangをゼロから構築し、実際のSGLangソースコードに対応付けるオープンソースコースを公開しました。このコースでは、LLM推論の概念、KVキャッシュ、連続バッチ処理、スケジューリング、ページングメモリ、およびSGLangメンテナーが執筆した高度なアテンション/量子化のトピックをカバーしています。最後のパートでは、完全なPRワークフローを解説します。

Source posts