XNews

Datawhale と RadixArk によるオープンソースコース:スクラッチからミニSGLangを構築

Datawhale と RadixArk によるオープンソースコース:スクラッチからミニSGLangを構築

DatawhaleとRadixArk(SGLang)は共同でオープンソースコースを公開しました。このコースでは、LLM推論の概念をゼロから学び、その後ミニSGLangの構築を指導し、最終的には実際のSGLangソースコードに踏み込んで高度な最適化を学びます。コースはGPU、KVキャッシュ、連続バッチ処理、ページ化アテンションなどをカバーしています。高度な部分はSGLangのコアメンバーが執筆しています。また、強力なコード倫理の章と厳格なエンジニアリング基準が含まれています。

Source posts