NVIDIA在CUDA 13.1中推出CUDA Tile,将编程从线程转向块

CUDA 13.1引入了CUDA Tile,这是一种基于块的编程模型,旨在将开发者的关注点从管理数千个线程(SIMT)转向操作数据块(块)。CUDA Tile抽象了复杂的硬件(张量核心、TMA),提高了跨GPU代的可移植性,并依赖于将块操作映射到硬件的CUDA Tile IR。开发者可以使用NVIDIA的cuTile Python进行高级代码编写;编译器和框架作者可以直接针对Tile IR进行开发。

CUDA 13.1引入了CUDA Tile,这是一种基于块的编程模型,旨在将开发者的关注点从管理数千个线程(SIMT)转向操作数据块(块)。CUDA Tile抽象了复杂的硬件(张量核心、TMA),提高了跨GPU代的可移植性,并依赖于将块操作映射到硬件的CUDA Tile IR。开发者可以使用NVIDIA的cuTile Python进行高级代码编写;编译器和框架作者可以直接针对Tile IR进行开发。