英伟达发布Nsight Python教程：在Colab上以Python接口剖析GPU内核

据MarkTechPost于10月22日报道，英伟达公布了一份Nsight Python教程，演示如何通过这一开源Python接口调用其内核分析器，在免费的Colab T4上完成GPU内核性能测量，并按照标注区域、配置和每次运行返回pandas DataFrame格式的硬件指标。

教程给出的用法不同于以往在Nsight Compute命令行下运行脚本、事后再翻查报告的方式。使用者用nsight.annotate标记关心的代码段，用nsight.analyze.kernel装饰基准函数，即可直接拿到指标表格。报道称，自1.0版本起，该库会把Nsight Compute挂载到正在运行的Python进程上，因此可在Jupyter和Colab中使用；即将发布的1.1版本将加入实验性的CUPTI后端、显式的工具管理接口和自定义信息收集器。

在环境搭建部分，教程在Colab自带版本之外另装一份较新的Nsight Compute，因为nsight-python要求2026.2.1或更高版本。脚本先尝试安装2026.3.1，失败则回退到2026.2.1，并通过dpkg定位ncu启动器的路径后将其加入PATH；nsight须在CUDA初始化之前导入，以激活Nsight Compute的注入库。

教程随后依次演示：剖析第一个内核；确定一次测量需要运行多少轮；观察缓存与时钟控制对同一内核的影响；在fp32和fp16下扫描矩阵尺寸并计算TFLOP/s；用硬件计数器区分计算受限与访存受限；以字节移动量衡量内核融合；记录每次运行的时钟与温度；最后比较CUPTI后端与Nsight Compute，并保留原始报告供进一步分析。

报道提到，1.1.0版本虽已打上标签但尚未上架PyPI，教程因此固定到特定提交。CUPTI后端依赖cupti-python 13.4，所需的libcupti版本高于Colab中torch所锁定的版本，故被安装到单独目录，仅由教程第9步的子进程加入路径。