写CUDA到底难在哪?_云南省玉溪市华宁县洪钱摊贺电视节目合伙企业

  • 爱因斯坦“相对论”是否错了,我始终无法理解为什么物体达到光速时间就会停止?
  • 如何看待伊朗媒体称「今晚将发生世界铭记的大事」?可能是什么?
  • 写CUDA到底难在哪?_云南省玉溪市华宁县洪钱摊贺电视节目合伙企业

    诚信为本,市场在变,诚信永远不变...
    热门分类: 第一系列 | 第二系列 | ......>>更多
    公司动态 当前位置: 首页 > 新闻动态 > 公司动态

    写CUDA到底难在哪?

    添加时间:2025-06-22 04:40:09

    对GPU进行性能优化时,cudagraph是绕不开的话题。

    不仅是GPU,大部分的xpu都会提供类似graph mode的优化,相比于每次分别由CPU进行kernel launch的eager mode,graph mode通常都会有较大性能提升,然而也经常容易出现各种各样的奇怪问题。

    NVIDIA有一个简单的 博客 介绍,其中只使用了stream capture的形式来构造cudagraph,而且本质上就是多个kernel前后提交,根本无法展示cudagraph的复杂性。

    本文尝试从底层原理出发,根据文档 和 …。

    写CUDA到底难在哪?