CUDA真是NVIDIA绝对牢不可破的生态吗?_云南省玉溪市华宁县洪钱摊贺电视节目合伙企业

  • 小区车位10万一个,租的话一个月300元,还有必要买车位吗?
  • 校外论坛“浙大云朵朵”宣布对上传原创文档收费引发浙大学生强烈不满,大量账号被封,如何做好服务?
  • CUDA真是NVIDIA绝对牢不可破的生态吗?_云南省玉溪市华宁县洪钱摊贺电视节目合伙企业

    诚信为本,市场在变,诚信永远不变...
    热门分类: 第一系列 | 第二系列 | ......>>更多
    公司动态 当前位置: 首页 > 新闻动态 > 公司动态

    CUDA真是NVIDIA绝对牢不可破的生态吗?

    添加时间:2025-06-24 12:20:13

    有人说,我做一款AI芯片,只要原生支持PyTorch就好了呀,用户直接用PyTorch跑模型,根本接触不到CUDA呀。

    没错,一般的用户只要在PyTorch层面做应用,但是总是有新的模型架构出来,这些架构都需要做特定的性能优化才能在一个芯片上得到较高的性能,这时候就涉及到算子开发了。

    比如说一开始LLM在GPU上的性能不好,后来社区针对Nvidia GPU做了flash attention等的优化才把LLM的性能提升到了比较可观的程度。

    CUDA已经被各种开源AI框…。

    CUDA真是NVIDIA绝对牢不可破的生态吗?