有人说，我做一款AI芯片，只要原生支持PyTorch就好了呀，用户直接用PyTorch跑模型，根本接触不到CUDA呀。
没错，一般的用户只要在PyTorch层面做应用，但是总是有新的模型架构出来，这些架构都需要做特定的性能优化才能在一个芯片上得到较高的性能，这时候就涉及到算子开发了。
比如说一开始LLM在GPU上的性能不好，后来社区针对Nvidia GPU做了flash attention等的优化才把LLM的性能提升到了比较可观的程度。
CUDA已经被各种开源AI框…。
上一篇 : 有用 NAS 被联通以安全为由要求停止使用的吗？
下一篇 : 为什么 Apple 的开发者群体总是会积极响应 Apple 的各类技术变动？
为什么越是禁止孩子玩手机的家庭，最后养出的网瘾少年越多？...
为什么 mac mini 的 m4 版本价格这么低呢？...
《西西里美丽传说》女主角，在当时打扮这么高调，不觉得带给自己很多不便吗？如何理解她的心态？...
ssd固态硬盘sata的好还是m.2好呢？...
