
开yun体育网一家公司的AI模子要是基于CUDA诞生-开云(中国)kaiyun体育网址-登录入口
资讯
【英伟达到底凭什么这样值钱?】CUDA是2006年英伟达推出的一套编程平台,便是让要道员能用GPU 开动多样盘算推算开yun体育网,就这样个东西,当今成了所有这个词AI行业的命门,险些所有这个词大模子齐开动在上头。 为什么别东说念主绕不开它?有四说念墙。 第通盘墙,是诞生者,环球零散400万诞生者基于CUDA写代码。这些东说念主花了无数时辰学习这套东西,写了无数代码,你让他们换到AMD的ROCm?他们宁可多费钱买英伟达,也不思重来一遍。这不是技能问题,这是东说念主的问题。 第二说念墙,是软件库
详情

【英伟达到底凭什么这样值钱?】CUDA是2006年英伟达推出的一套编程平台,便是让要道员能用GPU 开动多样盘算推算开yun体育网,就这样个东西,当今成了所有这个词AI行业的命门,险些所有这个词大模子齐开动在上头。
为什么别东说念主绕不开它?有四说念墙。
第通盘墙,是诞生者,环球零散400万诞生者基于CUDA写代码。这些东说念主花了无数时辰学习这套东西,写了无数代码,你让他们换到AMD的ROCm?他们宁可多费钱买英伟达,也不思重来一遍。这不是技能问题,这是东说念主的问题。
第二说念墙,是软件库。英伟达这些年攒了一堆现成的器具:TensorRT讲求推理加快,cuDNN成心优化神经网罗,NCCL措置多卡通讯。这些库齐是跟英伟达的硬件深度绑定优化的,换块AMD的卡,你得再行考证每一个库的领略,费时接力,戒指还不一定效用好。
第三说念墙,是移动资本,一家公司的AI模子要是基于CUDA诞生,换平台不仅仅改几行代码就不错了,团队要再行培训,文档要再行写,踩过的坑要再行踩一遍。这笔账算下来,好多公司成功覆没,乖乖续费买英伟达的卡。
第四说念墙,是时辰。英伟达搞CUDA快要二十年了,AMD的ROCm才刚起步,哪怕其他厂家每年跳跃30%,追上也要七八年。AI行业哪等得了那么久。
固然,CUDA的护城河也不是铁板一块。谷歌早就在用我方的TPU 开动里面任务,Meta、OpenAI也在用 AMD的卡作念部单干作负载。PyTorch当今加了编译器层,表面上不错让代码不那么依赖底层芯片。
但这些纰谬,还远莫得造成缺口。
信得过能撼动英伟达的,不是哪家芯片公司作念出了更快的硬件,而是所有这个词行业攒出了一套满盈好用的"翻译层",让代码无谓改就能在职何芯片上完满开动。
在那之前开yun体育网,英伟达仍是老大…
