解决算力遭卡脖子问题 中企改采「多芯片混合」训练AI模型
当前位置:首页>资讯 >行业资讯 > 人工智能>解决算力遭卡脖子问题 中企改采「多芯片混合」训练AI模型

解决算力遭卡脖子问题 中企改采「多芯片混合」训练AI模型

2024-07-05 来源:芯智讯浏览数:111 国际会展网

核心提示:据《芯智讯》报导,多芯片混合计算的方法有诸多优势,包括利用多个不同型号的GPU并行训练,来共同提高大语言模型(LLM)训练速度,由于可以同时处理更多数据,能更好地利用内存,中国厂商可以降低对于更昂贵的辉达(NVIDIA)芯片的依赖,进而降低成本。

18SZ图片处理

为解决人工智能(AI)芯片算力问题,中企AI开发部门正实施「多芯片混合」策略来提高在AI计算方面的能力,同时也进一步避免供应链安全问题。

据《芯智讯》报导,多芯片混合计算的方法有诸多优势,包括利用多个不同型号的GPU并行训练,来共同提高大语言模型(LLM)训练速度,由于可以同时处理更多数据,能更好地利用内存,中国厂商可以降低对于更昂贵的辉达(NVIDIA)芯片的依赖,进而降低成本。

18SZ图片处理

报导说,自2022年10月以来,受美国持续升级的限制政策的影响,中国获取国外高性能AI芯片受到了极大的限制。虽然目前仍存在着一些灰色渠道可以获得高性能芯片,但是供给量还是比较有限。同样地,虽然中国中国也有一些AI芯片,但是性能和产能也同样比较有限。

报导指出,有传闻声称中国AI公司已经开始开发「多芯片混合」技术,将不同芯片组成一个训练集群,包括百度和阿里巴巴都在研究这项解决方案。例如,百度在其2024年财报电话会议上宣布,它可以组合来自不同供应商的GPU并将其用于AI训练。

18SZ图片处理

另一家中国大型科技公司阿里巴巴自2021年以来一直致力于「一云多芯片」解决方案,但也面临诸多挑战。例如需要像NVIDIA NVlink这样的高速构架,确保不同的加速器能高效通信。不过,阿里云已经开始转向使用基于以太网的高性能网络。

Booking.com
打赏
0相关评论
阅读上文 >> 全球铁路自驾营运里程中国占68% 将主持国际标准制订
阅读下文 >> 反超全球最大丹麦维斯塔斯 中国风电专利竞争力跃居第一

大家喜欢看的

  • 品牌
  • 资讯
  • 展会
  • 视频
  • 图片
  • 供应
  • 百科
  • 商城

欢迎转发与合作:


本文地址:http://www.18sz.com/news/show.php?itemid=18531

转载本站原创文章请注明来源:国际会展网

行业专题

更多行业专题

微信“扫一扫”
即可分享此文章



友情链接

  • 关注官方订阅号

  • 关注官方服务号

Copyright© 2003-2024 18SZ.com 18SZ B2B SYSTEM All Rights Reserved

服务热线:+86 755 88850315 ICP备案号: