导读
华为云CTO张宇昕在巴塞罗那华为云峰会表示,大模型时代对算力有着全新的要求:联算比。未来需要全新的网络互联技术来解决运算量和GPU算...
华为云CTO张宇昕在巴塞罗那华为云峰会表示,大模型时代对算力有着全新的要求:联算比。未来需要全新的网络互联技术来解决运算量和GPU算力之间的巨大差距。容算比。当前在模型训练过程中为获取足够显存容量,存在不必要的GPU算力闲置。存算比。当前在模型训练过程中,大量的时间消耗在GPU数据加载,造成算力的进一步浪费。基于此,云的系统架构将从“以CPU为中心的主从架构”向“多元算力对等架构” 跃迁,突破算力、存储和网络的边界,实现多元算力的对等全互联。(科创板日报)
文章转载自:界面新闻网 非本站原创
版权声明:转载此文是出于传递更多信息之目的。若有来源标注错误或侵犯了您的合法权益,请作者持权属证明与本网联系,我们将及时更正、删除,谢谢您的支持与理解。