您现在的位置是:首页 > 生活问答 >正文

中国工程院院士郑纬民:算力系统的“三驾马车”未来或融为一体

发布时间:2022-12-17 16:29:16潘伊阅来源:

导读 封面新闻记者 欧阳宏宇人工智能算力是当前人工智能领域发展的关键,围绕AI与算力基础设施搭建应该如何实现突破?近日,中国工程院院士郑纬...

封面新闻记者 欧阳宏宇

人工智能算力是当前人工智能领域发展的关键,围绕AI与算力基础设施搭建应该如何实现突破?近日,中国工程院院士郑纬民在分享中表示,聚焦人工智能的基础研究上,可从算力基础设施的设计、评测和优化方面入手推动技术发展。

在设计方面,郑纬民提到,传统数值超算系统(HPC)与AI算力系统(AI)之间在应用领域、运算精度等方面都有很大不同。基于此,人工智能计算机设计应遵循平衡性原则,即计算平衡设计、网络平衡计算、IO子系统设计。他将HPC、AI和BigData(大数据处理系统)比作算力系统的“三驾马车”,指出“目前,行业整体趋势是HPC+AI+BigData融合在一起,预计未来两到四年,三者融合的服务器就会出现。”

在评测方面,在郑纬民看来,AI基准设计要达到四个目标:统一的分数、可变的规模、具有实际的人工智能意义、评测程序包含必要的多机通信。由于传统的AI算力评测基准存在着只针对单个芯片、只是移动端的硬件、可扩展性不好等问题,所以,行业没有太多合适的大规模人工智能算力基准评测程序。

在优化方面,学界已达成一个基本共识,即模型规模和模型效果呈正相关关系。对此,郑纬民认为,由于模型规模增加了,但CPU的内存、计算能力是有限的,因此大模型训练一定是多机的,分布并行的。“融合了数据并行、模型并行、专家并行三种训练模型后,百万亿参数超大规模训练模型的加速方法已得到了工业界的认可。”

中国在大数据领域的算力处于领先,但是在另两种算力领域还和世界顶尖存在差距,特别是“智能算力严重制约我国AI领域的创新能力”。对此,郑纬民表示,我国算力发展面临三大问题,即国产超算平台架构多样,应用移植和调优工作难度大;国产算力平台支持复杂应用全流程计算的能力亟待改善;和人工智能企业所可能面临的风险。

【如果您有新闻线索,欢迎向我们报料,一经采纳有费用酬谢。报料微信关注:ihxdsb,报料QQ:3386405712】

标签:

上一篇
下一篇

最新文章