网易首页 > 网易科技 > 网易科技 > 正文

华为AI训练集群Atlas900有多快?算力相当于50万台PC

0
分享至


网易科技讯 9月18日消息,华为全联接2019大会上,华为副董事长胡厚崑发布了Atlas 900 AI训练集群。此次发布的Atlas 900 AI训练集群由数千颗昇腾910 AI处理器互联构成,是当前全球最快的AI训练集群,代表了当今全球的算力巅峰。其总算力达到256P~1024P FLOPS @FP16,相当于50万台PC的计算能力。

AI算力领先

Atlas 900 AI训练集群采用业界单芯片算力最强的昇腾910 AI处理器,每颗昇腾910 AI处理器内置32个达芬奇AI Core,单芯片提供比业界高一倍的算力。Atlas 900 AI训练集群将数千颗昇腾910 AI处理器互联,打造业界第一的算力集群。

昇腾910 AI处理器采用SoC设计,集成“AI算力、通用算力、高速大带宽I/O”,大幅度卸载Host CPU的数据预处理任务,充分提升训练效率。

最佳集群网络

Atlas 900 AI训练集群采用“HCCS、 PCIe 4.0、100G以太”三类高速互联方式,百TB全互联无阻塞专属参数同步网络,降低网络时延,梯度同步时延缩短10~70%。

在AI服务器内部,昇腾910 AI处理器之间通过HCCS高速总线互联;昇腾910 AI处理器和CPU之间以最新的PCIe 4.0(速率16Gb/s)技术互联,其速率是业界主流采用的PCIe 3.0(8.0Gb/s)技术的两倍,使得数据传输更加快速和高效。在集群层面,采用面向数据中心的CloudEngine 8800系列交换机,提供单端口100Gbps的交换速率,将集群内的所有AI服务器接入高速交换网络。

独创iLossless 智能无损交换算法,对集群内的网络流量进行实时的学习训练,实现网络0丢包与E2E μs级时延。

系统级调优

Atlas 900 AI训练集群通过华为集合通信库和作业调度平台,整合HCCS、 PCIe 4.0和100G RoCE三种高速接口,充分释放昇腾910 AI处理器的强大性能。

华为集合通信库提供训练网络所需的分布式并行库,通信库+网络拓扑+训练算法进行系统级调优,实现集群线性度>80%,极大提升了作业调度效率。

散热系统

传统数据中心多以风冷技术对设备进行散热,但在人工智能时代传统数据中心却面临非常大的挑战。高功耗器件比如CPU和AI芯片带来更大的热岛效应要求更高效的冷却方式。液冷技术可以满足数据中心高功率、高密部署、低PUE的超高需求。

Atlas 900 AI训练集群采用全液冷方案,创新性设计业界最强柜级密闭绝热技术,支撑>95%液冷占比。单机柜支持高达50kW超高散热功耗,实现PUE<1.1的极致数据中心能源效率。

另外,在空间节省方面,与8kW风冷机柜相比,节省机房空间79%。极致的液冷散热技术满足了高功率、高密设备部署、低PUE的需求,极大地降低了客户的TCO。

据了解,华为已在华为云上部署了一个Atlas 900 AI训练集群,集群规模为1024颗昇腾910 AI处理器。基于当前最典型的“ResNet-50 v1.5模型”和“ImageNet-1k数据集”,Atlas 900AI训练集群只需59.8秒就可完成训练,排名全球第一。

“ImageNet-1k数据集”包含128万张图片,精度为75.9%,在同等精度下,其他两家业界主流厂家测试成绩分别是70.2s和76.8s,Atlas 900 AI训练集群比第2名快15%。

Atlas 900 AI集群主要为大型数据集神经网络训练提供超强算力,可广泛应用于科学研究与商业创新,让研究人员更快地进行图像、视频和语音等AI模型训练,让人类更高效地探索宇宙奥秘、预测天气、勘探石油和加速自动驾驶的商用进程。(静静)

相关推荐
热点推荐
浙江一车辆在校园内横冲直撞,伤亡情况流出,一细节曝光事因

浙江一车辆在校园内横冲直撞,伤亡情况流出,一细节曝光事因

温柔看世界
2024-03-19 14:30:18
几乎“全军覆没”?马斯克正式宣布,外媒:弯道超车还是失败了

几乎“全军覆没”?马斯克正式宣布,外媒:弯道超车还是失败了

疯狂小菠萝
2024-03-18 17:47:18
爱德华兹:李凯尔是今晚的MVP 他做了赢球所需要的一切

爱德华兹:李凯尔是今晚的MVP 他做了赢球所需要的一切

直播吧
2024-03-19 12:12:23
刚刚,突然宣布卸任!

刚刚,突然宣布卸任!

观威海
2024-03-18 20:49:17
为什么海员工资那么高?因为一旦上了船,一条腿就跨进了阎王殿!

为什么海员工资那么高?因为一旦上了船,一条腿就跨进了阎王殿!

玛丽姬丝
2024-03-18 22:36:49
水落石出,河北初中生遇害被定性预谋:提前一天挖坑,深度公开

水落石出,河北初中生遇害被定性预谋:提前一天挖坑,深度公开

育学笔谈
2024-03-19 09:33:29
江门市江海区城市管理和综合执法局市政维修处主任冯俊杰接受纪律审查和监察调查

江门市江海区城市管理和综合执法局市政维修处主任冯俊杰接受纪律审查和监察调查

江门高新
2024-03-18 20:05:56
明确了!农村宅基地使用权,城镇户籍子女可继承!

明确了!农村宅基地使用权,城镇户籍子女可继承!

天下纵览
2024-03-18 09:44:10
管姚:普京胜选连任,为何最看重这份贺电?

管姚:普京胜选连任,为何最看重这份贺电?

直新闻
2024-03-18 23:20:33
初中生被害后续!央媒发声,李玫瑾怒提建议,3孩子父母终于慌了

初中生被害后续!央媒发声,李玫瑾怒提建议,3孩子父母终于慌了

呼呼历史论
2024-03-18 22:46:32
提前挖坑,案发当天再挖坑,真拿这三个未成年杀人犯没办法了吗?

提前挖坑,案发当天再挖坑,真拿这三个未成年杀人犯没办法了吗?

民言民语
2024-03-19 11:01:47
湖人第5次超勇士,这一超就是永远!有望46胜36负,勇士最多45胜

湖人第5次超勇士,这一超就是永远!有望46胜36负,勇士最多45胜

嘴炮体坛
2024-03-19 13:10:48
黔江、酉阳两名干部被查处

黔江、酉阳两名干部被查处

上游新闻
2024-03-19 14:40:36
“他之前一直认为美国自由、安全、和平”,直到↓

“他之前一直认为美国自由、安全、和平”,直到↓

观察者网
2024-03-18 22:21:15
特朗普称当选后,对中国车征收100%关税,相当于给中国车开了绿灯

特朗普称当选后,对中国车征收100%关税,相当于给中国车开了绿灯

资本百科
2024-03-19 09:12:09
海外博主:因中国网友抵制,哈耶克取消赴华演讲;真相:哈耶克已死32年

海外博主:因中国网友抵制,哈耶克取消赴华演讲;真相:哈耶克已死32年

不掉线电波
2024-03-19 14:20:31
“邯郸3名初中生杀人埋尸案” 学校回应未发现校园霸凌 家属不认可

“邯郸3名初中生杀人埋尸案” 学校回应未发现校园霸凌 家属不认可

央广网
2024-03-19 11:50:06
日本福冈被野生捕获 港星郑伊健五官真帅

日本福冈被野生捕获 港星郑伊健五官真帅

楚门记
2024-03-19 10:16:41
正式“拥抱”华为!万亿市值巨头突然宣布,全力支持鸿蒙系统

正式“拥抱”华为!万亿市值巨头突然宣布,全力支持鸿蒙系统

奉壹数码
2024-03-19 00:02:57
严查因赌及腐!近期多名违纪违法干部处分通报中涉及赌博问题

严查因赌及腐!近期多名违纪违法干部处分通报中涉及赌博问题

极目新闻
2024-03-19 09:32:21
2024-03-19 16:04:49

科技要闻

1块顶上代5块!英伟达新王牌让世界用上AI?

头条要闻

邯郸派60多名警察侦办初中生遇害案:此案要办成铁案

头条要闻

邯郸派60多名警察侦办初中生遇害案:此案要办成铁案

体育要闻

温水煮青蛙,最后发现自己才是那只蛙

娱乐要闻

李惠利发声道歉!柳俊烈劈腿确凿

财经要闻

"围猎"三丰智能:合作方可能无实际业务?

汽车要闻

新能源车自燃率更低?院士9个数据错8个

态度原创

亲子
本地
房产
手机
公开课

亲子要闻

小朋友真聪明!

本地新闻

我和我的家乡|廊坊人有自己的日常vlog

房产要闻

杨浦定海街道154街坊地块项目公司拟37.5386亿元正式挂牌转让

手机要闻

赵明:荣耀第一代Magic是所有AI手机鼻祖

公开课

张雪峰:想多挣钱,得学理工科

无障碍浏览 进入关怀版
×