关闭广告

英伟达H100杀疯了:11分钟训完GPT-3,霸榜8项测试

量子位15761人阅读

明敏 发自 凹非寺
量子位 | 公众号 QbitAI

11分钟内训练一遍GPT-3,8秒训完BERT

这就是英伟达给AI圈的一点“小小震撼”。

在最新MLPerf训练基准测试中,英伟达H100集群,横扫八项测试,全部创下新纪录,并且在大语言模型任务中表现尤为突出!



在大语言模型任务中,H100集群的加速性能逼近线性增长

即随着集群处理器数量增加,加速效果也几乎同比增加。

这意味着在集群内GPU之间的通信效率非常高。

阅读全文
版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

赌王长孙女宣布年底再婚 已战胜病魔并组建车队

网易娱乐 浏览 19556

日产卖楼关厂裁员,断臂求生

21世纪经济报道 浏览 614

空军西安飞行学院某旅开展跨昼夜飞行训练

人民资讯 浏览 12800

诺贝尔经济学奖获得者放话:欧洲不能让中美赢了

澎湃新闻 浏览 6374

上年纪的女人 夏季穿衣一定要记住三要三不要

Yuki时尚酱 浏览 16004

卫报:曼苏尔和芬威集团的第三大股东曾成立一家联合投资公司

懂球帝 浏览 735

张本智和打疯了!3-1完胜德国削球名将,全场吼叫不断!

乒谈 浏览 12118

"泥瓦工一家三口半月收入4万"引热议 业内称正常现象

极目新闻 浏览 77384

外媒科学网站30日摘要:机器人读盲文比人快一倍

网易科技报道 浏览 12625

9个月出口571万辆车 中国汽车远征军杀出新血路

科学知识点秀 浏览 643

王毅和乌外长一见面 对方就主动紧紧握住王毅的手

环球时报新闻 浏览 19667

专访周鸿祎:头部公司才做大模型 大部分人得专注场景

智见访谈 浏览 19368

欧文继母成为NBA历史首位谈妥合约的黑人女性经纪人

直播吧 浏览 15640

拼多多CEO谈电商低价竞争:良性竞争对消费者及整个行业有利

Tech星球 浏览 19079

关停工厂、清退三产…...合资王者衰落,上汽大众职工失去“安乐窝”

钛媒体APP 浏览 15490

2023TVB颁奖礼后台更精彩:高海宁下跪,黄宗泽豪饮,陈豪热吻!

缘木不求娱 浏览 12486

辽篮展温馨一幕!杨鸣继伟组织与澳门男篮合影,全员沟通太和睦了

篮球资讯达人 浏览 759

年终盘点:2023年的时尚圈有哪些大事发生?

YOKA网 浏览 13782

大众20亿美元建的充电网络,美国排名倒数第一

汽车商业评论杂志 浏览 12974

珠峰暴雪向导"人肉开路"带百人突围:最陡坡度有60度

极目新闻 浏览 5982

一年一度的秋装趋势,来了!

黎贝卡的异想世界 浏览 2004
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
沪ICP备20017958号-1