上一主题下一主题
«12»Pages: 1/2     Go
主题 : 微软推出迄今为止训练最大最强的语言模型 MT-NLG
千山同一月 万户尽皆春 千江有水千江月 万里无云万里天
级别: 总版主

UID: 998
精华: 0
发帖: 604963
威望: 528524 点
无痕币: 3089 WHB
贡献值: 0 点
在线时间: 61688(时)
注册时间: 2008-12-25
最后登录: 2024-03-29

0 微软推出迄今为止训练最大最强的语言模型 MT-NLG

 10 月 12 日消息 语言模型(Language Model)简单来说就是一串词序列的概率分布,主要作用是为一个长度为 m 的文本确定一个概率分布 P,表示这段文本存在的可能性。
大家之前可能或多或少听说过 GPT-3,OpenAI 最新的语言模型,堪称地表最强语言模型,也被认为是革命性的人工智能模型。除此之外还有 BERT、Switch Transformer 等重量级产品,而且业内其他企业也在努力推出自家的模型。
微软和英伟达今天宣布了由 DeepSpeed 和 Megatron 驱动的 Megatron-Turing 自然语言生成模型(MT-NLG),这是迄今为止训练的最大和最强大的解码语言模型。

IT之家了解到,作为 Turing NLG 17B 和 Megatron-LM 的继任者,这个模型包括 5300 亿个参数,而且 MT-NLG 的参数数量是同类现有最大模型 GPT-3 的 3 倍,并在一系列广泛的自然语言任务中展示了无与伦比的准确性,例如:
  • 完成预测
  • 阅读理解
  • 常识推理
  • 自然语言推理
  • 词义消歧
105 层、基于转换器的 MT-NLG 在零、单和少样本设置中改进了先前最先进的模型,并为两个模型规模的大规模语言模型设定了新标准和质量。
据悉,模型训练是在基于 NVIDIA DGX SuperPOD 的 Selene 超级计算机上以混合精度完成的,该超级计算机由 560 个 DGX A100 服务器提供支持,这些服务器以完整的胖树(FatTree)配置与 HDR InfiniBand 联网。每个 DGX A100 有 8 个 NVIDIA A100 80GB Tensor Core GPU,通过 NVLink 和 NVSwitch 相互完全连接。微软 Azure NDv4 云超级计算机使用了类似的参考架构。

更多内容可查看微软和英伟达官方说明:
微软
英伟达
他都伶俐修来福,我自痴愚结下缘。
级别: 八片秋叶
UID: 5577
精华: 0
发帖: 13639
威望: 50451 点
无痕币: 42631 WHB
贡献值: 0 点
在线时间: 965(时)
注册时间: 2007-12-21
最后登录: 2024-01-17

最大最强?
过好每一天。
千山同一月 万户尽皆春 千江有水千江月 万里无云万里天
级别: 总版主

UID: 998
精华: 0
发帖: 604963
威望: 528524 点
无痕币: 3089 WHB
贡献值: 0 点
在线时间: 61688(时)
注册时间: 2008-12-25
最后登录: 2024-03-29

这个可以进来看看,了解一下。
级别: 十方秋水

UID: 88
精华: 0
发帖: 129700
威望: 220794 点
无痕币: 105768 WHB
贡献值: 0 点
在线时间: 51570(时)
注册时间: 2008-03-18
最后登录: 2024-03-29

了解一下。谢谢楼主分享。
知足常乐
级别: 十方秋水

UID: 23
精华: 1
发帖: 261065
威望: 117081 点
无痕币: 2195 WHB
贡献值: 0 点
在线时间: 9388(时)
注册时间: 2007-11-24
最后登录: 2024-03-29

看看了解一下,谢谢总版分享!
事能知足心常乐 人到无求品自高
级别: 七朵秋菊
UID: 302041
精华: 0
发帖: 25121
威望: 15591 点
无痕币: 15434 WHB
贡献值: 0 点
在线时间: 958(时)
注册时间: 2022-01-01
最后登录: 2024-03-29

了解一下,谢谢分享
级别: 六行秋雁

UID: 4187
精华: 0
发帖: 897
威望: 15637 点
无痕币: 41 WHB
贡献值: 0 点
在线时间: 215(时)
注册时间: 2007-12-12
最后登录: 2024-03-22

了解一下。谢谢楼主分享。
级别: 七朵秋菊

UID: 219073
精华: 0
发帖: 26317
威望: 22407 点
无痕币: 179 WHB
贡献值: 0 点
在线时间: 1484(时)
注册时间: 2013-09-06
最后登录: 2024-03-29

谢楼主辛苦分享!
级别: 六行秋雁
UID: 281368
精华: 0
发帖: 1835
威望: 8888 点
无痕币: 15302 WHB
贡献值: 0 点
在线时间: 165(时)
注册时间: 2017-03-05
最后登录: 2024-03-29

谢谢分享,了解一下
级别: 五分秋意
UID: 263481
精华: 0
发帖: 1550
威望: 7506 点
无痕币: 12736 WHB
贡献值: 0 点
在线时间: 217(时)
注册时间: 2015-11-13
最后登录: 2024-03-29

进来了解一下。
上一主题下一主题
«12»Pages: 1/2     Go
Total 0.045874(s) query 4, Time now is:03-29 18:13, Gzip enabled 粤ICP备07514325号-1
Powered by PHPWind v7.3.2 Certificate Code © 2003-13 秋无痕论坛