首页 > 电脑问题

英伟达 A100 GPU 登陆亚马逊云服务

查尔 电脑问题 2020-11-05 16:38:45

据英伟达官方新闻,在AWS运行NVIDIAgpu 10周年之际,AWS使用A 100发布了一个新的Amazonec2p4d实例。

英伟达 A100 GPU 登陆亚马逊云服务

全新 AWS P4d 实例采用最新 NVIDIA A100 Tensor Core GPU。A100 计算卡采用了 7nm 工艺的 GA100 GPU,这款 GPU 拥有 6912 CUDA 核心和 432 张量核心。GPU 封装尺寸为 826mm2,集成了 540 亿个晶体管。

英伟达表示,新的P4D示例在AWS上为机器学习培训和高性能计算应用提供了性能最高和成本效益最高的GPU平台。与默认的FP32精度相比,新示例将FP16机器学习模型的培训时间减少了3倍,tf 32机器学习模型的培训时间减少了6倍。

这些示例还提供了出色的推理性能。NVIDIA A100 GPU 在最近的 MLPerf Inference 基准测试中一骑绝尘,实现了比 CPU 快 237 倍的性能。

每个 P4d 实例均内置八个 NVIDIA A100 GPU,通过 AWS UltraClusters,客户可以利用 AWS 的 Elastic Fabric Adapter(EFA)和 Amazon FSx 提供的可扩展高性能存储,按需、可扩展地同时访问多达 4,000 多个 GPU。P4d 提供 400Gbps 网络,通过使用 NVLink、NVSwitch、NCCL 和 GPUDirect RDMA 等 NVIDIA 技术,进一步加速深度学习训练的工作负载。EFA 上的 NVIDIA GPUDirect RDMA 在服务器之间可通过 GPU 传输数据,无需通过 CPU 和系统内存,从而确保网络的低延迟。

硬件之家交流群:377963052
版权声明

本文仅代表作者观点,不代表本站立场。部分文章来自网络,如有侵权,请联系删除
本站文章可以转载,需要保留本站原文超链接。
本文地址:https://www.x13x.com/dnwt/2020-11-05/3024.html

留言与评论(共有 0 条评论)
   
验证码:

X排行榜

| 桂ICP备15007099号-3

Powered By X排行榜

新手上路

使用手机软件扫描微信二维码

关注我们可获取更多热点资讯

感谢墨鱼部落格友情技术支持