亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例汕头市某某纸业有限责任公司亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马汕头市某某纸业有限责任公司用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读相关文章
- 当地时间18日晚,以色列国防军表示,当晚以空军拦截了一个从叙利亚飞往以色列的可疑空中目标。该目标在进入以色列领土之前被拦截。 总台记者获悉,该可疑空中目标疑似一架无人机。总台记者 孙建)点击进入2024-10-22
- 当地时间10月4日晚,也门胡塞武装发表声明称,当天美英联军对也门多地发动了12次空袭。其中,对萨那发动了4次空袭,对荷台达省发动了7次空袭,对扎马尔省发动了1次空袭。 胡塞武装表示,美英的空袭不2024-10-22
TTS新传论文带读:特别应景的一篇论文!!国庆假期“打卡”旅行!!
@TuTouSuo™️*小红书账号:秃头研究所新传考研/秃头研究所Monsters*如果你觉得自己读论文太过于盲目,不知道从哪里开始;如果你也想要通过碎片化的时间来补充和拓展知识储备;如果你想要一份直2024-10-22- 总台记者当地时间4日上午获悉,伊朗外交部长阿拉格齐已抵达黎巴嫩首都贝鲁特。总台记者 李享)点击进入专题: 中东局势持续升级2024-10-22
- 来源:财联社 财联社10月14日讯编辑 潇湘)随着美联储降息路径的前景变得愈发“云遮雾罩”,债券投资者当前也开始纷纷采取了防御措施。 上周,高于预期的美国CPI和良莠不齐的劳动力市场指标,导致2024-10-22
- 国庆长假第二天,位于北京的国家网球中心迎来了又一波观赛热潮。钻石球场内,13274位观众入场,上座率高达100%。这一天不仅有郑钦文压轴亮相,还将上演一场象征着当今男子网坛最高水平的对决。“女士们先生2024-10-22
最新评论