What is Nostr?
亮亮的星星 /
npub1lpa…xv5d
2023-12-01 10:33:14

亮亮的星星 on Nostr: 亚马逊云科技推出首款结合 NVIDIA Grace Hopper Superchip 与 Amazon ...

亚马逊云科技推出首款结合 NVIDIA Grace Hopper Superchip 与 Amazon UltraCluster 扩展功能的云 AI 超级计算机;

NVIDIA DGX Cloud 率先配备 NVIDIA GH200 NVL32,并首次在亚马逊云科技上提供此 AI 训练即服务;

英伟达和亚马逊云科技在 Project Ceiba 上合作,打造全球最快的 GPU 驱动 AI 超级计算机以及最新的 NVIDIA DGX Cloud 超级计算机,用于英伟达的 AI 研发以及自研模型开发服务;

配置 NVIDIA GH200、H200、L40S 以及 L4 GPU 等芯片的全新 Amazon EC2 实例,大幅提升生成式 AI、HPC 高性能计算、设计以及模拟类工作负载的性能;

在亚马逊云科技上运行的英伟达软件,包括 NeMo LLM 框架、NeMo Retriever 以及 BioNeMo,加速自研模型、语义检索、新药研发等应用的生成式 AI 发展。

早在十三年前,亚马逊云科技与英伟达就已经开始合作,共同推出全球首个配置GPU的云端实例。

黄教主在现场表示:「生成式 AI 正改变各种云端负载,为多元内容创作在底层注入加速计算动能。我们共同目标是为每个客户提供具有成本效益、先进生成式 AI,为此英伟达与亚马逊云科技在整个计算堆栈展开合作,横跨 AI 基础设施、加速库(acceleration libraries)、基础模型以及生成式 AI 服务。」

大模型技术引领的生成式 AI 技术,也让全球共同迎来新的技术新浪,企业希望找到新的增长引擎。亚马逊云科技不仅在底层云服务上持续提供稳定的服务,也为模型训练和应用端大规模的推理提供了齐全的计算、高速联网和高性能存储选项。

据官方透露,亚马逊云科技在全球规模化提供的基于 Graviton 的 Amazon EC2 实例种类达 150 多个,已经构建的 Graviton 处理器数量超过 200 万个,并拥有超过 50,000 客户。

时下最新带来的 Graviton 4 处理器,基于 ARM Holdings 的微处理器知识产权构建,与基于较旧的 x86 芯片标准的 Intel 和 Advanced Micro Devices 的处理器竞争。亚马逊云科技表示,相比上一代 Graviton 3 处理器,Graviton 4 性能提升 30%,独立核心增加 50% 以上,内存带宽提升 75% 以上。与此同时,它还进一步通过高速物理硬件接口的完全加密提升了安全性。

Graviton 4 处理器旨在运行更传统的工作负载,包括数据库、数据分析、网络服务器、批处理、广告服务、应用服务器以及微服务等。

目前 Amazon EC2 R8g 内存优化性实例将采用最新的 Graviton4 预览版,未来几个月推出正式可用版,提升客户运行高性能数据库、内存缓存、大数据分析等工作负载的效率。

亚马逊云科技志同道合的 Anthropic,继 9 月官宣战略合作共同推进生成式 AI 发展后,在此次 re:Invent 上,Anthropic 首席执行官兼联合创始人 Dario Amodei 与 Adam 共同登台亮相也赢得了阵阵喝彩。

我觉得科技巨头们正在用AI和芯片重新布局了。我们如何适应是个复杂的难题。
Author Public Key
npub1lpafdz37gvh50ygu2qets8rlscd5fmrkhajtwz7557jpw5xjateqrwxv5d