返回首页  设为首页  加入收藏  今天是:
网站首页电脑主板电脑cpu电脑内存电脑硬盘电脑显卡电脑电源显示器电脑配件电脑维修
相关文章
 亚马逊云科技与 NVIDIA 宣布…
 都误会了美股纳斯达克100本质…
 隔夜美股全复盘(19) 三大股指…
 2024年全球DIY台式电脑电源行…
 高阶玩家必备 7款精品高端台…
 台式机电源排行榜前十名台式…
 影库硬盘怎么选?家用机械硬…
 深度解析:传统机械硬盘70年…
 机械硬盘将在5年内灭绝?Pur…
 cpu介绍
 cpu是什么-丫丫百科
 高通骁龙8gen4使用台积电n3e…
 我们距离“头号玩家”还有多…
 家用电器及其超薄显示屏的制…
 天马柔性OLED车载屏广汽上车…
 2014年中国主板十大品牌排行…
 广合科技获证监会主板IPO注册…
 2023年主板十大品牌排名:让…
 空调维修被多收费5261元家庭…
 家庭维修“坑”多难避 空调维…
 魅族18系列手机屡遭投诉 消费…
 电脑配件市场调研报告主要企…
 2023电脑配件行业供需格局及…
 2023电脑配件行业现状与市场…
 这是一条神奇的内存!揭秘三…
 国产手机运行内存容量突破32…
 解决你不卡的线真正原因在这…
 到底还值得买吗 浅谈R5GT610…
 nvidia指的是什么意思
 电脑显卡有什么作用
 台式机电源哪个牌子性价比高…
 上万好评的6款台式机电脑电源
 台式电脑电源推荐 电脑电源一…
 计算机硬件设备科普:硬盘(…
 第八课时计算机的硬件——硬…
 什么是计算机硬盘
 最新最全笔记本CPU性能排行排…
 最新笔记本CPU排名天梯图:全…
 老将当打卷起商用标压性能本…
 AOC U27P3C商用显示器为程序…
 2020电脑显示器排行榜:平价…
 家电搬运注意事项——电视、…
 “金花股份”在莫桑比克國際…
 就是要占便宜! 14款市售开核…
 炒股高清都能用户 全固双核A…
 华硕主板开启xmp后无法进入b…
 华硕笔记本电脑主板常见故障…
 华硕全新H370B360H310主板详…
 中关村最大的二手笔记本专区
 男子“黑户”32年:幼时被拐…
专题栏目
网络
您现在的位置: 电脑评测网 >> 电脑显卡 >> 正文
高级搜索
亚马逊云科技与 NVIDIA 宣布开展战略合作为生成式 AI 提供全新超级计算基础架构、软件和服务
作者:佚名 文章来源:本站原创 点击数: 更新时间:2024/1/24 14:09:46 | 【字体:

  洞房夜等休妻两家公司联合开展“Project Ceiba”合作项目,即全球最快的 GPU 驱动 AI 超级计算机和最新 NVIDIA DGX 云超级计算机,用于 NVIDIA AI 研发和自定义模型开发。

  亚马逊云科技提供的 NVIDIA 软件——NeMo LLM 框架、NeMo Retriever 和 BioNeMo 可推动用于自定义模型、语义检索和药物研发的生成式 AI 开发工作。

  亚马逊公司旗下的亚马逊云科技(AWS)和 NVIDIA 宣布扩大战略合作,共同提供最先进的基础架构、软件和服务,推进客户的生成式人工智能(AI)创新。

  这一扩展合作建立在双方长期合作关系的基础上。两家公司通过为早期的机器学习(ML)先行者提供推进这些技术发展所需的计算性能,进而推动了生成式 AI 时代的发展。

  NVIDIA 和亚马逊云科技将共同提供由亚马逊云科技托管的 NVIDIA AI 训练即服务——NVIDIA DGX 云。这将是首个采用 GH200 NVL32 的 DGX 云,可以为开发者提供最大的单实例共享内存。亚马逊云科技托管的 DGX 云将加快前沿生成式 AI 和大语言模型的训练速度,这些模型的参数可能超过 1 万亿个。

  NVIDIA 和亚马逊云科技正在合作“Project Ceiba”项目,设计世界上最快的由 GPU 驱动的 AI 超级计算机——一套搭载 GH200 NVL32 和亚马逊 EFA 互连接口的大规模系统,由亚马逊云科技托管,供 NVIDIA 内部研发团队使用。这一无二的超级计算机具有 16,384 颗 NVIDIA GH200 超级芯片和 65 EFLOPS 的 AI 处理性能。NVIDIA 将使用其推动下一轮生成式 AI 创新浪潮。

  亚马逊云科技还将推出三个全新的亚马逊 EC2 实例:搭载 NVIDIA H200 Tensor Core GPU 的 P5e 实例,适用于大规模和前沿生成式 AI 与 HPC 工作负载;以及分别搭载 NVIDIA L4 GPU 和 NVIDIA L40S GPU 的 G6 和 G6e 实例,适用于 AI 微调、推理、图形和视频工作负载等广泛应用。其中,G6e 实例尤其适用于开发 3D 工作流程、数字孪生以及使用 NVIDIA Omniverse (一个用于连接和构建生成式 AI 赋能的 3D 应用的平台)的其他应用。

  亚马逊云科技首席执行官 Adam Selipsky 表示:“自全球首个 GPU 云实例开始,亚马逊云科技与 NVIDIA 的合作已经超过 13 年。当下,我们为图形、游戏、高性能计算、机器学习,以及如今的生成式 AI 等工作负载提供最广泛的 NVIDIA GPU 解决方案。我们将继续与 NVIDIA 一起创新,将下一代 NVIDIA Grace Hopper 超级芯片与亚马逊云科技的 EFA 强大网络、EC2 UltraClusters 超大规模集群以及 Nitro 高级虚拟化功能相结合,使亚马逊云科技成为运行 GPU 的最佳平台。”

  NVIDIA 创始人兼首席执行官黄仁勋表示:“生成式 AI 正在深入改变云工作负载,并将加速计算作为多样化内容生成的基础。NVIDIA 和亚马逊云科技的共同使命是为每一位客户提供经济高效的前沿生成式 AI 技术。在这一使命的驱动下,NVIDIA 和亚马逊云科技正在开展覆盖整个计算堆栈的合作,包括 AI 基础架构、加速库、基础模型以及生成式 AI 服务。”

  这些实例将充分利用亚马逊云科技的第三代 Elastic Fabric Adapter(EFA)互连接口,为每个超级芯片提供高达 400 Gbps 的低延迟、高带宽网络吞吐量,支持客户能够在 EC2 UltraClusters 中扩展到数千颗 GH200 超级芯片。

  采用 GH200 NVL32 的亚马逊云科技实例将支持客户按需访问超级计算机级的性能,这对于大规模 AI/ML 工作负载至关重要。这些工作负载需要分布在多个节点上,以处理复杂的生成式 AI 工作负载,包括 FM、推荐系统和向量数据库等。

  搭载 NVIDIA GH200 的 EC2 实例将配备 4.5 TB 的 HBM3e 内存,与前一代搭载 H100 的 EC2 P5d 实例相比增加了 7.2 倍,这使客户能够运行更大规模的模型,并提升训练性能。此外,CPU-GPU 内存互连提供比 PCIe 高 7 倍的带宽,实现了芯片到芯片的通信,进而扩展了应用可用的内存总量。

  采用 GH200 NVL32 的亚马逊云科技实例将成为其首个采用液冷技术的 AI 基础架构,这有助于确保密集服务器机架能够以最高性能高效运行。

  采用 GH200 NVL32 的 EC2 实例还将受益于下一代 EC2 实例的底层平台——AWS Nitro System。Nitro System 通过将主机 CPU/GPU 的 I/O 功能卸载到专用硬件上,从而提供更加稳定的性能,同时其安全增强措施可在处理过程中保护客户代码和数据的安全。

  NVIDIA 将把这台超级计算机应用于研发,以此推进 AI 在 LLM、图形和仿真、数字生物学、机器人、自动驾驶汽车、Earth-2 气候预测等领域的发展。

  为了提供节能且高性价比的视频、AI 和图形工作负载解决方案,亚马逊云科技发布了搭载 NVIDIA L40S GPU的全新亚马逊 EC2 G6e 实例和搭载 L4 GPU 的 G6 实例。这些新服务有助于满足初创公司、企业和研究人员的 AI 和高保线e 实例专为处理生成式 AI 和数字孪生应用等复杂工作负载而构建。借助 NVIDIA Omniverse,可以开发出逼线D 仿真并利用来自 AWS IoT TwinMaker、智能聊天机器人、AI 助手、搜索和摘要等服务所提供的实时数据对其进行情景化和增强。Amazon Robotics 和 Amazon Fulfillment Centers 将能够整合使用 NVIDIA Omniverse 与 AWS IoT TwinMaker 构建的数字孪生系统,从而优化仓库设计和流程,训练更加智能的机器人助手,并提高交付质量。

  L40S GPU 可提供高达 1.45 PFLOPS 的 FP8 性能,其光线 TFLOPS 的光追性能。G6 实例中的 L4 GPU 将为部署自然语言处理、语言翻译、AI 视频和图像分析、语音识别以及个性化领域的 AI 模型提供成本更低、能效更高的解决方案。L40S GPU 还能加速图形工作负载,如创建和渲染实时电影级图形与游戏流等。这三个实例都将在明年推出。

  此外,NVIDIA 还发布了亚马逊云科技托管、用于推动生成式 AI 开发工作的软件。NVIDIA NeMo Retriever 微服务提供的新工具可利用加速语义检索,创建高度准确的聊天机器人和摘要工具。NVIDIA BioNeMo 已在 Amazon SageMaker 上提供使用,并将登陆亚马逊云科技托管的 NVIDIA DGX 云。该平台能帮助制药公司利用自己的数据简化并加速模型训练,进而加快药物研发。

  亚马逊云科技托管的 NVIDIA 软件正在助力亚马逊为其服务和运营注入创新活力。亚马逊云科技使用 NVIDIA NeMo 框架训练选定的新一代亚马逊 Titan LLM。Amazon Robotics 已开始使用 NVIDIA Omniverse Isaac 构建数字孪生,以便先在虚拟环境中自动化、优化和规划其自主仓库,然后再将其仓库部署到现实世界中。

  限制股指期货做空传言再起,多家头部量化反馈:并未接到通知但预计监管趋严

  懵了,业绩预增最高超406%,股价跌停!储能产业快速发展,机构扎堆看好这些小市值高成长股

  限制股指期货做空传言再起,多家头部量化反馈:并未接到通知但预计监管趋严

  好资产便宜了就再买一点!券商资管规模数据出炉,顶流基金经理最新观点来了

  好资产便宜了就再买一点!券商资管规模数据出炉,顶流基金经理最新观点来了

  关于同花顺软件下载法律声明运营许可联系我们友情链接招聘英才用户体验计划有害信息举报

  涉未成年人违规内容举报算法推荐专项举报不良信息举报电话举报邮箱:增值电信业务经营许可证:B2-20090237

电脑显卡录入:admin    责任编辑:admin 
  • 上一个电脑显卡:

  • 下一个电脑显卡: 没有了
  •  
     栏目文章
    普通电脑显卡 亚马逊云科技与 NVIDIA 宣布开展战略合作为生… (01-24)
    普通电脑显卡 都误会了美股纳斯达克100本质是全球科技100巨… (01-24)
    普通电脑显卡 隔夜美股全复盘(19) 三大股指全天单边走强芯片… (01-24)
    普通电脑显卡 到底还值得买吗 浅谈R5GT610等入门独显 (01-23)
    普通电脑显卡 nvidia指的是什么意思 (01-23)
    普通电脑显卡 电脑显卡有什么作用 (01-23)
    普通电脑显卡 显卡的发展史是怎样的? (01-22)
    普通电脑显卡 媳妇儿怎么找显卡怎么挑其实都是这个道理! (01-22)
    普通电脑显卡 硬件情报站第127期:RTX 4070 Super刚上市就破… (01-22)
    普通电脑显卡 华硕主板搭RTX4070 SUPER显卡 新年装机最佳CP (01-21)
    普通电脑显卡 2024年的第一张良心显卡!NVIDIA RTX 4070 SU… (01-21)
    普通电脑显卡 类魂新作《无限机兵》PC配置公开 1070显卡即可… (01-21)
    普通电脑显卡 RTX 40 SUPER将统一配备强大16针供电接口 (01-20)
    普通电脑显卡 NVIDIA RTX 4070 SUPER显卡实测:性能逼近RTX… (01-20)
    普通电脑显卡 AMD RX 580570显卡实卡照曝光:高频低功耗 (01-20)
    普通电脑显卡 推荐一:显卡篇 (01-19)
    普通电脑显卡 疯狂涨价!最新显卡性能排名出炉:你的卡排第… (01-19)
    普通电脑显卡 笔记本也能升级显卡!这操作直接复活老古董 (01-19)
    普通电脑显卡 增加RTX 4070 SUPER显卡支持:英伟达发布5466… (01-18)
    普通电脑显卡 英伟达正开发 6GB 显存版 RTX 3050 显卡 (01-18)