\u200E
全新AI开发环境来了!NVIDIA产品专家为您解密NGC飞桨容器
发布日期:2022-08-24T12:03:10.000+0000 浏览量:953次


在过去的半年里,NVIDIA与飞桨紧密合作,针对用户的多方面需求,双方联合开发了三大主要产品:
  • 基于NVIDIA GPU定制优化的NGC飞桨容器。其包含了最新的NVIDIA工具包和优化后的飞桨版本,致力于为开发者提供最佳的开发环境。
  • GitHub上NVIDIA的Deep Learning Examples仓库[1]。该仓库向开发者提供拥有极致性能并易于复现的飞桨模型示例。
  • NVIDIA深度学习培训中心DLI Course[2]。NVIDIA与飞桨共建的系列免费课程及联名认证证书也即将在该深度学习培训中心上线,旨在帮助大家提高训推性能并简化代码。

容器是什么?为什么要使用容器?


容器包含了深度学习框架在运行时所需的所有部件(包括驱动,工具包等),它具有轻量化与可复制性、打包和执行环境合二为一以及简化应用程序部署等优势,因此,被认为是在同一环境中实现“构建、测试、部署”的最佳平台。
容器允许我们创建标准化可复制的轻量级开发环境,摆脱来自Hypervisor所带来运行开销。应用程序可以基于Container Runtime运行在“任意”系统中。

为什么要开发NGC飞桨容器?


根据多份市场调研报告显示,飞桨已位居中国深度学习平台市场首位[3],并构建了全球前三、中国第一的AI开发者生态[4]。如何确保庞大规模的飞桨开发者,尤其是采用NVIDIA平台的飞桨用户持续获得最佳的开发体验,始终是飞桨和NVIDIA团队共同关注的话题。
飞桨和NVIDIA团队从与开发者用户的持续交流中,收集到了一些使用上的痛点需求。比如,在提供NGC飞桨容器前,飞桨用户如果希望使用NVIDIA最新软件栈进行开发、训练、部署,需要做大量的手动配置工作,这对不少用户而言是一个巨大的工程挑战。
针对这些需求,NVIDIA与百度飞桨联合开发了NGC飞桨容器,将最新版本的飞桨与最新的NVIDIA的软件栈(如CUDA)进行了无缝的集成与性能优化,最大程度的释放飞桨框架在NVIDIA最新硬件上的计算能力。这样,用户不仅可以快速开启AI应用,专注于创新和应用本身,还能够在AI训练和推理任务上获得飞桨+NVIDIA带来的飞速体验。

“NGC飞桨容器”与“飞桨现有容器”版本的区别?


飞桨现有的容器版本提供了全面的、在不同软件版本和环境下的飞桨容器,用户可以根据自己当前的软硬件环境,挑选相应的容器来下载使用。
而NGC飞桨容器跟飞桨现有的容器相比,有哪些显著的优势?
  • 以月为单位升级更新,每月底发布全新版本,无需注册即可下载。
  • 集成了最新的NVIDIA软件栈(在NGC飞桨容器上线前,飞桨官网容器最新版是CUDA 11.2, 而NVIDIA CUDA最新版本已更新至CUDA 11.7),且双方针对最新版本的软件栈对飞桨进行了适配和优化。此外,NGC飞桨容器还集成了更新的Ubuntu OS版本(Ubuntu 20.04)。
  • 在验证过的模型上拥有更佳的性能(目前,双方已在GitHub NVIDIA Deep Learning Examples中发布了ResNet50模型性能优化结果)。
  • 产品经过严格的开发测试流程,包括CI(Continuous Integration,持续集成)、CD(Continuous Deployment,持续部署)、QA(Quality Assurance,质量保证)以及针对各类硬件和各种硬件拓扑等的开发测试流程),且每次更新版本都会提供对应详尽的产品介绍、同类产品的对比、可靠度测试及扫描报告。
*需要说明的是,以上NGC飞桨容器的特性最终都将被GitHub飞桨代码库集成。

如何下载并使用NGC飞桨容器?


NGC 飞桨容器已经集成入飞桨官网主页。你可以选择 “飞桨版本”+“Linux”+“Docker”+“CUDA 11.7”找到对应的Container下载指令。
  • 运行结果如下:
此外,你也可登录NVIDIA NGC官网,无需注册即可下载获得丰富详细的英文版介绍文档及下载链接。NGC官网中还有更多NVIDIA 针对AI优化的容器、工具包、模型等。NVIDIA NGC官网:https://ngc.nvidia.com/


别错过8月24日NVIDIA专家解读专场!

2022年8月24日周三19:00-20:00,NVIDIA亚太区资深产品负责人Adam Zheng从工程挑战开始,为大家详细介绍NGC飞桨容器的产品定位、功能亮点及适配最新的CUDA版本。此外,NVIDIA Deep Learning Examples 仓库中展示了基于飞桨实现的ResNet50模型的性能优化结果,该示例全面适配各类NVIDIA GPU和各种硬件拓扑(单机单卡,单机多卡),极致优化性能,与PyTorch、TensorFlow同台Benchmark。

【参与方式】

扫描下方海报二维码免费报名



NVIDIA飞桨容器现已开放免费下载,点击“阅读原文” 跳转飞桨官网NGC飞桨安装指南页面。扫描海报二维码加入用户体验群,提交体验报告更可获得精美礼品!

参考文献

[1] Deep Learning Examples 项目链接
https://github.com/NVIDIA/DeepLearningExamples
[2] NVIDIA深度学习培训中心链接
https://www.nvidia.cn/training/
[3]IDC公布最新中国深度学习平台市场综合份额:百度第一
https://caijing.chinadaily.com.cn/a/202107/23/WS60fa5735a3101e7ce975b2a1.html
[4] 全媒体专访

http://www.cedumedia.com/i/36901.html

离离暑云散,袅袅凉风起
【处暑·九寨沟图】由AI作画神器文心·一格创作
传送门:yige.baidu.com




关注【飞桨PaddlePaddle】公众号

获取更多技术内容~