加入收藏 | 设为首页 | 会员中心 | 我要投稿 揭阳站长网 (https://www.0663zz.com/)- 科技、建站、经验、云计算、5G、大数据,站长网!
当前位置: 首页 > 大数据 > 正文

Habana Gaudi处理器带来低成本的AI训练体验

发布时间:2021-09-26 21:30:57 所属栏目:大数据 来源:互联网
导读:在近日举行的 re:Invent 2020 CEO主题大会 上,AWS 宣布了采用多达8个 HabanaGaudi加速器的EC2实例 ,比目前GPU的EC2实例在 机器学习 性价比上提升了40%,基于Gaudi的EC2实例计划于2021年上半年提供使用。 在主题大会上,AWS首席执行官Andy Jassy强调了各行

在近日举行的re:Invent 2020 CEO主题大会上,AWS 宣布了采用多达8个HabanaGaudi加速器的EC2实例,比目前GPU的EC2实例在机器学习性价比上提升了40%,基于Gaudi的EC2实例计划于2021年上半年提供使用。

在主题大会上,AWS首席执行官Andy Jassy强调了各行业对高性能、更实惠的人工智能工作的巨大需求。随着公司计划引入以Gaudi为特色的新EC2实例进行深度学习训练,AWS将进一步降低AI数据集的训练成本,并降低希望利用AI提供业务分析、改善效率和增强用户体验的客户的运营总成本。

8卡的Gaudi 解决方案可以在TensorFlow上每秒处理12000张图像训练ResNet-50模型。每个Gaudi处理器集成了32GB的HBM2内存,并集成了用于服务器内部处理器互联的RoCE功能。凭借AWS弹性架构适配器(EFA)的技术可以跨服务器扩展,从而允许AWS及其客户无缝地扩展使用多个基于Gaudi的系统以实现高效和可扩展的分布式训练。

Habana的SynapseAI软件套件专为在Habana Gaudi处理器上提供高性能的深度学习训练,SynapseAI与TensorFlow和Pythorch等流行的深度学习框架集成,对Gaudi进行了优化。开发人员将可以获取开放的Gaudi软件、参考模型和文档。参考模型将在Habana的GitHub知识库中公开发布,并将包括各种流行的模型,如图像分类、对象检测、自然语言处理和推荐系统。SynapseAI软件套件包括Habana的图形编译器实时Tensor Processor Core (TPC)内核库固件和驱动程序,以及用于定制内核开发的TPC SDKSynapseAI Profiler等开发工具。

 

(编辑:揭阳站长网)

【声明】本站内容均来自网络,其相关言论仅代表作者个人观点,不代表本站立场。若无意侵犯到您的权利,请及时与联系站长删除相关内容!