最新公告 新闻资讯 优惠促销 网站地图 服务热线:400-028-3633 座机号:028-6391-0969

关于我们

14年IDC综合服务提供商

公司介绍 新闻资讯 支付方式 联系我们 加入我们 公司活动
 越南队VS澳大利亚队  > 新闻资讯 > 行业资讯 > GPU服务器的选择技巧让您选择适合的服务器

GPU服务器的选择技巧让您选择适合的服务器

  在详细介绍选取GPU服务器的挑选小技巧前,先来跟大伙儿详细介绍下常用的GPU和GPU服务器。

  常用的GPU,按总线接口类型,可以分成NV-Link插口、传统式总线插口及其传统式PCI-e总线几种。


  NV-Link接口类型的GPU典型性代表是NVIDIA V100,选用 SXM2接口类型。在DGX-2上带SXM3的接口类型。NV-Link总线规范的GPU服务器可以分成两大类,一类是NVIDIA企业设计构思的DGX超级计算机,另一类是战略合作伙伴设计构思的NV-Link接口类型的网站服务器。DGX高性能计算机不仅具备硬件配置,也有关于的软件和服务项目。

  传统化总线接口类型的GPU,现阶段主流产品的有这几款商品,例如 PCI-e接口的V100、 P40(P开头指的是上一代PASCAL架构)和P4,及其最新信息的图灵构架T4等。其中较为薄和只占1个槽位的P4和T4,一般而言用以Inference,现阶段也己经有成熟的实体模型开展推理和鉴别。

  传统式PCI-e总线的GPU服务器也分成两大类,一类是OEM网站服务器,例如曙光、浪潮、华为等别的国际名牌;另一类是非OEM的网站服务器,也包含许多类型。选择服务器时除开归类,也要考虑到性能参数,例如精密度、显存类型、显存容量及其功率等,同时也会有某些网站服务器是须要水冷散热、降噪处理或是对环境温度、移动性这些层面有独特的标准。

  挑选GPU服务器时最先要考虑到业务流程要求来挑选合适的GPU型号规格。在HPC高性能计算中还需要依据精密度来挑选,例如有的高性能计算需要双精度,这时候假如应用P40或是P4都不适合,只有应用V100或是P100;同时也会对显存容量有规定,例如石油或石化勘查类的测算运用对显卡内存规定较为高;还有些对总线规范有规定,因而选择GPU型号规格要要看业务部门要求。

  GPU服务器人工智能技术行业的运用也较为多。在课堂教学情景中,对GPU虚拟化技术的规定较为高。依据课堂教学总数,一个教师将会必须将GPU服务器虚似出30乃至60个虚似GPU,因而大批量Training对GPU规定较为高,一般用V100做GPU的训炼。模型训练完以后必须开展推理,因而推理通常会应用P4或者T4,一小部分状况也用到V100。

  当GPU型号规格选中后,再考虑到用哪些GPU的网站服务器。这时候我们必须考虑到下列几类状况:

  第一、 在边缘网站服务器上必须依据量来挑选T4或是P4等相对的网站服务器,一起还要考虑到网站服务器的应用情景,例如汽车站接口、飞机场卡口或是公安卡口等;在管理中心端做Inference时将会须要V100的网站服务器,须要考虑到吞吐量及其应用情景、总数等。

  第二、 必须考虑到顾客自身应用群体和IT运维工作能力,针对BAT这种大企业而言,她们自身的经营工作能力较为强,这时候会挑选通用性的PCI-e服务器;而针对某些IT运维工作能力不那麽强的顾客,她们更关心数字及其数据标注等,我们称这种人为大数据工程师,挑选GPU服务器的规范也会大不一样。

  以上就是我们教大家的GPU服务器的选择技巧,希望大家都能选择到一台适合自己的服务器。

1536132585120674.png

欢迎关注微信公众号

Baidu
sogou