什么是gpu服务器?带宽可以说是服务器租用价格的决定因素，100m共享和10m独享的价格就有很大差别，需要的带宽越大费用越高。
gpu服务器是基于gpu的应用于视频编解码、深度学习、科学计算等多种场景的快速、稳定、弹性的计算服务。
gpu服务器有什么作用?
gpu 加速计算可以提供非凡的应用程序性能，能将应用程序计算密集部分的工作负载转移到 gpu，同时仍由 cpu 运行其余程序代码。从用户的角度来看，应用程序的运行速度明显加快。
理解 gpu 和 cpu 之间区别的一种简单方式是比较它们如何处理任务。cpu 由专为顺序串行处理而优化的几个核心组成，而 gpu
则拥有一个由数以千计的更小、更高效的核心(专为同时处理多重任务而设计)组成的大规模并行计算架构。
选择gpu服务器的基本原则
在介绍选择gpu服务器的基本原则之前，先来跟大家介绍下常见的gpu和gpu服务器。
常见的gpu，按总线接口类型可以分为nv-link接口、传统总线接口以及传统pci-e总线三种。
nv-link接口类型的gpu典型代表是nvidia v100，采用sxm2接口，在dgx-2上有sxm3的接口。
nv-link总线标准的gpu服务器可以分为两类，一类是nvidia设计的dgx超级计算机，另一类是合作伙伴设计的nv-link接口的服务器。dgx超级计算机不仅仅提供硬件，还有相关的软件和服务。
传统总线接口的gpu，目前主流的有这几款产品，比如采用了pci-e接口的v100、
p40(p开头指的是上一代pascal架构)和p4，以及最新的图灵架构t4等。其中比较薄和只占一个槽位的p4和t4，通常用于inference，目前也已经有成熟的模型进行推理和识别。
传统pci-e总线的gpu服务器也分为两类，一类是oem服务器，比如曙光、浪潮、华为等其他国际品牌;另一类是非oem的服务器，也包括很多种类。了解：浪潮服务器分销
选择服务器时除了分类，还要考虑性能指标，比如精度、显存类型、显存容量以及功耗等，同时也会有一些服务器是需要水冷、降噪或者对温度、移动性等等方面有特殊的要求，就需要特殊的服务器。
选择gpu服务器时首先要考虑业务需求来选择适合的gpu型号。在hpc高性能计算中还需要根据精度来选择，比如有的高性能计算需要双精度，这时如果使用p40或者p4就不合适，只能使用v100或者p100;同时也会对显存容量有要求，比如石油或石化勘探类的计算应用对显存要求比较高;还有些对总线标准有要求，因此选择gpu型号要先看业务需求。
gpu服务器人工智能领域的应用也比较多。了解：人工智能服务器租赁价格
在教学场景中，对gpu虚拟化的要求比较高。根据课堂人数，一个老师可能需要将gpu服务器虚拟出30甚至60个虚拟gpu，因此批量training对gpu要求比较高，通常用v100做gpu的训练。模型训练完之后需要进行推理，因此推理一般会使用p4或者t4，少部分情况也会用v100。
当gpu型号选定后，再考虑用什么样gpu的服务器。这时我们需要考虑以下几种情况：
第一、在边缘服务器上需要根据量来选择t4或者p4等相应的服务器，同时也要考虑服务器的使用场景，比如火车站卡口、机场卡口或者公安卡口等;在中心端做inference时可能需要v100的服务器，需要考虑吞吐量以及使用场景、数量等。了解：边缘计算服务器租用
第二、需要考虑客户本身使用人群和it运维能力，对于bat这类大来说，他们自己的运营能力比较强，这时会选择通用的pci-e服务器;而对于一些it运维能力不那么强的客户，他们更关注数字以及数据标注等，我们称这类人为数据科学家，选择gpu服务器的标准也会有所不同。
第三、需要考虑配套软件和服务的价值。
第四、要考虑整体gpu集群系统的成熟程度以及工程效率，比如像dgx这种gpu一体化的超级计算机，它有非常成熟的从底端的操作系统驱动docker到其他部分都是固定且优化过的，这时效率就比较高。
来源：智东西(zhidxcom)
关于十次方：十次方作为专业的it硬件在线租赁平台，专注于企业级服务器租赁业务，为企业提供数据中心it硬件全生命周期解决方案，支持戴尔服务器、惠普服务器、浪潮服务器等各大主流服务器品牌。租服务器，在线咨询服务器租用价格，咨询算力银行项目，就找在线it租赁平台十次方，：0755-26922157