NVIDIA显卡

NVIDIA 产品线主要有以下几款产品:

  • Tesla:面向高性能计算,一般是用于科学计算或通用计算,而不是用于图形显示
  • Quadro:面向服务器、工作站,一般用于专业用途,比如设计、仿真、成像、开发等
  • GeForce:面向桌面、笔记本,是消费级显卡,一般用于游戏加速、高清影视
  • Tegra:移动处理器,比如手机、汽车,强调省电
  • GRID:虚拟化 GPU,比如亚马逊 EC2 提供的 g2.2xlarge 就是具有 1536 内核 GRID K520 GPU
  • NVS:用于多显示器,比如我的 T410 携带的就是这个系列的显卡,估计是最低端的
image_1bpegm3h4lbg10572a3s1f45u9.png-207.1kB
image_1bpegm3h4lbg10572a3s1f45u9.png-207.1kB

其中 GeForce 因为面向普通消费者,因此使用最多。它的产品性能是:GeForce GTX > GeForce GTS / GT > Geforce,分别代表高端性能级显卡、主流显卡、低端显卡。该系列主流产品如下,我的 T450 就带了一颗 NVIDIA GeForce 940M 显卡。这里有一个 显卡性能天梯图,可以看出这个显卡排名 705 位,相当渣渣,不过这个型号以及 940MX 是目前笔记本电脑的主流显卡。

image_1bpfl3qb1qui8tmb313l73ip9.png-149.4kB
image_1bpfl3qb1qui8tmb313l73ip9.png-149.4kB

NVIDIA 显卡末尾数字解读。以 GeForce GTX 980M 为例。GTX 我们上面已经讲了是高端显卡的意思。980M:第一位数字 9,代表第几代的意思(9 当然是高端显卡第九代的意思);第二位和第三位是一起看的,当然了后面两位数大小取决于中间这位数的大小,所以我们通常看第二位,不看第三位数字。第二位至关重要,因为显卡分类高端显卡,中端显卡,入门级显卡就是取决于第二位数字的。第二位数字:第二位数字是 1-2 代表是入门级显卡。第二位数字是 3-6 代表是中端显卡。第二位数字是 6-9 代表是高端显卡。

核显和独显的性能差距基本上如下:


image_1bpvi7kg612fj2401j7j1ipd6h6p.png-55.4kB
image_1bpvi7kg612fj2401j7j1ipd6h6p.png-55.4kB

虚拟机使用显卡的问题

通过 NVIDIA 控制面板,“3D Settings -> Manage 3D settings -> Preferred graphics processor ”,这样可以设置 VirtualBox 使用 NVIDIA 显卡,虚拟机可以利用 NVIDIA 的 OpenGL 功能。然而 CUDA 应该是穿不透的,因此利用显卡进行机器学习是无法实现的。详见 Use NVidia GPU from VirtualBox?

目前推荐的方法是装双系统,Linux 上单独安装 NVIDIA 显卡驱动。

机器学习显卡选型

参考 GPU 购买指南。这里还有一篇 折腾手记

本章我们简要介绍 GPU 的购买须知。这里主要针对个人用户购买一两台自用的 GPU 服务器。而不是针对需要购买

  • 100+台机器的大公司用户。请咨询专业数据中心维护人员,通常你们会考虑 Nvidia Tesla P100 或者 V100。你可以完全跳过此节。

  • 10+台机器的实验室和中小公司用户:不缺钱可以上 Nvidia DGX-1,不然可以考虑购买如 Supermicro 之类性价比较高的服务器。此节的一些内容可以做为参考。

选择 GPU

目前独立 GPU 主要有 AMD 和 Nvidia 两家厂商。其中 Nvidia 由于深度学习布局较早,深度学习框架支持更好,因此目前主要会选择 Nvidia 的卡。

Nvidia 卡有面向个人用户(例如 GTX 系列)和企业用户(例如 Tesla 系列)两种。企业用户卡通常使用被动散热和增加了内存校验从而更加适合数据中心。但计算能力上两者相当。企业卡通常要贵上 10 倍,因此个人用户通常选用 GTX 系列。

Nvidia 一般每一两年会更新一次大版本,例如目前最新的是 1000 系列。每个系列里面会有数个不同型号,对应不同的性能。

GPU 的性能主要由下面三个主要参数构成:

  • 计算能力。通常我们关心的是 32 位浮点计算能力。当然,对于高玩来说也可以考虑 16 位浮点用来训练,8 位整数来预测。
  • 内存大小。神经网络越深,或者训练时批量大小越大,所需要的 GPU 内存就越多。
  • 内存带宽。内存带宽要足够才能发挥出所有计算能力。

对于大部分用户来说,只要考虑计算能力就行了。内存不要太小就好,例如不要小于 4GB。如果显卡同时要用来显示图形界面,那么推荐 6G 内存。内存带宽可以让厂家来纠结。

下图画了 900 和 1000 系列里各个卡的 32 位浮点计算能力和价格的对比(价格是 wikipedia 的推荐价格,真实价格通常会有浮动)。

image_1c3ff8b3epim1rrisch1d1e7o19.png-141.5kB
image_1c3ff8b3epim1rrisch1d1e7o19.png-141.5kB

我们可以读出两点信息:

  • 在同一个系列里面,通常价格和性能成正比
  • 1000 系列性价比 900 高 2 倍左右。

如果大家继续比较 GTX 前面几代,也发现规律是类似的。根据这个我们推荐

  • 买新不买旧,因为目前看来 GPU 性能还是在快速迭代,贬值较快。
  • 量力购买。不缺钱直接上最好的,但入门的 1050TI 也不错。

整机配置

如果主要是用 GPU 来做计算,或者说主要是做深度学习训练,不需要购买高端的 CPU。可以将主要预算花费在 GPU 上。所以整机配置可以参考网上推荐的中高档就好。

不过由于 GPU 的功耗,散热和体积,需要一些额外考虑。

  • 机箱体积。GPU 尺寸较大,通常不考虑太小的机箱。而且机箱自带的风扇要好。(下图里我们曾尝试在一个中等机箱里塞满 4 卡导致散热不好烧了 2 块 GPU。)
  • 电源。购买 GPU 时需要查下 GPU 的功耗,50w 到 300w 不等。因此买电源时需要功率足够的。(我们倒是一开始就考虑了这个,但忘了不过载机房供电。下面是 5 台机器满负荷运行时烧掉了一个 30A 的电源接口。)
  • 主板的 PCIe 卡槽。推荐使用 PCIe 3.0 16x 来保证足够的 GPU 到主内存带宽。如果是多卡的话,要仔细看主板说明,保证多卡一起使用时仍然是 16x 带宽。(有些主板插 4 卡时会降到 8x 甚至 4x)
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 161,601评论 4 369
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 68,367评论 1 305
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 111,249评论 0 254
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 44,539评论 0 217
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 52,967评论 3 295
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 40,929评论 1 224
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 32,098评论 2 317
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 30,825评论 0 207
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 34,609评论 1 249
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 30,796评论 2 253
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 32,282评论 1 265
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 28,603评论 3 261
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 33,277评论 3 242
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 26,159评论 0 8
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 26,959评论 0 201
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 36,079评论 2 285
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 35,874评论 2 277