飞扬围棋

标题: leelaz将要发布NVIDIA版本 [打印本页]

作者: lu01 时间: 2018-11-20 07:55
标题: leelaz将要发布NVIDIA版本
https://github.com/gcp/leela-zero/issues/2032

作者: landa 时间: 2018-11-20 20:14
或许是个错误决定，nvidia靠不公开cuda中ai部分，只卖硬件的模式不会长久。ai不一定要绑在显卡上，华为、阿里的AI加速卡已经测试阶段。

作者: 罗浩宇 时间: 2018-11-20 20:55
亲爱的楼主这个版本和原来的版本有什么不一样呢，不都是用显卡吗？求科普，谢谢！！

作者: landa 时间: 2018-11-20 21:41

罗浩宇发表于 2018-11-20 20:55
亲爱的楼主这个版本和原来的版本有什么不一样呢，不都是用显卡吗？求科普，谢谢！！

现在版本用的是opencl语言编写，支持各种显卡来进行并行计算。n卡对其只支持到1.2版，效率不高。
未来版本是cuda语言编写，只支持n卡，运行效率和编程效率都会提高。
cuda今年加入了cudnn深度学习库，这个库有利于leela的权重训练。
但cuda和cudnn绑死了n卡，很多ai公司不爽，在研发脱离显卡的ai加速卡。
云加速也是个趋势，也许明年，你接入到阿里云或华为云，不用买昂贵的显卡也能享受高速并行计算的服务。

作者: 罗浩宇 时间: 2018-11-20 22:21

landa 发表于 2018-11-20 21:41
现在版本用的是opencl语言编写，支持各种显卡来进行并行计算。n卡对其只支持到1.2版，效率不高。
未来版 ...

谢谢懂了很多，就是说 N卡以后能很好的用里拉姐姐，而A卡就不太好用了，是吗？

作者: hred9D 时间: 2018-11-21 12:54
nvidia的老黄唯利是图。。

作者: hred9D 时间: 2018-11-21 21:21
大家去支持一下作者，需要20人以上

作者: amiok 时间: 2018-11-22 22:14
你理解反了，应该是，AMD卡用Leela更好，比N卡好。
现在，用了fp16，在A卡，快了两倍，
但，N卡，即使是2080Ti，也没怎么提升，
因为，N卡，不支持新的OpenCL。

作者: lxjtt09 时间: 2018-11-22 22:25
本帖最后由 lxjtt09 于 2018-11-22 22:32 编辑

amiok 发表于 2018-11-22 22:14
你理解反了，应该是，AMD卡用Leela更好，比N卡好。
现在，用了fp16，在A卡，快了两倍，
但，N卡，即使是2 ...

没有2倍那么夸张吧。

作者: 小曾 时间: 2018-11-22 22:34
千万不要乱说的，免得人家误解

作者: amiok 时间: 2018-11-23 07:17
gcp commented 5 days ago •
edited
anything to optimize on amd gpus (like rx580/590 or vega) ?
We support both of these through fp16 compute support (during inference). The RX cards in theory should only benefit a little because they only save register space in fp16 mode, but empirically my RX560 actually becomes almost twice as fast in fp16/half mode. Vega should benefit a lot as it has fp16 compute, but I remember early reviews saying it is disabled in OpenCL (Edit: Some Googling shows newer drivers do have it enabled).

For training it all depends on how good TensorFlow's support for AMD cards is.

作者: lxjtt09 时间: 2018-11-23 07:52
a卡确实提升明显，n卡要期待这个NVIDIA版了。

作者: amiok 时间: 2018-11-23 07:55
本帖最后由 amiok 于 2018-11-23 09:08 编辑

gcp（leela作者）：2018-11-18
在amd gpus上优化了什么？（如rx580 / 590或vega）
支持fp16计算（推断过程）支持这两者。理论上RX卡只会受益一点点，因为它们只能在fp16模式下节省寄存器空间，但从经验上来说，我的RX560在 fp16/半精模式下实际上几乎快了两倍。 Vega应该受益更多，因为它有fp16计算，但我记得早期的评论说它在OpenCL中被禁用（编辑：一些谷歌搜索显示，新的驱动程序确实启用了）。

对于训练来说，这一切都取决于TensorFlow对AMD卡的支持程度。

https://github.com/gcp/leela-zer ... uecomment-439025096

作者: amiok 时间: 2018-11-23 08:14
我的显卡是 Radeon HD7770，很老的，
用Leela Zero v0.15
ELF权重，20B*224，自对弈，188手，123分钟，每手39.30秒。

用Leela Zero v0.16
40B权重，40B*256，自对弈，154手，3322秒，每手21.57秒。

可见，提升确有两倍多。

作者: amiok 时间: 2018-11-23 08:38
李世乭 vs AlphaGo，第四局，神之一手分析，

#157 权重

ELF v1

#189 权重

作者: amiok 时间: 2018-11-23 09:06

amiok 发表于 2018-11-23 07:55
gcp（leela作者）：2018-11-18
在amd gpus上优化了什么？（如rx580 / 590或vega）
支持fp16计算（推断过 ...

用的是谷歌翻译，没仔细检查。

作者: amiok 时间: 2018-11-23 09:14
本帖最后由 amiok 于 2018-11-23 09:22 编辑

amiok 发表于 2018-11-23 08:14
我的显卡是 Radeon HD7770，很老的，
用Leela Zero v0.15
ELF权重，20B*224，自对弈，188手，123分钟， ...

HD 7770，只有15亿晶体管，10个计算单元；RX 580，有57亿晶体管，32个计算单元；

Vega 56，有125亿晶体管，56个计算单元；

正在考虑，升级到Vega 56。这卡是目前性价比最高的，尤其是用来跑Leela。

作者: 夏天_Z5rwS 时间: 2018-11-23 12:36
不懂，不是一直都说是 a卡不好嘛？求高手来解惑

作者: amiok 时间: 2018-11-23 15:56
本帖最后由 amiok 于 2018-11-23 17:58 编辑

刚开始，因为用的显卡是 Radeon HD 7770，比较老旧，
我也人云亦云，买了N卡 1050Ti，升级显卡。
结果，跑里拉，两者速度差不多。
但是，N卡看高清电影，居然不支持，音频源码输出，只能让其下岗了。
所以，深入研究了一下。发现，N卡过誉了。
上一代，A卡未推出高端显卡，所以N卡独占鳌头。
2017年，A卡推出第5代GPU，称为Vega，即织女星系列。
可以与N卡高端，一较高下。
现在，用的技术，两家是差不多的，都是十几纳米，
显卡，最重要的指标，就是芯片的晶体管多少，
从上表可以看到，Vega是125亿，而1070/1080是72亿，1080Ti是120亿，显存都是8GB。
A卡，在晶体管数量上是有优势的。
再有，A卡开放，对OpenCL、DirectX12的支持，比N卡好太多，有利于开源软件的开发。
最后，A卡，比N卡便宜，尤其在比特币崩溃后。
上面，有网友提到，用Vega 56，Leela 40块，一手只需3.27秒。
这个速度，对一般爱好者，应该是足够了。

此卡，现价，2700元。我刚刚在淘宝已下单，订购一块。
另外，该卡，功耗210W，最高400W，所以，还需升级电源，我还订了一台海韵650GC 电源。
N卡，新卡，更胜一筹，但价格也更高。显卡中的苹果。
RTX 2080Ti，12nm，186亿晶体管，功耗260W，$999
RTX 2080，12nm，136亿晶体管，功耗225W，$699

作者: 小曾 时间: 2018-11-23 17:05
我是2080ti华硕的显卡的，感觉慢棋要比脸书厉害的

作者: 小曾 时间: 2018-11-23 17:06
今天下载了最新的里拉软件191权重，其实不如老的190权重，特别是容易被翻盘的，有缺陷

作者: 小曾 时间: 2018-11-23 21:03

小曾发表于 2018-11-23 17:05
我是2080ti华硕的显卡的，感觉慢棋要比脸书厉害的

10秒和20秒都下过了，最终结果还是190权重赢的

作者: alven_zhang 时间: 2018-11-27 10:09

amiok 发表于 2018-11-23 15:56
刚开始，因为用的显卡是 Radeon HD 7770，比较老旧，
我也人云亦云，买了N卡 1050Ti，升级显卡。
结果， ...

请问vega56到手表现怎么样啊？能给小白讲一下么？我准备下手vega64，跟56比值得买么？还有看到有人说，vega要linux下才能正常运行，这。。。。

作者: amiok 时间: 2018-11-27 19:38
本帖最后由 amiok 于 2018-12-2 09:03 编辑

Vega 56到手，已用上了。
Windows 7 64系统，
驱动，Win7-64Bit-Radeon-Software-Adrenalin-Edition-18.11.2-Nov19
Leela Zero 0.16 AutoGTP v17
运行正常，支持fp16，

Leela Zero，
  OpenCL 2.1
  2990Gflops
  122 move，537s/game，4.40s/move，
  146 move，477s/game，3.56s/move，
自对弈，8～9分钟一局，支持半精fp16加速。爽。

https://www.hardwareluxx.de/inde ... ervolting-test.html降压，升频，节能73W.

作者: 夏天_Z5rwS 时间: 2018-11-28 12:38

amiok 发表于 2018-11-27 19:38
Vega 56到手，已用上了。
Windows 7 64系统，
驱动，Win7-64Bit-Radeon-Software-Adrenalin-Edition-18.1 ...

请问支持win10 64 吗？

作者: leeking 时间: 2018-11-28 18:26

夏天_Z5rwS 发表于 2018-11-28 12:38
请问支持win10 64 吗？

vega56在win10上更好

作者: hred9D 时间: 2018-11-28 20:06
这个时候开源，迟到了

欢迎光临飞扬围棋 (http://bbs.flygo.net/Bbs/)