飞扬围棋论坛

 找回密码
 注册
搜索
楼主: liuyifei2020
打印 上一主题 下一主题

请问Tesla A100下围棋强吗

[复制链接]
1#
发表于 2020-12-21 12:42 | 显示全部楼层
A100 是计算卡,主要是 fp64(双精) 性能强,可用于训练 AI 权重,价格超级 贵,给企业用的,个人一般用不起。

下棋,只用到 fp32(单精),甚至只需 fp16(半精),或 Tensor Core 加速,用已训练好的权重 进行推理,3090显卡 缩减了fp64功能,性价比 高太多,棋力不弱于 a100。
回复 支持 反对

使用道具 举报

2#
发表于 2020-12-21 13:09 | 显示全部楼层
本帖最后由 amiok 于 2020-12-21 13:22 编辑

训练权重,就是让机器 学习高水平棋谱,提高权重的棋力水平。高水平权重,是要经过长时间学习的。还要经过比赛,优胜劣汰。大浪淘沙,最后留下最优秀的。与人类的学习过程 非常相似。

高水平权重,自对弈,产生高质量棋谱;
高水平棋谱,训练出新权重,与原权重比赛,获胜,得到更高水平的新权重;
迭代,重复上述过程,水平越来越高,超越人类,接近上帝。

权重,就是机器 学习后的大脑。40块权重,非常大的大脑,训练有素,所以水平非常高,棋力非常高,但运算比较慢。20块权重,中等大小的大脑,虽然棋力不是最高,但体积小,运算速度快。15块权重,超过人类最高水平,体积更小,速度更快。

星阵围棋用的是 50块权重 打败了 KataGo 40块权重。


回复 支持 反对

使用道具 举报

3#
发表于 2020-12-21 14:30 | 显示全部楼层
本帖最后由 amiok 于 2020-12-21 17:17 编辑

4路A100,京东查了一下,报价33万元多。如果只用来下棋,太奢侈了。如果用来训练AI,又远远不够。KataGo 用了 46块 V100,练了半年,光电费也不是一个小数目。当年看 AlphaGo 记录片,放大仔细看他们开发的屏幕,发现可用 GPU 竟有 23万块,惊掉下巴,印象深刻。

下棋,
RX 6800XT 足够了。台积电 7nm 工艺,计算性能 FP32 20.74 TFlops,功耗 300瓦,价格 6200元。(性价比高,目前价格虚高)

RTX 3090,三星 8nm 工艺(10nm 二代),计算性能 FP32 35.7 TFlops,功耗 350瓦,价格 1.5万元。(民用顶级,目前价格虚高)

电子产品,更新换代太快。硬件新产品 计算性能 每年 能番一倍,10年 差了 1000倍,20年 能差 100万倍。

再加上软件的优化,新技术层出不穷。用不着发烧,新产品 一年后就落伍了。再烧,也烧不过巨头们(如,谷歌、亚马逊、阿里、腾讯,……)。

我自己,2018年买的 Vega 56,现在还 不亦乐乎,感觉足够了。14nm工艺,计算性能 FP32 10.5 TFlops,功耗 250瓦。



回复 支持 反对

使用道具 举报

4#
发表于 2020-12-21 15:30 | 显示全部楼层
本帖最后由 amiok 于 2020-12-21 17:06 编辑

6块权重,Elo 等级分 3000,业余6段水平

10块权重,Elo 等级分 3600,职业棋手水平

15块权重,Elo 等级分 4200,超越人类水平,柯洁 4000 左右

20块权重,Elo 等级分 4700,让人类2子水平

40块权重,Elo 等级分 5100,让人类3子水平

权重的块数,就是我们学棋中所遇到 所谓的 瓶颈,大多数人,无论多用功,只能达到业余5段水平,也就是6块权重,再要提高会非常非常困难。除非,从小就深度接触围棋。所以,现在的职业棋手,都是放弃了学业,从小开始一直下棋,童子功很重要!小朋友的学习能力,绝对不容小觑,从语言学习能力上,越小越纯正,越没有口音,能充分证明。还需要天赋,即大脑很敏感,他们也会遇到瓶颈,需要冥思苦想,多天后 突然开窍了,这就是突破瓶颈了,可能就是神经网络的块数升级了。估计达到 15块权重,已到了人类生理极限。棋手都很敏感,也很脆弱,容易抑郁,可能是神经连接太多,发生了短路,就想不开了。发现,棋手大多爱喝酒,压力太大,需要适当释放,缓解压力。有研究说,精神分裂症患者,其家属成员的成就 普遍很高,说明神经网络比较敏感,容易连接,也容易搭错,所谓的走火入魔。

围棋确实是开发智力的好工具。东亚三国,都有喜爱围棋的传统,智商在地球上最高。也许是有关系的。

以前,看围棋,如同看天书,根本看不懂,面对同一局面,高手之间的观点也往往会不同,谁知道电视上的解说对不对。现在好了,有了真正的绝顶 高手,帮我们爱好者分析棋局,优劣立判。但同时,也失去了 围棋玄之又玄,山外有山,天外有天 的魅力。

围棋 AI,使我们对 学习、智力、智慧、大脑,有了新的认识。是人类 技术革命 重大突破 的 里程碑。最重要的是 突破了 智慧 不可言传,只可意会 框框。现在可以很方便地传播、传承了。人人可以站在 绝顶高手的肩膀上 看世界。





回复 支持 3 反对 0

使用道具 举报

5#
发表于 2020-12-21 20:06 | 显示全部楼层
本帖最后由 amiok 于 2020-12-21 20:50 编辑

KataGo 权重,最强:g170-b40c256x2-s5095420928-d1229425124.bin.gz

下载地址:
https://github.com/lightvector/KataGo/releases/tag/v1.4.5

主页:
https://github.com/lightvector/KataGo

RX 6800XT,最近刚出,我没用过,据介绍 性能比 RTX 2080Ti 高15%,RTX 2080Ti KataGo 40B 1000visit/s。2秒 下一步棋,Elo 5100分,水平非常高了。
开源程序,让我们爱好者,能一窥神奇的 AI 运作机制,能一起分享 学习、训练、成长的过程。感谢 GCP、David Wu,及众多的开发者,无私的奉献。
回复 支持 反对

使用道具 举报

6#
发表于 2020-12-22 07:42 | 显示全部楼层
本帖最后由 amiok 于 2020-12-22 14:39 编辑

老机器,你需要注意,

电源够不够,一般是不够的,显卡的功耗很高,以前的电源是配不上的。普通电源,价格便宜,但性能很差,电源转换效率不高。金牌电源 效率80%,白金电源 效率90%。因为功率高,所以效率很重要。即使是金牌,500瓦的电源,不但要浪费100瓦,还产生大量的热量。

再一个,机箱散热。300瓦显卡,再加上CPU等,整机功耗一定在500瓦以上,2个小时1度电。相当于一个取暖器或电饭煲,机器散热很重要,否则,用不了多久,就烧坏了。老机器 只能裸机使用,还要用空调降低室温。

所以,你只能选择过时的显卡,还只能选不太强的。如 RX 580,100瓦功率。速度慢一点,30秒一步棋,也能达到 5100 Elo。看棋、学棋够用了,好处是,价格便宜,二手只要 500~600元。
回复 支持 反对

使用道具 举报

7#
发表于 2020-12-22 12:47 | 显示全部楼层
本帖最后由 amiok 于 2020-12-22 13:01 编辑

GTX 750 Ti,2014年 产品,28nm,FP32 1.3TFlops,640个流处理器、18.3亿个晶体管,功耗75W

相当弱,计算能力 与 3090 差了30倍,实际可能还不止。用 40块权重 肯定有点累。但跑 15块权重,应该没问题,你可以试下,棋力可达 4200分,比人类顶尖还是要强大的。
下棋 推荐 KaTrain,他自带 KataGo 15B权重,可设定棋力、棋风。
分析 推荐 Lizzie,与 KataGo 配合默契。

A100,有 542亿晶体管,8nm。这就是技术的进步的力量。也反映在,现在美国一定要卡住中国,不能让中国在先进技术上突破。中国现在自主制造 只有 28nm 的能力,就是你现在在用的显卡的水平。差距确实有点大。
回复 支持 反对

使用道具 举报

8#
发表于 2020-12-22 13:44 | 显示全部楼层
本帖最后由 amiok 于 2020-12-22 14:33 编辑

KataGo 半年前 已停止训练了。它的贡献,主要在优化,用少得多的资源,取得了非凡的效果,而且添加了非常实用的功能。
AlphaGo 两年前 就终止项目了。它的贡献 无与伦比,具有创造性,启发性,取得了突破性 成果,2篇论文在顶级杂志发表,让世界为之一震,掀起 AI 巨浪。足以载入人类进步的史册。公司初创时,李嘉诚旗下基金投资入股。公司发展时,谷歌收购 助其腾飞。比赛时,李嘉诚亲临现场,谷歌老板也现身。伯乐啊!

星阵、绝艺,可能还在继续,是商业的,闭源的,不公开的,与大众无关。

围棋,毕竟是 小道,是智力游戏,是消遣的东西。棋力再高,意义和价值都不大,人类都已经看不懂了,让人类3子,现有的智慧,已可与天仙媲美。



回复 支持 1 反对 0

使用道具 举报

9#
发表于 2021-2-3 07:45 | 显示全部楼层
本帖最后由 amiok 于 2021-2-3 08:43 编辑

块 就是 B,即 Block,残差神经网络(ResNet)的深度单位,1块相当于有2层,其中一层是差分,放大细节差异,便于神经网络训练 稳定收敛,所以残差网络可以堆得更深。AlphaGo Master 使用 20块残差网络,后来用 40块。AlphaGo Zero 则直接用 40块。

卷积神经网络(CNN)的深度单位 是 层,层数多了,神经网络很难训练,AlphaGo Lee 只有 13层,下棋有明显的盲点,被李世石抓住过一盘,赛前樊麾已经发现这个缺陷了。

回复 支持 反对

使用道具 举报

10#
发表于 2021-2-15 18:56 | 显示全部楼层
A 卡,使用 OpenCL 加速,不如 N 卡 CUDA 快。但差距不大。

A 卡 Navi核心 的驱动 OpenCL 曾经有问题,2020年 已修复驱动。围棋程序 Leela Zero 和 KataGo 的 OpenCL 版,使用没有问题。之前的旧核心,如 Vega 等,一直没问题。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 注册

本版积分规则

小黑屋|Archiver|手机版|飞扬围棋网 ( 苏ICP备11029047号-1 )

GMT+8, 2024-5-4 10:01 , Processed in 0.145156 second(s), 17 queries .

since 2003飞扬围棋论坛 Licensed

© 2001-2013 Comsenz Inc.

快速回复 返回顶部 返回列表