19年最强德扑玩家TOP10 各个身价上亿 Dwan榜上无名

19年最强德扑玩家TOP10

在2019年的德州扑克界，涌现出了一批身价上亿、技艺高超的玩家。以下是当年最强德扑玩家的TOP10榜单：

TOP10：斯蒂芬·奥德怀

斯蒂芬·奥德怀以欧洲循环赛和豪客扑克比赛的成就而闻名。他从线上免费锦标赛开始入门，并在2007年WSOP上赢得7万美元。此后，他一直在多个线下争夺赛中夺冠，并4次进入决赛桌。截至2019年，他共赢下了2900万美金的总奖金，身价早已过亿。

TOP9：贾森·昆

贾森·昆在PS线上赛中疯狂胜利，赢下了一个又一个冠军。他开始参加各种线下杯赛，也成为了各大德州扑克视频中的常客。截至2019年，他在现场锦标赛总收入已经超过3000万美金，在世界历史奖金榜上排名第九。

TOP8：费多尔·霍尔兹

费多尔·霍尔兹以2014年9月的线上扑克冠军而闻名于世。2018年，他在一个豪客赛上赢得了600万美金。他是目前德国最厉害的德扑选手，共计拿下过一个WSOP金手镯。

TOP7：斯蒂芬·奇德威克

斯蒂芬·奇德威克在数学糟糕的英国却成为了知名的职业牌手。他在2010年拿下了属于自己的WSOP金手镯。截至2019年，他早已赢下超过3300万美金。

TOP6：大卫·彼得斯

大卫·彼得斯是美国和海外大型扑克巡回赛的积极成功参与者。他以600美元赢得PS线上锦标赛的冠军，开始了自己的德扑职业生涯。尽管多次参与WSOP，但仅收获过一条金手镯。

TOP5：丹·史密斯

丹·史密斯是学生时代就开始玩德州扑克的玩家，起始资金只有6美金。他赢得了许多冠军，包括世界扑克巡回赛冠军和在澳大利亚百万大赛上的冠军。截至2019年，他共计赢下3600万美金。

TOP4：埃里克·塞德尔

埃里克·塞德尔早前是一名股票交易员，随后转型扑克。他在第一次参加WSOP中就赢得了比赛的亚军，并在92年收获了自己第一个WSOP金手镯。截至2019年，他共计赢下3700万美金。

TOP3：丹尼尔·内格里亚努

丹尼尔·内格里亚努至今已经赢下6条WSOP金手链。他在16岁就成为职业扑克玩家，并在05年结婚。截至2019年，他在德扑上的收入已经达到4200万美金。

TOP2：贾斯汀·博诺莫

贾斯汀·博诺莫在WSOP上多次进入决赛桌，一度成为世界奖金榜第一的德扑选手。他在2019年被布林·肯尼超越，屈居第二。截至2019年，他的德扑收入为4900万美金。

TOP1：布林·肯尼

布林·肯尼是2019年的顶级选手，他在19年参与了16场线下大赛，共赢下了5个冠军。他总计收入5000万美金，堪称赚钱机器。他更喜欢称呼自己为“孤狼”。

值得注意的是，虽然Dwan在德州扑克界有着极高的知名度，但在2019年的榜单中并未上榜，他的排名为454位，营收为340万美金。这证明了当年德扑界的竞争之激烈，以及上述TOP10玩家的卓越实力。

浅谈德州扑克AI核心算法:CFR

自2017年AlphaGo战胜世界围棋冠军柯洁后，人工智能技术进入公众视野。棋牌类AI随之在人工智能领域掀起热潮。然而，在AlphaGo之前，人们就已经开始挑战棋牌类AI，从简单的跳棋、五子棋到复杂的中国象棋、国际象棋，再到围棋和德州扑克，数十年来取得了丰硕成果。德州扑克作为不完全信息博弈，不仅要应对复杂的决策，还要应对对手的虚张声势、故意示弱等策略，其博弈树无论是广度还是深度都非常庞大，一直是科学家们想要攻克的高山。在AlphaGo战胜柯洁的同一年，德扑AI DeepStack和Libratus先后在“一对一无限注德州扑克”中击败了职业扑克玩家，实现了不完全信息博弈的突破，而它们所采用的核心算法就是Counterfactual Regret Minimization(CFR)。

1. Regret Matching

CFR算法的前身是regret matching算法，在此算法中，智能体的动作是随机选择的，其概率分布与positive regret成正比，positive regret表示一个人因为过去没有选择该行动而受到的相对损失程度。

1.1算法原理

石头剪子布是最为简单的零和博弈游戏，是典型的正则式博弈，其payoff table如下：

图1·石头剪刀布收益图

Regret matching算法流程在本例中为：

a)首次迭代，player1和player2都以[公式]概率随机选择动作，假设player1选择布，player2选择剪刀。

b)以player1视角，首次博弈结果收益为：[公式]。

c)根据结果收益计算后悔值，[公式]

d)进行归一化处理更新player1的行动策略：[公式]。

e)根据更新后的策略选择动作进行多次博弈，直至达到纳什平衡

f)返回平均策略

核心代码如下（具体代码戳这儿）：

1）获得策略方法：1.清除遗憾值小于零的策略并重置策略为0；2.正则化策略，保证策略总和为13.在某种情况下，策略的遗憾值总和为0，此时重置策略为初始策略。

2）训练方法：1.玩选择策略进行博弈，根据博弈结果计算动作效益；2.根据动作效益计算后悔值。

实验结果：

1)当固定对手策略为{0.4, 0.3, 0.3}时

图2·固定对手策略，玩家策略

2)当玩家和对手都采用Regret Matching更新策略时

图3·玩家和对手策略

2. Counterfactual Regret Minimization

石头剪子布是典型的“一次性”博弈，玩家做出动作即得到结果。而生活中显然许多的博弈属于序列化博弈，博弈由一系列的动作组成，上一步的动作可能会导致下一步的动作选择变更，最终的动作组合形成博弈结果。这种序列游戏我们不再使用payoff table表示，而是使用博弈树的形式。博弈树由多种状态组成，边表示从一个状态到另一个状态的转换。状态可以是机会节点或决策节点。机会节点的功能是分配一个机会事件的结果，因此每个边代表该机会事件的一个可能结果以及事件发生的概率。在决策节点上，边代表行动和后续状态，这些状态是玩家采取这些行动的结果。

同样地，对CFR算法中的符号进行若干定义：

算法流程：

2.2实例

库恩扑克(Kunh’s pocker)是最简单的限注扑克游戏，由两名玩家进行游戏博弈，牌值只有1，2和3三种情况。每轮每位玩家各持一张手牌，根据各自判断来决定加定额赌注过牌(P）还是加注(B)。具体游戏规则如下：

图4·库恩扑克规则

以玩家α视角构建库恩扑克博弈树：

图5·先手玩家博弈树

CFR算法流程在本例中为：

a)初始策略为随机策略，假设玩家α抽到的牌值为：3

b)第一轮迭代时，节点选择动作P的虚拟收益计算方法为：[公式]。结合博弈树求解得到：[公式]、[公式]、[公式]、[公式]；[公式]、[公式] [公式] [公式]。同理，计算节点选择动作B的虚拟收益为：[公式]

c)利用虚拟收益更新后悔值：[公式]

d)利用后悔值更新策略：[公式]，[公式]

e)归一化策略：[公式]，[公式]

f)多次迭代，直至达到纳什平衡

核心代码实现：

实验结果：

图6·库恩扑克，玩家和对手策略

3.引申

CFR算法出现时就已经能够解决德州扑克，但面对52张底牌、加注、过牌、河牌等复杂多变的情况使得德扑的博弈树无论是深度还是广度都十分的庞大，对计算资源和储存资源上的开销过于巨大，使得仅仅靠CFR算法攻克德扑十分困难。而CFR后续的研究者们都在费尽心力优化CFR算法的效率，致力于提高计算速度和压缩存储空间。在此，笔者简单介绍几种CFR变种算法，仅做了解。

3.1 CFR+：

与CFR算法不同的是，CFR+算法对累计平均策略做折减，对迭代的策略进行平均时，给近期迭代的策略赋予更高的权重；直观上，越到后期，策略表现越好，因此在都策略做平均时，给近期策略更高的权重更有助于收敛。

在CFR+算法中，counterfactual utility被定义为以下形式：

[公式]

在的基础上，CFR+算法定义了一个[公式]，此时CFR+算法中的[公式]为一个累加值，而CFR算法定义[公式]的为平均值，因此CFR+算法中的regret计算方式为：

[公式]

另外，在CFR+算法中，最后输出的平均策略为一下形式：

[公式]

3.2 MCCFR：

MCCFR（Monte Carlo Counterfactual Regret Minimization)是蒙特卡洛算法和CFR算法的结合，其核心在于：在避免每轮迭代整棵博弈树的同时，依然能够保证[公式]的期望值保持不变。将叶子节点分割为不同的[公式]，且保证覆盖所有的叶子结点。

定义[公式]是在当前迭代中选择[公式]的概率：[公式]。

定义[公式]表示在当前迭代中采样到叶子节点的概率：[公式]

那么在选择[公式]迭代时，得到的采样虚拟值为：[公式]

通过一定的概率选择不同的block，得到一个基于采样的CFR算法。

3.3结语

除了上述介绍的两个算法外，CFR算法的优化数不胜数，有提高计算速度的Discount-CFR、Warm Start、Total RBP，也有压缩存储空间的CFR-D、Continue-Resolving、Safe and Nested Subgame Solving等。

机器博弈是人工智能领域的重要研究方向。非完备信息博弈是机器博弈的子领域。非完备信息博弈中存在隐藏信息和信息不对称的特点，和完备信息博弈相比，非完备信息博弈更加贴近现实生活中。例如，竞标、拍卖、股票交易等现实问题中都存在隐藏信息和信息不对称。因此，研究非完备信息博弈问题更有现实意义。德州扑克博弈包含了隐藏信息、信息不对称和随机事件等重要特性，它是典型的非完备信息博弈。对其的研究具有非常重大的意义，感兴趣的读者可深入了解。