天天看点

Java 理论与实践: 非阻塞算法简介

java™ 5.0 第一次让使用 java 语言开发非阻塞算法成为可能,<code>java.util.concurrent</code> 包充分地利用了这个功能。非阻塞算法属于并发算法,它们可以安全地派生它们的线程,不通过锁定派生,而是通过低级的原子性的硬件原生形式

—— 例如比较和交换。非阻塞算法的设计与实现极为困难,但是它们能够提供更好的吞吐率,对生存问题(例如死锁和优先级反转)也能提供更好的防御。在这期的 java

理论与实践 中,并发性大师 brian goetz 演示了几种比较简单的非阻塞算法的工作方式。

在不只一个线程访问一个互斥的变量时,所有线程都必须使用同步,否则就可能会发生一些非常糟糕的事情。java 语言中主要的同步手段就是 <code>synchronized</code> 关键字(也称为内在锁),它强制实行互斥,确保执行 <code>synchronized</code> 块的线程的动作,能够被后来执行受相同锁保护的 <code>synchronized</code> 块的其他线程看到。在使用得当的时候,内在锁可以让程序做到线程安全,但是在使用锁定保护短的代码路径,而且线程频繁地争用锁的时候,锁定可能成为相当繁重的操作。

volatile 变量类似,但是因为它们也可以被原子性地修改,所以可以把它们用作不使用锁的并发算法的基础。

清单 1 中的 <code>counter</code> 是线程安全的,但是使用锁的需求带来的性能成本困扰了一些开发人员。但是锁是必需的,因为虽然增加看起来是单一操作,但实际是三个独立操作的简化:检索值,给值加

1,再写回值。(在 <code>getvalue</code> 方法上也需要同步,以保证调用 <code>getvalue</code> 的线程看到的是最新的值。虽然许多开发人员勉强地使自己相信忽略锁定需求是可以接受的,但忽略锁定需求并不是好策略。)

在多个线程同时请求同一个锁时,会有一个线程获胜并得到锁,而其他线程被阻塞。jvm 实现阻塞的方式通常是挂起阻塞的线程,过一会儿再重新调度它。由此造成的上下文切换相对于锁保护的少数几条指令来说,会造成相当大的延迟。

清单 2 中的 <code>nonblockingcounter</code> 显示了一种最简单的非阻塞算法:使用 <code>atomicinteger</code> 的 <code>compareandset()</code> (cas)方法的计数器。<code>compareandset()</code> 方法规定

“比较和设置” 的更多解释。)

原子变量类之所以被称为原子的,是因为它们提供了对数字和对象引用的细粒度的原子更新,但是在作为非阻塞算法的基本构造块的意义上,它们也是原子的。非阻塞算法作为科研的主题,已经有 20 多年了,但是直到 java 5.0 出现,在 java 语言中才成为可能。

现代的处理器提供了特殊的指令,可以自动更新共享数据,而且能够检测到其他线程的干扰,而 <code>compareandset()</code> 就用这些代替了锁定。(如果要做的只是递增计数器,那么 <code>atomicinteger</code> 提供了进行递增的方法,但是这些方法基于 <code>compareandset()</code>,例如<code>nonblockingcounter.increment()</code>)。

非阻塞版本相对于基于锁的版本有几个性能优势。首先,它用硬件的原生形态代替 jvm 的锁定代码路径,从而在更细的粒度层次上(独立的内存位置)进行同步,失败的线程也可以立即重试,而不会被挂起后重新调度。更细的粒度降低了争用的机会,不用重新调度就能重试的能力也降低了争用的成本。即使有少量失败的 cas 操作,这种方法仍然会比由于锁争用造成的重新调度快得多。

<code>nonblockingcounter</code> 这个示例可能简单了些,但是它演示了所有非阻塞算法的一个基本特征

—— 有些算法步骤的执行是要冒险的,因为知道如果 cas 不成功可能不得不重做。非阻塞算法通常叫作乐观算法,因为它们继续操作的假设是不会有干扰。如果发现干扰,就会回退并重试。在计数器的示例中,冒险的步骤是递增 —— 它检索旧值并在旧值上加一,希望在计算更新期间值不会变化。如果它的希望落空,就会再次检索值,并重做递增计算。

非阻塞算法稍微复杂一些的示例是清单 3 中的 <code>concurrentstack</code>。<code>concurrentstack</code> 中的 <code>push()</code> 和 <code>pop()</code> 操作在结构上与<code>nonblockingcounter</code> 上相似,只是做的工作有些冒险,希望在

“提交” 工作的时候,底层假设没有失效。<code>push()</code> 方法观察当前最顶的节点,构建一个新节点放在堆栈上,然后,如果最顶端的节点在初始观察之后没有变化,那么就安装新节点。如果

cas 失败,意味着另一个线程已经修改了堆栈,那么过程就会重新开始。

在轻度到中度的争用情况下,非阻塞算法的性能会超越阻塞算法,因为 cas 的多数时间都在第一次尝试时就成功,而发生争用时的开销也不涉及线程挂起和上下文切换,只多了几个循环迭代。没有争用的 cas 要比没有争用的锁便宜得多(这句话肯定是真的,因为没有争用的锁涉及 cas 加上额外的处理),而争用的 cas 比争用的锁获取涉及更短的延迟。

目前为止的示例(计数器和堆栈)都是非常简单的非阻塞算法,一旦掌握了在循环中使用 cas,就可以容易地模仿它们。对于更复杂的数据结构,非阻塞算法要比这些简单示例复杂得多,因为修改链表、树或哈希表可能涉及对多个指针的更新。cas 支持对单一指针的原子性条件更新,但是不支持两个以上的指针。所以,要构建一个非阻塞的链表、树或哈希表,需要找到一种方式,可以用 cas 更新多个指针,同时不会让数据结构处于不一致的状态。

在链表的尾部插入元素,通常涉及对两个指针的更新:“尾” 指针总是指向列表中的最后一个元素,“下一个” 指针从过去的最后一个元素指向新插入的元素。因为需要更新两个指针,所以需要两个 cas。在独立的 cas 中更新两个指针带来了两个需要考虑的潜在问题:如果第一个 cas 成功,而第二个 cas 失败,会发生什么?如果其他线程在第一个和第二个 cas 之间企图访问链表,会发生什么?

对于非复杂数据结构,构建非阻塞算法的 “技巧” 是确保数据结构总处于一致的状态(甚至包括在线程开始修改数据结构和它完成修改之间),还要确保其他线程不仅能够判断出第一个线程已经完成了更新还是处在更新的中途,还能够判断出如果第一个线程走向 awol,完成更新还需要什么操作。如果线程发现了处在更新中途的数据结构,它就可以 “帮助” 正在执行更新的线程完成更新,然后再进行自己的操作。当第一个线程回来试图完成自己的更新时,会发现不再需要了,返回即可,因为 cas 会检测到帮助线程的干预(在这种情况下,是建设性的干预)。

这种 “帮助邻居” 的要求,对于让数据结构免受单个线程失败的影响,是必需的。如果线程发现数据结构正处在被其他线程更新的中途,然后就等候其他线程完成更新,那么如果其他线程在操作中途失败,这个线程就可能永远等候下去。即使不出现故障,这种方式也会提供糟糕的性能,因为新到达的线程必须放弃处理器,导致上下文切换,或者等到自己的时间片过期(而这更糟)。

清单 4 的 <code>linkedqueue</code> 显示了

michael-scott 非阻塞队列算法的插入操作,它是由 <code>concurrentlinkedqueue</code> 实现的:

像许多队列算法一样,空队列只包含一个假节点。头指针总是指向假节点;尾指针总指向最后一个节点或倒数第二个节点。图 1 演示了正常情况下有两个元素的队列:

Java 理论与实践: 非阻塞算法简介

cas 进行的:从队列当前的最后节点(c)链接到新节点,并把尾指针移动到新的最后一个节点(d)。如果第一步失败,那么队列的状态不变,插入线程会继续重试,直到成功。一旦操作成功,插入被当成生效,其他线程就可以看到修改。还需要把尾指针移动到新节点的位置上,但是这项工作可以看成是 “清理工作”,因为任何处在这种情况下的线程都可以判断出是否需要这种清理,也知道如何进行清理。

null,就可以判断出队列的状态,这是让线程可以帮助其他线程 “完成” 操作的关键。

Java 理论与实践: 非阻塞算法简介

第一个 cas(c)可能因为两个线程竞争访问队列当前的最后一个元素而失败;在这种情况下,没有发生修改,失去 cas 的线程会重新装入尾指针并再次尝试。如果第二个 cas(d)失败,插入线程不需要重试 —— 因为其他线程已经在步骤(b)中替它完成了这个操作!

Java 理论与实践: 非阻塞算法简介

如果深入 jvm 和操作系统,会发现非阻塞算法无处不在。垃圾收集器使用非阻塞算法加快并发和平行的垃圾搜集;调度器使用非阻塞算法有效地调度线程和进程,实现内在锁。在 mustang(java 6.0)中,基于锁的 <code>synchronousqueue</code> 算法被新的非阻塞版本代替。很少有开发人员会直接使用 <code>synchronousqueue</code>,但是通过 <code>executors.newcachedthreadpool()</code> 工厂构建的线程池用它作为工作队列。比较缓存线程池性能的对比测试显示,新的非阻塞同步队列实现提供了几乎是当前实现

3 倍的速度。在 mustang 的后续版本(代码名称为 dolphin)中,已经规划了进一步的改进。

非阻塞算法要比基于锁的算法复杂得多。开发非阻塞算法是相当专业的训练,而且要证明算法的正确也极为困难。但是在 java 版本之间并发性能上的众多改进来自对非阻塞算法的采用,而且随着并发性能变得越来越重要,可以预见在 java 平台的未来发行版中,会使用更多的非阻塞算法。

goetz,2004 年 11 月):描述了 java 5.0 中加入的原子变量类,以及比较-交换操作。