第九章 - 线程安全集合类
线程安全集合类概述
线程安全集合类可以分为三大类：
- 遗留的线程安全集合如
Hashtable、Vector
synchronized
- 使用
Collections
- 使用装饰器模式，把所装饰的类的所有方法，套了一个
synchronized
-
Collections.synchronizedCollection
-
Collections.synchronizedList
-
Collections.synchronizedMap
-
Collections.synchronizedSet
-
Collections.synchronizedNavigableMap
-
Collections.synchronizedNavigableSet
-
Collections.synchronizedSortedMap
-
Collections.synchronizedSortedSet
-
java.util.concurrent.*
重点介绍 下的线程安全集合类，可以发现它们有规律，里面包含三类关键词：java.util.concurrent.*
Blocking、CopyOnWrite、Concurrent
- Blocking 大部分实现基于锁，并提供用来阻塞的方法
- CopyOnWrite 之类容器修改开销相对较重
- Concurrent 类型的容器
- 内部很多操作使用 CAS 优化，一般可以提供较高吞吐量
-
弱一致性
- 遍历时弱一致性，例如：当利用迭代器遍历时，如果容器发生修改，迭代器仍然可以继续进行遍历，这时内容是旧的
- 求容器大小弱一致性，size 操作未必是 100% 准确
- 读取弱一致性，例如：当进行读取操作时，如果容器发生修改，这时读取到的可能是原来旧的数据
遍历时如果发生了修改，对于非安全容器来讲，使用 fail-fast
（快速失败）
机制也就是让遍历立刻失败，抛出
，不再继续遍历ConcurrentModifificationException
ConcurrentHashMap
练习：单词计数
模版代码中封装了多线程读取文件的代码
private static <V> void demo(Supplier<Map<String, V>> supplier, BiConsumer<Map<String, V>, List<String>> consumer) {
Map<String, V> counterMap = supplier.get();
// key value
// a 200
// b 200
List<Thread> ts = new ArrayList<>();
for (int i = 1; i <= 26; i++) {
int idx = i;
Thread thread = new Thread(() -> {
List<String> words = readFromFile(idx);
consumer.accept(counterMap, words);
});
ts.add(thread);
}
ts.forEach(t -> t.start());
ts.forEach(t -> {
try {
t.join();
} catch (InterruptedException e) {
e.printStackTrace();
}
});
System.out.println(counterMap);
}
public static List<String> readFromFile(int i) {
ArrayList<String> words = new ArrayList<>();
try (BufferedReader in = new BufferedReader(new InputStreamReader(new FileInputStream("tmp/" + i + ".txt")))) {
while (true) {
String word = in.readLine();
if (word == null) {
break;
}
words.add(word);
}
return words;
} catch (IOException e) {
throw new RuntimeException(e);
}
} - 你要做的是实现两个参数：
- 一是提供一个 map 集合，用来存放每个单词的计数结果，key 为单词，value 为计数
- 二是提供一组操作，保证计数的安全性，会传递 map 集合以及 单词 List
- 正确结果输出应该是每个单词出现 200 次
具体实现
使用普通的HashMap实现
public static void main(String[] args) {
demo(
()->new HashMap<String, Integer>(),
(map, words) -> {
for (String word : words) {
// 检查 key 有没有
Integer counter = map.get(word);
int newValue = counter == null ? 1 : counter + 1;
// 没有 则 put
map.put(word, newValue);
}
}
);
} 使用 ConcurrentHashMap
public static void main(String[] args) {
demo(() -> new ConcurrentHashMap<String, LongAdder>(), (map, words) -> {
for (String word : words) {
// computeIfAbsent：如果缺少一个key，则计算生成一个value，然后将key value放入map
// 注意不能使用 putIfAbsent，此方法返回的是上一次的 value，首次调用返回 null
// 即使这里设置key-value和value自增不是原子性操作，LongAdder的CAS会获取到最新的值再进行加一的，这一点可以放心
LongAdder value = map.computeIfAbsent(word, (key) -> new LongAdder());
// 执行累加
value.increment();
}
});
} JDK 7 HashMap 并发死链
注意要在 JDK 7 下运行，否则扩容机制和 hash 的计算方法都变了
以下测试代码是精心准备的，不要随便改动
public class TestDeadLink {
public static void main(String[] args) {
// 测试 java 7 中哪些数字的 hash 结果相等
System.out.println("长度为16时，桶下标为1的key");
for (int i = 0; i < 64; i++) {
if (hash(i) % 16 == 1) {
System.out.println(i);
}
}
System.out.println("长度为32时，桶下标为1的key");
for (int i = 0; i < 64; i++) {
if (hash(i) % 32 == 1) {
System.out.println(i);
}
}
// 1, 16, 35, 50 当大小为16时，它们在一个桶内
final HashMap<Integer, Integer> map = new HashMap<Integer, Integer>();
// 放 12 个元素
map.put(2, null);
map.put(3, null);
map.put(4, null);
map.put(5, null);
map.put(6, null);
map.put(7, null);
map.put(8, null);
map.put(9, null);
map.put(10, null);
map.put(16, null);
map.put(35, null);
map.put(1, null);
System.out.println("扩容前大小[main]:" + map.size());
// 两个线程都去放置第13个元素
new Thread() {
@Override
public void run() {
// 放第 13 个元素, 发生扩容
map.put(50, null);
System.out.println("扩容后大小[Thread-0]:" + map.size());
}
}.start();
new Thread() {
@Override
public void run() {
// 放第 13 个元素, 发生扩容
map.put(50, null);
System.out.println("扩容后大小[Thread-1]:" + map.size());
}
}.start();
}
final static int hash(Object k) {
int h = 0;
if (0 != h && k instanceof String) {
return sun.misc.Hashing.stringHash32((String) k);
}
h ^= k.hashCode();
h ^= (h >>> 20) ^ (h >>> 12);
return h ^ (h >>> 7) ^ (h >>> 4);
}
} 死链复现
- 调试工具使用 idea
- 在 HashMap 源码 590 行加断点
int newCapacity = newTable.length; - 断点的条件如下，目的是让 HashMap 在扩容为 32 时，并且线程为 Thread-0 或 Thread-1 时停下来(因为程序运行起来，其他线程也可能会扩容，这里我们只关注我们的测试代码)
newTable.length==32 &&
(
Thread.currentThread().getName().equals("Thread-0")||
Thread.currentThread().getName().equals("Thread-1")
) - 断点暂停方式选择 Thread，否则在调试 Thread-0 时，Thread-1 无法恢复运行
- 运行代码，程序在预料的断点位置停了下来，输出
长度为16时，桶下标为1的key
1
16
35
50
长度为32时，桶下标为1的key
1
35
扩容前大小[main]:12 - 接下来进入扩容流程调试
- 在 HashMap 源码 594 行加断点
Entry<K,V> next = e.next; // 593
if (rehash) // 594
// ... - 这是为了观察 e 节点和 next 节点的状态，Thread-0 单步执行到 594 行，在 594 处再添加一个断点（条件
Thread.currentThread().getName().equals(“Thread-0”))
- 这时可以在 Variables 面板观察到 e 和 next 变量，使用
view as -> Object
e (1)->(35)->(16)->null
next (35)->(16)->null - 在 Threads 面板选中 Thread-1 恢复运行，可以看到控制台输出新的内容如下，Thread-1 扩容已完成
- 扩容后元素个数是13，容量是32
- 扩容后的结果：
// 从旧的table迁移过来的，旧的table的表头是(1) -> (35)，新的newtable就是(1)，然后(35)再迁移过来
// 同样采用头插法，新的newtable就是 (35) -> (1) -> null
// (16) 因为扩容后桶下标变了，被放到其他地方去了
newTable[1] (35)->(1)->null
扩容后大小:13 - 这时 Thread-0 还停在 594 处， Variables 面板变量的状态已经变化为
// 注意这里的node节点是被volite修饰的，所以 Thread-1 修改节点的指向之后，Thread-0 是可以立马看到的
// Thread-1 已经修改了新的table了，所以 Thread-0 看到的最新结果是 (35) -> (1) -> null
e (1)->null
next (35)->(1)->null - 为什么呢，因为 Thread-1 扩容时链表也是后加入的元素放在链表头，因此链表就倒过来了，Thread-1 虽然结果正确，但它结束后 Thread-0 还要继续运行
- 接下来就可以单步调试（F8）观察死链的产生了
(1) → (35) → (1)
- 下一轮循环到 594，将 e 搬迁到 newTable 链表头
newTable[1] (1)->null
e (35)->(1)->null
next (1)->null - 下一轮循环到 594，将 e 搬迁到 newTable 链表头
newTable[1] (35)->(1)->null
e (1)->null
next null - 再看看源码
e.next = newTable[1];
// 这时 e (1,35)
// 而 newTable[1] (35,1)->(1,35) 因为是同一个对象
newTable[1] = e;
// 再尝试将 e 作为链表头, 死链已成
e = next;
// 虽然 next 是 null, 会进入下一个链表的复制, 但死链已经形成了 源码分析
- HashMap 的并发死链发生在扩容时
// 将 table 迁移至 newTable
void transfer(Entry[] newTable, boolean rehash) {
int newCapacity = newTable.length;
for (Entry<K,V> e : table) {
while(null != e) {
Entry<K,V> next = e.next;
// 1 处
if (rehash) {
e.hash = null == e.key ? 0 : hash(e.key);
}
int i = indexFor(e.hash, newCapacity);
// 2 处
// 将新元素加入 newTable[i], 原 newTable[i] 作为新元素的 next
e.next = newTable[i];
newTable[i] = e;
e = next;
}
}
} - 假设 map 中初始元素是
原始链表，格式：[下标] (key,next)
[1] (1,35)->(35,16)->(16,null)
线程 a 执行到 1 处 ，此时局部变量 e 为 (1,35)，而局部变量 next 为 (35,16) 线程 a 挂起
线程 b 开始执行
第一次循环
[1] (1,null)
第二次循环
[1] (35,1)->(1,null)
第三次循环
[1] (35,1)->(1,null) [17] (16,null)
切换回线程 a，此时局部变量 e 和 next 被恢复，引用没变但内容变了：e 的内容被改为 (1,null)，而 next 的内容被改为 (35,1) 并链向 (1,null)
第一次循环
[1] (1,null)
第二次循环，注意这时 e 是 (35,1) 并链向 (1,null) 所以 next 又是 (1,null)
[1] (35,1)->(1,null)
第三次循环，e 是 (1,null)，而 next 是 null，但 e 被放入链表头，这样 e.next 变成了 35 （2 处）
[1] (1,35)->(35,1)->(1,35) 小结
- 究其原因，是因为在多线程环境下使用了非线程安全的 map 集合
- JDK 8 虽然将扩容算法做了调整，不再将元素加入链表头（而是保持与扩容前一样的顺序），但仍不意味着能够在多线程环境下安全扩容，还会出现其它问题（如扩容丢数据）
JDK 8 ConcurrentHashMap
重要属性和内部类
// 默认为 0
// 当初始化时, 为 -1
// 当扩容时, 为 -(1 + 扩容线程数)
// 当初始化或扩容完成后，为 下一次的扩容阈值大小
private transient volatile int sizeCtl;
// 整个 ConcurrentHashMap 就是一个 Node[]
static class Node<K,V> implements Map.Entry<K,V> {}
// hash 表
transient volatile Node<K,V>[] table;
// 扩容时的 新 hash 表
private transient volatile Node<K,V>[] nextTable;
// 扩容时如果某个 bin 迁移完毕, 用 ForwardingNode 作为旧 table bin 的头结点
static final class ForwardingNode<K,V> extends Node<K,V> {}
// 用在 compute 以及 computeIfAbsent 时, 用来占位, 计算完成后替换为普通 Node
static final class ReservationNode<K,V> extends Node<K,V> {}
// 作为 treebin 的头节点, 存储 root 和 first
static final class TreeBin<K,V> extends Node<K,V> {}
// 作为 treebin 的节点, 存储 parent, left, right
static final class TreeNode<K,V> extends Node<K,V> {} 对于 ForwardingNode
- 带有ForwardingNode的是处理过的，当其他线程到这里时，就不会再对其操作。
- 其他线程要获取这里的值时，发现是ForwardingNode，就会到新的数组中去查找值。
变量
存储数组：
transient volatile Node<K,V>[] table; 散列表的长度：
private static final int MAXIMUM_CAPACITY = 1 << 30; // 最大长度
private static final int DEFAULT_CAPACITY = 16; // 默认长度 并发级别，JDK7 遗留下来，JDK8 中不代表并发级别：
private static final int DEFAULT_CONCURRENCY_LEVEL = 16; 负载因子，JDK1.8 的 ConcurrentHashMap 中是固定值：
private static final float LOAD_FACTOR = 0.75f; 阈值：
static final int TREEIFY_THRESHOLD = 8; // 链表树化的阈值
static final int UNTREEIFY_THRESHOLD = 6; // 红黑树转化为链表的阈值
static final int MIN_TREEIFY_CAPACITY = 64; // 当数组长度达到64且某个桶位中的链表长度超过8，才会真正树化 扩容相关：
private static final int MIN_TRANSFER_STRIDE = 16; // 线程迁移数据【最小步长】，控制线程迁移任务的最小区间
private static int RESIZE_STAMP_BITS = 16; // 用来计算扩容时生成的【标识戳】
private static final int MAX_RESIZERS = (1 << (32 - RESIZE_STAMP_BITS)) - 1; // 65535-1并发扩容最多线程数
private static final int RESIZE_STAMP_SHIFT = 32 - RESIZE_STAMP_BITS; // 扩容时使用 节点哈希值：
static final int MOVED = -1; // 表示当前节点是 FWD 节点
static final int TREEBIN = -2; // 表示当前节点已经树化，且当前节点为 TreeBin 对象
static final int RESERVED = -3; // 表示节点时临时节点
static final int HASH_BITS = 0x7fffffff; // 正常节点的哈希值的可用的位数 扩容过程：volatile 修饰保证多线程的可见性
// 扩容过程中，会将扩容中的新 table 赋值给 nextTable 保持引用，扩容结束之后，这里会被设置为 null
private transient volatile Node<K,V>[] nextTable;
// 记录扩容进度，所有线程都要从 0 - transferIndex 中分配区间任务，简单说就是老表转移到哪了，索引从高到低转移
private transient volatile int transferIndex; 累加统计：
// LongAdder 中的 baseCount 未发生竞争时或者当前LongAdder处于加锁状态时，增量累加到 baseCount 中
private transient volatile long baseCount;
// LongAdder 中的 cellsBuzy，0 表示当前 LongAdder 对象无锁状态，1 表示当前 LongAdder 对象加锁状态
private transient volatile int cellsBusy;
// LongAdder 中的 cells 数组，
private transient volatile CounterCell[] counterCells; 控制变量：
- sizeCtl< 0：
- 1 表示当前 table 正在初始化（有线程在创建 table 数组），当前线程需要自旋等待
- 其他负数表示当前 map 的 table 数组正在进行扩容，高 16 位表示扩容的标识戳；低 16 位表示 (1 + nThread) 当前参与并发扩容的线程数量 + 1
- sizeCtl = 0：表示创建 table 数组时使用 DEFAULT_CAPACITY 为数组大小
- sizeCtl > 0：
- 如果 table 未初始化，表示初始化大小
- 如果 table 已经初始化，表示下次扩容时的触发条件（阈值，元素个数，不是数组的长度）
private transient volatile int sizeCtl; // volatile 保持可见性 重要方法
// 获取 Node[] 中第 i 个 Node
static final <K,V> Node<K,V> tabAt(Node<K,V>[] tab, int i)
// cas 修改 Node[] 中第 i 个 Node 的值, c 为旧值, v 为新值
static final <K,V> boolean casTabAt(Node<K,V>[] tab, int i, Node<K,V> c, Node<K,V> v)
// 直接修改 Node[] 中第 i 个 Node 的值, v 为新值
static final <K,V> void setTabAt(Node<K,V>[] tab, int i, Node<K,V> v) 构造器分析
- 可以看到实现了
懒惰
public ConcurrentHashMap(int initialCapacity, float loadFactor, int concurrencyLevel) {
if (!(loadFactor > 0.0f) || initialCapacity < 0 || concurrencyLevel <= 0)
throw new IllegalArgumentException();
// 如果初始容量小于并发度
if (initialCapacity < concurrencyLevel) // Use at least as many bins
// 就将初始容量改为并发度的大小
initialCapacity = concurrencyLevel; // as estimated threads（保证并发度）
long size = (long) (1.0 + (long) initialCapacity / loadFactor);
// tableSizeFor 仍然是保证计算的大小是 2^n, 即 16,32,64 ...（哈希算法的要求）
int cap = (size >= (long) MAXIMUM_CAPACITY) ?
MAXIMUM_CAPACITY : tableSizeFor((int) size);
this.sizeCtl = cap;
} -
initialCapacity
-
loadFactor
-
concurrencyLevel
get 流程
- get 操作没有使用锁，并发度高
public V get(Object key) {
Node<K,V>[] tab; Node<K,V> e, p; int n, eh; K ek;
// spread 方法能确保返回结果是正整数
int h = spread(key.hashCode());
// 如果table数组不为空，就可以根据hash值定位桶下标
if ((tab = table) != null && (n = tab.length) > 0 &&
(e = tabAt(tab, (n - 1) & h)) != null) {
// 如果头结点已经是要查找的 key
if ((eh = e.hash) == h) {
if ((ek = e.key) == key || (ek != null && key.equals(ek)))
// 直接返回value
return e.val;
}
// hash 为负数表示该 bin 正在扩容中（-1）或是 treebin（-2）, 这时调用 find 方法来查找
// 如果是在扩容中，就根据ForwardingNode到新数组中去查找
// 如果是红黑树，就用红黑树的查找算法去查找
else if (eh < 0)
return (p = e.find(h, key)) != null ? p.val : null;
// 正常遍历链表, 用 equals 比较
while ((e = e.next) != null) {
if (e.hash == h &&
((ek = e.key) == key || (ek != null && key.equals(ek))))
return e.val;
}
}
return null;
} put 流程
- 以下数组简称（table），链表简称（bin）
public V put(K key, V value) {
return putVal(key, value, false);
}
// onlyIfAbsent：
// 如果是false，表示如果遇到key相同的情况，会用新值覆盖旧值；
// 如果是true，表示如果遇到key相同的情况，不做任何操作
final V putVal(K key, V value, boolean onlyIfAbsent) {
// 不允许有空的key和空的value
if (key == null || value == null) throw new NullPointerException();
// 其中 spread 方法会综合高位低位, 具有更好的 hash 性
// 保证key的hash值是一个正整数，因为负数具有特殊用途
int hash = spread(key.hashCode());
// 链表长度
int binCount = 0;
for (Node<K, V>[] tab = table; ; ) {
// f 是链表头节点
// fh 是链表头结点的 hash
// i 是链表在 table 中的下标
Node<K, V> f;
int n, i, fh;
// 如果table为空，就要先创建table
if (tab == null || (n = tab.length) == 0)
// 初始化 table 使用了 cas, 无需 synchronized 创建成功, 进入下一轮循环
tab = initTable();
// 如果链表的头结点为空，就创建链表头节点
else if ((f = tabAt(tab, i = (n - 1) & hash)) == null) {
// 添加链表头结点使用了 cas, 无需 synchronized
// 如果已经有线程在创建头结点了，那么当前线程就会cas失败，进入下一次for循环
if (casTabAt(tab, i, null,
new Node<K, V>(hash, key, value, null)))
// 添加头结点后说明put操作成功，可以直接退出
break;
}
// 协助扩容，链表的头结点如果是ForwardingNode表示当前有其他线程正在进行扩容
else if ((fh = f.hash) == MOVED)
// 帮忙之后, 进入下一轮for循环
tab = helpTransfer(tab, f);
else { // 进入到这个else，说明当前数组既不处于扩容过程中，也不是处于数组的初始化过程中，并且发生了桶下标的冲突
V oldVal = null;
// 锁住链表头节点
synchronized (f) {
// 再次确认链表头节点没有被移动过
if (tabAt(tab, i) == f) {
// hash值大于0，表示是链表
if (fh >= 0) {
binCount = 1;
// 遍历链表，每遍历一个节点，链表长度加1
for (Node<K, V> e = f; ; ++binCount) {
K ek;
// 找到相同的 key
if (e.hash == hash &&
((ek = e.key) == key ||
(ek != null && key.equals(ek)))) {
oldVal = e.val;
// 更新节点，覆盖旧值
if (!onlyIfAbsent) e.val = value;
break;
}
Node<K, V> pred = e;
// 已经是最后的节点了, 说明没有相同key的节点，那就要新增 Node, 追加到链表尾
if ((e = e.next) == null) {
pred.next = new Node<K, V>(hash, key,
value, null);
break;
}
}
}
// 如果头结点是红黑树
else if (f instanceof TreeBin) {
Node<K, V> p;
// 到了红黑树这里，链表长度设置为2
binCount = 2;
// 调用红黑树新增节点的方法
// putTreeVal 会看 key 是否已经在树中, 如果是, 则返回对应的 TreeNode
if ((p = ((TreeBin<K, V>) f).putTreeVal(hash, key,
value)) != null) {
// 如果p不为空，所以红黑树中有相同key的节点，那就要覆盖旧值
oldVal = p.val;
if (!onlyIfAbsent) p.val = value;
}
}
}
// 释放链表头节点的锁
}
if (binCount != 0) {
if (binCount >= TREEIFY_THRESHOLD)
// 如果链表长度 >= 树化阈值(8), 尝试把链表转为红黑树
// 因为上面把元素插入到树中时，binCount只赋值了2，并没有计算整个树中元素的个数，所以不会重复树化
treeifyBin(tab, i);
if (oldVal != null)
// 返回旧值
return oldVal;
break;
}
}
}
// 增加 size 计数
addCount(1L, binCount);
return null;
} initTable 方法
// 初始化数组的方法
private final Node<K, V>[] initTable() {
Node<K, V>[] tab;
int sc;
// 数组还没有被创建
while ((tab = table) == null || tab.length == 0) {
if ((sc = sizeCtl) < 0)
// 当有一个线程正在初始化数组时，sizeCtl等于-1，其他线程会在这里yield
// yield表示让出CPU的使用权
Thread.yield();
// 尝试将 sizeCtl 设置为 -1（sizeCtl：-1表示正在初始化table）
else if (U.compareAndSwapInt(this, SIZECTL, sc, -1)) {
// 获得锁, 创建 table, 这时其它线程会在 while() 循环中 yield 直至 table 创建成功
// 等待某一个线程创建好数组以后，其他线程while循环判断数组不为空，就直接返数组了，不会再进到这里面来了
try {
if ((tab = table) == null || tab.length == 0) {
int n = (sc > 0) ? sc : DEFAULT_CAPACITY;
// 创建数组
Node<K, V>[] nt = (Node<K, V>[]) new Node<?, ?>[n];
table = tab = nt;
// 创建数组成功后，sc就代表下次要扩容的阈值了
sc = n - (n >>> 2);
}
} finally {
// 将sc赋值给sizeCtl，到这一步sizeCtl就变成正数了
sizeCtl = sc;
}
break;
}
}
return tab;
} addCount 方法
// 增加Hash表中元素的计数
// check 是之前 binCount 的个数(链表的元素个数)
private final void addCount(long x, int check) {
// 累加单元数组，这一块类似于前面所讲的单词计数的LongAdder
CounterCell[] as;
long b, s;
if (
// 已经有了 counterCells, 向 cell 累加
(as = counterCells) != null ||
// 还没有, 向 baseCount 累加
!U.compareAndSwapLong(this, BASECOUNT, b = baseCount, s = b + x)
) {
CounterCell a;
long v;
int m;
boolean uncontended = true;
if (
// 还没有 counterCells
as == null || (m = as.length - 1) < 0 ||
// 还没有 cell
(a = as[ThreadLocalRandom.getProbe() & m]) == null ||
// cell cas 增加计数失败，a.value表示取得上一个值，在上一个值的基础上加1
!(uncontended = U.compareAndSwapLong(a, CELLVALUE, v = a.value, v + x))
) {
// 创建累加单元数组和cell, 累加重试
fullAddCount(x, uncontended);
return;
}
// 如果链表长度小于1，就直接返回结束该方法了
if (check <= 1)
return;
// 如果链表长度大于1，就需要考虑是否需要扩容
// 先获取元素个数
s = sumCount();
}
if (check >= 0) {
Node<K, V>[] tab, nt;
int n, sc;
// 判断元素个数是否大于扩容阈值(sizeCtl)
while (s >= (long) (sc = sizeCtl) && (tab = table) != null &&
(n = tab.length) < MAXIMUM_CAPACITY) {
int rs = resizeStamp(n);
// sc为负数，表示当前有线程正在进行扩容流程
if (sc < 0) {
if ((sc >>> RESIZE_STAMP_SHIFT) != rs || sc == rs + 1 ||
sc == rs + MAX_RESIZERS || (nt = nextTable) == null ||
transferIndex <= 0)
break;
// newtable 已经创建了，帮忙扩容
if (U.compareAndSwapInt(this, SIZECTL, sc, sc + 1))
// nt表示新的数组
transfer(tab, nt);
}
// 第一个进来的线程会来到这里，因为此时sc大于0
// 需要扩容，这时 newtable 未创建
// (rs << RESIZE_STAMP_SHIFT) + 2) 结果是一个负数；cas将SIZECTL设置为一个负数
// SIZECTL为负数表示进入扩容的流程
else if (U.compareAndSwapInt(this, SIZECTL, sc,
(rs << RESIZE_STAMP_SHIFT) + 2))
// 第一个参数表示原来的数组，第二个参数为新的数组，
// 首次调用扩容，新的数组还是未创建的
transfer(tab, null);
s = sumCount();
}
}
} size 计算流程
size 计算实际发生在 put，remove 改变集合元素的操作之中
- 没有竞争发生，向 baseCount 累加计数
- 有竞争发生，新建 counterCells（累加单元数组），向其中的一个 cell 累加计数
- counterCells 初始有两个 cell
- 如果计数竞争比较激烈，会创建新的 cell 来累加计数
- 计算元素个数时，把这些 cell 的值以及 baseCount 的值相加算出总的元素个数
- 总的元素个数不是百分百准确的，因为是多个线程在进行增加和删除操作的
public int size() {
long n = sumCount();
return ((n < 0L) ? 0 :
(n > (long)Integer.MAX_VALUE) ? Integer.MAX_VALUE :
(int)n);
}
final long sumCount() {
// 累加单元数组
CounterCell[] as = counterCells; CounterCell a;
// 将 baseCount 计数与所有 cell 计数累加
long sum = baseCount;
if (as != null) {
// 遍历累加单元数组，取出每一个值
for (int i = 0; i < as.length; ++i) {
if ((a = as[i]) != null)
// 累加单元数组的所有值，再加上baseCount，就是总的元素个数
sum += a.value;
}
}
return sum;
} transfer 扩容流程
- 扩容时容量变为两倍，并把部分元素迁移到其它桶中
// tab表示旧数组，nextTab表示新数组，第一次扩容时新数组为null
private final void transfer(Node<K,V>[] tab, Node<K,V>[] nextTab) {
int n = tab.length, stride;
if ((stride = (NCPU > 1) ? (n >>> 3) / NCPU : n) < MIN_TRANSFER_STRIDE)
stride = MIN_TRANSFER_STRIDE; // subdivide range
if (nextTab == null) { // initiating
// 如果nextTab为空，说明还没开始迁移
// 就新建一个新桶数组
try {
// 新桶数组是原桶的两倍
@SuppressWarnings("unchecked")
Node<K,V>[] nt = (Node<K,V>[])new Node<?,?>[n << 1];
nextTab = nt;
} catch (Throwable ex) { // try to cope with OOME
sizeCtl = Integer.MAX_VALUE;
return;
}
nextTable = nextTab;
transferIndex = n;
}
// 新桶数组大小
int nextn = nextTab.length;
// 新建一个ForwardingNode类型的节点，并把新桶数组存储在里面
ForwardingNode<K,V> fwd = new ForwardingNode<K,V>(nextTab);
boolean advance = true;
boolean finishing = false; // to ensure sweep before committing nextTab
for (int i = 0, bound = 0;;) {
// f 是链表头节点
// fh 是链表头结点的 hash
Node<K,V> f; int fh;
// 整个while循环就是在计算i的值，过程太复杂，不用太关心
// i的值会从n-1依次递减，感兴趣的可以打下断点就知道了
// 其中n是旧桶数组的大小，也就是说i从15开始一直减到1这样去迁移元素
while (advance) {
int nextIndex, nextBound;
if (--i >= bound || finishing)
advance = false;
else if ((nextIndex = transferIndex) <= 0) {
i = -1;
advance = false;
}
else if (U.compareAndSwapInt
(this, TRANSFERINDEX, nextIndex,
nextBound = (nextIndex > stride ?
nextIndex - stride : 0))) {
bound = nextBound;
i = nextIndex - 1;
advance = false;
}
}
if (i < 0 || i >= n || i + n >= nextn) {
int sc;
// 如果一次遍历完成了
// 也就是整个map所有桶中的元素都迁移完成了
if (finishing) {
nextTable = null;
// 如果全部迁移完成了，则替换旧桶数组
// 并设置下一次扩容门槛为新桶数组容量的0.75倍
table = nextTab;
sizeCtl = (n << 1) - (n >>> 1);
return;
}
if (U.compareAndSwapInt(this, SIZECTL, sc = sizeCtl, sc - 1)) {
// 当前线程扩容完成，把扩容线程数-1
if ((sc - 2) != resizeStamp(n) << RESIZE_STAMP_SHIFT)
// 扩容完成两边肯定相等
return;
// 把finishing设置为true
// finishing为true才会走到上面的if条件
finishing = advance = true;
// i重新赋值为n
// 这样会再重新遍历一次桶数组，看看是不是都迁移完成了
// 也就是第二次遍历都会走到下面的(fh = f.hash) == MOVED这个条件
i = n; // recheck before commit
}
}
// 链表头结点已经是null，说明这个桶已经迁移完成了
else if ((f = tabAt(tab, i)) == null)
// 将链表头替换为ForwardingNode
advance = casTabAt(tab, i, null, fwd);
else if ((fh = f.hash) == MOVED)
// 如果桶中第一个元素的hash值为MOVED
// 说明它是ForwardingNode节点(ForwardingNode的hash值等于-1，而-1也就是MOVED的值)
// 也就是该桶已迁移，接着进行下一轮循环，处理下一个桶的链表
advance = true; // already processed
else {
// 链表头是有元素的，并且链表头的hash值不是-1(该链表元素还没有进行迁移)
// 锁定该桶并迁移元素
synchronized (f) {
// 再次判断当前桶的第一个元素是否有修改
// 也就是可能有其它线程先一步迁移了元素
if (tabAt(tab, i) == f) {
// 把一个链表分化成两个链表
// 规则是桶中各元素的hash与桶大小n进行与操作
// 等于0的放到低位链表(low)中，不等于0的放到高位链表(high)中
// 其中低位链表迁移到新桶中的位置相对旧桶不变(原数组索引位置)
// 高位链表迁移到新桶中的位置正好是其在旧桶的位置加上n(原数组索引位置+原数组大小)
// 这也正是为什么扩容时容量在变成两倍的原因
Node<K,V> ln, hn;
if (fh >= 0) {
// 第一个元素的hash值大于等于0
// 说明该桶中元素是以链表形式存储的
// 这里与HashMap迁移算法基本类似
// 唯一不同的是多了一步寻找lastRun
// 这里的lastRun是提取出链表后面不用处理再特殊处理的子链表
// 比如所有元素的hash值与桶大小n与操作后的值分别为 0 0 4 4 0 0 0
// 则最后面三个0对应的元素肯定还是在同一个桶中
// 这时lastRun对应的就是倒数第三个节点
// 至于为啥要这样处理，我也没太搞明白
int runBit = fh & n;
Node<K,V> lastRun = f;
for (Node<K,V> p = f.next; p != null; p = p.next) {
int b = p.hash & n;
if (b != runBit) {
runBit = b;
lastRun = p;
}
}
// 看看最后这几个元素归属于低位链表还是高位链表
if (runBit == 0) {
ln = lastRun;
hn = null;
}
else {
hn = lastRun;
ln = null;
}
// 遍历链表，把hash&n为0的放在低位链表中
// 不为0的放在高位链表中
for (Node<K,V> p = f; p != lastRun; p = p.next) {
int ph = p.hash; K pk = p.key; V pv = p.val;
if ((ph & n) == 0)
ln = new Node<K,V>(ph, pk, pv, ln);
else
hn = new Node<K,V>(ph, pk, pv, hn);
}
// 低位链表的位置不变(原数组索引位置)
setTabAt(nextTab, i, ln);
// 高位链表的位置是原位置加上n(原数组索引位置+原数组大小)
setTabAt(nextTab, i + n, hn);
// 标记当前桶已迁移
setTabAt(tab, i, fwd);
// advance为true，返回上面进行--i操作
advance = true;
}
else if (f instanceof TreeBin) {
// 如果第一个元素是树节点
// 也是一样，分化成两颗树
// 也是根据hash&n为0放在低位树中
// 不为0的放在高位树中
TreeBin<K,V> t = (TreeBin<K,V>)f;
TreeNode<K,V> lo = null, loTail = null;
TreeNode<K,V> hi = null, hiTail = null;
int lc = 0, hc = 0;
// 遍历整颗树，根据hash&n是否为0分化成两颗树
for (Node<K,V> e = t.first; e != null; e = e.next) {
int h = e.hash;
TreeNode<K,V> p = new TreeNode<K,V>
(h, e.key, e.val, null, null);
if ((h & n) == 0) {
if ((p.prev = loTail) == null)
lo = p;
else
loTail.next = p;
loTail = p;
++lc;
}
else {
if ((p.prev = hiTail) == null)
hi = p;
else
hiTail.next = p;
hiTail = p;
++hc;
}
}
// 如果分化的树中元素个数小于等于6，则退化成链表
ln = (lc <= UNTREEIFY_THRESHOLD) ? untreeify(lo) :
(hc != 0) ? new TreeBin<K,V>(lo) : t;
hn = (hc <= UNTREEIFY_THRESHOLD) ? untreeify(hi) :
(lc != 0) ? new TreeBin<K,V>(hi) : t;
// 低位树的位置不变
setTabAt(nextTab, i, ln);
// 高位树的位置是原位置加n
setTabAt(nextTab, i + n, hn);
// 标记该桶已迁移
setTabAt(tab, i, fwd);
// advance为true，返回上面进行--i操作
advance = true;
}
}
}
}
}
} - 新桶数组大小是旧桶数组的两倍；
- 迁移元素先从靠后的桶开始；
- 迁移完成的桶在里面放置一
ForwardingNode
- 迁移时根据
hash&n
- 低位链表（树）存储在原来的位置；
- 高位链表（树）存储在原来的位置加上n的位置；
- 迁移元素时会锁住当前桶，也是分段锁的思想；
Java 8 数组（Node） +（ 链表 Node | 红黑树 TreeNode ） 以下数组简称（table），链表简称（bin）
- 初始化，使用 cas 来保证并发安全，懒惰初始化 table
- 树化，当 table.length < 64 时，先尝试扩容，超过 64 时，并且 bin.length ≥ 8 时，会将链表树化，树化过程会用 synchronized 锁住链表头
- put，如果该 bin 尚未创建，只需要使用 cas 创建 bin；如果已经有了，锁住链表头进行后续 put 操作，元素添加至 bin 的尾部
- get，无锁操作仅需要保证可见性，扩容过程中 get 操作拿到的是 ForwardingNode 时它会让 get 操作在新 table 进行搜索
- 扩容，扩容时以 bin 为单位进行，需要对 bin 进行 synchronized，但这里妙的地方是其它竞争线程也不是无事可做，它们会帮助把其它 bin 进行扩容，扩容时平均只有 1/6 的节点会被复制到新 table 中
- size，元素个数保存在 baseCount 中，并发时的个数变动保存在 CounterCell[ ] 当中，最后统计数量时累加即可
JDK 7 ConcurrentHashMap
它维护了一个 segment 数组，每个 segment 对应一把锁
- 优点：如果多个线程访问不同的 segment，实际是没有冲突的，这与 jdk8 中是类似的
- 缺点：Segments 数组默认大小为16，这个容量初始化后就不能改变了，并且不是懒惰初始化
构造器分析
public ConcurrentHashMap(int initialCapacity, float loadFactor, int concurrencyLevel) {
if (!(loadFactor > 0) || initialCapacity < 0 || concurrencyLevel <= 0)
throw new IllegalArgumentException();
if (concurrencyLevel > MAX_SEGMENTS)
concurrencyLevel = MAX_SEGMENTS;
// ssize 必须是 2^n, 即 2, 4, 8, 16 ... 表示 segments 数组的大小
int sshift = 0;
int ssize = 1;
while (ssize < concurrencyLevel) {
++sshift;
ssize <<= 1;
}
// 移位属性，segmentShift 默认是 32 - 4 = 28
this.segmentShift = 32 - sshift;
// 掩码属性，segmentMask 默认是 15 即 0000 0000 0000 1111
this.segmentMask = ssize - 1;
if (initialCapacity > MAXIMUM_CAPACITY)
initialCapacity = MAXIMUM_CAPACITY;
int c = initialCapacity / ssize;
if (c * ssize < initialCapacity)
++c;
int cap = MIN_SEGMENT_TABLE_CAPACITY;
while (cap < c)
cap <<= 1;
// 创建 segments and segments[0]
Segment<K,V> s0 =
new Segment<K,V>(loadFactor, (int)(cap * loadFactor),
(HashEntry<K,V>[])new HashEntry[cap]);
Segment<K,V>[] ss = (Segment<K,V>[])new Segment[ssize];
UNSAFE.putOrderedObject(ss, SBASE, s0); // ordered write of segments[0]
this.segments = ss;
} 构造完成，如下图所示：
- 可以看到 ConcurrentHashMap 没有实现懒惰初始化，空间占用不友好
- 其中 this.segmentShift 和 this.segmentMask 的作用是决定将 key 的 hash 结果匹配到哪个 segment
- 例如，根据某一 hash 值求 segment 位置，先将高位向低位移动
this.segmentShift
- 结果再与
this.segmentMask
与
put 流程
public V put(K key, V value) {
Segment<K,V> s;
if (value == null)
throw new NullPointerException();
int hash = hash(key);
// 计算出 segment 下标
int j = (hash >>> segmentShift) & segmentMask;
// 获得 segment 对象, 判断是否为 null, 如果为空则创建该 segment (ensureSegment(j))
if ((s = (Segment<K,V>)UNSAFE.getObject
(segments, (j << SSHIFT) + SBASE)) == null) {
// 这时不能确定是否真的为 null, 因为其它线程也发现该 segment 为 null,
// 因此在 ensureSegment 里用 cas 方式保证该 segment 安全性
s = ensureSegment(j);
}
// 进入 segment 的put 流程
return s.put(key, hash, value, false);
} - segment 继承了可重入锁（
ReentrantLock
final V put(K key, int hash, V value, boolean onlyIfAbsent) {
// 尝试加锁
HashEntry<K,V> node = tryLock() ? null :
// 如果加锁不成功, 进入 scanAndLockForPut 流程
// 如果是多核 cpu 最多 tryLock 64 次, 进入 lock 流程(阻塞)
// 如果是单核 cpu 最多 tryLock 1 次
// 在尝试期间, 还可以顺便看该节点在链表中有没有, 如果没有则顺便创建出来
scanAndLockForPut(key, hash, value);
// 执行到这里，说明 segment 已经被成功加锁, 可以安全执行
V oldValue;
try {
HashEntry<K,V>[] tab = table;
// 计算桶下标
int index = (tab.length - 1) & hash;
// 找到该桶对应的链表头结点
HashEntry<K,V> first = entryAt(tab, index);
// 遍历链表
for (HashEntry<K,V> e = first;;) {
if (e != null) {
// 更新
K k;
if ((k = e.key) == key ||
(e.hash == hash && key.equals(k))) {
oldValue = e.value;
if (!onlyIfAbsent) {
// 新值覆盖旧值
e.value = value;
++modCount;
}
break;
}
e = e.next;
}
else { // 说明链表中没有相同key的元素，那么就以头插法方式插入新结点到链表中
// 新增
// 1) 之前等待锁时, node 已经被创建, node指向链表头
// 上面的scanAndLockForPut(key, hash, value);
if (node != null)
node.setNext(first);
else
// 2) 创建新 node
node = new HashEntry<K,V>(hash, key, value, first);
// 数组元素个数
int c = count + 1;
// 3) 扩容
if (c > threshold && tab.length < MAXIMUM_CAPACITY)
rehash(node);
else
// 将 node 作为链表头
setEntryAt(tab, index, node);
++modCount;
count = c;
oldValue = null;
break;
}
}
} finally {
unlock();
}
return oldValue;
} rehash 流程
- 发生在 put 中，因为此时已经获得了锁，因此 rehash 时不需要考虑线程安全
private void rehash(HashEntry<K,V> node) {
HashEntry<K,V>[] oldTable = table;
// 获取旧数组容量
int oldCapacity = oldTable.length;
// 新数组容量为旧数组的2倍
int newCapacity = oldCapacity << 1;
threshold = (int)(newCapacity * loadFactor);
// 根据新数组容量创建新的数组
HashEntry<K,V>[] newTable =
(HashEntry<K,V>[]) new HashEntry[newCapacity];
int sizeMask = newCapacity - 1;
// 遍历旧数组的每个桶
for (int i = 0; i < oldCapacity ; i++) {
// 桶对应的链表头结点
HashEntry<K,V> e = oldTable[i];
if (e != null) {
// 头结点的下一个节点
HashEntry<K,V> next = e.next;
int idx = e.hash & sizeMask;
// 该桶中只有一个头结点
if (next == null) // Single node on list
// 直接迁移到新数组对应的桶下标
newTable[idx] = e;
else { // Reuse consecutive sequence at same slot
HashEntry<K,V> lastRun = e;
int lastIdx = idx;
// 过一遍链表, 尽可能把 rehash 后 idx 不变的节点重用
// 这些可以重用的节点就不需要新建，直接"搬迁"过去
for (HashEntry<K,V> last = next;
last != null;
last = last.next) {
int k = last.hash & sizeMask;
if (k != lastIdx) {
lastIdx = k;
lastRun = last;
}
}
newTable[lastIdx] = lastRun;
// 剩余节点需要新建
for (HashEntry<K,V> p = e; p != lastRun; p = p.next) {
V v = p.value;
int h = p.hash;
int k = h & sizeMask;
HashEntry<K,V> n = newTable[k];
newTable[k] = new HashEntry<K,V>(h, p.key, v, n);
}
}
}
}
// 扩容完成, 才加入新的节点
int nodeIndex = node.hash & sizeMask; // add the new node
node.setNext(newTable[nodeIndex]);
newTable[nodeIndex] = node;
// 替换为新的 HashEntry table
table = newTable;
} - 需要注意一点：jdk8中，先插入元素，再扩容；而在jdk7中，先扩容，再插入元素
get 流程
- get 时并未加锁，用了
UNSAFE
可见性
public V get(Object key) {
Segment<K,V> s; // manually integrate access methods to reduce overhead
HashEntry<K,V>[] tab;
int h = hash(key);
// u 为 segment 对象在数组中的偏移量
long u = (((h >>> segmentShift) & segmentMask) << SSHIFT) + SBASE;
// s 即为 segment
if ((s = (Segment<K,V>)UNSAFE.getObjectVolatile(segments, u)) != null &&
(tab = s.table) != null) {
// (tab.length - 1) & h) 定位key所在的桶下标
for (HashEntry<K,V> e = (HashEntry<K,V>) UNSAFE.getObjectVolatile
(tab, ((long)(((tab.length - 1) & h)) << TSHIFT) + TBASE);
e != null; e = e.next) {
K k;
if ((k = e.key) == key || (e.hash == h && key.equals(k)))
return e.value;
}
}
return null;
} size 计算流程
- 计算元素个数前，先不加锁计算两次，如果前后两次结果都一样，就认为个数正确并返回
- 如果前后两次结果不一样，则进行重试，重试次数超过 3，将所有 segment 锁住，重新计算个数并返回
public int size() {
final Segment<K,V>[] segments = this.segments;
int size;
boolean overflow; // true if size overflows 32 bits
long sum; // sum of modCounts
long last = 0L; // previous sum
int retries = -1; // first iteration isn't retry
try {
for (;;) {
if (retries++ == RETRIES_BEFORE_LOCK) {
// 超过重试次数, 需要创建所有 segment 并加锁
for (int j = 0; j < segments.length; ++j)
ensureSegment(j).lock(); // force creation
}
sum = 0L;
size = 0;
overflow = false;
for (int j = 0; j < segments.length; ++j) {
Segment<K,V> seg = segmentAt(segments, j);
if (seg != null) {
sum += seg.modCount;
int c = seg.count;
if (c < 0 || (size += c) < 0)
overflow = true;
}
}
if (sum == last)
break;
last = sum;
}
} finally {
if (retries > RETRIES_BEFORE_LOCK) {
for (int j = 0; j < segments.length; ++j)
segmentAt(segments, j).unlock();
}
}
return overflow ? Integer.MAX_VALUE : size;
}