并发与并行

如果某个系统支持两个或者多个动作（Action）同时存在，那么这个系统就是一个并发系统。如果某个系统支持两个或者多个动作同时执行，那么这个系统就是一个并行系统。并发系统与并行系统这两个定义之间的关键差异在于“存在”这个词。在并发程序中可以同时拥有两个或者多个线程。这意味着，如果程序在单核处理器上运行，那么这两个线程将交替地换入或者换出内存。这些线程是同时“存在”的——每个线程都处于执行过程中的某个状态。如果程序能够并行执行，那么就一定是运行在多核处理器上。此时，程序中的每个线程都将分配到一个独立的处理器核上，因此可以同时运行。我相信你已经能够得出结论——“并行”概念是“并发”概念的一个子集。也就是说，你可以编写一个拥有多个线程或者进程的并发程序，但如果没有多核处理器来执行这个程序，那么就不能以并行方式来运行代码。因此，凡是在求解单个问题时涉及多个执行流程的编程模式或者执行行为，都属于并发编程的范畴。

通俗一点讲

你吃饭吃到一半，电话来了，你一直到吃完了以后才去接，这就说明你不支持并发也不支持并行。你吃饭吃到一半，电话来了，你停了下来接了电话，接完后继续吃饭，这说明你支持并发。你吃饭吃到一半，电话来了，你一边打电话一边吃饭，这说明你支持并行。并发的关键是你有处理多个任务的能力，不一定要同时。并行的关键是你有同时处理多个任务的能力。

所以我认为它们最关键的点就是：是否是『同时』。

多CPU，多核，多进程，多线程

首先，要先了解几个概念：

1、进程是程序的一次执行。

2、进程是资源分配的基本单位（调度单位）。

3、一个进程可以包括多个线程。

4、在单CPU计算机中，有一个资源是无法被多个程序并行使用的：CPU。

5、操作系统调度器：拆分CPU为一段段时间的运行片，轮流分配给不同的程序。

6、操作系统内存管理模块：管理物理内存、虚拟内存相关的事务。

由于CPU同时刻只能执行一个进程，如果我们不加以控制的话，一个进程可能使用CPU直到运行结束，于是出现了操作系统调度器，而进程也成为了调度单位。

进程的运行不仅仅需要CPU，还需要很多其他资源，如内存啊，显卡啊，GPS啊，磁盘啊等等，统称为程序的执行环境，也就是程序上下文。

在这里就出现了并发的概念，调度器切换CPU给不同进程使用的速度非常快，于是在使用者看来程序是在同时运行，这就是并发，而实际上CPU在同一时刻只在运行一个进程。

CPU进程无法同时刻共享，但是出现一定要共享CPU的需求呢？此时线程的概念就出现了。线程被包含在进程当中，进程的不同线程间共享CPU和程序上下文。（共享进程分配到的资源）

单CPU进行进程调度的时候，需要读取上下文+执行程序+保存上下文，即进程切换。

如果这个CPU是单核的话，那么在进程中的不同线程为了使用CPU核心，则会进行线程切换，但是由于共享了程序执行环境，这个线程切换比进程切换开销少了很多。在这里依然是并发，唯一核心同时刻只能执行一个线程。

如果这个CPU是多核的话，那么进程中的不同线程可以使用不同核心，真正的并行出现了。

线程是CPU调度和分配的基本单位，一定要和进程是操作系统进行资源分配（包括cpu、内存、磁盘IO等）的最小单位区别清楚。有句话说CPU只能看到线程，可以这么理解，假设我是CPU，我闭着眼，操作系统调度器将一个进程分配给我之后，我拿到进程睁开眼，我看到的是什么？我看到的是进程中的很多线程，那么我现在能调度和分配的是什么？进程？不行，因为我看不到其他进程，何来调度分配，只能调度我看到的那些线程，如果我是4核的话，把线程ABCD分配到核心1234，其他的线程依然要等待分配，至于等待多久，如何分配，暂不在本文讨论范围。于是线程是CPU调度和分配的基本单位。

最后说一下操作系统内存管理模块这里做的事：在这之前，程序员需要为每个程序安排运行的空间，这里的空间指的是内存的物理地址，但是这么的问题就是，每个程序都要协商如何使用同一内存的不同空间，而且程序员还要关心底层内存分配问题。解决办法就是，提出进程的概念，每个进程用一样的虚拟地址空间，CPU上增加了MMU模块负责转换虚拟地址和物理地址，虚拟地址经过操作系统和MMU之后，虚拟地址会映射到不同的物理地址，不同的进程就能获得各自独立的物理内存空间。

另外在有的操作系统里，进程不是调度单位，线程是最基本的调度单位，调度器只调度线程，不调度进程，如VxWorks。

总结：

1、单CPU中进程只能是并发，多CPU计算机中进程可以并行。

2、单CPU单核中线程只能并发，单CPU多核中线程可以并行。

3、无论是并发还是并行，使用者来看，看到的是多进程，多线程。

并发，并行，多CPU，多核，多进程，多线程并发与并行多CPU，多核，多进程，多线程