一文读懂并发与并行-百木园

作者: 雅各布·詹科夫
原文: http://tutorials.jenkov.com/java-concurrency/concurrency-vs-parallelism.html
翻译: 潘深练的个人网站如您有更好的翻译版本，欢迎 ❤️ 提交 issue 或投稿哦~
更新: 2022-02-23

并发性和并行性通常用于与多线程程序相关的，最早并发性和并行性似乎指的是相同的概念，但其实并发和并行实际上有不同的含义。在这个并发与并行教程中，我将解释这些概念的含义。

为了清楚起见，在本文中，我讨论在单个应用程序（单个进程）中的并发性和并行性。不在多个应用程序、进程或计算机之间。

并发与并行教程视频

如果您喜欢视频，这里有本教程对应的视频版本: 并发与并行教程视频

什么是并发

并发是指在一个应用程序中同时存在多个任务在执行，同时刻或者说看起来是同一时刻（并发）。

如果计算机只有一个CPU，应用程序可能不会在同一时间完成多个任务，但在应用程序内部一次完成多个任务。要同时在多个任务上取得进展，CPU会在执行期间在不同的任务之间切换。如下图所示：

什么是并行执行

并行执行是指计算机具有多个 CPU 或 CPU 内核，并同时在多个任务上取得进展。但是，并行执行并不是指与并行性相同的现象。稍后我将回到并行性。并行执行如下图所示：

并行并发执行

可以进行并行并发执行，其中线程分布在多个 CPU 中。因此，在同一个 CPU 上执行的线程是并发执行的，而在不同 CPU 上执行的线程是并行执行的。下图说明了并行并发执行。

理解并行性

并行性意味着一个应用程序将其任务拆分成更小的子任务，这些子任务可以并行处理，例如在多个CPU上同时处理。因此，并行性并不是指与并行执行相同的执行模型，即使它们表面上看起来很相似。

为了实现真正的并行性，您的应用程序必须运行多个线程，每个线程必须在单独的 CPU/CPU 内核/显卡 GPU 内核或类似内核上运行。

下图显示了一个更大的任务，它被分为4个子任务。这4个子任务由4个不同的线程执行，它们运行在2个不同的CPU上。这意味着，这些子任务的部分是并行执行的（在同一CPU上执行的），而部分是并行执行的（在不同CPU上执行的）。

如果这4个子任务由4个线程在各自的CPU上执行（总共4个CPU），那么任务的执行将是完全并行的。然而，要将一个任务分解成与可用CPU数量一样多的子任务并不总是那么容易。通常，将一个任务分解为多个子任务更容易，这些子任务与手头的任务自然匹配，然后让线程调度器负责在可用CPU之间分配线程。

并发和并行组合

综上所述，并发性指的是多个任务在单个CPU上看似同时取得进展。

另一方面，并行性与应用程序如何并行执行单个任务有关，通常是通过将任务拆分为可以并行完成的子任务。

这两种执行方式可以在同一个应用程序中组合。我将在下面介绍其中一些组合。

并发，非并行

应用程序可以是并发的，但不能是并行的。这意味着它似乎同时（同时）在多个任务上取得进展，但应用程序会在每个任务上取得进展之间切换，直到任务完成。在并行线程/CPU中没有真正的任务并行执行。

并行，不并发

应用程序也可以是并行的，但不能是并发的。这意味着应用程序一次只能处理一个任务，而这个任务被分解成可以并行处理的子任务。但是，每个任务（+子任务）都是在下一个任务被拆分并并行执行之前完成的。

既不并发也不并行

此外，应用程序既不能是并发的，也不能是并行的。这意味着它一次只能处理一个任务，而且任务永远不会分解为并行执行的子任务。小型命令行应用程序可能就是这种情况，因为它只有一个作业，太小了，无法并行化。

并发且并行

最后，应用程序还可以通过两种方式同时并发和并行：

第一种是简单的并行执行。如果应用程序启动多个线程，然后在多个CPU上执行，就会发生这种情况。

第二种方式是应用程序同时处理多个任务，并将每个任务分解为子任务，同时以并行的方式执行。但是在这种情况下，并发和并行的一些性能优势可能会丢失，因为计算机中的 CPU 基于在频繁于并发或并行处理。所以并发且并行，可能只会带来微小的性能提升甚至可能是性能损失。因此，除非有特殊目的并且已经提前进行了充分分析和测量，否则不建议采用并发并行模型。

（本篇完）