【ITニュース解説】Concurrency vs Parallelism: Understanding the Difference with Examples day 54 of system design

システム設計において、Concurrency（並行性）とParallelism（並列性）という二つの概念は、しばしば混同されがちだが、これらは根本的に異なるタスク処理のアプローチを指す。Concurrencyは「たくさんのタスクを同時に扱う」というタスク管理の側面が強く、Parallelismは「たくさんのタスクを物理的に同時に実行する」というタスク実行の側面を持つ。これらの違いを明確に理解することは、効率的でスケーラブルなソフトウェアを開発する上で非常に重要となる。

まずConcurrency（並行性）について解説する。Concurrencyとは、一つのアプリケーションが複数のタスクを同時に進めているように見せる状態を指す。これは必ずしも複数のタスクが同時に実行されていることを意味しない。単一のCPUコアしか持たないシステムでもConcurrencyは実現可能だ。それは、CPUが複数のタスク間を非常に高速に切り替える「コンテキストスイッチング」と呼ばれる技術によって達成される。例えば、コンピュータで音楽を再生しながらプログラミングコードを書く場合、CPUは音楽再生タスクとコード編集タスクの間を極めて短い時間で交互に切り替えている。この切り替えが私たちの知覚を超えて高速であるため、両方のタスクが同時に動いているように感じるが、実際には一瞬一瞬でどちらか一方のタスクしか実行されていない。Webブラウザがページのレンダリング、リソースの取得、ユーザーからのクリックへの応答を同時に行うのも並行性の一例だ。他にも、Webサーバーが複数のユーザーリクエストを同時に処理したり、チャットアプリがメッセージの送受信とUIの更新を同時に行ったり、ビデオゲームでレンダリング、物理演算、入力処理、BGM再生などが並行して進められたりするのも、すべてConcurrencyの典型的な例である。Pythonのasyncioライブラリは、このような並行性を実現するための強力なツールだ。例えば、複数のタスクがそれぞれ入出力（I/O）待ちの時間を挟みながら進む場合、asyncioを使用すると、あるタスクがI/O待ちでブロックされている間に別のタスクがCPUを利用して処理を進めることができる。出力例で見られるように、複数のタスクの処理が「Task A - Step 1」「Task B - Step 1」「Task C - Step 1」というように交互に進むのは、CPUがこれらタスク間を切り替えながら処理している結果であり、タスクを効率的に進めるためのタスク管理の仕組みと言える。

次にParallelism（並列性）について解説する。Parallelismとは、複数のタスクが物理的に「同時に」実行されている状態を意味する。これを実現するには、複数のCPUコアやプロセッサといった複数の実行ユニットが必須となる。各タスク、あるいは一つの大きなタスクを細分化したサブタスクが、それぞれ異なる実行ユニットに割り当てられ、独立して同時進行で処理される。このため、タスクの完了までの時間が大幅に短縮される。実際の例としては、機械学習のモデル訓練が挙げられる。膨大なデータセットに対する計算を複数のGPUに分散させ、それぞれが異なるデータバッチを同時に処理することで、訓練時間を劇的に短縮する。動画のレンダリングも、複数のフレームを同時に処理することで高速化される代表例だ。また、Webクローラーが複数のURLを同時に取得したり、ビッグデータ処理システムが巨大なジョブを複数のサーバーに分散させて同時に実行したり、気象モデリングのような科学シミュレーションが複数のプロセッサで同時に計算されたりするのも、すべてParallelismの応用である。Pythonのmultiprocessingモジュールは、このような並列処理を可能にする。例えば、複数の数値の二乗計算を異なるCPUコアに割り当てた場合、multiprocessing.Poolを使用して指定された数のプロセス（CPUコア）を起動し、それぞれの数値の計算を独立したプロセスで実行できる。出力例に「Processing 1」「Processing 2」「Processing 3」「Processing 4」がほぼ同時に表示されるのは、各数値の二乗計算がそれぞれのCPUコアで物理的に同時に実行されている証拠であり、これにより全体の処理時間が短縮される。

ConcurrencyとParallelismは異なる概念だが、現代のシステム設計ではこれらが組み合わされて使用されることが一般的である。両者の関係は次の四つのパターンで理解できる。第一に「並行だが並列ではない」ケースは、単一のCPUコアがタスクを高速に切り替えることで、複数のタスクを同時に進めているように見せる場合だ。先述のasyncioの例がこれに該当する。第二に「並列だが並行ではない」ケースは、一つの大きなタスクを複数のサブタスクに分割し、これらが異なるCPUコアで同時に実行される場合を指す。これは、タスク全体としては一つだが、その内部処理が並列化されている状態だ。第三に「どちらでもない」ケースは、タスクが一つずつ順番に実行される最も基本的なシーケンシャル処理のことである。そして第四に「両方」のケースは、複数のCPUコアを持つシステム上で、複数のタスクがそれぞれ並行に進められ、かつ各タスク内部またはタスク間の処理が複数のコアに分散されて並列に実行される場合だ。現代の高性能なシステムは、この「両方」のアプローチを採用し、最高の効率とスケーラビリティを目指している。Concurrencyは、システムが多くのタスクを効率的に「管理し、進捗させる」ための概念であり、Parallelismは、システムが多くのタスクを物理的に「同時に実行する」ための概念であると言える。

結論として、ConcurrencyとParallelismは、システム設計において極めて重要な概念である。これらを深く理解することは、バックエンドサーバーの設計、機械学習モデルの訓練、リアルタイムアプリケーションの構築といった、あらゆる種類のソフトウェア開発において、よりスケーラブルで効率的なシステムを構築するための基礎となる。現代のほとんどのシステムは、効率性を最大限に高めるために、これら二つの概念を組み合わせて利用している。