【ITニュース解説】TernFS – An exabyte scale, multi-region distributed filesystem

コンピュータシステムにおけるファイルシステムとは、私たちが普段使うファイルやフォルダをコンピュータの記憶装置上で整理し、保存・管理するための仕組みのことだ。写真や文書、プログラムといったさまざまなデータを、どこに、どのような形式で保存し、どうすれば効率的にアクセスできるかを司っている。しかし、現代社会では扱うデータ量が爆発的に増え、1台のコンピュータではその全てを保存しきれなくなってきた。また、システムの故障や災害が発生した場合にデータが失われるリスクも高まる。

そこで登場するのが「分散ファイルシステム」だ。これは、複数のコンピュータ（サーバー）にデータを分散して保存し、それらをあたかも1つの巨大な記憶装置のように扱えるようにするシステムである。これにより、非常に大量のデータを保存できるようになるだけでなく、どれか1台のサーバーが故障してもシステム全体が停止せず、データを失うこともなく、さらに多くのサーバーで並行してデータ処理を行うことで、処理速度も向上させることができる。

「TernFS」は、金融市場で高頻度取引を行うXTX Marketsという企業が開発した、この分散ファイルシステムの一種だ。XTX Marketsでは、市場の動きを詳細に分析するために、毎日テラバイトからペタバイト規模の膨大な市場データを生成し、保存している。これらのデータは、取引戦略の改善や法規制への対応、監査などに不可欠であり、将来的にはエクサバイト（1エクサバイトは100万テラバイト）という想像を絶する規模にまで達すると予想されている。このとてつもなく巨大なデータを、高い信頼性と性能を保ちながら管理することが、TernFS開発の主な動機となった。

既存の分散ストレージ技術には、それぞれ一長一短があった。例えば、「HDFS（Hadoop Distributed File System）」は、大規模なデータ処理基盤で広く使われており、「データ局所性」という強力な特徴を持つ。データ局所性とは、データを処理するコンピュータの近くにデータを配置することで、データ転送にかかる時間を短縮し、処理性能を大幅に高める仕組みのことだ。しかし、HDFSは地理的に離れた複数のデータセンター（これを「マルチリージョン」と呼ぶ）間でデータを同期・管理する用途には適していなかった。広域の災害時に対応できず、システムの可用性が損なわれる恐れがあった。

一方、「Amazon S3」のような「オブジェクトストレージ」は、マルチリージョンでの利用が可能で、非常に高いデータの耐久性を持つ。地理的に分散してデータを保存できるため、災害対策には非常に有効だ。しかし、オブジェクトストレージはHDFSのような強いデータ局所性を提供しない。データを処理する場所とデータの保存場所が離れていると、データ転送のオーバーヘッドが大きくなり、金融取引のような高速性が求められる場面では、処理性能が課題となる。また、オブジェクトストレージはHDFSが提供するような伝統的なファイルシステムインタフェースとは異なるため、既存のHDFSベースのアプリケーションをそのまま利用するのは難しいという問題もあった。

TernFSは、これらの既存技術の課題を克服し、エクサバイト規模のデータをマルチリージョン環境で、高い信頼性、高性能、そしてコスト効率を保ちながら管理することを目指して設計された。その主要な目標はいくつかある。

第一に、エクサバイト規模の単一ファイルシステムとして機能することだ。これは、天文学的な量のデータをあたかも1つの巨大なドライブのように扱えることを意味する。

第二に、マルチリージョン対応であること。TernFSは、世界中に分散する複数のデータセンター間でシームレスにデータを管理し、どのリージョンからでもデータにアクセス可能にする。これにより、特定のデータセンターが災害に見舞われたり、故障したりしても、データが失われることなく、事業を継続できる。

第三に、HDFSが持つデータ局所性の強みを維持することだ。これは、データ処理を行うコンピュータのすぐ近くにデータを配置することで、データ転送の遅延を最小限に抑え、処理パフォーマンスを最大限に引き出すために不可欠である。特に金融取引では、ミリ秒単位の遅延が大きな影響を与えるため、この点は極めて重要となる。

第四に、高信頼性と高性能の両立だ。TernFSは、データの破損や損失を防ぐために、冗長なコピーを複数リージョンに保持したり、エラー訂正符号（イレイジャーコーディング）といった技術を用いてデータの耐久性を高めている。また、低レイテンシ（応答速度の速さ）と高スループット（単位時間あたりのデータ処理量）を両立させることで、高速なデータアクセスと処理を可能にする。

第五に、コスト効率だ。大規模なストレージシステムは運用コストがかさむため、TernFSは効率的なストレージ利用と運用コストの削減も重視している。

TernFSのアーキテクチャは、これらの目標を達成するために工夫されている。ファイルやディレクトリのメタデータ（ファイル名、サイズ、保存場所、アクセス権限など）を管理する「名前空間」は、複数リージョン間で同期され、常に一貫性を保つ。これにより、どのリージョンからアクセスしても同じファイル構造が見え、一貫したデータ管理が可能となる。実際のファイルデータは小さなブロックに分割され、複数のデータノード（記憶装置を持つサーバー）に分散して保存される。これらのデータブロックは、リージョン内での冗長な複製に加えて、複数リージョンにまたがるイレイジャーコーディングやレプリカ配置によって保護されており、広域災害時にもデータ損失を防ぐ設計となっている。

さらに、クライアントからのリクエストを受け付け、適切なリージョンの名前空間やデータノードにルーティングする「ゲートウェイ」が設けられている。このゲートウェイは、HDFSのAPI（アプリケーションプログラミングインタフェース）と互換性を持つように設計されているため、HDFSを利用している既存のアプリケーションがTernFSを容易に利用できるようになる。

TernFSは、単にデータを保存するだけでなく、極めて大規模なデータ量を、複数の地理的に分散したデータセンター間で、高い信頼性と性能、そしてコスト効率を保ちながら管理するという、非常に困難な課題を解決するために開発されたシステムである。システムエンジニアを目指す者にとって、このような極限の要件に対応するシステム設計の思想や、既存技術の課題を克服するための新しいアプローチは、将来のキャリアにおいて非常に貴重な学びとなるだろう。大規模データ管理の分野における技術革新の一例として、TernFSの動向は注目に値する。