【ITニュース解説】I built Foyer: a Rust hybrid cache that slashes S3 latency

現代のデジタルサービスでは、大量のデータを素早く処理し、ユーザーに届けることが非常に重要だ。Amazon S3（Simple Storage Service）のようなクラウド上のオブジェクトストレージは、無限に近い容量を持ち、データを安全かつ安価に保存できるため、多くのシステムで利用されている。S3は非常に優れたサービスだが、データにアクセスする際の「レイテンシ」、つまり応答速度が必ずしも高速ではないという課題がある。

レイテンシとは、コンピューターシステムにおいて、何かを要求してからその応答が返ってくるまでの時間のことを指す。例えば、ウェブサイトの画像を読み込むのに時間がかかると、ユーザーは「遅い」と感じるだろう。S3のような遠隔のストレージからデータを取得する場合、ネットワークの距離や混雑、ストレージ自体の処理時間などが原因で、レイテンシが発生しやすい。特に、頻繁にアクセスされるデータに対して毎回S3にアクセスしていると、システム全体のパフォーマンスが低下してしまう。

この問題を解決するために登場するのが「キャッシュ」という技術だ。キャッシュとは、一度取得したデータを、次に必要になったときに素早く取り出せるように、一時的に保存しておく場所のことである。例えば、コンピューターのCPU（中央演算処理装置）がデータを処理する際、メインメモリよりもはるかに高速な小さなメモリ（キャッシュメモリ）に頻繁に使うデータを置いておくことで、処理速度を大幅に向上させる。同様に、S3のような遅いストレージからのデータも、より高速な場所に一時的に保存しておくことで、全体の応答速度を向上できるのだ。

キャッシュには様々な種類があるが、一般的なのはメインメモリを利用する「メモリキャッシュ」と、SSD（ソリッドステートドライブ）のような高速なストレージデバイスを利用する「ディスクキャッシュ」だ。メモリキャッシュは非常に高速だが、容量が限られており、コストも比較的高価である。一方、ディスクキャッシュはメモリよりも容量を大きくでき、コストも抑えられるが、メモリキャッシュほどの速度は出ない。この二つのキャッシュにはそれぞれメリットとデメリットがあるため、どちらか一方だけでは理想的な性能を実現するのが難しい。

ここで「Foyer」という新しいハイブリッドキャッシュシステムが提案する解決策が「ハイブリッドキャッシュ」である。ハイブリッドキャッシュは、メモリの高速性とディスクの大容量・低コストという、それぞれの良い点を組み合わせることで、よりバランスの取れた性能を目指す。Foyerでは、特に高速なNVMe SSD（Non-Volatile Memory Express Solid State Drive）とメモリを組み合わせて利用している。

Foyerは、頻繁にアクセスされる「ホットな」データは高速なメモリに、そこまで頻繁ではないが比較的アクセスされる「ウォームな」データは大容量のNVMe SSDに、そしてほとんどアクセスされない「コールドな」データはS3に保存するという階層的なアプローチを取る。データが要求された際には、まずメモリキャッシュを確認し、そこになければNVMe SSDキャッシュを確認する。それでも見つからなければ、最後にS3からデータを取得する。この仕組みにより、S3へのアクセス回数を大幅に減らし、結果としてデータ取得の平均レイテンシを大きく改善できる。

Foyerの開発には、プログラミング言語「Rust」が採用されている。Rustは、高いパフォーマンスとメモリ安全性を両立できる点が大きな特徴だ。キャッシュシステムは、データを効率的に管理し、並行処理を高速に実行する必要があるため、Rustのような低レベルでの制御が可能で、かつ安全な言語が非常に適している。Rustを使うことで、メモリの利用効率を最大化し、システムのクラッシュを引き起こすようなバグを未然に防ぎながら、高速なデータ処理を実現できるのだ。

オブジェクトストレージであるS3は、従来のファイルシステムとはデータの管理方法が異なる。S3に保存されるデータは、それぞれが独立した「オブジェクト」として扱われ、ファイルシステムのような階層構造ではなく、フラットな構造で管理される。また、オブジェクトのサイズは非常に多様で、アクセスパターンも予測しにくい。既存の多くのキャッシュシステムは、このようなオブジェクトストレージの特性に最適化されていない場合が多い。Foyerは、オブジェクトストレージの特性を考慮し、そのアクセスパターンに合わせて効率的にデータをキャッシュするよう設計されている。

Foyerのようなハイブリッドキャッシュの導入は、システム全体の応答速度を向上させるだけでなく、運用コストの削減にもつながる可能性がある。S3へのアクセス回数を減らすことで、データ転送量やリクエスト数に応じた課金が抑えられる場合があるためだ。このように、FoyerはS3のようなクラウドオブジェクトストレージの利用における「遅延」という長年の課題に対し、高性能なRustと階層型キャッシュという技術を組み合わせることで、効果的な解決策を提示している。将来的に、このようなキャッシュ技術は、クラウドを基盤としたあらゆるサービスにおいて、その性能とコスト効率を最適化するための重要な要素となるだろう。