【ITニュース解説】Can’t reliably extract the rightmost column using OCR

業務のデジタル化が進む現代において、紙の書類やPDFファイルから自動で情報を抽出し、データとして活用する技術の重要性はますます高まっている。この中核をなすのが、画像から文字を認識するOCR（光学的文字認識）技術である。しかし、単に文字を読み取るだけでなく、請求書や証明書に記載された「表」のように、特定の構造を持つデータから必要な情報だけを正確に抜き出すことは、多くの開発者が直面する難しい課題の一つだ。今回は、PDF形式の証明書に含まれる表から、一番右側の列のデータ抽出に苦戦している開発者の事例を通じて、この課題の技術的な背景と解決へのアプローチを解説する。

ある開発者は、Python言語を用いて、製品の校正証明書PDFを自動処理するプログラムを開発していた。彼の目標は、証明書内に複数存在する表の中から、一番右端に記載された数値データのみをすべて抽出することであった。彼が採用した手法は、まずPDFの該当ページを高解像度の画像に変換し、その後、画像内の文字を読み取るために「Tesseract」という広く使われているオープンソースのOCRエンジンを利用するというものだった。しかし、OCRは画像内の文字を認識するものの、それらの文字が表のどの行、どの列に属するのかといった構造までは理解してくれない。そこで彼は、OCRが認識した個々の単語や数値の位置情報、特に横方向の位置を示す「X座標」に着目した。同じ列に属するデータは、X座標が近い値になるはずだという仮説に基づき、「クラスタリング」という手法を用いて、X座標が近いテキスト同士をグループ分けし、擬似的に列を検出した。そして、最も右側に位置するテキストのグループを目的の「最後の列」とみなし、その中の数値を抽出しようと試みた。しかし、この工夫を凝らしたアプローチでも、肝心の一番右の列が頻繁に認識されず、データの抽出に失敗するという問題に直面していた。

この問題が発生する原因は、単一ではなく複数の要因が複雑に絡み合っている。第一に、OCR技術そのものの限界が挙げられる。OCRは、画像の品質、文字のフォントや大きさ、文字と背景のコントラストなど、多くの要素に精度が左右される。特に、表の罫線が細かったり、文字と罫線が接していたりすると、文字の一部が罫線と誤認され、正しく認識されないことがある。第二に、レイアウトの微妙なズレが問題を引き起こす。スキャンされた文書のわずかな傾きや、文書フォーマットの個体差により、同じ列にあるはずの文字のX座標が完全に一致することは稀である。クラスタリングでこのズレを吸収しようとしても、どの程度のズレまでを同じグループと見なすかという閾値の設定が非常に難しい。閾値が厳しすぎれば同じ列のデータが別々の列と誤認識され、緩すぎれば隣の列のデータが混入してしまう。第三に、PDFを一度画像に変換するプロセスにも問題がある。多くのPDFファイルは、テキスト情報を文字として、その位置情報を座標として内部に保持している。しかし、これを画像に変換する時点で、そうした構造的な情報は失われ、単なる色の付いた点の集まり（ピクセルデータ）になってしまう。この情報の劣化が、結果的にOCRの精度を低下させる一因となる。汎用的なOCRエンジンであるTesseractは、必ずしも表構造の解析に特化しているわけではなく、こうした悪条件が重なると、ページの右端にあるような列を正しく認識しきれない場合があるのだ。

この課題を解決するためには、一つの方法に固執せず、多角的な視点からアプローチを検討する必要がある。まず考えられるのは、PDFを画像化するのをやめ、PDFから直接テキスト情報を抽出する方法である。PythonにはPyMuPDFやpdfplumberといったライブラリがあり、これらを使えばPDF内部に保持されているテキストデータと、その正確な座標情報を直接取得できる。画像化による情報劣化を避けられるため、より信頼性の高い位置情報に基づいて列を判定することが可能になる。次に有効なのが、表抽出に特化した専門のツールやライブラリを活用することだ。CamelotやTabula-pyといったPythonライブラリは、PDF内の表構造を解析することを目的に開発されている。これらは、罫線の有無やテキストの配置パターンを分析する高度なアルゴリズムを内蔵しており、単純な座標クラスタリングよりもはるかに高い精度で表の行と列を検出し、データを構造化された形で抽出できる可能性がある。どうしても画像ベースでの処理を続けたい場合は、OCRにかける前の画像に対する「前処理」を徹底的に行うことが重要だ。画像の傾きを自動で補正する処理や、文字と背景を明確に分離するための二値化処理を最適化することで、OCRの認識率を向上させることができる。さらに、OpenCVのような画像処理ライブラリを用いて表の罫線を検出し、その罫線情報を手がかりに各セルの領域を特定し、セルごとにOCRを適用するという、より高度で精密な手法も存在する。これらのアプローチは、それぞれに長所と短所があるため、対象となるPDFの特性に応じて最適な手法を選択したり、複数の手法を組み合わせたりすることが、問題解決への鍵となる。この事例は、現実世界の不完全なデータを扱うシステム開発の難しさを示している。理論通りには進まない状況において、問題の根本原因を分析し、利用可能な技術の中から最適なものを選択・組み合わせる能力こそが、現代のシステムエンジニアに求められる重要なスキルであるといえる。