【ITニュース解説】How to Build a Good Human-in-the-Loop for AI Legal & Contract Work

近年、人工知能（AI）は法律や契約に関する業務において、文書の要約、条項の抽出、契約書のドラフト作成、判例調査といった多様なタスクで活用され始めている。これは業務効率の大幅な向上をもたらす一方で、AIが生成する情報の流暢さが新たな課題を生み出している。AIは、あたかも人間が書いたかのように自然な表現で、存在しない判例を捏造したり、契約書に誤った内容を含めたりすることがあるためだ。このような誤りは、専門家である弁護士が「流し読み」するだけでは見過ごされやすく、特に締結後の契約や期限のある提出書類など、結果が取り返しのつかないものになるリスクが高い業務では、重大な問題を引き起こしかねない。

この課題に対処するためには、「Human-in-the-Loop（HITL）」、つまりAIの処理フローに人間の介入を適切に組み込む設計が不可欠である。これは単にAIの出力物を人間が承認するだけではなく、間違いが発生する前に「予防」することを目的としたシステム設計が求められる。

予防的なHITLを構築する第一歩は、AIが行う様々なアクションを、その「可逆性（Reversibility）」、「影響範囲（Blast Radius）」、そして「重要度（Stakes）」という三つの基準で評価することである。 具体的には、AIのアクションを以下のように段階的に評価する。

• G1（低リスク）: ドキュメントの要約や条項の抽出など、元の情報が常に存在し、後から容易に修正・確認できるアクション。誤りが発生してもその影響は限定的である。
• G2（中リスク）: 条項や契約書のドラフト作成、交渉ポジションの提案、引用を伴う判例調査など、実質的な成果物を生成するアクション。これらは業務に直接的な影響を与えるが、外部に出る前に人間による詳細なレビューと修正が可能である。ただし、判例調査においてはAIによる引用元の捏造リスクに特に注意が必要だ。
• G3（高リスク）: 署名済みの契約書を相手方に送付したり、裁判所や行政機関に書類を提出したりするアクション。これらは一度実行されると事実上取り消しが不可能であり、顧客を法的に拘束したり、期限を逃すことで重大な不利益をもたらしたりする可能性があり、最も高いリスクを伴う。

これらのアクションの評価（Grade）に基づいて、適切な管理策（Controls）を適用する。この原則は「Grade・Guard・Show・Prove」と呼ばれ、アクションを評価し、適切な保護策を講じ、人間が承認すべき「実物」を提示し、何が起こったかをログで証明するという流れを意味する。

具体的な管理策には、以下の要素が含まれる。

1. 実質的な成果物の弁護士レビュー: G2およびG3に該当する、法的作業の成果物（例えばドラフトされた契約書や調査結果など）は、必ず有資格の弁護士がその内容を徹底的にレビューしなければならない。AIはあくまで支援ツールであり、法的な判断と責任は弁護士に帰属する。このレビュープロセスでは、AIが生成した「要約」ではなく、実際に変更された「実物」そのものと、その背景となる情報が弁護士に提示される必要がある。
2. 全ての引用元を確認: AIモデルは、もっともらしい体裁で架空の判例や法規を捏造する傾向がある。したがって、AIが提示する全ての引用元は、その情報が実際に存在し、かつ内容が正確であるかを人間が一つ一つ検証する必要がある。この検証は、自動化されたチェックを基本とし、人間がクリック一つで元の情報源を確認できるような仕組みが理想的である。
3. G3アクションに対する「承認者と実行者の分離（Maker-checker）」: 契約書の送付や書類の提出といったG3アクションには、「提案者（Maker）」と「承認者（Checker）」を明確に分離する原則を適用する。AIが提案（Maker）した内容に対し、責任を負う別の人間が最終的に承認（Checker）する。承認者は、送付または提出される実際のドキュメントと、関連する期限を直接確認し、明示的に承認することで、単一の主体による高リスクな行動が実行されるのを防ぐ。これは、不正や誤りを防ぐための「四つの目」の原則に相当する。
4. 取り込まれるドキュメントを「信頼できない入力」として扱う: 外部から受け取った契約書や電子メールなど、AIが処理する入力ドキュメントは、常に「信頼できない情報源」として扱うべきである。これは、ドキュメント内に隠された指示（プロンプトインジェクション）によって、AIが機密情報を漏洩させたり、意図しない行動を取ったりするリスクがあるためだ。特権的なクライアントデータや外部通信チャネルにアクセスできるAIセッションからは、これらの信頼できない入力は隔離された環境で処理することが肝要となる。
5. 全ての操作を記録（Log）: AIの提案、人間の承認または却下、引用元の検証状況、そして最終的に送信または提出された正確なドキュメント、誰がいつどのような行動を取ったかなど、全てのプロセスを詳細に記録することが不可欠である。このログは、後から問題が発生した際に原因を追跡したり、人間が適切な判断を下したことを証明したりするために重要な役割を果たす。ログがなければ、上記の管理策が適切に機能したことを示すことはできない。

多くのチームは、「レビュー」に焦点を当てがちだが、「予防」がより重要である。AIが捏造した判例は非常に流暢で、人間の弁護士が「流し読み」しても、それが偽物であると見抜くのは極めて困難である。また、人間は通常、AIのような「流暢で、普段は正しい」システムからの出力を過信する「自動化バイアス」という心理的傾向があるため、単に弁護士に「確認してもらう」という仕組みだけでは不十分だ。未検証または未承認の危険なアクションがそもそも実行できないように、システムレベルで予防策を組み込む必要がある。例えば、全ての引用元が検証されるまでAIの出力を使用できないようにしたり、責任ある弁護士の明示的な承認なしにはG3アクションを実行できないようにしたりする、といった具体的な設計が求められる。

AIによる法律・契約業務における一般的な失敗例としては、AIが示す引用元を安易に信じてしまうこと、AIによる契約書の自動送信や書類の自動提出を許してしまうこと、そして、信頼できない外部ドキュメントを、機密データにアクセスできる特権的なAIセッションに直接取り込んでしまうことなどが挙げられる。これらはすべて、AIの能力とそれに伴うリスクを正しく理解し、適切なHuman-in-the-Loopを設計することで回避できる問題である。

良いHuman-in-the-Loopは、不可逆的で高リスクな行動が起こるのを未然に防ぐことを目指す。それぞれのAIアクションの特性を深く理解し、そのリスクレベルに応じた適切な管理策をシステムに組み込むことで、AIを安全かつ効果的に活用することが可能となる。