【ITニュース解説】The grant money already exists. My AI kept inventing foundations to spend it on

世の中には、すでに用意されている助成金があるにもかかわらず、それを見つけられない小さな非営利団体（NGO）が数多く存在する。彼らは活動の資金を必要としているが、助成金の情報は数千ページにも及ぶ膨大な文書の中に散らばっており、多忙な職員がそれを読み解く時間はない。特に資金提供元が減った現代では、一つのNGOが複数の資金源を探す必要があり、プログラムの運営者自身が助成金申請書の作成者も兼ねるような状況だ。ここで不足しているのは資金そのものではなく、情報を探すための「時間と注意力」である。

このような状況で、AI（人工知能）を使って助成金を探すツールは非常に魅力的なアイデアだが、同時に大きな危険もはらんでいる。もしAIが提供した情報が間違っていたらどうなるだろうか。例えば、存在しない助成金の締め切りに合わせて、小さなNGOが貴重な一週間を費やして申請書を作成してしまったら、その失われた時間は取り返しがつかない。AIが役に立たないだけでなく、かえってNGOに損害を与えてしまう可能性があるのだ。

この問題に対処するために開発されたのが「FundFinderAI」というツールである。このツールは、リアルタイムのウェブ上から、そのNGOに合った現在募集中の助成金を探し出す。しかし、最も重要な点は、AIが探し出した情報をそのまま信用しないことだ。AIが提示するすべての申請URLは、ユーザーに表示される前に個別にアクセスされ、その結果が「✓検証済み」「⚠解決できませんでした」といった形で表示される。

例えば、アフリカの女子STEM教育NGOの検索例では、いくつかの助成金候補が示される。その中には「✓検証済み」とされた、実際にアクセス可能な助成金ページが含まれる一方で、「⚠解決できませんでした」と表示されるものもある。これは、Googleの検索インデックスには存在するが、実際にウェブサイトにアクセスするとページが見つからないといったケースだ。AIはもっともらしい情報を生成する能力があるため、このような架空の助成金情報を提示してしまうことがある。FundFinderAIは、そうしたAIの「幻覚（ハルシネーション）」と呼ばれる現象による誤情報を、ユーザーが目にする前に排除することを目的としている。

もし、解決できなかった助成金に対して申請書を作成しようとすると、その助成金やファウンダーの存在を確認できないという警告が赤字で表示される。これにより、ユーザーは無駄な作業を始める前に、情報が不確かであることを知ることができる。過去には、AIが全く存在しない架空のウェブサイトのドメイン名を提示したこともあったが、そのような情報も検証段階でユーザーの目に触れる前にブロックされてきた。

このツールが正しく動作していることを確認するための技術的な工夫も凝らされている。例えば、AIが本当にGoogle検索ツールを使って情報を探しているかを検証する「グラウンディングチェック」という仕組みがある。開発当初、AIモデルの中には、Google検索ツールを使うように指示されても、実際にはツールを使わず、自らの学習データからそれらしい情報を生成してしまうものがあった。このような「AIが指示されたツールを使ったふりをする」という落とし穴に対し、FundFinderAIはAIが実際に検索クエリを実行した証拠を外部から確認することで、その「グラウンディング」が正しく行われたかを検証している。

また、AIの出力をより正確にするための調整も行われた。当初、AIに「空のリストは失敗である」と指示してより多くの結果を出すように促したところ、今度は存在しない架空の組織を生成し始める問題が発生した。これに対し、開発者は「検索結果に実際に現れた組織のみをリストに含める」という明確なルールをAIに与えることで、架空の情報を排除し、信頼性の高い情報のみを出すように改善した。

AIが提供するリンクを検証する「ゲート」の仕組みにも工夫がある。単にリンクが切れているかどうかだけでなく、より慎重な判断を下す。例えば、URLが不正、DNSエラー、サーバーからの404（ページが見つからない）応答など、ページが存在しないという明確な証拠がある場合にのみ「壊れている」と判断する。一方、タイムアウトやボット対策によるアクセス拒否など、アクセスが阻害された原因が不明確な場合は「未検証」と表示する。これは、本物の助成金情報を誤って「壊れている」と判断してしまうこと（誤った否定）を防ぐためであり、「自信を持って間違えるよりも、不確かであることを正直に示す」という設計思想に基づいている。

もちろん、このツールにはいくつかの限界も存在する。ウェブページが読み込めること自体は、その助成金が現在も募集されており、記載されている締め切りや応募資格が正しいことを保証するものではない。ツールは情報の信頼性の「最低限のレベル」を引き上げるものであり、助成金内容を完全に保証するものではない。また、助成金への適合性やその理由付けはAIの判断であり、これも検証されていない。さらに、提供されるLOI（照会書）はあくまで最初のドラフトであり、最終的な提出前には必ず人間による確認と修正が必要となる。

FundFinderAIは、AIの強力な情報検索能力を活用しつつも、その不確実性や誤情報の生成リスクを徹底的に管理することで、小さなNGOを危険から守ろうとしている。AIなしではこの製品は成立しないが、AIの出力を検証する工程がなければ、それはむしろ危険なツールになってしまう。このプロジェクトは、AI技術を社会課題の解決に役立てるために、AIの能力と限界を理解し、その信頼性を高めるためのエンジニアリングがいかに重要であるかを示している。情報の質を確保するために、多くのGoogle検索とURLフェッチを行うため、処理には30秒から120秒ほどの時間がかかるが、これは「推測しない」ことのコストであり、信頼性を確保するための必要な犠牲だと考えられる。