【ITニュース解説】AI Is Screening Your CV — and It Has a Bias Problem

近年、多くの企業で応募者の履歴書をAIが自動的に選別するシステムが導入されている。これは「AIスクリーニング」と呼ばれ、大量の応募を効率的に処理し、人間による偏見のない公平な選考を実現する手段として期待されてきた。しかし、この期待とは裏腹に、AIがむしろ過去の偏見を学習し、それを増幅させてしまうという深刻な問題が指摘されている。

この問題は、AIの不具合や特定のベンダーの失敗に起因するものではない。むしろ、機械学習システムの根本的な仕組みから発生する構造的な課題だ。AIは過去のデータからパターンを学習するが、もしそのデータに偏りがあれば、AIはその偏りを「正しいパターン」として認識し、新しい応募者にも適用してしまう。これを「バイアス・イン、バイアス・アウト（偏見を入力すれば、偏見が出力される）」と呼ぶ。採用AIの場合、過去に企業が採用してきた人々の履歴書や評価データが学習材料となる。もし過去の採用履歴に、性別、人種、年齢といった特定の属性への偏りがあった場合、AIはその偏りを「企業が求める人材の統計的特徴」として捉え、同様の偏りを持つ候補者を優先したり、特定の属性を持つ候補者を不当に排除したりするようになるのだ。

具体的な事例として、Amazonがかつて開発した採用AIの失敗は有名だ。このAIは、過去10年間に男性中心の技術職に集まった応募データで学習した結果、男性を優遇するようになった。報告によると、「女性の」という言葉（例：「女性チェスクラブ主将」）が含まれる履歴書を低く評価し、女子大学の卒業生を差別する傾向が見られたという。Amazonは特定の問題を修正しようと試みたが、AIが他の間接的な情報から同様のバイアスを再学習する可能性を排除できなかったため、最終的にプロジェクトを中止した。

この問題は、8年が経過し、大規模言語モデルのような最新のAI技術が登場した現在でも解消されていない。2024年の最新の研究では、主要な言語モデルが履歴書選考に用いられた場合、白人に関連する名前の候補者を85%の確率で優先し、女性に関連する名前の候補者をわずか11%しか優先しないという衝撃的な結果が報告された。特に、黒人男性はほとんど全てのテストで他の候補者より不利に扱われた。同じ内容の履歴書でも、名前を変えるだけで評価が大きく変わることは、雇用法が禁じる差別そのものであり、AIがその「治療薬」として売り出されている現状との乖離を示している。

さらにこの研究は、バイアスが名前の有無に依存しないという、より厄介な事実も明らかにした。AIモデルは膨大な人間が作成したテキストデータで訓練されているため、履歴書から名前を削除しても、記載された学校名、居住地、卒業年（年齢を示唆する）、さらには文章表現など、間接的な情報から候補者の身元や属性を推測し、バイアスを適用してしまうのだ。つまり、バイアスは履歴書のヘッダーだけでなく、その内容全体に潜んでいるのである。

このようなAIによる差別に対し、規制の動きも出始めているが、その進捗はまだ不十分だ。米国では2023年に、ある企業がAI駆動の採用システムで年齢差別を行ったとして、数百万円の和解金を支払い、慣行の是正を命じられた事例がある。これは明らかなルールベースの差別であり、特定しやすかったため対応ができた。しかし、最新のAIが学習によって生み出す微妙なバイアスは、その仕組みが複雑であるため、法的措置による証明がはるかに難しいのが現状だ。

一方、ニューヨーク市では2023年から、企業が採用に自動化されたツールを使用する場合、毎年独立した第三者機関による人種と性別に関するバイアス監査を義務付け、その結果の概要を公開し、候補者にもツールが使用されていることを通知する「Local Law 144」が施行された。欧州連合（EU）のAI法案では、採用・選考に用いられるAIを「高リスク」に分類し、厳格なリスク管理、データガバナンス、透明性などの義務を課す予定だが、その施行は2027年12月まで延期されてしまった。このように、AIの技術革新に比べて、規制や法整備が追いついていないのが実情である。

企業がAI採用ツールを導入する理由は理解できる。人間による採用プロセスは時間とコストがかかり、人間自身も疲労や主観的な感情から偏った判断をしてしまうことがある。何千もの応募がある中で、個々の履歴書を丁寧に人間が確認することは現実的ではない。迅速に適切な候補者を見つけ出すツールは、確かに価値がある。もしAIが適切に監査され、バイアスがないか監視され、人間の最終的な判断を補完する形で使われれば、疲れた採用担当者よりも公平な選考を実現できる可能性もある。AIのバイアスは測定・修正できる可能性があるからだ。しかし、このような「適切な運用条件」（独立監査、候補者への透明性、継続的な監視、人間による最終決定権）が、現実にはほとんど満たされていない。条件が欠けている場合、AIは単に継承されたバイアスを自動化し、数値という客観的な権威を装うだけになる。問題は、技術が公平になり得ないことではなく、公平性がオプションであり、現状では監査されないまま使用されていることにある。

特に危険なのは、AIが出す「スコア」だ。人間が下した判断は、あくまで不確実な個人によるものと認識されやすい。しかし、AIが「100点中61点」と出した場合、それはまるで客観的な測定結果であるかのように見えてしまう。この「客観性」の皮は、決定に対する疑問を抱かせにくくし、忙しい採用担当者がそのスコアを盲信して選考を進めるインセンティブを生む。バイアスは自動化されるだけでなく、まるで科学的な正当性を与えられたかのように振る舞うのだ。スコアは「モデルが過去の採用者と同じようなタイプを好むように学習した」という事実を、「この候補者はスコアが低い」という、まるで応募者自身の能力や資質の問題であるかのようにすり替えてしまう。

さらに、スコアは責任の所在を曖昧にする。採用担当者が候補者を落とす場合、その判断は担当者個人の責任となる。しかし、AIが出したランキングに従った場合、担当者は「データに従っただけ」と主張できてしまう。この責任の分散が、監査されないスコアの使用が広まる原因となっている。ベンダーは導入企業に、導入企業はベンダーのモデルに責任を押し付け、モデルは当然、何も説明しない。結果として、誰も自分が偏った結果を生み出したとは感じないまま、差別的な採用が行われてしまうのだ。

システムエンジニアを目指す皆さんも、将来的にAIによる選考を受ける可能性がある。応募者としては、AIが最初にアプリケーションを読む可能性を想定し、誤解を招かないよう、簡潔で標準的な言葉遣いを心がけるべきだ。求人票に記載されているスキルや役職名をそのまま使うなど、キーワードマッチングを意識することが重要である。また、自分が応募する地域の法律（例：ニューヨーク市ではバイアス監査と情報開示の権利がある）を把握し、もし不当な拒否だと感じた場合は、企業に自動化ツールが使われたかどうか、どのようにチェックされたかを問い合わせることも、状況を改善する一歩となる。

もし将来、皆さんがこのようなAI採用システムの開発や導入に関わる立場になった場合、守るべき原則は明確だ。システムを導入する前、そして運用開始後も定期的に、独立した第三者機関によるバイアス監査を実施し、その結果に基づいて改善を行うこと。AIが出すスコアやランキングを盲信せず、最終的な決定権を持つ人間が必ず関与すること。候補者に対しては、AIツールが使用されていることを明確に伝え、異議申し立てや質問ができる経路を提供すること。そして、履歴書から名前を削除しただけで安心せず、間接的な情報（学校、居住地、年齢、言葉遣いなど）から属性が推測されていないか、継続的にテストし、バイアスの原因を特定し除去する努力を続けるべきである。

AIは「優秀な従業員像」を学習するわけではない。AIが学習するのは、「過去の採用担当者がどのような決定を下したか」という過去のデータそのものだ。もしその過去の決定に偏りがあったのなら、AIはその偏りを数値という権威の裏に隠し、より速く、より広範囲に適用してしまうことになる。この点を深く理解し、AI技術が公平な社会に貢献するために、私たちは慎重かつ責任あるアプローチを常に追求していく必要がある。