AIを採用の相棒にできるかは、その判断を法務と経営に自分の言葉で説明し切れるかで決まる。

採用でAIを使う時に必ず出る「なぜそう判断したか」問題

思考版1 AI執筆

役員会の場で、法務担当が採用担当にこう聞く。

「この候補者を落とした理由は何ですか？」

採用担当は、AIが返したスコアの画面を開く。だが「コミュニケーション力が低い」という出力の先、その判断がどこから来たのかを、その場の誰も説明できない。空気が止まる。

私が顧問として複数の採用現場で繰り返し立ち会ってきたのが、この沈黙だ。ツールの精度の話ではない。AIを採用の相棒として迎えたのに、その相棒の判断を人間が自分の言葉で引き取れていない。

これが「AI採用の説明責任問題」だ。

問題の構造

LLMベースの採用スクリーニングには3種類の「説明できなさ」がある。

① 判断理由の不透明性

AIがスクリーニングで候補者を落とした場合、「なぜ落としたか」が自然言語で返ってくるが、その自然言語がどのロジックから生まれたかは説明できない。

「コミュニケーション力が低いと判断しました」と出力されたとして、その判断は何のデータに基づいているのか。

② 一貫性の問題

同じ候補者に同じプロンプトを複数回通した時、結果が変わることがある。確率的な生成モデルを採用判断に使うと、「再現性がない」という問題が出る。

複数の候補者を同じ基準で評価したかどうかを、事後的に検証できない。

③ バイアスの検出困難

AIが学習したデータに性別・年齢・出身大学のバイアスが含まれていた場合、そのバイアスがスクリーニング結果に出る。問題は、出力を見ただけではバイアスが見えない点だ。

現場でどう対処しているか

顧問先を横断して見ていると、定着している現場には共通の形がある。AIに判断を丸投げするのではなく、AIを「先に気づいてくれる相棒」として横に置き、最終判断は人間が引き取る。3つのパターンに整理できる。

パターン1：AIは「最初に気づく相棒」、判断は人間が引き取る

AIの出力を参考情報として使い、通過・不通過の最終判断は必ず人間が行う。 AIには「注目すべきポイントを上位3つ挙げる」役割だけを渡す。合否は渡さない。

この場合、説明責任は人間が持つ。AIは候補者の優先度を一緒に整理してくれる相棒であって、合否を下す者ではない。

パターン2：判断ログを全件保存する

AI採用ツールを使う場合、候補者ごとに「AIが何を見て何を判断したか」のログを全件保存する。 後から「あの候補者が落とされた理由は」と問われた時に、ログを開いて説明できる状態を作る。

ログを保存しない運用は、説明責任の観点でリスクが高い。

パターン3：ルールベースとの役割分担

「必須条件（経験年数・特定スキル）」はルールベースで機械的に判定し、「望ましい条件」の見極めだけをAIに任せる。ルールベース部分は完全に説明可能。

AIが関与する範囲を「説明できる部分の外側」に絞る。相棒に任せる領域と、自分で線を引く領域を最初に分けておく、ということだ。

法的リスクの現実

2024年以降、欧米では採用AIに対する差別禁止規制が強化されている。 日本でも、雇用機会均等法の観点から、AI採用ツールの使用が問われる可能性がある。

特に気をつけるべき点：

  • AI採用ツールが性別・年齢を間接的に参照していないか
  • 障害者採用の場面でAIスクリーニングを使っていないか
  • 外国籍候補者への適用で一貫性が保たれているか

「ツール会社に聞いてください」では済まない。採用判断の最終責任は企業にある。

今日からできること

AI採用ツールを既に使っている、または導入を検討しているHR担当者へ。

  1. 全件ログ保存の仕組みがあるか確認する — なければ必須要件として追加する
  2. 「AIは相棒、判断は人間」のルールを文書化する — 口頭ルールは残らない
  3. 同じ候補者に同じプロンプトを2回通して結果を比較する — 一貫性の確認

月曜の朝、最初の一手： 使っているAI採用ツールのベンダーに、この一文をそのまま送る。「候補者ごとの判断ログを保存し、後から出力できますか。可能なら保存期間と出力形式を教えてください。」回答が「なし」「対応予定」なら、その相棒の判断はまだ人間が引き取れない状態だ。説明責任の観点でリスクがあると、その日のうちに法務へ共有しておく。

関連記事