人事にAIを入れたい。でも評価や個人情報を扱う部門だからこそ、踏み出すのが怖い――。この記事は、そんな慎重派の人事・経営層に向けて、日本国内で実際に議論されている人事AIの3つの落とし穴（データの偏り・個人情報の流出・判断のブラックボックス化）と、明日から動ける導入ステップを整理します。この記事を読めば、リスクの地図と最初の一歩が分かります。結論を先に言えば、人事AIは「攻め」より先に「守り」を設計した企業ほど、安全に速く進みます。
いま、人事への生成AI導入はどこまで来ているか
結論：日本の人事部門でAI活用はすでに主流化していますが、使われ方は「議事録・要約」など入口業務に偏り、評価や採用のコア業務はこれからです。
『人事白書2025』（日本の人事部）によると、人事の約7割が何らかの業務で生成AIを活用し、未導入は33.5%にとどまります。ただし用途は「議事録・会議要約」が43.1%と突出し、採用の求人票作成14.4%、評価・サーベイ分析13.7%と、判断に関わる領域はまだ手薄です（同白書はHR媒体会員という感度の高い層が母集団のため、全体より高めに出ている可能性があります）。
裏を返せば、多くの企業がAIを「文章を速く作る道具」として使い始めた一方で、人の処遇や評価に踏み込むほど慎重になっているということです。この慎重さは正しい。だからこそ、踏み込む前にリスクの地図を持っておく価値があります。
人事AIで国内企業がつまずく3つのリスク
結論：国内で語られる人事AIの導入懸念は、(1)データの偏り、(2)個人情報・機密の流出、(3)判断のブラックボックス化、の3つに集約されます（出典：HR Pro）。順に見ていきます。
1. データの偏り ― 過去を学ぶと、過去の偏りも学ぶ
結論：AIは学習データの傾向をそのまま引き継ぐため、過去の人事データに偏りがあれば、偏った判断を再生産します。
たとえば特定の属性が管理職に少ない状態のデータで配置や登用を学習させれば、AIは「その属性は管理職向きでない」と誤って学びかねません。データが少ない・古い場合も、不適切な判断につながります。AIの出力は「客観的な正解」ではなく「与えたデータの鏡」だ、という前提が出発点になります。
2. 個人情報・機密の流出 ― 人事は最も機微な情報を扱う
結論：人事データは評価・給与・健康情報など機微な個人情報の塊であり、扱いを誤れば個人情報保護法上の責任に直結します。
外部の生成AIサービスに社員情報をそのまま入力すれば、情報が意図せず外部で利用されるリスクがあります。国内でも「機密情報の流出の法的責任」は主要な導入懸念として挙げられています（HR Pro）。誰の・どの情報を・どのAIに渡すのかを決めないまま使い始めるのが、最も危ういパターンです。
3. ブラックボックス化 ― 「AIがそう言ったから」は説明にならない
結論：評価や意思決定の根拠がAI内部で不透明になると、対象となった社員に説明できなくなります。
人事の判断は、本人への説明責任がついて回ります。「なぜこの評価か」をAI任せにすると、その理由を誰も説明できない状態が生まれます。国内の人事向け解説でも、完全自動のAI評価が短期間で破綻した失敗例が引かれ、AIは判断材料の整理までで最終判断は人間が担う「human-in-the-loop（人が介在する仕組み）」が前提だと繰り返し語られています（出典：meetsmore）。
実際、国内の主要ツールも「判断の代行」ではなく「判断の支援」に軸足を置いています。カオナビのAI目標・評価アシスト、タレントパレットのAIアドバイス、HRBrainの社内版生成AIなどは、目標文の具体性チェックや評価コメント支援、偏りの検知といった機能を提供する段階です（各社公表の機能。効果ベンチマークではありません）。
守りから始める、人事AI導入の4ステップ
結論：人事AIは「棚卸し → 情報の線引き → 人のレビュー関門 → 小さく検証」の順で始めると、リスクを抑えながら前に進めます。
明日から動ける粒度で整理します。
| ステップ | やること | つまずきポイント |
|---|---|---|
| ①棚卸し | 人事判断に関わる業務と、使う/使いたいAIツールを一覧化する | 現場が個別に導入した無断利用を見落とす |
| ②情報の線引き | どの情報を、どのAIに渡してよいか社内ルールを決める | 機微情報を外部サービスに入れる基準が曖昧 |
| ③人のレビュー関門 | AIの出力を上書きできる人の確認工程を必ず挟む | 「AIが出したから」で素通りさせる |
| ④小さく検証 | 議事録・要約など低リスク業務から試す | いきなり評価・登用に使う |
とくに③が要です。国内で先行する「行動リスニング」（AIがチャット上のマネジャーの行動を測定しコーチング示唆を出す新手法）でも、本人の同意・オプトインが前提とされています（出典：リクルートワークス研究所）。社員を対象にする以上、「本人の納得」を設計に組み込むことが信頼の土台になります。
なお、AIの位置づけは単なる「ツール」から、人・プロセス・情報を結びつける「基盤」へと移りつつあります。AIエージェント（複数のシステムをまたいで自律的にタスクを実行するAI）が情報を取得・加工・記録するところまで、人の承認を経て自動化する段階に入っています（出典：HR Pro）。だからこそ、承認フローのどこに人を置くかの設計が、これから一段と重要になります。
まとめ：人事AIは「どこに人を残すか」で決まる
- 日本の人事AIは主流化したが、評価・採用のコア業務はこれから。慎重に進める余地がある
- 国内の導入懸念は「データの偏り・個人情報の流出・ブラックボックス化」の3つ。攻める前に守りを設計する
- 始め方は「棚卸し → 情報の線引き → 人のレビュー関門 → 小さく検証」。人が上書きできる仕組みを必ず残す
CoTerraceでは、こうした「人が最終判断を持つAIの入れ方」を、業務の棚卸しから承認フローの設計まで伴走する形で支援しています。AIを入れること自体より、どこに人を残すかを一緒に考える。それが、人事という機微な領域で長く使える仕組みへの近道だと考えています。