アルゴリズムの偏り（バイアス）｜計算機が人間の不平等を学習・増幅する仕組み

「コンピューターは感情がないから公平だ」という思い込みの罠

会社の採用試験や銀行のローン審査、さらには海外の裁判所での再犯リスクの予想に至るまで、近年さまざまな場面でコンピューターによる自動判定（アルゴリズム）が導入されています。その背景には、「人間と違ってコンピューターは個人的な感情や偏見を持たないから、誰に対しても公平で客観的な判断をしてくれるはずだ」という期待があります。

しかし、この期待には大きな落とし穴があります。AIは何も偏りのない理想郷から知識を得ているのではなく、私たち人間が過去何十年にもわたって積み重ねてきた「不完全で偏りのある歴史の記録」をお手本として勉強しているからです。

データの偏り、身代わりの手がかり、悪循環が生み出す格差

コンピューターの判定が偏ってしまうのは、プログラマーが悪気を持って意地悪な指示を書いたからではありません。主に3つのデータの偏りや仕組みによって自然と生じてしまいます。

• お手本データの偏り（サンプリングの不均衡）：特定の人たちばかりが集まったデータで練習した顔認識AIは、人数の多いグループでは正確に見分けられても、人数の少ないグループでは見間違いが急増してしまいます。
• 身代わりの情報による落とし穴（代理変数 / プロキシ）：性別や出身地の項目をデータから隠しても、郵便番号や出身校、よく使うアプリの傾向など別の情報から属性を言い当て、昔ながらの格差を再現してしまいます。
• 偏りが偏りを呼ぶ悪循環（自己強化ループ）：過去の記録をもとに特定の地域ばかりを見回ると、そこで見つかる違反が増え、AIが「やはりここは問題が多い」と学習を深めてさらに見回りを偏らせてしまいます。

ある大企業で起きた採用AIの有名な失敗例を振り返ってみましょう。過去の優秀な技術者の履歴書をAIに学習させたところ、昔の採用実績の多くが男性だったため、AIは「女子大学出身」や「女子スポーツ部の部長」といった言葉が入っている応募書類の点数を自動で下げてしまっていました。AIに悪意があったわけではなく、単に「昔受かった人の特徴」を真面目に真似した結果でした。

もしもテストと、納得のいく説明を求める社会の動き

計算の陰に潜む偏りを正すため、国内外でAIの公平性を点検する共通の基準（監査フレームワーク）づくりが進んでいます。

• もしものの条件で試す点検（反事実的監査 / カウンターファクチュアル・テスト）：名前や性別だけを変えた架空の書類を試しに入力し、点数が不当に変わらないかを確かめる実験を行います。
• 合格率の偏りの見守り（不均等影響の評価）：性別や年代によってローンの審査や採用の合格率に極端な差が出ていないかを定期的に見守ります。
• 判断理由の説明を受ける権利：ヨーロッパのAIルールや各国の法律では、人生に大きな影響を与える自動決定に対して、人間による見直しや「なぜそうなったのか」の説明を求める権利が認められつつあります。

コンピューターは中立な審判ではなく、私たちが手渡した過去の社会の姿を映し出す鏡です。数式の客観性を信じ込みすぎず、データに隠れた昔の偏りを常に点検し、人間がきちんと説明責任を持ち続けることこそが、誰もが安心して暮らせる社会を作る大切な土台となります。