性別、人種のデータで傾向を「学習」

　銀行の与信判断、社員採用、マーケティングといったホワイトカラーの仕事が人工知能（ＡＩ）に置き換わりつつある。例えば、求人応募者の属性をＡＩに入力すれば、応募者がどれくらい役に立ちそうかの点数が出力される。もちろんＡＩの予想が外れることもあるが、過去のデータから属性と点数の関係を学習し、少しずつ修正していくことで正確になっていく。しかし、ここで問題となってくるのが「差別」の問題だ。性別や国籍といった属性だけで点数が異なったら、差別と感じる人もいるだろう。