週刊エコノミスト Online学者が斬る・視点争点

AIの統計的推定が生む「差別」=堀井亮

    (注)米フェイスブックの求人広告配信先を11種類の職種ごとに男女比を調査 (出所)Muhammad Ali, Piotr Sapiezynski, Miranda Bogen, Aleksandra Korolova, Alan Mislove, and Aaron Rieke
    (注)米フェイスブックの求人広告配信先を11種類の職種ごとに男女比を調査 (出所)Muhammad Ali, Piotr Sapiezynski, Miranda Bogen, Aleksandra Korolova, Alan Mislove, and Aaron Rieke "Discrimination through optimization: How Facebook's ad delivery can lead to skewed outcomes"(2019)より筆者作成

     銀行の与信判断、社員採用、マーケティングといったホワイトカラーの仕事が人工知能(AI)に置き換わりつつある。例えば、求人応募者の属性をAIに入力すれば、応募者がどれくらい役に立ちそうかの点数が出力される。もちろんAIの予想が外れることもあるが、過去のデータから属性と点数の関係を学習し、少しずつ修正していくことで正確になっていく。しかし、ここで問題となってくるのが「差別」の問題だ。性別や国籍といった属性だけで点数が異なったら、差別と感じる人もいるだろう。

     こうした問題が、みずほ銀行とソフトバンクが共同出資する「Jスコア」(東京都港区)で起きたことが報道された。同社の個人向け融資サービス「AIスコア・レンディング」は、生まれた年月、性別、職種や年収、勤務先の企業規模、趣味といった情報を基にAIが1000点満点で顧客の信用度を判断。点数が高いほど、低金利で借り入れできる。ところが、性別を男性から女性に変えると、その他の属性がまったく同じでも点数が下がることが判明。女性の点数が高くなるように調整が行われた。

     米国でも、アマゾンの人事部が採用にAIを用いていたが、女性に低い点数をつける傾向が判明し、中止に追い込まれた。また、米司法省では、刑務所での受刑者を仮釈放するかどうかをAIを使って判断したところ、黒人は白人より仮釈放されにくくなり、人種差別問題になった。

    残り1899文字(全文2484文字)

    週刊エコノミスト

    週刊エコノミストオンラインは、月額制の有料会員向けサービスです。
    有料会員になると、続きをお読みいただけます。

    ・会員限定の有料記事が読み放題
    ・1989年からの誌面掲載記事検索
    ・デジタル紙面で過去8号分のバックナンバーが読める

    通常価格 月額2,040円(税込)

    週刊エコノミスト最新号のご案内

    週刊エコノミスト最新号

    8月11・18日合併号

    2020年後半 日本・世界経済大展望第1部16 「沈没」する自動車大国 苦境・群馬が暗示する近未来 ■神崎 修一/柳沢 亮/加藤 結花19 「トヨタ超え」テスラ、三つの理由 ■中西 孝樹20 コロナワクチン開発 「実用化まで1年半」でも野心的 ■近内 健22 米大統領選 3項目でバイデン氏が優勢 ■ [目次を見る]

    デジタル紙面ビューアーで読む

    おすすめ情報

    最新の注目記事

    ザ・マーケット