2020年01月15日

◆ AIと差別

 AIが人を差別することがあるので、問題だ、という指摘がある。

 ──

 これは朝日新聞に掲載された、美学者のコラム。
  → (思考のプリズム)AIのバイアス問題 人間を「機械」にする罠 伊藤亜紗:朝日新聞

 ここでは、次の事例を掲げている。
 たとえば2018年には、米アマゾン社が採用試験を自動化するために開発したAIにバイアスがあったことが明らかになった。このAIは、過去10年間の採用実績にもとづき、応募者の履歴書を1〜5個の星の数でランクづけする。ところが実際に動かしてみると、「女子大学」「女子チェスクラブ部長」など「Woman」という言葉が入っている履歴書を低く評価する傾向が明らかになったのだ。アマゾンは全社員のうち約6割が男性だ。このジェンダーバランスに倣ったために、女性を差別する採用システムができあがってしまったのである。

 たとえば、複数の米大手企業が、ビデオを用いた面接を導入している。応募者は実際に人事担当者に会うことなく、パソコンのモニター越しに与えられた質問に答えていく。その様子は映像に撮られ、AIがそれを分析する。しゃべり方や声のトーン、表情の変化などから、次の面接に進むべき人物をリコメンドするのだ。このシステムが、まひや吃音(きつおん)の当事者など、流暢(りゅうちょう)な発語が難しい応募者をあらかじめ排除するものであることは言うまでもない。

 では、どうしてこういうことが起こるのか? 筆者は次のように語る。
 周知の通り、AIは膨大なデータを学習することによって、判断を下すことができるようになる。人間は現実の世界の中で学ぶが、AIにとっては与えられたデータがすべてだ。データに偏りがあれば、偏った判断を下すAIになってしまう。結果として、人間の社会に含まれる偏見が、写し鏡のように、AIに移行してしまうことがある。

 その上で、対策法を掲げる。
 こうしたバイアスをなくすために、学習に用いるデータに多様性をもたせ、偏りがないようにすることは重要だろう。

 筆者は「偏見」「バイアス」という言葉を使っている。そして、人間社会に「偏見」があるから、それがそのままAIに持ち込まれるのだ、と判定している。その上で、「偏見」をなくせばいい、と考える。
 筆者の認識では、悪いのは「偏見」をもつ人間の認識であるから、人間の「偏見」をなくせばAIの差別もなくなる、ということになる。
 しかし、そうか? 

 ──

 私の考えを言おう。
 この筆者は、美学者という肩書きがある通りで、理系の認識が皆無である。だから、こういう抽象的な哲学論議をしている。ほとんど「机上の空論」に近い。もっとコンピュータ技術に即して考えるべきだ。
 コンピュータ技術に即して考えれば、以下のようになる。

 AIにはそもそも「偏見」なんてものはない。また、「データの偏りがある」というようなことも、通常はない。(よほどおかしなデータを取るのでなければ、だ。通常、データの偏りは、丹念に排除されるからだ。)
 AIでは、女性が不利になるのは、もともと現実レベルで女性が能力的に劣るからだ。AIは、女性を差別しているのではなくて、「女性は能力的に劣る」という事実を、単に客観的に抽出しているだけなのだ。そこには「差別」なんてものは、入りようがない。
 
 「女性は能力的に劣る」という事実を認めることは、差別でも何でもない。ただの客観的な事実認定だ。
 そもそも、女性には、生理や出産というハンディキャップがある。このハンディキャップを乗り越えて、男性と同等の能力を発揮できるはずがない。仮に同等の能力を発揮できるとしたら、女性は生来的に、男性を1割ぐらい上回る能力がある場合に限られる。(それならば生理や出産というハンディキャップがあっても、帳消しになる。)
 現実には、女性は生来的に、男性と同等ぐらいの能力がある。とすれば、生理や出産というハンディキャップがある分、能力評価では劣っていても当然なのである。
 これが科学的な認識というものだ。

 ──

 だから、「女性は能力的に劣る」という事実を認めることは、差別ではない。もちろん、AIも差別なんかをしていない。ただの事実認定をしているだけだ。
 では、差別はどこにもないのかというと、そんなことはない。「女性にはハンディキャップがある」ということを認定しないで、「女性は生来的に、男性よりも劣った能力しかない」というふうに認識することだ。これは差別である。

 つまり、次の二点を区別することが大切だ。
  ・ ハンディキャップがあるから、能力判定が落ちる。
  ・ 生まれながらにして、能力が劣っている。


 この二つはまったく別のことである。
 前者ならば、ただの事実認識だ。
 後者ならば、差別だ。

 AIの判定を見たら、「たしかに女性では能力判定が落ちるな」というふうに、素直に判定を受け止めていい。その後に、「これは、女性にはハンディキャップがあるからだ」と背景を理解するべきだ。その上で、「ならば、女性に対する判定には、ハンディキャップの分だけ、補正するべきだ」(点数を上乗せするべきだ)というふうに結論すればいい。
 ここでは、「差別をなくせばいい」のではなく、「逆差別をして、データを補正すればいい」というふうになる。
 つまり、「男女を同様に扱えば、平等になる」というふうに認識するべきではなく、「女性を優遇すれば、平等になる」というふうに認識するべきなのだ。

 冒頭の著者は、「男女を同様に扱えば、平等になる」というふうに思っているのだろう。そして、「男女が平等にならないのは、女性が差別されているからだ」と思っているのだろう。
 違う。女性にはもともと生理や出産というハンディキャップがあるのだ。その分、能力評価では劣っていても当然なのである。だから、「男女を同様に扱えば、平等になる」ということはない。男女を平等にするには、男女を同様に扱ってはならないのである。むしろ、女性を優遇するべきなのだ。
 そのことは、たとえば、スポーツを見ればわかる。陸上競技でも、格闘技でも、球技でも、男性と女性ではまったく能力が異なる。性ホルモンの違いのせいで、肉体の構造が違うからだ。体力的に、女性は男性よりも劣っているのが、もともと当然なのである。ここでは、「男女を同様に扱えば、平等になる」ということはありえないのだ。むしろ、「女性を男性とは別の基準で評価することで、平等になる」というふうになるのだ。

 ──

 では、企業ではどうか? 営利を目的とする企業では、能力だけを基準にして、平等な基準で評価しても、いいだろうか?
 それでもいいかもしれない。しかし、そんなことをすれば、企業全体の活力が低下してしまう。なぜなら、女性社員の能力を発揮させることができなくなるからだ。
 日本全体でも、同様だ。そんなことをすれば、国全体の活力が低下してしまう。なぜなら、女性労働者の能力を発揮させることができなくなるからだ。男性労働者だけが働いて、女性労働者がまともに能力を発揮できない……というような国は、国全体として、他の国に負けてしまう。これが、今日の日本が貧しいことの理由の一つだ。(女性労働者の賃金水準が低い分、国全体の GDP が小さくなってしまう。つまり、国全体が貧しくなる。)
 企業でも同様だ。女性の能力が一見して1割ぐらい低く見えるとしても、だからといって「能力がない」と判定するような企業は、有能な人材を見損なっていることになる。せっかくの人材を生かし切れていないことになる。むしろ、「生理や出産があるから、見かけの能力が落ちているだけだ」と認識するべきなのである。

 ──

 ともあれ、「AIと差別」という点では、間違えないことが大切だ。「人間に偏見があるから、AIに偏見が持ち込まれる」というふうに発想するべきではない。
 AIには偏見なんかはない。AIは単にデータを整理して、認識を与えるだけだ。そして、その認識をどう評価するかは、人間の知性が決めるべきなのである。その上で、AIの認識に補正を加えればいい。……このことは、多くのAI利用について当てはまる。
 AIとは決して完璧なものではないし、人間に代わるものでもない。AIは「知の補助ツール」として、人間が利用するべきものなのである。
 冒頭の著者は、AIというものをあまりにも買いかぶっている。まるで人間の代わりの判定者(または神)のごときものだとして、崇め祀っている。とんでもないことだ。AIとはただの道具にすぎないのだ、と思った方がいい。それをどう利用するかは、あくまで人間の知性に任されているのだ。
 「馬鹿とハサミは使いよう」とは、よく言ったものだ。この言葉を噛みしめた方がいいだろう。その上で、「部下とAIは使いよう」というふうに応用展開すればいい。

 《 加筆 》

 冒頭の話に戻ると、AIが女性について点数を下げたのは、AIに「偏見」があるからではない。女性には「不利な環境がある」「ハンディキャップを付けられている」という状況があることを暴露しているだけだ。
 だから、それを理解した上で、「女性については補正をする」ということの必要性を教えているわけだ。
 こういうふうに、AIをうまく使うべきだ。そのことが、冒頭の話の結論となる。AIは決して人間のような知的存在物ではない。ただの知的なツールなのである。たとえその機能がどれほど大きくなろうとも、だ。……結局、しょせんは、使う人しだいなのである。 



 [ 注記 ]
 「AIは知的なツールである」
 というのは、換言すれば、
 「AIに、判断の(全面的な)最終権限を与えてはならない」
 ということだ。

 ここを誤った例が、映画「ターミネーター」に登場する「スカイネット」だ。これは、人類の知的活動の全権を握るようなコンピュータだ。こいつが人間に反逆して、人間を滅ぼそうとする……という物語。
 こういうことが起こるのも、「AIに、判断の(全面的な)最終権限を与える」ということをやらかしたからだ。それは決してやってはいけないことなのだが。

 ──

 余談だが、映画「ターミネーター・新起動/ジェニシス」では、最後にスカイネットのビル全体を爆破することで、スカイネットの息を止める。……しかし、これはおかしい。
 スカイネットは、文字通り、空の上にあるもの、つまり、クラウドである。クラウドであるから、特定の一カ所のビルに全機能が収まっているはずはない。各地に分散配置されており、しかも、RAID みたいになって、相補的になっているはずだ。どこか一カ所が破壊されても、他の場所に同等の機能が蓄えられているから、すぐにバックアップが起動するはずだ。
 映画のストーリーは、理屈の上では、おかしいね。(まあ、映画だから仕方ない、とは言えるが。)




 [ 付記 ]
 差別が偏見による、というのは、別のことを意味する。
 男女の能力差というのは、統計的に現れる小さな差のことであるにすぎない。それは統計的にのみ意味を持つ。
 一方、個別の人について、「あなたは女性だから劣っている」というような判定は、ナンセンスだ。なぜなら、統計的な男女差に比べて、女性内部や男性内部の個体差はあまりにも大きいからだ。
 要するに、能力の劣る男性よりは、能力の高い女性の方が、ずっと能力が上だ。ここでは(個別の例では)、個体差が重要なのであって、性別の差はナンセンスだ。
 このことを理解しない認識が、「差別」と呼ばれる。



 [ 補足 ]
 女性労働者について、補足しよう。
 「生理や出産があるから、見かけの能力が落ちているだけだ」
 と企業は認識するべきだ。そのあと企業は、女性社員に、生理休暇や出産休暇を与えればいい。
 ここで、生理休暇や出産休暇を有給にすれば、企業にとって明らかに損失であるから、企業にとっては女性を不採用とする動機となる。だから、生理休暇や出産休暇は、無給とするのが原則だ。
  ※ 無給で問題がないという点については、下記。
     → 有給?無給?日数上限は?生理休暇の法律的な扱い
 これなら、企業にとって無理ではないので、企業が女性を雇用するのを阻害する動機とならない。

 なお、出産休暇は、会社側は無給にするが、雇用保険の側から育休手当が出るので、実質的には有給同様になる。
 また、生理休暇は、労働者が有給休暇の形で取るのであれば、有給となる。
 問題があるとしたら、新人社員には、有給休暇の日数が少ないことだろう。この点では、新人社員についても、(男女とも)有給休暇の日数を十分に与えるよう、法改正すればいい。それで済む。
  ※ 企業が文句を言うかもしれないが、だったら、企業は初任給を下げれば済む。それだけのことだ。

posted by 管理人 at 20:08| Comment(6) | コンピュータ_04 | 更新情報をチェックする
この記事へのコメント
 最後のあたりに  《 加筆 》 と [ 付記 ] を、書き足しました。
Posted by 管理人 at 2020年01月15日 21:47
休んだ分の給料が低いのは女性も納得すると思う
同じ仕事をして同じ成果を上げているなら
同じ報酬を払うべきです
それがされていないから差別なのだと思う
Posted by 老人 at 2020年01月16日 06:43
一般社会に出て男性と同様に働く場合、女性固有のハンディキャップはあると思います。だから逆差別をする。この意見に賛成です。
もちろん人間は多様であり個人差はありますが、ここでは個人差については論じず一般論です。
一般論ですが、女性には、有給休暇であれば男性より10%増し、同じ仕事をして同じ成果なら男性より10%増し(以上)の報酬くらいにすべきように思います。
ちなみに私は男性です。
Posted by SM at 2020年01月16日 09:16
 最後のあたりに [ 注記 ] を、書き足しました。
Posted by 管理人 at 2020年01月16日 13:00
管理人さんの加筆と付記はとても重要だと思います。
私益、つまり個人の損得だけを視点におけば同じ仕事をして10%多く支払わねばならないと言えば、それは大損だ!それなら雇わない!ということになります。
人間は個人が単位ですが、同時にまた人類として一つです。男と女が融合して生物として未来を作っていきます。
融合の時に男と女の役割が異なります。女に成り代わって男が子どもを産む人はいません。人類の未来を作るという点において女性だけの優位性(役割)があります。その違いは、社会に出れば別のことで女性の弱さ、不利さにつながると思います。
こういう視点を持つと、女性に上乗せすることが何ら問題ない当たり前のことと認識できるようになります。
人類にこういう認識が広がるまでは、管理人さんの加筆と付記のようにあれこれ知恵を絞り、また時には従業員のうち女性を30%以上は雇わねばならないとか、義務化する必要があるように思います。
Posted by SM at 2020年01月16日 17:18
>>「データの偏りがある」というようなことも、通常はない。(よほどおかしなデータを取るのでなければ、だ。通常、データの偏りは、丹念に排除されるからだ。)

そんなに簡単な話ではないんですよ。
http://openblog.seesaa.net/article/465528887.html
Posted by 細波 at 2020年01月17日 20:49
コメントを書く
お名前: [必須入力]

メールアドレス:

ホームページアドレス:

コメント: [必須入力]

  ※ コメントが掲載されるまで、時間がかかることがあります。

過去ログ