AIと女性差別
2018年、米国のテクノロジー企業アマゾンが、人材採用にAI（人工知能）システムを活用していたが、女性を差別するという機械学習面の欠陥が判明したため、その運用を取りやめたとニュースになった。その際、そもそもAIに採用を任せることが間違いだという意見も聞いたように思う。
将棋AIでプロ棋士が勝てないことが普通になり、空港でAIが人の表情を読み取り危険人物を的中させ、人の感情を認識して心を癒すロボットが開発される時代を迎えている。それでも、まだすべての判断をAIに任せるのは時期尚早だとは思う。
しかし、大きな疑問がある。AIの女性差別は本当に機械学習面の欠陥だけの問題だったのだろうか。AIを作り上げた人間に問題はないのだろうか。いや、この表現だと、AI作成に関わった人達だけの問題に矮小化されそうなので、改めよう。つまり、AIを作り出している人間社会に問題はないのだろうかという話だ。
日本では、スポーツの世界祭典の会長から女性蔑視発言がされ、女性議員や社長や会社役員の数は他国と比べて圧倒的に低い。性的役割分担の考えが根強く残っていることは、男性の育児休業の取得率の他、家事分担時間、帰宅時刻等にも見て取れる。＃ＭｅＴｏｏで話題になった東京医科大不正入試問題もあった。これらの事実は、人材採用での女性差別に関連していないのだろうか。
アマゾンのAIが女性を差別すると判断され、運用を中止された。恐らく、アマゾンは、より女性差別の生じにくい採用に取り組んでいるだろう。しかし、日本の社会は女性差別があると指摘されてどれだけの改善がされたというのだろう。
もしかしたら、既に人材採用については、日本においては人間よりAIの方が優れているかも知れないなんて、信じたくはないが、あり得るかも知れないと思う。2000年頃の将棋AIを例に取れば、プロ棋士＞将棋AI＞アマ将棋の力関係があったが、これが女性の人材採用において、ジェンダーフリー国の採用＞人材採用AI＞日本の採用になっている可能性はないだろうか。
今、将棋AIとプロ棋士が切磋琢磨（ややAIが優位か？）しているように、いつか人材採用においても、場合によってはAIの方が差別の無い判断ができるようになるかもしれないーー。
いや、待て、それはさすがに絵空事だろう、突飛すぎる仮説でしかない。そう思って、この話は封印しておくつもりだった。
高校生の体験記『聾者は障害者か？』の指摘
一ツ橋文芸教育振興会が主催する「全国高校生読書体験記コンクール」というのがある。本を読んだことで自分の内面や生活にどのような変化が起きたかを２０００字以内にまとめるというものだ。その最優秀作品を読んで、衝撃を受けた。
下の記事のリンクから、高校生奥田桂世さんの作品全文を読むことができる。できれば、私のこんな記事より先に、作品を読んで欲しい。
脳科学者の中野信子さんと漫画家のヤマザキマリさんの共著・『生け贄探し 暴走する脳』を読んで得た視点から自身の生活を再検証した文章だ。
書籍から
「ヒトは、異なる内面、異質な外見を持った者を、執拗に排除しようとする。集団は異質な者をどうにかして排除しようと足掻く。これは集団を作ることで生き延びてきたヒトの特有の脳のクセなのである」という趣旨
を読み取り、「聾者」の手話がある文化を誇りに、「障害者」「多様性」をとらえ直そうとした視点に唸らされてしまった。
私は基本的に人間の性善説を信じてきた経緯がある。「人は深く冷静に考えれば正しい視点を持てるはずである。差別やいじめのが起きるのは、周囲の嘘や悪意に流されてしまうからだ。だから嘘や悪意を取り除けばいい」そんな感じだ。
対して奥田さんは、「異質なものを排除するのは、ヒトの特有の脳のクセ」として、
「ヒトの脳はそういうもの」と当然のように考えて放置していたら、私たちの未来は明るくない。異なった文化を持っていても、異質であっても、何であっても、この世界に生きていることをお互いに受け入れる、尊重し合う姿勢が必要だ。
とする。そして
共に生きていくための合理的な配慮が普通にできる人間になるべきである。「障害者」という言葉を考え直すことが、「多様性」を維持する社会を実現する第一歩ではないかと強く思う。
と説き、「障害者」や「多様性」の意味を問う。
今の「障害者」の言葉を排除せず考え直すことで、今の「多様性」が内包する矛盾や限界は超えられるとして、その維持を主張する秀逸な表現に思われた。
なるほど、と得心した。人間社会の進歩には、脳の進歩が必要なのだ。なぜ、そこに気づけなかったのだろう。「嘘や悪意を取り除けばいい」とする私の考えも「嘘や悪意をまき散らす人の排除」となり、「異質なものを排除する」そのものではないか。高校生の指摘を受けて、人はまだまだ賢くなれる余地があると感じた。
もちろん、簡単な話ではない。『聾者は障害者か？』への反応に「それなら、障害者手帳は返すべき」とするツイートがあった。体験記の中の
「可哀想」「大変だね」と上からの目線で見られる
との表現に反発を感じた人も多く、「「可哀想」「大変だね」を上から目線と言われたら、かける言葉が無い」などのツイートも見受けられた。しかし、そう反応した人たちも、見知らぬ人から突然「可哀想」「大変だね」と言われたら、反発を感じるのではないだろうか。言葉よりその遣い方、遣われ方に、意識していない上から目線があるように思う。こうした反応を含めて、多様性に富んだ今を象徴していると思う人もいそうだ。
現状、「障害者」は否定的に遣われ、「多様性」は矛盾を抱えたままに見え、奥田さんの願う社会の実現は余程遠いような気がしてしまう。
ところで、上に紹介したNHK NEWS WEB記事の冒頭には
「聾者は障害者か？」。
そう問いかけられたなら、私は思わず答えに窮してしまうだろう。
とある。これをもじって、自分に問うてみる。
「あなたは健常者ですか？」
眼鏡を必要とする私である。将棋AIに勝てぬ私である。全力疾走すれば倒れそうだ。健常者であると言い切る自信はない。質問を替えよう。
「あなたは障害者ですか？」
毎日、薬を服用する身である。乱視も老眼も進行し、眼鏡をかけても見えにくいことはよくある。しかし何人もの障害者と接してきて、自分を障害者だとするには無理があり過ぎると思う。かと言って、障害者でないならこの文字は見えるはずと言われても、困惑するばかりだ。
「障害者」の意味や遣い方を考え直す必要があるという意見には賛成だ。加えて「健常者」も考え直した方が良いのではないかと思う。きっとそこから、「多様性」はもっと洗練された言葉になるだろう。
AIと人間性と多様性
アマゾンのAIによる人材採用で、女性差別があったと判明したニュース。
「障害者」の言葉を考え直そうと説いた高校生体験記とそれへの反発。
私には、それらが無縁だと思えない。その根に「人間性」という概念があるように思う。そして、その上に曖昧な「多様性」という覆いがかけられ、見えにくくなっていると思う。
例えばLGBTQ。いろんな人がいて当然だという声はよく耳にするようになった。しかし、LGBTQの権利や生活についてはまだ無関心であるように思う。LGBTQの存在は認めても、LGBTQの人権侵害については「LGBTQの問題であって、人権問題とは別」という意見を少なからず聞く。
何もLGBTQに限った話ではない。生活困窮者には仕事をしていないから、女性の賃金の低さには出産育児があるから、原発事故被害では原発を誘致したから、進学できない者に対して勉強ができないから親のめぐりあわせだから、等の理由をつけて当事者の問題に矮小化してしまう。そうして、多様性の社会だから、それすら尊重するべきだと、実質仕方が無いとして、放置していないだろうか。
人間性、つまり人間としてのあるべき姿の共通認識を持たずして、多様性を主張することは危険だと思う。個々の人間性や人権を認めない多様性なんて、人を人として見ないことを容認するだけではないか。
いつか人材採用においても、場合によってはAIの方が差別の無い判断ができるようになるかもしれないーー。
この記事を封印している間は、あまり深く考えずにいた。そんなときに奥田さんの体験記を読んで、他人ごとではないと気がついた。
現実の社会に差別が蔓延っているのに、AIの人材採用に期待する方が滑稽だ。人材採用に限らず、人間性の共通認識が無いままにAIが進歩したら、いったいどれだけの人が、AIに人間ではないとされるだろうか。また、誤った「多様性」の名の下で、どれだけ差別される人に人権侵害はないと判断されるのだろうか。そう思うとかなり怖い。
「異質なものを排除するのは、ヒトの特有の脳のクセ」
これをAIが踏襲しない保証はない。このままでは差別し続けるAIを、差別を再生産する社会を作ってしまいかねない。
AIの進歩は止まず、アマゾンとは別の企業では人材採用に活用しているとも聞く。
安穏とはしていられない。人間も脳を進歩させよう。人間性を問い直そう。
人もAIも、まだまだ賢くなれる余地がある。
AI考（５）へ続く
これまでのAI考（１～３）
