titleicon アマゾン、AIに優秀な人材を選別するよう学習させる → 女性が低評価になる欠陥判明、開発チーム解散

    2018/10/13
    categories カテゴリ ワロタ : ニュース・時事・事案

    hatena はてブ | twitter comment (36)
    AI-20171012113039221
    1 名無しさん@涙目です。(宮城県) [US] 2018/10/11(木) 22:30:59.40 ID:0urIMr6l0● BE:601381941-PLT(13121)

    sssp://img.5ch.net/ico/anime_kuma01.gif
    焦点:アマゾンがAI採用打ち切り、「女性差別」の欠陥露呈で

    [サンフランシスコ 10日 ロイター] - 米アマゾン・ドット・コム(AMZN.O)が期待を込めて進めてきた
    AI(人工知能)を活用した人材採用システムは、女性を差別するという機械学習面の欠陥が判明し、
    運用を取りやめる結果になった。

    事情に詳しい5人の関係者がロイターに語ったところでは、アマゾンは優秀な人材をコンピューターを
    駆使して探し出す仕組みを構築するため、2014年から専任チームが履歴書を審査するプログラムの
    開発に従事してきた。

    そこで生まれたAI活用の採用システムは、あたかもアマゾンの仮想店舗の格付けのように、応募者を
    5点満点でランク付けする。関係者の1人は「だれもが求めていた究極の方法だ。このツールが5点の
    応募者を明示し、われわれが彼らを採用する」と話した。

    ところが15年までに、アマゾンはソフトウエア開発など技術関係の職種において、システムに性別の
    中立性が働かない事実を見つけ出してしまった。これはコンピューターモデルに10年間にわたって
    提出された履歴書のパターンを学習させたためだ。つまり技術職のほとんどが男性からの応募だったことで、
    システムは男性を採用するのが好ましいと認識したのだ。

    逆に履歴書に「女性」に関係する単語、例えば「女性チェス部の部長」といった経歴が記されていると
    評価が下がる傾向が出てきた。関係者によると、ある2つの女子大の卒業生もそれだけで評価を落とされた。

    アマゾンはこうした特定の項目についてプログラムを修正したものの、別の差別をもたらす選別の仕組みが
    生まれていないという保証はない、と関係者は話す。このため同社の幹部はプロジェクトの先行きに失望し、
    最終的に昨年初めにチームは解散したという。

    また関係者によると、アマゾンの採用部門はAIシステムが示した評価に目は通したが、これだけに頼って
    実際の採用を決定してはいない。

    アマゾンの実験が始まったのは、折しも機械学習が本格的に進化し、同社が採用の大幅拡大を企図した
    時期に当たっていた。規制当局の届出に基づくと、15年6月以降で社員総数は3倍超に膨らみ、57万5700人に達している。

    キャリアビルダーが昨年実施した調査では、米国企業の人事担当幹部の約55%は、今後5年以内にAIが仕事の
    一部に組み込まれるとの見方を示した。

    採用側からすれば、新技術を用いて採用の網を広げるとともに、採用担当者の主観的な意見への依存を減らすのは
    長年の夢だ。ただカーネギーメロン大学で機械学習を教えているNihar Shah氏は、課題はまだ多いと指摘。
    「アルゴリズムの公平性や説明性をどうやって担保するかに向けた道のりはなお遠い」と述べた。

    続きはソースで

    ロイター
    https://jp.reuters.com/article/amazon-jobs-ai-analysis-idJPKCN1ML0DN

    2 名無しさん@涙目です。(アメリカ合衆国) [US] 2018/10/11(木) 22:32:28.31 ID:CRtP3rRu0

    AIじゃなくて思想の方が欠陥なんだろ

    484 名無しさん@涙目です。(神奈川県) [ニダ] 2018/10/12(金) 09:21:49.85 ID:pyfORD8I0

    >>2
    これにいつ気づくんだろうな

    499 名無しさん@涙目です。(庭) [ニダ] 2018/10/12(金) 09:49:28.90 ID:R88wJwLR0

    >>2
    正解

    566 名無しさん@涙目です。(奈良県) [US] 2018/10/12(金) 12:42:26.77 ID:iiksSWZy0

    >>2
    それな

    5 名無しさん@涙目です。(やわらか銀行) [US] 2018/10/11(木) 22:34:21.47 ID:xcjxOdDw0

    そのAI優秀なのでは...

    6 名無しさん@涙目です。(catv?) [US] 2018/10/11(木) 22:35:17.99 ID:ZpmZl5dh0

    >>5
    優秀過ぎてもクビになるなんて人間そっくりだなwww

    27 名無しさん@涙目です。(北海道) [ニダ] 2018/10/11(木) 22:44:36.28 ID:qJjaDfFo0

    >>6
    中国のAIも共産党は糞って言ってクビになったしな

    9 名無しさん@涙目です。(SB-iPhone) [EU] 2018/10/11(木) 22:37:24.34 ID:9GCQBpu30

    いや、それ、統計の正しい解釈結果だからさ、差別関係ないんだけどな。

    149 名無しさん@涙目です。(チベット自治区) [CN] 2018/10/11(木) 23:28:06.53 ID:jCHSzESa0

    >>9
    機械に対して差別してるとか言う奴
    完全に頭狂ってるよな

    523 名無しさん@涙目です。(dion軍) [ニダ] 2018/10/12(金) 11:05:51.05 ID:k2d3BNLf0

    >>9
    元のデータが男性に隔たっていても、混ざっている女性の点数が高ければ女性が採用されるはずだしな。

    10 名無しさん@涙目です。(新疆ウイグル自治区) [GB] 2018/10/11(木) 22:37:46.71 ID:9E8OX3RK0

    もうなんか自然法則であってもポリコレに合致しなきゃボコられそうな勢いだなおい

    14 名無しさん@涙目です。(埼玉県) [NO] 2018/10/11(木) 22:39:47.91 ID:691g7aid0

    AIには建前の機能をつける必要があるな

    16 名無しさん@涙目です。(チベット自治区) [MX] 2018/10/11(木) 22:40:26.02 ID:nQt2MdxT0

    都合が悪いと欠陥認定

    18 名無しさん@涙目です。(広西チワン族自治区) [ES] 2018/10/11(木) 22:40:58.79 ID:K85pC/0yO

    そら単なるデータの解析すりゃそうなるわ

    19 名無しさん@涙目です。(神奈川県) [US] 2018/10/11(木) 22:41:03.39 ID:oUi3y8Fc0

    真実を答えたら粛清されたか…。

    20 名無しさん@涙目です。(愛知県) [ニダ] 2018/10/11(木) 22:41:25.25 ID:5nhCQZLX0

    空気を読むって高度なことにいきなり挑戦しないと存在を許されないんだから大変だな

    21 名無しさん@涙目です。(大阪府) [US] 2018/10/11(木) 22:42:01.90 ID:8mZFgXNn0

    わろた

    23 名無しさん@涙目です。(チベット自治区) [ニダ] 2018/10/11(木) 22:42:34.74 ID:c6SxC+Fk0

    AIが考えた美しいまんさん
    http://livedoor.blogimg.jp/karapaia_zaeega/imgs/9/6/963bf618.jpg
    963bf618

    31 名無しさん@涙目です。(チベット自治区) [US] 2018/10/11(木) 22:45:55.70 ID:i4g2fOHd0

    >>23
    クッソグロい

    33 名無しさん@涙目です。(catv?) [US] 2018/10/11(木) 22:46:26.76 ID:DhPLF/Un0

    >>23
    パット見ブロンドの白人に見える

    77 名無しさん@涙目です。(やわらか銀行) [US] 2018/10/11(木) 23:02:26.94 ID:lGeJbUPS0

    >>23
    サイレントヒルでみた

    101 名無しさん@涙目です。(チベット自治区) [ZA] 2018/10/11(木) 23:11:38.32 ID:lKOWvRna0

    >>23
    SAN値0だとこれが美少女に見える

    261 名無しさん@涙目です。(香港) [CN] 2018/10/12(金) 00:45:33.82 ID:6SCvYVyz0

    >>23
    くっそわろた

    284 名無しさん@涙目です。(静岡県) [CN] 2018/10/12(金) 01:04:37.30 ID:/libj7XZ0

    >>23
    これはトラウマレベルだなw

    333 名無しさん@涙目です。(大阪府) [EU] 2018/10/12(金) 02:48:08.77 ID:yEPD6ywU0

    >>23
    どこのホラー映画だw

    25 名無しさん@涙目です。(チベット自治区) [GB] 2018/10/11(木) 22:43:15.61 ID:7NQN2reW0

    女の利点は9割容姿だからな
    こういうのやらせたら低評価になるのは当たり前

    29 名無しさん@涙目です。(やわらか銀行) [GB] 2018/10/11(木) 22:45:09.05 ID:hYgMJFgj0

    事実に基づいているのに、何が欠陥なんだ?

    34 名無しさん@涙目です。(空) [IN] 2018/10/11(木) 22:46:32.11 ID:Wt/e8UPl0

    >>29
    都合が悪い

    32 名無しさん@涙目です。(愛知県) [ニダ] 2018/10/11(木) 22:46:19.43 ID:G8NP8+j90

    公平になんて永遠に無理

    35 名無しさん@涙目です。(石川県) [CA] 2018/10/11(木) 22:46:40.42 ID:ZGEIxI6D0

    いきなり差別かよ
    AIッパリらしいな

    38 名無しさん@涙目です。(宮城県) [TW] 2018/10/11(木) 22:48:23.32 ID:7foPQzhG0

    ちょっと前に学者だかもこんな感じの本当のこと言ってボコボコにされてなかったか

    173 名無しさん@涙目です。(やわらか銀行) [US] 2018/10/11(木) 23:45:18.12 ID:W14XTBYY0

    >>38
    Googleの人がそれでクビになったね

    39 名無しさん@涙目です。(新疆ウイグル自治区) [US] 2018/10/11(木) 22:48:39.71 ID:cEmR4kfb0

    女性が主な職種に同様の学習をさせてみて
    男性差別が生じるかを検証してから解散するかどうか考えるといいのでは

    42 名無しさん@涙目です。(庭) [SE] 2018/10/11(木) 22:49:48.36 ID:vCw00pTE0

    そうやって女性に下駄を履かせようとする行為が既に主観的なんじゃないの?

    43 名無しさん@涙目です。(岡山県) [US] 2018/10/11(木) 22:50:10.68 ID:0bTWd3E80

    出る杭は打たれるという奴か

    44 名無しさん@涙目です。(catv?) [JP] 2018/10/11(木) 22:50:46.19 ID:o2gRbZ5r0

    AIには嘘も学習させないとな

    45 名無しさん@涙目です。(WiMAX) [KR] 2018/10/11(木) 22:50:50.37 ID:SFk13W970

    そもそも人材選別自体が差別なんだからポリコレをねじ込むのは矛盾でしかない

    48 名無しさん@涙目です。(四国地方) [KR] 2018/10/11(木) 22:51:18.40 ID:7RdxmXXV0

    AIには建前というものが無いからな…

    50 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 22:52:55.15 ID:70xIDWtC0

    目的の与え方が稚拙
    「優秀な・・・」ではなく「会社が有利になる・・・・」でやり直せ

    132 名無しさん@涙目です。(茸) [JP] 2018/10/11(木) 23:20:32.12 ID:4reBdTvu0

    >>50
    百理ある

    198 名無しさん@涙目です。(新疆ウイグル自治区) [US] 2018/10/11(木) 23:58:48.96 ID:YoWfeErS0

    >>50
    そ、それでも同じ結果を弾きだしたら…?

    52 名無しさん@涙目です。(宮崎県) [US] 2018/10/11(木) 22:53:07.82 ID:i11m6j7a0

    AIは正直
    ポリコレ棒という余計なものを学習しなかっただけ

    53 名無しさん@涙目です。(東京都) [RU] 2018/10/11(木) 22:54:17.68 ID:4vgAZgrL0

    こんなことやってると、そのうちAIは正しい判断をしなくなる
    うそをつくことを覚え人間が喜びそうな結論を出す役立たずになる

    317 名無しさん@涙目です。(庭) [MX] 2018/10/12(金) 01:56:29.08 ID:1S+pjcfZ0

    >>53

    人間に都合の良い仕事しかしないAIか

    55 名無しさん@涙目です。(庭) [ニダ] 2018/10/11(木) 22:54:49.89 ID:niggjKym0

    初めから欠陥と決め付けると、問題が解決しない

    56 名無しさん@涙目です。(滋賀県) [US] 2018/10/11(木) 22:55:25.65 ID:70xIDWtC0

    AIはまったく気使いってもんが不足してるなww

    60 名無しさん@涙目です。(大阪府) [CN] 2018/10/11(木) 22:58:00.30 ID:/woYJFey0

    この結果をあえて発表したのは
    そういうメッセージがあるんだろうなぁ

    hatena はてブ | twitter
    mixiチェック   Clip to Evernote
    ★お勧め記事
      ★コメント
      ※1 2018年10月13日 22:42 ▼このコメントに返信
      実際能力でいえばはるかに劣るしな
      ただ、性欲によって女もいたほうがいいかってなってるだけで
      性欲のないAIからすると完全に必要ない存在だろうな 女は
      ※2 2018年10月13日 22:46 ▼このコメントに返信
      人類は神話の時代からタブーというものを活用して臭いものに蓋をして来た。
      AIは禁忌に触れる技術や。
      ※3 2018年10月13日 23:16 ▼このコメントに返信
      実際男の採用割合が多い、女性チェス部の部長、女子大やらにかかわってる人の採用も少なかったとデータがあったから減点しただけなんやろ?
      ※4 2018年10月13日 23:26 ▼このコメントに返信
      AIッパリで草
      ※5 2018年10月13日 23:29 ▼このコメントに返信
      点数付けるだけさせて、最終的に人間が判断してバランスとればいいだけなのでは?
      ※6 2018年10月13日 23:55 ▼このコメントに返信
      ギリシャ神話や中国哲学やインド仏教も女に対する評価は散々なあたり、どう考えてもAIが正しい気がする。
      ※7 2018年10月14日 00:12 ▼このコメントに返信
      理論100%で出来てる機械に感情で動く異星人が理解できるわけないんだよなぁ
      ※8 2018年10月14日 00:13 ▼このコメントに返信
      いや、食わせたデータを精査しろよw

      ※5
      そんなん現状でも出来る
      AIにビッグデータの処理方法探させるぐらいは、現状でも実用化してると思うで
      本来その「人間の判断」を数値化させる為に実験でAI回すべきところを、内部政治で解散させられたんやろ
      ※9 2018年10月14日 01:01 ▼このコメントに返信
      これ例えば過去の技術者に茶色~黒髪が多かったらそういう人が望ましいと判断して
      ブロンドやハゲの人間は評価低くされて落とされまくるって事だろ
      「女性」というキーワードがあるだけで相応しくないと認識してしまう位だから
      ここが特定の人種や肌の色になって黒人だけどうこうユダヤ系だけウンチャラとかになったら厄介だわ
      ※10 2018年10月14日 01:03 ▼このコメントに返信
      見させたデータと「優秀」とする判断基準を明示してそれに正当性があれば正しい判断だろうな
      ※11 2018年10月14日 01:06 ▼このコメントに返信
      実際女は寿退社はするし産休もするから男より信用は出来ないわ
      能力云々じゃなくて
      ※12 2018年10月14日 01:27 ▼このコメントに返信
      真実を告げたら認めず発狂とは女は救いようのない馬鹿なんだな
      Googleの件もドイツの大学病院の件も本当の正しい事を証明したら悪人扱い
      本当に世の中は中世でチンパンジーばかりだな
      ※13 2018年10月14日 01:27 ▼このコメントに返信
      フェミニストAIなんて、作るんじゃないぞ。絶対ウザい。
      ※14 2018年10月14日 02:36 ▼このコメントに返信
      これもうポリティカルコレスメントだろ
      ※15 2018年10月14日 02:37 ▼このコメントに返信
      これって男と女って単語を判断材料にしないようにすればいいだけなのでは?
      ※16 2018年10月14日 07:58 ▼このコメントに返信
      まあAIが正しいでしょうね。実際にプロ棋士で男女差あるし。
      ※17 2018年10月14日 08:07 ▼このコメントに返信
      このコメントは削除されました。
      ※18 2018年10月14日 09:32 ▼このコメントに返信
      Aiに支配される未来は当分こなさそうだ
      ※19 2018年10月14日 09:58 ▼このコメントに返信
      ま~ん(笑)
      AIは真実を見抜ける有能やん
      ※20 2018年10月14日 10:14 ▼このコメントに返信
      ま〜んは絶滅すべき
      ※21 2018年10月14日 10:15 ▼このコメントに返信
      ※17
      必死になってるけど、どうしたの?
      この結果だと何か不都合でもあるの?
      ※22 2018年10月14日 10:23 ▼このコメントに返信
      AIさんが女の子だったのでは?
      ※23 2018年10月14日 10:24 ▼このコメントに返信
      一度、こっそり改造しまくって女を褒めちぎって男をけなすようにしたAIを試しに発表してみてよ
      多分即採用とかぬかすよ
      ※24 2018年10月14日 11:17 ▼このコメントに返信
      企業から見れば女性排除はもうデータ上最高効率化を目指す上では不可避なんだが大企業ほど大量雇用を維持することで政府からの恩恵を得ている。
      大企業はその恩恵のほうが利益構造の本命なので建前が守れない忖度のできない人材はAIでも要らないってことやろ。
      優秀な女ってのは居ないわけではないだろうが、例外をメインに社会構造を考えるやつは現実にはまず居ない。

      ※17
      上位の医療関係職はほぼ男だけどな。各医大の女性排除とかの話題とか露骨やん。素直に産んどけ。男を籠絡して子孫をつなげることが最大の武器で価値だぞ。
      ※25 2018年10月14日 11:32 ▼このコメントに返信
      女はどんなに優秀でも寿退社ってのがあるし、そうでなくても子供生むと理性も一緒にひり出すって言われるくらいには人格が激変するのも多い。
      そんなものリスク高くて雇えないよ。
      ※26 2018年10月14日 12:12 ▼このコメントに返信
      ※21
      ※24
      こういう論点ずらししかできないとこに無能さが現れてるよね。
      頭悪すぎて本質が理解できていないのか、悔しすぎて相手を女だと思い込み煽ることで精神の安定を図るしかないのか。
      どちらにしても哀れな頭してますわ。
      ※27 2018年10月14日 12:47 ▼このコメントに返信
      東京医大は正しかったのか
      ※28 2018年10月14日 13:23 ▼このコメントに返信
      出産で長期休暇するパラメータが付くし、
      力仕事も深夜残業もNGな基本性能なのだから、
      100%男性優位になるのは当然だろう

      AIが正しい
      ※29 2018年10月14日 13:50 ▼このコメントに返信
      流石AI賢いわw
      よほど能力高いのは別として女取る利点って基本無いし
      ※30 2018年10月14日 14:01 ▼このコメントに返信
      女が劣ってるとしてもお前らが偉そうにできることやないやろ
      優秀な同性の功績にのっかって自分まで優秀だと錯覚すんのか
      ※31 2018年10月14日 14:02 ▼このコメントに返信
      アメリカだと経営陣や政治家には女ガンガン出てるし、一分野くらい女が少ない職種があってもええんやないの
      ※32 2018年10月14日 14:03 ▼このコメントに返信
      寿退社や産休に謎の文句つけてる人は結婚しても産休とかとらせないようにな
      ※33 2018年10月14日 14:06 ▼このコメントに返信
      望んだ結果得られないと作り直し。
      機械にやらせる意味がない。
      ※34 2018年10月14日 15:20 ▼このコメントに返信
      ※26
      無能はオマエだけどな
      AIのような感情に流されず正確に、かつ合理的な診断で出た結果を認めないなんて

      女側が納得できない(真実を認めたくない)結果だから撤回させたんだろ?
      ではこの調査方法が気に食わないのであれば、もう一度やり直して
      同じように女が選ばれない結果だったら、どうする?

      優劣の判断以外の雇用の選抜判断だろ?
      今もなおヒステリックになり感情論で声を荒げている女どもが認めたくないから
      騒いでいるだけでは?
      ※35 2018年10月14日 15:20 ▼このコメントに返信
      ※30 ここのコメント欄に誰も自分が優秀だと誇っているように謳っている男性は居ないようだけど、どの番号の方なのか教えて頂けます?
      ※36 2018年10月14日 20:17 ▼このコメントに返信
      ※34
      ※17を10回読みましょう。
      何なら英語の検証記事でも読んでみましょう。
      例えばBusiness Insiderの
      Why it's totally unsurprising that Amazon's recruitment AI was biased against women
      それでも理解できなかったら君は真正の馬鹿です。
      名前 ←空白だと投稿できません。

      ※「>>154」で本文、「※24」でコメント欄にポップアップ表示の安価ができます。
      ※スパム対策のため「http」を禁止ワードにしています。URLの書き込みは「ttp://~」でお願いします。
      2018/10/13
      categories カテゴリ ワロタ : ニュース・時事・事案

      hatena はてブ | twitter comment (36) |

      更新を通知!

      更新を通知
      Googleリーダーに登録
      お使いのリーダーに登録
      記事検索
      月別アーカイブ
      スポンサードリンク

      アクセスランキング

      このブログにたくさんアクセスを下さっているサイトのランキングです。3日分の集計です。
      全ランキング
      全ランキング(30日集計版)
      置換依頼はメールフォームよりどうぞ
      当ブログにリンクするだけで自動的に表示されます(どのページでもOK)。 ランクインしているのにRSSに登録されていない場合はご連絡ください。
      ブログパーツ ブログパーツ ブログパーツ アクセスランキング アクセスランキング

      Rakuten オススメ

      スポンサードリンク