1. まとめトップ
  2. ニュース・ゴシップ

公平性に問題が…AI(人工知能)が人間を差別するって本当なの?

万能を思われているAI(人工知能)ですが、実は色々な問題があり、人間を差別することがあるということも分かってきました。

更新日: 2019年12月19日

14 お気に入り 91276 view
お気に入り追加

この記事は私がまとめました

様々な情報を参考に作成しています。

PINKMOMOさん

■AI(人工知能)

「『計算(computation)』という概念と『コンピュータ(computer)』という道具を用いて『知能』を研究する計算機科学(computer science)の一分野」

言語の理解や推論、問題解決などの知的行動を人間に代わってコンピューターに行わせる技術

テック企業が人工知能(AI)分野に莫大な投資を進めているおかげで、生活や身の回りのガジェットはすでに変わり始めている

■我々の生活に関わり始めている

AIが政治的および社会的な管理ツールとしても利用されるようになっている。中国の都市ではありとあらゆる場所に監視カメラが設置

Alexa(アレクサ)やGoogle(グーグル)などの対話型音声で操作するAIスピーカーや、ロボット掃除機などのスマート家電が注目

■このAIが人間を差別するというニュースが

人工知能学会らは12月10日、「機械学習の不適切な利用は公平性を欠く可能性がある」などと注意を呼び掛ける声明文を発表

アメリカでは“AIのバイアス”の議論が始まっています。そこから見えてきたのは、AIが社会の差別を再生産するかもしれないという危機感

不当な差別(人種差別/民族差別や、性別差別、文化差別/地域差別など)を引き起こすケースがある

■これまでも、それを証明するかのようなニュースが。まずはMicrosoftの人工知能(AI)「Tay」

Tayの開発チームは、彼女に自然言語を習得させる場として、Twitterが最適だと考えた

一部のユーザーが意図的に人種差別や性差別、陰謀論などを吹き込んで喋らせようとしたことから、またそうした言葉や文章を語彙として吸収しそのまま繰り返してしまった

結果的にこれが原因でヘイトスピーチや性転換したかのようなメッセージを投稿するようになった

■更に「アップルカード」でも

8月にアメリカで一般提供が開始されたこのカードは、11月に炎上した。それは、Apple Card が性差別をおこなっているというもの

信用スコアは妻のほうが高かったにもかかわらず、アップル・カードが夫デイヴィッドに設定した利用限度額は妻の20倍だった

アップル(Apple)の新しいクレジットカードサービスに性差別があるとの指摘を受け、米ニューヨーク州の金融規制当局は9日、調査を開始

■これらを含め、AIが差別する原因は「学習」にある

AIでは、私たちがこれまでに持っている大量のデータを機械学習することで見つけた特定の法則性やパターンをもとに、コンピューターが自動的に分析を行います

社会に関するような課題を学習させる際は、その学習させるデータに含まれる人間の判断を良くも悪くも模倣する

不公平なバイアスは、例えばデータ収集時からデータのフィルタリング、ラベリング、学習結果のメトリクスなど、至る所に存在する可能性がある

1 2