1. まとめトップ

グーグルの『人工知能』が「黒人」に「ゴリラ」タグをつける…!なぜこうなった…!?

日々進化を続ける人工知能だが、やはりまだまだ人間には及ばないようだ。そんな人工知能がとんでもない失態をやらかしてしまった…!

更新日: 2015年07月02日

3 お気に入り 6876 view
お気に入り追加

この記事は私がまとめました

CherrySweetさん

■グーグルの人工知能「DEEP MIND」とは

Googleが人工知能(AI)の開発を行うベンチャー企業「DeepMind Technologies」を5億ドル(約510億円)以上の金額で買収した

このベンチャー企業は、「史上最も優秀なチェスプレイヤー」と評されたチェスの神童として有名で認知神経学の博士号を取得したデミス・ハズビス氏と、Skype・Kazaaの開発者であるジャン・タリン氏らによって設立されたもの。

■世界最高峰のグーグル「Deep Mind」が大失態をやらかした…!?

確かにゴリラとなっていますね。

ユーザーがフォトアプリ内で「Gollira」を見つけようと検索したところ、黒人女性の写った写真が大量に表示されてしまったようです。

■なぜこうなった…!?

一枚くらいならともかく、同一人物の写真が大量にゴリラという検索ワードで出てくる、ということは、システムが完全にこの女性を「ゴリラ」として認識していることになります。

顔がはっきり写っていない写真、肌の色や照明などに合わせたコントラスト処理によって、顔の画像認識に問題が起きることがあり、以前には人に犬のタグが付けられたこともあったという。

■人工知能の問題行動は過去にもあった…!?

インターネット検索大手の米グーグルで、映画の脚本のデータベースを使ったコンピュータープログラムに対し、morality(道徳)という言葉を定義するよう要請すると、プログラムはこの定義の作業に苦戦し、途中で怒り出しました。

■進化を続ける人工知能に警鐘を鳴らす著名人たち

「いつの日か、自律するAIが登場し、とんでもない速さで自己改造を始めるかも知れません。生物学的進化の遅さに制限される人間がこれに対抗できるはずもなく、いずれ追い越されるでしょう」と同博士は語る。

ビル・ゲイツ氏は人工知能による潜在的危害に対する考えを質問された時、「これは確かに不安を招く問題だ。よくコントロールできれば、ロボットは人間に幸福をもたらせる。しかし、数年後、ロボットの知能は充分に発展すれば、必ず人間の心配事になる」と答えた。

□本当にターミネーターのような機械が人間を滅ぼす未来がくるのかもしれません□

1