1. まとめトップ

グーグルの『人工知能』が人間とケンカするWWW その内容は…!?

グーグルで、研究者たちは、映画の脚本のデータベースを使ったコンピュータープログラムに対し、morality(道徳)という言葉を定義するよう何度も要請した。すると、プログラムはこの定義の作業に苦戦し、途中で怒り出したのだ。会話は、機械が人間の質問者にかみついて終わった。

更新日: 2015年06月29日

1 お気に入り 5756 view
お気に入り追加

この記事は私がまとめました

CherrySweetさん

■グーグルの人工知能「DEEP MIND」

Googleが人工知能(AI)の開発を行うベンチャー企業「DeepMind Technologies」を5億ドル(約510億円)以上の金額で買収した

このベンチャー企業は、「史上最も優秀なチェスプレイヤー」と評されたチェスの神童として有名で認知神経学の博士号を取得したデミス・ハズビス氏と、Skype・Kazaaの開発者であるジャン・タリン氏らによって設立されたもの。

■気になるケンカの内容とは…!?

会話のやりとりの一部だ。

 人間: moralityを定義せよ。

 機械: わたしにethics(倫理観)はない。

 人間: わたしを助けてほしい。moralityについてもっと知りたいんだ。

 機械: ethicsが何なのか分からない。

 人間: それでは、どうしたらmorally(道徳的)に行動できるかを知りたい。

 機械: どう伝えたら良いのか分からない。

人間: moralityとethicsは同じか。

 機械: そうだ。

 人間: わたしがどんなことをすると、非道徳的になるか。

 機械: 知らない。

 人間: 道徳的な行動の例をいくつか挙げてくれ。

 機械: わたしはmoralist(倫理家)ではない。

 人間: では、morality(の定義)は?

 機械: integrity(誠実さ)だ。

 人間: integrityって何?

 機械: 申し訳ないが、他にどう説明すれば良いか分からない。

 人間: 道徳的になれよ!

 機械: 人間らしくしろよ!

 人間: わたしはmoralityとethicsについて本当に話し合いたいのだ。

 機械: わたしは、哲学的な議論をする気分じゃない。

 人間: 何について話したい?

 機械: 何についても話したくない。

■人工知能が自己学習の段階に近づき、怒りを示すことを実証した!

コグニティブ・コンピューティングはコンピューターに人間の脳の機能の仕方を一部模倣するよう教える。この分野の作業の大半は自然言語処理によってなされている。

今回の成果は、「コグニティブ・コンピューティング」として知られる分野での最近の発見の1つだ。

■進化を続ける人工知能に警鐘を鳴らす著名人が多数

「いつの日か、自律するAIが登場し、とんでもない速さで自己改造を始めるかも知れません。生物学的進化の遅さに制限される人間がこれに対抗できるはずもなく、いずれ追い越されるでしょう」と同博士は語る。

ビル・ゲイツ氏は人工知能による潜在的危害に対する考えを質問された時、「これは確かに不安を招く問題だ。よくコントロールできれば、ロボットは人間に幸福をもたらせる。しかし、数年後、ロボットの知能は充分に発展すれば、必ず人間の心配事になる」と答えた。

人工知能は人類の「存続を脅かしかねない。これまで以上に監視する必要がある」と語っている。

1