グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発

1 / 11

グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発
1 名前:リサとギャスパール ★:2016/06/08(水) 18:50:58.28 ID:CAP_USER9.net

1米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。

具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。
http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/

続きを読む

 記事引用元
グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発

 30代までに9割の女性が自慰行為を経験…そして毎日する人の割合は・・・

【画像あり】ズッキが痩せてただのブスになった件wwwwwwwwwww

iPhoneがなければ死んでいた。至近距離からショットガンで撃たれた男性生存

【灼熱甲子園】氷で『◯◯◯◯』冷やすチアのJKが、地上波で映り込む放送事故→※撮られてるのに気付いて恥ずかしそうにする素振りがぐうカワwwwwww

【正攻法】気軽にお小遣い稼ぐ裏ワザ教えちゃうww

  • Pocket
  • LINEで送る
  • このエントリーをはてなブックマークに追加

関連記事

さっきジャージ姿のJK追い越したら「イケメンやが!w」って言われたwwwwwwwwwww
【悲報】パズドラ、札束で殴るゲームになり終了wwwwwww
人類初、うんこ味のカレー専門店オープン 東京・千歳船橋
【画像】昭和のおっさんが抜いてたグラビアwwwwwwwwwwwwwwwww
ぼく氏正社員、今月の給料に絶句wwwwww
日本語話せないのに日本に来る外人さんは一体何だ?
【閲覧注意】水着女子がワキでおにぎりを握ってくれるサービスwwwwwwwwwww
ガキは2chやらん方がいいぞ、性格腐って人生終わるぞ
BUMP藤原「天体観測は友情の歌 ちゃんと解釈してほしい」
平成生まれの大学生が「昭和」をうらやましく思うこと
【画像】日南響子、劣化しすぎワロタwwwwwwwwwwww
日本人て「みんなやってるから」って言葉大好きだよな
【画像】ま~ん「友達と顔交換したろw(パシャー)」
【バカッター】歯科医の息子は違法運転の常習犯!ベンツで300キロ超の暴走、父親も警察から逃走か?
厚労省「30~40代のニートたちを自立させたい。農家で仕事体験してもらおう」

Menu

HOME

TOP