グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発

1 / 11

グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発
1 名前:リサとギャスパール ★:2016/06/08(水) 18:50:58.28 ID:CAP_USER9.net

1米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。

具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。
http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/

続きを読む

 記事引用元
グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発

 30代までに9割の女性が自慰行為を経験…そして毎日する人の割合は・・・

【画像あり】ズッキが痩せてただのブスになった件wwwwwwwwwww

iPhoneがなければ死んでいた。至近距離からショットガンで撃たれた男性生存

【灼熱甲子園】氷で『◯◯◯◯』冷やすチアのJKが、地上波で映り込む放送事故→※撮られてるのに気付いて恥ずかしそうにする素振りがぐうカワwwwwww

【正攻法】気軽にお小遣い稼ぐ裏ワザ教えちゃうww

  • Pocket
  • LINEで送る
  • このエントリーをはてなブックマークに追加

関連記事

矢口真里「結婚しちゃおっかな」 生放送でぶっちゃけ発言連発
【動画あり】間違って人間の女性として産まれてきてしまった猫(雌・20歳)
【悲報】電車で飲み食いしてるクソ女に注意したら警察に通報されたんだが・・・
【速報】 東京五輪大会組織委、エンブレム提訴のベルギーデザイナー側を非難する声明を発表
【画像】インドの寺院が派手すぎると話題に
【動画】 乙武さんの全速力をご覧くださいwwww
「低所得者に3万~5万円の現金給付」案が浮上…消費喚起狙う
【閲覧注意】まずそう・体に悪そうな食べ物画像を淡々と貼ってく【88枚】
「乙武に無理矢理キスをされた」女性が暴露! 気持ち悪くなってタクシーで逃げ帰る
キャメロン首相が辞意表明
【速報】桜島、爆発的噴火!!!!!!!!!!!
スクエニのソシャゲがアップデート後にデバッグモードを搭載して公開 「なんでもやり放題」「無敵w」
【画像あり】初音ミクのドールがクッソ ェロいんだが高すぎる・・・・・・・・
女子がワキの下で握る「腋おにぎり」がネットで流行 「いい香りがして美味い!」と大絶賛へ
【画像】 マクドナルド、ついに裏メニューを開設する

Menu

HOME

TOP