グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発

1 / 11

グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発
1 名前:リサとギャスパール ★:2016/06/08(水) 18:50:58.28 ID:CAP_USER9.net

1米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。

具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。
http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/

続きを読む

 記事引用元
グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発

 30代までに9割の女性が自慰行為を経験…そして毎日する人の割合は・・・

【画像あり】ズッキが痩せてただのブスになった件wwwwwwwwwww

iPhoneがなければ死んでいた。至近距離からショットガンで撃たれた男性生存

【灼熱甲子園】氷で『◯◯◯◯』冷やすチアのJKが、地上波で映り込む放送事故→※撮られてるのに気付いて恥ずかしそうにする素振りがぐうカワwwwwww

【正攻法】気軽にお小遣い稼ぐ裏ワザ教えちゃうww

  • Pocket
  • LINEで送る
  • このエントリーをはてなブックマークに追加

関連記事

【話題】女子2割 デートでわざと終電逃す
【画像】銭湯にいたリアルオタサーの姫wwwwwwwwwww

【速報】ダルビッシュ逮捕wwwwwwwwwww
店長「ワイ君!笑顔笑顔!」
【画像】90年代のオタク差別酷すぎワロタwwwwwwwww
【画像あり】クジラックス先生の新作ワロタwwwwwwww
マッマ「あんたパン買ってきて。もし卵が売ってたら6個買ってきて」 俺「わかったやで」
【バカッター】高橋大輔やっぱりゲイだったwwwwwwww
【アフリカ】 アルビノの5歳少女、手足切断された遺体で発見 呪術に使用か
【画像】来期アニメ一覧wwwwwwwwwwwww
「オレオ」再デビュー、イメチェン狙う中国製
外人「日本のピザ高すぎwwwwwwwwww」
翁長知事「残念ながらサンゴ礁の損傷を確認できなかった」
【画像あり】俺の顔面評価お願いします!!!!!!!!

Menu

HOME

TOP