グーグル、人工知能の反逆を抑止する「非常停止ボタン」開発

    全体:164月:0週:0日:0

1 名前:リサとギャスパール ★:2016/06/08(水) 18:50:58.28 ID:CAP_USER9.net
1米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めていることが明らかになった。AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。

具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。

研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」だとしている。ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクには自覚的なことで知られている。

http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
続きを読む

引き用元サイト: 痛いニュース(ノ∀`)

記事元url: http://blog.livedoor.jp/dqnplus/archives/1885115.html

 - 痛いニュース(ノ∀`)

推し

1
ロキソニンに重大な副作用が発覚 「小腸・大腸の狭窄・閉塞」など

1 名前:リサとギャスパール ★:2016/03/23(水) 18:43:24.67 ID:CAP_USER*.net

医薬品医療機器総合機構(PMDA)は22日、消炎や鎮痛などの効能・効果がある「ロキソプロフェンナトリウム水和物」(商品名・ロキソニン錠60mg、同細粒10%、ロキソプロフェンナトリウム内服液60m...

2
【悲報】ロキソニンに重大な副作用 小腸・大腸の狭窄・閉塞などを使用上の注意に追記

1:風吹けば名無し@\(^o^)/:2016/03/23(水) 20:45:26.60 ID:aU953s/Va.net

医薬品医療機器総合機構(PMDA)は22日、消炎や鎮痛などの効能・効果がある「ロキソプロフェンナトリウム水和物」(商品名・ロキソニン錠60mg、同細粒10%、ロキソプロフェンナトリウ...

新着記事

  1. エース酷使は「高校野球のお手本」 高野連会長の前時代発言が物議
  2. 買おうとしてたもの忘れちゃっても仕方ない。お買い物中の衝撃的な光景 8選
  3. 29年前の「女子高生コンクリート詰め殺人事件」 “元少年(45歳)”が、今度は殺人未遂で逮捕される
  4. 恐ろしい実態に肝を冷やす。『本当にあったIT怖い話』 15選
  5. 【福岡】「レイプされたら仕事行かずに済むと思った」 集団レイプを偽装した銀行員の女らを逮捕
  6. 6ヶ月ぶりにご主人と再会したゴールデンレトリバーの正気を失って喜ぶ姿がスゴすぎる
  7. 4K映像に映る女性を、肌の質感を保ちながら数十歳若返らせるレタッチ技術がスゴい!
  8. 【いめちぇん】幼女社長 第27話
  9. ママもパパもキュンキュンしっぱなし!わが子のかわいい言動に癒される 7選
  10. 夏の甲子園が閉幕。球児たちの熱戦に街やネットの反応は…
  11. これが本場のUSA!在日米海兵隊員がDA PUMP「U.S.A.」を踊ってみた
  12. 駅でゲロったら賠償請求されるの?弁護士に聞いてみた
  13. 清瀬の高級食パン専門店「考えた人すごいわ」を考えた理由がすごかった
  14. 「僕の1日が終わりました…」ひとりバーベキューの悲しすぎる結末に爆笑
  15. 甲子園・金足農業の決勝進出に、荒ぶる秋田県民がカワイイ
  16. 婚約指輪の国内・海外人気ブランド30選
  17. プロポーズのプレゼントは本音をいうと指輪でなくてもOK♪
  18. プロポーズの タイミング:女性がときめくプロポーズの日ベスト3
  19. チアシードの食べ方♪効能や美味しく食べれるレシピも
  20. スピルリナの効能って?スーパーフード、スピルリナの秘密
  21. アサイースムージーってすごい!その驚くべき効果とは
  22. 酵素ドリンクの効果って?ファスティングダイエットの方法も
  23. 理想と現実のギャップ。パパママにみてほしい「思ってたんとちがう育児」10選
  24. 理想と現実のギャップ。パパママにみてほしい「思ってたんとちがう育児」10選
  25. みんなの社会問題に対する主張が鋭すぎる件 6選
  26. 「ユメみるおとめ戦争」【クレイジーで無料読破!】
  27. 酵素サプリメントの効果や選び方、飲む時の注意点
  28. 酵素の効果とは?酵素と健康的な体をゲットしよう!
  29. 酵素風呂って何?酵素風呂にはどのような効果があるのか
  30. 脂性肌は改善できる!原因から対策まで一挙紹介
アクセスランキング