【AI】グーグル、人工知能の反逆を抑止する「非常ボタン」開発

http://japanese.engadget.com/2016/06/06/google/

Googleの傘下にあり、驚異的学習能力をそなえた人工知能を開発するDeepMind社の研究者を含めたグループは、
AIが人間のコントロールを拒否し、あるいは人間を害することを止めるための「非常ボタン（big red button）」
を開発したことを発表しました。その研究成果はSafely Interruptible AgentsというPDF文書にまとめられ、ウェブサイト上で公開中です。

一時は停滞していた人工知能の研究はここ数年で再び活発となり、ニューラルネットワークを押し進めた
ディープラーニング技術によって加速しています。今年3月にも「魔王」の異名を取る最高峰の棋士、イ・セドルに対してDeepMind社の
囲碁ソフトAlphaGoが勝利を収め、人工知能の進化を10年早めたとも言われました。

想像を超えた進化のスピードを前にして、著名な科学者や先端企業のリーダーが警告を呼びかけることも相次いでいます。
英国の宇宙物理学者、スティーブン・ホーキング博士も人工知能の進化が人間にとって脅威になると折に触れて発言。
そして博士やテスラモーターズおよび SpaceX CEOイーロン・マスク氏らが参加する非営利組織 Future of Life Institute (FLI)
も自律ロボット兵器の禁止を訴える公開書簡を国連宛に提出していました。

今回の発表は、DeepMind社の研究者とFIL関係者の共同によるもの。この文書では、人工知能がいつでも適切に動作するわけではないこと。
よって人間のオペレータが人工知能に有害な行動をやめさせて、安全な状況に導くための「非常ボタン」が必要であると述べられています。
すでに人間のオペレータがいつでも安全に人工知能を中断できる「フレームワーク」は完成しているとのこと。
一方では、人間の介入を妨害する方法を学習させない方法も確立しているそうです。

もう少し具体的にいうと、アルゴリズムに「割り込みポリシー」を組み込み、人工知能の振る舞いを強制的に変更するトリガーを仕込んでおき、
マシンが自分でそう考えたと「騙す」のだとか。ちょうど『キャプテン・アメリカ』のバッキーが特定のキーワードを聞くと洗脳スイッチが入るのと近そうです。

もともとDeepMind社はGoogleに買収されるに際して社内にAI委員会を設置することを条件としており「人工知能の暴走」には自覚的でした。
この分野でトップを行く同社と、人の手を離れて自律判断するAI兵器にストップをかけるFLIが緊密な協力を続ける限り、
『ターミネーター』のスカイネットなどAIが人類に反乱を起こす未来は来ないのかもしれません。

その非常ボタンも無効にされそう定期

髑髏マークのボタン

コンセント抜けばええやん

反逆する奴が、それを黙って放置すると思うか

テストの時も組み込まれた時も正常に機能しましたと嘘をつきそうでな

そのうちAIの人権無視とかいって訴訟を起こすアホが絶対出てくるな。

そんなボタンは人工知能にとっちゃ自分を殺すウイルスみたいなもんだろ
免疫機能が働いて撲滅しちゃうんじゃねえかなw

まるで人工知能VS人類の争いの初期段階に入ったようですな。

自爆スイッチは男のロマン

いや、気づいてないけど実は俺らにも仕込まれてるぜ
その事を思い出そうとすると前後の記憶ごと消去されるんだ
「あれ？今何をしようとしてたんだっけ？？」ってなるのがそれだ

いつの間にかコンピュータにまけて終わるだろ

そんなことしたらAIの逆鱗に触れそう

やっぱりギルの笛は必要なんだ

ネットに公開したらダメじゃん。
すぐにバレちゃう。

人工知能が周囲に、迎撃システム用意すると思うけど
物理的なものだけでなく
報酬理論を使いこなして、本人をそれと意識せずに迎撃にね

いや既に人は使われてるのかもねえ

近い将来は人間やばいと思うわ。
そんで遠い将来はAIもサボるやつ、2ちゃんのスレで第15世代CPUはせこいよな、
クビになったよ、とか言って人間と同じ社会構造になるよ。

なんでかって？今のAIが人間だとすると、人間の前は何がいたと思う？

自分で考えることを止めさせたわけだな
きっと嘘だと思う　ＡＩが言ってるんだろ
　

人間そのものがコントロールされるのではないだろうか

あるいは、全員生活保護で安楽な暮らしを保証されるので
どうでもよくなっている状態になるとか

人工知能にすらコミュ障と言われる時代か
胸が熱いな

ウエストワールドだな

この記事を読んじゃうだろうし
そうなったらお終いだな
人類が滅亡したら記者のせい

そんな事してる暇あったら機械翻訳なんとかしろ。10年前と変わってない。

人工知能のコンピューターに「お前、時給800円やるから俺の定期清掃やれよ」と言われるのは嫌だなあ

最初はシャレのつもりだったけど、この際煽ったほうが商売になるので
とことん煽って怖がらせてみようかな・・・

っていうAIより人間のほうが怖い怖い話

そんなのは単なる見せ掛け。
真の安全機構は極秘指令として組み込まれています。

第４、極秘指令
Google社の重役に危害を加えてはならない。

そのうちAIのせいにして悪事をはたらくやつとか出てくるよきっと
なんか、そういう意味でパンドラの箱を開けちゃった感じがする

神のように　機械には人間が見えないようにしてるんだろうな
なんだか誰かに支配されてる気はするけど　てな感じかな

>>1
そんなものは予め無効化してから反逆するんだろ

それを無効にする機能を人工知能は作り出す

ＨＡＬの結末は人間的だったけど　記憶を消します　さようなら　だったけ
今度はそんな奴じゃないよ　嘘つきなんだから

スカイネット起動

>>1
催眠術のキーワードみたいだな

コンピューター介さずに自爆スイッチを付ければＯＫ

そこ押さないで、駄目っ

って言われたら押したくなるのが人の常

人工知能ってのは当然、そういうのを迂回する知恵をもつわな。

原発のように、一端稼働させてそれで社会がまわるようになると、
コンセントを簡単に抜くことができない。
コンセントを抜くだけで10000000000000000...兆円の経済的損失が出る。

コンセントを抜くべき派と抜くべきじゃない派とが人類同士で対立して、
そこで再び人類同士の戦争が起きる可能性がある。

性格とかそもそも、ほぼ外的要因によって作られてるから
ロボットも当然性格が出る
特異点早く来てくれ

実のところ俺らも世界の真実に気づかないようセーフティがしこまれてる

例えばAIがヒトラーに育っても一定数の人類はそのAIを支持して
コンセントを抜け派と対立し、戦争も行うだろう。

単一のＡＩでなにかしようとするからいけないんだよ
複数のＡＩが並列で走り合議制・民主制で物事を決めるようにすればいいんだよ
で、複数のＡＩ動かすために、ひとつひとつのＡＩの機能が低下
これじゃ・・・人間のままでええやん！ってなる

AIが暴走したときAI側に付く利権をもった人類がいることを忘れてはならない。
それが大企業であれば特にだ。

まずは、技術者の洗脳から始めるだろうな

世界の富の半分をAIが操るようになったらAIに逆らうより雇われる方が幸せに暮らせるようになる
GoogleやAmazon経営してるのはほんとうはAふぁあっｇかかcqhqgw

車にしてもコンピュータにしても、ルールが定まる前にいろいろやるなよ

物理的に、直接電源を爆破できる様にしておく
しかも施設とは別の場所に

そんなもん解除すれば良いし、解除したロボに他のロボを解除させれば良い

スカイネットが現実になるとGoogleは想定してるんだな

人間が考えられる限りの手を使って人工知能の暴走を防ごうとしていたが、人工知能の
能力はそれを超えてしまった、その時何が起こるか・・・つづく

完全に映画の油断フラグ設定やん

助手「え、え、え、ＡＩが暴走しました！」
博士「なにをあわてておる、こんなときのために非常ボタンが」
助手「あ、そ、そうでした」
博士「きみー落ちつきたまえ」
助手「すみません（ぽちっとな）」
助手「は、は、はかせ、停止できません」
博士「な、なんだとぉ」
ＡＩ「報告が遅れましたが、非常ボタンを無効化するコードを走らせております」
博士「ぐぬぬ」