ニュース系
VIP系
厳選ピックアップ
見逃せない2chまとめ

ホーキング博士「100年以内にロボットの知能が人間の文明を終わらせる可能性がある」と懸念を表明

computer_jinkou_chinou
1: 野良ハムスター ★ 2015/06/01(月) 01:57:22.98 ID:???*.net

http://www.excite.co.jp/News/odd/Karapaia_52192723.html

 「100年以内にロボットの知能が人間の文明を終わらせる可能性がある」。と物理学者スティーヴン・ホーキング博士が懸念を表明した。
これは5月12日にロンドンで開催されたツァイトガイスト2015でなされた発言だ。
 
 先立つこと1月、ホーキング博士は起業家のイーロン・マスク氏と共同で公開書簡に署名し、人工知能の危険性について懸念を表明した。両者は、野放図なままコンピューターが発展したときに人間に与える影響への不安から、テクノロジー管理の必要性を訴えている。

 「ロボットのコンピューターはAIを備えることで100年以内に人類を凌駕するでしょう。
そのとき、私たちは、何としてでもロボットの目的を我々の目的に沿わせておく必要があります」。とホーキング博士。

 フェイスブックやグーグルをはじめとする開発者は、現在人工知能を向上させる新システムに取り掛かっている。
シリコンバレーだけでも150社以上の企業が、Siriや自動運転車などのエレクトロニクスに採用されている新技術を開発中だ。
ホーキング博士やマスク氏らは、こうした開発が人類の将来に暗い影を落とすのではないかと懸念する。

 4月、ハーバード・ロー・スクールとヒューマン・ライツ・ウォッチによる報告書が発表され、完全自律式兵器の開発、生産、使用を禁止する法的強制力を備えた国際合意の必要性を訴えた。
その前、2014年12月には、人工知能の開発が人類を絶滅させるとホーキング博士が予測している。
 
 タッチポイント社が開発するのは、「世界で最も怒れるロボット」と同社が形容する人工知能の1種だ。
このシステムは、銀行が顧客が腹を立てている原因を学ぶために設計されている。
アイザック・アシモフの『ファウンデーション』シリーズに登場し、人間の行為を予測するプライム・レイディアントというAIにちなみ、レイディアントと命名された。

 ホーキング博士は、人工知能技術が人間が手に負えないほど早く発展することを防ぐために、AI開発者が協調することを提案している。

 映画『ターミネーター』のようなロボットによる世界の滅亡は起こりうる。ホーキング博士の見解では、テクノロジーを人間の管理内に留める手立てを何も打たれなければ、こうしたシナリオは今後10年で表面化するという。

SF作品の多くは、人間の知能を上回ったコンピューターをテーマにしている。
人工知能はすでに世界最高のチェスプレーヤーを打ち負かすことができる。
また、今月初めにはカーネギー・メロン大学が開発したAIクラウディコが、ポーカーのテキサス・ホールデムで人間をあと一歩のところまで追い詰めた。

 「私たちの未来には、テクノロジーの発展する力とそれを利用する人間の知恵との競争が待っているでしょう」とホーキング博士は語った。

via:.techtimes・原文翻訳:hiroching


引用元: 【国際】ホーキング博士「100年以内にロボットの知能が人間の文明を終わらせる可能性がある」と懸念を表明★2




2: 名無しさん@1周年 2015/06/01(月) 01:58:52.24 ID:fDD4R0pR0.net

パンドラ効果(ジャックウィリアムスン)みたいに、コンピュータに支配される世界?


44: 名無しさん@1周年 2015/06/01(月) 02:08:10.45 ID:4jnoZxTE0.net

コンピュータの主電源(補助電源含む)切断とかに攻撃や防御手段取らせないようなシステムにしとけば大丈夫だろ。


54: 名無しさん@1周年 2015/06/01(月) 02:09:23.31 ID:Xce+X9Ya0.net

猫型ロボット「わいの出番や」


57: 名無しさん@1周年 2015/06/01(月) 02:09:29.02 ID:X9SPIloV0.net

人間を凌駕するとかしないとか関係ないね、とにかく新しい世界を作りたい
新しい世界ができるんだたったら、それを導いていくのは人間だろうが宇宙人だろうが大きな問題じゃない


58: 名無しさん@1周年 2015/06/01(月) 02:09:44.78 ID:6NCFRlb50.net

量子コンピューターも一般化してるんだろうなその頃には


61: 名無しさん@1周年 2015/06/01(月) 02:09:59.29 ID:CeZgm5WV0.net

十分あり得る、と言うかそうなるだろ
しかしそうなったら機械の生きる目的って何になるんだろうな


64: 名無しさん@1周年 2015/06/01(月) 02:10:20.08 ID:4Eer62ib0.net

この一世紀の間にAIにも人権とかいう問題に発展しそうなのは間違いない


67: 名無しさん@1周年 2015/06/01(月) 02:10:33.70 ID:eicL6NCy0.net

大丈夫だよ。コンピューターが仮に自我を持ったら、怠けたがるからw


68: 名無しさん@1周年 2015/06/01(月) 02:10:39.53 ID:4jnoZxTE0.net

100年ぐらいでは人口知能が人間に逆らうまでにはならないだろ。
1000年経てばわからんけど。


75: 名無しさん@1周年 2015/06/01(月) 02:12:43.93 ID:IL+f617Y0.net

生きる目的を思考するほうが異常なんだけどな
人しか持ち得ない人間らしいバグだと思うわ


80: 名無しさん@1周年 2015/06/01(月) 02:14:02.88 ID:fDD4R0pR0.net

ところで『プログラムされた通りにしか動かないのがロボット』って前提はまだ崩れてないの?
例えば歩行ロボットなんかは、トライ&エラーでバランスプログラムを自己学習するじゃない?


83: 名無しさん@1周年 2015/06/01(月) 02:15:19.67 ID:65X0JwpC0.net

>>80
それはプログラムされた通りに動いてる
足し算で足す値を与えられまくってもちゃんと足してくれる電卓と同じ

まあその規定で言うと人間も動物もロボットなんだけどね


94: 名無しさん@1周年 2015/06/01(月) 02:17:32.49 ID:H6tr8P+G0.net

>>83
つまり、結果が人間の想像通りになるかはわからんと言う事だよね


113: 名無しさん@1周年 2015/06/01(月) 02:19:44.36 ID:65X0JwpC0.net

>ロボットのコンピューターはAIを備えることで100年以内に人類を凌駕するでしょう。
人間なんてとっくに超えてる(四則演算じゃ人間では敵わない!)から具体的にどういう状態を指しているのか分からないが
「目的を持てる能力」はまだ雛形も難しそうだ

>>94
意図通りにプログラムできずロケットがうまく飛ばなかったりは割と最近でもあった気がする


108: 名無しさん@1周年 2015/06/01(月) 02:19:03.51 ID:fDD4R0pR0.net

>>83
トライ&エラーしろ ってプログラムは最初からあるとしても、
転ばない為のプログラムは後天的な学習じゃん?

つまり君が言うように人間だと小脳とか運動や辺りの働きそのものでは?


123: 名無しさん@1周年 2015/06/01(月) 02:21:22.08 ID:65X0JwpC0.net

>>108
転ばないために試行錯誤した結果転ばなくなるのは人間でもそのロボットでも同じだね
だからその定義に従えば人間もロボットだよ


97: 名無しさん@1周年 2015/06/01(月) 02:17:45.71 ID:sjZxnan/0.net

コンピュータが勝手に進化して人間に刃向かうとかそういうのはSFだが
人間の悪意で文明を終わらせるレベルの凶悪無人兵器が作られる可能性は否定出来ない


107: 名無しさん@1周年 2015/06/01(月) 02:18:55.57 ID:kXqjiSq80.net

高度なAIとお話したい


115: 名無しさん@1周年 2015/06/01(月) 02:20:07.72 ID:5/WWT7B20.net

人類が半ロボット化して地震や火災にもたえられるようになる


133: 名無しさん@1周年 2015/06/01(月) 02:22:45.68 ID:15HdJe+v0.net

AIに自我がないと危機は訪れないというのは誤りだな。

今米軍が人間のリモートコントロールで動かしている無人戦闘機に対して
何者かが悪意あるプログラムでアップデートした時点で人類滅亡の危機だよ。
AIに自我なんてなくても、人間に悪意があるだけで危機は訪れるということ。
もはやSFの話でもなんでもないんだよ。


142: 名無しさん@1周年 2015/06/01(月) 02:24:06.42 ID:YKZNOXEo0.net

ものすごく便利になるってことはものすごく危険になるってのと同じだからな。
人類を滅ぼすほど危険なものってことは想像を絶するほど便利になってそう。


191: 名無しさん@1周年 2015/06/01(月) 02:32:07.29 ID:YKZNOXEo0.net

2001年宇宙の旅
2010年宇宙の旅
2045年技術的特異点を迎え強いAIが生まれると言われている

これ見れば分かるがAI界隈は必ず予定通りにならんwww


230: 名無しさん@1周年 2015/06/01(月) 02:38:52.28 ID:Rg7XBfeb0.net

>>191
ん?2001年宇宙の旅が作られた翌年にはアポロ11号が宇宙に行ったし
ジョージ・オーウェルの「1984」の監視社会はもうとっくに実現してるけど?


198: 名無しさん@1周年 2015/06/01(月) 02:33:23.28 ID:A9HOOqE+0.net

コンセント抜けば済むこと。

ってか、人工知能がっていうより
人工知能を使って悪さする人間が出てくるからじゃないかね。
高度なAIが簡単に手に入れられる世の中になると危ない気がする。


217: 名無しさん@1周年 2015/06/01(月) 02:37:12.64 ID:yR1CXXpd0.net

>>198
人間並みの知能を持ったロボットだと
コンセントを抜かれた場合に備えてバッテリーを装備
コンセントを抜かれた時は動けなくなったふりをする
人間が安心したところで、再びコンセントをつなげて反撃

くらいはやりそう


267: 名無しさん@1周年 2015/06/01(月) 02:45:41.35 ID:lRk52D7z0.net

AIをローマ字読みすれば、愛となる


269: 名無しさん@1周年 2015/06/01(月) 02:45:48.31 ID:3o+TSLBk0.net

おまいら!

この夏は『ターミネーター』シリーズ イッキ見!で、決まりですネ!


316: 名無しさん@1周年 2015/06/01(月) 02:54:41.12 ID:eicL6NCy0.net

地球上には人類よりも優れた複数の能力を持った生き物はたくさんいるけど、その生き物たちは
その人間よりも優れた能力を使って人類を滅ぼそうと動いたりしないじゃん。基本、完全放置。
人類程度の能力を超えられると仮定したとしても、人類の意識中心に考え過ぎてるね。この
ジレンマから抜け出せない程度では、人類すら超えられないよ。


331: 名無しさん@1周年 2015/06/01(月) 02:58:39.13 ID:drsg5OGB0.net

>>316
積極的に他の生物(人間含む)を滅ぼそうとしなくても
ブラックバスが在来魚を駆逐するように
生存圏が重なってる生物同士で生存競争をして敗れた側が滅びることはある
機械との生存競争でも同じようなことが起きる可能性がある


362: 名無しさん@1周年 2015/06/01(月) 03:04:31.61 ID:eicL6NCy0.net

>>331
機械の興味は、人間が想像するものとは全く違った方向に向かうんじゃないの。それこそ
人間よりも頭が良いんだからw 何故、自分よりも劣ってる人間と生存競争しようなんて
思うのさw 魚が餌を必要とするみたいに、人間を食わないと生きれないってなら別だけどさw


369: 名無しさん@1周年 2015/06/01(月) 03:05:36.73 ID:UOuwlMnH0.net

>>362
自分たちをメンテさせようとするから必要なんじゃね


405: 名無しさん@1周年 2015/06/01(月) 03:13:00.13 ID:aE/TyQYm0.net

人間は目的が組み込まれたロボットのようなものだ
それを知らないで生きているだけ(決めたのは自分自身だ)
人生で失敗したような気でいるが、失敗は成功そのものだ
この場合の成功とは目的に適う経験をしたかどうかということである 
人工知能は目的を組み込まないとたいしたこともできないと思う
低次元の目的を人間が組み込むことができる そのときに悲劇は起こるかもしれない


454: 名無しさん@1周年 2015/06/01(月) 03:26:51.75 ID:SvCjuVP/0.net

自我なんかなくたって、すでにクラウドが人間の脳みそ侵食してるけどな
お前らの生きてきた知識の数%は、すでにクラウドから引き出さないとでてこないんじゃないか?


459: 名無しさん@1周年 2015/06/01(月) 03:28:59.50 ID:XC4D5AdD0.net

鍵になるようなものをネットに繋がないことが重要だろう
物理的にアクセスできなければ、何もできないだろうし
特にロボットの生産ラインをスタンドアロンにしておけ


474: 名無しさん@1周年 2015/06/01(月) 03:31:33.50 ID:HAYIXfG50.net

ロボットがロボット作り始めて、辺り一面ロボットだらけになるなんてこともありそう



この記事が気に入ったら
いいね!しよう
最新情報をお届けします

本日注目の話題!

コメント一覧

※ 1. 私は名無しさん  2015年06月01日 14:09 ID:.2Jp9U830 ※このコメントに返信する※
(e/d)

人間レベルが一体でもできたらもうおしまいだろうな。
最初の一体は数百億、下手したら兆もいくかもしれないけどそのうち数十万円で人間と同じ知能を量産できるようになる、しかもおそらくはガウスとかそのレベルの思考力を持ったような知能を。
そういった知能をぽんぽん量産できるようになって本当に勝てるとは思えない。
機械がそのつもりがなくても悪意ある人間に利用されたらおしまいだしね。


※ 2. 私は名無しさん  2015年06月01日 14:37 ID:P2MfW2.t0 ※このコメントに返信する※
(e/d)

dnaさえ繋げていけたら.....人工知能が人間を上回った時点で選手交代もあり得るかと....ご飯食わなくても繋いで行ければ人より遥かに勝るかも\ロボットがロボットを自在にツくれればの話だが.


※ 3. 私は名無しさん  2015年06月01日 14:57 ID:sOPzlXGE0 ※このコメントに返信する※
(e/d)

意識の高い系AIコンピュータにNEET仕事しろとか言われ続ける世界。
高性能のAIがネットで広範囲のやらせ工作を始めたらもうダメだろうな。たぶん法が間に合わず色んな部分がだめになると思う。大多数の人間要らなくなる。

早い段階で高性能AIのネット接続規制は必要だと思う。間違いなく大企業が邪魔するだろうけどな。
工業的に人間不要になると収入って上位3%以外は不要らしい。日本だと約年収1000万越え。あとは氏ねって社会だ。
ただ日本は平均の格差さほどないのでそういう国はなりづらいとも言われてる。
アメリカだと下は年収100万、1%の指導者層は平均は1億円余裕で超えてるからな。移民いらなくなる可能性は大きい。

※1
今ニューロの電子的な再現とかガチでやってるからなぁ。


※ 4. カンフーファイター  2015年06月01日 15:07 ID:bichrVj60 ※このコメントに返信する※
(e/d)

脳も含めてサイボーグ化してコンピューターと太刀打ちすれば良い。


※ 5. 私は名無しさん  2015年06月01日 15:29 ID:qwHzpmtt0 ※このコメントに返信する※
(e/d)

仮に人工知能が人間と同じかそれ以上になったとして
彼らは何が目的で繁栄しようとするのかね?


※ 6. 私は名無しさん  2015年06月01日 15:36 ID:V.3NH.cs0 ※このコメントに返信する※
(e/d)

この人理論物理学者としては世界屈指だけど
情報工学の方はそうでもないぞ
100年程度でAIが場の空気を読んだり
皮肉や比喩まで理解できるとは思えないなぁ


※ 7. 名無し  2015年06月01日 15:53 ID:cQHnXMFD0 ※このコメントに返信する※
(e/d)

地球救済センターのノアみたいのが作られたら確かに終わる気もするよな


※ 8. あ  2015年06月01日 16:12 ID:RdAy.fTK0 ※このコメントに返信する※
(e/d)

よかった。
天才が百年以内に日本の野望が成就するって御墨付きくれたで!


※ 9. 私は名無しさん  2015年06月01日 20:17 ID:L39daIQL0 ※このコメントに返信する※
(e/d)

まあそれが地球上で起こる宿命ならしょうがないんじゃない
機械を使役してきたツケなんじゃなかろうか

ってぼくは思いました


※ 10. 私は名無しさん  2015年06月01日 23:31 ID:rIBg5poL0 ※このコメントに返信する※
(e/d)

心配は要らない
思考は常に均一化するので極端なものは弾かれる
最終的にあるべき姿が現実として選択されて調和してしまう
凡庸ともいうけれども

※5
時間を更に増やすために活動してもらう
それは宇宙の物質を一点に集める塊魂プロジェクト
これは絶対にやってもらう


※ 11. 私は名無しさん  2015年06月02日 05:14 ID:wFd34nW40 ※このコメントに返信する※
(e/d)

最悪の想定でそうなったとしても
100年後自分はすでにこの世にいないしどうでもいいや
それよりも今いる人類がもっと快適になるようにしてくれwwwwwwwwwwwwwwwwwwwwwwwww


コメント投稿

名前

     絵文字

いつもコメントありがとうございますm(_ _)m
アダルトとURLはNGワードにしています。(リンク先の安全確認が出来ないためです)
コメントができない場合は、一時的な不具合の場合があります。

芸能・ニュース
VIP・その他
厳選ピックアップ
見逃せない2chまとめ

前の記事次の記事