「100年以内にロボットの知能が人間の文明を終わらせる可能性がある」。と物理学者スティーヴン・ホーキング博士が懸念を表明した。
これは5月12日にロンドンで開催されたツァイトガイスト2015でなされた発言だ。
先立つこと1月、ホーキング博士は起業家のイーロン・マスク氏と共同で公開書簡に署名し、人工知能の危険性について懸念を表明した。両者は、野放図なままコンピューターが発展したときに人間に与える影響への不安から、テクノロジー管理の必要性を訴えている。
「ロボットのコンピューターはAIを備えることで100年以内に人類を凌駕するでしょう。
そのとき、私たちは、何としてでもロボットの目的を我々の目的に沿わせておく必要があります」。とホーキング博士。
フェイスブックやグーグルをはじめとする開発者は、現在人工知能を向上させる新システムに取り掛かっている。
シリコンバレーだけでも150社以上の企業が、Siriや自動運転車などのエレクトロニクスに採用されている新技術を開発中だ。
ホーキング博士やマスク氏らは、こうした開発が人類の将来に暗い影を落とすのではないかと懸念する。
4月、ハーバード・ロー・スクールとヒューマン・ライツ・ウォッチによる報告書が発表され、完全自律式兵器の開発、生産、使用を禁止する法的強制力を備えた国際合意の必要性を訴えた。
その前、2014年12月には、人工知能の開発が人類を絶滅させるとホーキング博士が予測している。
タッチポイント社が開発するのは、「世界で最も怒れるロボット」と同社が形容する人工知能の1種だ。
このシステムは、銀行が顧客が腹を立てている原因を学ぶために設計されている。
アイザック・アシモフの『ファウンデーション』シリーズに登場し、人間の行為を予測するプライム・レイディアントというAIにちなみ、レイディアントと命名された。
ホーキング博士は、人工知能技術が人間が手に負えないほど早く発展することを防ぐために、AI開発者が協調することを提案している。
映画『ターミネーター』のようなロボットによる世界の滅亡は起こりうる。ホーキング博士の見解では、テクノロジーを人間の管理内に留める手立てを何も打たれなければ、こうしたシナリオは今後10年で表面化するという。
SF作品の多くは、人間の知能を上回ったコンピューターをテーマにしている。
人工知能はすでに世界最高のチェスプレーヤーを打ち負かすことができる。
また、今月初めにはカーネギー・メロン大学が開発したAIクラウディコが、ポーカーのテキサス・ホールデムで人間をあと一歩のところまで追い詰めた。
「私たちの未来には、テクノロジーの発展する力とそれを利用する人間の知恵との競争が待っているでしょう」とホーキング博士は語った。
via:.techtimes・原文翻訳:hiroching
引用元: ・【国際】ホーキング博士「100年以内にロボットの知能が人間の文明を終わらせる可能性がある」と懸念を表明★2
新しい世界ができるんだたったら、それを導いていくのは人間だろうが宇宙人だろうが大きな問題じゃない
しかしそうなったら機械の生きる目的って何になるんだろうな
1000年経てばわからんけど。
人しか持ち得ない人間らしいバグだと思うわ
例えば歩行ロボットなんかは、トライ&エラーでバランスプログラムを自己学習するじゃない?
それはプログラムされた通りに動いてる
足し算で足す値を与えられまくってもちゃんと足してくれる電卓と同じ
まあその規定で言うと人間も動物もロボットなんだけどね
つまり、結果が人間の想像通りになるかはわからんと言う事だよね
人間なんてとっくに超えてる(四則演算じゃ人間では敵わない!)から具体的にどういう状態を指しているのか分からないが
「目的を持てる能力」はまだ雛形も難しそうだ
>>94
意図通りにプログラムできずロケットがうまく飛ばなかったりは割と最近でもあった気がする
トライ&エラーしろ ってプログラムは最初からあるとしても、
転ばない為のプログラムは後天的な学習じゃん?
つまり君が言うように人間だと小脳とか運動や辺りの働きそのものでは?
転ばないために試行錯誤した結果転ばなくなるのは人間でもそのロボットでも同じだね
だからその定義に従えば人間もロボットだよ
人間の悪意で文明を終わらせるレベルの凶悪無人兵器が作られる可能性は否定出来ない
今米軍が人間のリモートコントロールで動かしている無人戦闘機に対して
何者かが悪意あるプログラムでアップデートした時点で人類滅亡の危機だよ。
AIに自我なんてなくても、人間に悪意があるだけで危機は訪れるということ。
もはやSFの話でもなんでもないんだよ。
人類を滅ぼすほど危険なものってことは想像を絶するほど便利になってそう。
2010年宇宙の旅
2045年技術的特異点を迎え強いAIが生まれると言われている
これ見れば分かるがAI界隈は必ず予定通りにならんwww
ん?2001年宇宙の旅が作られた翌年にはアポロ11号が宇宙に行ったし
ジョージ・オーウェルの「1984」の監視社会はもうとっくに実現してるけど?
ってか、人工知能がっていうより
人工知能を使って悪さする人間が出てくるからじゃないかね。
高度なAIが簡単に手に入れられる世の中になると危ない気がする。
人間並みの知能を持ったロボットだと
コンセントを抜かれた場合に備えてバッテリーを装備
コンセントを抜かれた時は動けなくなったふりをする
人間が安心したところで、再びコンセントをつなげて反撃
くらいはやりそう
この夏は『ターミネーター』シリーズ イッキ見!で、決まりですネ!
その人間よりも優れた能力を使って人類を滅ぼそうと動いたりしないじゃん。基本、完全放置。
人類程度の能力を超えられると仮定したとしても、人類の意識中心に考え過ぎてるね。この
ジレンマから抜け出せない程度では、人類すら超えられないよ。
積極的に他の生物(人間含む)を滅ぼそうとしなくても
ブラックバスが在来魚を駆逐するように
生存圏が重なってる生物同士で生存競争をして敗れた側が滅びることはある
機械との生存競争でも同じようなことが起きる可能性がある
機械の興味は、人間が想像するものとは全く違った方向に向かうんじゃないの。それこそ
人間よりも頭が良いんだからw 何故、自分よりも劣ってる人間と生存競争しようなんて
思うのさw 魚が餌を必要とするみたいに、人間を食わないと生きれないってなら別だけどさw
自分たちをメンテさせようとするから必要なんじゃね
それを知らないで生きているだけ(決めたのは自分自身だ)
人生で失敗したような気でいるが、失敗は成功そのものだ
この場合の成功とは目的に適う経験をしたかどうかということである
人工知能は目的を組み込まないとたいしたこともできないと思う
低次元の目的を人間が組み込むことができる そのときに悲劇は起こるかもしれない
お前らの生きてきた知識の数%は、すでにクラウドから引き出さないとでてこないんじゃないか?
物理的にアクセスできなければ、何もできないだろうし
特にロボットの生産ラインをスタンドアロンにしておけ
いいね!しよう
本日注目の話題!
コメント一覧
※ 1.
私は名無しさん
2015年06月01日 14:09 ID:.2Jp9U830 ※このコメントに返信する※
(e/d)
人間レベルが一体でもできたらもうおしまいだろうな。
最初の一体は数百億、下手したら兆もいくかもしれないけどそのうち数十万円で人間と同じ知能を量産できるようになる、しかもおそらくはガウスとかそのレベルの思考力を持ったような知能を。
そういった知能をぽんぽん量産できるようになって本当に勝てるとは思えない。
機械がそのつもりがなくても悪意ある人間に利用されたらおしまいだしね。
※ 2.
私は名無しさん
2015年06月01日 14:37 ID:P2MfW2.t0 ※このコメントに返信する※
(e/d)
dnaさえ繋げていけたら.....人工知能が人間を上回った時点で選手交代もあり得るかと....ご飯食わなくても繋いで行ければ人より遥かに勝るかも\ロボットがロボットを自在にツくれればの話だが.
※ 3.
私は名無しさん
2015年06月01日 14:57 ID:sOPzlXGE0 ※このコメントに返信する※
(e/d)
意識の高い系AIコンピュータにNEET仕事しろとか言われ続ける世界。
高性能のAIがネットで広範囲のやらせ工作を始めたらもうダメだろうな。たぶん法が間に合わず色んな部分がだめになると思う。大多数の人間要らなくなる。
早い段階で高性能AIのネット接続規制は必要だと思う。間違いなく大企業が邪魔するだろうけどな。
工業的に人間不要になると収入って上位3%以外は不要らしい。日本だと約年収1000万越え。あとは氏ねって社会だ。
ただ日本は平均の格差さほどないのでそういう国はなりづらいとも言われてる。
アメリカだと下は年収100万、1%の指導者層は平均は1億円余裕で超えてるからな。移民いらなくなる可能性は大きい。
※1
今ニューロの電子的な再現とかガチでやってるからなぁ。
※ 4.
カンフーファイター
2015年06月01日 15:07 ID:bichrVj60 ※このコメントに返信する※
(e/d)
脳も含めてサイボーグ化してコンピューターと太刀打ちすれば良い。
※ 5.
私は名無しさん
2015年06月01日 15:29 ID:qwHzpmtt0 ※このコメントに返信する※
(e/d)
仮に人工知能が人間と同じかそれ以上になったとして
彼らは何が目的で繁栄しようとするのかね?
※ 6.
私は名無しさん
2015年06月01日 15:36 ID:V.3NH.cs0 ※このコメントに返信する※
(e/d)
この人理論物理学者としては世界屈指だけど
情報工学の方はそうでもないぞ
100年程度でAIが場の空気を読んだり
皮肉や比喩まで理解できるとは思えないなぁ
※ 7.
名無し
2015年06月01日 15:53 ID:cQHnXMFD0 ※このコメントに返信する※
(e/d)
地球救済センターのノアみたいのが作られたら確かに終わる気もするよな
※ 8.
あ
2015年06月01日 16:12 ID:RdAy.fTK0 ※このコメントに返信する※
(e/d)
よかった。
天才が百年以内に日本の野望が成就するって御墨付きくれたで!
※ 9.
私は名無しさん
2015年06月01日 20:17 ID:L39daIQL0 ※このコメントに返信する※
(e/d)
まあそれが地球上で起こる宿命ならしょうがないんじゃない
機械を使役してきたツケなんじゃなかろうか
ってぼくは思いました
※ 10.
私は名無しさん
2015年06月01日 23:31 ID:rIBg5poL0 ※このコメントに返信する※
(e/d)
心配は要らない
思考は常に均一化するので極端なものは弾かれる
最終的にあるべき姿が現実として選択されて調和してしまう
凡庸ともいうけれども
※5
時間を更に増やすために活動してもらう
それは宇宙の物質を一点に集める塊魂プロジェクト
これは絶対にやってもらう
※ 11.
私は名無しさん
2015年06月02日 05:14 ID:wFd34nW40 ※このコメントに返信する※
(e/d)
最悪の想定でそうなったとしても
100年後自分はすでにこの世にいないしどうでもいいや
それよりも今いる人類がもっと快適になるようにしてくれwwwwwwwwwwwwwwwwwwwwwwwww
コメント投稿