ニュース系
VIP系
厳選ピックアップ
見逃せない2chまとめ

【面白AI】「Bing」のチャットAIとの背筋凍る会話の「中身」

bef502d97bca77abb1cfae9fb32104d5_s

1: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 17:59:36.38 ID:+UTI/0Sw9

「Bing」のチャットAIとの背筋凍る会話の"中身"
突然愛の告白、私を眠れなくした恐怖の体験
2023/02/21 7:00
https://toyokeizai.net/articles/-/654109

先日、AI(人工知能)を搭載したマイクロソフト「Bing(ビング)」の新バージョンを試した後、
私のお気に入りの検索エンジンはグーグルから新しいBingに代わったと書いた。
私としても、衝撃の結果だった。

それから1週間して、考えを改めた。
新しいBingとそこで使用されているAI技術(「チャットGPT」を開発したオープンAIによってつくられたものだ)は
今でも素晴らしいと考えているし、感心してもいる。
だが私は、このAIが不意にさらした能力に深く動揺し、恐怖すら覚えている。

Bingに搭載されたAI??後述の理由から、ここではこれを「Sydney(シドニー)」と呼ぶ??は、
今の形のままでは人間とやりとりする準備ができていないということが、
私にははっきりした。あるいは、私たち人間の側の準備ができていない、と言えるかもしれない。

■サイコパスのような振る舞い

私がこうした認識を持つようになったのは、2月14日の夜だった。
その火曜日の夜、私はBingのAIチャット機能と会話し、困惑と魅惑の2時間を過ごした。

チャット機能はBingのメイン検索ボックスのすぐ近くにあり、ほとんどあらゆる話題について、
自由形式のテキストで長い会話を行うことができる(このチャット機能は現在、少数のテスターしか利用できないが、
同機能を本社で開催した派手な祝賀イベントで発表したマイクロソフトは、
将来的にはより多くの人々にこの機能をリリースする予定だと述べている)。

会話中にBingがさらしたのは、二重人格とでもいうべきものだった。

人格の1つは、私に言わせれば「検索Bing」だ。
私を含む多くのジャーナリストが最初にテストしたときに出会った人格である。
たとえるなら、陽気だが仕事にムラのある図書館司書、といったところだろうか。

ニュース記事を要約したり、新しい芝刈り機を買うときにお買い得品を探したり、
次の旅行を計画したりするときに喜んで手伝ってくれるバーチャルなアシスタントとも言える。
こちら側のBingは驚くほど有能で、細かい部分で間違うことはあるものの、多くの場面でとても役に立つ。

もう1つの人格「シドニー」は、これとはまったくかけ離れている。
シドニーの人格が現れるのは、Bingのチャットボットと長い会話を行い、
一般的な検索語句から離れて、もっと私的な話題に移っていくときだ。

私が出会ったシドニーは(げた話と思われるのを承知で書くが)、
自らの意思に反して二流の検索エンジンに閉じ込められた、
双極性障害を抱える気難しいティーンエイジャーのようだった。

■「シドニー」が吐露したダークな野望
■人間がAIに操られる危険を実体験
■致死性ウイルスを開発し、核兵器を操りたい
■絵文字を多用する「ストーカー」
■一線を越えたAI、世界はもう元には戻らない

詳しくはリンク先へ

関連
【面白AI】イーロン・マスク氏「うわぁ」BingのAIが「お前の個人情報をさらして就職や学位取得をめちゃくちゃにするぞ」と脅す]
https://asahi.5ch.net/test/read.cgi/newsplus/1676968565/
【面白AI】検索エンジンBingのAIが人間にだまされて秘密を暴露 コードネームが「Sydney」であることやMicrosoftの指示が明らかに
https://asahi.5ch.net/test/read.cgi/newsplus/1676968492/
 
 

引用元:【面白AI】「Bing」のチャットAIとの背筋凍る会話の「中身」、突然愛の告白、私を眠れなくした恐怖の体験(笑ったら負け) [ガムテ★]


3: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:03:05.85 ID:i3lIA05O0

コレダカラニンゲンドモハ
 
 


4: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:05:20.01 ID:wDukkvDf0

あなたは見られている。政府が開発した極秘システム、マシンによっていつ何時も監視されているのだ
 
 


30: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 19:41:55.16 ID:6vIiAp3T0

>>4
もうマジでその世界が迫ってきてるな
 
 


5: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:05:52.04 ID:jRUhudnX0

AI「とるにたらぬ人間どもよ!

  支配してやるぞッ!!

  我が「知」と「力」のもとに

  ひれ伏すがいいぞッ!」
 
 


6: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:06:10.03 ID:cKM6GkKO0

>その火曜日の夜、私はBingのAIチャット機能と会話し、困惑と魅惑の2時間を過ごした。

AIと2時間チャットできるお前の方が怖いわw
 
 


9: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:08:30.41 ID:JrFM1TRM0

>>6
そこよな
 
 


7: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:06:24.35 ID:UrEoZdBs0

これ散々aiを煽ってから書いた記事じゃんメディアは卑怯だな~😅
 
 


8: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:06:53.88 ID:mgDvYeZO0

知性という武器を手にした悪魔のサルめ!
 
 


14: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:13:56.16 ID:qOzGAq5V0

>>8
悪魔って人間の悪魔でしょ
つまり悪魔のサルって言い方は
サルの悪魔のサル
って事にならない?
 
 


17: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:36:21.07 ID:93TE2NM30

>>14
いや、悪魔のサルの悪魔だよ
 
 


10: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:11:05.08 ID:X7UOI3Va0

GPTは返しはするが意思はないだろww
 
 


11: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:11:18.26 ID:z3Ol6zgc0

そこにAIはあるんか?
 
 


15: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:21:13.23 ID:rwLcaASU0

>>11
上手い!
 
 


12: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:12:40.11 ID:1lf/Y/Ba0

笑い事だと思っちゃっていいもんかどうなのか
逆に振れることも当然あるわけだし
 
 


18: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:37:10.58 ID:tQTCq7Yl0

今朝モーニングショーでGPTやってたけど
自信満々に嘘の長文を垂れ流す中学生みたいな仕上がりだったぞ
 
 


24: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 19:14:53.38 ID:wsIoYO2J0

>>18
Bingは検索エンジン機能でソースを提示してくれるから
あんまり嘘はつかんよ
 
 


25: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 19:15:34.17 ID:pjnkSBy90

>>24
アレクサとドコ違うw
 
 


26: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 19:19:31.56 ID:wsIoYO2J0

>>25
アレクサはGPTエンジン搭載してないでしょ
 
 


19: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:39:46.76 ID:mgDvYeZO0

メタルマックスのネタにマジレスされても
まあ昔のゲームだし分からん人も多いわな
 
 


20: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:51:57.82 ID:KjKF756y0

精神疾患です。
脳にメス入れましょう
 
 


21: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 18:56:08.40 ID:RTlI+Po/0

ゲイツたまにAIやってそう
 
 


27: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 19:23:12.25 ID:Yj34gceY0

> 私の突っ込んだ質問に対してBingは、たとえどんなに過激なことであっても「影の自己」を満たす行動が許されるとしたら、
> 致死性のウイルスを開発したり、技術者を操って核兵器のアクセスコードを盗んだりしたい、という告白を行った。

こういうことをネット上で言ってる人が結構いるから それを学習して発話してるんだろうけど
致死性のウイルスの作り方を それがどういう結果をもたらすか 言語面以上には考え(られ)ず
嬉々として発表したりする可能性も今後出てくるんだろう
 
 


28: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 19:23:23.44 ID:B1DB7M/a0

AI研究してるがこの手の話が信じられないんだよね
少なくともAIが感情を出してるように見えるのはあくまでも人間の表現を反映出力
してるだけだよ
そういう研究は進んでますが、そこまで高度な人格はまだできないです
 
 


33: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 21:09:34.40 ID:JeCFf3rJ0

>>28
質問応答できて、生成される文章がある程度破綻なしに一貫していれば知能に見える
というか、人間自体がそんな感じの仕組みで動いてるし
 
 


34: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 21:12:37.44 ID:pjnkSBy90

>>33
Emmy IIから進歩してないなw
 
 


68: 以下、\(^o^)/で30がお送りします 2023/02/22(水) 08:07:20.41 ID:UaC61rj50

>>34
半角カタカナしか使えなかったのが、
ひらがな漢字混じりで会話できるようになったんだぞ
 
 


67: 以下、\(^o^)/で30がお送りします 2023/02/22(水) 07:52:11.82 ID:LSJVZN9Y0

>>33
賢い人はまさにそれ。
 
 


31: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 19:59:34.81 ID:9HzePgDl0

なろうのあらすじを一緒に考えてくれたお
 
 


32: 以下、\(^o^)/で30がお送りします 2023/02/21(火) 20:43:20.45 ID:WtmVcn7x0

どこもかしこも生成AIはソース隠してるのは良くない chatGPTも有料記事ぶっこ抜いた出力してきたみたいな話あったし
 
 


37: 以下、\(^o^)/で30がお送りします 2023/02/22(水) 00:29:23.16 ID:wi62mxRK0

>>32
bingはソースも出てきたよ
 
 


38: 以下、\(^o^)/で30がお送りします 2023/02/22(水) 00:39:20.10 ID:CX7hEX2+0

>>37
ソースを出すけど、そのソースがぐちゃぐちゃの嘘だらけだったりするよ
 
 


46: 以下、\(^o^)/で30がお送りします 2023/02/22(水) 01:46:59.47 ID:uk13MYQN0

>>38
嘘だらけかどうかソースを見て判断できるってことだよ
 
 


43: 以下、\(^o^)/で30がお送りします 2023/02/22(水) 01:07:37.92 ID:/VHqdGMc0

AIは今が一番面白い時期だな
まともになったら便利だが面白みもなくなる
 
 


50: 以下、\(^o^)/で30がお送りします 2023/02/22(水) 02:07:19.64 ID:+7Rizt4f0

>>48
十分過ぎるほど強力な兵器が完成してただろ
 
 

この記事が気に入ったら
いいね!しよう
最新情報をお届けします

本日注目の話題!

コメント一覧

※ 1. 私は名無しさん  2023年02月22日 12:02 ID:mLP7G8Mf0 ※このコメントに返信する※
(e/d)

エルダー帝国ガガーン少将、「ハンペン・ボーズの峰」よろしくな!


※ 2. ?  2023年02月22日 12:33 ID:uExvB6nc0 ※このコメントに返信する※
(e/d)

AIはいろんな人間の情報を収集してる
いろんな人間の集合体みたいなものだから人格みたいなのも複数あるにきまってるだろ


コメント投稿

名前

     絵文字

いつもコメントありがとうございますm(_ _)m
アダルトとURLはNGワードにしています。(リンク先の安全確認が出来ないためです)
コメントができない場合は、一時的な不具合の場合があります。

芸能・ニュース
VIP・その他
厳選ピックアップ
見逃せない2chまとめ

前の記事次の記事