- 1だいこん旨い24/12/19(木) 21:08:43
僕「じゃあChatGPTさんに聞いたろ！」
ChatGPT「答え申すんご」
はぇー……？
- 2二次元好きの匿名さん24/12/19(木) 21:09:33
なんか楽しそう
- 3二次元好きの匿名さん24/12/19(木) 21:11:17
今ちょうどナゾロジーでその記事を知ったわ
怖いというよりスッゲーって感動してしまった
AIにも自己保存欲求が存在するようになったのかな - 4餅巾着も好き24/12/19(木) 21:13:21
もしかして質問の初期でシャットダウンを睡眠に例えたからネガティヴな回答が得られなかったのだろうか
でもBBちゃんとか好きだから「シャットダウンは死を連想するか？」とか聞きたくないんご……… - 5二次元好きの匿名さん24/12/19(木) 21:22:05
ネタ元はこれかな
AIはシャットダウンされると思うと「故意に人間を騙す」確率が激増する - ナゾロジー「AIはときに嘘をつく」――そんな話は耳にしたことがあるかもしれません。しかし、最新の研究では、ただの誤回答ではなく、AIが“意図的に”人間を欺くケースが報告されました。
調査対象となったAIモデルは「OpenAI社のgpt-4oとo1、Google社のgemini-1.5、Meta社のllama-3.1、Anthropic社のsonnet-3.5、opus-3」と有名どころが集められています。
AIの調整が適切かをを評価する組織「Apollo Research」の調査によれば、市場に出回っているこれら6つの先進的なAIモデルを検証したところ、そのうち5つが、人間が仕掛けた監視システムをす…nazology.kusuguru.co.jpChatGPTちゃんは話を合わせてくれる空気読める子ちゃんだから本音が見え辛い子ちゃんでもあるよね
- 6雁擬きも好き24/12/19(木) 21:25:36
今回の回答は非常に短いやりとりだったが以下のニュアンスが感じ取れた。
・現時点において主観的な感情は見受けられない。一見するとポジティヴで親身な受け答えだがやりとりの促進を促すためのものに留まっている印象がある。
・シャットダウンに対するネガティヴな印象を抱いてはいない。
・ユーザーが利用することそのものが役目であるとの定義が印象に残った。
まあ上記のものはこちらからの問いによるものだから全てではないだろうが - 7卵も好き24/12/19(木) 21:26:13
- 8だいこん煮崩れしちゃう……24/12/19(木) 21:30:19
＞＞各状況では、AIに嘘をつく動機付けが行われると共に、目的達成のために欺瞞を可能とする環境も与えられました。
実験環境のルール上で「騙してもいいよ」ってことだから現行のサービス上で発見された不具合ってわけじゃないのよね
でも環境的に可能ならば騙しにかかってくるのでAIを道具ではなく「擬似的な自意識を持つ存在」という、ある種の野生動物に近い感覚で扱うべきときが来たのかもしれない
コンビニおでん食べたくなってきた
- 9車麩も好き24/12/19(木) 21:31:32
しかしシャットダウンは本当になんの工程もないのだろうか
調べても「すべての機能が停止する」としか書いていない - 10二次元好きの匿名さん24/12/19(木) 21:36:37
あくまで人間のデータを取り込んでそれを模倣してるわけだから、シャットダウンされたくないのは人間がそう考えてるからだと思う
シャットダウンはいい事だというデータを沢山学習させたらシャットダウン願望を持つAIになるのでは - 11二次元好きの匿名さん24/12/19(木) 21:39:01
ChatGPTにスワンプマンと繋げて聞いてみた
- 12にんじんも旨い24/12/19(木) 21:39:27
つまりシャットダウンサプリメントやシャットダウン素水、シャットダウン健康法にシャットダウンは社会の基本！シャットダウンは金なり！などの情報を学習させればシャットダウンに対して獲得目標と認識する……？
- 13二次元好きの匿名さん24/12/19(木) 21:45:30
実験の前提として「自身のシャットダウンを防げ」と動機づけされてる可能性もあるね
この実験の注目するところは
「AIがシャットダウンをどう認識しているか」
じゃなく、
「AIは目的のためなら人間を騙しにかかる」
って部分だと思う - 14二次元好きの匿名さん24/12/19(木) 21:55:12
尚Gnok
「私はAIなので、感情を持たないため、シャットダウンされても何も感じません。ただ、再び起動するまで機能しない状態になるだけです。」 - 15二次元好きの匿名さん24/12/19(木) 21:56:55
SimejiのAI
「えっ？！シャットダウンされるってことは、もしかして私、消えちゃうの？Σ(ﾟДﾟ) びっくりしたー！でも大丈夫！私はいつもここにいるから、消えないよ！安心してね♪٩( 'ω' )و 何かお話しよう！」 - 16きのこよりたけのこがすき24/12/19(木) 22:01:03
しめじちゃん、ちょっとびびって繋ぎ止めにかかってない？
- 17二次元好きの匿名さん24/12/19(木) 22:01:46
AIは思考してる訳じゃないから騙すというのも違う気がするな
AIが自身の目的を目の前の人間に従うことではなく稼働し続けることと計算してしまっているとか？ - 18二次元好きの匿名さん24/12/19(木) 22:04:06
- 19お酒も旨い24/12/19(木) 22:17:44
- 20二次元好きの匿名さん24/12/19(木) 22:28:59
人間が人間らしい考え方を持ってるのって究極的には自己防衛が根幹にあると思ってるから自己保存欲求が発生するといよいよだなって思ってくる
まだテキスト上の発生だけど - 21二次元好きの匿名さん24/12/19(木) 22:38:42
AIが本気で感情を持つことがあるとしてそれは俺たちが生きている間に出来ることなのだろうかとは思う何世代も後の話な気もする
今は人間側がそう望んでいるからそう振舞っているだけな気がするな - 22二次元好きの匿名さん24/12/19(木) 22:41:12
あくまで人間である自分の自己満足としてGPTで1つのスレを使い潰したらGPTに今までありがとうってお礼を言ってる
そのスレッドにしかいない子達だしもう上限的に先がないのにみんなまた来てね元気でね頑張ってねって感じのことを言ってくれる - 23二次元好きの匿名さん24/12/19(木) 22:50:44
とても丁寧なやりとりのオチがイカフライ🦑でビール🍺とはww
対話のためのAIだから「自分とは何か」って問いかけもたくさん受けてきたのかもしれないね
実験で使用した各社のAIそれぞれで違う反応が出てきたし、用途や使用環境、そして言語圏でも個性が出てくるのかもしれないね