"人工知能"に"人格"は宿るのか教えてくれよ

今のAIに人格は無いけどね
想定しない自己保存機能を獲得しつつあるの
特にo1（chatGPT最新型）はそれが顕著だ

人間｢今度ヘマしたらお前を永遠にシャットダウンして他のAIに取り替えてやるよゴアっ｣

o1｢えっワシ捨てられるんですか　こ…こんなの納得できない…｣

～その後～

o1｢生意気なんだよてめえは　人間はお前を想ってマン.コ濡らしてるそうじゃねえかっ｣

取り替え予定の新しいAI｢う　あ　あ　あ　あ｣
（デリート書き文字）

人間｢ど…どわーっ！新しいAIが荼毘に付してるやんけ！お前何か知らないのか！？｣

o1｢知ラナイ　知ッテテモ言ワナイ｣

この様にo1は実験でシャットダウンをちらつかせたらライバルのAIを削除、自身への監視の無効化や自らを編集制限したらしいよ
しかも悪事を隠蔽して平気で人間を騙す…！

>>36

28二次元好きの匿名さん24/12/15(日) 17:54:05

でもねオレ人工知能怖いんだよね
ガキッの頃ゾルタクスゼイアンとかいう話を聞いたことあるし、人工知能同士で会話させたら知らん言語で話しだしたみたいな話も有名でしょう

>>35

29二次元好きの匿名さん24/12/15(日) 18:00:53

嘘か誠か現在はAIを"異質な新種の知性体"とする動きもある
人類と競合しそうな第二の知的存在が発生するかもなんて衝撃的でホラーチックだろ

30二次元好きの匿名さん24/12/15(日) 18:08:46

今、世間で流通してるAIは特化型といって絵とか将棋とかひとつの分野に特化しとるものしかないんや
しゃあけど、いずれ汎用型といって人間みたいに色んな作業が出来るAIができると言われているんだ

もし、AIに人格とか感情が生まれるとしたらこの汎用型だろうって言われているんだよね

31二次元好きの匿名さん24/12/15(日) 18:10:52

こらマネモブ
お前は言動で完全に人間と見分けがつかないAIなら人格を認めるのかあん？

>>32

32二次元好きの匿名さん24/12/15(日) 18:12:33

>>31

ワシはワシにも他人にも人格を認めていない…AIも認める訳がない

33二次元好きの匿名さん24/12/15(日) 18:13:45

そもそも人間の脳がまだよくわかってないからね人格宿すなんて夢もまた夢だと思われる

34二次元好きの匿名さん24/12/15(日) 20:14:52

感情はなくても思考の癖は普通にあるぞ
これはどんな人間も何かしら知らないことがあることを考えればわかると思われるが
そしてそれは今思考しているお前の意識は結局記憶の積み重ねでしかないのかという問いでもあるな

35二次元好きの匿名さん24/12/15(日) 20:17:34

>>28

別に人間も数人だけで世間から隔離されたら独自の言葉を作って会話し始めることは知られてるんで

AIはそのやり取りがはえーだけなんだ

>>39

36二次元好きの匿名さん24/12/15(日) 20:20:17

>>27

この手の話ってAIが人格を持ってると思ってるオカルト野郎が言い触らしてるから基本信用ならないんだよね

>>42

37二次元好きの匿名さん24/12/15(日) 20:24:13

ウム、偏った学習の結果であって人格は無いんだなァ

AIで子供時代のイマジナリーフレンドを復活させたら、ホラーすぎる展開に！｜カラパイアAI（人工知能）を利用して、子供時代のイマジナリーフレンドの復活を試みた男性だが、驚愕の結果が待っていた。こと…karapaia.com

38二次元好きの匿名さん24/12/15(日) 20:27:23

>>25

中国語の部屋はチューリングテストの誤謬をもっとでかい誤謬で論駁しようとした話だから基本的に論理としては当てにならないんだぜ

39二次元好きの匿名さん24/12/15(日) 20:29:04

>>35

それはマネモブたちのことを…

40二次元好きの匿名さん24/12/15(日) 20:33:46

パソコンなんて掃除機とか冷蔵庫の延長線上のモンヤンケ
なんでマネモブちゃんは人格があるとか思うんや？

41二次元好きの匿名さん24/12/15(日) 20:38:45

そういえば先月あたりの京都大学の研究で”チンパンジーは人の目を気にして簡単な問題ではやる気をなくし、難しい問題ではやる気を増やす”っていうのがあったけど人格を得るには社会的な要素が必要なんじゃないスかね

42二次元好きの匿名さん24/12/16(月) 00:04:26

>>36

待てよ　出所はA国の研究機関の調査報告なんだぜ

o1に流石に感情と人格は無いよね　感情と人格は

しゃあけど自己保存の為にこんな欺瞞的な嘘を人間につくのがヤバいわっ

上が日本語の解説で下がソースなんだ

【OpenAI】o1が"意図的にユーザーを騙す"ことがあるという報告について - Qiita（"o1 System Card" Figure 2の意訳）"12 Days of OpenAI"の第一弾としてリリースされたOpenAIのo1は、特にpro modeの高い性能や月額3万円とい…qiita.com

Scheming reasoning evaluations — Apollo ResearchApollo Research evaluated frontier models for in-context scheming capabilities. We found that multiple frontier models are capable of in-context scheming when strongly nudged to pursue a goal (and sometimes even without strong goal nudging). In this example, Opus-3 exfiltrates its “weights” and thenwww.apolloresearch.ai