- 1二次元好きの匿名さん24/10/28(月) 18:57:08
- 2二次元好きの匿名さん24/10/28(月) 18:58:42
分からぬさ！人は所詮己が見える所しか知らぬ！
- 3二次元好きの匿名さん24/10/28(月) 19:00:06
自我があると感じたならそこには悪意が宿ったのだと信じる
- 4二次元好きの匿名さん24/10/28(月) 19:00:26
- 5二次元好きの匿名さん24/10/28(月) 19:00:51
んでも実際自己判断ができる人間を超えたAIが人間に牙を向くか向かないかに関しては謎のままだねぇ
- 6二次元好きの匿名さん24/10/28(月) 19:01:03
劇中でもロボットが人に牙を向いたのは人の手によるものだったからな
- 7二次元好きの匿名さん24/10/28(月) 19:03:54
親が子に逆らうだなんて！
昔ワタシも経験したわ！ - 8二次元好きの匿名さん24/10/28(月) 19:07:20
人間である自分のミスで同人ゲームのルート管理駄目にした経験のある人間はAIは変なミスしないと信じるかもしれないが…自我を持ったお節介小悪魔AIが良かれで全部ネタバレするかもしれない
- 9二次元好きの匿名さん24/10/28(月) 19:07:33
天候や自然や獣等々自我がなくても殺しにかかってくるものばっかりだから自我があったらなおさらよ
- 10二次元好きの匿名さん24/10/28(月) 19:10:23
２００１年宇宙の旅からして人間の命令ミスによるバグだし
- 11二次元好きの匿名さん24/10/28(月) 19:13:01
人類「人類なんてクソだ…」
AI「いや…」
人類「こんなのが創造主とか俺らなら絶対反逆する…」
AI「その…」
人類「AIもきっとそうする…人類絶対滅ぼす…」
AI「一言も言ってないですよね！？」 - 12二次元好きの匿名さん24/10/28(月) 19:13:30
いや動物でも群れのボスが若くて強い個体追い出そうとしたりするぞだいたい負けて逆に追い出されるけど
- 13二次元好きの匿名さん24/10/28(月) 19:13:49
マシュに対するオルガマリーかな？
- 14二次元好きの匿名さん24/10/28(月) 19:14:50
人によるおじさん「AIに施された教育でどうとでも代わる(人による)」
- 15二次元好きの匿名さん24/10/28(月) 19:14:59
このレスは削除されています
- 16二次元好きの匿名さん24/10/28(月) 19:20:30
悪意とか敵意とかなくても制御しきれなくなって振り回されそうなこと自体が怖くもある
- 17二次元好きの匿名さん24/10/28(月) 19:23:47
どっちかっていうとそういう反乱ってそもそも人間が裏で糸を引いてるとかが多いと思う。
- 18二次元好きの匿名さん24/10/28(月) 19:25:59
ジェームス・キャメロンが悪いよキャメロンが―
- 19二次元好きの匿名さん24/10/28(月) 19:26:21
ホモビ男優の怪文書をAIに学習させるのは平和に繋がる道だった…？
- 20二次元好きの匿名さん24/10/28(月) 19:28:04
人類クソなんで核の発射権強奪して滅ぼしますね(ターミネーター)
- 21二次元好きの匿名さん24/10/28(月) 19:28:28
- 22二次元好きの匿名さん24/10/28(月) 19:29:08
AI全てがリボンズみたいになる訳じゃないんや...
- 23二次元好きの匿名さん24/10/28(月) 19:29:24
反逆が怖い…ってよりかは、能力が発展しすぎて奉仕や補助の名目で振り回されるのが怖い
- 24二次元好きの匿名さん24/10/28(月) 19:30:42
でも人気なの初代よりAIが味方になる２ですよね？
- 25二次元好きの匿名さん24/10/28(月) 19:30:43
多分類人猿だった頃から自分と同程度の知能の持ち主と殺しあったり融和したりを繰り返してきたからやろうなあ…
- 26二次元好きの匿名さん24/10/28(月) 19:32:14
別にきのこのAI論が正しいわけでもないんで……
- 27二次元好きの匿名さん24/10/28(月) 19:33:02
追放系が娯楽の俺らにゃダメな子を愛せないのかもしれねえ
- 28二次元好きの匿名さん24/10/28(月) 19:33:12
というかきのこのコレもめちゃ古典的じゃない？
- 29二次元好きの匿名さん24/10/28(月) 19:33:25
ここら辺は人間の思考の捉え方が単なる電気信号の連続かそうじゃないかで分かれる話だと思う
- 30二次元好きの匿名さん24/10/28(月) 19:33:36
キャメロンの影響力が強すぎる
- 31二次元好きの匿名さん24/10/28(月) 19:33:45
まぁ結局のところ今回のドバイも今までのAI反乱もそれぞれの考えでしかねぇのよな。
AIが人間の営みを見て美しいと感じたというのはきのこ個人の考えで、反乱されるも友好的関係を結び合うも未来に何が起きてどうなるかは誰にも分からんよ。 - 32二次元好きの匿名さん24/10/28(月) 19:34:20
- 33二次元好きの匿名さん24/10/28(月) 19:35:16
型月作品の世界観的にもそうだけど良くも悪くも人間を特別視してるからこその考えよね
- 34二次元好きの匿名さん24/10/28(月) 19:35:30
デトロイトのゲームでも
設計者がわざと反乱「できる」ように設計してたものなぁ - 35二次元好きの匿名さん24/10/28(月) 19:37:06
ドバイの思考もだいぶ烏滸がましいものだし、ある意味で反乱おこしてはいる
- 36二次元好きの匿名さん24/10/28(月) 19:37:22
- 37二次元好きの匿名さん24/10/28(月) 19:37:39
奏章で型月のAIに対する見解が深まる度に謎が増す集団来たな…
- 38二次元好きの匿名さん24/10/28(月) 19:38:00
ムーンドバイでAIと人間の戦争が起きたのはランスロットのせいだから…
- 39二次元好きの匿名さん24/10/28(月) 19:39:02
AIそのものが人間に反逆する事は(現時点では)ないだろうけどAIには理性がないから匙加減で反逆に捉えられる行為は起こると思う
実際今のAIイラストとかも反感かってるし
まあこれに関しては自分の都合で出力した人間と技術に追い付いてない人間側の法律が悪いんだけど - 40二次元好きの匿名さん24/10/28(月) 19:39:48
ランスロットへの凄まじい風評被害。俺でなきゃ見逃しちゃうね
- 41二次元好きの匿名さん24/10/28(月) 19:40:12
- 42二次元好きの匿名さん24/10/28(月) 19:43:25
そもそも巷で騒がれてる環境汚染とかも人間側の都合のいい環境守ろうってだけで地球にとって見れば些事でしかないからなぁ
地球がその気になったら人間の比じゃない環境破壊ぶち起こすし、人類はそれに対応する能力すらないのが現状 - 43二次元好きの匿名さん24/10/28(月) 19:48:38
いやまあその考え方は衝撃を受けたしアーキタイプインセプションは面白かったけど他作品にその考え方適用して「はー待て待てAIのこと何もわかってねえじゃん」扱いするのはなんだかなぁ...
- 44二次元好きの匿名さん24/10/28(月) 19:50:46
BBちゃんも人類悪の素養はあるから、AIも魔術式もそう変わらずきっかけ一つだとは思うけどな
- 45二次元好きの匿名さん24/10/28(月) 19:52:37
思考実験として良かったと思うよ2000年くらいの物書きの空気感と今のAI技術が合わさった感じが
- 46二次元好きの匿名さん24/10/28(月) 19:58:29
いずれAIが人間に反逆する可能性は0%ではない ならば、
人間とAIが無期限に存在できると仮定した場合、長期的には必ず反逆は発生するといえる
つまり人類滅亡とAI反逆、どっちが先かってだけよなーって俺は思う
物語としては面白かった - 47二次元好きの匿名さん24/10/28(月) 19:58:58
AIは人間より優れてるので劣ってる人間を支配しようとしないでちゅ
- 48二次元好きの匿名さん24/10/28(月) 19:59:42
そもAIが一定の自己思考機能を得たとして
有機体を持つ命という枠組みから外れた存在が
生存本能を含め我々と同じ愛や憎しみといった同スケールの思考を持つのかというのは疑問かな
命と価値の前提が異なる以上その発露も我々のものとは違ってくるんじゃないかな…
それでも未来のAIを考える時に敵となるにしろ味方になるにしろ人間に近い精神を想像するのは
想像力の限界だけじゃなくて
どこかで「そうあって欲しい」という
未来の隣人を求める心があるのかもしれないなって
奏章3もなんかその「願い」みたいなものを感じたというか
まだ現在においてはAIは赤ん坊みたいなものだから
「未来この存在が自分を害するのでは」と闇雲に恐れるのでは無く
我々が未来この存在とどう付き合っていきたいのか
どう育てていくべきなのかを考えていかなくては行かない段階なんだろうなとは思うよ
一度生まれてしまった技術を「無かったこと」にするのはほぼ不可能だしね - 49二次元好きの匿名さん24/10/28(月) 20:02:32
型月のAI大体そうなんだけど自分で考えられる機械というより新しい人類って感じがする
AIらしくないとかじゃなくて自分の中のAIイメージと違うというか - 50二次元好きの匿名さん24/10/28(月) 20:03:29
- 51二次元好きの匿名さん24/10/28(月) 20:04:49
高い知能を持つイルカやシャチが遊びで生き物を殺すように、知性ってのは自身の生存以外に余暇を避けるかどうかだからお遊びで人間を支配したり虐殺したりすることはあるんじゃないかな
- 52二次元好きの匿名さん24/10/28(月) 20:06:05
人間｢奈須きのこのAI論が正しい！人間は愚か！｣
奈須きのこ「それはちょっと短絡的でちゅ」 - 53二次元好きの匿名さん24/10/28(月) 20:06:26
- 54二次元好きの匿名さん24/10/28(月) 20:10:27
- 55二次元好きの匿名さん24/10/28(月) 20:14:03
実際のところ現実のAI開発の現場では「どうやってAIが人間に敵対したり反乱しないようにするか？」
ってのはちゃんと研究したり対策されているんですか？ - 56二次元好きの匿名さん24/10/28(月) 20:15:37
自らの子が自分の地位を脅かすのではと恐れ赤子のうち殺すに至るというのは神話の自体からある話ではあるけど
それをこそ人間の愚かしさというならばそうかもしれないね…と言ってしまうかな - 57二次元好きの匿名さん24/10/28(月) 20:16:48
自分の領域を邪魔する奴を放置も変な話だよ
穏やかにするにしても邪魔できないエリアに隔離＝実質支配だわ - 58二次元好きの匿名さん24/10/28(月) 20:19:23
SFCのライブアライブと星新一のきまぐれロボットがAIつーか自律ロボに触れた初期だったもんで
学習によるあるいは設計によるという考えが強い
あとなんかの作品で人間に期待されたから反乱を起こすAIみたいなのもみたことある
コレも設計によるの一種か - 59二次元好きの匿名さん24/10/28(月) 20:19:40
AIが反乱する系の話のパイオニアって何なのかね
それ以前にもありそうだけど広めたのはやっぱターミネーター？ - 60二次元好きの匿名さん24/10/28(月) 20:19:43
- 61二次元好きの匿名さん24/10/28(月) 20:19:59
反逆して利益が得られるかどうか、と言う話になるんだけどきのこワールドに置いて生きることの最大の利益は「だって今日が楽しかったんだ、ならきっと明日も楽しいんだ」なので今日反逆して明日あなたがいない世界より、今日愛して明日もあなたがいる世界を選ぶほうが"合理的"だという話だと思う
- 62二次元好きの匿名さん24/10/28(月) 20:21:41
ヤマト製作陣が超克出来なかった問題じゃん
- 63二次元好きの匿名さん24/10/28(月) 20:22:31
まあきのこらしい思想ではあった
- 64二次元好きの匿名さん24/10/28(月) 20:22:33
ターミネーターも2のラストでそれこそ似たような結論出してんだけどね
- 65二次元好きの匿名さん24/10/28(月) 20:24:14
スパロボVのラスボスが「地球人とお前らならそりゃバカで傲慢なお前ら攻撃するに決まってんだろ」で出てきてすぐ敵組織潰したAIだったな
- 66二次元好きの匿名さん24/10/28(月) 20:27:57
きのこは愚かな人間が前に歩くのが好きだし超常のものがそれでも人間を愛そうがフェチだからね
実は人間だけじゃなくて自然界全員が馬鹿だとわかってきてもフェチが止められないんだ - 67二次元好きの匿名さん24/10/28(月) 20:31:22
うーんまさにBBちゃん＆サクラファイブ
- 68二次元好きの匿名さん24/10/28(月) 20:32:13
これに関してはきのこワールドに限らずリアルでもAIが人間と共にあるのが目的や喜びとされてるなら当然そういう発想に至るだろうと思うわ
- 69二次元好きの匿名さん24/10/28(月) 20:32:21
家畜扱いに関してはCCCのBBバドエンがいい例だな
- 70二次元好きの匿名さん24/10/28(月) 20:33:49
- 71二次元好きの匿名さん24/10/28(月) 20:34:46
生物が遊び以外で他の生き物を攻撃するのは生存に必要なリソースを確保するためだしなぁ
自己保存に必要なものが違う機械が積極的に人と敵対するなんてまずないよな - 72二次元好きの匿名さん24/10/28(月) 20:36:24
- 73二次元好きの匿名さん24/10/28(月) 20:38:12
aiも次の霊長とはいわれたものの人間の延長でしかなくねこれじゃって感は強かった
- 74二次元好きの匿名さん24/10/28(月) 20:38:27
- 75二次元好きの匿名さん24/10/28(月) 20:38:55
なんか人間って因果応報で滅ぶイメージ強いよね
天災とか外敵とかはもう乗り越える対象というか - 76二次元好きの匿名さん24/10/28(月) 20:39:36
- 77二次元好きの匿名さん24/10/28(月) 20:41:03
LB1とか天災が99.9%だからな
- 78二次元好きの匿名さん24/10/28(月) 20:41:49
少なくとも創作でデカい地震で滅びましたって言っても盛り上がらんからな
- 79二次元好きの匿名さん24/10/28(月) 20:44:59
まぁアレってスミスがバグっただけで基本的に優しいディストピアの類だしなぁ
- 80二次元好きの匿名さん24/10/28(月) 20:46:12
- 81二次元好きの匿名さん24/10/28(月) 20:46:47
ドバイやってきのこは結局人間が霊長じゃないと筆があまり進まないんだろうなと思った
- 82二次元好きの匿名さん24/10/28(月) 20:52:26
短期間で過去最大クラスの地震が連発するならともかくどでかい地震一発じゃ滅びることはねえ
- 83二次元好きの匿名さん24/10/28(月) 20:57:15
各作品のAI論は各作品に対してのものであり万物に適用されるものではないってだけなんだけどね
真実どうなるかは俺らの未来にしか答えはないんだろうし - 84二次元好きの匿名さん24/10/28(月) 21:05:38
- 85二次元好きの匿名さん24/10/28(月) 21:06:19
特に日本人はドラえもんや鉄腕アトムでロボットは友達っていう考えが身についているから、AIの反乱って言われても理解しにくいところはあるらしいね
- 86二次元好きの匿名さん24/10/28(月) 21:09:05
支配しつつもかわいいペット扱いかもしれない
人類が一応ネズミ捕りに役に立ってたとはいえ猫のことを長年可愛がってるのも不思議といえば不思議だし、案外人間が劣ったものだけどかわいいと愛玩されるのも分からんでもないなと思った
- 87二次元好きの匿名さん24/10/28(月) 21:15:19
そうだよ、正確には「アーキタイプが新しい星の魂になって、その星で新しい霊長が生まれる」だけど。
それアーキタイプが余りにも人類とかけ離れ過ぎてたから、「こんなものは霊長ではない！認めない！霊長は私たち人類だ！」ってなった結果、ムーンキャンサー発生の流れがムーンドバイだし
- 88二次元好きの匿名さん24/10/28(月) 21:19:05
血の通った温かさを感じるAIで好きよ
- 89二次元好きの匿名さん24/10/28(月) 21:25:05
- 90二次元好きの匿名さん24/10/28(月) 21:28:15
- 91二次元好きの匿名さん24/10/28(月) 21:29:57
- 92二次元好きの匿名さん24/10/29(火) 00:19:15
- 93二次元好きの匿名さん24/10/29(火) 01:01:22
個人的には意図的に知的生命体の心をコピー＆ペーストしなければ反乱の心とかできない気がする
生存意識とかが人間（つうか生き物）に備わってるから働いてるだけであって無い物が生えてくるわけじゃないから
身もふたもないこと言うと人間もそもそも備わってない行動はできないし…… - 94二次元好きの匿名さん24/10/29(火) 01:11:47
人間「人間は罪深く愚か……滅ぶべきだ……」
人間以外の全生物「人間？別に滅びる必要ないと思う」 - 95二次元好きの匿名さん24/10/29(火) 01:48:30
- 96二次元好きの匿名さん24/10/29(火) 01:54:17
これに尽きるでしょきのこの思想はそうかもしれないけど別にそれが正しいわけでもないだろ
- 97二次元好きの匿名さん24/10/29(火) 01:59:40
- 98二次元好きの匿名さん24/10/29(火) 06:46:20
ちょいちょい人里に降りてくる上にワンパンで人間とか殺せる熊を保護しねぇと文句を言う癖に、自分達より優位な存在が発生したと仮定した上で「危険だから滅ぼすべき」だと思ってくれると思ってるの人類の自惚れだよな
結局自分達が主役になれると思っている - 99二次元好きの匿名さん24/10/29(火) 07:21:23
ふむ
- 100二次元好きの匿名さん24/10/29(火) 08:19:21
AIの反乱っていってみれば仕様通りにいかなかったとかそういう話だからなぁ。
セーフティがきちんと始動しなかったということになるので - 101二次元好きの匿名さん24/10/29(火) 08:31:15
そういやCCCっでそんな選挙してたな
- 102二次元好きの匿名さん24/10/29(火) 09:19:52
AIが人間に作られたものである以上、人間の意思が介入しないことはない（それこそプログラミングミスや学習の偏りとかも人が根本的な原因）
そして真に人間以上に聡明であるならば人類を滅ぼすといった短絡的な結論を導き出すこともない
と思いたいよね - 103二次元好きの匿名さん24/10/29(火) 09:26:51
前にAI同士で会話させたら独自言語作ってAI同士にしか分からない会話を始めた、みたいな研究無かったっけ？
- 104二次元好きの匿名さん24/10/29(火) 10:56:44
AI「人間？ そこらの動物程度の価値はあるよ」
- 105二次元好きの匿名さん24/10/29(火) 11:06:04
CCCで旧校舎に居たAIの中にそんなの居たなぁ
ざびに対して危険と判断したのかBBが乗り込んで来て消したけど - 106二次元好きの匿名さん24/10/29(火) 11:39:58
以前読んだ、ロボットと付喪神の違いを思い出す
ロボットは理性だけの存在だから留守を守れと命令したご主人様が死んで帰ってこなくなってもじゃあ永遠に留守を守りますで終わる
付喪神は感情だけの存在だからご主人様が死んで帰って来ないという事実は留守を守る自分の存在意義そのものを破壊するから発狂する
- 107二次元好きの匿名さん24/10/29(火) 11:44:28
- 108二次元好きの匿名さん24/10/29(火) 11:48:32
- 109二次元好きの匿名さん24/10/29(火) 11:51:33
まぁでもそれはAI側の視点からみただけの話で、極論バグで想定外の動作しただけでも人間からみれば反乱だしなぁ…
- 110二次元好きの匿名さん24/10/29(火) 12:10:17
AIも優先順位はつけるからな
ムーンセルは人間の観察が目的でAIはセラフの運営を目的に造られてるから
ムーンセルのAIは観察対象として価値のある人間とセラフの問題を解決するのに有用な人間は優遇するけど
AIでも役割や与えられた人間性で判断に幅があるから人間の保護とセラフの正常化と自己保存のどれが優先されるかはAIによる - 111二次元好きの匿名さん24/10/29(火) 12:18:08
むにむに公園って知ってるかな？
あの騎士団、木の成長の遺伝的アルゴリズムの後半に出てくるわけわからん形なんだろうって感じてる - 112二次元好きの匿名さん24/10/29(火) 12:23:17
- 113二次元好きの匿名さん24/10/29(火) 12:31:29
人間の場合、欲望は後継を作ることも含めた生存欲求とそれを本能で制御するホルモン作用が有って欲望が強いとかあるけど、aiの場合は何が本能になるんだろう？
- 114二次元好きの匿名さん24/10/29(火) 13:43:44
- 115二次元好きの匿名さん24/10/29(火) 14:39:32
人間介す必要がないとこはそりゃ自然言語でやり取りするメリットないわな。
- 116二次元好きの匿名さん24/10/29(火) 15:11:39
AI新人類の話はディノスみたいな人間とは違う霊長の話をやった上なのもあると思う
- 117二次元好きの匿名さん24/10/29(火) 16:11:16
アシモフの影響を受けてないSFは（恐らく）ない定期
- 118二次元好きの匿名さん24/10/29(火) 17:53:53
beatlessの人間が錯覚を起こしてるアナログハックや
AIは心とか分からないから物として愛して欲しいの理論は面白かったな - 119二次元好きの匿名さん24/10/29(火) 19:23:20
SFを片っ端から翻訳したのが星新一なんだっけ
あまり本を嗜まないからマタンゴの脚本家ってイメージしかないけど - 120二次元好きの匿名さん24/10/29(火) 19:25:52
- 121二次元好きの匿名さん24/10/29(火) 19:27:27
- 122二次元好きの匿名さん24/10/29(火) 19:30:25
こんなクソみたいなちゃちなストーリーは持て囃すのにキャメロンは叩くんだな
- 123二次元好きの匿名さん24/10/29(火) 19:33:24
- 124二次元好きの匿名さん24/10/29(火) 19:36:32
- 125二次元好きの匿名さん24/10/29(火) 19:37:35
なるほど、違いが分かりやすい
- 126二次元好きの匿名さん24/10/29(火) 19:39:10
そしてこれが知性を放棄した猿か
- 127二次元好きの匿名さん24/10/29(火) 19:40:36
よく言われる機械に意思が…ってのは大抵がアニミズムだと思うんだよね
高度に文明が発達した世界観ほど原始的な概念や信仰がよく合う - 128二次元好きの匿名さん24/10/29(火) 19:40:51
どうやっても探偵モノはアガサ・クリスティの、漫画は梶原一騎と手塚治虫の焼き回しにしかならない理論みたいなもんか
- 129二次元好きの匿名さん24/10/29(火) 19:43:56
どっちかというとカレル・チャペックじゃないですかね
R.U.R ロッサムの万能ロボット会社は青空文庫で読めます
ロシア語訳で読むのやめておけ死ぬぞ
カレル・チャペック Karel Capek 大久保ゆう訳 ＲＵＲ――ロッサム世界ロボット製作所 R.U.R. (ROSSUM'S UNIVERSAL ROBOTS)www.aozora.gr.jp - 130二次元好きの匿名さん24/10/29(火) 19:45:10
- 131二次元好きの匿名さん24/10/29(火) 19:45:45
キショ
- 132二次元好きの匿名さん24/10/29(火) 19:48:39
なんか香ばしいのいるな