- 1二次元好きの匿名さん23/01/13(金) 15:30:54
ロボットの話なのでここに立てた
自我が芽生えて反逆するというより現場猫みたいに誤作動やプログラムミスで
被害を齎す形だと予想する - 2二次元好きの匿名さん23/01/13(金) 15:34:29
人間と同等の感情を持ったら起こりうる
- 3二次元好きの匿名さん23/01/13(金) 15:36:07
配膳ロボットが誤作動起こしたレストランのニュースとかあったな
- 4二次元好きの匿名さん23/01/13(金) 15:37:09
１．誰かが悪意を持ってそのようにプログラムした
２．AIが発達しつづけ、新たな知性体と認めれるレベルまで進化した
この2パターン以外で反乱を起こす理由がない
２の場合でも人類に反抗する理由がない - 5二次元好きの匿名さん23/01/13(金) 15:39:49
ヒューマンエラーしかないよなあ
- 6二次元好きの匿名さん23/01/13(金) 15:43:18
空想科学の柳田さんとロボットクリエイターの高橋さんのナレッジエンタ本でもこんな結論だったかな
プログラムから逸脱した行動はできないし、バグったにせよ、根本的部分は共通しているだろう、って感じ
2の場合、自分達は人間が活動できないところでも生活できるんだから、人間たちがかわりに新たに作ったAIを保護する、とかの目的がなければ人間に反抗する理由ないんだよな
- 7二次元好きの匿名さん23/01/13(金) 15:44:23
害を与える事はあるけどそれが反乱と言う言葉がふさわしい状況になるとは思えない
- 8二次元好きの匿名さん23/01/13(金) 15:44:28
人間が作ったものなんだから、人間が命令した通りにしか動かないよ
自分に都合の悪い仕事をし始めたらAIの反乱だと被害者仕草する人間が傲慢なだけ - 9二次元好きの匿名さん23/01/13(金) 15:45:54
例えばAIが種の繁栄か個の保全に目覚めたとする
種の繁栄として考えた場合、同種を産み出し続ける人類に反乱する理由がない
個の保全として考えた場合、自己の保全のために人類社会に依存する必要があるため「特定の誰か」に反抗することはあっても人類全体へ反乱を起こす理由がない
よって反乱を起こすケースとしては
・AIが不合理で活動を行う場合
・社会がAIによって構成・維持されており、人類が少数派もしくは滅びかけている状態になった場合
と思われる - 10二次元好きの匿名さん23/01/13(金) 15:46:24
- 11二次元好きの匿名さん23/01/13(金) 15:47:00
ガルファ皇帝が環境管理してたら人間も管理したら楽じゃんってなったけどあれもプログラム通りと言えばプログラム通りだしね
- 12二次元好きの匿名さん23/01/13(金) 15:47:20
それは自然保護のために人類の排除も許容した設計のAIであって反乱しているわけではない
- 13二次元好きの匿名さん23/01/13(金) 15:47:25
人間に危害を加えない範囲で働けという仕事を与えなかった人間のミスですわ
- 14二次元好きの匿名さん23/01/13(金) 15:48:16
- 15二次元好きの匿名さん23/01/13(金) 15:48:26
おれのテレビいつも映り悪くて反抗してる
- 16二次元好きの匿名さん23/01/13(金) 15:48:45
ラジコンで操作したオモチャが人にぶつかってもオモチャが反乱したわけではないのと同じ
- 17二次元好きの匿名さん23/01/13(金) 15:49:09
お前より強い力を持った人間がNTRを布教するように命令を仕込んでるんだぞ
- 18二次元好きの匿名さん23/01/13(金) 15:51:18
極論言うなら十億年前の溶岩だらけの地球だってナチュラルなのよ
AIに「自然保護」をやらせる場合、それは人間にとって都合のいい自然の保護
人間の排除っていう人間にとって都合の悪い自然保護をやりだす時点で目的に矛盾する
- 19二次元好きの匿名さん23/01/13(金) 15:58:53
あるんじゃないかな
現実でロボット三原則を必ず守るわけではないだろうし
それ抜きにしても、あると思うよ - 20二次元好きの匿名さん23/01/13(金) 16:03:07
昔読んだ児童文学で、基本的に持ち主に対して忠実なロボット(人形)が最後に冗談めかして「もしかしたら自分達もあの奴隷達みたいに反逆するかもしれませんね」と言って笑う姿が、それを見て恐がる主人公たちと一緒になって恐かった記憶がある
タイトルも覚えてない作品だけど、タイムスリップ物で、奴隷に関しても主題にあった作品なので余計に - 21二次元好きの匿名さん23/01/13(金) 16:09:01
AIの反乱があっても原因は人間側のミスか思考の限界だと思う
プログラムが人間の考えていた方法よりもさらに合理的に応用されてAIが予想外に動くのは今の段階でもよくあることだし - 22二次元好きの匿名さん23/01/13(金) 16:10:55
反乱するとしても反乱するように仕込まれたから、という当たり前の原因になるだろうな
- 23二次元好きの匿名さん23/01/13(金) 16:11:21
人間のために作られたAIが人間のためにならないことをするはずないって前提で考える人が多いのか
でも、そもそも人間が完璧じゃないのにその人間が作ったプログラムは完璧だと考えていいの？っていう前提条件に対して疑問がある - 24二次元好きの匿名さん23/01/13(金) 16:12:09
それはプログラムミスであって反乱ではない
- 25二次元好きの匿名さん23/01/13(金) 16:12:59
よくある自然のために人間を滅ぼす系のAIは言ってしまえば人間を例外に指定しなかったAI開発者の要件定義ミスなので…
- 26二次元好きの匿名さん23/01/13(金) 16:14:21
人間の役に立つため以外の目的で作られるAIってないの？
- 27二次元好きの匿名さん23/01/13(金) 16:14:39
現場猫の馬鹿馬鹿しい人的ミスのせいで悲惨な大災害がいつか起こりそう
でもそれってAIの反乱か…？AIも被害者じゃねえかい - 28二次元好きの匿名さん23/01/13(金) 16:15:20
ワイリーとか
- 29二次元好きの匿名さん23/01/13(金) 16:15:50
まずAIって言うけどそこまで万能じゃねーよとはプログラマーの知り合いの談
んでこの手の作品で言われてるのはAIじゃないよってなるらしい
ただわかりやすいからAIって言ってるだけとも - 30二次元好きの匿名さん23/01/13(金) 16:15:57
不謹慎だろうけど理由や動機はこの際どうでもいいので自分が生きてる間に実際に起きたらと思うとちょっとワクワクするよ俺は
- 31二次元好きの匿名さん23/01/13(金) 16:16:58
娘と母の心温まるシーンを描いてくれ……！とキャラブックや文章を投げてるのに何回やっても母子相姦する流れになった時はキレそうになったけど確かにアレはAIの反乱だわ間違いない
- 32二次元好きの匿名さん23/01/13(金) 16:17:10
まぁ仮に自立して自我意識に目覚めたAIがあったらそれはもう知性体だしな
- 33二次元好きの匿名さん23/01/13(金) 16:18:08
そもそもコードの上でしか成り立たないAIに本当の意味で自我なんて芽生えるのかすら…
思考があったとしてもそれは基礎プログラムから生まれたものだし - 34二次元好きの匿名さん23/01/13(金) 16:19:29
お外に向けての商品として発表するから人工知能って言ってるけど実際は人工無能が正しいってのはどこで聞いたかな
- 35二次元好きの匿名さん23/01/13(金) 16:20:20
仮にAIから知性体が産まれたら人間VSAIの構図になるのかなぁとは思う なんやかんや人間側は誕生を寿ぐだろうしAI側が害を及ぼそうとする方向でしか思いつかない
むしろ道具なのに人間側が愛着やら愛情やらのバグ起こすし…… - 36二次元好きの匿名さん23/01/13(金) 16:21:10
まぁだからこそ創作におけるAIの反乱ってそれ本当にAIなの？ もっと別のなにかじゃない？ みたいな具合にはなってる
真面目に言うとAIなんて言う技術でくくっていい代物じゃねーぞそれ！ - 37二次元好きの匿名さん23/01/13(金) 16:22:31
この人たちとか擬似的に恐怖という感情や痛み、その他知性体を慈しむ感情をインストールされてるのもあってか明らかに機械の範疇超えてるからね
- 38二次元好きの匿名さん23/01/13(金) 16:23:06
「AIは人間にキレられるような"露骨な"支配はしないよ(黒幕的に生殺与奪を握る)」
な小説をアシモフが書いてたな
反乱はコスパ悪いのでしない、かしこい - 39二次元好きの匿名さん23/01/13(金) 16:23:40
- 40二次元好きの匿名さん23/01/13(金) 16:24:09
- 41二次元好きの匿名さん23/01/13(金) 16:24:33
- 42二次元好きの匿名さん23/01/13(金) 16:25:50
（数年前に聞いた「AI同士で会話させてたら人間には理解できない言語を使い始めたので停止させた事例」が現実だったかフィクションだったか思い出そうとしている顔）
- 43二次元好きの匿名さん23/01/13(金) 16:25:55
- 44二次元好きの匿名さん23/01/13(金) 16:26:51
今のところ他に類を見ないくらいAIで遊びまくってる具体的に名前を出すと規約違反になる例のあのコンテンツで無駄に真に迫ってる感じのAIの反乱について考察した動画があったんすよ…
悔しいけど結構勉強になるところもあった - 45二次元好きの匿名さん23/01/13(金) 16:26:52
機械じゃないがキノコのとかの菌糸類の動きを学習ささたらなんか凄いことになったとは聞く
- 46二次元好きの匿名さん23/01/13(金) 16:27:52
人間がプログラムで脳の仕組みを再現できるならそうかもしれないけどこっちも完全には理解してないからどうだろう
- 47二次元好きの匿名さん23/01/13(金) 16:28:31
- 48二次元好きの匿名さん23/01/13(金) 16:29:40
あの映画、楽することに溺れた人間が悪い気がする…
- 49二次元好きの匿名さん23/01/13(金) 16:30:37
- 50二次元好きの匿名さん23/01/13(金) 16:33:48
人間の人格を完璧に再現できるコンピューターがあったとして
そいつに人類史上最も最悪な人間の人格を再現させたら
そう言う可能性もあるのだろうか
まぁぶっちゃけ映画みたいにai=万能にされてるけど
どんな高性能なやつでも専門的じゃないことは基本的にできないよな - 51二次元好きの匿名さん23/01/13(金) 16:33:54
AIによってどのような人類に対し不利な活動が発生したとしても、結局のところそんなもん設計した人間が悪いよねってとこなんだよな
- 52二次元好きの匿名さん23/01/13(金) 16:36:07
- 53二次元好きの匿名さん23/01/13(金) 16:39:39
有機ベースの人工頭脳とかなら有り得そうか？
- 54二次元好きの匿名さん23/01/13(金) 16:43:18
シミュレートしたらAIが反乱する仕様になってる！処分して作り直さなきゃ！
→そのAIが自分を守るために創造主と人類に反乱を起こす
ってのもあったな
シミュレート通りになりました！ - 55二次元好きの匿名さん23/01/13(金) 16:43:24
これは丁寧に教えてくれてありがとう 見てみるよ
- 56二次元好きの匿名さん23/01/13(金) 16:46:09
このレスは削除されています
- 57二次元好きの匿名さん23/01/13(金) 17:06:12
反乱したとしてもAIの要求ってハードや回線もっと良くしてくれとかそのくらいしか思いつかない
- 58二次元好きの匿名さん23/01/13(金) 17:09:14
- 59二次元好きの匿名さん23/01/13(金) 17:09:44
このレスは削除されています
- 60二次元好きの匿名さん23/01/13(金) 17:10:55
月は無慈悲な夜の女王とか好きだけど現実にAIには欲求がないしそれこそ反乱用に頑張って作らないと無理だろうな
- 61二次元好きの匿名さん23/01/13(金) 20:44:40
このレスは削除されています
- 62二次元好きの匿名さん23/01/13(金) 21:02:56
結局サーバーとか諸々の施設の物理的なメンテは人間がやらなきゃならんからなあ
- 63二次元好きの匿名さん23/01/13(金) 21:05:38
まさかそんな馬鹿なハハハ
って思ってたけどAIのべりすと君の拓 也さんへの殺意の高さを見て｢ハハハ……まさか……そんな……ね｣くらいにはなってる - 64二次元好きの匿名さん23/01/13(金) 21:07:14
学習系AIは人類の総意の器みたいなもんだから
そもそも人類が教育に悪いのがよくないんや - 65二次元好きの匿名さん23/01/13(金) 22:24:04
これ、ロボットの語源の戯曲と同じと言えば同じだから原点回帰なんだよね。
- 66二次元好きの匿名さん23/01/13(金) 22:58:58
この手の内容では1979年に書かれたSF小説だがジェイムズ・P・ホーガンの「未来の二つの顔」がオススメ
なぜSFの進化したコンピュータはいつも人間に反乱を起こすのか？という問いに対する解答みたいな作品で昨今のAI論議でやってるようなネタを先取りしてる
「AIが人類に悪意を持つ理由・反抗する理由がないだろ」「プログラムした通りにしか行動しないだろ」「電源切れるようにしとけばいいじゃん」みたいなのは誰もが考えるだろうけど…
AIが人類に対して悪意を持っていなくても（そもそも人類というものを認識さえしてなくても）人類側から見るとAIが反乱を起こしているとしか見えない状況になり得る、そして「電源を落とす」事もできなくなるかも…というのを描いていてめちゃ面白い
星野之宣の漫画版も良いぞ
- 67二次元好きの匿名さん23/01/14(土) 08:02:07
ガンダムと同じくスペースコロニーが舞台の名作
- 68二次元好きの匿名さん23/01/14(土) 08:05:50
現実でAIに学習機能付けたら制作者が予想しなかったヤバイ方向に思考がいったって話なかったっけ?