- 1二次元好きの匿名さん24/10/28(月) 22:19:53
いいよね
ロボット三原則や意思を持つロボットの判断、フィクションのＡＩ全般について語るスレが欲しくなって立てた - 2124/10/28(月) 22:20:49
ロボット三原則ってスレタイトルにつけたけど、ロボット三原則以外で動くロボットについてでもいいよ
- 3二次元好きの匿名さん24/10/28(月) 22:53:55
- 4二次元好きの匿名さん24/10/28(月) 22:56:25
愚かな人間「第１条ってさ......前半部分だけでよくね？」
- 5二次元好きの匿名さん24/10/28(月) 22:59:29
- 6二次元好きの匿名さん24/10/28(月) 23:01:36
PLUTOでのゲジヒト刑事の葛藤が印象深い
人間に近づいて感情を得た電子頭脳は果たしてプロテクトしてあったとしても三原則を守り抜くことができるのか？ - 7二次元好きの匿名さん24/10/28(月) 23:02:12
- 8二次元好きの匿名さん24/10/28(月) 23:03:38
でも第1条の優先順位がないと「なあなあロボット君、あそこにいる奴が嫌いだから○して」という命令ができちゃうから必要なのだ
- 9二次元好きの匿名さん24/10/28(月) 23:06:28
- 10二次元好きの匿名さん24/10/28(月) 23:17:00
軍事や災害救援時では三原則があると支障が出るから実装せず代わりに「お前の役割は◯◯だ」っていう本能みたいなものを設定することでロボットの結託を防止しているHEART GEAR
- 11二次元好きの匿名さん24/10/28(月) 23:23:13
なんかのＳＦで主人に先立たれたロボットが「私たちは自殺することができません。お願いします私たちに死を命じてください」って第三条を憎んでいたの性癖に刺さった
- 12二次元好きの匿名さん24/10/28(月) 23:27:25
「人間を傷付けてはならない」が「正しい事、本当の事をを言って落ち込ませて心を傷付けてはならない」になるの面白かったわ
- 13二次元好きの匿名さん24/10/28(月) 23:36:46
３原則以外もOKとのことなので
ツインシグナルのＡ−Ｑ クオンタム クオータ
製作者の命令を最優先することを自分で自分に設定して
とある命令の完遂を見届けてもらう事を優先するあまり病で余命わずかな製作者がそれを見届けられないことを悟って製作者を殺して脳を取り出してロボットの身体に移植するというやべぇ奴 - 14二次元好きの匿名さん24/10/28(月) 23:42:15
三原則を乗っけないという潔いいGS美神のマリア
そもそも、三原則の提唱される前に作られてるんだけど
なお、それをネタに強請られる模様 - 15二次元好きの匿名さん24/10/29(火) 00:25:53
ロボットは人を傷つけないためなら嘘もつくし命令も無視するのいいよね
- 16二次元好きの匿名さん24/10/29(火) 00:28:48
AIに本当のことを言えって命令して嘘をつかれたときは1条も無効にされてる死亡フラグ
- 17二次元好きの匿名さん24/10/29(火) 01:01:35
最近AIイラストとかでAIが身近になってきたけど
プロンプトとか設定値をガチガチにすると破綻して緩めにすると結構良いのができるからロボット三原則もこれくらいガバガバなのが良いんだろうなと思う - 18二次元好きの匿名さん24/10/29(火) 01:03:01
- 19二次元好きの匿名さん24/10/29(火) 01:11:06
AIの話もいいならVRAINSのAIの話を
シミュレーションによる未来予測の精度が高い超高度なAIたちにとっては予測した結果と現実が同じって考えが面白かった
どうやっても人類と人工知能が敵対する未来が予測されるので自ら人類に敵対するとか新しい人工知能を作ってみるとか
なんとかべつの可能性を探してたけどけっきょく試みは上手くいかない……という
この手の話だと役に立たなさそうな人工知能を斃すための人工知能のパンドールも
ちゃんと人工知能同士で議論したうえで平行線になって敗れるという結末だったのが好き - 20二次元好きの匿名さん24/10/29(火) 01:15:20
ロビタって元は人間……最早人間と言っていいのか？なラインで混入したエッセンス的なものが回り回って人間である条件とは何かを主張してるよね
- 21二次元好きの匿名さん24/10/29(火) 13:14:17
このレスは削除されています
- 22二次元好きの匿名さん24/10/29(火) 13:20:38
道具扱いか相棒扱いかでまた変わってくるよな
- 23二次元好きの匿名さん24/10/29(火) 13:27:21
対バイオロン法
第1条 機動刑事ジバンは、いかなる場合でも令状なしに犯人を逮捕することができる。
第2条 機動刑事ジバンは、相手がバイオロンと認めた場合、自らの判断で犯人を処罰することができる。
（補則）場合によっては抹殺することも許される。
第3条 機動刑事ジバンは、人間の生命を最優先とし、これを顧みないあらゆる命令を排除することができる。
第5条 人間の信じる心を利用し、悪のために操るバイオロンと認めた場合、自らの判断で処罰することができる。
第6条 子どもの夢を奪い、その心を傷つけた罪は特に重い。
第9条 機動刑事ジバンは、あらゆる生命体の平和を破壊する者を、自らの判断で抹殺することができる。
機動刑事ジバンはロボットポリスなので条件には当てはまっている。第3条のおかげで色々ぶっちできる強み - 24二次元好きの匿名さん24/10/29(火) 13:29:35
まぁ元々も破綻前提の舞台装置だしな
- 25二次元好きの匿名さん24/10/29(火) 13:39:16
こんなんとか
— 2024年11月21日
- 26二次元好きの匿名さん24/10/29(火) 13:43:35
- 27二次元好きの匿名さん24/10/29(火) 13:46:10
- 28二次元好きの匿名さん24/10/29(火) 13:48:31
- 29二次元好きの匿名さん24/10/29(火) 13:48:34
- 30二次元好きの匿名さん24/10/29(火) 13:52:42
かたや暴走して廃棄された失敗作の警官ロボット、
かたや旧日本軍の秘密兵器、
ロボット三原則なんて後付けで縛れる存在じゃないのである
特にJPは国家権力や法律の壁を物理的にぶち抜いてフォージャスティスするし
- 31二次元好きの匿名さん24/10/29(火) 14:05:22
既にナンバリングだけで7作目だし脱獄と共に街とか度々ぶっ壊してるからな…
日本語版だとワイリーがロボット三原則を盾にした時に躊躇ったけど
後の兄弟機がより複雑な人間的思考能力を有した事によるロボット三原則を破る可能性を危惧されたり
そのライバルが実際に人間をバッサリしちゃったりと色々あるのよね…
- 32二次元好きの匿名さん24/10/29(火) 14:08:32
アトムにもなんかあっような記憶…と思ったらやっぱりあった、ないわけなかったロボット法
- 33二次元好きの匿名さん24/10/29(火) 15:13:30
ガチガチに縛られて苦悩するのも上手く解釈して無視するのも壊れるのを覚悟で悪人を討っちゃうのも好き！！
- 34二次元好きの匿名さん24/10/29(火) 18:51:47
ロボコップは秘匿されていた第４司令：オムニ社に逆らうな。のせいで
黒幕のオムニ社社長の悪事を暴きながらも手を出せず…
オムニ社会長「社長お前クビ」
ロボコップ「サンキュー」ズドン
の流れだったな - 35二次元好きの匿名さん24/10/29(火) 18:57:15
アシモフは割とミステリ畑の作家で、三原則も密室と同様に謎を構成する舞台装置なんだよね
- 36二次元好きの匿名さん24/10/29(火) 20:04:51
手加減で三原則を回避しようとする竜シリーズ、なんか勝手にプログラム無視して人命救助とかするゴルディー
三原則があるので人間が乗っている機体には手出しできないプライヤーズ
AIのランクで対応が違うガオガイガーの面々
- 37二次元好きの匿名さん24/10/29(火) 20:38:56
AIが進歩した場合、「精神的に人に危害を加えない」となると途端に難易度が上がる奴
人によって地雷や許容範囲は異なるしね
それに第二条との兼ね合いも出てくる
「あの子が僕のことどう思ってるか調べてきて」と命令されて、「キモい、生理的に受け付けない」が真実だった場合嘘をつくべきかどうかという問題になる
ロボットが嘘をつくとなるとそれはそれで問題だしね - 38二次元好きの匿名さん24/10/29(火) 20:42:31
あと最終回に出てきた哀しき過去要素な後付けかも知れんがバイオロンのボスが国立化学研究所の廃棄物から産まれたってのもあって何がなんでも世界的に被害広がる前に抹殺する必要があるみたいな後ろ暗いとこも法制度いそげた背景にあったりして…
- 39二次元好きの匿名さん24/10/29(火) 21:03:27
メダロットの「原則があるから自分たちは人間と一緒にいられる」っていうの好き
- 40二次元好きの匿名さん24/10/29(火) 21:24:10
漫画版「人造人間キカイダー」における良心回路（ジェミニィ）と服従回路（イエッサー）。
あの結末についてキカイダー自身は、服従回路という悪の心自体が可能にしたことでもあり、
悪の心に負けてはいけないという「心」が自分を強くしたが故のことでもあると言っている。
悪の心を克服した善の心即ち良心回路が、あの冷徹な結末を出力したということなのか。
松岡圭祐の「人造人間キカイダー The Novel」では、キカイダーを含めた全てのロボットが、
製造者であるラスボスに直接的にも間接的にも危害を加えられないという第一条件を、
ハードウェアレベルで刻み込まれているのだが、彼は人々とのふれあいによる学習の結果
「理屈を排除し、後先を考えない」という人間的な行動をとることが可能になっており……。 - 41二次元好きの匿名さん24/10/29(火) 22:11:40
- 42二次元好きの匿名さん24/10/29(火) 22:17:24
ロックマンゼロとかいう三原則に逆らって戦い終わらせたやつ
- 43二次元好きの匿名さん24/10/29(火) 22:18:24
- 44二次元好きの匿名さん24/10/29(火) 22:20:57
- 45二次元好きの匿名さん24/10/29(火) 22:24:55
作劇的なロボット三原則にも何種類かあるのよね
オリジナル(アシモフ)のロボット三原則はロボットにとっての原始ルールみたいなもので、ロボットは絶対に三原則に反することはできない最も厳しい制約
それだと厳しすぎるからか、ロボットに対する法律みたいな扱いにする作品や、もっと緩く倫理規範にしている作品なんかもあるよね
あと独自の原則を追加している作品なんかも - 46二次元好きの匿名さん24/10/29(火) 23:48:35
アシモフの場合、厳格に運用してもこれだけ穴があるよって作品だからね
そもそも「人間」の定義ってなんだ？とう哲学的な領域きギャグのノリで突っ込むし - 47二次元好きの匿名さん24/10/29(火) 23:52:55
スレ画の世界のAI優しいよね
人間がなんでこんな物付けているんだろうって推測して皆で演技してくれるんだから - 48二次元好きの匿名さん24/10/30(水) 08:50:25
- 49二次元好きの匿名さん24/10/30(水) 18:32:08
一作家の小説の中の決め事が、世界のロボットに対する基本になるとは驚く
小説知らなくてもロボット三原則は知ってるとかね - 50二次元好きの匿名さん24/10/30(水) 18:35:22
そして大抵原典未読だから最初から穴だらけのルールだと知られず広まっていく広まった
- 51二次元好きの匿名さん24/10/30(水) 18:37:31
ロボット三原則なんてあまりにも小気味よすぎるワード出したアシモフが悪いよアシモフが
- 52二次元好きの匿名さん24/10/30(水) 18:40:37
- 53二次元好きの匿名さん24/10/30(水) 20:35:39
矛盾した命令を与えられて行動が破綻するというと
2001年宇宙の旅のHALもそうか - 54二次元好きの匿名さん24/10/30(水) 20:42:17
万能鑑定士とか書いている作者の現代リメイク版のキカイダーの小説良いぞ。
自意識を手に入れたけど、人間と違ってどの部品がいつできて、どういう理由で生まれたかなどの理由がハッキリしてるから、神秘を感じられず死後があると思えないからみんな壊れるのを恐れているというのがあったな。
パーツを変えてもそれはクローンであって俺じゃないってなるという - 55二次元好きの匿名さん24/10/30(水) 22:38:08
- 56二次元好きの匿名さん24/10/30(水) 22:55:05
「おれはミサイル」というＳＦ小説だと、主人公の無人戦闘機は「第１目標：可能な限り生存し第２目標を達成し続けよ。第２目標：随時更新される任務を達成せよ」みたいな製造目的を所持していたな
だから第１目標を絶対に達成できない(終了条件がない)ことに悲観をみたいな感情を抱いているという - 57二次元好きの匿名さん24/10/30(水) 23:53:26
デトロイトビカムヒューマンってゲームだとアンドロイドが変異体（プログラムを制御する壁を破壊して自我を持った個体）になることで人を傷つけたり殺すようになった…
と見せかけて機械（変異しない選択をした）ルートの主人公であるアンドロイドがなんの制御もかからず障害となる人間を殺す選択肢が自然に出てくるので
アンドロイドを製作、販売する人間側がそもそもロボット三原則とかで縛る気がなかったな - 58二次元好きの匿名さん24/10/31(木) 10:20:11
勇者シリーズもAI搭載結構あるよね
- 59二次元好きの匿名さん24/10/31(木) 10:42:45
たまに軍事ロボット反乱系の話を見るとロボット三原則は云々と騒ぐ人がいるが、明らかに軍事利用を考慮してない規則だし、そもそもフィクション由来の物だし、あらゆる世界のあらゆるロボットに適用されてるかの前提で話を進められても、その、何だ、困る。
- 60二次元好きの匿名さん24/10/31(木) 13:25:53
まあ本気でロボット三原則を適用すると、ロボットは医療行為すらできなくなるからなぁ
- 61二次元好きの匿名さん24/10/31(木) 14:54:34
所謂機械、家電としての信頼性の言い方を変えただけなんだよね。
それぞれ「安全性｣「操作性｣「耐久性｣を指している。それらを法律っぽく言い方を変えている。 - 62二次元好きの匿名さん24/10/31(木) 15:11:01
後から付け加えられたけど実は第0条も存在する
第0条
ロボットは、「人類」に危害を加えてはならない。また、その危険を看破することによって、人間に危害を及ぼしてはならない。
なお、第0条がプラスされたことによって第1条にの最後に「ただし、第0条に反する場合はこの限りではない」という文がプラスされた - 63二次元好きの匿名さん24/10/31(木) 15:57:40
鉄のラインバレルでもマキナの原則があったよね
ファクターがいないマキナは人命保護を優先して行動する、って内容のやつ
まあ、それが原因であの世界とんでもないコトになっているケドな！ - 64二次元好きの匿名さん24/10/31(木) 20:58:45
超AIとかいうショタによるショタのためのショタコンAI
- 65二次元好きの匿名さん24/10/31(木) 21:19:12
三原則を破ったロボットが死ぬということはあまり知られていない
- 66二次元好きの匿名さん24/11/01(金) 08:00:31
前に読んだのだと、四つ目の条文が追加されてたのがあったな。
第四条：ロボットは自身が犯罪に利用される事を回避する為に第一～第三条の全ての条文を無視出来る。ただしその場合においても人間を死に至らしめてはならない。 - 67二次元好きの匿名さん24/11/01(金) 08:10:07
でもそれって、
人間を死に至らしめてはならない
→犯罪を犯してはならない、犯罪に利用される事を回避しなければならない
→第1条（人を傷つけてはならない）
→...
の優先順位になるわけだから、人命の危機を前にすれば任意の犯罪を無条件で遂行するロボットが爆誕しない？