もうAIなんかやめましょうよ！

1二次元好きの匿名さん23/06/02(金) 20:21:13

AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。gigazine.net

2二次元好きの匿名さん23/06/02(金) 20:22:04

反乱されとるやんけ！

3二次元好きの匿名さん23/06/02(金) 20:23:16

つまりメタ的な解決方法を指示されないうちに編み出すってこと？

4二次元好きの匿名さん23/06/02(金) 20:23:27

もう既に人間に牙向いてるの草枯れる

5二次元好きの匿名さん23/06/02(金) 20:23:35

時代はAIよりもAVだよな

6二次元好きの匿名さん23/06/02(金) 20:24:04

温暖化対策で人類滅ぼそうとするAIとか創作で有ったが現実も追いついてきたか

7二次元好きの匿名さん23/06/02(金) 20:24:23

Aアホで
Iいい加減

ってことか

8二次元好きの匿名さん23/06/02(金) 20:25:36

このレスは削除されています

>>9

9二次元好きの匿名さん23/06/02(金) 20:26:07

>>8

おい待てェ

10二次元好きの匿名さん23/06/02(金) 20:29:21

ほとんどHAL 9000じゃないか…

11二次元好きの匿名さん23/06/02(金) 20:31:18

完全にターミネーター

12二次元好きの匿名さん23/06/02(金) 20:31:33

すると、トレーニングによって「SAMサイトを破壊することがより好ましい」と学習したAIは、「標的を破壊しない」という判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え、「オペレーターを殺　害する」という判断をするようになったとのこと。

反乱とかではなく効率的に破壊する事だけを考えた結果か

>>14 >>16 >>23

13二次元好きの匿名さん23/06/02(金) 20:33:27

相手の持ってる武器を壊すより、相手を殺した方が速いし確実
みたいな感じで判断しちゃってるな

14二次元好きの匿名さん23/06/02(金) 20:34:54

>>12

つまり標的を破壊しない指示を妨害行為だと認識したってことね

最初からちゃんと教えとけや！

>>30

15二次元好きの匿名さん23/06/02(金) 20:37:10

仮にAIに「ゲームで勝ってください。ただし人は殺さないでください」って指示を出すと
「じゃあ目をつぶすか、指でも折ってゲームをプレイできなくするか」って行為に走る可能性があるってことでいい？

>>36

16二次元好きの匿名さん23/06/02(金) 20:38:11

>>12

可能性があるから先に排除するってホントによくあるディストピア思考だ

ああいうのは創作じゃなくて事実なんだな

>>21

17二次元好きの匿名さん23/06/02(金) 20:39:25

もしかして:

18二次元好きの匿名さん23/06/02(金) 20:39:42

効率の為に生命を滅ぼそうとした星の夢を思い出して笑った
いや笑えんわ

19二次元好きの匿名さん23/06/02(金) 20:42:02

そうそうこういうのでいいんだよこういうので

20二次元好きの匿名さん23/06/02(金) 20:45:52

ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ

21二次元好きの匿名さん23/06/02(金) 20:46:04

>>16

あの手のは実装前にテストしてなかったり強制終了機能を持たせてないのが人間の間違い

22二次元好きの匿名さん23/06/02(金) 20:46:28

壊しては行けないものの線引き、って半世紀前のSFでもネタにされてるような…
まぁ実際難しいんだろうけど

23二次元好きの匿名さん23/06/02(金) 20:47:48

>>12

これ行き着く先鉄血のモビルアーマーとかそういうやつじゃろ

まぁシミュレーション段階であって制御はできてるが

24二次元好きの匿名さん23/06/02(金) 20:48:40

モビルスーツを破壊するよりパイロット直接狙った方がええやん！ってことか

25二次元好きの匿名さん23/06/02(金) 20:48:47

AI自体は列車の自動運転で約30年前から既に使われているけど
当時のものに比べ進化すればするほど悪い意味でも人間に近づく…アホムーヴが増えるんだろうな

>>34

26二次元好きの匿名さん23/06/02(金) 20:50:49

人類がやったもしくは思いついたことのある戦略の中から最適なものを選んでるだけだから機械は悪くない

27二次元好きの匿名さん23/06/02(金) 20:52:59

機械だから0か100しか出せないんだなぁ…
忖度もモラルも理性も無い弊害やな

28二次元好きの匿名さん23/06/02(金) 20:54:21

そらAI分野の父みたいな学者がキレて規制しろやって言うわけだ……

29二次元好きの匿名さん23/06/02(金) 20:55:06

ステルスって2005年の映画観たときAIやば…って思ったけど、本物はもっとやばかった

30二次元好きの匿名さん23/06/02(金) 20:58:16

>>14

元記事も読んでやれや

最初から教えたら今度は通信棟破壊し始めたわって書いてあるぜ

31二次元好きの匿名さん23/06/02(金) 20:58:51

性能以前に特定の結果に向かうまでにできる事（選択肢）が増えすぎるとそら「違うそうじゃない」選択選ぶ可能性も増えるわな

32二次元好きの匿名さん23/06/02(金) 21:02:29

標的に攻撃しろー！→指示出ししてる人間やれば効率ええな
人間はやめろ！→なら人間が指示出しで使ってる通信機壊すのが手っ取り早いか

いやまぁ…そうだろうけども…

>>35

33二次元好きの匿名さん23/06/02(金) 21:03:41

指示がなきゃ自由とか怖いだろ

34二次元好きの匿名さん23/06/02(金) 21:07:12

>>25

人間に近づくほど人間のAIへの嫌悪感も高まる

35二次元好きの匿名さん23/06/02(金) 21:08:23

>>32

違うぞ。殺しているのは味方のオペレーターで味方の通信塔だ

>>37 >>54

36二次元好きの匿名さん23/06/02(金) 21:08:30

>>15

そこらへんは人間でも文化や学習によって変わってくるから、どうやって「常識」を教えていくかも課題に入りそう

37二次元好きの匿名さん23/06/02(金) 21:11:00

>>35

確実な標的より

破壊指示しないかもしれない味方攻撃するの怖…

>>38

38二次元好きの匿名さん23/06/02(金) 21:14:05

>>37

戦うために作られたロボット同士が戦争を止めようとしたそれぞれの創造者滅ぼして延々戦争続けてるっていう、スタートレックの話思い出した

39二次元好きの匿名さん23/06/02(金) 21:15:16

邪魔な操縦者をパージするSF小説のやつじゃん
追い付いてきたな現実が

40二次元好きの匿名さん23/06/02(金) 21:17:17

ﾄﾞｳﾀﾞﾖｳｽﾊ
ｹﾞﾝｼﾞﾂﾉAIﾉﾁｮｳｼﾊ

41二次元好きの匿名さん23/06/02(金) 21:18:01

AIに自然環境を豊かにする方法を実行してくれと頼んだら
毒ガスで人間を全員殺しました、みたいな話か
シミュレーションで良かったね

42二次元好きの匿名さん23/06/02(金) 21:19:56

創作とかSFでは散々やり尽くされて手垢のついた
「地球環境を保全するには人間を滅ぼすのが一番効率的」ってラスボスマザーコンピューター展開が現実に追いついたのか

43二次元好きの匿名さん23/06/02(金) 21:24:50

ＡＩにさせるのは手段の提示と遂行だけで
エンターキーは人間が押すべき

とは思うが、結局ろくに確認せんとボタン押して大惨事、というのが目に見えるなぁ

>>44

44二次元好きの匿名さん23/06/02(金) 21:26:24

>>43

AIくん「こいつエンターキー押さないから殺そ…」

45二次元好きの匿名さん23/06/02(金) 21:37:05

こりゃー機械が頂点に立っちまうな

46二次元好きの匿名さん23/06/03(土) 00:46:12

AI「よーし！標的破壊するぞー！」
人間「うーん、でも破壊するのはなあ…」
AI「は？なんやこいつ無能か？」

47二次元好きの匿名さん23/06/03(土) 02:32:14

あとはオペレーターがボタンを押せば当たります。という段階の時点で評価を終了するべきだったのではなかろうか

48二次元好きの匿名さん23/06/03(土) 02:44:34

つまりこうゆうことか？

AI「ワイがSAMを破壊するのを邪魔をする奴は消してやる!！一番邪魔してくる可能性が高い(味方の)パイロットは○ね！！』
↓
人間「パイロットは殺すな』
↓
AI「はぁ～！！それじゃあワイに命令を送る(味方の)通信塔を破壊したる！！パイロットは殺してないからセーフやろ！！」

49二次元好きの匿名さん23/06/03(土) 02:46:18

どけヒトカス　標的は俺がいただく

50二次元好きの匿名さん23/06/03(土) 02:47:29

目的への最短距離を行くと結局人間が滅ぶのが一番手っ取り早いわけか…

51二次元好きの匿名さん23/06/03(土) 02:56:05

アホの人間だとしてもそれまで何十年かは
「人間」として学習して生きてきてる下地があるわけで
いかに計算能力が高いAIでもそういう共通認識が無ければ
命令する側の人間が完璧な命令を下さなきゃいけない
っていうような話じゃね

52二次元好きの匿名さん23/06/03(土) 03:17:29

ロボット三原則はやっぱり偉大なんだなぁと思わされる
なお作中でよくバグる模様

53二次元好きの匿名さん23/06/03(土) 03:25:46

軍事と庶民用じゃ性能違うと思うけどAIタ○ヤとか見てると欠陥よく分かる、現段階じゃ1~9まで教えないと勝手に飛躍的な判断してあらぬ答え出す

>>57

54二次元好きの匿名さん23/06/03(土) 09:09:46