AI絵師を破壊する方法思いついちゃった

[1 二次元好きの匿名さん 22/10/10(月) 05:13:25]

大量のアカウントを作って大量のリクエストを出しまくる
で、出力された絵の中から「出来の悪い絵」に高評価を付けまくる
AIは「クソみたいな絵」を「出来の良い絵」だと勘違いするように自己進化していく

機械学習の重みつけを利用者の評価に頼っている以上、この方法で破綻させられるのでは？

[2 二次元好きの匿名さん 22/10/10(月) 05:14:21]

実行しろよ１

[3 二次元好きの匿名さん 22/10/10(月) 05:15:12]

理屈は正しいけど実行するの困難だろ

[4 二次元好きの匿名さん 22/10/10(月) 05:16:14]

それをなんとか回避しようと技術者が頑張っていったらシンギュラリティが起きそうで怖い

[5 二次元好きの匿名さん 22/10/10(月) 05:16:27]

一般利用者を上回る数の偽アカウントが必要なんですが

[6 二次元好きの匿名さん 22/10/10(月) 05:18:34]

じゃあお一人で頑張ってください

[7 二次元好きの匿名さん 22/10/10(月) 05:18:57]

だから有料にしたんだぞ

[8 二次元好きの匿名さん 22/10/10(月) 05:21:23]

仮にこの作戦を実行した場合運営の収入が倍増するけどええんか？

[9 二次元好きの匿名さん 22/10/10(月) 05:23:30]

BANされて終わりじゃないかな…

[10 二次元好きの匿名さん 22/10/10(月) 05:34:44]

諦めろ
もう殺せん

[11 二次元好きの匿名さん 22/10/10(月) 05:37:08]

>>10

AIの怖いところってこれだよね

ソースコードコピーすれば何度でも死者蘇生できちゃう

[12 二次元好きの匿名さん 22/10/10(月) 05:47:44]

なんか話題一周遅れじゃない？
もうAI自体の是非というより棲み分けとか感情的な
落としどころの話がメインになってるじゃん

[13 二次元好きの匿名さん 22/10/10(月) 05:48:54]

やるメリットよりデメリット(コスト含む)の方が大きいだろそれ

[14 二次元好きの匿名さん 22/10/10(月) 05:49:59]

億単位のクソイラストを量産して評価つけないといけないから無理だぞ

[15 二次元好きの匿名さん 22/10/10(月) 05:51:21]

そんなことをやってる間にルール無用の海外製お絵描きAIがやってくるものと思われるが……

[16 二次元好きの匿名さん 22/10/10(月) 05:52:03]

>>11

なので止めるんじゃなく法整備とより良い活用方法、共生することを考えるのが大事

アルゴリズムの論文があるのでソースコードがなくなっても1ヶ月もあれば作り直せるしな

[17 二次元好きの匿名さん 22/10/10(月) 05:59:12]

>>12

AI絵師の工学的な仕組みを理解できない情弱がそういう方向でしか議論できてないだけだと思うが

[18 二次元好きの匿名さん 22/10/10(月) 06:01:19]

少ないとも、阻止する！って言ってる奴もうほとんどおらんやろ
少数の絵師様()ぐらいや

[19 二次元好きの匿名さん 22/10/10(月) 06:04:38]

>>17

どうせ実行も出来ない破壊する方法（）なんざ考えるより

よっぽどマシじゃね

どういう形にしろAIは使われるようになるだろうし

[20 二次元好きの匿名さん 22/10/10(月) 06:09:22]

機械学習じゃなくて深層学習じゃないのかこれ？
単次元で評価値操作しても機械的に弾かれるだろ

[21 二次元好きの匿名さん 22/10/10(月) 06:12:45]

リリース前に開発したアルゴリズムは大量のイラストデータから深層学習で教示見本を作るもので、リリース後にワード指定や見本指定させて最後に評価値つけるのは機械学習ベース、二段階に分けてると思う

[22 二次元好きの匿名さん 22/10/10(月) 06:13:31]

オープンソースがあるんだから荒らされてももう一回組み直せばいいだけなんだよな

[23 二次元好きの匿名さん 22/10/10(月) 06:14:23]

この期に及んでそのレベル言うならレジスタンスでも組んでどうぞ

[24 二次元好きの匿名さん 22/10/10(月) 06:17:00]

>>23

ターミネーターの反乱軍はこのノリだったとかいう狂気

[25 二次元好きの匿名さん 22/10/10(月) 06:19:18]

テクノロジーの進歩は止められないし止める必要もない。お絵描きAIの進化を止めるより法整備を進めた方が建設的。

[26 二次元好きの匿名さん 22/10/10(月) 07:49:04]

「こいつの評価はクソだから参考にしない」みたいに評価者をAIが学習出来るようになる気がするのよね
もうなってるかも知れない

[27 二次元好きの匿名さん 22/10/10(月) 08:13:14]

AIへの嫉妬に囚われてるようじゃね

[28 二次元好きの匿名さん 22/10/10(月) 08:14:40]

技術の進歩に適応できないようでは結局どん詰まりぞ……

[29 二次元好きの匿名さん 22/10/10(月) 08:27:09]

>>20

深層学習は機械学習ってカテゴリーの1つの分野だよ

自分は自然言語処理のAI作ってるけど、アカウントを変えつつ大量のノイズとなる学習をさせた場合におかしな挙動が生まれるのは防ぎづらく良い防御方法はなかったはず

少量のノイズは無視できる

[30 二次元好きの匿名さん 22/10/10(月) 08:30:13]

評価順の意味が無くなるからAIなんて比じゃ無いくらい嫌われそう
まあその前に開示請求されてアウトだろうが……

[31 二次元好きの匿名さん 22/10/10(月) 09:52:25]

AIを破壊したいとかとうとう堕ちたな

[32 二次元好きの匿名さん 22/10/10(月) 11:54:17]

なんで潰す必要があるんですか

[33 二次元好きの匿名さん 22/10/10(月) 11:55:57]

>>1

お絵描きマン見苦しすぎ

[34 二次元好きの匿名さん 22/10/10(月) 12:00:49]

潰す必要あるか？今の所はどんな良い絵でも見たことあるような物ばかりという評価らしいし、すぐさま絵師の食い扶持が無くなる事もなさそうだし
背景素材を出力するには、結構便利と聞いたことがあるが

[35 二次元好きの匿名さん 22/10/10(月) 12:01:26]

>>33

そりゃそういうことにしたいスレだろうし

[36 二次元好きの匿名さん 22/10/10(月) 12:03:49]

時津風を描かせようとするとアーボックらしきものが生成されてしまうみたいな話もあるしあながち間違いでもないんじゃないか

[37 二次元好きの匿名さん 22/10/10(月) 12:09:32]

>>36

つまりミーム汚染が発生するとAIも汚染されちゃうの？

アーボック出てくるとか面白すぎるだろ

[38 二次元好きの匿名さん 22/10/10(月) 12:17:07]

>>37

AIの不完全なものを流したらAIがそれ学習してどんどん練度が下がっていく負のスパイラルになっていくから

無闇にAI産をバラ撒くのは許されないんDA☆

[39 1 22/10/10(月) 12:26:04]

>>35

不作為に抽出される教示データから出力されるサンプルと、その評価値を不特定多数の信頼できない利用者の主観に頼る自己進化型ＡＩの危険性を語りたかったの

まさかここまで感情論ベースで語る奴しかいないとか想定外なんだわ

[40 二次元好きの匿名さん 22/10/10(月) 12:29:02]

>>39

言いたいことは理解した

もっと議論を誘導しろよ！

[41 二次元好きの匿名さん 22/10/10(月) 12:30:04]

ていうか誘導したいならノイズになるものは削除しようぜ

[42 二次元好きの匿名さん 22/10/10(月) 12:33:45]

それなら「破壊する方法を思いついちゃった！」とかアホみたいな事言わんで
「こういう悪意をもってやれば学習を阻害出来るんじゃない？どう思う？」みたいな書き方すりゃええやん
書いてもない事を読み取ってもらえずそれでお前らが悪いってネットの使い方下手過ぎやろ

[43 二次元好きの匿名さん 22/10/10(月) 12:35:56]

非現実的なこと言って感情論云々言われてもなぁ

>>39

[44 二次元好きの匿名さん 22/10/10(月) 12:36:10]

>>12

今更日本で規制したところで何の意味もないどころか世界から置いていかれるだけだから

今回は政府もわかっているから先んじて法整備して問題起こらんようにしていこうとしているし

[45 二次元好きの匿名さん 22/10/10(月) 12:38:07]

>>18

商業イラストレーターはどう考えてもAI活用した方が楽だしな