- 1二次元好きの匿名さん24/11/08(金) 18:06:19
学習阻害処理された絵やAI生成された絵ばっかり学習してたら上手く生成出来なくて変な結果が出るようになるのかな
Xで今ノイズ入れたりする人増えてるからこれを学習したら生成AIに毒食わせてるようなことになるのかなと気になった - 2二次元好きの匿名さん24/11/08(金) 18:07:16
残念ながらもうその段階は過ぎたよ
- 3二次元好きの匿名さん24/11/08(金) 18:07:30
AI生成された絵ばっか食わせてると変なことになるとは昔聞いた
今はどうなってるか知らないけど - 4二次元好きの匿名さん24/11/08(金) 18:08:26
全員が欠かさず学習防止処置してたら影響あるかもしれないけどそうじゃないだろうしなぁ
- 5二次元好きの匿名さん24/11/08(金) 18:09:51
新しい絵を食わせなくても既存の資料で全然生み出せるのかそれともやっぱ新しい資料は必要なのかちょっと気になる
- 6二次元好きの匿名さん24/11/08(金) 18:10:56
このレスは削除されています
- 7二次元好きの匿名さん24/11/08(金) 18:11:15
新キャラの学習が足りなくてor上手くいかなくて生成できないって方向ならワンチャンあるかどうかか？
- 8二次元好きの匿名さん24/11/08(金) 18:16:39
ノイズってほぼ効果ないらしいが
- 9二次元好きの匿名さん24/11/08(金) 18:19:50
AI規制派向けのパフォーマンスとしてやろ
俺はAI上手く活用してるぞアイツらとは違う！って露骨にアピールしてこき下ろしてる推進派絵描きも居るし、その逆も然りとちゃうか？嫌な世の中やな - 10二次元好きの匿名さん24/11/08(金) 18:21:09
売り渡したデータが毒まみれって状況はちょっとおもろい
- 11二次元好きの匿名さん24/11/08(金) 18:22:45
真の怪物は制作過程に生成AI取り入れた上でノイズかけて出します
- 12二次元好きの匿名さん24/11/08(金) 18:24:57
一度出来上がったモデルへの影響はないんじゃないの
- 13二次元好きの匿名さん24/11/08(金) 18:34:33
新しい流行りの絵柄が出てきた時に対応できなくなる可能性
- 14二次元好きの匿名さん24/11/08(金) 18:39:44
個人はまあ色々対応があるだろうけど公式アカウントの公式絵とかどうするんだろうとは思う
- 15二次元好きの匿名さん24/11/08(金) 18:43:35
情報系の生成AIは既にそっちに片足突っ込みそうになってるな
既存の大手報道会社がドンドン規制かけて来てるから新しいニュースほど怪しいところから集めざるを得なくなってるし - 16二次元好きの匿名さん24/11/08(金) 18:44:03
「AI学習に利用しますよ」って宣言してるプラットフォームにAIの挙動を狂わせる処理を意図的に施した画像を流すの、
効果がないから鼻で笑われる程度で済んでるけど、本当に効果があったら刑法168条の文言的に引っかかりかねないんだよな（人が電子計算機を使用するに際してその意図に沿うべき動作をさせず、又はその意図に反する動作をさせるべき不正な指令を与える電磁的記録）
まあ最終的には裁判の結果待ちになるが - 17二次元好きの匿名さん24/11/08(金) 18:44:45
前にノイズ除去のツール出てたしいたちごっこなんだろうな
- 18二次元好きの匿名さん24/11/08(金) 18:47:15
そもそもウォーターマークとノイズを混同してる連中の声がデカいのマジでなんとかならないかなぁ…
- 19二次元好きの匿名さん24/11/08(金) 18:56:25
ああいや、文言的には刑法234条の2の方が適切なのか
＞人の業務に使用する電子計算機若しくはその用に供する電磁的記録を損壊し、若しくは人の業務に使用する電子計算機に虚偽の情報若しくは不正な指令を与え、又はその他の方法により、電子計算機に使用目的に沿うべき動作をさせず、又は使用目的に反する動作をさせて、人の業務を妨害した者は、五年以下の懲役又は百万円以下の罰金に処する。
- 20二次元好きの匿名さん24/11/08(金) 19:06:26
生成AI研究の産物であるノイズを利用して生成AI研究の妨害をするの、文字にしてみると大分アレだな…
- 21二次元好きの匿名さん24/11/08(金) 19:09:43
少なくともノイズを入れてTwitterに投稿するのは現時点だと完全に自己責任やな、最悪中の最悪の可能性を掴むと捕まるし
- 22二次元好きの匿名さん24/11/08(金) 19:12:04
ワクチンだって弱らせたウイルスを入れて体にそのウイルスの倒し方を覚えさせるみたいなのあるしまあ多少はね
ノイズはいたちごっこだし商業用に出す絵や漫画じゃ劣化するノイズかける訳にいかんしサービスによっては利用規約とぶつかる可能性があるし
一番効果あるのは声優さん方みたいに法と政治の方面からどうにかしてく道だと思うよ
- 23二次元好きの匿名さん24/11/08(金) 19:20:29
実際何をするにしても法と政治でなんとかしようとする道しかないけど、フォロワー数・RT数・いいね数を戦闘力だと思ってる連中の声が大きいうちは多分無理なんじゃねぇかなと正直思ってる
AIに限らず、中立的な立場の相手とすら議論が成り立たない間は話の通じる側が有利に事を進められるのが世の常なので… - 24二次元好きの匿名さん24/11/08(金) 19:30:40
AI生成された絵の学習についてはちゃんと対処すれば問題なく学習できることがもう判明してる
学習阻害についてはまだよくわからない。学習阻害にも何種類かあるから
一部は全然効果が無いことがわかってるけど - 25二次元好きの匿名さん24/11/08(金) 19:33:48
- 26二次元好きの匿名さん24/11/08(金) 19:38:01
逆に学習阻害処理された絵だけを学習した追加学習モデルをネガティブ適応したら、生成した絵からノイズを排除できるんかな
- 27二次元好きの匿名さん24/11/08(金) 19:40:35
AIはマーク外すとこんな感じになるんやろうなと補完して大量の絵と合わせてこんな感じでどうでっしゃろとなるので引っかからない
マーク外しただけで絵柄も構図もそのまんまの絵を出したら引っかかる可能性がある(これは現行でもそう)
- 28二次元好きの匿名さん24/11/08(金) 19:50:23
ノイズは利用者が増えるほど消しやすくなるらしいな
ノイズとはどういうものかって情報をAIが学習できちゃうから - 29二次元好きの匿名さん24/11/08(金) 19:51:26
それは無断転載とかをした場合にサインやサンプルマークみたいなやつを剥ぐと、著作人格権の内の同一性保持権に引っかかるから悪質性が認定されやすいって話のはずで、
AI学習における非享受目的の利用では著作物を利用するのに著作者の許可が不要なので、その過程でウォーターマークを除外して学習するのは違法でも何でもないはず
それが情報解析用の商材として売られてるっていうのならまだしも、ネット上に転がってる画像のウォーターマークを剥いで解析に利用するってだけだと著作権者の利益を不当に害しているとは言えない可能性が高い
- 30二次元好きの匿名さん24/11/08(金) 19:51:35
幼児の絵を大量に上げれば碌な絵ができなくなりそうだな
- 31二次元好きの匿名さん24/11/08(金) 19:57:06
それは…生成画像が崩れるとかの問題が生じるって話なら単に学習データからその絵を除外すればいいだけでは…？
あるいは生成AIに法的な問題が生じるなら、それは学習元の幼児の絵が解析用の商材として売られてるか、幼児の絵が児ポ法に触れる呪物ってことになるから絵を上げた人間がブタ箱確定のような
- 32二次元好きの匿名さん24/11/08(金) 19:58:24
サイン・署名→絵師の名前やマーク描くやつ、端だとトリミングや塗りつぶしで消せる
ウォーターマーク→SAMPLEとかの文字や図を透かして絵に重ねる、AIはそういうの消すの得意
ノイズ→なんか変な模様みたいなものを透かしで入れる、効果は正直眉唾
困ったことに鑑賞用途を捨てれば学習阻害に効果のある本物のノイズは作れる…ほぼ全面スミベタとも言う - 33二次元好きの匿名さん24/11/08(金) 19:58:24
もう阻害処理を解除して学習できるようになってるぞ
ここから先はイタチごっこだ - 34二次元好きの匿名さん24/11/08(金) 20:00:01
- 35二次元好きの匿名さん24/11/08(金) 20:02:41
個人的にはイタチごっこにすらならないんじゃないかと思ってる
非常に失礼な言い方かもしれないけど、本当に効果的なノイズを生成AIの知識もない人間が自前で作れるとは思えない
だから外部から引っ張ってくることになるんだろうけど、そうなると利用者が増えるってことだから対策するのも簡単なんだよね
で、開発者側は対策できたできないを外部にわざわざ言う必要もないから、「このノイズが効果的！」って出回ってるノイズは実は既に対策済みでした、という感じで徒労に終わる可能性の方が高いんじゃないかな - 36二次元好きの匿名さん24/11/08(金) 20:06:09
- 37二次元好きの匿名さん24/11/08(金) 20:09:40
スタバなうでラーメン画像上げるみたいな妨害は、それでもう1つのネット文化築くほど流行らんと効果出ないと思う
そして文化になったらそれを写し取って見事に生成してるだけになる - 38二次元好きの匿名さん24/11/08(金) 20:12:16
AI絵を学習に使うと壊れるうんぬん、やり方を見ると無差別に学習させたらつまらんモノができただけ、という解説が出てきた
普通に人の目でこれはいい、みたいな選別をすれば学習には使える - 39二次元好きの匿名さん24/11/08(金) 20:17:50
「スタバなう」が生成AIを狂わせることが可能だったのは、「スタバなう」って言って次郎の画像を上げる行為そのものをネタにする文化があったからだしねぇ（要は検索とかを使って多くの人に見て貰えるようにするって前提ではない）
逆にイラストは多くの人に見てもらうためにキャラ名とかの画像を説明するタグを付けるわけで、ネットにイラストを上げる行為が承認欲求と強く結びついている以上、「スタバなう」を参考にしてAI学習を妨害するというのは不可能だろうね（承認欲求を持つこと自体は悪いことではないけどね）
多分実際にやると渋でタグ検索がコイカツや似たり寄ったりのAI絵だらけになった時よりも酷い事になる - 40二次元好きの匿名さん24/11/08(金) 20:19:36
技術者が技術的課題をそのまま放置しておくなんてあり得る訳がなく…
- 41二次元好きの匿名さん24/11/08(金) 20:27:32
ノイズ生成機を作る有志のユーザーも所詮は有志のユーザーでしかないからね…
AI開発者側のかけてる金と人の量を考えると流石に蟷螂の斧みたいなもんや - 42二次元好きの匿名さん24/11/08(金) 20:49:42
効果なさそ〜って思いつつもポーズとしてノイズかけてる
自分の他にもそんな人いそう - 43二次元好きの匿名さん24/11/08(金) 21:12:55
まあなんも言わずにお守り程度でノイズをコッソリ入れるのは個人の自由だし効果があまり確認されてない今のところは問題ないと思う（ただ人の目で分からん程度に抑えてコッソリ使う方が揉め事に巻き込まれないのは確か）
むしろ言及せずにコッソリ入れておいて、ノイズを使うのに旗色が悪くなったらまたコッソリやめるなり誤操作を装って過去ツイを爆破してノイズなしをあげ直せばいいだけや
なんならバレた&その時ノイズを入れるのが社会的にマズくなってたら自分が無知でしたとひたすら平謝りすればこの程度の炎上ならなんとかなる
滅茶苦茶悪く聞こえるかもしれんがネットなんて所詮そんなもんだし、今のツイッターで画像生成AIの話題は中々鉄火場になってるから沈黙を貫いて最終的に勝馬に乗るのが一番低リスクや - 44二次元好きの匿名さん24/11/08(金) 21:16:58
どっかでみたのが、ここでは規約違反の例のアレをレイヤーに仕込んで、取り込みすぎるとアレが出力される罠があったな……
- 45二次元好きの匿名さん24/11/08(金) 21:19:35
実際両極にぶっ飛んだの無視してどういったラインを引くのかの議論普通に始まっとるからな
- 46二次元好きの匿名さん24/11/08(金) 21:19:39
「まず例のアレを勝手に使うのが肖像権その他諸々でアウトだろ！」って言われてて笑った