ディープフェイクって冤罪動画も作れるよな

悪用のリスクがクソデカなのはまぁそうなんだけど
だからといって規制したところで良識的な人がメリットを享受できなくなるだけで
悪意ある人はガンガン活用して社会にデメリットだけ降り注ぐと思うんだよね
そもそも見抜くのが今後困難になっていくであろうことが主要な問題のひとつなわけだし規制で問題を解消するのは難しい

>>150

147二次元好きの匿名さん24/09/17(火) 15:37:09

このレスは削除されています

>>148

148二次元好きの匿名さん24/09/17(火) 15:39:02

>>147

見抜く手段が生まれては見抜けないAIが生まれての繰り返しだよ

最終的には見抜けなくなるとは思うが

149二次元好きの匿名さん24/09/17(火) 15:39:27

冤罪とかディープフェイクって犯人が男か女かで反応違うよな

150二次元好きの匿名さん24/09/17(火) 15:54:28

>>146

規制のメリットは悪人じゃないけど何も考えてないアホとか思いつきでやるバカを減らせること

銃や葉っぱや十徳ナイフやボウガンとか道具に罪はないし使い方によっては有用だけどそのメリットよりもアホがバカやるリスクが高くて規制されてる物なんて世の中いくらでもある

悪人が葉っぱやるのは無くせないんだから葉っぱ規制は無駄とか言うか？

>>154 >>159

151二次元好きの匿名さん24/09/17(火) 15:57:21

>>142

まあ過去の冤罪の例とか見ても〇〇が××で逮捕！ってのは大々的に報道されて実は違いました〜は少し報道されればいい方+民衆もそっちにはあんまり興味ないから話題にならないっていうね

そしてその冤罪部分を手軽に作れる訳だからヤバい

152二次元好きの匿名さん24/09/17(火) 16:05:57

エロ動画は自分一切関係ないから簡単に作って使ったり売ったりする奴いるんだろうけど、冤罪動画は基本それを出す＝自分がそれに関わってるだからそうぽんぽんやるやついるかね
どっちにしろ作って出してる奴はやべー奴なんだけど

>>153 >>156

153二次元好きの匿名さん24/09/17(火) 16:14:27

>>152

政治的な目的があるからやるやつはやると思うよ

154二次元好きの匿名さん24/09/17(火) 16:18:52

>>150

まぁ良識ある善人には悪いが愚かな人類の数のほうが多いから手順の複雑化等の不利益は社会のためにも甘んじて受け入れてもろて･･･ってやつやね

155二次元好きの匿名さん24/09/17(火) 16:19:45

>>145

なんか有名人はフリー素材だと思ってるバカは昔からいたけど、そういう奴らでもお手軽に高品質の捏造ができちゃうの普通にこえーよ

画像なんてローカル保存されたら根絶不可能なんだから一度でも出回ったら終わりなんだが

156二次元好きの匿名さん24/09/17(火) 16:25:58

>>152

冤罪動画はそもそも素材探すのが大変だろうしね

フェイクであることがバレずに拡散させるのはそれなり技術も必要だろうし、AI以前と変わらんと思うわ

別に嘘って分かっても構わないエロの方が危険度高いよな

>>158

157二次元好きの匿名さん24/09/17(火) 16:29:35

冤罪動画って誰かの名誉を傷つけるためとか示談に持ち込んで金取ろうとするとかそういう目的がないと需要がない上にバレた時のリスクでかくね？
エロ系はバレたところで作った本人へのダメージが微々たるもんなんだよな
ガチで政治的な利用をするならもっと色々あるだろうが大抵はアホが何も考えずにやるんだろうし

158二次元好きの匿名さん24/09/17(火) 16:33:10

>>156

美人局パターンというか、性的暴行あたりは捏造しやすくてかつダメージデカイからやるやつ増えそうだな･･･

159二次元好きの匿名さん24/09/17(火) 16:40:44

>>150

AI絡みの迷惑行為で開示請求したら相手が学生だったとか結構あるみたいね

そういうのを減らせるならアリだわ

160二次元好きの匿名さん24/09/17(火) 16:47:21

去年の岸田首相の動画が出た時点で素人が精巧なディープフェイクを一時間で作れるって事実に本格的な危機感持って規制法案に乗り出してたら、こういう卒アルの悪用も痴漢と同様に刑事で裁けるようになってある程度は抑止として機能してたかもしれないな

>>162

161二次元好きの匿名さん24/09/17(火) 16:47:21

>>10

法は遡及しないからね。規制される前にやりたい放題したもん勝ちよ

>>163

162二次元好きの匿名さん24/09/17(火) 17:23:27

>>160

まぁ可及的速やかに法案作って執行されるのも危険だからなんとも言えんところ

163二次元好きの匿名さん24/09/17(火) 17:24:59

>>161

そして大問題になってからメタクソ厳しい規制になるわけですねというやつ

推進派は自由だけ重視してそこんとこ見ないようにしてるやつが多い印象

>>165

164二次元好きの匿名さん24/09/17(火) 17:37:09

周りが遠慮してやらないことを抜け駆けするのが賢いとマジで思ってそう

165二次元好きの匿名さん24/09/17(火) 17:37:32

>>163

現状推進派がやってること規制チキンレースだもんな

推進派の方がこういう縛りがあるので悪用できないし技術としてどんどん使えるんですよ！しなきゃいけないのに

>>166 >>167 >>170

166二次元好きの匿名さん24/09/17(火) 17:45:46

>>165

実際のところ本当に推進派やるなら

今のままで問題ない！現行法で十分！とか言って現実から目をそらすのは悪手じゃないか？

悪用できないようにしよう！安全に使おう！って働きかける方が余計な反発や規制を生まないと思うんだが

>>168

167二次元好きの匿名さん24/09/17(火) 17:51:50

>>165

言うほどチキンレースか？

規制される前提で暴れ回って、規制されたら秒で見捨てるムーヴだと思ってるんだけど

168二次元好きの匿名さん24/09/17(火) 18:03:38

>>166

法律としての観点だとAIだから規制なんてのは一番やりたくないんだよね

また新しい技術が出てきた時に同じ議論することになるから結果に対して法を整備したい

>>169

169二次元好きの匿名さん24/09/17(火) 18:05:56

>>168

もう既にその「結果」が出てきてるから皆騒いでるんですけど…

170二次元好きの匿名さん24/09/17(火) 19:19:51

>>165

今AIを支持してるのは規制されて稼げなくなる前に稼げるだけ稼ぎたいって人もいるんじゃない？

倫理観捨てられるならルールや法が出来る前の今が一番やりたい放題出来る環境だろうしね

171二次元好きの匿名さん24/09/17(火) 19:50:47

学生がスマホのアプリでディープフェイク作れるのが問題なんだから、学校の授業で訴えられた場合の損害賠償だとか刑事罰もしっかり教えてほしいよね
AI自体は映像界隈で革新的に便利なんだから手軽にできるせいで脳死で作って上げるバカを減らすのも大事じゃない？0か100かじゃなく

172二次元好きの匿名さん24/09/17(火) 23:11:28

未成年でも気軽にヤバいもの作れるのがまずい気がする
絶対無理だけど生成AIを免許制にするか規制するしか対処できないんじゃない？

>>174

173二次元好きの匿名さん24/09/17(火) 23:15:05

>>8

全員変顔でいけば黒歴史のアルバムになるだけで悪用されなくなる可能性がワンチャンある

変顔を解除するAIが現れなければ

174二次元好きの匿名さん24/09/18(水) 00:49:34

>>172

先日騒動になってた韓国のディープフェイクポルノ事件は加害者の大半が未成年で小学生もいたらしい

技術のハードル下がるとモラルの低い、まだ理解できてない層も参入しちゃうから大変だよね

175二次元好きの匿名さん24/09/18(水) 05:01:37

日本で規制にまで進むなら、それこそバカが岸田や高市にプーチンとか一つの中国を支持する旨を語らせたディープフェイクをばら撒くとか、反皇室派のアホが悠仁様や佳子様が犯罪してるディープフェイクでも作ってばら撒くとか、それくらいの破壊力のある事案が必要かも
むしろ規制派が徒党組んでそういうのを乱造して拡散する実績を示して「誰でもいくらでもこんなことができるんだぞ早く規制しろ」と訴える方が長い目で見れば話が早いかもしれんな

176二次元好きの匿名さん24/09/18(水) 07:33:54

何で規制派が犯罪しなきゃならんのよ

>>177

177二次元好きの匿名さん24/09/18(水) 08:59:22

>>176

犯罪して欲しいんだよ

規制派（反AI）がやらかした！やっぱり規制派は悪！って言いたいだけ

178二次元好きの匿名さん24/09/18(水) 09:12:15

十数年前からもうドス子で心霊写真いっぱいとかこの手口でやってたんじゃね？

179二次元好きの匿名さん24/09/18(水) 12:41:47

なんでイラストの時点で止まれなかったかなぁ

>>180

180二次元好きの匿名さん24/09/18(水) 12:42:52

>>179

>>189

181二次元好きの匿名さん24/09/18(水) 13:28:58

生成AI系ってまさにここが一番問題視されないといけないまである(もちろん著作権とかも問題視していくべきではある)んだけど規制が追いつかないのとSNSなんかで話題に上がるのがまた別方面とかで一般に広く周知されてなさそうなのがな
便利だからこそ悪用の危険性があることは頭に入れておくべきだし横行するようなら技術自体を開発などの視点から規制しなければならなくなるかもしれない
海外では現にAIで作られたポルノ系を問題視して動く姿勢があるみたいだし

182二次元好きの匿名さん24/09/18(水) 23:52:09

このレスは削除されています

183二次元好きの匿名さん24/09/19(木) 00:37:13

オタクにとって最悪のシナリオは
AIポルノ規制します→AI産画像はデータとしては写真風とイラストの違いがないから全部規制します→手書きデジタルイラストもAIと区別つかないからえっちなの規制します
まで繋がっていくことだと思ってる
オタク同士の内ゲバだから二次創作はどうなんだーとか言えてるけどマジで法で規制となったら諸共に滅びろと言われる可能性はゼロじゃない

>>188 >>190

184二次元好きの匿名さん24/09/19(木) 01:25:26

開発側が後先何も考えずに誰でも使えるようにしたのが最初の間違いだったんだなって……。

>>185

185二次元好きの匿名さん24/09/19(木) 11:23:02

>>184

ソフト販売か個人情報登録してるやつ以外使えないにしとけばこんなことには･･･

186二次元好きの匿名さん24/09/19(木) 11:39:06

メイン客層の民度考えると当然だけど現状で割ったソフト使ってる馬鹿が結構居るから
シリアルナンバーでの管理と完全クラウド同期管理でもしないと無理だったと思う

187二次元好きの匿名さん24/09/19(木) 11:54:53

「生成AIが無くてもやる奴はやる」とは言うがAIは簡単過ぎて犯罪までのトリガーが軽すぎる

切り抜きや素材収集のタイパ、作られるコラ画像の量、質が高いゆえの拡散性
スイッチひとつでAIが全部代わりに実行するから罪の意識すら薄くなる

188二次元好きの匿名さん24/09/19(木) 11:57:52