AIの規制って｜あにまん掲示板

101二次元好きの匿名さん25/08/27(水) 20:01:51

虚偽情報が大量に作られたり精巧だったり、加工技術を持っていない人間でも大量かつ精巧な虚偽情報を作れることはフェイクニュース問題の末枝末葉であって、フェイクニュース問題の本質とは虚偽情報が拡散される部分なんだよな
というか技術を槍玉に挙げるにしてもAIを問題視する前にフォトショの存在を消さんとアカンわ

102二次元好きの匿名さん25/08/27(水) 20:02:20

誤情報を発信することのほうが罪に問いやすそうだな

103二次元好きの匿名さん25/08/27(水) 20:02:33

そんな「被害が出そうだから」みたいなふわっとした理由で規制できるわけねーだろ
歴史的にそういう法律作って悪用した為政者が死ぬほど出てきたから、現代じゃそれを反省して「基本的に自由」になってるのは社会授業でも習う常識だぞ

104二次元好きの匿名さん25/08/27(水) 20:03:19

>>95

現実的にディープフェイクによるデマが危険なのは別に否定してない

ただこれだけをピンポイントで否定する法案ってのは多分無理だし　作ったとしたら波及する影響がデカ過ぎるのよねという話じゃ

逆に聞きたいのよ　90で上げた議題を解決する方法ある？

105二次元好きの匿名さん25/08/27(水) 20:04:09

悪意を持った人間がフォトショを使いこなせなくてAIなら使いこなせる、と考えるのは大分恣意的じゃないか？

>>109 >>113 >>114

106二次元好きの匿名さん25/08/27(水) 20:04:15

虚偽情報云々で規制するならついでにマスコミも規制してくれや

>>115

107二次元好きの匿名さん25/08/27(水) 20:04:32

推進派の人ってほんと0と1だけの思考なんだな…

108二次元好きの匿名さん25/08/27(水) 20:06:32

>>100

ディープフェイク作成に生成AI使われないようにするためですが

生成AIが問題視されるのって偽造や模倣にある程度の技術必要だった過去に比べて作成が容易になってるから作成されやすいってのもあるでしょ？

>>121 >>125 >>126

109二次元好きの匿名さん25/08/27(水) 20:06:32

>>105

いやまぁ難易度が下がるの自体は疑う必要はないでしょ

問題はその下がった難易度でどれだけ被害が増えるのか、現実的に規制が可能か、効果が規制のコストに見合うか、とかその辺りになってくるってだけで

110二次元好きの匿名さん25/08/27(水) 20:06:57

新しく法律を作るのにガバガバな定義決められたりフワフワな運用されると現場の人間は血反吐を吐くことになるんだよなぁ…

>>119

111二次元好きの匿名さん25/08/27(水) 20:07:12

過激な意見が散見されるが
どうして1は削除しないんだ？

>>112

112二次元好きの匿名さん25/08/27(水) 20:07:59

>>111

こんなスレ荒れるの期待する以外に立てんやろ

113二次元好きの匿名さん25/08/27(水) 20:08:20

>>105

大量生産出来るのも大きいだから…

114二次元好きの匿名さん25/08/27(水) 20:09:27

>>105

自転車と自動車の違いみたいなもんではあると思う

より危険度が高いものは厳罰化するっていう

115二次元好きの匿名さん25/08/27(水) 20:09:44

>>106

規制されてるじゃん

116二次元好きの匿名さん25/08/27(水) 20:10:00

マジで3年前から散々指摘されてるけど、規制するにしろ「どう規制するのか」が全く提案されないんだよね
ただただ政府は規制しろ、具体的な内容はお前が決めろで決まるわけ無いじゃん

ていうか技術者とかうっすら気づいているだろうけど、最近のIT業界はもうクリエイターとか無視するか話の通じる人だけ集めて勝手にルール作り進めてるよね

>>138

117二次元好きの匿名さん25/08/27(水) 20:10:10

前提としてディープフェイク罪なんて存在しない。問題は虚偽情報であってディープフェイクじゃない。
過去のどっかの水害動画から1コマ切り取って「何処そこで水害の被害が出ました。これが証拠です」って言うのと比べてAIはそんなに簡単か？

118二次元好きの匿名さん25/08/27(水) 20:10:10

手作業も生成AIも同じ悪い事が出来るならまとめて潰す法律作った方が良いしわざわざAI限定の物を作る意味無くない?

>>122

119二次元好きの匿名さん25/08/27(水) 20:11:13

>>110

ガバガバ定義で1つのことに相反するルールを上から押し付けられるせいで血反吐出そうになるのよく分かる…（現場職）

120二次元好きの匿名さん25/08/27(水) 20:11:33

別に情報を大量生産できてもその情報を撒く悪意を持った人間の頭数は変わらんし、現行法でもAIを使った犯罪は普通に検挙出来てるからなぁ
「AIは使えるけどフォトショの使えない悪意を持った人」というニッチな層が警察の検挙が追いつかないくらい存在するとは考えにくいし

121二次元好きの匿名さん25/08/27(水) 20:12:00

尚更ディープフェイク懲役15年でいいやん

ディープフェイク自体の罪が重ければ使われないでしょ

122二次元好きの匿名さん25/08/27(水) 20:12:05

>>118

現状のフェイク画像動画大量生産される状態止めれるなら確かに全般規制する方がいいね

123二次元好きの匿名さん25/08/27(水) 20:12:14

ディープフェイク擁護してる奴、これ絶対やってるわ

124二次元好きの匿名さん25/08/27(水) 20:12:27

普通にディープフェイク作成罪を作れば良いけど
どこまでがディープフェイクにするかってかなりむずそうではある

125二次元好きの匿名さん25/08/27(水) 20:12:29

それもうディープフェイク止めたいんじゃなくてAI規制したいだけやろ

126二次元好きの匿名さん25/08/27(水) 20:12:45

よし、じゃあ次はAIによるディープフェイクの被害の深刻さを証明するデータを用意しようか

被害がどれくらい増えたか、被害の傾向は、とかそういうデータで規制するに足る深刻な状況であることを示すんだ

127二次元好きの匿名さん25/08/27(水) 20:13:15

なんで「例えになるけど」「あったとして」って入れてるのにディープフェイク罪なんて存在しないなんてレスが飛んでくるんだ…？

>>129 >>134

128二次元好きの匿名さん25/08/27(水) 20:13:50

出力した成果物が何らかの被害を発生させたら罪になる
ということなら現行法のままで問題ないな

129二次元好きの匿名さん25/08/27(水) 20:14:20

>>127

ディープフェイク作成罪なんて作れるわけ無いから

法制局も日弁連も100%反対するし違憲審査したら100%負ける

130二次元好きの匿名さん25/08/27(水) 20:15:01

現行法でもAI製のディープフェイク拡散したら人力と同じように普通に捕まるだろうしな

131二次元好きの匿名さん25/08/27(水) 20:16:06

参考までに。
著作権侵害事件についてはSDが登場した年もその次の年も前年より件数が減ってた。

132二次元好きの匿名さん25/08/27(水) 20:16:10

そもそも偽情報なんて画像も動画もいらないで文字打ち込むだけで作れるんだよな

能登半島地震の時とか散々問題になったし、生成AIだけの偽情報規制してもざる法になって終わり

能登半島地震のSNSデマ、投稿者を摘発　拡散にも注意必要 - 日本経済新聞石川県警は24日、1月に発生した能登半島地震を巡りSNS上に救助を求める虚偽の投稿をしたとして、男を偽計業務妨害容疑で逮捕した。男の投稿を受け警察官が救助に向かったが、被害は確認されなかった。災害時の悪質なデマは人命救助や復旧活動に深刻な影響を及ぼす恐れがある。警察当局が厳格な姿勢を示した。逮捕したのは埼玉県八潮市の会社員。逮捕容疑は1月1日午後7時ごろ、X（旧ツイッター）上で被災者を装い虚偽www.nikkei.com

>>169 >>175

133二次元好きの匿名さん25/08/27(水) 20:16:56

AIの規制に対してはやたらめったら細かいデータを求める癖に「AIを規制しなくてもいい！なぜなら意味がないから！」しか言わないの側から見てバカにしか見えないんだよなあ…
なぜAIを規制してもディープフェイクの被害が変わらないのかデータで示してどうぞ

>>135 >>137 >>141 >>150

134二次元好きの匿名さん25/08/27(水) 20:17:08

>>127

目的の前提に仮定を持ってきてるからじゃないですかね

こういうことがやりたいって言ってるのにその前提が存在しないならそりゃ言われる

>>136 >>144

135二次元好きの匿名さん25/08/27(水) 20:18:53

基本的に今許されてるものを規制したいなら規制したい側がデータ提出するものだから

136二次元好きの匿名さん25/08/27(水) 20:19:01

>>134

レスの流れ最初から読んでてその意見ならもう話にならんわ

>>139

137二次元好きの匿名さん25/08/27(水) 20:19:06

こういうのは規制を求める側がデータを示すものでは…？

138二次元好きの匿名さん25/08/27(水) 20:19:22

>>116

技術者全員処刑でいいよ(ポルポト並感)

139二次元好きの匿名さん25/08/27(水) 20:20:51

>>136

存在しない法を仮定として持ち出されて、さらにその法を重罰化すればどうか？とか言われても、じゃあまずその仮定の法を作ってくださいとしか言えないんだよね

>>146

140二次元好きの匿名さん25/08/27(水) 20:21:08

そら規制するなら規制に足るデータを求められるのは当たり前だし、提案されるのがスキマだらけのザル法か違憲訴訟起こされそうなガバガバ法なのは「意味がない」と笑われるに決まってるやろ

141二次元好きの匿名さん25/08/27(水) 20:21:47

現状を変えたいなら変える必要性を示さないといけないけど現状維持でいいならそこに根拠は要らんのよ（相手の証明に反証は必要だが）

残念ながらそこに対称性はない

142二次元好きの匿名さん25/08/27(水) 20:22:10

AIに限定しないだろうけどデマ広告フェイクニュースは規制強化されそう

143二次元好きの匿名さん25/08/27(水) 20:22:43

電話が出来てオレオレ詐欺が生まれたようにAIによるディープフェイクは全て個人が自衛して上手く付き合っていけば良いと思う
ディープフェイクを流した奴は罰するにしても騙されたら騙された奴が馬鹿だったで切り捨てよう

>>145 >>148 >>158

144二次元好きの匿名さん25/08/27(水) 20:22:44

>>134

＞めっちゃ変な例えになるけど「ディープフェイク作成罪　懲役10年」があったとしてそこに「生成AI表記偽証罪」も加わったら懲役15年みたいな刑罰がより重くなるみたいな意味のつもりだったんだけどそっちは「生成AI表記偽証罪」そのものに懲役30年の重罰をかけろって話してると認識した感じ？

そもそもこれ「重罰化って俺は前者の意味で考えてたけどそっちは後者の意味で考えてた？」って例え話のレスで「AU規制のためにディープフェイク作成罪に生成AI表記偽証罪を追加しろ！」って意味じゃなかったんだけどな……

>>146 >>151

145二次元好きの匿名さん25/08/27(水) 20:23:44

>>143

こういうのに騙されるのってだいたいお前みたいに「自分は賢い」って思ってるんだよ

146二次元好きの匿名さん25/08/27(水) 20:24:15

>>139

>>144

すまんがこういうことなのでその意味でこっちに話されてもこちらとしても困るのよ

147二次元好きの匿名さん25/08/27(水) 20:24:16

反AIって例えば古い写真をAI使って高画質化とかも厳罰化するよう求めてるん？

>>162

148二次元好きの匿名さん25/08/27(水) 20:24:46

>>143

オレオレ詐欺が警察に捕まらない世界からの書き込み

>>153

149二次元好きの匿名さん25/08/27(水) 20:25:10

AI相手に限定しない法律の整備（それこそデマ広告とか）は進むだろうけど、AI相手に限定した規制法というのは色んな意味で無理だろうなというのが個人的な感想

>>155

150二次元好きの匿名さん25/08/27(水) 20:25:18

ちなみにAIできてからどれくらいディープフェイク増えたの？

AI使えばフォトショより楽に作れはするだろうし多少増えてはいると思うけど

151二次元好きの匿名さん25/08/27(水) 20:25:20

>>144

割と真面目に助言してあげるけど変な仮定持ち出さずに名誉毀損罪とかにしておけばそこ突っ込まれることはなかったと思うよ

>>152

152二次元好きの匿名さん25/08/27(水) 20:26:44

>>151

それはそう

でもまさか例え話におかしな突っ掛かりしてくるとは思わんて……

153二次元好きの匿名さん25/08/27(水) 20:26:56

>>148

罰するって書いてるじゃん

その上で現在も別に電話は規制されてない

>>166

154二次元好きの匿名さん25/08/27(水) 20:27:25

ディープフェイクをやたら正当化してる辺りやっぱり生成AIユーザーってそういう層が一杯いるんだな…
ポーズだけでもディープフェイクは規制すべきって言ってた方がまだ生成AIへのダメージが少ないのに

>>156 >>157 >>160

155二次元好きの匿名さん25/08/27(水) 20:28:18

>>149

まあ大抵の反AIはAIそのものじゃなくて悪用するユーザーとその結果に対して反感抱いてるんだろうからそうなるのな理想よね

>>159 >>161

156二次元好きの匿名さん25/08/27(水) 20:29:25

>>154

現実的でない机上の空論を肯定するのは馬鹿のやることだから

157二次元好きの匿名さん25/08/27(水) 20:29:34

>>154

虚偽情報流布を正当化してる人はいないと思うけど

>>158

158二次元好きの匿名さん25/08/27(水) 20:30:36

>>157

>>143

>>165 >>166

159二次元好きの匿名さん25/08/27(水) 20:31:15

>>155

（SNSを見ながら）本当か？

>>172

160二次元好きの匿名さん25/08/27(水) 20:31:19

>>154

161二次元好きの匿名さん25/08/27(水) 20:31:31

>>155

真っ当な使い方してる人も叩いてたんですがそれは…

>>170 >>171 >>172

162二次元好きの匿名さん25/08/27(水) 20:31:46

>>147

それは問題無いでしょ

大抵の規制ってそれ全てを禁止にさせる為のものでもないし

163二次元好きの匿名さん25/08/27(水) 20:31:47

1つしかない極端な意見のレスをスレの意見の代表だと考えるのはディープフェイクなくてもそのうち騙されてると思う

164二次元好きの匿名さん25/08/27(水) 20:31:49

「ディープフェイク作成罪を作るのは無理。虚偽情報の流布で罰した方がいい」が「ディープフェイクを正当化している！」になるのは素朴な知性というかなんというか

165二次元好きの匿名さん25/08/27(水) 20:32:00

>>158

君が「ディープフェイクを流した奴は罰する」と書いてあるのが読めない人間なだけ

166二次元好きの匿名さん25/08/27(水) 20:32:57

>>158

>>153

167二次元好きの匿名さん25/08/27(水) 20:33:05

問題はディープフェイクだと判別しやすいようにどうするか、何を義務化するか、じゃないの？

>>181 >>182 >>183

168二次元好きの匿名さん25/08/27(水) 20:33:12

ディープフェイク愛好家さん顔真っ赤やん

169二次元好きの匿名さん25/08/27(水) 20:33:13

というか虚偽情報流布ですら罰するのは結構大変だぞ

>>132がいい例だけど、これは偽情報流布して救助活動妨害したから『妨害』を罰せられた訳だしな

>>186

170二次元好きの匿名さん25/08/27(水) 20:34:06

>>161

そういう極端な思想の人ってどのくらいいるの？

>>174

171二次元好きの匿名さん25/08/27(水) 20:34:17

>>161

反AIの中ではイラストを無断学習したAIでイラストを生成するのは真っ当ではないということになっているからね

172二次元好きの匿名さん25/08/27(水) 20:34:24

>>159

>>161

いや一部の頭おかしい人らをメイン層に思われても困る…でも俺が勘違いしてるだけかもしれんし反AIの過半数がそのタイプと言われても否定材料が無い…

173二次元好きの匿名さん25/08/27(水) 20:34:30

実際に銃を作ったバカがいて捕まったにも関わらず3Dプリンターが規制できなかったのだぞ
実際に規制案まで出たが規制できなかったし

>>178 >>185

174二次元好きの匿名さん25/08/27(水) 20:34:45

>>170

少なくとも炎上して話題になるぐらいにはいるんじゃね？

175二次元好きの匿名さん25/08/27(水) 20:34:52

>>132

問題は「説得力の強い動画・画像を作れること」だろうよ

文字情報に比べて動画が持つ説得力というか、人の感情を動かす能力は比較にならん

176二次元好きの匿名さん25/08/27(水) 20:35:12

https://www.eu.emb-japan.go.jp/files/100741144.pdfwww.eu.emb-japan.go.jp

参考になるか分からんけど、EUのAI規則について

生成AIは最低でも4段階中の3段階目「限定的なリスク」に該当しうる

ポイントは適用範囲はEUの加盟国に限らないこと、つまり日本にも適用されうること

ただしこれはあくまでAIシステムを提供もしくは導入する法人に対する法規で、個人のディープフェイク生成そのものを規制できはしないと思う

177二次元好きの匿名さん25/08/27(水) 20:35:19

虚偽情報によってどのように損害が発生したか、という部分はどうしても必要になってくるだろうからなぁ
これがないと極端な話「ダウナー系お姉さんに毎日カスの嘘を流し込まれる話」の作者なんかは今すぐにでも逮捕されかねない

178二次元好きの匿名さん25/08/27(水) 20:35:33

>>173

あっちは確か弾薬作れないからだっけ

179二次元好きの匿名さん25/08/27(水) 20:35:47

頭0か1かの生成AIユーザーに感情の話とかしてやるなよ
フリーズしちゃうだろ

180二次元好きの匿名さん25/08/27(水) 20:35:54

🤖『核のスイッチは任せろ』

181二次元好きの匿名さん25/08/27(水) 20:36:11

>>167

騙すつもりの人間はルールを守らない。

本物側が本物であることを担保する為の仕組みを設ける方が良さそう。

182二次元好きの匿名さん25/08/27(水) 20:36:38

>>167

範囲もどうするかね

文字、写真、写実イラスト、動画色々あるけど全部規制する？

Xで度々見るマックで隣のｊｋが～的なポストもディープフェイクとして罰する？

>>188

183二次元好きの匿名さん25/08/27(水) 20:36:55

>>167

だからこのスレの話題として「AIによる生成物にはそれが分かる文言等入れて人力等で外したら罰則とかじゃね？」みたいな意見が出てたんだけどこの有様だよ

>>191

184二次元好きの匿名さん25/08/27(水) 20:37:13

>>181

だから出力するAIの方に付けるんじゃないのか

>>187 >>190 >>193

185二次元好きの匿名さん25/08/27(水) 20:37:18

>>173

それは弾薬を作れないからだな

武器として使うのに必要な雷管と火薬の調達がハードル高い

>>177

問題は虚偽情報を検証してから逮捕、となると取締のペースが追いつかないのが明らかに予想つくのがな

だから規制は必須

問題はどうするか

>>194 >>196 >>197

186二次元好きの匿名さん25/08/27(水) 20:37:57

>>169

この前は本物の情報を自治体がデマと判断する事件があったしなぁ

187二次元好きの匿名さん25/08/27(水) 20:38:21

出力したもんポンだしで終わる奴おらんやろ……

そっから別のアプリやらソフトやらで加工が必要なんだが

どうするそれらのアプリも規制するんか？

188二次元好きの匿名さん25/08/27(水) 20:38:33

>>182

その辺りはまずスレの主旨であるAIによるものの規制に絞ったほうがいいかと

189二次元好きの匿名さん25/08/27(水) 20:38:45

反AIを見ればわかるんだけどデマのばら撒きにAIは要らないよ

>>192

190二次元好きの匿名さん25/08/27(水) 20:39:16

現状、そういうマークは容易に外せるからなあ

191二次元好きの匿名さん25/08/27(水) 20:39:16

>>183

だからAIで作成されたのかそうでないかどうやって見分け付けるんだよって話だろ

極論ただの自撮り写真がAI生成と疑われて捕まるような世界がお望みなんか？

192二次元好きの匿名さん25/08/27(水) 20:39:22

>>189

デマのタチが悪くなるからどう規制するかって話だろ

193二次元好きの匿名さん25/08/27(水) 20:39:38

いや、そうではなくカメラに付ける。

194二次元好きの匿名さん25/08/27(水) 20:39:49

去年くらいに著名人騙ったデマ広告でいくつかのSNSが訴訟されてたし、プラットフォーム側に広告の基準厳格にさせるとかあるかもね

195二次元好きの匿名さん25/08/27(水) 20:39:51

厳罰化って言ってもじゃあそれで死刑ですとかならんだろうしそれで致命的になるかっていうと微妙だしなあ
んでそうなるとそもそも虚偽情報流布する犯罪者がそんな細かいところ気にするかよってなる

196二次元好きの匿名さん25/08/27(水) 20:39:52

それだったら元首相暗殺なんて発生していないだろうな

雷管が無くても車のイグナイターあたりで黒色火薬に点火は可能だし

197二次元好きの匿名さん25/08/27(水) 20:39:53