対岸の火事だと思ってたAI生成画像問題

  • 1二次元好きの匿名さん23/12/04(月) 22:42:07

    画像資料探してる時に普通にAI画像が紛れ込んでるのを見て思ったんだが、AI生成画像の問題ってもしかして思った以上にヤバいか？

  • 2二次元好きの匿名さん23/12/04(月) 22:43:12

    当たり前定期
    画期的なんだろうけど道具は使い用だから害にもなりうるんよ

  • 3二次元好きの匿名さん23/12/04(月) 22:43:21

    それの何が拙いんだ？

    >>9
  • 4二次元好きの匿名さん23/12/04(月) 22:44:13

    そのうち人間が書いたかＡＩが書いたかすらあやふやになって
    価値的には同じになるのが時代の流れよ

  • 5二次元好きの匿名さん23/12/04(月) 22:44:42

    今話題のトコジラミか？
    また再燃してるけどニュースで話題になった瞬間画像検索が汚染されていくのヤバいよな

  • 6二次元好きの匿名さん23/12/04(月) 22:44:55

    普通に調べりゃAIだって事分かるし別に問題ないんじゃね

  • 7二次元好きの匿名さん23/12/04(月) 22:45:00

    コンピューターがどれほど発達してもクリエイティブな分野は人間固有の活動領域として残る、という言説は何だったのか…

  • 8二次元好きの匿名さん23/12/04(月) 22:47:43

    蓋を開けてみれば、機械が高価過ぎて採算とれない底辺職ほど人間様のお仕事として残るという皮肉よ

  • 9二次元好きの匿名さん23/12/04(月) 22:49:36

    >>3

    検索したときトップに生成AIで間違った写真が掲載されてたら勘違いするだろ

    調べ物する時なんてだいたい専門外なんだから間違ってることに気付くのも難しいし

    >>11
  • 10二次元好きの匿名さん23/12/04(月) 22:51:20

    もうすでに全部AI生成したでたらめな図鑑とかも販売され始めてるから物理媒体も信用ならなくなり始めてたりする
    クソでは？

  • 11二次元好きの匿名さん23/12/04(月) 22:52:27

    >>9

    画像資料が具体的に何を指してるか不明だけど

    信憑性が重要なら間違ってるかどうかチェックするのはAIだろうが非AIだろうが変わらなくね？

    絵を描く参考にするとかならAIだろうが非AIだろうが参考になるもんはなるし

    >>15
  • 12二次元好きの匿名さん23/12/04(月) 22:53:34

    数十年後には創作や芸術分野もＡＩの方が優秀な業績残したりするんだろうな

    >>16>>23
  • 13二次元好きの匿名さん23/12/04(月) 22:54:28

    AI生成が流行る前は正しい情報しか表示されないと思ってたのならお花畑すぎる

  • 14二次元好きの匿名さん23/12/04(月) 22:55:31

    そもそも元々ネットの情報にそこまで正確な印象が無い

  • 15二次元好きの匿名さん23/12/04(月) 22:56:31

    >>11

    間違ってるどうかのチェックの手間がややこしくなってるから問題なんじゃないか？

  • 16二次元好きの匿名さん23/12/04(月) 22:57:01

    >>12

    ある小説にあったな

    人工知能が対象の人間を分析し尽くして「その個人に完璧に合ったオーダーメイドの物語を作る」って


    その物語を読んだ人間はあまりの面白さに没頭しすぎて寝食を忘れて衰弱死するという

  • 17二次元好きの匿名さん23/12/04(月) 22:57:21

    AI補正アプリ使うとリアル写真でもこんなことになる

    画像はバードウォッチングだけど人間で起こされたら別人になりかねない

    AIの画像補正技術が高すぎて、そこに存在しない生物を作り出して起きてしまった悲劇それらしく補正されてしまうからなぁ…togetter.com
  • 18二次元好きの匿名さん23/12/04(月) 22:58:06

    AI関係ないって言えば無いんだけどディープフェイクとかAIで格段に作りやすくなって数も出せるのがヤバい

    >>77
  • 19二次元好きの匿名さん23/12/04(月) 23:00:10

    AI関係なくテレビの情報鵜呑みにするのが人間だからな
    猫よけペットボトルとかあれ今も信じてる人いるし

  • 20二次元好きの匿名さん23/12/04(月) 23:00:29

    ディープフェイクは民主主義政治においてはキラーコンテンツよねえ
    政敵の失脚の自分の人気取りも自由自在

    新時代の選挙戦略は上手くネット兵器で世論を操作できたほうが勝つ時代よ

    >>51
  • 21二次元好きの匿名さん23/12/04(月) 23:02:58

    AIが上手すぎて今までは「ある程度確認すれば嘘か本当かわかる」だったのが「しっかり確認しないとわからん」なんなら「信頼できると思ってた物がそもそもでたらめ」になってるから問題なんよ
    スレ主の言い方的に絵とか小説の創作物じゃなくて、リアルなものなんだろうけど画像検索が汚染され始めてるのはちょっと実感するわ

    >>27
  • 22二次元好きの匿名さん23/12/04(月) 23:03:17

    画像生成AIが出回る以前に発行された書籍資料の価値が上がっていきそう

    >>39
  • 23二次元好きの匿名さん23/12/04(月) 23:04:43

    >>12

    無理やで

  • 24二次元好きの匿名さん23/12/04(月) 23:05:46

    アメリカの教授が歴史の人物の検索汚染にキレてた話あったよな

  • 25二次元好きの匿名さん23/12/04(月) 23:09:54

    悪貨は良貨を駆逐するとはよく言ったもので……

  • 26二次元好きの匿名さん23/12/04(月) 23:11:15

    誰でも簡単に手が伸ばせて量産できるんだからそりゃね
    十分に議論されてるってそれどこの話って感じ

  • 27二次元好きの匿名さん23/12/04(月) 23:11:53

    >>21

    だから信頼できるものでなければならない論文にAIを使うことは禁止されるんだよな

    なお

    >>32
  • 28二次元好きの匿名さん23/12/04(月) 23:12:19

    投稿される小説の量があまりにも多すぎて
    審査できないから受付を中止したなんて事例があったり

  • 29二次元好きの匿名さん23/12/04(月) 23:13:36

    AI技術の導入は不可逆だろうし良し悪しは置いといても文字通り世界を変えうる

  • 30二次元好きの匿名さん23/12/04(月) 23:14:14

    そもそもどれが本物かそうでないかなんてAIに限らずずっと昔からあるよな
    ゴッドハンドとか鳥山石燕製妖怪とか

    >>34
  • 31二次元好きの匿名さん23/12/04(月) 23:15:38

    このレスは削除されています

  • 32二次元好きの匿名さん23/12/04(月) 23:16:01

    >>27

    対策ってわけではないけど論文の審査するAIも開発中らしい。あくまで人間の審査の前段階としてだけど

  • 33二次元好きの匿名さん23/12/04(月) 23:16:02

    アイコラとかもう古いよな…そりゃそうか…

  • 34二次元好きの匿名さん23/12/04(月) 23:16:41

    >>30

    贋作師の仕事も機械に置き換えられることで規模も精度も跳ね上がるだろうから

    「もはや人間では真贋を見分けられない」って時代もすぐそこよ

    >>36
  • 35二次元好きの匿名さん23/12/04(月) 23:18:29

    にしても、絵描きや小説家なんてまさかいっちゃん機械に取って代わられることがないだろうって分野からどんどんやって来て怖いよねぇ

    >>37
  • 36二次元好きの匿名さん23/12/04(月) 23:20:06

    >>34

    データコンテンツとかはともかく科学的な年代測定をすり抜ける贋作は流石にAI使っても遠い将来な気がする

  • 37二次元好きの匿名さん23/12/04(月) 23:22:29

    >>35

    そこらへんの分野は本人たちが描（書）きたいって思ってる限りは不滅でしょ

    責任が生じない分野だから一般ユーザーにまで広まってるだけってのもあるし

  • 38二次元好きの匿名さん23/12/04(月) 23:22:35

    ただAI系統は結局体系的に捉えるのが苦手という古典的弱点を解決できてないから、悪意が無い限り現実に存在しそうで存在しない何かを生み出してしまうくらいで済んでいる

  • 39二次元好きの匿名さん23/12/04(月) 23:23:14

    >>22

    書籍資料は情報更新されず間違ってるものが多すぎて価値が下がったって経緯がそもそもあるんだよなあ

  • 40二次元好きの匿名さん23/12/04(月) 23:24:32

    モデルもそうなんだけど特にパーツモデルが駆逐されそうなの中々やばいよなって

  • 41二次元好きの匿名さん23/12/04(月) 23:40:42

    AIで生成したものだってわかるとか出てくる情報を信用するなって意見は確かにそうなんだけど
    もし買った図鑑とか写真集、なんなら貰ったパンフレットの中にAI生成された写真とか文章があった場合全部わかるの？という話である
    画像検索とかなら今はまだ大多数が正しい情報が出てくるから見比べられるし、インターネットなら指摘が入るだろうけど現実はそうはいかんからなあ
    案外現実世界の方が危ない

    >>43
  • 42二次元好きの匿名さん23/12/04(月) 23:48:11

    散々話題になった「これヒアリ？怖い！」「ヒアリじゃねえよ！」問題が内容を変えて延々繰り返されるようなもんだからなあ

  • 43二次元好きの匿名さん23/12/04(月) 23:53:19

    >>41

    まともな出版社ならそういうデタラメは監修や校閲が出版までに突っ込んで訂正する

    あとまともな本なら資料の引用元を提示するからそもそもAIか本物かはそこで分かるはず

    まともな出版社のまともな本ならな

    >>46>>71
  • 44二次元好きの匿名さん23/12/04(月) 23:55:46

    まあ偽物掴まされるのが嫌なら金払えって話よな
    アフロとかあるし

  • 45二次元好きの匿名さん23/12/04(月) 23:55:56

    まずAIイラスト以前に
    ネットで正確な情報が手に入ると思い込んでるのがお花畑すぎるのと

    ピンタレストみたいな無断転載サイト使って
    AIイラストに汚染された！タダで資料参考できないギャオオオン！してるアホが多すぎてな

  • 46二次元好きの匿名さん23/12/04(月) 23:56:49

    >>43

    そんなM.U.G.E.Nの画像載せちゃった会社がまともな出版社じゃないみたいな…

    >>47>>52
  • 47二次元好きの匿名さん23/12/04(月) 23:58:19

    >>46

    関係無い話したいんなら他所行けば？

  • 48二次元好きの匿名さん23/12/04(月) 23:59:07

    よー清水氏についてたが
    絵の仕事してるんだったら、ネットでタダで資料集めしないで
    図鑑やら写真集やらちゃんと買って、対価を払って正確な資料集めなさいよって思う

    自分はタダで学習したい、でもAIにタダで学習されるのヤダ
    なんて通用しないんだわ

    >>55>>76>>79>>195
  • 49二次元好きの匿名さん23/12/05(火) 00:01:35

    無料の画像検索は正直なんぼ死んでもいいよ
    電子書籍の資料本がAI汚染され始めてるのがきつい

  • 50二次元好きの匿名さん23/12/05(火) 00:03:55

    社内資料のイメージで使うならともかくとして、掲載物とかの場合はアドビストックとか有料のところを使うか、必要なら現地で撮影しないとね

  • 51二次元好きの匿名さん23/12/05(火) 00:06:09

    >>20

    選挙候補者のディープフェイクを放てっ！

    そういうの見た一部でも裏取りしなかったら票に繋がるのがクソだよねパパ

  • 52二次元好きの匿名さん23/12/05(火) 00:11:20

    >>46

    どうしたいきなり

  • 53二次元好きの匿名さん23/12/05(火) 00:12:51

    検索ワードを思いつくか問題とある意味同類で
    何見てもだいたいAI汚染されてる(され始めてる)ってのが問題なんじゃねぇかな
    このスレでもネットに正確な情報期待するとか馬鹿だろ論者が大量にいるけどちょっとズレてんだよな

    >>56
  • 54二次元好きの匿名さん23/12/05(火) 00:14:00

    だから最初から国際的にAI規制のルール作って日本もそれに倣えって言ってるのに

  • 55二次元好きの匿名さん23/12/05(火) 00:14:19

    >>48

    無茶言ってんじゃねえよ…

  • 56二次元好きの匿名さん23/12/05(火) 00:15:27

    >>53

    正直Wikipedia問題と何が違うのかわかんねえんだ

    鵜呑みにするなで終わりやろ

    >>58
  • 57二次元好きの匿名さん23/12/05(火) 00:15:45

    正しいと思ってたけど実は全然違うとか割とあるからな

    これもそう


    Galaxyのカメラの100倍ズーム機能「スペースズーム」で撮影した月の写真は「AIによる偽造」という指摘2020年に登場したSamsungの「Galaxy S20 Ultra 5G」をはじめとするSamsungのハイエンドスマートフォンでは、AI処理を施した最大100倍の「スペースズーム」を特徴のひとつとしています。しかし、Samsungのスペースズームで撮影した写真は「正確なものではない」とRedditユーザーのibreakphotosさんが指摘しています。gigazine.net
  • 58二次元好きの匿名さん23/12/05(火) 00:17:27

    >>56

    鵜呑みにするなで調べまくっても何が正しいかすらあやふやになってるのが問題なのでは？

  • 59二次元好きの匿名さん23/12/05(火) 00:19:31

    てか鵜呑みにするなとか騙されるな系の対策って結局どっかで破綻するんよシステムでコントロールしなきゃ

    >>70
  • 60二次元好きの匿名さん23/12/05(火) 00:20:57

    ネット検索があるから自分たちなんて必要なのかなとか真面目に先生たちが悩んでたのを昔みたな

    >>110
  • 61二次元好きの匿名さん23/12/05(火) 00:20:58

    ネットに正確な情報を期待すんなって現状は確かにそうかもしれないけど言ってて悲しくならない？

  • 62二次元好きの匿名さん23/12/05(火) 00:23:49

    AIかどうかを判断するシステムとか出てこないかな
    ネットの発達で大学のレポートのコピペとかが問題になったけど今はもう全部バレるようになったし、需要があれば技術が生まれるような気もする

    >>63
  • 63二次元好きの匿名さん23/12/05(火) 00:24:44

    >>62

    なんちゃってAI検出は何度も荒れてるのん

    >>74
  • 64二次元好きの匿名さん23/12/05(火) 00:25:55

    きのこの写真とか危険だよね

    >>78
  • 65二次元好きの匿名さん23/12/05(火) 00:27:04

    今は今まで蓄積されてきた情報で真贋を見分けられるってだけで、これ以上ＡＩ生成が氾濫したらそもそもどれを基準にすればいいのかもわからんってなるぞ
    つまりインターネットの一番の強みの集合知の部分を切り崩していってるんだよな
    フェイク発信側のコストはとてつもなく低いのに鑑定側のコストが無茶苦茶高いって非対称性もあるから、フェイク側が勝つのは確実だし

  • 66二次元好きの匿名さん23/12/05(火) 00:28:21

    AIの問題はAI作であることを証明できないことだから
    それを明確な証拠で以て証明できるようにする&不当にそれを隠した場合厳罰って出来れば良いんだろうがな
    如何せんそれが難しい

  • 67二次元好きの匿名さん23/12/05(火) 00:29:06

    なんならフェイクでも大量にばらまいた方が稼げるまである

  • 68二次元好きの匿名さん23/12/05(火) 00:29:56

    画像編集をどこまで認めるのかとか突き詰めていくともう創作性なんてない作業に落ちぶれそうで

  • 69二次元好きの匿名さん23/12/05(火) 00:30:43

    信用出来る情報と出来ない情報の割合が9：1なら人間でもまだ見分けられるのよ
    極論これが100：1とかになったら並の人間には真偽の見極めなんてほぼ不可能になるし現状のAIはそれに限りなく近い状況を作ることが出来るから怖いんよ
    鵜呑みにするなどころの話じゃない

    >>85
  • 70二次元好きの匿名さん23/12/05(火) 00:31:04

    >>59

    確固たる思い込みでやらかす自然派とかならまだしも

    時間に終われるママとかお人好しのジジババとかにネット鵜呑みにするなって言っても無理でしょう

  • 71二次元好きの匿名さん23/12/05(火) 00:31:53

    >>43

    資料の引用元が汚染されてる可能性が一番高いのよ？

    おおよそ悪意ある人がAIで生成したものを渡すのは一次資料としてなんだから

  • 72二次元好きの匿名さん23/12/05(火) 00:33:53

    もはやオタクだけのものじゃないネットに大量のAIによるフェイクが最悪のベストマッチ

  • 73二次元好きの匿名さん23/12/05(火) 00:36:15

    オタク君たちAIちゃんを庇うのに必死で文明を後退させてしまう？

  • 74二次元好きの匿名さん23/12/05(火) 00:36:24

    >>63

    文章のAI診断とか確実に荒れるよね

    お硬い文章なんてどうやっても同じような文体になるもの

  • 75二次元好きの匿名さん23/12/05(火) 00:36:44

    AIによる情報汚染か……せっかく素晴らしい技術なのに野放図に用いられて世の中をどんどん悪くする方にばかり使われてしまっているように見えて悲しいな
    なんとかならんのか……

  • 76二次元好きの匿名さん23/12/05(火) 00:37:29

    >>48

    よーし対価を払わせてデタラメなAI資料を提供してやる！いけーっ！

  • 77二次元好きの匿名さん23/12/05(火) 00:38:56

    >>18

    ちょうどAIで作った新聞記事ってのが回ってた

    ネット記事の中身を読まずにタイトルだけで言いたい放題する人が結構いるがこういうのも本物かどうかの確認なんてしないだろうな

  • 78二次元好きの匿名さん23/12/05(火) 00:40:22

    >>64

    何かちょっと前にAIがデタラメ書き殴ったキノコ図鑑が問題になってたよな

  • 79二次元好きの匿名さん23/12/05(火) 00:42:50

    >>48

    その”正確な資料”を検索する為の入口も汚染されることになるんだけど、その危険性がマジで分からん？

    「それが嫌なら紙の資料に戻れば？」みたいな返しはむしろ「AIはこれからもビッグデータを汚染し続けまーすｗ」って認めることになるんだけど…


    絵師憎しで小競り合いしてる場合じゃないよ「インターネットが使い物にならなくなる」という事のデカさは

    >>86
  • 80二次元好きの匿名さん23/12/05(火) 00:43:47

    昔から起こってた真贋バトルで贋側がAI使いだしたので、真側もAI使うかそれに対抗できるもの使うしかないねんな

  • 81二次元好きの匿名さん23/12/05(火) 00:44:00

    あと発信側がどんなに丁寧に正確な情報や本物を載せても常にディープフェイクの嘘だって言い張られるリスクを抱える羽目になったってのも大問題だぞ

    >>88
  • 82二次元好きの匿名さん23/12/05(火) 00:44:44

    日本ではそうでもないけど海外じゃもうすでに実在の著者の名前を勝手に借りてAI生成した本が氾濫し始めて電子書籍が被害を受けてるからな
    サクラレビューとかもAI生成できるから簡単にランキングとかに押し上げられて、なまじ内容が読めるものになってるから対処も難しいって言う
    上にあるきのこの嘘図鑑もそうだし、一番被害出してるのが真贋を確認しにくい旅行ガイドブックとからしい

    >>92
  • 83二次元好きの匿名さん23/12/05(火) 00:44:54

    紙の本が無事だなんてことも当然無いしこれからはどんなメディアもおかしなものばかりになるんだ
    過去にあったものとされる情報だって書き換わっていくんだ

  • 84二次元好きの匿名さん23/12/05(火) 00:45:13

    AIは質がアレな頃でさえ手軽さと量産速度のヤバさで脅威だったのに、判別困難なレベルの質にまでなってきてて、使える使えないの話じゃないだろもうこれ

  • 85二次元好きの匿名さん23/12/05(火) 00:46:06

    >>69

    なんなら比率は変わらなくても人間は9:1は見分けられても90：10ですらもう見分けられないと思うぞ

  • 86二次元好きの匿名さん23/12/05(火) 00:46:13

    >>79

    正しい資料が欲しければ専門家が作ったものにお金を払おうという

    真っ当な時代に戻るだけだと思うが…

    >>88>>90>>97>>98>>100>>101>>109
  • 87二次元好きの匿名さん23/12/05(火) 00:46:24

    どれもAGIが完成するまでのほんのひと時の混乱でしかないんだわ
    完成してしまえば世界は破滅するんだけどなガハハ

  • 88二次元好きの匿名さん23/12/05(火) 00:47:25

    >>86

    ただそれだとその専門家に

    >>81的な攻撃が飛ぶ可能性は減らないんだよな

  • 89二次元好きの匿名さん23/12/05(火) 00:47:28

    このスレに書き込んでいるのはお前とおれだけだっていう古いネタももうちっとも笑えなくなった

  • 90二次元好きの匿名さん23/12/05(火) 00:47:37

    >>86

    AI生成された誤った情報がさも当然のように人々の間を行き交う世の中になるだけだぞ

    多くの人はそこまで精査する知識や余裕がない

  • 91二次元好きの匿名さん23/12/05(火) 00:47:47

    金払ったりデータじゃない実物だったり専門家の名前が付いてるなら正しい情報が手に入ると思い込んでる人がこのスレにも居るけどもうそれらも信用できなくなってるんだよなぁ

    >>92
  • 92二次元好きの匿名さん23/12/05(火) 00:48:48

    >>91

    >>82はまさにそういう例だわね

  • 93二次元好きの匿名さん23/12/05(火) 00:48:56

    一周回って図鑑や辞典、写真集の再評価に繋がりそうだよね

    そもそもAI以前からネットに堕ちてる情報は鵜呑みにするな1次ソース確認しろ
    嘘を嘘と見抜けない人はインターネットやるなって昔からずっと言われてるから

    >>103
  • 94二次元好きの匿名さん23/12/05(火) 00:49:22

    みんなそこまで真面目に生きるつもりもないんだわ
    反ワクチンとか自然派とか無茶苦茶な人たちがまかり通る世の中なんだから

  • 95二次元好きの匿名さん23/12/05(火) 00:49:41

    生成AI自体の是非以前の問題としてモラルのない使い方をする悪用者が一番悪いんだが
    その悪用者が低コストで飯の種を量産する最悪の武器にも転じてしまっているのが今という印象

  • 96二次元好きの匿名さん23/12/05(火) 00:50:04

    ネットで沢山の正しい情報が手に入る便利な時代は終わったんだ
    人に聞いたり自分で見に行ったりしなきゃいけない不便な時代に戻るのだ

  • 97二次元好きの匿名さん23/12/05(火) 00:50:07

    >>86

    大衆に拡散される間違った情報に一部の金を払った人間にしか伝わらない正しい情報が勝てると思う？

    今ですら誤情報が平然とトレンドに入ったりしてるのに

  • 98二次元好きの匿名さん23/12/05(火) 00:50:48

    >>86

    で？君はその数ある資料から本物の専門家が作った資料ってのを事前に当てれるんか？

  • 99二次元好きの匿名さん23/12/05(火) 00:50:50

    数年前にこういうこと語ってたら異常者扱いされてたのに今じゃ誰もが当たり前に語ってるの裏切られた感

  • 100二次元好きの匿名さん23/12/05(火) 00:50:57

    >>86

    今はまだ大丈夫だけど、その正しい資料をどうやって見つけるの？って話なんだよ

    ・A氏が書いた本

    ・B氏が書いた本（AI生成）

    の二つがあったとして、レビューも当然AI生成されてる可能性がある状態でどう判断するのさ

    両方買って文章のおかしい所を全部さがすんか？探したろところで正しくA氏が書いた本を真と当てられるんか？

  • 101二次元好きの匿名さん23/12/05(火) 00:51:02

    >>86

    その専門家が真っ当な専門家であることはどうやって見分けるんだ？って話だぞ

    見分けるための判断材料がほぼ絶滅してる中で専門家を専門家と見極められる人間なんてそもそもその専門家を必要としないだろ

  • 102二次元好きの匿名さん23/12/05(火) 00:51:06

    正直、戦争の話題とか本当にヤバいと思う
    AI使えばヘイトを増幅させるような画像だったりが作りたい放題でしょ

    >>115
  • 103二次元好きの匿名さん23/12/05(火) 00:51:18

    >>93

    一次ソースとかそういうレベルじゃないんだもう

  • 104二次元好きの匿名さん23/12/05(火) 00:51:45

    アメリカ一強だった頃とはもう違うし下剋上目指していくらでも利用するんだろうよ

  • 105二次元好きの匿名さん23/12/05(火) 00:52:03

    情報の信用性みたいな話だとAIだからってことでもない気がするが
    発信元が信頼できるならネットからAI画像をコピペなんかしてないだろうって判断できるし
    信頼する・しないの判断が難しいのは別にAIの問題ではないし

    >>107>>111
  • 106二次元好きの匿名さん23/12/05(火) 00:53:00

    まあ政府公式なら大丈夫やろ
    偽サイト……だと……？

  • 107二次元好きの匿名さん23/12/05(火) 00:54:22

    >>105

    AIの問題と言うより昔からあったものがAIで偽の方が膨れ上がるって話なのよな

  • 108二次元好きの匿名さん23/12/05(火) 00:54:25

    ネットが陥落した以上コミュニケーションはフェイスtoフェイス
    情報伝達は紙とペンの時代が帰ってくる！

    >>114
  • 109二次元好きの匿名さん23/12/05(火) 00:54:52

    >>86

    その「正しい一次資料」自体にフェイクが混じる以上、AI汚染を止めないと専門家どころか近い将来には

    「2020年代以降のソースは全部使い物にならないので人類の歴史は2010年代で終わりです。」になるっていうヤバさの方がどう考えてもデカいだろ


    人間が出すフェイクも一緒じゃんと思うかもしれないが、人ひとりができるファクトチェックに対して今膨大なbot攻撃受けてるみたいなもんなのよ　情報の真偽の前に根っこを断たないとヤバイ

  • 110二次元好きの匿名さん23/12/05(火) 00:55:06

    >>60

    滅茶苦茶重要になったな

  • 111二次元好きの匿名さん23/12/05(火) 00:55:09

    >>105

    今までと違う所は偽物を作るコストが違うのよ

    今までは偽物を作るのにもかなりの労力がかかってたけど、今は数時間で偽物を作れるようになってるから

  • 112二次元好きの匿名さん23/12/05(火) 00:55:59

    本物の一部を借りるしか存在できなかった騙りが騙りだけで人の一生でも消化しきれないほどの世界を作れるようになっちまったんだ
    これからはエコーチャンパーどころじゃない分断された世の中になっていくわ

  • 113二次元好きの匿名さん23/12/05(火) 00:56:48

    単純に価格破壊されるだけでパラダイムシフトが起きるってのは自動車の歴史知ってりゃだいたいわかりそうなもんだが

  • 114二次元好きの匿名さん23/12/05(火) 00:57:06

    >>108

    なお情報がAIによって汚染された以上紙とペンに戻ってもその汚染の影響は受ける模様

  • 115二次元好きの匿名さん23/12/05(火) 00:57:26

    >>102

    実際、露ウ戦争やイスラエル・パレスチナの衝突ですでにフェイク画像とか使われているそうな…

  • 116二次元好きの匿名さん23/12/05(火) 00:57:31

    ちなみに上の方にあった偽の著者ってのはこれかね

    AIが書いた本がAmazonで他人名義で販売されているという報告、名前が使われた著者は「これなら自分の本が海賊版で出回った方がマシ」と訴えAmazonで本を検索した結果の一覧で表示される本の作者名は、見た目上は「作者名は同じだが実は違う人」というような場合を見分けるのが難しくなっています。それを利用して、Amazon上にAIで生成された本を他人の作家名を勝手に名乗って販売する「なりすまし」の被害に遭遇した作家が、「私が著者としてクレジットされている詐欺的な本が販売されているくらいなら、私の本が海賊版で出回った方がマシ」と怒りを示しています。gigazine.net


    という風にまずこんな話があったぞと切り出す際はソースを出すのが大事なわけですね

    >>118
  • 117二次元好きの匿名さん23/12/05(火) 00:57:37

    問題は一部の地域がやめたところで容赦ない残りの地域が好き放題利益独占して暴れるだけってところよな
    もう無理だろ

  • 118二次元好きの匿名さん23/12/05(火) 00:58:42

    >>116

    『フリードマン氏は自身の名前について商標は持っていないことを伝えると、対応は終了して書籍は削除されず販売されたままとなりました。』


    ええ……？証明できないからって事……？

    >>133>>137
  • 119二次元好きの匿名さん23/12/05(火) 00:58:49

    週刊SCPってくらいに次々ろくでもないものが出てくる

  • 120二次元好きの匿名さん23/12/05(火) 00:59:28

    まず金に関わるところがゴミだらけになるわな

  • 121二次元好きの匿名さん23/12/05(火) 01:01:06

    おれたちはそもそも地球を直接見たことすらないんだ
    あくまで情報としてそれが正しいものだと思わされてるだけで
    ならその情報がおかしくなっていくならこれからは何を信じたらよくなるのか

    >>126
  • 122二次元好きの匿名さん23/12/05(火) 01:02:03

    去年の段階でリアル路線作られてたから◯◯家のAIイラストヤバいって書いても
    そんなわけないだろってここで言われたけど普通に騒がれる事態になったな

  • 123二次元好きの匿名さん23/12/05(火) 01:02:25

    技術上、例えばAI生成には全部ウォーターマークやブロックチェーンの義務化みたいな対策はもうイタチごっこで不可能なのはしょうがないけど
    じゃあそれを扱う人間に罰則や規制をするしかないよなぁ、使う人間が大暴れし過ぎた因果応報として

    >>140
  • 124二次元好きの匿名さん23/12/05(火) 01:03:04

    しっかり世界中連携して整備した上で世に放つということをしなかったのが、できなかったのがもうダメなんだわ

    >>129
  • 125二次元好きの匿名さん23/12/05(火) 01:03:09

    特に政治系の情報が信用ならなくなりそうだよね
    アレ系の話ってただでさえ党派性で判断する奴が多いから誤情報が流れやすいのにそこにAIが加わったらどうなるか……

  • 126二次元好きの匿名さん23/12/05(火) 01:03:42

    >>121

    なら俺と一緒に地球平面説を信じようぜ！

    >>127
  • 127二次元好きの匿名さん23/12/05(火) 01:04:20

    >>126

    そのソースを出せ！とか言ってもいくらでもそれっぽい偽のソースが出されてしまうようになるの怖いわ

  • 128二次元好きの匿名さん23/12/05(火) 01:04:20

    というかちょいちょい馬鹿にされてるスレ主はむしろAI画像が紛れ込んでるのを見抜いてるしリテラシー高い方なんだよな
    何調べたのかはわからんけど、いくつもある画像の中に「AI生成混じってるやんけ！」ってなると、今までの全部調べ直さないといけないから「対岸の火事だと思ってたけど……」ってなってると推測できる
    いや、書いてて思ったけど一つ生成画像混じってたら今までの全部ファクトチェックしなあかんのか。そりゃヤバいわ！

  • 129二次元好きの匿名さん23/12/05(火) 01:04:39

    >>124

    日本の電子法はアメリカにガチ切れされて変えることになった過去があるから無理です

  • 130二次元好きの匿名さん23/12/05(火) 01:05:25

    これからは色々大変だよなぁ
    政治家が不倫したり宗教団体と密会してる画像だって作れるし
    アイドルが昔アダルトビデオに出てた証拠だって簡単に捏造できる
    悪意ある人間は楽しくてたまらないだろうなぁ

    >>134>>135
  • 131二次元好きの匿名さん23/12/05(火) 01:05:43

    もう惰性で生きるしかねーんだわ
    それが出来ない不安定な立場にしか居られなかったなら残念だけど振り落とされる

  • 132二次元好きの匿名さん23/12/05(火) 01:06:41

    こんな未来は見たくなかった
    長生きなんてするもんじゃなかったわほんと

  • 133二次元好きの匿名さん23/12/05(火) 01:06:57

    >>118

    本物のフリードマン氏だから良かったけど偽物がフリードマン氏を騙って「俺は作家のフリードマンだ、この本は偽物だ！」となる場合もあるからね

    商標登録って大事

  • 134二次元好きの匿名さん23/12/05(火) 01:07:06

    >>130

    逆だぞ

    今後は実際に動画が流れてもAIって言い訳できる時代が来る

    >>136>>141
  • 135二次元好きの匿名さん23/12/05(火) 01:07:31

    >>130

    逆を言えばそれらを全部AIのデマって言い切る事も出来るんじゃね？

  • 136二次元好きの匿名さん23/12/05(火) 01:07:46

    >>134

    どっちにしても最悪じゃねぇか

  • 137二次元好きの匿名さん23/12/05(火) 01:07:59

    >>118

    同姓同名の奴が書いただけかもしれないからね

    先に有名になった同姓同名の奴がいたら後に出てきたお前はペンネーム使わないと商標権侵害な？とか理不尽にもほどがあるからさもありなんってやつ

  • 138二次元好きの匿名さん23/12/05(火) 01:08:17

    いまだに手描きでもできるからAI使っても変わらないとか言ってるアホはシンプルに量産性の違いすら理解してないか意図的に耳塞いでるかのどっちかだよな

  • 139二次元好きの匿名さん23/12/05(火) 01:08:26

    去年のAI隠れ蓑にした売春騒動なんかヤバすぎて何故か知らん人が多いくらいだぞ

    >>148
  • 140二次元好きの匿名さん23/12/05(火) 01:08:59

    >>123

    自動生成AIをネットに放流して、ウイルスの挙動で勝手に他者のネット回線接続時に画像や動画をアップロードする仕組みが作られたとしたらもう収拾つかんよ

    >>143
  • 141二次元好きの匿名さん23/12/05(火) 01:09:01

    >>134

    どちらにしても最悪なんだよなぁ

    というか両方起こるだろうね

    実際には無かったことをでっち上げるのも実際にあった事を捏ち上げだとするのも

  • 142二次元好きの匿名さん23/12/05(火) 01:09:38

    まだ序の口なんだよなあ

  • 143二次元好きの匿名さん23/12/05(火) 01:10:14

    >>140

    それはAI関係なくないか？

  • 144二次元好きの匿名さん23/12/05(火) 01:10:55

    技術革新が起こった過渡期にまた今回も入った
    どうなるかって所なのよね

  • 145二次元好きの匿名さん23/12/05(火) 01:11:07

    なおtogetterではAIに疑念抱いたらぶっ叩き絵師はAI理解する知能がないというコメントが真っ赤になる模様

    >>147>>152>>168>>171
  • 146二次元好きの匿名さん23/12/05(火) 01:11:47

    悪質なコラ画像も「AIが生成したんですぅ」って言えば合法らしいからな
    AIを擁護したがるわけだ

    >>151
  • 147二次元好きの匿名さん23/12/05(火) 01:12:28

    >>145

    イラストAIの是非とAI濫用による情報汚染は別問題だろ

    同じAIの発展が根にあるとはいえ

  • 148二次元好きの匿名さん23/12/05(火) 01:12:40

    >>139

    つい先日も話題になったぞ

    まさしくここに出てる問題が全部画像検索にも当てはまるんだよな


    リアルな生成ＡＩ性的画像が氾濫、実在の被害児童と区別困難…削除要請や捜査にも支障【読売新聞】　画像生成ＡＩで作られたとみられる児童の性的画像が国内サイトに大量に投稿されている問題で、被害者が実在する児童ポルノ対策への支障が出始めている。ＡＩによる児童の性的画像は児童買春・児童ポルノ禁止法の原則対象外。ネット上でwww.yomiuri.co.jp
    >>153>>154>>162
  • 149二次元好きの匿名さん23/12/05(火) 01:13:00

    責任をうやむやにしたうえで突っ走れる奴らが勝つよ

  • 150二次元好きの匿名さん23/12/05(火) 01:13:24

    写真なら信頼できるって常識がなくなったらSNSや怪しい週刊誌の写真を全部偽だと思って対応するように変わると思うけどね
    より問題なのは偽者を信じてしまうことより本物がゴミになることじゃないか？今までは「写真は捏造しにくい」っていう常識があったから証拠になってたけどそれが使えなくなるから写真がない時代の捜査に戻ってしまう

  • 151二次元好きの匿名さん23/12/05(火) 01:13:41

    >>146

    で、それを生成、拡散したのはAIではなくその利用者ですよね？というツッコミが通せるからそこは問題ないはず

    >>157
  • 152二次元好きの匿名さん23/12/05(火) 01:14:03

    >>145

    なんだやっぱり棘で負けた奴が紛れ込んでたか

    変な流れだと思ったわ

    >>155>>158>>159>>161
  • 153二次元好きの匿名さん23/12/05(火) 01:14:28

    >>148

    それとは話が別では？

    去年にpixivが異様に騒がれてた件でしょ？

  • 154二次元好きの匿名さん23/12/05(火) 01:14:43

    >>148

    これはもう実際の被害児童の写真だったとしても、AIが作ったとするしかないんじゃないの

    もはや対策は不可能でしょ

  • 155二次元好きの匿名さん23/12/05(火) 01:14:55

    >>152

    棘でしかイキれないゴミがいるようで

  • 156二次元好きの匿名さん23/12/05(火) 01:14:56

    まずはアメリカの大統領選だよな。不正云々で絶対悲惨なことになる
    前回だってあんなことになったんだから次はもっと酷いことになるでしょ

  • 157二次元好きの匿名さん23/12/05(火) 01:14:56

    >>151

    結局、悪用する人間をどうするかって話で

    何か車が世に出た時もこんな感じだったんだろうな

  • 158二次元好きの匿名さん23/12/05(火) 01:16:05

    >>152

    棘に批判くるとすぐそれいうならコイツ

  • 159二次元好きの匿名さん23/12/05(火) 01:16:55

    >>152

    あれがまともに見えるなら異常だよ……

  • 160二次元好きの匿名さん23/12/05(火) 01:17:03

    正確な一次ソースをたくさん確保できるところが強くなるだけだろうね
    今までネットで手に入るソース不明の情報を鵜呑みにしてた方が
    よほど馬鹿馬鹿しい

  • 161二次元好きの匿名さん23/12/05(火) 01:17:17

    >>152

    レッテル貼りやめたら？

  • 162二次元好きの匿名さん23/12/05(火) 01:17:41

    >>148

    これはもう分からないくらいリアルな画像を作ったやつも一緒くた逮捕する法律にするしかないか？でも線引きが難しいから荒れそうだ

    >>167
  • 163二次元好きの匿名さん23/12/05(火) 01:17:58

    おれはもうこんな世の中付き合いきれん
    みんな頑張って乗り越えてくれ

  • 164二次元好きの匿名さん23/12/05(火) 01:18:14

    弱小編集者がAI画像使って記事を書いたのがバレて出版社ごと潰れる展開を楽しみにしてる

  • 165二次元好きの匿名さん23/12/05(火) 01:18:22

    石器時代に戻るかい

  • 166二次元好きの匿名さん23/12/05(火) 01:19:30

    日本の自虐史観と制限の多さはAIに組み込まれて莫大な呪いに変わるわ

  • 167二次元好きの匿名さん23/12/05(火) 01:20:03

    >>162

    AIだと思ったら実は完全自作だった、となったら表現の自由の侵害で国内外からボロクソに叩かれるよ

    相当難しい問題

  • 168二次元好きの匿名さん23/12/05(火) 01:20:44

    >>145

    あそこに限らんけどネットに入り浸ってるようなのは基本的に技術推進派だから…

    とはいえ諸々の問題点は見ずにとにかく推進ってやってるのは稀だが

  • 169二次元好きの匿名さん23/12/05(火) 01:21:12

    10年世界中で議論し合ってようやく落としどころを見つけるような出来事が毎月のように起こりやがる

  • 170二次元好きの匿名さん23/12/05(火) 01:21:14

    この状況って人類がこれまで蓄積してきた知識全体の継承に対する妨害行為みたいなもんじゃないのか？

  • 171二次元好きの匿名さん23/12/05(火) 01:21:23

    >>145

    たまたま話題を出したのがイラストレーターなだけでオウム返しに

    「お前も無断学習してる、AIも一緒」「嫌なら見るな」を繰り返してるけど、根本的に別問題なんだよな

    安価で爆速にフェイク画像が生まれてるのが問題で、検索のトップに「いかがでしたか？系まとめ」が氾濫してる状態に近い

  • 172二次元好きの匿名さん23/12/05(火) 01:21:48

    このレスは削除されています

  • 173二次元好きの匿名さん23/12/05(火) 01:22:27

    これ逆だよ
    一部だけが有利な偽情報流せたAI以前のほうがよっぽどヤバい

    今は変な情報は偽って常識が伝わる過渡期だからもうちょっと待てばいいだけ

    >>176
  • 174二次元好きの匿名さん23/12/05(火) 01:23:02

    落ちてくる巨大隕石を眺めてるようなもんだ
    どうして平然としていられる

  • 175二次元好きの匿名さん23/12/05(火) 01:25:09

    えっ適当に棘で暴れ散らかしてる反ＡＩの名前書いたら削除されたんだけど

    マジで棘でボコボコにされた反ＡＩが
    苦し紛れにあにまんで反ＡＩスレ立てまくってる・・・ってコト！？
    あにまんで！？？？？？

    >>178>>180
  • 176二次元好きの匿名さん23/12/05(火) 01:26:09

    >>173

    今まで巧みな偽情報でうまい飯食ってた連中の価値が希釈された、っていうことか……この問題の数少ない明るい面だな

    喜ぶべきことかはわからん

    >>181
  • 177二次元好きの匿名さん23/12/05(火) 01:26:22

    放置しようが管理しようが破滅かディストピア一直線なんだわ

  • 178二次元好きの匿名さん23/12/05(火) 01:27:09

    >>175

    真面目な議論にタダ乗りして自分の崇高なる闘争に利用しようとしてるからじゃないっすかねえ？

  • 179二次元好きの匿名さん23/12/05(火) 01:27:27

    日陰者は死ぬしかないんだよ

  • 180二次元好きの匿名さん23/12/05(火) 01:27:39

    >>175

    叩き目的で個人名出してる時点で反AI以前にお前が異常なだけなんだわ

  • 181二次元好きの匿名さん23/12/05(火) 01:28:41

    >>176

    変な例えだけど写真や動画編集が流行ったら心霊モノが一気に廃れたのと同じ現象だな

    作り方わかっちゃったから

  • 182二次元好きの匿名さん23/12/05(火) 01:29:05

    はぁ～～～（クソデカ溜息）
    togetter住人に論破される程度の知識力で、反ＡＩやってるＡＩ異常嫌悪者は
    あにまんに来ないで欲しいんですけど・・・真面目にＡＩ規制案支持してる人が馬鹿みたいじゃん

  • 183二次元好きの匿名さん23/12/05(火) 01:29:50

    生成AIは確かに夢の技術だけど生成AIは人類にはまだ早すぎる
    法もリテラシーも対策技術も何もかも足りてない

    >>200
  • 184二次元好きの匿名さん23/12/05(火) 01:30:30

    あとはもう妖精さんにお任せして衰退しようぜ

  • 185二次元好きの匿名さん23/12/05(火) 01:31:14

    togetterの名前出すのが都合悪い奴がいますね

  • 186二次元好きの匿名さん23/12/05(火) 01:31:45

    AIの発展が昔映画なんかで憧れたSF作品世界の飛躍につながるんかなぁとか思ってたけど
    こういった問題を見るとAI技術の発展って一周回ってアナログ文化へ人間社会を逆行させるのかもしれないなって感じた
    写真の捏造がさらにひどくなればAIが普及していなかった20XX年までに発行された写真集（動物や植物系）なんかの信ぴょう性が上がり、今後発行される写真集や書籍は過去に発行された信頼性のある書籍との比較を余儀なくされたりとか
    新しく発表される情報は国や国連なんかの厳しい審査を受け、かつネットでの加工が不可能なようアナログ媒体での交流が活発になるとか
    とにもかくにもAIの発展に人類に適応が追い付ける気がしないのよね

  • 187二次元好きの匿名さん23/12/05(火) 01:31:49

    このレスは削除されています

    >>189>>190>>192>>196>>199
  • 188二次元好きの匿名さん23/12/05(火) 01:32:22

    なんか今のAI問題ってコンバインに対して手植えで何とか対抗しようとする米農家に近しいものを感じる

  • 189二次元好きの匿名さん23/12/05(火) 01:33:22

    >>187

    お前だけ話題からずれてんだよ

  • 190二次元好きの匿名さん23/12/05(火) 01:33:37

    >>187

    精神病院にでもいったら？

  • 191二次元好きの匿名さん23/12/05(火) 01:33:45

    新しく作るものにもう大した価値も無くなって
    過去の権益を使いまわすだけで残りの文化は惰性で続いていき
    そのうち圧倒的な技術の差に押し流されて終わりだ

  • 192二次元好きの匿名さん23/12/05(火) 01:34:00

    >>187

    こういうゴミがAI技術盲信してんだよな

  • 193二次元好きの匿名さん23/12/05(火) 01:34:02

    表紙だけコミッションで中は全部AIイラストの同人誌とかもう出てそうだな

  • 194二次元好きの匿名さん23/12/05(火) 01:34:34

    著名人の著書なら信じられる……と思ったら
    トリリオンゲームのあれみたいに「架空の著名人」が作り出されるかもしれないよね

  • 195二次元好きの匿名さん23/12/05(火) 01:34:37

    >>48

    わかりました資料費は値段に還元します

  • 196二次元好きの匿名さん23/12/05(火) 01:34:45

    >>187

    お前以外toge擁護してる奴いないんだよ異常者

  • 197二次元好きの匿名さん23/12/05(火) 01:34:49

    このレスは削除されています

  • 198二次元好きの匿名さん23/12/05(火) 01:34:56

    最後だし自我出すわ
    消したレスはアカウント名があったからそれはマズいだろって消しただけよ
    因みにスレ主が調べてたのは赤いオーロラについてで、二つほど生成AIが作ったらしい画像があって草生えたからだよ
    それでスレ立てしたのは、あれ今までの画像にも生成AI製があったのかって全部遡る羽目になったのが腹立ったからだよ
    後、一番これマズいだろって思ったのはその生成された画像を普通に見失ってもはや全部わから～んってなった事だよ

  • 199二次元好きの匿名さん23/12/05(火) 01:35:06

    >>187

    togetterの巣に帰れ

  • 200二次元好きの匿名さん23/12/05(火) 01:35:19

    >>183

    正確にはそれも違う

    生成AI(学習内容を自分で蓄積してどんどん新しい表現を生み出す表現特化機械生命体)なら確かに夢だけどそんなもんは今の世にない

オススメ

このスレッドは過去ログ倉庫に格納されています