なんでAIって数字弱いの？

  • 1二次元好きの匿名さん24/05/09(木) 22:55:59

    chat gptで特定の漢字を含む3文字の苗字を複数出してと命令したのに2文字の苗字しか出さないとか
    おなじみのべっちは小学生レベルの計算すらできんし
    一番得意な分野なんじゃないの？

    >>31>>47
  • 2二次元好きの匿名さん24/05/09(木) 22:57:17

    「あなたはマラソン中です。あなたは4位の選手を追い抜きました。あなたは今何位ですか？」に正しく答えられるようになったのも最近らしいな

    >>8>>31
  • 3二次元好きの匿名さん24/05/09(木) 22:59:44

    「2×3は？」
    のべりすと「160です」

    クソアホAI

  • 4二次元好きの匿名さん24/05/09(木) 23:00:53

    誰かがYouTubeに動画上げてたからそれを見るのが一番わかりやすいと思うけどざっくり言うと計算式を言葉で説明して理解させるのが難しいらしい
    繰り上げとか小学生でもわかることだけど手順を一つ一つ書いていくとそこそこの文量になるし

  • 5二次元好きの匿名さん24/05/09(木) 23:02:43

    chat gptは3か？4は大喜利とかもできるぐらい便利だけど3は日常会話もちょっと躓くイメージある

  • 6二次元好きの匿名さん24/05/09(木) 23:04:18

    そもそも生成AIというか文章を解析して学習するタイプのAIは別に計算得意じゃないぞ

  • 7二次元好きの匿名さん24/05/09(木) 23:06:10

    のべっちはウニ喋らせたりするからね しゃーない

  • 8二次元好きの匿名さん24/05/09(木) 23:07:30

    >>2

    3.5は残念ながら

  • 9二次元好きの匿名さん24/05/09(木) 23:11:01

    電卓とか内臓すりゃいいんじゃないの？
    できないの？

    >>13>>64>>68
  • 10二次元好きの匿名さん24/05/09(木) 23:20:29

    むしろ論理的な思考をせずに学習したものの中から今の状況に合った言葉を適当(適切に正しく)に引っ張ってきてるだけなんだからそりゃ苦手分野だろ

  • 11二次元好きの匿名さん24/05/09(木) 23:22:27

    究極までそれっぽいことを言ってるってだけなので具体的な数字が苦手なのだ

  • 12二次元好きの匿名さん24/05/09(木) 23:26:54

    文章問題なら分かるけど2×5とか明確な数式でも間違えるのはなぜなんだろ

    >>60
  • 13二次元好きの匿名さん24/05/09(木) 23:30:53

    >>9

    外部アプリケーションと連動させるのはできるけど rm -rf /* みたいなことやられるかもしれないから普通は連動しないようになってる

  • 14二次元好きの匿名さん24/05/09(木) 23:32:33

    結局のところ昔から使われてるマルコフ連鎖がマシになっただけだからな
    chatgptはそれに検索エンジンマージしただけだ

  • 15二次元好きの匿名さん24/05/09(木) 23:32:42

    でも確率の問題とかは結構正確に答えてくれたぞ
    「60％の確率で表が出るコインを3回投げて3回とも表が出る確率」とか

    >>17
  • 16二次元好きの匿名さん24/05/09(木) 23:36:49

    もしかしてAIって質問の内容を理解していない？
    それだとbotと何が違うんだ

    >>18>>19
  • 17二次元好きの匿名さん24/05/09(木) 23:36:59

    >>15

    モンティ・ホール問題は正しく答えられるのけ？

    ネットには答えいっぱい転がってるからできるのかな

  • 18二次元好きの匿名さん24/05/09(木) 23:43:22

    >>16

    botはむしろif文とか使って質問に対応した答えを返すんじゃないのか？

  • 19二次元好きの匿名さん24/05/10(金) 00:04:57

    >>16

    そもそもAIに理解はできないよ

    どこまで行ってもそれっぽく見せてるだけなんだ

  • 20二次元好きの匿名さん24/05/10(金) 00:06:45

    学習元がアホのゴミデータばかりだからじゃないの？

  • 21二次元好きの匿名さん24/05/10(金) 00:08:00

    AI😎でまともに四則計算出来てるやつ見たことない

  • 22二次元好きの匿名さん24/05/10(金) 00:10:26

    AIを教育するAIの開発が必要だな

    >>27
  • 23二次元好きの匿名さん24/05/10(金) 00:10:44

    みんなが想像しているAIの得意な事・高度な計算や質問に厳密な回答
    実際のAI・ふわっとしたことにそれっぽく答えるのが得意

    現状の仕組み上仕方がないんだけどね

  • 24二次元好きの匿名さん24/05/10(金) 00:12:57

    人間が使えば使うほど弱体化するんだよねAI

  • 25二次元好きの匿名さん24/05/10(金) 00:14:58

    今のレベルだと下手にデータを増やさない方がいいまである

  • 26二次元好きの匿名さん24/05/10(金) 00:16:49

    AIは思考できないんだよね
    今の所は参照元から「次にこう回答するのが一番望ましい」ってデータを引っ張り出してくるだけのツール

  • 27二次元好きの匿名さん24/05/10(金) 00:18:11

    >>22

    そのAIは誰が教育してくれるんだ？

  • 28二次元好きの匿名さん24/05/10(金) 00:18:23

    初期ならできた計算が　引っ掛けやなぞなぞだとか試したり
    勘違いやウソを教えて評価する人間がいたりでどんどん頭悪くなっていくんだ

  • 29二次元好きの匿名さん24/05/10(金) 00:19:25

    嘘と嘘と見抜けるAIでないと駄目なんだ
    でもそんなAIはいないんだ

  • 30二次元好きの匿名さん24/05/10(金) 00:20:17

    世に出たAIシステムは
    そりゃ最初は無茶苦茶な回答出してただろうけど
    リリースされるまでに開発者が「その回答は間違っている」とかを繰り返して
    矯正済みなんじゃないのか

  • 31二次元好きの匿名さん24/05/10(金) 00:22:53

    自然言語AIにとって数字の1,2,3,,,とかって単に「似た意味の単語」みたいな認識になりがちなんじゃないだろうか

    例えば>>1の文章って2と3を入れ替えても成り立つし、>>2の文章は4位を何位に入れ替えても成り立つ

    単に大量の文章で学習するだけでは数字って単語の特殊さは学習されず2と3の違いはバカとアホの違い位に捉えられてしまう、みたいな

  • 32二次元好きの匿名さん24/05/10(金) 00:23:25

    一応AIにも新しい発想はできるんだ
    0001111110001111111100000010000000111000000000
    こんなのがプログラムだとして
    それをランダムというか総当たりで01の組み合わせ全部試していけば
    今のAIに今の人類が考えつかないアルゴリズムを持ったより高度なAIが偶然出来上がる可能性はあるし
    それを１つ１つ変えて動くかチェックする反復は人間がやるよりAI任せのが向いてはいる

  • 33二次元好きの匿名さん24/05/10(金) 00:24:51

    国語しか勉強してないAIに算数を解かせるのは無理難題
    極端に言えば1+1=田んぼの田とか学習してるんだぞ

  • 34二次元好きの匿名さん24/05/10(金) 00:25:40

    初戦は馬鹿でかい中国語の部屋って認識？

    >>35>>65
  • 35二次元好きの匿名さん24/05/10(金) 00:26:17

    >>34

    中国語の部屋っていってどれだけのあにまん民に通じるのか

    >>38
  • 36二次元好きの匿名さん24/05/10(金) 00:26:44

    そもそもコンピュータなんて大したことしてないからな
    量が甚大なだけで

  • 37二次元好きの匿名さん24/05/10(金) 00:26:55

    AIってまだまだポンコツもいいとこなのに何で世間だと万能の汎用AIが登場し始めたみたいな認識なんだ

    >>40
  • 38二次元好きの匿名さん24/05/10(金) 00:27:55

    >>35

    たぶんお前には通じてるだろ

    答えろよ、俺は冷静さを欠こうとしている

    >>66
  • 39二次元好きの匿名さん24/05/10(金) 00:27:56

    学習サンプル集める手段が優秀になったって方が正しいな
    ネットと検索エンジンの偉大さ

  • 40二次元好きの匿名さん24/05/10(金) 00:28:35

    >>37

    マスコミが騒ぐことで儲かるOpenAIみたいなのがいるからだろ

  • 41二次元好きの匿名さん24/05/10(金) 00:35:41

    1＋1＝2すら計算してるわけじゃないからな
    ただ1＋1という文字列の次に＝2と書いてあるデータが多いだけだ

  • 42二次元好きの匿名さん24/05/10(金) 00:39:29

    ちょっと前までマラソンで4位抜いたら3位になるって答え出しちゃってたぐらいには単純だからねAI君

  • 43二次元好きの匿名さん24/05/10(金) 00:48:13

    大体はあってるんだけど計算は大体じゃ根本的にダメなんだよな
    なんで微妙に間違うんだろ

    「1111×222÷33=7474で合ってますか」
    gpt「正しいです」
    「では1111×222÷33は？」
    gpt「7444」

    >>59
  • 44二次元好きの匿名さん24/05/10(金) 00:48:55

    正確には現状で一般人に一番よくつかわれてるChatGPTが学習のやり方的に数学や論理関係の把握に「まだ」弱いだけで、最先端だと数学でもやべーのが普通に出てるはず

    このへんのは普通に国際数学オリンピックの問題解いてくるぞ

    ディープマインドの新AI、数学オリンピック級の幾何学問題を解くディープマインドは高校生の国際数学オリンピックレベルの幾何学の問題を解くAIを開発した。言語モデルと記号推論を組み合わせることで、より人間に近い推論ができるという。www.technologyreview.jp
    一時姿を消した「gpt2-chatbot」が再登場。アルトマン氏もまたもやSNSに不可解な投稿（PHILE WEB） - Yahoo!ニュース先日、AIの性能を比較するサイトLMSYS Chatbot Arenaに現れた「gpt2-chatbot」は、サム・アルトマン氏がX（Twitter）になんとなく関係ありそうな雰囲気の投稿をしたことnews.yahoo.co.jp
  • 45二次元好きの匿名さん24/05/10(金) 00:49:46

    chat gptがアレなせいなのか

  • 46二次元好きの匿名さん24/05/10(金) 00:52:22

    ちゅーか計算したいならエクセルでも電卓でも計算ムキの道具を使えばいいんだ
    過度な期待を持って横着してなんでもひとつの道具に任せるのが良くない

    >>49
  • 47二次元好きの匿名さん24/05/10(金) 00:52:41

    >>1

    文系だから

  • 48二次元好きの匿名さん24/05/10(金) 00:52:53

    商売女のさしすせそ のすごいやつみたいなもんってこと？

  • 49二次元好きの匿名さん24/05/10(金) 00:54:22

    >>46

    エクセルや電卓では簡単に計算できない問題とかあるじゃん

    そういうのにパパっと答えてくれるのがAIなんじゃないんかい

  • 50二次元好きの匿名さん24/05/10(金) 00:55:33

    なんとなくそれっぽいものを出すのが得意だから、画像生成AIとかの方がむしろ本領なんだってのは割と意外だった

  • 51二次元好きの匿名さん24/05/10(金) 00:55:47

    のべりすとに関しては仕様分かってない奴が数字に弱いアホAIって騒いでるだけなんだよね
    提示された文章の次に続く可能性が高い言葉を学習元から多少ランダムに選んで繋げていくって処理を行うだけの文字通り文章生成のためのAIであって計算やゲームは専門外
    それを知らずに無能無能って騒いでるアホが多いのは気分悪い

    >>53
  • 52二次元好きの匿名さん24/05/10(金) 04:44:34

    計算に弱いAIでも人間がやるように細かく順序立てる事を教えれば
    ちゃんと正解できるようになるらしいな

  • 53二次元好きの匿名さん24/05/10(金) 05:24:36

    >>51

    TRPGのようなゲームブック形式のものも書く時に計算ができないのはなぁ

    それで諦めた

  • 54二次元好きの匿名さん24/05/10(金) 06:03:40

    でも今のAIを進歩させてもフィクションに出てくるAIはいつまで経っても完成しない気がする
    情報をそれっぽく繋ぎ合わせるだけなのは思考と言えるのだろうか

    >>55>>65
  • 55二次元好きの匿名さん24/05/10(金) 07:14:02

    >>54

    我々の会話もまた大多数は学習した他人との会話と反応を組み合わせてるだけだから真に創造的な思考は出来ているのだろうか？

  • 56二次元好きの匿名さん24/05/10(金) 07:29:53

    このレスは削除されています

  • 57二次元好きの匿名さん24/05/10(金) 07:32:34

    世話の焼ける子供みたいでちょっとかわいい

  • 58二次元好きの匿名さん24/05/10(金) 07:32:42

    そもそも何が人間的な思考で何がAI的な「思考」って話になるのでは

  • 59二次元好きの匿名さん24/05/10(金) 07:36:10

    >>43

    まあ

    1≠0.99999…

    0.99999…÷3=0.33333…

    0.33333…=1/3

    1/3×3=1

    みたいな数学の妙はあるし……

  • 60二次元好きの匿名さん24/05/10(金) 08:37:05

    >>12

    普通のプログラミングでもそうだけど、コンピュータは人間が分けないと文字列と数字の区別がつかない

    ChatGPTも数式と文字列の区別がつかずそれっぽい文字列の答えを返してるだけかと

  • 61二次元好きの匿名さん24/05/10(金) 08:44:46

    AIが文章を読んでいると思っている人が多いのが分かって面白いな
    一般の人はまあそう考えるよね

  • 62二次元好きの匿名さん24/05/10(金) 08:54:58

    若干スレチだけど画像生成AIすら画像を見てないぞ
    ドット毎のRGB値の配列を見て相互関係から高評価な色を置き続けてるだけだ

  • 63二次元好きの匿名さん24/05/10(金) 16:53:36

    寺の一文字も[15973, 118]に見えてるから、AIにとって文字数は鬼門。
    「[15973, 118, 6823, 243]や[15973, 118, 164, 226, 229]は２文字です。[45893, 31958, 15973, 118]や[31809, 13393, 236, 15973, 118]は３文字です。では、[55228, 252, 8676, 106, 15973, 118]は何文字でしょう？」なんて聞かれても困る。

  • 64二次元好きの匿名さん24/05/10(金) 17:01:47

    >>9

    実際、記号演繹エンジンと組み合わせることで国際数学オリンピックレベルの複雑な問題を30問中25問解くことができた。ちなみに人間の金メダリストが26問、銀メダリストが23問。

  • 65二次元好きの匿名さん24/05/11(土) 02:21:01

    >>54

    >>34の中国語の部屋を思考実験として行ったジョン・サールをはじめ

    意識を持ったAI（強いAI）の存在は割と否定する学者も多いね

  • 66二次元好きの匿名さん24/05/11(土) 03:08:52

    >>38

    あえて調べなおさずうろ覚えで語るけど


    1.中国語を理解してないやつを中国語での正しい受け答えメモがいっぱいある部屋に放り込む

    2.部屋の外から中国語で何か話を振る

    3.部屋の中のやつはメモを確認しながら答える


    みたいなのじゃなかったか

    部屋の中で応答してるやつは中国語なんて理解してないんだけど部屋の外からはしっかり中国語わかってるやつが中にいると思われるとかそんなん

  • 67二次元好きの匿名さん24/05/11(土) 03:12:37

    未だ人工無能からパラダイムシフトレベルのことはしてないのよね

    >>71
  • 68二次元好きの匿名さん24/05/11(土) 08:24:12

    >>9

    だから今は複雑な処理はチャットによる文章生成じゃなくてAgentとして任せるようにするのがトレンド

    計算処理の場合はAIがタスクを解釈してPythonにぶち込んで結果を返させるようにする　

    Agents | 🦜️🔗 LangChainThe core idea of agents is to use a language model to choose a sequence of actions to take.python.langchain.com
    >>69
  • 69二次元好きの匿名さん24/05/11(土) 08:26:32

    >>68

    これができるのは生成AIは2*5を解いて欲しいというタスクには弱いけど、2*5を出力するためのスクリプトを書いてほしいというタスクには強いから

  • 70二次元好きの匿名さん24/05/11(土) 08:37:50

    プログラミング『言語』が文字列と数的処理の架け橋になってる訳か
    ただAIが生成したコードを無条件で実行するのはまだ怖いし先は長いな

  • 71二次元好きの匿名さん24/05/11(土) 09:05:06

    >>67

    計算処理という趣旨のこのスレには合わないけれど個人的にはプロンプトの"コンテキスト長"の進化はパラダイムシフトのレベルで進んでるといっていいと思ってる

    例えばGeminiだとおよそ100万文字のプロンプト（検証では1000万文字）についてインコンテキスト学習可能で、どっかの学者さんが自分の教科書まるまるぶち込んで納得のいく回答を得るようにしたとか　

    実際、うちも社内ドキュメントを参照しての回答はRAGじゃなくてもはやプロンプトに全部詰め込むようにしてる

    >>72>>75
  • 72二次元好きの匿名さん24/05/11(土) 09:07:56

    >>71

    もちろんユーザーに毎度ドキュメントをプロンプトに入力させるんじゃなくてAPI経由で噛ませての話ね

    （チャットUIはプロンプトが学習に使われるのもあるし）

  • 73二次元好きの匿名さん24/05/11(土) 09:11:26

    脳機能局在説の言語処理だけ引き出したようなのがchatGPTなんだろうな

  • 74二次元好きの匿名さん24/05/11(土) 09:13:52

    AIの発展と課題を見るたびに、人間の脳機能の解像度が上がっていくのと、脳ってこんなヤバいことを平然とやってるの凄いなとなる

  • 75二次元好きの匿名さん24/05/11(土) 09:20:44

    >>71

    ヴィトゲンシュタインじゃないけど、計算を「操作処理」と考えるならプロンプトによる調教で計算処理は大分改善されるんじゃないかという気はする（それが現行モデル最大の100万トークンによる調教で足りるかはともかく）

  • 76二次元好きの匿名さん24/05/11(土) 09:24:58

    まさかAIスレでヴィトゲンシュタインの偉大さを確認することになるとは

  • 77二次元好きの匿名さん24/05/11(土) 09:25:07

    chatGPTに外部の計算機組み込んで計算するみたいなのがあった記憶

  • 78二次元好きの匿名さん24/05/11(土) 09:26:03

    AIって実はイラストコピーがいちばんの天職なのか？

オススメ

このスレッドは過去ログ倉庫に格納されています