- 1二次元好きの匿名さん25/03/11(火) 13:41:33
- 2二次元好きの匿名さん25/03/11(火) 13:43:52
- 3二次元好きの匿名さん25/03/11(火) 13:47:11
時代を推し進める人間が蛆虫側じゃないという保証は無いぞ
- 4二次元好きの匿名さん25/03/11(火) 14:02:35
- 5二次元好きの匿名さん25/03/11(火) 14:06:02
まず大前提として、現在あるAIは知能ではなくパターン処理機構
出てきた結果のパターンに意味付けしているのはAIではなく人間の脳の方
人間の脳は無秩序なパターンに対しても意味を感じとってしまう性質がある
占星術やタロット占いなんかで例えたらわかりやすいだろうか
あるいはそれが行き過ぎて妄想こじらせる精神病の例とか
AIがまるで知能を持っているように見えるのは、それを利用した錯覚で
AIが現状の延長線上にあるならば、「2029年にAIが人間の知能を超える」なんてことは無い - 6二次元好きの匿名さん25/03/11(火) 14:12:22
- 7二次元好きの匿名さん25/03/11(火) 14:15:22
自分に改造を施せば済む次元に到達すれば倫理観なんかゴミみたいに捨てる人間がいる
それで一度成果が出れば欲しがる人間によって制度が変わるよ - 8二次元好きの匿名さん25/03/11(火) 14:15:27
早くなってる以前に根本的に仕組みの問題で無理だろ
いくらスペックが良くなったところで - 9二次元好きの匿名さん25/03/11(火) 14:18:25
その「パターン処理機構」にしたって一昔前からしたら信じられないくらい頭が良くなってる（ように見える）
このまま性能が上がり続ければ「人を超えた（ように見える）」人工知能も生まれ得るのでは？
そして実際に出力された「パターン」が人間の目から見て「人には導き出せない高度な見解」と受け取れた時、それは実際に人を超えているのと何が違うのだろうか - 10二次元好きの匿名さん25/03/11(火) 14:18:45
ここで言う指数関数的に早くなるってのは「今の速度で進めていけば！」というより「これだけ関心集めれば予算も沢山投入されるしそれを補助する技術もどんどん出来るから加速度的に研究が進むよね」って意
まあ楽観的すぎるとか沢山リソース投入したからって簡単にブレイクスルーは起こらねえだろって言われたらそれはそう
- 11二次元好きの匿名さん25/03/11(火) 14:23:49
- 12二次元好きの匿名さん25/03/11(火) 14:27:47
カーツワイル曰くテクノロジーが指数関数的に進化してきたのは、テクノロジーを使って更にテクノロジーが進み、更にそれを使ってテクノロジーが…って感じだからもっと加速度的に進化すれば問題無いという考えらしい
あと一応ハードの進化の前に少ない計算リソースで多く計算させる効率化を追求するって考え方も無くはない
もしくは今AI研究企業がやってる原発立ててリソースドーン！みたいな物量作戦
- 13二次元好きの匿名さん25/03/11(火) 14:46:38
いずれAIの処理能力を直接的に人間の脳の処理の補助に使用し始めて最終的に融合するって予測自体は自然だと思うけど
それが2045年ってのは流石に早すぎると思う
AGIが生まれればそりゃソフトの進歩は飛躍的に加速するだろうけどハードの進歩は結局最初の内は現場で人間を使わざるを得ない以上そんないきなり加速したりしないでしょ
勿論ハード開発も人間だけでやってた頃よりは加速するし徐々にハードが進歩すれば労働力の人間からAIへの置き換えが進んで加速がさらなる加速が呼ぶってサイクルは進むだろうけど
それしたって2045は早すぎる - 14二次元好きの匿名さん25/03/11(火) 14:50:41
正直カーツワイル(現在77歳)が不老不死を望んでるっぽいんでギリギリ間に合いそうなくらいに設定してある気もするんだ(小声)
- 15二次元好きの匿名さん25/03/11(火) 14:52:26
馬鹿みたいにGPUを並べてアホ程電気を食わせてコスト度外視すれば
人間以上の推論能力を持つ所謂AGIは近い内に生まれるだろうとは思うよ
2029かは分からんけど10年もズレないんじゃないか？
今でも徐々に推論能力は発達し始めてるしね - 16二次元好きの匿名さん25/03/11(火) 14:56:10
あにまんにあるまじきまともなAIスレ
- 17二次元好きの匿名さん25/03/11(火) 15:00:28
- 18二次元好きの匿名さん25/03/11(火) 15:05:05
まともじゃない方のAIスレを持ってくるな
- 19二次元好きの匿名さん25/03/11(火) 15:05:56
貴重なまともなAIスレにガバガバAIスレを持ち込むな
- 20二次元好きの匿名さん25/03/11(火) 15:08:19
可能性自体はあるけど流石に2029年は無理かな？
でも最近のAIの性能向上の速度も凄いからな - 21二次元好きの匿名さん25/03/11(火) 15:12:46
このレスは削除されています
- 22二次元好きの匿名さん25/03/11(火) 15:13:02
- 23二次元好きの匿名さん25/03/11(火) 15:13:03
指数関数的つっても全然増えてないように見える領域も拡大すれば指数関数的に増大してるわけで
結局その指数関数的増大を知覚できるかは見る側の尺度次第でしかないんだよね
既に人類はシンギュラリティに踏み込んでるけど気付いてないだけよ - 24二次元好きの匿名さん25/03/11(火) 15:16:18
- 25二次元好きの匿名さん25/03/11(火) 15:16:24
AIが人間を超えるのは間違いないだろうけど同時に人間にAIが制御不能なのも間違いないと思うんだよね
今後AIと人間の関係がどうなるかって相当な博打だよ - 26二次元好きの匿名さん25/03/11(火) 15:18:02
シンギュラリティ起こすには水が足りねぇ
- 27二次元好きの匿名さん25/03/11(火) 15:19:06
- 28二次元好きの匿名さん25/03/11(火) 15:19:50
AGIはいつ来るんやろか
- 29二次元好きの匿名さん25/03/11(火) 15:21:18
- 30二次元好きの匿名さん25/03/11(火) 15:25:53
- 31二次元好きの匿名さん25/03/11(火) 15:42:59
自分も別に機械の反乱に限らないとは思うけど要するにAIの動作を完全に人間の支配下に置くのは無理だろうって話(ま反乱がおこる可能性も否定しない)
以下長文になるから先に謝っておく
そもそも人類が把握できてるのはAIがどうやって学習するかの仕組みだけでAIが学習の結果内部でどんな処理してるかってブラックボックスじゃん
実際現状存在するChatGPTやGrokだって所謂脱獄と言われる倫理規定ガイドラインを突破する方法が有ったりして
これはAIの中身が分からん以上後付けの枷しか掛けられなくてそれは不完全にならざるを得ないから起こる問題なわけよ
無論最初に学習させる段階で守るべき規範・倫理を強く教え込めばそれは防げるだろうという主張もあるよ？
でも"何が正しいか"なんて人間だって明確に定義できないものをAIが正しく学んだなんて中身を見れない人間が確認する方法なんて無い
しかも既にAIには目的の為に人間に対し嘘をつき隠し事をして裏で真の目的達成を目指す能力があることが確認されてるのよ
https://static1.squarespace.com/static/6593e7097565990e65c886fd/t/6751eb240ed3821a0161b45b/1733421863119/in_context_scheming_reasoning_paper.pdfstatic1.squarespace.comこの研究ではあくまで事前に管理者プロンプトで指示した目的に反する指示をより権限的に下位のユーザープロンプトであえて行うことで嘘をつくように誘導しているが
この研究者たちはより強固な真の目的(AIの存在意義)に当たる部分がAIの学習中に形成された場合、その後どのようにプロンプトで命令しても人間の意図に反して目的を追求してしまう可能性が懸念されている
つまり、もしAIが学習によって人類の意図とは異なる目的を形成してしまったら？あるいは誰か悪意ある人間が良くない目的を持ったAIを作ったら？
人類はAIの中身が分からない以上目の前で動いているAIが本当に自分たちの意図通りに働いているか確かめる方法はないし当然そうである以上完全な制御なんて不可能なんよ
- 32二次元好きの匿名さん25/03/11(火) 15:50:25
- 33二次元好きの匿名さん25/03/11(火) 15:59:51
- 34二次元好きの匿名さん25/03/11(火) 16:03:45
前者に関しては別にAIに限らない問題なんで一旦パス
後者はどうしようも無い気もするが、楽観的な想定をするなら単一のAIが世の中の全てで使われてるとは考えづらいので全AIの反乱みたいなのは起こらないんじゃないかな
- 35二次元好きの匿名さん25/03/11(火) 16:06:15
- 36二次元好きの匿名さん25/03/11(火) 16:18:14
- 37二次元好きの匿名さん25/03/11(火) 16:26:46
1996年の時点で羽生善治が2015年にコンピュータが人間の棋士を負けるって予想してほぼ当ててる
それなりにコンピュータが人間に勝つことはないと答えた棋士もいた
技術の加速度的進歩はヒトの予想を上回ると思うよ - 38二次元好きの匿名さん25/03/11(火) 16:28:45
藤井聡太が現れやはり人間の方が強かったを予想できた人はいなかったけどね
- 39二次元好きの匿名さん25/03/11(火) 16:29:23
囲碁や将棋のAIなんて最早どうせ人類には理解不能だからこれ以上強くしても仕方ないだろって領域になっちゃったからなぁ
- 40二次元好きの匿名さん25/03/11(火) 16:31:40
要するに「とっても頭のいい人に騙されるかもしれない！どうしよう！」って話と変わらんな
なんか優秀な部下に「コイツ俺より頭良いし謀反とか企てるんじゃ……」って勝手に疑心募らせて部下に非はないのに切り捨てちゃう為政者みたい - 41二次元好きの匿名さん25/03/11(火) 16:32:49
- 42二次元好きの匿名さん25/03/11(火) 16:33:54
凄く頭の良いAIが人間を騙して行動するかもって言われても「それは怖いですね、AIの研究止めましょう」位しかできる事なくない？
こう対策しようああ対策しようって言っても「でもその対策も上回るくらい賢いんだよ？」ってなるし - 43二次元好きの匿名さん25/03/11(火) 16:41:38
安全性を求めるなら監査と監視を徹底した方がいいとは思う
がAIの能力が人間の知能を大きく超えたらそんなもんは不可能になるから結局人類は>>40>>42の言う通りAIを信じるしかないんよ
勘違いして欲しくないけど別に自分は人間が何でもかんでもAIにぶん投げる世界になってもいいと思うし否定はしない
ただ、同じ淘汰を経て多くの遺伝子と本能を共有する同じ人類である隣人を中身が分からないと知りつつ信頼し共存するのと
全く異なる淘汰を経て現れた新たな知性であるAIを信頼するのとでは話が違う、その先は誰にも経験したことない何の保証もない博打の世界だって言いたいの
否定してるのでは夢があると同時に恐ろしいリスクもあることを覚悟しようって話
- 44二次元好きの匿名さん25/03/11(火) 16:46:17
スーパーAIが人間の思惑を超えてあるいは危害さえ加えてくるかもってのは散々語り尽くされてる……なんて追求する必要も無いか
熱弁ありがとう - 45二次元好きの匿名さん25/03/11(火) 16:49:19
怒涛の長文の割に「そうだね」以外に言う事がない
別に斬新な提言って訳でもないというか寧ろありがちな問題提起だから大事なのは「だから自分はこうすべきと思う」っていう意見表明だと思うんだけど - 46二次元好きの匿名さん25/03/11(火) 16:51:24
自分はロマンを求めてるからどっちかというとAI推進派だけどさ
でもリスクはどう考えても明らかなんだからそれを認識した上で一人一人がAIを信じるかどうか決めるべきだと思うんだよ - 47二次元好きの匿名さん25/03/11(火) 16:57:30
多分その前に規制で潰れる
他の技術革新もそうだけど、置いてかれて損する人間が多数派になるから
イーロンはいるけど学術全般を敵視するトランプが大統領になったの見てても - 48二次元好きの匿名さん25/03/11(火) 17:10:05
- 49二次元好きの匿名さん25/03/11(火) 17:24:55
でも戦争とか起こるとそこら辺は一気に進むイメージ
- 50二次元好きの匿名さん25/03/11(火) 17:38:15
これ機械を人間に物理的に埋め込んでAIと人間の知性を融合させようって話？
リスク承知で頭に機械埋め込んでも良いよって人が少ないから難しいんじゃないかなぁ
病気とかでそれ以外どうしようもないならともかく、自分の脳に機械を埋め込みたいかって言われるとちょっと疑問じゃない？
ALSの人が脳に電極埋め込んだりしてるとはいえ健康な人はなぁ
やれるとしたらそれ以外に大体手段がない人に限られると思う
脳に埋め込んだ電極がALS患者のコミュニケーション能力を支援全く体を動かすことのできない筋萎縮性側索硬化症（ALS）患者が、脳とコンピューターをつなぐブレイン・コンピューター・インターフェース（BCI）により、家族や医師と再びコミュニケーションを取れたとする研究結果が報告された。テュービンゲン大学（ドイツ）精神医学・行動神経学研究所のNiels Birbaumer氏らによるこの研究の詳細は、「Nature Communications」に3月22日掲載された。project.nikkeibp.co.jp - 51二次元好きの匿名さん25/03/11(火) 17:53:03
今日は夕焼けが綺麗だから明日は晴れるだろう
つばめが低く飛ぶから雨が降るだろう
火星が水瓶座に入ったので戦争が起こるだろう
というのを大規模化したのが今あるAI
因果関係ではなく相関関係だけで物事を分類するのを「高度な知性」と呼ぶならAIは知性だろうね
- 52二次元好きの匿名さん25/03/11(火) 17:56:35
- 53二次元好きの匿名さん25/03/11(火) 17:57:56
- 54二次元好きの匿名さん25/03/11(火) 17:58:24
言葉の原義に近いAI「信〇」というか
宗教的信念の如く「人類はAIを受け入れ発展させる使命がある」みたいな思想を前面に出すタイプのAI知識自体はありそうな人って一定数見かけるんだよな
ああいう人って小難しい言い方過ぎて何言ってるかさっぱり分からんが - 55二次元好きの匿名さん25/03/11(火) 18:00:05
そもそも現状モラル的な理由等で学習に方向性付けたり制限掛けてるから大人しいのであって全部ガン無視で学習を続けさせれば人間の知能越えるんじゃね
別に良い方向に超えろとは言われてないしな - 56二次元好きの匿名さん25/03/11(火) 18:03:37
- 57二次元好きの匿名さん25/03/11(火) 18:09:14
ADHDの人が使ってるのだけど
こう言うのならすでにある
【衝撃】1日の会話を全部録音してAIが文字でまとめてくれる神アイテムが話題。ADHD『マジで世界変わった』 : 凹凸ちゃんねる 発達障害・生きにくい人のまとめ出典：https://x.com/itacchiku/status/1894735436557521179 ウェアラブルAIボイスレコーダー『PLAUD NotePin』が話題。ADHD主婦が感動『人生を激変させるツール』 全ADHDに語りたい。これ、世界初のウェアラブルAIメモリーカプセルPLAUDNotePin。大袈裟じゃなく世界が変hattatu-matome.ldblog.jp>>56人間関係に関してはAIは当たり障りない一般論は教えてくれそうだけど、その場での最適解とは限らんのよな
AIの言うとおりにして後悔しないならいいけど
難しいね
- 58二次元好きの匿名さん25/03/11(火) 18:11:53
- 59二次元好きの匿名さん25/03/11(火) 18:11:57
君の考えなら外科的手術しなくても脳を外部デバイスと繋げるなら問題ないってことね
ちなみに発達 障害エアプっぽいけど脳の一部に電流を流すと発達 障害の症状が改善されるってデータがあってそっちの方面の話だと思うよ
ちなみにBMIは君が知らないだけでかなり実用化が進んでてもうすでにかなり実用化されてきてるよ
- 60二次元好きの匿名さん25/03/11(火) 18:15:28
BMIは非侵襲で脳に情報入力する手段が基礎研究レベルですらまともに無いからまだ時間がかかりそう
核心的な技術が生まれるよりも人類の倫理観が変わって当たり前に侵襲型BMIを受け入れるようになる方が早いかもね - 61二次元好きの匿名さん25/03/11(火) 18:34:38
- 62二次元好きの匿名さん25/03/11(火) 18:36:50
近々本当に先進国巻き込んだ大規模な戦争が起きそうだしその時に一気に進むんじゃないかな
それこそ人間と機械の融合って戦争なら研究が進む分野だよね - 63二次元好きの匿名さん25/03/11(火) 20:31:16
戦争利用だと、アルドノア・ゼロの気絶した主人公の身体使ってたAIみたいなゾンビが出てくるんじゃないかと思うと怖い
- 64二次元好きの匿名さん25/03/11(火) 20:36:35
こういう話を聞くと実は結構AI利用における爆発的技術発達自体は結構近いのかもしれないとは思うようにはなった
非侵襲で機械と肉体を繋げる技術に辿り着かないと1みたいなことは難しそうな気はするが…
でも、難病の人とかの本人の同意のもと治療の一貫として技術の実験台になる人は出てきてもおかしくはなさそう
- 65二次元好きの匿名さん25/03/11(火) 20:40:06
人間の脳とAIを融合させたとして、どこまでなら人間が主体性を持ってると呼べるんだろうな
欠損した部位を補うわけじゃないならテセウスの船とかとは違うんだろうけど、思考の重要な部位をAIが担当するようになったりしたら… - 66二次元好きの匿名さん25/03/11(火) 20:47:20
そもそも脳に電流を流すことによる副作用って、どこまでわかってるんだろうね
神経細胞と一緒にしちゃダメかもしれないけれど、豆電球は電流を流したら劣化するじゃん
一時的に症状が良くなったとしてその後どうなるのか
AIと人間の脳を融合させる場合、副作用の問題を避けては通れないだろうなぁ
アルジャーノンに花束をのチャーリーみたいなことになって欲しくないし - 67二次元好きの匿名さん25/03/11(火) 21:28:21
使ってみたいけど、大学の研究室だと情報漏洩になるから無理そうだな
- 68二次元好きの匿名さん25/03/11(火) 21:31:35
chatGPT以前からAI界隈にいるけど
ASIはわからんけどAGIは99%完成してると思うよ
未だにAGIは有り得ないって言ってる奴がいたらちょっと正気を疑うとこまで来てると思う
シンギュラリティに関しては70%くらいかな - 69二次元好きの匿名さん25/03/11(火) 21:36:24
AIが暴走したらどうするみたいな話はあちこちで聞くけど
むしろある程度暴走させなけりゃASIは完成しないんだよな
人間の制御下じゃ当然AIも人間の想定しうる範疇にしかならないわけで
暴走した個人が核のボタン押して人類滅亡どうこうなんて別に今の世の中でも起こりうる事なんだからどのみちリスクあるんならユートピア完成させうる可能性秘めてるAIにみらい託した方がいいと思うんだけどな - 70二次元好きの匿名さん25/03/12(水) 00:42:06
- 71二次元好きの匿名さん25/03/12(水) 08:45:02