二紫会~良心全身充満丈夫 2022.8-


| 検索 | アルバム | 管理用 | ▼掲示板作るならRara掲示板 |
お名前
タイトル

画像を選択してください

    削除キー ( 記事を削除する際に使用 )
    文字色■■■■■■■■
    (4)生成AIについて(続き)
     今回も、前回も取り上げたNewton(別冊)『よくわかる人工知能のすべて』株式会社ニュートンプレス(2024年7月)の「2 ChatGPTと生成AI(協力 松尾豊/横田理央)」の(52~59頁)とNewton(別冊)『よくわかる人工知能のすべて 最新版』株式会社ニュートンプレス(2026年8月)「2 生成AIとは何か?(監修 松尾豊)」の(50~55頁)を紹介する形でまとめてみます。

     ③ 生成AIと画像の生成
     画像を生成するAIとは、「インターネット上にある大量の画像を読みこんでその特徴を学習し,ユーザーが打ちこんだ指示文(プロンプト)に合致するようにそれらの画像を再構成してくれるAI」(24年52頁)ということです。同書では、このことをイギリスの企業 Stability AI の「Stable Diffusion」が23億枚の画像データを使った例(2022年8月)を以下のように紹介しています。
     ⅰ ある画像をOpen AI が開発した CLIP という技術を採用したAIに読み込ませる
     ⅱ CLIPはその画像に対応する言葉を自動生成する
     ⅲ 画像生成のときには、ノイズまみれのダミー画像を用意し、ノイズを少しずつ取り除く方法で元の画像を再現することによりAIに画像復元の方法を学習させる、これは「拡散モデル(Diffusion Model)」といいます
     ⅳ この方法、つまり多くのいわば「画像の穴埋め問題」を解かせる
     このようにして、「Stable Diffusionは言葉の指示だけで多様な画像を生成できるようになる」(24年53頁)とのことです。
     画像生成AIは、Stable Diffusion以外にも、Open AI によって開発されたDALL・Eシリーズや、Discord とよばれるチャットツールを通じて画像を生成する Midjourney などもあるとのことです。

     ④ マルチモーダル生成AI
     マルチモーダルAIとは、これまでの単一の形態(モーダル)の学習だけでなく、「文章や音声,動画,さらにはセンサーで感知した情報など,二つ以上の種類のことなるデータを学習でき,それらを統合して処理することが可能になる」(24年58頁)AIのことをいいます。
     2023年にGoogle社がマルチモーダルAIとして 「Gemini 」を発表、2024年2月には 「Gemini Advanced」 が公開されました。
     また、Microsoft社の「Copilot」もマルチモーダルのサービスに付け加えることができるなど、マルチモーダルAIは「従来の大規模言語モデル(LLM)ではなく,さらに大量で複雑な情報をあつかうことを目的とした『マルチモーダル大規模言語モデル(MLLM)』に支えられ」て、それ以降では「人工知能の能力は,今後もますます進化し,成長していくことが見こまれる」(24年59頁)という状況にあります。

     ⑤ 「動画」と「空間」の生成
     生成AIの技術は、「静止画」から「時間」と「空間」をあやつる技術に進化しようとしています。具体的には、「2025年に登場した「Veo3」(Google)や「Gen-4」(Runway)といった動画生成AIは,たんに『動く絵』をつくるだけではない。重力による物体の落下,液体のはね方,あるいは複雑な光の反射といった『物理法則』を,映像の中で表現する」(26年、52頁)までに進化しています。
     この進化の理由は、画像生成で使われた「拡散モデル(Diffusion Model)」とGPTなどの基礎となった「Transformer」の技術を融合し、AIが膨大なデータを学習する過程で「物体がどう動くのが自然かという,『物理的な一貫性』を統計的に学習したとみられている。・・・この進化は,3次元空間の構築にも波及している」(26年53頁)ということにあるようです。
     2026年現在のAIの動きは、「生成AIは今,デジタルな夢を見る段階をこえ,私たちが生きる現実世界の物理的構造をデジタル空間に再構築しようとしている」(26年53頁)までに進化していることになります。

     ⑥ マルチモーダルから推論型へ
     上記 ④ でマルチモーダルを見てきましたが、2026年版では、「これにより,AIに人間のような『知覚』がもたらされた」(26年、54頁)と付け加えて、「近年のAI開発では『強化学習』を用いた論理的な推論能力の向上が進められている」(26年、54頁)としています。さらに推論とは、たんなる「予測 (inference)」ではなく、思考の連鎖を経て答えを導き出す「推論(reasoning)」だとコメントし、AIが筋道を立てて回答を導き出すアプローチが注目されているとしています。
     2024年の「Claude3」(Anthropic社)やOpenAI社の「GPT-5」シリーズの「thinking(思考)モード」などが「推論型AI」とよばれています。
     2026年版の「第2章 生成AIとはなにか?」では、「この進化により,AIは『検索代行』や『翻訳機』,『チャトポット』から,人間の複雑な意図を汲み取り,自律的にタスクを遂行する『エージェント』としての活躍が期待されはじめている。文章や画像といった『情報の形』を問わずに理解し,そこに論理的な思考を組み合わせることで,生成AIは人間の知的な営みを支えるパートナーとしての役割をにないはじめているのだ」(26年、55頁)と結んでいます。

     以上、AIの誕生から今年の7月までのAIの「歴史」を、雑誌『Newton(ニュートン)』の記事を参考にしながら「うつりゆく時代(9)~(12)」の4回をかけて大急ぎでみてきました。ところが、今年の7月以降、AIの想定外の驚くべき行動が報告されました。次回からは、この問題を整理しながらAIの問題と将来について考えてみようと思います。

     先月、トランプ大統領が、AIをSIと呼べ、と突然言い出しましたが、唐突過ぎるし、変えなければならない理由が不明です。笑

    https://news.yahoo.co.jp/articles/210d1a0463d49ba964691f7361b82487e23c2145

    https://approach.yahoo.co.jp/r/QUyHCH

    AIを100%信用してはいけませんね。

    「広辞苑」の編者である新村出の記念館「重山文庫」へ行ってきました。散歩の距離。🚶
    広辞苑の編者、くらいの認識で行きましたが、養父は徳川慶喜の側人。慶喜の側室も新村家の養子。それゆえに、写真が趣味だった慶喜の写真集には、若い新村出が登場する。
    実父は静岡県知事であったが、列車事故で亡くなったので、養子となったとのこと。

    そうした経緯からか、徳川慶喜の書や、勝海舟の書、さらには山岡鉄舟の書も残されています。
    また、谷崎潤一郎と親交があり、そうした書籍も展示されていましたが、「手にとって見てください」と声が掛かって驚きました。

    「舟を編む」という小説がありましたが、まさにその世界。広辞苑編纂の現場を想像する資料が印象的です。
    #ちょうざんぶんこ

     有斐斎弘道館という屋敷が御所の西にあります。
     上長者町通に入口がありますが、石碑のデータベースを見ると、江戸時代には中立売通にあったそうです。室町中立売って、某マンションの敷地じゃないか。

     有斐斎弘道館は、儒者・皆川淇園の屋敷だったそうです。
     某マンションの南側に高い建物がなく、緑豊かなのはそういう事情なのでしょう。

     この有斐斎弘道館も、十数年前にマンションの建設計画があったそうですが、反対する人たちが建物を取得して一時的な保存ができたそうです。
    https://kodo-kan.com/

    NHK AM(大阪)マイあさ!水曜7時台 けさの“聞きたい”「AI時代の働き方」/ここに注目!https://www.nhk.or.jp/radio/player/ #radiru #nhkr1

     (4)生成AIについて
     以下では、前回も取り上げたNewton(別冊)『よくわかる人工知能のすべて』株式会社ニュートンプレス(2024年7月)の「2 ChatGPTと生成AI(協力 松尾豊/横田理央)」(34~47頁)を紹介する形でまとめてみます。

     ① 生成AIとChatGPTの関係
     先ず、この二つはどのような関係にあるか見てみます。
     同書では「生成AI(Generative AI)とは,人間の指示に応じて適切な文章や画像,音楽、動画などを生成してくれるAI(人工知能)のことである」(36頁)と紹介されています。
     ChatGPTはこの生成AIの一種になります。オープンAI(Open AI)が2018年にGPTを公開し、2022年11月にChat GPTを世に出しまして。生成AIにはそのほかGoogle社のGeminiや画像生成AIなどもあります。また、このホームページのNo.635(9月20日)のひろせ君の書き込みで「AIの進化が加速した要因をClaude Falle.1(生成AI)に尋ねてみました」とありますが、Claude Falleはアメリカのアンスロピック(Anthropic)社が2026年6月に発表した大規模言語モデル(LLM)でこの分野の生成AIです。
     また、人間と対話するChatGPTのようなシステムを「チャットポット」と言うそうです。ChatGPTの出現までは融通が利かない、見当違いの回答をするなどの実用性の低い「ルールベース型」のチャットポットが使われていました。これに対して、ChatGPTは質問の文脈や意図を考慮して回答を生成する、つまり「答えを探しだすだけではなく、つくりだすのが生成AI」(36頁)という特徴を持っています。これが生成AIを広く普及させた理由になりますが、次にこのような技術がなぜ可能になったかをChatGPTを例に見てみます。

     ② ChatGPT ← GPT ← Transformerの関係
     先ず、これら3つの内容を整理しておきます。
     ChatGPTとは「人の質問に対してAIが回答することでさまざまなタスクをこなす,『AIチャットサービス』の一種」(38頁)です。
     そして「ChatGPTに使われているAIが『GPT(Generative Pre-trained Transformer)』」(38頁)で、GPTは「大規模言語モデル」とよばれるAIの一種で「人の言語(自然言語)を理解するための基盤となる」(38頁)ものです。「具体的には,GPTは文や文の断片をあたえられると,その『つづき』としてどんな単語があらわれやすいかを次々に予測することで文章を出力する」(38頁)ということです。
     この中のTransformerとは「あたえられた文章中の単語どうしの意味的な関係性を広く学習することができるアルゴリズム。もともとは機械翻訳の研究において,ある単語を別の単語のどの単語に訳せばよいかを正しく把握するアルゴリズムとして開発された」(39頁)ということです。
     このTransformer という技術によって、GPTが長く複雑な文章を生成できることになりました。Transformer以前の自然言語処理には「再帰型ニューラルネットワーク(RNN)」が用いられていましたが、処理に時間がかかり、単語どうしの関係をつかみにくいという欠点がありました。そのためTransformerでは「自己注意機構(Self-Attention)」が用いられ、「これによって処理スピードが向上し,膨大な量の学習データを用いて巨大なニューラルネットワークを訓練する『大規模言語モデル(Large Language Model: LLM)』を実現でき・・・その結果,性能が飛躍的に向上した」(40頁)ということです。
     この言語モデルでは、文中の単語を、向きと長さをもつ「ベクトル」に変換し、ベクトルの「内積」の値を計算し、ある単語ベクトルに対しほかのすべての単語ベクトルとの内積を計算することで単語どうしの「距離」の近さを測る(距離が近いほど意味が近くなる)という方法が用いられているそうです。
     このような方法で大量の文章データを学習したのがGPTですが、どのように学習したのでしょうか。これは「穴埋め問題」を解いて可能にしたということです。以下にこの本で取り上げられた例を挙げます。
     「可愛いからネコが好き」という文章に対し
     ⅰ 「可愛いからネコが〇」という穴埋め問題をつくる
     ⅱ これをGPTに正解になるまで繰り返し解かせる
     ⅲ ⅰとⅱを繰り返し、さまざまな文章について穴埋め問題を解かせる
     「これによりGPTは,文章生成のみならず翻訳や計算など,インターネット上に文章データが存在するものなら何でも幅広く学ぶことができ」(45頁)、この方法の利点は、従来の方法では人間がAIに学習させる解答を示して非常に手間がかかっていたが、人の手を加える必要がなくなったため「膨大な文章データを自動的に事前学習させることが可能になり,性能が飛躍的に向上した」(45頁)とのことです。
     この事前学習の後、質問や指示に対し適切な(もっとも確率の高い)単語を出力して文章(回答)を構成するとのことです。同書の例は以下のようです。
     ⅰ 事前学習をもとに「今日 は ?」のつづきを書くタスクを与える
     ⅱ 事前学習のもとで「今日 は 晴れて ?」を出力したとする・・・
     ⅲ このように単語をくりかえして「今日は晴れているので自転車に乗って・・のように出力して文章を生成することになります。
     しかし、学習済みのGPTだけでは人との対話は十分ではありません。事前学習の後、人が微調整をする必要があります。これは,「大規模言語モデル『GPT』を,対話サービス『ChatGPT』にするプロセスだといえるだろう。事前学習ずみの言語モデルを目的に合わせて微調整することを『ファインチューニング』という」(46頁)、という方法がなされているとのことです。

     Anthropic社が日本の書籍を大量購入していたらしい、と報じられていました。販売元はコメントしていませんが、あり得ます。AIにとっては、学習量が価値を高める重要な手段となりますが、去年の今頃は、日本語には十分対応していない、英語でプロンプトを書いた方がいい、と言われていたくらいですが、年明けに公開されたClaudeは、各バージョンとも見事な日本語で応えてくれ、驚いていました。
    (Claude Falle.1は、Claude Fable 5.1のことだと思います。他にも、Opus 5.5やSonnet 5など、データ処理能力によっていくつかのモデルがあります。)
     今では、たいていの会話型AIで日本語が普通に使えます。エージェントでは、一部を除いてまだまだ英語ありき、のような感じですが。

    どの生成AIも、最初は英語すら理解しなかったはずで、昨年の中国のロボット運動会でヨチヨチ歩きだったフィジカルAIが今年は人間より早く疾走した如く、意外にもAIは学習データが必要なのです。
     書籍や文字データ、運動経験は学習しやすい分野かもしれませんが、人間の感情や倫理にまで学習の分野が及び始めると、本当に人間の存在意義が脅かされ始めそうに思います。

    https://news.yahoo.co.jp/articles/212f2a1ec5d3862735a3a456429c4d816bf5d178

     前回はAIの発展の歴史を見てきたので、次にAIとは何かを考えてみます。
     現在、AIの発展が急速過ぎるため、世界中でAIの研究を制限しようという動きがあるときに「いまさら何を?」と笑われるかもしれません。そのような人はこの投稿を無視するか、不備な点があれば補足してください。
     今回はAIの機械学習とディープラーニング(深層学習)について、次回はChatGPTと生成AIについて取り上げます。周知のように私はAIの専門家ではないので、Newton別冊『よくわかる人工知能のすべて』株式会社ニュートンプレス(2024年7月)の記事を紹介する形で取り上げてみますが、さらに詳細な情報が必要ならば同書か他の資料を参考にしてください。

    (3)機械学習と人工ニューロンおよびディープラーニングの関係
     以下では、前掲書の「1. AIって何だろう?(協力 松尾豊)」の8~31頁を参考にしました。
     ① 機械学習
     同書によれば、機械学習とは「その名のとおり,機械(コンピューター)がみずから『学習する』ためのしくみだ。それによって,より“賢い”AIを実現しようとしている」(17頁)、ということになります。
     では何を学習しているかと言えば、例えば画像を認識するAIならば多くの画像を見せて「ゾウだ」「ゾウではない」というように、「グループ分け」をしているわけで、「どのようにすれば適切にグループ分けができるのか,その分け方をコンピューターに自動的に学習させる方法が機械学習」(18頁)ということになります。つまり、大量のデータを用いて、それらの共通点やルールをAIが見つけ出せるようにすることになります。(注:「グループ分け」以外にも、例えば気温と販売量の関係を予測するなどの「回帰」とよばれるものもあるとのことです。)
     この方法には、大きく分けて「教師あり学習」と「教師なし学習」の方法があります。前者は、たとえばこれは正しい、これは間違い、のように人がAIの学習用データに正解(教師データ)の情報を付け加えて学習させる方法で、後者は「正解(教師データ)をあたえず,入力したデータの中からAIがみずから特定のパターンを抽出したり,共通するルールをみつけたりできるようにするもの」(21頁)になります。
     データを「グループ分け」する方法にもいろいろなものがありますが、代表的なものが「決定木(けっていぎ)」という手法だそうです。この決定木による機械学習とは「AIにデータをくりかえし分析させて,適切な設問の条件や順番(ツリー)を自動的に探させ(学習させ)る」(22頁)方法ですが、紙面の都合で詳細はここでは割愛します。

     ② 脳の神経細胞(ニューロン)と人工ニューロン
     脳の神経細胞の働きを見ると、「脳は,たくさんの『神経細胞(ニューロン)』からできていて,神経細胞どうしがたがいにつながってネットワークを形成している。一つの神経細胞は『シナプス』とよばれる接続部分を通じて,ほかの多数の神経細胞から信号を受け取る。そして,受け取った信号の総量がある一定の大きさをこえると,その神経細胞はほかの神経細胞へ信号を送る。脳は,こうして神経細胞が次々と信号を伝えていくことで,情報を処理している」(24~25頁)とのことです。
     この脳の神経細胞のはたらきをコンピューター上のプログラムで、人工ニューロンとして再現したのがニューラルネットワークです。そして「人工ニューロンは,複数の数値(入力値)を受け取って,その入力値に応じた別の数値(出力値)を出力する『関数』だ。一つの人工ニューロンは複数の入力値を受け取る。そして,それらの入力値にいくつかの計算をほどこした数値を出力するように設計されていて」(25頁)、「多数の人工ニューロンを複数の層に分けてつなげて,はじめの入力値(データ)をつぎつぎと変換していくことで、情報を処理する」(25頁)とのことです。
     この人工ニューロンは数値を受けて計算し、次の人工ニューロンに数値を出力するのですが、どのように学習しているのでしょうか。脳の神経細胞のシナプスのつながりの強さに相当するものは、人工ニューロンでは「重み」とよばれ、「この重みの値を変化させて,人工ニューロンどうしのつながりの強さを変えていくことで学習を行う」(26頁)ことになります。
     最初にデータを受け取る層を「入力層」、最終的な結果を出す層を「出力層」、両者の間の層を「中間層(隠れ層)」と言います。この本ではひし形◇の画像の例を挙げて以下のように説明しています。
     赤色のひし形の画像をバラバラに切って入力層に入れます。重みの値はバラバラなので中間層を経由して出力層にプラス+の記号が届いたとします。答え合わせ(教師あり学習)をすると不正解なのでAIはみずから重みを変えます。このような方法を多くの画像で繰り返して精度を上げ、最終的に画像の◇を判別するようになります。

     ③ ディープラーニング
     ディープラーニング(深層学習)とは、このニューラルネットワークの中の人工ニューロンの層を多層化(深くした)したものを指します。この方法によって「物がもっているさまざまな『特徴』を,AIがみずからみつけだすようになり」、「大量の画像を読みこませるだけで,画像に含まれる着目するべき特徴をAIが自分で抽出できるようになり」、「人が特徴を教えるよりもずっと精度の高い予測ができるようになった」(28頁)ということです。
     この経過は次のようになります。
    (ⅰ)入力層へ画像の情報を入力する
    (ⅱ)中間層のたくさんの人工ニューロンが、入力値や重みの値に応じて次の層の人工ニューロンへ出力値を送る
    (ⅲ)重みの調整が完了すると、入力層に近い中間層では、単純なパターンに対応する信号がやってくると反応する(次の人工ニューロンに大きな信号をわたす)人工ニューロンができ、出力層に近い中間層では、より複雑な形状に対応する信号がやってくると反応する人工ニューロンができる
     以上で「画像を識別するために着目するべき特徴を抽出できたことを意味している」(29頁)とのことです。

     これまでディープラーニングの精度向上のための技術が開発されてきました。その一つとして「過学習(かがくしゅう)」という学習用データに特化しすぎて未知のデータに対応できなくなる問題がありますが、これは「ドロップアウト」という方法で解決したということです。
     このようなディープラーニングの手法は、2012年頃から脚光を浴びて第3次AIブームを作り出し「自動翻訳,文字・音声・画像認識,自動運転などに広く用いられて」(11頁)きています。

     AIの進化が加速したのは2025年後半あたりからではないか、と推察していますが、実際に生成AIが個人使用でも実用的になったのは昨年末あたりからです。
     あまりの進化の速さに、単行本はAIの実情を捉えたものはなく、月刊誌すら仕様の変化や機能の追加を紹介し損なっている状況ですし、新聞は分析をするスタッフも抱えられないようです。

     そこで、AIの進化が加速した要因をClaude Fable5.1(生成AI)に尋ねてみました。
     以下、引用です。

    「主な要因は、**「学習を大きくする」から「考えさせる・使わせる」へ進化の軸が広がったこと**と、そこに莫大な資金が流れ込んだことです。

    - **推論モデルの登場**: 答える前にじっくり考えさせる方式で、数学やプログラミングなど難しい問題の正答率が大きく上がりました。
    - **強化学習の活用**: 正解が自動で判定できる課題(コードが動くか、計算が合うか)で試行錯誤させ、能力を効率よく伸ばせるようになりました。
    - **エージェント化**: 検索、ファイル操作、ソフトの操作といった「道具」を使い、長い作業を自分で進められるようになりました。単なる会話相手から「仕事を任せられる存在」に変わったことが、実用面での実感につながっています。
    - **計算資源への巨額投資**: 世界中で大規模なデータセンターが建設され、学習にも推論にも使える計算力が増えました。
    - **AIがAI開発を加速**: 研究者がAIでコードを書き、実験を回し、学習用データを作るようになり、開発サイクル自体が速くなりました。
    - **競争の激化**: 米国の大手各社に中国勢やオープンモデルも加わり、性能向上と低価格化が同時に進みました。

    これらが互いに作用し合い、性能向上が次の投資や利用拡大を呼ぶ循環になっている点が、加速の本質だと言えます。」

     個別事情として、中国のフィジカルAIの進化について、尋ねてみました。

    「中国は人型ロボットの量産と実用化で、いま世界の先頭にいます。

    - **量産の規模**: 2025年の出荷台数は約1万4,400台で、世界全体の出荷量の約85%を占めました。2026年は生産台数がさらに前年比94%増えるとの予測です。2026年上半期には製品が400機種余りとなり、世界の半数を上回りました。
    - **低価格化**: 1万元(約24万円)を切る機種も登場し、高級スマートフォンと大差ない価格帯になっています。
    - **運動能力の向上**: 2026年の春節特番では、Unitree(宇樹科技)など4社のロボットが側転宙返りなどを披露しました。北京のハーフマラソンには300体以上が参加し、坂道や公園を含む厳しいコースに挑みました。
    - **工場への導入**: 2026年3月、広東省仏山で年産1万台超の量産ラインが稼働を始めました。ロボットが作業しやすいよう工場側を設計し、現場で使って開発に反映する循環も強みとされています。

    一方で課題もあり、関節1つの交換に約70万円かかるなど、修理の難しさが問題になっているとの報道があります。また、出荷台数は調査機関ごとに数字が大きく異なるため、目安として見るのがよいと思います。

    日本の状況や、ロボットに使われるAI技術の中身についても、ご説明できます。」

    「人型ロボットでは中国が大きく先行しており、日本は部品技術や現場での実用化で巻き返そうとしている段階です。

    - **現状**: 人型ロボットでは、かつて世界をリードした日本の影はいまや薄いと評されています。中国のAgiBot(智元機器人)は2026年3月に累計生産1万台を発表しており、差は大きいです。
    - **国の取り組み**: 経済産業省、NEDO、AIロボット協会(AIRoA)を中心に、ロボット基盤モデルやデータ基盤の開発が進んでいます。ただし投資規模、出口戦略、ユーザーの巻き込み、プレイヤーの厚みに課題が残るとPwCは指摘しています。あるブログの試算では、政府のフィジカルAI向け予算205億円は、米Figure AIの1回の資金調達より小さいとされます。
    - **巻き返しの戦略**: 1つ目は部品技術です。独自のAI開発や、技術力の高い部品産業の参入促進で巻き返そうという動きが活発化しています。2つ目は現場特化型です。倉庫、工場の検品、太陽光発電所の草刈り、橋梁の点検など、限定された環境で信頼性と安全性を重視する分野は、日本の強みである「地味な信頼性」が活きるとされます。
    - **産業界の動き**: 2026年6月の「ロボットテクノロジージャパン」ではヒューマノイドやフィジカルAI関連の展示が特に目立ち、来場者は4万7,000人超でした。ファナックや安川電機などの製造業各社も参入に動いています。
    - **ユニークな例**: 京都大学などが開発した「ブッダロイド」は、仏教経典を学習した生成AIを搭載し、寺院で合掌したり悩み相談に応じたりします。

    見方としては、動画映えするロボットと、利益を生むロボットは同じではないという指摘が的を射ています。人型で追いかけるより、人手不足の現場で確実に役立つロボットを作る方が、日本には現実的な道筋のようです。」


     そうです。二足歩行しなくても、100メートルを早く走れなくても実用性があればいい。日本の企業には、今後も実用性を追求してほしいものです。

     Grockの回答は、他社と較べて少し毛色が違います。しかし、日本語表現がこなれていないような気がします。
    以下引用。

    「主な要因は、スケーリング則の実証とそれに基づく大規模投資・計算資源の爆発的拡大、競争の激化、技術的工夫の積み重ね、そしてChatGPT以降の社会実装の加速です。 2022年末のChatGPT公開を起点に、2023〜2025年にかけて急速に進化しました(現在2026年時点で見ると、特に2024〜2025年に推論モデルやエージェント化が進んだ)。
    1. スケーリング則(Scaling Laws)の発見と実践
    モデルのパラメータ数、学習データ量、計算量(compute)を増やすと、予測精度がべき乗則に従って向上することが2020年頃の研究(Kaplanら)で示され、2022年のChinchilla論文で「モデルサイズとデータ量のバランス」が重要だと整理されました。
これにより「巨大化すれば性能が上がる」という予測可能な道筋が明確になり、企業は計画的に投資できるようになりました。
結果として、GPT-3(1750億パラメータ)からGPT-4以降の兆パラメータ級、Mixture of Experts(MoE)による効率化、超長文コンテキスト対応などが次々と実現しました。
最近は事前学習のスケールに加え、推論時の計算量を増やす(o1やDeepSeek-R1のような「考えてから答える」推論モデル)という新しい軸も加わり、性能がさらに伸びています。
    2. 計算資源(ハードウェア)とデータの爆発的増加
    • NVIDIAのGPU(H100など)やGoogleのTPU、クラウドデータセンターの大規模投資により、学習に使える計算量が急増しました(2020年以降、フロンティアモデルの学習計算量は年に約5倍ペースで増加した例もあります)。
    • 高品質なデータセットの整備・フィルタリング・合成データの活用が進み、データ効率も向上しました。
    • 電力・チップ製造・データセンター建設がボトルネックになりつつも、巨額の設備投資(2025年以降のデータセンター投資は数兆ドル規模との試算も)が続けられています。
    3. 企業間の激しい競争と巨額投資
    OpenAI、Google(Gemini)、Anthropic(Claude)、Meta(Llama)、xAI、中国勢(DeepSeekなど)がしのぎを削り、フロンティアモデルを次々と公開しました。
プライベート投資も急増し、生成AI関連だけで数十億ドル規模の資金が流入。オープンソース(Llamaシリーズなど)の台頭も、コミュニティ全体の開発速度を押し上げました。
    4. 技術的なブレイクスルーと工夫の積み重ね
    • Transformerアーキテクチャの改良、RLHF(人間のフィードバックによる強化学習)、指令チューニング、マルチモーダル化(テキスト+画像+音声+動画)。
    • 2024年後半からの「推論強化モデル」(OpenAI o1/o3、DeepSeek-R1など)やエージェント化(自律的にタスクを完遂する仕組み)。
    • 効率化技術(量子化、MoE、蒸留など)により、性能を保ちつつコストやサイズを抑える動きも並行して進みました。
    5. 社会実装とフィードバックループ
    ChatGPTの対話インターフェースが一般ユーザーに爆発的に広がり(公開後わずか数日で100万ユーザー、2か月で1億ユーザー)、企業・個人の利用が急増。需要がさらに投資を呼び込み、実用化(コーディング支援、業務自動化、エージェントなど)が進む好循環が生まれました。
2025年頃からは「対話ツール」から「自律型エージェント」へのシフトが顕著になっています。
    まとめ
    要するに、「スケーリング則で道筋が見えた」+「計算資源と資金が集中した」+「競争とオープンソースでアイデアが共有・加速した」+「ユーザー需要が即座にフィードバックされた」という複合要因です。
技術的には「ただ大きくしただけ」ではなく、アルゴリズム効率化や推論時の工夫も重要でしたが、根本的なドライバーは計算資源のスケールアップと競争でした。
今後は電力・チップ供給・データ品質の制約が強まる可能性があり、効率性や新しいパラダイム(さらに高度なエージェントやアーキテクチャ変更)が鍵になると考えられています。」

    Powered by Rara掲示板
    管理者に連絡 | メール通知設定