PHOTONとは何か——「横に読む」Transformerに対する「縦に束ねる」発想

PHOTONを理解するには、まず現在のAIが文章を生成するときに何が起きているかを具体的に思い浮かべるのが早い。ChatGPTのような対話AIは、これまでに読んだ単語と自分が書いた単語のすべてを「KVキャッシュ」と呼ばれる作業メモリに溜め込み、次の一語を出すたびに、その溜め込んだ全履歴を参照し直している。これがTransformerの基本動作だ。短い問い合わせなら問題はないが、たとえば100ページの契約書を丸ごと読ませたり、コールセンターで50人の利用者が同時に質問を投げたりすると、この履歴が爆発的に膨らむ。GPUは計算そのものよりも、巨大化したKVキャッシュを読み書きする「メモリの渋滞」に時間の大半を奪われるようになる。喩えるなら、図書館員が次の一言を発するたびに、これまで読んだ本を最初から全部めくり直しているような状態である。富士通はこれを、入力が長くなったり同時問い合わせが増えたりするほど「過去情報の保持のためのメモリアクセスが増え、処理速度が落ちる」課題として説明している。
PHOTONはこの「横スキャン」をやめる。正式名称は Parallel Hierarchical Operation for TOp-down Networks(トップダウンネットワークのための並列階層オペレーション)。文章を1トークンずつ横方向になめていくのではなく、意味のまとまりごとに階層化し、縦方向の「多解像度スキャン」へ置き換える。論文の説明では、ボトムアップのエンコーダがトークン列を圧縮して低レートの「潜在ストリーム(latent stream)」という粗い文脈状態に畳み込み、その上で軽量なトップダウンのデコーダが、細かいトークン表現を並列に復元する。さらに「再帰的生成」という仕組みを持ち、生成のたびに最も粗い潜在ストリームだけを更新し、ボトムアップの再エンコードを省く。
これは、文章を書く人間の作業に置き換えると腑に落ちる。私たちは次の一文を書くために原稿を毎回頭から読み返したりはしない。手元の「アウトライン(粗い要約=潜在ストリーム)」を参照し、必要な箇所だけを具体的な文に展開する。PHOTONのトップダウン・デコーダはまさにこの「アウトラインから局所を並列展開する」動きをしており、サブワードが単語を、単語が文を作るという言語の階層構造とも自然に重なる。結果として、生成コストが系列全体の長さから切り離され、デコード時のKVキャッシュのやり取りが桁違いに減る——これがPHOTONの核心である。

「最大475倍」が意味するもの——数字の中身を分解する

見出しの「475倍」は、正確には「GPU1基あたりの出力トークン数(スループット)」の最大値を指す。富士通の公式発表とITmedia、PC Watch、GIGAZINEがそろって報じているのは、12億(1.2B)パラメータのモデルにおいて、複数のクエリを同時に走らせる「マルチクエリ」処理で、従来のTransformer比で最大約475倍のトークンを吐き出せた、という実験結果だ。検証は6億(600M)・9億(900M)・12億(1.2B)の3つのモデルサイズで行われ、いずれもメモリ使用量を抑えつつ高いスループットを示したとされる。
ここで見落としてはならない条件が二つある。第一に、この475倍は「わずかな性能劣化と引き換え」の数字である点だ。第二に、その劣化を埋める仕掛けが用意されている。富士通は同じ問いに対して少しずつ異なる複数の質問や候補を作り、多数決や最良候補の選択で結果を統合する「マルチクエリー統合技術」を併用しており、わずか9個のクエリを統合するだけで従来のTransformerと同水準の性能に戻せると説明している。つまり「475倍」は、単一の回答を速く出す話ではなく、「たくさんの回答を並列に、安く出せる」性質に由来する数字だと理解するのが正確だ。
さらに一歩踏み込むと、富士通が国内向けに掲げる「475倍」と、論文がarXivで掲げる数字は、測っている軸が異なる。プレプリント「PHOTON: Hierarchical Autoregressive Modeling for Lightspeed and Memory-Efficient Language Generation」(arXiv:2512.20687、Yuma Ichikawa氏ら富士通の研究者5名、2025年12月22日投稿・翌年1月改訂)のアブストラクトは、デコード時のKVキャッシュ・トラフィックを削減することで「単位メモリあたり最大10³倍(約1,000倍)のスループット」を実現する、と記している。国内報道が一様に用いる「475倍」は1.2Bモデルのマルチクエリ実測値、論文の「約1,000倍」はメモリ律速のデコードにおける単位メモリあたりスループットの上限値であり、いずれも富士通自身の数字だが指している対象が違う。日本語報道はこの1,000倍という表現にはほとんど触れていないため、両者を区別して読むことが、この技術を過大にも過小にも評価しないための前提になる。

なぜ「マルチクエリ」がいま効くのか——test-time computeとエージェントの時代

PHOTONの強みが「単一の高速回答」ではなく「大量の並列クエリ」にあるという事実は、一見地味だが、2025年以降のAIの潮流とぴたりと噛み合っている。鍵は「test-time compute(推論時計算)」だ。
近年の推論モデルは、答えの質を上げるために学習時ではなく推論時に計算を積み増す。代表例が「自己整合性(self-consistency)」で、同じ問題に対して複数の思考の筋道をサンプリングし、最も多く支持された答えを多数決で選ぶ。OpenAIのo1系に始まる「考える時間を長くするほど賢くなる」モデル群や、N個の候補を生成して最良の一つを選ぶ「Best-of-N」も同じ発想だ。これらの手法の弱点は明快で、質を上げるほど推論コストが跳ね上がる。同じ問いを20通り走らせれば、単純計算でGPUの負荷も20倍になる。
エージェントの普及はこの傾向をさらに加速させる。一つのタスクを複数のサブエージェントに分担させ、並列に問い合わせを投げて結果を束ねる——という処理は、まさにマルチクエリそのものだ。富士通もPHOTONを「マルチエージェントのような処理を低コストで効率よくこなせる」と位置づけている。Transformerでは並列クエリのそれぞれが巨大なKVキャッシュを抱えるため、同時実行数を増やすほどGPUメモリが先に尽きる。PHOTONは1クエリあたりのメモリ footprint を圧縮するため、同じGPUメモリの中により多くの並列生成を詰め込める。「475倍」という数字も「9クエリ統合でTransformer同等」という設計も、test-time computeとエージェントが主役になる世界に最適化されていると読める。言い換えれば、PHOTONは「これから最も高くつく処理」を狙って安くしにいくアーキテクチャだ。
シリコンバレーのVCはこの種の技術をどう見るか——推論経済性というレンズ

現時点で、シリコンバレーの主要VCがPHOTONそのものに公開コメントを出した形跡は確認できない。発表からまだ日が浅く、報道は日本のテック専門メディア(ITmedia、GIGAZINE、Impress PC Watchなど)とarXivのプレプリント、それに独立系の論文解説に集中している。しかし、VCがこの種のアーキテクチャ研究を評価する際に用いるレンズは、ここ数年ではっきりと定まっている。それが「推論経済性(inference economics)」だ。
このレンズの出発点は、Sequoia CapitalのDavid Cahn氏が2024年に公開した論考「AI's $600B Question」である。同氏は、各社が積み上げるAIインフラ投資を正当化するには年間およそ6,000億ドル(約93兆円)規模の売上が必要になると試算し、その「収益ギャップ」が埋まっていないと問題提起した。ハイパースケーラー各社のAI関連設備投資は年間数千億ドル(数十兆円)規模に膨らみ続けており、この設備をどれだけ効率よく「推論」に変換できるかが、AI企業の粗利を直接左右する。学習コストは一度払えば済むが、推論コストは利用が伸びるほど永遠に発生し続ける——VCがいま最も注視しているのはこの「単位あたりの推論コスト」だ。
もう一方の柱が、Andreessen Horowitz(a16z)の「LLMflation」という論考だ。a16zは、同等性能のLLMを動かす推論コストが年におよそ10分の1、3年でおよそ1,000分の1へと急落していると整理している。独立系の調査機関Epoch AIも、GPT-4級の性能を出すための価格が milestone によって年9倍から900倍(中央値で年40倍前後)で下落しており、GPT-4相当の処理は2022年末の100万トークンあたり約20ドル(約3,100円)から約0.40ドル(約60円)まで下がったと報告する。この急落を駆動してきたのはハードウェアの世代交代だけではなく、推論ソフトウェアとアルゴリズムの効率化だ。PHOTONはまさにこの「アルゴリズムによる効率化」の系譜に位置する。GPU当たりのスループットとKVキャッシュという、VCが粗利計算で最初に見る変数を直接押し下げにいく研究だからこそ、推論経済性のレンズではきわめて「筋がよい」テーマに映る。同じa16zが投資テーマの中心に「compute efficiency(計算効率)」を据えていることとも整合する。

VCが同時に抱くであろう懐疑——「ハードウェア・くじ」と実装の壁

もっとも、同じレンズはPHOTONに対して厳しい問いも投げかける。VCがアーキテクチャ研究を「投資対象」として見るとき、最初に確認するのは技術の美しさではなく、productization(製品化)までの距離と、エコシステムの慣性に勝てるかどうかだ。
第一の論点は規模だ。今回検証されたのは最大でも12億パラメータのモデルである。商用フロンティアの数百億〜数千億パラメータ級でも同じ475倍が成立するのか、階層化に伴う「わずかな性能劣化」が大規模化したときに広がらないのかは、論文の数字だけでは判断できない。第二に、見出しの数字がマルチクエリという特定レジームのベストケースである点は、VCなら必ず割り引いて見る。単一クエリの応答速度や、統合に9クエリを要するという条件は、ユースケースによっては魅力を薄める。
そして第三に、もっとも根の深い障壁が「ハードウェア・くじ(hardware lottery)」だ。これはGoogle BrainのSara Hooker氏が提示した概念で、ある手法が勝つかどうかは本質的な優劣だけでなく、その時代に普及しているハードウェアにどれだけ綺麗に乗るかで決まる、という指摘である。Transformerが覇権を握れたのは、その行列演算がGPUに極めて好都合だったことと、CUDAを中心に膨大なカーネル・ライブラリ・運用ノウハウが積み上がったことが大きい。PHOTONのような非Transformer型は、理論上の効率がいかに高くても、この既存エコシステムの慣性と戦わなければならない。学習基盤、推論サーバ、量子化ツール、デバッグ手法のすべてがTransformer前提で最適化されている現状では、「論文の475倍」が「現場の475倍」になるまでには相応の実装投資が要る。VCがこの種の研究に資金を入れるとき、技術そのものよりも「移行コストを誰がどう負担するのか」を見るのはこのためだ。
群雄割拠の「ポストTransformer」競争の中での位置づけ

PHOTONは無風の荒野に現れたわけではない。2025年から2026年にかけて、Transformerの非効率を突く「ポストTransformer」アーキテクチャは一気に層が厚くなっている。
最も注目されているのが状態空間モデル(SSM)系の「Mamba」系列だ。2026年3月にカーネギーメロン大、プリンストン大、Cartesia AI、Together AIらが公開したMamba-3は、ICLR 2026採択論文として、VentureBeatの報道によれば言語モデリングでTransformerベースラインを約4%上回り、長系列推論を高速化したとされる。SSMはKVキャッシュを持たず、文脈が長くなるほど相対的に有利になるという性質を持ち、バッチサイズを大きく取れるぶん推論スループットでもTransformerを上回ると報告されている。このほか線形アテンション系のxLSTMやRWKV-7、構造化線形オペレータを用いるLiquid AIのLFMファミリー、SSMとTransformerを組み合わせたAI21 LabsのJambaなど、選択肢は急速に増えている。
これらの多くが「アテンションの計算量そのもの」を線形に近づけるアプローチであるのに対し、PHOTONの差別化要因は「階層的・自己回帰的」である点にある。独立系の論文解説(arXiviq)によれば、PHOTONの比較対象はMambaのようなSSMではなく、素のTransformerに加えてFlashAttention、PagedAttention、そして階層化の先行研究であるBlock Transformerなど、あくまでTransformer系の最適化群だ。発想としては、Meta の Byte Latent Transformer に代表される「トークンより大きな意味の塊で処理する」階層・パッチ型モデルの系譜に近く、SSMとは別の角度からKVキャッシュ問題を攻めている。要するにPHOTONは、ポストTransformer競争における「SSM対線形アテンション」という構図とは別の第三の路線——意味の階層化による多解像度生成——を提示した一手であり、競争はアーキテクチャの「正解」が一つに収束する段階にはまだ遠いことを示している。

富士通の狙い——Takane、Kozuchi、MONAKAと「ソブリンAI」の文脈

PHOTONを富士通の事業戦略の中に置くと、その狙いがより立体的に見えてくる。富士通はここ数年、「軽量・省電力なAI」を一貫した技術テーマに掲げてきた。2025年9月には、量子化などによりメモリ消費を最大94%削減し、推論を約3倍高速化しながら高い精度維持率を保つ「生成AI再構成技術」を発表し、自社のエンタープライズLLM「Takane(高嶺)」を強化している。Takaneは2024年にカナダのCohereと戦略的パートナーシップを結んで共同開発した、日本語に強い企業向けモデルだ。PHOTONはこの「効率化」の系譜に、アーキテクチャそのものの刷新という新たな一枚を加える研究と位置づけられる。
注目したいのは、PHOTONが想定する「マルチクエリ/マルチエージェント処理の効率化」が、富士通自身が進めるAIサービス基盤「Fujitsu Kozuchi」のマルチAIエージェント構想と理屈の上で正面から噛み合うことだ。富士通は2026年1月、専有環境で生成AIを自律運用する「Fujitsu Kozuchi Enterprise AI Factory」を発表し、トライアルを同年2月に開始、本格提供を2026年7月に予定している。複数エージェントを並列に動かすほど推論コストが効くこの基盤にとって、マルチクエリを安くするPHOTONは原理的に相性がよい。さらにその下層には、2nm世代のArmプロセッサ「FUJITSU-MONAKA」や量子コンピューティングを据え、Takane・Kozuchiと組み合わせて国産フルスタックの「ソブリンAI」を構築するという、CTOのVivek Mahajan氏が描く構図がある。
ただし、ここは事実関係を厳密に区切る必要がある。富士通はPHOTONについて、TakaneやKozuchiへの統合時期や商用化のスケジュールを一切公表していない。公式発表もGIGAZINEなどの報道も、現時点ではあくまで研究成果とACLでの発表予定を伝えるにとどまる。戦略的な「相性のよさ」は分析として語れても、製品ロードマップとして確定した事実ではない。

報道の現状と、これから計測されるであろう動き——7月2日のACLから先

報道状況を冷静に見渡すと、PHOTONはまだ「日本発・学術主導」のフェーズにある。一次情報は富士通の公式ページとarXivのプレプリント、それを伝える日本語テック専門メディアと独立系の論文解説が中心で、Bloomberg や Reuters、TechCrunch といった欧米の主要メディアやVCブログによる直接の論評は、現時点では確認できない。これは技術の重要度というより、発表からの時間の短さと、成果がまず学術会議という回路に乗っていることの反映だ。
最初の、そして最も近い変化の起点は7月2日である。この日、PHOTONはサンディエゴで開かれるACL 2026(計算言語学会第64回年次大会、会期7月2〜7日)の口頭(オーラル)セッションで発表される。オーラル採択は同会議でも上位の評価を意味し、ここで国際的な研究者コミュニティの精査が一斉に始まる。今後計測すべき動きを時間軸で並べると、まずACL直後に予想されるのが、追試・再現の試みと、「475倍はどのレジームまで一般化するのか」「大規模モデルでも品質が保てるのか」という査読者・実務家からの問いだ。次に注視すべきは、富士通がコードや重みを公開するかどうか——公開されれば検証と採用が一気に進み、されなければ評価は論文の数字に縛られ続ける。
中期的には、PHOTONの発想がTakaneやKozuchi Enterprise AI Factory(本格提供は2026年7月予定)に取り込まれる兆候が出るか、MambaやLiquid AIといった競合陣営がマルチクエリ効率という土俵でどう応じるかが、この路線の本気度を測る指標になる。そして最終的な試金石は、推論経済性のレンズに戻る。PHOTONが論文の中の「最大475倍」を、シリコンバレーのVCが粗利計算で見る「現場の単位推論コスト」の実数値へと翻訳できたとき、初めてこの技術は欧米メディアとVCの本格的なスポットライトを浴びることになる。その瞬間が来るかどうかを、まずは7月のACLから数えていくことになる。
