Qwen元責任者が語る、ハイブリッド思考が失敗した理由とエージェントの未来

アリババのQwenプロジェクトの元技術責任者であるJunyang Lin氏は、Qwen3世代を支えたハイブリッド思考アプローチに対する詳細な批評を公開し、より長い推論チェーンではなく、エージェント的思考こそが正しい進むべき道だと考える理由を述べている。

Lin氏は2026年3月にアリババを退任し、現在は独立した研究者として活動している。同氏の分析は、まず「Qwen: Towards a Generalist Model / Agent」と題した講演で発表され、その後ブログ記事で拡充されたもので、主要なモデルファミリーの背後にあるアーキテクチャとトレーニングのトレードオフに関する、最も詳細な内部関係者の視点の1つとなっている。

ハイブリッド思考の問題点

Qwen3は2つの異なるモードを搭載してリリースされた。ステップごとの推論チェーンを生成する「思考モード」と、ほぼ即座に応答する「非思考(インストラクト)モード」である。1つのモデルで両方の利点を提供するというのがアイデアだった。

Lin氏は、この融合は見た目よりも根本的に難しいと主張する。インストラクトモードは直接性、簡潔さ、低レイテンシを重視する。思考モードは難しい問題に追加のトークンを使うことを重視する。両方を1つのモデルに統合すると、両方の性能が低下すると同氏は述べている。

「より長い推論トレースがモデルを賢くするわけではない」とLin氏は書いている。「思考はベンチマークではなく、対象となるワークロードによって形成されるべきだ」

Qwen3は4段階のポストトレーニングパイプライン(長い思考連鎖のコールドスタート、推論の強化学習、そして「思考モードの融合」)を用いて統合を試みた。しかし、その後のリリースではInstructとThinkingの別々のバリアントが出荷され、統合アプローチが意図した通りに機能していないことを事実上認めることとなった。

Lin氏はこの困難をモデルアーキテクチャの問題ではなく、データの問題として捉えている。「これはモデル問題というよりデータ問題だ」と同氏は述べ、両方のモードに同時に対応できるトレーニングデータを構築することの難しさを指摘した。

同氏は、ユーザーが設定可能な思考予算を提供するClaude 3.7 SonnetによるAnthropicのアプローチを、ハイブリッドモデルへの業界の急ぎ足に対する「有用な修正策」として評価している。

推論からエージェント的思考へ

Lin氏のより重要な論点は、今後の方向性に関するものだ。同氏は最近のAIの進歩を2つの時代に区分している。

第1の時代 — 推論的思考:OpenAIのoシリーズやDeepSeek-R1に代表される。強化学習は決定論的で検証可能な報酬を必要とし、そのためトレーニングは自然に数学、コード、形式論理に偏る。RLはシステムエンジニアリングの問題(大規模展開と検証パイプライン)となる。

第2の時代 — エージェント的思考:Lin氏が現在のフロンティアだと主張するもの。目標は正しい答えを生成することから、インタラクティブな環境の中で行動しながら進捗を維持することへと移行する。エージェントは、いつ熟考を止めて行動に移すか、どのツールをどの順序で呼び出すか、外界からのノイズのあるフィードバックをどう取り入れるか、失敗後に計画をどう修正するかを判断しなければならない。

「答えるための思考は、行動するための思考とは同じではない」と同氏は書いている。

同氏のブログ記事の比較表は、その違いを明確に示している。

| 次元 | 推論的思考 | エージェント的思考 |

|———–|——————-|——————|

| 評価基準 | 回答前の内部熟考の質 | 行動中の進捗維持の有無 |

| 報酬信号 | 検証可能な回答(数学、コード、論理) | インタラクティブ環境でのタスク成功 |

| 主要トレーニング対象 | 思考連鎖そのもの | アクションを選択し、環境フィードバックを読み、適応するポリシー |

Lin氏は、「ハーネスエンジニアリング」(専門化されたサブエージェント間の作業をルーティングするオーケストレーション層)が、今後数年間でモデルの生の能力よりも重要になると予想している。汎用モデル1つよりも、計画、委任、検証、回復ができるシステムの方が最終的に重要になるかもしれない。

Qwenファミリー自体がこの軌道を示している。講演の最後のスライドは、「Training models -> training agents」という一行で締めくくられている。

開発者向けの具体的なヒント

Lin氏の分析は実践者向けの具体的なガイダンスも提供している。チャットテンプレートでモードを切り替えるQwen3の`enable_thinking`フラグは、同氏が業界が簡素化に注力すべきだと考える人間工学的な詳細の一例である。

“`python

from transformers import AutoModelForCausalLM, AutoTokenizer

name = “Qwen/Qwen3-8B”

tok = AutoTokenizer.from_pretrained(name)

model = AutoModelForCausalLM.from_pretrained(name, torch_dtype=”auto”, device_map=”auto”)

enable_thinking=True -> ステップごとの推論モード

enable_thinking=False -> ほぼ即時の非思考モード

text = tok.apply_chat_template(messages, tokenize=False, add_generation_prompt=True,

enable_thinking=True)

“`

エージェント的デプロイメントについて、Lin氏はマルチエージェントオーケストレーションを推奨している。オーケストレーターモデルが計画とルーティングを行い、専門化されたサブエージェントがより狭いタスクを実行する。このアーキテクチャは、エージェントタスクが多くのターンやツール呼び出しに及ぶにつれて悪化するコンテキスト汚染を、モノリシックエージェントよりも適切に制御する。

Qwen独自のDeep Researchデモは、研究質問をサブクエリに分解し、外部検索を呼び出し、ソース品質を評価し、根拠のある引用を返すもので、エージェント的パラダイムの初期の例として提示されている。

Apache 2.0ライセンスでリリースされたQwen3ファミリーは、0.6Bから235Bパラメータまでのモデルサイズをカバーし、MoEバリアント(30B-A3Bおよび235B-A22B)はトークンあたり128のエキスパートのうち8つを活性化する。GGUF、GPTQ、AWQ、MLXを含む量子化フォーマットが利用可能である。

出典: Qwen’s Former Lead on What Hybrid Thinking Got Wrong and Why He Now Backs Agents (MarkTechPost, 2026年7月); Qwen: Towards a Generalist Model / Agent (講演) (YouTube); Alibaba’s Qwen tech lead steps down (TechCrunch, 2026年3月); From ‘Reasoning’ Thinking to ‘Agentic’ Thinking (Lin氏のブログ)

雅子 訳

Scroll to Top