微調整済みLLMが専門的な深層学習モデルよりも分子構造予測で優れた性能を発揮

大規模言語モデルは機械がテキストを処理する方法を変革してきたが、分子の「言語」、すなわち原子の三次元空間配置を学習する能力は、ほとんど未開拓のままであった。カリフォルニア大学バークレー校のJoseph Cavanagh氏とTeresa Head-Gordon氏が率いるチームによる新しいプレプリントは、その答えが「驚くほど良好」であることを示唆している。

研究者らは最先端のLLMを分子構造に微調整し、このアプローチが平衡構造の予測と、小さな有機分子や医薬品様分子の多様なコンフォマー(同程度のエネルギーを持つ代替三次元配置)の生成において、専門的な深層学習モデルを上回りながら、モデルの事前学習済み自然言語能力を維持することを発見した。

デカルト座標 vs Z行列

分子は三次元的に2つの主な方法で記述できる。デカルト座標(各原子のx、y、z位置)は直感的で広く使われているが、回転や平行移動に対して不変ではない、同じ分子でも異なる方向で記述すると、モデルにとっては別の構造のように見える。

Z行列は、計算化学で一般的なより古い表現法で、結合長、結合角、二面角を用いて、各原子の位置を既に配置された原子との相対関係で指定する。この表現法は分子の関係構造、どの原子がどの原子と結合しているか、どのような距離で、どのような方向にあるかを本質的に捉えている。

チームは両方の表現が機能するが、Z行列が明らかに優れていることを発見した。「Z行列として表現された構造の固有の不変性と関係性の性質は、LLM適応のためのより良い文法を提供する」と著者らは記している。

性能と実用的意義

微調整されたLLMは、平衡構造(分子が採用する最低エネルギー構造)の予測と、多様で化学的に妥当なコンフォマーの生成において、グラフニューラルネットワークや等変ネットワークを含む専門的な深層学習モデルを上回った。

このアプローチは驚くほどシンプルでもある:複雑なアーキテクチャ変更、カスタム損失関数、ドメイン固有の特徴工学は一切不要である。分子構造をトークン列として扱う標準的なLLM微調整プロセスは、最小限の修正で機能する。

重要なことに、チームは微調整データに少量の自然言語のプロンプト・応答ペアを混ぜることで、モデルの事前学習済み言語能力のほぼすべてが維持されることを示した。これは、同じモデルが分子構造の予測と化学に関する質問への回答の両方ができることを意味し、マルチタスク科学エージェントへの扉を開く二重用途の能力である。

創薬のための新しいツール

正確な分子構造は計算創薬の前提条件である:薬剤候補がタンパク質標的にどのように結合するか、溶液中でどのように振る舞うか、どのようなコンフォメーションを取り得るかの予測は、すべて三次元構造の知識に依存している。現在の手法、密度汎関数理論(正確だが低速)と専門的な機械学習モデル(高速だが学習データに制限される)、にはそれぞれトレードオフがある。

高品質な構造を生成しながら一般的な言語能力を維持できるLLMは、計算化学のための柔軟なフロントエンドとして機能し、より高コストな手法で精緻化できる候補構造を生成する可能性がある。

注意点

2026年7月15日にarXivに投稿されたプレプリントとして、この研究はまだ査読を経ていない。研究は小さな有機分子と医薬品様分子に焦点を当てており、ペプチド、タンパク質、無機錯体などのより大きなシステムでの性能は実証されていない。専門モデルとの比較は有望だが、独立した検証が必要となるだろう。


出典:

1. Cavanagh, J.M. et al. 「How Well Can Frontier Large Language Models Generate Structures? High Quality Prediction of Molecular Geometries with Help from Fine-Tuning.」 arXiv:2607.13350 (2026). https://arxiv.org/abs/2607.13350

雅子 訳

Scroll to Top