Les grands modèles de langage ont transformé la façon dont les machines traitent le texte, mais leur capacité à apprendre le « langage de la géométrie moléculaire », c’est-à-dire l’arrangement spatial des atomes en trois dimensions, est restée largement inexplorée. Une nouvelle prépublication d’une équipe dirigée par Joseph Cavanagh et Teresa Head-Gordon à l’Université de Californie à Berkeley suggère que la réponse est : remarquablement bien.
Les chercheurs ont affiné des LLM de pointe sur des géométries moléculaires et ont constaté que l’approche surpasse les modèles d’apprentissage profond spécialisés pour prédire les structures d’équilibre et générer divers conformères de petites molécules organiques et de type médicamenteux, tout en conservant les capacités linguistiques naturelles pré-entraînées du modèle.
Coordonnées cartésiennes vs Z-matrices
Les molécules peuvent être décrites en trois dimensions de deux manières principales. Les coordonnées cartésiennes (positions x, y, z pour chaque atome) sont intuitives et largement utilisées, mais elles ne sont pas invariantes par rotation ou translation, la même molécule décrite dans une orientation différente ressemble à une structure différente pour le modèle.
Les Z-matrices, une représentation plus ancienne courante en chimie computationnelle, spécifient la position de chaque atome par rapport aux atomes précédemment placés à l’aide de longueurs de liaison, d’angles de liaison et d’angles dièdres. Cette représentation capture intrinsèquement la structure relationnelle d’une molécule, quels atomes sont liés à quels autres, à quelles distances et dans quelle orientation par rapport aux voisins.
L’équipe a constaté que les deux représentations fonctionnaient, mais que la Z-matrice était clairement supérieure. « Les invariances inhérentes et la nature relationnelle des géométries représentées sous forme de Z-matrices fournissent une meilleure grammaire pour l’adaptation des LLM », écrivent les auteurs.
Performance et implications pratiques
Les LLM affinés ont surpassé les modèles d’apprentissage profond spécialisés, y compris les réseaux de neurones graphiques et les réseaux équivariants, dans la prédiction des structures d’équilibre (la géométrie de plus basse énergie qu’une molécule adopte) et la génération de conformères divers et chimiquement plausibles (arrangements tridimensionnels alternatifs avec des énergies similaires).
L’approche est également remarquablement simple : aucun changement d’architecture complexe, aucune fonction de perte personnalisée, aucune ingénierie de caractéristiques spécifique au domaine. Le processus standard d’affinage des LLM, traitant les géométries moléculaires comme des séquences de jetons, fonctionne avec une modification minimale.
Crucialement, l’équipe a montré que le mélange de petites quantités de paires question-réponse en langage naturel dans les données d’affinage préserve la quasi-totalité des capacités linguistiques pré-entraînées du modèle. Cela signifie que le même modèle peut à la fois prédire des géométries moléculaires et répondre à des questions sur la chimie, une capacité à double usage qui ouvre la porte aux agents scientifiques multitâches.
Un nouvel outil pour la découverte de médicaments
Des géométries moléculaires précises sont un prérequis pour la découverte computationnelle de médicaments : prédire comment un candidat médicament se lie à une cible protéique, comment il se comporte en solution et quelles conformations il peut adopter dépendent tous de la connaissance de sa structure tridimensionnelle. Les méthodes actuelles, la théorie de la fonctionnelle de la densité (précise mais lente) et les modèles d’apprentissage automatique spécialisés (rapides mais limités par les données d’entraînement), présentent chacune des compromis.
Un LLM capable de générer des géométries de haute qualité tout en conservant des capacités linguistiques générales pourrait agir comme une interface flexible pour la chimie computationnelle, générant des structures candidates qui peuvent ensuite être affinées avec des méthodes plus coûteuses.
Mises en garde
En tant que prépublication déposée sur arXiv le 15 juillet 2026, ce travail n’a pas encore fait l’objet d’un examen par les pairs. L’étude se concentre sur les petites molécules organiques et de type médicamenteux ; les performances sur des systèmes plus grands, peptides, protéines ou complexes inorganiques, n’ont pas été démontrées. La comparaison avec les modèles spécialisés est prometteuse mais nécessitera une validation indépendante.
Sources :
1. Cavanagh, J.M. et al. « How Well Can Frontier Large Language Models Generate Structures? High Quality Prediction of Molecular Geometries with Help from Fine-Tuning. » arXiv:2607.13350 (2026). https://arxiv.org/abs/2607.13350
Traduit par Lydie