AIモデル評価ツール「Systema」開発(Advanced AI models are not always better than simple ones)

ad

2025-08-28 スイス連邦工科大学ローザンヌ校(EPFL)

EPFLの研究チームは、遺伝子変異が細胞に与える影響を予測するAIモデルを比較し、高度なモデルが常に優れているわけではないことを示した。新たに開発された評価ツール「Systema」を用いて検証したところ、複雑なAIよりも単純な統計手法の方が同等か優れた性能を示す場合があり、従来の評価基準では見抜けない「系統的バイアス」をAIが学習している可能性が判明した。Systemaはこの偏りを除去し、変異固有の効果を強調できる仕組みを持つが、それでも未知の変異予測は依然難しい。研究者らは、生物学的に意味のある基準に基づいた評価と、多様な実験データや高解像度の細胞情報の導入が必要だと提言している。

<関連情報>

Systema:系統的変動を超えた遺伝子撹乱応答予測評価のためのフレームワーク Systema: a framework for evaluating genetic perturbation response prediction beyond systematic variation

Ramon Viñas Torné,Maciej Wiatrak,Zoe Piran,Shuyang Fan,Liangze Jiang,Sarah A. Teichmann,Mor Nitzan & Maria Brbić
Nature Biotechnology  Published:25 August 2025
DOI:https://doi.org/10.1038/s41587-025-02777-8

AIモデル評価ツール「Systema」開発(Advanced AI models are not always better than simple ones)

Abstract

Predicting transcriptional responses to genetic perturbations is challenging in functional genomics. While recent methods aim to infer effects of untested perturbations, their true predictive power remains unclear. Here, we show that current methods struggle to generalize beyond systematic variation, the consistent transcriptional differences between perturbed and control cells arising from selection biases or confounders. We quantify this variation in ten datasets, spanning three technologies and five cell lines, and show that common metrics are susceptible to these biases, leading to overestimated performance. To address this, we introduce Systema, an evaluation framework that emphasizes perturbation-specific effects and identifies predictions that correctly reconstruct the perturbation landscape. Using this framework, we uncover insights into the predictive capabilities of existing methods and show that predicting responses to unseen perturbations is substantially harder than standard metrics suggest. Our work highlights the importance of heterogeneous gene panels and disentangles predictive performance from systematic effects, enabling biologically meaningful developments in perturbation response modeling.

細胞遺伝子工学
ad
ad
Follow
ad
タイトルとURLをコピーしました