隨著越來越多的數據可用，通過使用高性能計算和高通量實驗，機器學習（ML）已被證明具有加速科學研究和技術發展的潛力。目前，材料科學采用數據驅動的方法仍處于早期階段，ML模型的預測和內部流程應提供一定程度的可解釋性，允許識別潛在的模型問題或限制并揭示可能導致科學見解的意外相關性。

在此，美國麻省理工學院Felipe Oviedo、英國盧瑟福阿普爾頓實驗室Keith T. Butler等人總結了可解釋性ML技術在材料科學和化學中的應用，并討論了這些技術如何改善科學研究的成果。首先，作者定義了ML中兩種可解釋性，即“interpretability”和“explainability”的基本概念，并通過提供該領域的示例使其具體化。“Interpretability”是指模型的整個工作流程可以被人類理解；“Explainability”是指模型可以生成解釋，包括通過檢查模型或使用其他一些事后方法（外部解釋）等。

作者展示了與一般應用相比，科學ML中的可解釋性如何具有額外的限制。基于ML中的正式定義，作者制定了科學問題中模型解釋的可解釋性、完整性和科學有效性之間的基本權衡。在這些權衡的背景下，作者討論了如何構建可解釋的ML模型，包括模型提供了哪些見解及有哪些缺點等。

圖1. 一些ML中的關鍵概念及權衡

進一步，作者展示了許多可解釋ML在各種實驗和模擬研究中的應用示例，包括第一性原理計算、物理化學表征、材料開發及與復雜系統的集成。作者根據感興趣的科學研究的性質和限制，討論了這些案例中可解釋性的不同影響和用途。此外，作者還總結了材料科學中可解釋ML的各種挑戰，包括模型解釋缺乏置信區間或誤差分布、解釋沒有強有力的因果保證或抵抗共同影響的彈性等。

特別是，作者強調了通過純粹可解釋ML模型來推斷因果關系或達到泛化的風險及對模型解釋的不確定性估計的需要。最后，作者展示了其他領域中可解釋ML的發展，可能有利于材料科學問題的可解釋性。為ML模型添加可解釋性通常不需要比構建模型本身更多的技術知識，希望該綜述將激發對ML模型的深入研究。

圖2. 從物理或化學數據中直接提取知識及其應用展示

Interpretable and Explainable Machine Learning for Materials Science and Chemistry, Accounts of Materials Research 2022. DOI: 10.1021/accountsmr.1c00244