材料中电子和空穴通过吸引库伦相互作用形成束缚电子－空穴对，被称为激子。在窄带隙半导体或半金属（带隙为负）中，当激子束缚能超过带隙，在足够低的温度下激子会发生凝聚，形成一类奇特的关联绝缘基态——激子绝缘体态。激子绝缘体的概念在半个世纪前就已经被提出，但在真实材料中是否存在一直是争论的话题。激子凝聚过程中电子态对称性破缺，通过电子－晶格耦合引起晶体对称性破缺，导致电子和晶格不稳定的共存。目前仅有很少的候选材料，例如Ta2NiSe5和1T-TiSe2，它们的能隙打开伴随强烈的晶格畸变，并且声子谱计算表明晶格存在自发不稳定的倾向，引发了关于相变起源的广泛争论，即激子不稳定引起晶体对称性破缺，还是晶格畸变导致杂化能隙打开。
/北京凝聚态物理国家研究中心EX7组博士生黄杰瑞、博士生江北和研究员钱天，HM-T03组博士生姚静宇、博士生高嘉成、博士后郭照芃和研究员王志俊，HM01组博士后闫大禹和研究员石友国，A01组博士生雷鑫铖和研究员苏东，HX-Q02课题组博士后李宇鹏和特聘研究员沈洁，A02组副研究员金士锋，SC8组副主任工程师马肖燕和研究员李世亮，EX9i组副研究员金峰和研究员张清明等人通过建制化的科研合作，结合材料制备、理论计算、电子结构和晶体结构表征，在范德瓦尔斯结构的拓扑材料Ta2Pd3Te5中揭示了激子绝缘态存在的证据。
无相互作用的第一性原理计算表明Ta2Pd3Te5具有半金属能带结构，价带和导带之间存在轻微的交叠（图1c），然而输运和电子结构测量显示其基态是全局能隙的绝缘态（图1d-f）。在计算中考虑自旋－轨道耦合、晶格常数变化以及在位电子－电子库伦相互作用均不能得到绝缘态。而将电子－空穴吸引库仑相互作用考虑到计算中后，发生电子态对称性破缺，允许价带和导带杂化打开能隙，形成激子绝缘态（图2c）。光子能量依赖的角分辨光电子能谱（ARPES）实验证实了带间杂化的存在（图2e,f）。
在激子绝缘态中，高温下热激发载流子数目的增加会屏蔽电子－空穴库伦相互作用，削弱激子稳定性，最终恢复到正常相。图3中温度依赖ARPES数据显示随着温度升高能隙逐渐减小并且演变成线性的能带色散。利用泵浦－探测ARPES技术，通过增加泵浦光功率，可以极大提升瞬态电子温度，增加热激发载流子数目。图4中泵浦－探测ARPES数据显示在高泵浦光功率下能隙关闭并演变成几乎无能隙的线性能带色散，而在远离布里渊区中心的位置能带色散不变（图4c）。这些平衡态和非平衡态的ARPES数据很好地符合激子绝缘体图像。
在激子绝缘态中，电子态对称性破缺通过电子－晶格耦合会引起晶体对称性破缺。单晶X射线衍射（图5b）、比热（图5c）和拉曼光谱实验并没有探测到结构转变，只有透射电镜电子衍射数据显示消光点在绝缘态出现微弱的信号（图5d,e），表明绝缘态中存在微小的晶格畸变。能带计算显示这个微小的晶格畸变对能带结构的影响可以忽略不计，不能解释绝缘态的能隙打开。声子谱计算也表明高温金属相的晶体结构是稳定的（图5a），没有自发对称性破缺的倾向。
综合以上实验结果和理论分析，Ta2Pd3Te5中绝缘基态起源于激子不稳定导致的能隙打开，而晶体对称性破缺只是激子凝聚的副产物。理论计算预言打开能隙的单层Ta2Pd3Te5是高阶拓扑绝缘体，关联效应和非平庸拓扑性质的结合可能形成拓扑激子绝缘态，并且激子能隙的打开稳定了体态的绝缘特性，有利于进一步研究和调控拓扑边缘态的新奇物性。
该工作近期发表在【Physical Review X 14, 011046 (2024)】，得到科技部、基金委、 等项目以及怀柔综合极端条件实验装置、上海同步辐射光源的支持。论文中的主要ARPES数据在 EX7组自主设计搭建的时间分辨ARPES设备上采集。物理所石友国、王志俊、钱天、沈洁、李俊等人还参与了南京大学教授张鹏等人关于Ta2Pd3Te5激子绝缘体的工作Physical Review X 14, 011047 (2024)。
论文链接：https://journals.aps.org/prx/abstract/10.1103/PhysRevX.14.011046
图1 无相互作用的第一性原理计算以及输运、ARPES、STS实验结果
图2 考虑电子－空穴库伦相互作用理论计算和光子能量依赖ARPES数据
图3 温度依赖ARPES数据
图4 泵浦光功率依赖ARPES数据
图5 声子谱计算以及单晶XRD和电子衍射实验结果