Kitaev量子自旋液体近年来引起了研究人员的广泛关注。与以往利用各向同性的磁性相互作用和具有几何阻挫的晶格（如：笼目晶格上的反铁磁Heisenberg模型）去寻找量子自旋液体的思路不同，Kitaev蜂窝模型虽然具有严格可解的零温量子自旋液体基态，但模型中每组磁性相互作用都具有高度的各向异性。这种局部各向异性与晶格整体的对称性合在一起，阻止了低温下磁长程序的产生。这一特点也使Kitaev蜂窝模型在加入了其它种类的磁性相互作用以后比较容易形成丰富的磁有序态。因此也可以认为，Kitaev量子自旋液体在理想模型中的实现是多种磁有序态彼此剧烈竞争的结果。
多种有序态之间“势均力敌”的竞争可以类比于力学系统中的不稳定点。在不稳定点附近，任何打破平衡的微小因素都可能产生被极端放大的物理后果。在此前的理论研究中（PRL125，047201，2020），晶体材料Na3Co2SbO6被认为恰好是这样的材料，它在相互作用参数空间里处于铁磁和反铁磁有序的交界附近（偏向反铁磁一侧，材料在低温7K以下会出现反铁磁有序），并且在距离该位置不远的参数条件下有可能存在量子自旋液体相。与Na2IrO3和α-RuCl3等重要的Kitaev模型候选材料一样，Na3Co2SbO6具有单斜的晶体结构，其空间群对称性比理想的Kitaev蜂窝模型要低。在以往的绝大多数研究中，这些材料仍然被近似看待成具有Kitaev蜂窝模型的对称性，其中包括绕蜂窝平面法线的六重旋转对称性。
在本项研究工作中，李源课题组成功生长出了大尺寸、高质量的Na3Co2SbO6单晶。尤为难得的是，他们发现有一小部分晶体是单畴的（不含孪晶），从而能够显示出体系本征的磁各向异性。细致的测量结果表明，尽管单斜的晶体结构只造成蜂窝平面不足0.2%的形状改变，却让晶体在低温下对外磁场产生极为各向异性的响应，完全失去了六重旋转对称性（图1）：无论从磁化率来看，还是从触发相变的临界磁场来看，蜂窝平面内的磁各向异性程度都超过了200%，比形状的各向异性大了3个数量级。这刚好符合前面提到的多种磁有序竞争使体系处于不稳定点附近的判断。受这些结果启发，课题组进一步与美国、日本、澳大利亚的多个中子散射团队合作完成了一系列低温和外磁场条件下的中子衍射测量。实验结果验证了磁有序竞争的物理图像。随着外磁场的施加，体系依次进入多种不同的反铁磁和铁磁有序态，这些态具有不同的波矢和一种潜在的共性（图2）：蜂窝晶格的锯齿（zigzag）边上存在链状的铁磁自旋关联。通过升高样品的温度、让铁磁链显得彼此独立，可以在中子衍射中观察到倒易空间里 “六芒星”形的信号。这些实验结果表明Na3Co2SbO6拥有Kitaev量子自旋液体模型的一部分关键特性，并在外场中具有很好的可调控性，有希望被用来寻找新奇的磁性量子物态。为此，相关课题组已正在开展后续的实验探索。
图1. （左）展示了单畴晶体在不同方向的面内磁场中的磁化率；（中）展示了ab方向上的磁场诱导相变；（右）展示了临界磁场相对于蜂窝晶格的角向分布
图2.（左）两个不同方向上的面内磁场诱导相变背后的磁有序波矢变化；（右）多种磁有序的潜在共性：沿蜂窝晶格锯齿边的链状自旋关联，它对应倒易空间里“六芒星”形的漫散射图案
北京大学物理学院量子材料科学中心已出站的“博雅计划”博士后李昕彤、北京大学物理学院本科生顾昱晨和博士生陈越是论文的共同第一作者，李源、李昕彤，以及美国布鲁克海文国家实验室的Igor A. Zaliznyak为本文的共同通讯作者。针对单畴晶体的X射线衍射和转角磁化测量分别与彭莹莹课题组（博士生肖铅、郑希诠）以及公共材料表征实验室的叶子荣博士合作完成。中子散射实验全部在疫情期间通过远程实验完成，这些实验得到了美国橡树岭国家实验室、日本J-PARC中子源、澳大利亚中子散射中心多位谱仪科学家的大力支持。上述研究工作得到了国家重点研发计划和国家自然科学基金的支持。
