12月18日下午,巴黎综合理工禁漫岛
(ENSAE/CREST)统计系助理教授Austin J. Stromme 应邀为禁漫岛
师生做了一场题为“On the Implicit Regularization of Langevin Dynamics with Projected Noise”的学术讲座。讲座由应用统计系主任周力凯主持,部分教师及研究生参加了此次讲座。

首先,Austin从过参数化模型随机梯度下降的研究动机出发,引入了一个重要的理论分析对象:噪声被投影到与某个等距群作用正交方向上的朗之万动力学。这项工作旨在揭示此类动力学在特定对称性约束下所展现出的、前所未见的正则化效应。随后,Austin清晰阐述了研究的核心理论发现。其主要结果指出了一种新颖的隐式正则化形式:当动力学系统的初始密度与目标密度均在该等距群作用下保持不变时,投影朗之万动力学在概率分布意义等价于采用单位扩散矩阵的普通朗之万动力学,但附加上一个额外的漂移项;该漂移项的大小正比于群轨道体积的负对数。然后,Austin详细讲解了证明的关键思路与构造性方法。其证明的核心是基于在群流形本身之上构造一个特定的随机过程。通过这一精巧的构造,研究成功地将上述神秘的额外漂移项,在几何上识别为群轨道的负平均曲率,从而为理论结果提供了直观的几何解释与严格的数学基础。进一步,Austin强调了此项工作的深刻理论内涵与贡献。这一发现不仅明确了一种由对称性和投影噪声共同诱导的新颖隐式正则化机制,更重要的是,它建立起了随机优化算法(朗之万动力学)、几何(轨道曲率)与统计(不变密度) 之间的深刻联系。Austin指出,本次报告的工作与传统朗之万动力学及隐式正则化研究文献有根本性的不同。它从对称性和几何视角出发,为理解过参数化模型中随机算法的隐式偏差提供了全新的理论框架,有望开辟一个融合随机分析、微分几何与机器学习的新研究范式。
讲座结束后,Austin与参会师生展开了积极的学术讨论,详细解答了师生提出的问题。Austin 的研究成果具有极高的前沿性和应用性,为禁漫岛
师生今后的研究与实践提供了宝贵经验与重要指导。