2022年10月18日下午,澳门大学徐礼虎副教授应邀在腾讯会议(ID:693-815-084)开展了一场题为“Approximation to stochastic variance reduced gradient algorithms by stochastic differential delay equations”的学术讲座。本次讲座采用线上线下相结合的方式,线下讲座在综合楼644会议室举行,由太阳成集团tyc7111cc陈振龙院长主持,太阳成集团tyc7111cc王伟刚老师、研究生参与了此次讲座。
徐礼虎副教授是澳门大学副教授,主要研究方向为随机分析,极限定理,斯坦因方法等。目前在Annals of Statistics, Probability Theory and Related Fields, Annals of Applied Probability, Bernoulli, Journal of Functional Analysis, Stochastic Processes and Their Applications等杂志发表40余篇论文。
此次讲座,徐副教授主要向在场师生介绍了SVRG算法,随机方差降低梯度(SVRG)算法是 Johnson 和 Zhang 在 2013年的NIPS中提出的,在训练神经网络中得到了广泛的应用。在徐副教授简洁明了的介绍中,我们快速地对随机方差降低梯度算法有了初步的了解。随后,徐副教授严格证明了SVRG 在一定条件下可以用延迟随机微分方程(SDDEs)来近似,并给出非凸的例子,并对比了SDDE 的强耗散和方差缩减效应。最后,徐副教授对 SVRG 给出了一个新的解释。
上一条: 没有了 |
下一条: 没有了 |