报告专家：韩丛英教授（中国科学院大学）

报告题目：机器学习中的随机方差缩减类算法研究

报告地点：腾讯会议 ID: 932389532

报告时间：2021年05月21日20:00

报告简介：在大规模机器学习问题中，随机优化方法是求解其中优化问题最重要、最基础的方法，其中最主要的方法是随机梯度下降（SGD）方法。近几年，提高SGD算法性能的研究工作层出不穷，其中最主要的一类算法是随机方差缩减类算法，本报告主要介绍我们所研究的随机方差缩减类方法，包含：结合重要采样技术提出的SARAH-I和SARAH-BB算法；以及带自适应步长的SARAH-AS算法和SVRG-AS算法，实验结果表明，我们提出的算法优于SARAH和SVRG-BB算法。

专家个人简介：中国科学院大学数学科学学院教授，博士生导师。中国运筹学会第十一届理事会副秘书长、中国运筹学会图论与组合分会第五届理事会常务理事。主要的研究方向最优化理论与算法、机器学习的理论与应用、模式识别等。在国内外学术刊物上发表论文多篇、先后主持了国家基金委重点项目、面上项目和青年项目、中国科学院先导专项子课题及各类企业联合课题等。先后获得中国运筹学会科学技术奖一等奖、国际运筹学会运筹学发展奖二等奖(IFORS prize for OR in development, Runner-up)。获得中国科学院“朱李月华”优秀教师奖。