分布式深度学习训练:异步、去中心化和压缩

  主讲人:Prof. Ji Liu(刘霁) Assistant Professor,University of Rochester

  时间:2018年11月21日(周三)下午 2:00

  地点:计算所446会议室

  摘要:

  本次报告主要介绍本课题组最新的研究成果:几种最新的并行优化的技术,用以提高大规模深度学习训练的效率,包括异步并行、去中心化技术,以及压缩方法。本次报告将会覆盖理论和实验研究的大量结果,其中一些技术已经用到了现今的深度学习平台上(如tensorflow等),或正在被主流机器学习平台开发团队移植。本次报告介绍的几个技术可以相互促进,结合使用。

  主讲人简介:

  刘霁博士是美国罗切斯特大学计算机系和电子工程系的Assistant professor。 他本科毕业于中国科学技术大学自动化专业,随后获得亚利桑那州立大学计算机硕士,和威斯康辛大学计算机博士学位。他的研究广泛的涵盖了人工智能诸多方面:机器学习,优化,强化学习,数据分析,计算机视觉,健康医疗,生物信息学,机器人,迁移学习等等。他获得过SIGKDD最优论文提名,UAI Facebook最优学生论文,IBM教职奖。他还是MIT TR35中国的获得者。他在顶级的计算机会议和期刊上发表超过60篇论文(如NIPS, ICML, JMLR等)。