智能算法安全重点实验室

部门介绍

人工智能是人类发展新领域,人工智能技术的快速发展带来难以预知的各种风险和复杂挑战。为此,在发展人工智能技术的同时不断提升人工智能技术的安全性、可靠性、可控性、公平性,积极发展用于人工智能治理的相关技术开发与应用,支持以人工智能技术防范人工智能风险,提高人工智能治理的技术能力,是全人类面临的共同课题。

智能算法安全重点实验室面向智能算法安全治理和网络空间认知计算国家重大需求,聚焦智能算法的可信域判定、透明化监测、临界点调控等人工智能安全的重大挑战,重点开展智能算法安全基础理论与模型、智能算法风险监测与安全评估、算法博弈与社会认知计算三方面研究,实现复杂场景、开放环境和非信任条件下智能算法的“可信、可管、可控”。

实验室是国家互联网信息服务算法治理和网络空间安全的战略科技力量。团队以大数据处理、人工智能和算法安全为主要方向,汇聚了以青年科研骨干为主的科研创新群体,目前团队国家杰青等国家级人才4人,北京市科技新星2人,中科院青年创新促进会会员6人。近十年四次获得国家科学技术奖励(1次技术发明奖、3次科技进步奖),十余次获得省部级和行业学会科学技术奖励,在领域国际顶级会议发表论文的数量长期居于国内领先行列,六次获得国际学术会议最佳论文奖励。