在北航，他立志做人工智能背后最坚实的“盾”！

在北航

有这样一位青年教师

他发表30余篇高水平论文

主持多个国家级科研项目

担任模式识别著名期刊客座编辑

担当国内外顶级会议论坛主席

助力科研成果“重明”产业落地

出任士谔书院小班班主任

他就是计算机学院

刘艾杉

刘艾杉牢记党的二十大报告中对科技人才“以国家战略需求为导向”、“坚决打赢关键核心技术攻坚战”的嘱托，面向国家在重点领域智能化应用的高安全性战略需求，他重点开展安全可靠可信深度学习技术的研究，致力于促进可靠深度学习在高安全风险场景下的健康发展。

在导师李未院士和刘祥龙教授的指导下，刘艾杉从智能模型安全性机理、安全性评测和对抗攻防等角度出发进行了深入的探索，形成了独立自主的体系化智能安全理论技术研究框架，并在国际权威学术期刊和顶级会议上发表论文30余篇。

相关研究成果被人民网、中国搜索等权威媒体专门报道，收录于多项可信赖人工智能白皮书、专著书籍及标准文件中，并被图灵奖获得者John Hopcroft作为领域经典工作进行讨论，得到了广泛的关注，被业内专家认为具有重要研究意义。

面对智能算法在开放复杂的真实环境中广泛应用但安全性和稳定性不足的现状，刘艾杉和团队积极探索研究技术的行业应用与落地。围绕航空航天、智能制造、自动驾驶等领域复杂系统的安全性和可靠性及日益严峻挑战的信息安全问题，他和团队提出了安全关键智能算法的安全性评测和验证分析方法，并研发了集评测、分析、优化一体的全要素、全周期人工智能安全评测平台“重明”。

近日，团队还完成了近20家企业的600余种国产智能深度学习模型算法和系统的安全性验证和评测，有效提升了国产智能算法的安全可靠性。

“传道、授业、解惑”，这是刘艾杉作为一名老师收获的最大的幸福感。

智能软件是新一代信息技术的灵魂，是数字经济发展的重要基础，智能软件能力的建立和持续创新正成为国家核心的竞争能力。

实验室长期从事安全关键软件测试验证工作，首任主任李未院士在上世纪七十年代在安全可靠并发语言领域做出了开创性工作，并在九十年代创新逻辑推理进行软件测试验证和错误修正的研究思路。

在李未院士和现任实验室主任郑志明院士的带领下，实验室在安全关键软件的基础理论、开发方法和软件环境进行了深入研究及广泛探索，承担一系列国家重大/重点科研项目，产生了一系列基础理论和关键技术创新成果，在探月、星载、航母、北斗、指控系统等国家重大任务的型号软件研制中发挥了重要作用。

安全可靠智能创新团队传承了实验室“空天报国”的奋斗精神和“安全可靠”的研究基因，立志在智能时代探索创新关键智能软件环境的安全基础理论与方法、突破重点领域关键软件的安全可靠的核心技术。

团队发力研究安全关键系统的设计开发、验证与测试等关键技术，系统地构建了面向安全关键智能系统的安全可靠智能计算环境，也将在实现基础理论创新的基础上进一步助力人工智能技术在高安全风险的场景下的安全可靠应用和发展。

在未来的道路上

刘艾杉也将继续和

志同道合的小伙伴们一道

做人工智能背后最坚实的“盾”

为人工智能安全可靠保驾护航！