数字经济与政策智能工信部重点实验室

数字经济与政策智能工业和信息化部重点实验室

Digital Economy and Policy Intelligentization Key Laboratory of Ministry of Industry and Information Technology

【明理讲堂2023年第7期】合肥工业大学柴一栋研究员：考虑对抗攻击威胁的鲁棒人工智能方法研究

应管理与经济学院的邀请，合肥工业大学管理学院柴一栋研究员于2023年3月18日上午11点在主楼317会议室做了题为《考虑对抗攻击威胁的鲁棒人工智能方法研究》的学术报告。报告会由颜志军书记主持，学院众多师生参加了本次报告会。

报告开始，柴一栋首先通过图片识别和文本识别等案例揭示了目前智能模型方法在安全性方面的漏洞。其中，对抗攻击（Adversarial Attack）通过对原始样本进行轻微扰动生成对抗样本（Adversarial Samples），实现对智能模型的欺骗，从而对智能模型的安全造成严重威胁。为此，柴一栋基于技术威胁规避理论(TTAT)，从如何评估智能模型抵御对抗攻击的能力（对抗鲁棒性）以及如何提升智能模型的对抗鲁棒性两个方面展开了阐述。

最后，柴一栋对智能模型抵御对抗攻击在管理方面的应用进行了总结，并指出管理组织应提高智能模型的模型设计信息和训练数据集的保密性，并通过限制访问次数来提高智能模型抵御对抗攻击的能力。

报告结束后，与会师生与柴一栋展开了积极的讨论，受到了很多启发。报告反响热烈，得到了师生们的一致好评。

主讲人简介：

柴一栋，合肥工业大学研究员，博士生导师。博士毕业于清华大学经管学院管理科学与工程系，本科毕业于北京理工大学信息管理与信息系统专业，主要关注如何设计创新性的人工智能方法，更好地服务于个人、组织和社会的现代科学化管理，研究领域包括信息系统安全与网络空间管理（医联网安全等）、智慧医疗管理、商务智能管理等。以第一作者或通讯作者发表研究成果于MISQ、ISR、JMIS、IEEE TDSC、IEEE TPAMI等国际管理学/计算机科学顶刊。荣获国际信息系统权威会议WITS 2021 best paper award、清华大学优秀博士论文等荣誉。