2023年3月18日17:00，暨南大学EMBA知行讲堂第61期在管理学院219如期举行。

本次讲座的主讲老师为李明博士，他所讲主题为“人工智能安全及合规应用”。讲座共分为人工智能发展的态势、人工智能的安全问题、人工智能的合规应用以及分享讨论四个部分。李明老师以深入浅出的讲解，给同学们上了一堂丰富精彩的讲座课。

主讲老师——李明

信息安全博士，从事区块链安全、人工智能安全及隐私计算等数据安全方面研发工作近十年。

曾任职于华为技术有限公司，兼任中国计算机学会CCF区块链专委会委员、中国人工智能学会CAAI智能服务专业委员会委员、中国计算机学会CCF大数据专委会委员、中国计算机学会CCF信息保密专委会委员、广东数据资产登记合规委员会委员、广东省计算机学会元宇宙与交互智能技术专业委员会委员、广东省数字政府资源池专家。

先后在加拿大、新加坡留学访问，近年来在IEEE TDSC、IEEE TIFS、IEEE TPDS等重要期刊发表20余篇论文。获2021年度广东省自然科学一等奖，连续两年获广东省计算机学会优秀论文一等奖。受邀中科院推荐SCI期刊《Electronics》客座编委，担任KSEM 2022、PST 2019、PST 2021等多个国际会议的程序委员会委员。近年来主持及承担国家自然科学基金青年基金、国家自然基金重点项目、广东省自然科学基金项目、国家自然基金面上项目10余项。申请国内外公开发明专利共计40余项，其中已授权发明专利24项，入选由全球影响力知识产权媒体IPRdaily发布的“全球区块链专利创新人才百榜”。

01 人工智能发展的态势

首先李明老师从人工智能发展的历史讲起。

他提到人工智能的发展可分为形成期、黯淡期、知识应用期、集成发展期以及发展黄金期。我们目前所处的是人工智能的黄金阶段，也可以看成是人工智能发展的爆发期，比如最近出现的很火的人工智能应用“Chat GPT”。

从历史的脉络来看，人工智能领域的发展存在一个曲折的发展，有波谷也有高峰发展期。那么人工智能技术为什么在经历了波谷时期后，如今迎来高峰阶段呢？

李明老师表示原因是在于可用数据的指数性剧增、计算能力不断增强以及新算法的突破。在此背景下，国内外很多巨头科技企业不断研发人工智能应用，而这一发展过程也存在诸多安全问题。

02 人工智能的安全问题

紧接着，李明老师以历史发展为铺垫，带领同学们详细分析了人工智能领域所存在的安全问题。在正式进入主题前，李明老师提到人工智能领域重要的一环是“机器学习”，“机器学习”首先需要有原始数据或者数据库，因此要花费大量人力、物力进行数据管理。伴随“机器学习”的过程，许多安全问题也会出现。

李明老师指出人工智能领域安全问题主要体现在可用性、完整性以及威胁性三个主要方面。在可用性上，人工智能存在自身隐患，如框架漏洞、算法自身缺陷；在完整性上，人工智能可能遭遇到模型攻击，主要的模型攻击方式有数据重构攻击、模型窃取攻击、成员推断攻击、数据投毒攻击等方式；在威胁性上，人工智能会有偷取隐私、破解认证等危险。

李明老师谈到，在众多安全隐患中，泄漏模型、泄漏原始数据和个人隐私是目前业界关注的核心问题。

03人工智能的合规应用

接下来，讲座进入到第三部分“人工智能的合规应用”。

为什么要提出合规应用的观点？李明老师表示因为数据作为一种生产要素，需要政策性的合规引导。数据作为重要的生产原料，有利于企业的数字化转型、业务提升。因此，今年的两会提出组建国家数据局，进一步统筹数据经济活动、数据经济建设等。

老师还提到数据同时还作为一种商品，需要质量合规。在法律层面上，中国电子信息行业联合会团体标准发布了《数据合规管理体系要求》。在国家层面上，数据交易所成立，可以认定企业使用的数据产品是否合规的。可以说，我国在人工智能的合规应用上正处于不断摸索的阶段，以规则、技术、管理的合力不断推进。

目前，人工智能领域也存在不合规的应用，比如攻击、伪造逃逸、认证破解、偷窃隐私、代码攻击、人脸伪造等。

总的来说，老师谈到无论是国内还是国外，许多企业在人工智能领域做出许多成果。按不同企业的“机器学习”模型来看，大致可分为协作式机器学习、联邦学习，机器学习即服务。企业对模型的应用，存在大小模型之分。但不管是大模型还是小模型，它们之间是相互依赖、依存的。大模型需要小模型调优，演练特定场景的数据，而小模型需要大模型提供数据

04 讨论环节

在讲座内容结束后，李明老师与同学展开了热烈的讨论。在这一环节，大家积极与李明老师进行沟通交流，现场十分活跃。

李明老师向同学们提问第一个问题“人工智能应用和人工智能安全，你更关心哪个方面”。同学们就此问题踊跃分享和交流。有的同学关注数据应用的安全问题，对数据使用是否获得允许提出了疑问，比如“Chat GPT”的数据来源。

有的同学则从用户的角度提出了自己关于人工智能应用的看法。还有的同学谈到应用合规会影响业务的发展，自己更关注安全与业务平衡兼顾的问题。还有同学提问“人工智能的替代性越来越强，未来，人类应该怎么做才不会被人工智能所替代。”李明老师耐心听取同学们的意见，并给出了自己看法。

接着，李明老师进一步抛出第二个问题“国外大模型不断出现，我们应该怎么做？”有的同学提出了自己的看法，表明自己的观点。老师肯定了同学们的回答，并作了耐心的回应。

李明老师与同学们互动，并针对同学们的问题逐一进行解答，为同学们提供了讲座之外的知识与干货。

最后，大家一同合影留念，本次讲座在大家的鼓掌声中结束。人工智能领域的未来充满各种可能，正如同我们身上的潜能一样。因此，大家要保持学习，追求进步，做到知行合一，方能更好应对未来！

知而行之，行而知之，知行合一，EMBA知行讲堂是暨南大学EMBA面向学生和校友推出的系列品牌学习活动，将帮助暨南人分享管理实践经验，品读人文经典，交流华商思想，领略“笃学”的真谛。

编辑：梁萍