教科动态
当前位置: 本站首页 · 本科生教育 · 教科动态 · 正文
“信息工程学院学者论坛”开展第三十三期:隐私保护机器学习:密码学与人工智能的碰撞
日期:2026-11-10  发布人:谷浩宇 摄影:伍恩慈  点击数:

11月9日下午,信息工程学院在明德区才德楼A203成功开展了第33期“信息工程学院学者论坛”学术讲座。本次讲座特邀鹏城国家实验室杨文梯博士,围绕“隐私保护机器学习:密码学与人工智能的碰撞”这一主题展开深入分享。讲座由信息工程学院副院长廖文星主持,吸引了学院众多师生踊跃参与。

讲座中,杨文梯博士从现实场景导入,提出在 AI 服务中,如何同时实现原始数据不泄露、模型不泄露、保障 AI 计算有效性这一现实问题。他讲解密码学明文、密文、密钥基础概念,对比传统加密方案的局限,重点介绍同态加密技术,阐释同态加密密钥生成、加密、密文计算、解密四大执行步骤,对比Paillier、BFV/BGV、CKKS不同同态加密方案适用场景,说明密文运算会受噪声、乘法深度、重线性化等因素带来的计算开销问题。围绕密码学与人工智能的结合,他介绍基于同态加密的 AI 推理完整流程,结合神经元计算、Transformer注意力机制,剖析神经网络内部运算构成,指出同态加密擅长加法、乘法运算,但ReLU、Softmax、GeLU、LayerNorm这类非线性算子是密文推理的主要难点,可通过多项式近似、安全多方计算等方式对非线性函数做适配处理,同时需要权衡精度、安全、效率三者之间的关系。他梳理了隐私保护AI推理领域的研究演进历程,从早期小型图像识别逐步发展到十亿参数大语言模型安全推理;拓展介绍保密性、完整性、计算正确性等密码学多维能力,以及AI Agent工作流下零知识证明等更多密码学技术的应用需求。杨文梯还介绍团队在基于同态加密-安全多方计算的 Transformer安全推理、基于零知识证明的可验证神经网络推理方向的研究成果与论文工作,面向本科生梳理不同难度的研究切入路径,介绍可使用的开发工具,展示相关竞赛项目与系统实现效果。最后,他总结科研的完整实施路径,从发现理解问题、定位研究小切口、设计优化方案到开展实验验证,引导同学们正确认识科研,不必一味追求开辟全新方向,对现有工作做出可靠改进同样具备科研价值。

讲座现场

讲座结束后,廖文星高度肯定了本次讲座的学术价值。他指出,杨文梯博士的分享内容详实,把密码学和人工智能交叉领域的理论难点、工程实践、科研入门路径讲得清晰易懂,拓宽了在隐私保护机器学习方向的认知。大家进一步了解同态加密、安全多方计算、可验证推理等前沿技术,对交叉方向的科研选题、项目实践获得启发,将立足自身专业基础,关注隐私AI 前沿动态,锻炼理论与工程实践能力。



版权所有:韶关学院信息工程学院.

院长信箱:miaodecheng@sgu.edu.cn

书记信箱:3693394702@qq.com