信息记录材料

首页 > 刊期 > 2025 > 12期 > 信息：理论与观点

生成式人工智能与数据隐私的安全防护技术研究

李志国，房瑞，宋昭昭，金天顺

【摘要】为解决生成式人工智能（ＧｅｎＡＩ）训练过程中存在的用户隐私泄露风险，本文系统分析了梯度反演攻击、成员推断攻击及信息重现这三类典型隐私风险的形成机理与实现机制。基于此，本文提出了以差分隐私技术、联邦学习技术、可信执行环境（ＴＥＥ）等多方面隐私保护技术为核心的安全策略。结果表明，差分隐私技术可通过噪声注入有效降低数据重构风险；联邦学习技术可确保模型协作训练的安全性；ＴＥＥ则通过硬件级隔进一步强化系统安全性。该综合应防护方案能有效遏制恶意攻击链路，显著提升ＧｅｎＡＩ平台的数据安全性。

【关键字】生成式人工智能（ＧｅｎＡＩ）；隐私攻击；梯度反演；差分隐私；联邦学习；可信执行环境

【PDF】