LLM增强的GNNs是否隐私安全？

一项研究系统评估了LLM增强图神经网络（GNNs）的隐私风险，构建统一框架，涵盖数据准备、受害模型训练、隐私攻击、风险评估和防御分析五个阶段。实验使用六个真实文本属性图数据集、六种攻击方法和42种模型配置，发现LLM增强GNNs在性能提升的同时，相比浅层文本基线更易受链接、标签和成员推断攻击，语义增强放大了嵌入空间中的相关信号，差分隐私防御虽部分缓解风险但造成显著效用下降。

此前对LLM增强GNNs的关注集中于性能提升，其隐私漏洞未被充分探索。该研究首次通过系统框架证实，这类模型的隐私风险显著高于传统浅层表示，提示技术应用需权衡性能与隐私安全，对依赖LLM增强GNNs的AI产品构成实际威胁。

LLM将语义信息注入节点表示，丰富了嵌入空间。这种语义增强放大了链接、标签和成员相关的信号，使得攻击者更容易从模型输出中推断敏感信息，导致隐私攻击成功率上升。差分隐私防御虽能部分降低风险，但会严重损害模型效用，凸显隐私与性能的根本矛盾。

对于使用LLM增强GNNs的产品（如社交推荐、知识图谱），需立即评估隐私风险，可能需部署防御机制，但会导致效用下降。研发团队需在模型选型和部署前进行隐私影响评估，增加测试成本。

• 开发针对LLM增强GNNs的隐私风险评估工具，供企业在部署前检测漏洞。
• 设计结合差分隐私的优化算法，在隐私保护与效用间取得更好平衡。
• 探索基于联邦学习的LLM增强GNNs训练方案，实现数据不出域的隐私保护。