【网络空间安全研究院宣】2025年6月26日下午，由网络空间安全研究院主办的大模型攻防技术论坛在鹏城实验室5栋318会议室圆满落幕。本次论坛以“大模型攻防：训练数据提取与CTF实战”为主题，与大家共同探讨大模型在安全领域的前沿技术与实践应用。
随着人工智能技术的迅猛发展，大模型已成为推动各行业创新变革的关键力量。然而，大模型在带来巨大机遇的同时，也面临着严峻的安全挑战。一方面，训练数据作为大模型的核心资产，极易遭受数据提取攻击，从而导致知识产权泄露和模型滥用；另一方面，如何将大模型有效地应用于网络安全领域，提升攻防能力，也成为业界关注的焦点。
在论坛上，李宗杰深入剖析了大模型自身存在的安全风险，详细阐述了训练数据提取攻击的原理、方法及防范策略。他指出，随着大模型应用的日益广泛，攻击者试图通过各种手段获取训练数据，以实现模型的复制或改进，这对模型开发者和使用者的权益构成了严重威胁。针对这一问题，李宗杰提出了一系列有效的防护方案，包括数据加密、访问控制、模型水印等技术，以确保训练数据的安全性和完整性。
此外，李宗杰还分享了大模型在网络安全夺旗赛（CTF）中的应用与实战经验。他表示，大模型能够通过对海量数据的学习和分析，快速识别网络攻击模式，提供精准的安全预警和防御建议。在CTF实战中，大模型不仅可以帮助参赛选手快速理解和解决复杂的安全问题，还能为团队提供智能化的决策支持，显著提升团队的竞技水平。李宗杰通过实际案例展示了大模型在CTF比赛中的强大优势，引发了参会者的浓厚兴趣和热烈讨论。
在互动环节，参会者就大模型安全领域的热点问题与李宗杰进行了深入交流。大家纷纷表示，本次论坛内容丰富、实用性强，对大模型攻防技术有了更全面、更深入的认识，为今后在实际工作中应对大模型安全挑战提供了宝贵的思路和方法。
本次大模型攻防技术论坛的成功举办，为学术界和工业界搭建了一个交流与合作的平台，促进了大模型安全技术的发展与创新。未来，随着人工智能技术的不断进步，大模型安全将面临更多的机遇和挑战，需要各方共同努力，加强技术研究与应用实践，为大模型的安全发展保驾护航。
【嘉宾介绍】
李宗杰，香港科技大学计算机学院的四年级博士生，师从王帅教授。他于2021年毕业于哈尔滨工业大学（深圳），获得学士学位。在博士期间，曾前往苏黎世联邦理工学院苏振东教授团队进行研究访学。他的主要研究方向聚焦于大语言模型的安全问题。已在国际顶级安全与软件工程会议，包括 CCS、 USENIX Security、ICSE、FSE、ISSTA 等，累计发表了23篇论文，其中有8篇为CCF-A类会议第一作者论文。参与的研究工作也获得了多项荣誉，包括ICSE 2022最佳论文提名和ASE 2023工业挑战最佳论文。此外，他还曾荣获IEEE（香港）计算智能研究竞赛亚军。
活动现场
