花忠云教授课题组在通用后门防御领域取得进展
后门攻击(Backdoor Attack)作为一种新兴的安全威胁,引发了学术界与工业界的广泛关注。攻击者通过毒化训练集使模型在训练过程中无形中建立起“触发器-目标标签”的潜在映射关系。此类后门在模型部署后不会影响其正常输入的预测结果,因而难以被传统精度验证方法察觉。现有后门防御策略中,数据集净化是唯一一种在模型训练前即阻断后门注入链条的主动防御机制。它通过从受污染的数据集中识别并剔除被篡改的样本,从源头上保障...
后门攻击(Backdoor Attack)作为一种新兴的安全威胁,引发了学术界与工业界的广泛关注。攻击者通过毒化训练集使模型在训练过程中无形中建立起“触发器-目标标签”的潜在映射关系。此类后门在模型部署后不会影响其正常输入的预测结果,因而难以被传统精度验证方法察觉。现有后门防御策略中,数据集净化是唯一一种在模型训练前即阻断后门注入链条的主动防御机制。它通过从受污染的数据集中识别并剔除被篡改的样本,从源头上保障...
后门攻击(Backdoor Attack)作为一种隐蔽且具有高度破坏性的攻击方式,已成为当前深度学习系统面临的重大安全威胁。攻击者通过在训练阶段注入特定的“触发器”并篡改部分训练样本的标签,使得模型在面对带有“触发器”的输入时产生攻击者预设的错误输出,导致模型失控。为了应对这一挑战,在广东省基础与应用基础研究基金(2024A1515012299)的支持下,哈尔滨工业大学(深圳)花忠云教授联合格里菲斯大学、南洋理工等大学的学...
2025年7月1日,深开鸿团队与哈尔滨工业大学深圳校区网安研究院开展学术交流。会上,深开鸿介绍基于KaihongOS的高安全系统架构,双方认为其在工业互联网、智慧城市等领域应用潜力巨大,计划融入研究院科研项目。针对鸿蒙生态网络安全人才缺口,双方将在校区开设特色课程,共建创新中心,学生参与实践项目,认证后可进入华为等生态企业。此外,双方还将深化“政产学研用”协同,以“定制班”对接行业需求,共建平台加速成果转化,...
【网络空间安全研究院宣】2025年6月26日下午,由网络空间安全研究院主办的大模型攻防技术论坛在鹏城实验室5栋318会议室圆满落幕。本次论坛以“大模型攻防:训练数据提取与CTF实战”为主题,与大家共同探讨大模型在安全领域的前沿技术与实践应用。随着人工智能技术的迅猛发展,大模型已成为推动各行业创新变革的关键力量。然而,大模型在带来巨大机遇的同时,也面临着严峻的安全挑战。一方面,训练数据作为大模型的核心资产,极...
数据去重(Data Deduplication)是一种高效、广泛应用的数据冗余消除技术,它识别并消除系统中的重复数据块,以此缩减数据规模,降低存储开销。由于效果显著,数据去重技术被广泛应用于各类存储系统中。然而,这种方式也带来了严重的碎片化问题:原本逻辑上连续的备份镜像,在去除重复数据块后,其物理存储布局变得高度离散,进而影响后续的访问效率。碎片化问题催生了去重碎片消除的需求。现有的去重碎片消除技术效果不尽人意...
文件系统(File System)是计算机系统的基石,为上层智算应用提供文件组织、数据持久化以及数据崩溃恢复能力,其使用范围覆盖每一个数据中心、个人PC以及嵌入式设备等。现代文件系统通过崩溃一致性机制来保证数据的可靠性,然而,现有的崩溃一致性机制,例如:写前日志、日志结构文件系统、软更新等,都存在着多次、少量、随机的I/O访问模式,这些访问模式造成了严重的I/O放大,带来了大量顺序I/O屏障,导致系统性能严重下降,...