深度模型是模型拥有者的重要资产,任何针对深度模型的非法复制、发行和滥用都将会导致侵权并对模型所有者造成重大经济损失。目前,将多媒体数字水印技术应用到深度神经网络已经成为深度模型所有权保护的一个热点研究方向。但现有大多数方案工作在比较理想的白盒场景下,需要获取目标模型的网络结构和参数权重等细节才可以进行产权验证,在实际应用中受到很大限制。同时,在多模型的场景下,现有水印方案易受合谋攻击威胁,攻击者可以通过聚合多个含水印模型来抹去嵌入的水印信息,并仍能保证合谋模型在原始任务上的性能。基于以上问题,本文提出一种黑盒场景下可抗合谋攻击的深度模型安全分发方案,为深度模型知识产权保护提供一种新思路。
图1所提方案框架图
所提方案的优越性在于:
(资料图)
(1) 设计了一种基于用户级和模型级的双重指纹机制,可提供粗粒度和细粒度的产权验证,并实现黑盒下的所有权朔源和验证。
(2) 基于深度神经网络的内部结构和前向传播过程,设计了两种模型等价变换算法,可确保在不影响目标模型性能的前提下实现对合谋攻击的主动防御,即严重破坏合谋后模型的性能,使其无法正常使用,从根本上抵御合谋攻击。
(3) 设计了一个相似性损失项来抵御针对等价变换算法的逆向攻击,可进一步提高所提等价变换算法的安全性。
图2给出实验效果对比,可以看到,本文提出的方法能够同时抵御平均合谋攻击和加权合谋攻击,并且可以将合谋模型的原始任务上的准确率分别降低到10%(十分类)和1%(百分类),即合谋模型的性能降到近乎随机猜测。
图2 本文实验效果
论文信息
相关论文已被IEEE Transactions on Circuits and Systems for Video Technology录用,作者为福州大学的程航、李溪滨、刘西蒙、王美清,新加坡南洋理工大学的王华雄,复旦大学的张新鹏和上海电力大学的栗风永。
Hang Cheng, Xibin Li, Huaxiong Wang, Xinpeng Zhang, Ximeng Liu, Meiqing Wang, Fengyong Li, (2023). DeepDIST: A Black-box Anti-collusion Framework for Secure Distribution of Deep Models.(点击下方阅读原文查看论文全文)
供稿:程航,福州大学数学与统计学院教授,博导,副院长。
上一篇:元隆雅图6月21日盘中跌幅达5%
下一篇:最后一页
深度模型是模型拥有者的重要资产,任何针对深度模型的非法复制、发行和
以下是元隆雅图在北京时间6月21日14:50分盘口异动快照:6月21日,元隆
1、不知道你是不是说的word或者其他程序ppt等,选择“另存为97-03”的
23高速路桥SCP001票面利率为2 1500%
一、广东省汕头市天气预报【南澳暴雨黄色预警】受强降水云系影响,我县
1、最好三天后再洗头,使拉发水剂充分渗入,以起到定性的作用。2、如果
1、1,首先,需要将两部苹果手机的蓝牙都打开。2、如下图所示。3、2,
德国《转会市场》网站更新英超球员身价,曼城前锋哈兰德上涨1000万欧元
每经AI快讯,川润股份在近期的机构调研中指出,公司2022年储能业务实现
同花顺(300033)金融研究中心6月20日讯,有投资者向冰轮环境(000811)
1、在桌面上空白地方右键-排列图标-把自动排列与对齐网格前面的勾去掉
1、能帮忙先说不能帮忙,好办先说不好办,这才会成熟。不帮忙不好办最
东营市人民政府关于任免于泳浩等工作人员职务的通知东政任〔2023〕14号
一、申请商标注册的途径(一)委托国家认可的商标代理机构办理。(
1、1935年德国为了庆祝重新拥有发动战争的能力而举行的大规模演习前的
黄河新闻网讯粽香传情,缘牵端午。端午前夕,“杏花红”志愿者们前往胜
红网时刻新闻6月20日讯(通讯员周艳姿向倩)如何第一时间判断是否被传
1、按件收费收取(1)无财产争议:6000元-20000元之间;(2)法律文书
在现代社会中,宣传单已经成为了一种不可或缺的宣传方式。无论是商
金川集团于2023年6月20日电解镍(大板)出厂价报177500元 吨,较前一交易
原标题:探访国内首条跨海高铁全线施工难度最大车站新建厦门北站是国内
我在上你在下你不动我不动你一动我就痛你出水我高兴这个很多人还不知道
半岁先心宝宝来汉免费手术全职爸爸细心照料陪护---据了解,小荣仅半岁
距离克里斯托弗·诺兰新的“传记片”《奥本海默》的评论家评分公开还有
由于目前天气炎热,学校积极协调,克服困难,为10个教室均购买了空调,
X 关闭
X 关闭