聚焦模型知識(shí)產(chǎn)權(quán)保護(hù)

深圳2022年11月15日 /美通社/ -- 11月6-9日，第31屆國(guó)際人工智能聯(lián)合會(huì)議-中國(guó)會(huì)議（IJCAI 2022 China）在深圳坪山燕子湖國(guó)際會(huì)展中心召開。其中大會(huì)主題論壇《人工智能模型審計(jì)與監(jiān)管》由IJCAI中國(guó)辦公室、微眾銀行、中山大學(xué)、浙江大學(xué)、復(fù)旦大學(xué)聯(lián)合舉辦，于11月7日在線上線下同步順利進(jìn)行。論壇邀請(qǐng)十多位領(lǐng)域知名學(xué)者，全面探討了模型知識(shí)產(chǎn)權(quán)保護(hù)研究的前沿方向，展示了該領(lǐng)域最新的研究成果，并討論了研究中面臨的難題與挑戰(zhàn)。

論壇上半場(chǎng)由論壇主席、微眾銀行人工智能首席科學(xué)家范力欣博士主持并作開場(chǎng)發(fā)言，范力欣博士對(duì)論壇議程進(jìn)行了簡(jiǎn)要介紹，并對(duì)人工智能模型審計(jì)及管理涉及的技術(shù)挑戰(zhàn)進(jìn)行了詳細(xì)的講解，對(duì)未來(lái)研究的重點(diǎn)和學(xué)術(shù)發(fā)展方向進(jìn)行了系統(tǒng)的展望。

浙江大學(xué)網(wǎng)絡(luò)空間安全學(xué)院任奎教授團(tuán)隊(duì)的王志波教授發(fā)表了《人工智能安全驗(yàn)證與評(píng)測(cè)平臺(tái)》主題演講，介紹了人工智能安全背景、深層次分析了數(shù)據(jù)驅(qū)動(dòng)的人工智能安全系統(tǒng)存在的安全問題成因，并具體介紹了團(tuán)隊(duì)在人工智能模型安全性檢測(cè)、人工智能算法公平性檢測(cè)和人工智能偽造音視頻檢測(cè)方向所提出的技術(shù)和搭建的平臺(tái)。

針對(duì)深度學(xué)習(xí)發(fā)展過程中不斷涌現(xiàn)的知識(shí)產(chǎn)權(quán)保護(hù)需求，中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院周文柏副研究員分享了深度學(xué)習(xí)模型及數(shù)據(jù)的版權(quán)保護(hù)的相關(guān)研究工作，包括深度學(xué)習(xí)模型魯棒水印、深度學(xué)習(xí)模型可逆水印、深度學(xué)習(xí)模型感知哈希和深度學(xué)習(xí)模型加密。

南京航空航天大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院/人工智能學(xué)院薛明富副教授介紹了其課題組在深度學(xué)習(xí)模型版權(quán)保護(hù)方面的前沿成果，包括深度學(xué)習(xí)模型版權(quán)保護(hù)方法的分類方法學(xué)，和三類主動(dòng)授權(quán)控制的深度學(xué)習(xí)模型知識(shí)產(chǎn)權(quán)保護(hù)方法。

武漢大學(xué)國(guó)家網(wǎng)絡(luò)安全學(xué)院汪潤(rùn)副研究員分享了其在面向深度神經(jīng)網(wǎng)絡(luò)的版權(quán)保護(hù)方向的最新研究，為了提高模型指紋防御算法的魯棒性，汪潤(rùn)研究員提出了MetaFinger指紋保護(hù)框架，它通過使用元訓(xùn)練從模型的內(nèi)部決策區(qū)域中提取特征達(dá)到版權(quán)保護(hù)的目的，而非決策邊界。

鵬城實(shí)驗(yàn)室博士后李少鋒介紹了關(guān)于面向智能模型保護(hù)的深度神經(jīng)網(wǎng)絡(luò)鑒權(quán)技術(shù)的兩項(xiàng)工作，分別是基于UAP的智能模型鑒權(quán)技術(shù)和基于承諾機(jī)制訓(xùn)練數(shù)據(jù)鑒權(quán)技術(shù)，實(shí)驗(yàn)表明這兩種技術(shù)可以準(zhǔn)確地識(shí)別出數(shù)據(jù)集和模型的侵權(quán)行為。

現(xiàn)有的模型水印方法主要面向分類網(wǎng)絡(luò)，圖像分類與圖像復(fù)原任務(wù)有很多差異，其模型水印方法不好直接用于圖像復(fù)原模型。針對(duì)該問題，華南理工大學(xué)計(jì)算機(jī)學(xué)院全宇暉副教授提出了面向圖像復(fù)原深度網(wǎng)絡(luò)的模型水印技術(shù)，實(shí)驗(yàn)表明，基于該技術(shù)的模型水印有較好的保真性、唯一性和魯棒性。

論壇下半場(chǎng)由中山大學(xué)網(wǎng)絡(luò)空間安全學(xué)院助理教授楊文元主持，楊文元教授對(duì)上半場(chǎng)的七場(chǎng)精彩演講進(jìn)行了簡(jiǎn)要回顧，并介紹了下半場(chǎng)的論壇議程。

國(guó)家杰出青年科學(xué)基金獲得者張新鵬教授發(fā)表了《神經(jīng)網(wǎng)絡(luò)水印》主題演講，張新鵬教授對(duì)神經(jīng)網(wǎng)絡(luò)水印進(jìn)行了概述，并介紹了基于內(nèi)在機(jī)制的白盒神經(jīng)網(wǎng)絡(luò)水印，基于觸發(fā)集的黑盒神經(jīng)網(wǎng)絡(luò)水印，基于輸出結(jié)果的無(wú)盒神經(jīng)網(wǎng)絡(luò)水印和神經(jīng)網(wǎng)絡(luò)模型篡改檢測(cè)。

香港中文大學(xué)（深圳）數(shù)據(jù)科學(xué)學(xué)院吳保元副教授以《后門學(xué)習(xí)發(fā)展現(xiàn)狀及最新進(jìn)展》為主題，對(duì)后門攻擊、后門防御的發(fā)展現(xiàn)狀進(jìn)行了總結(jié)，并詳細(xì)介紹了后門學(xué)習(xí)的最新基準(zhǔn)平臺(tái)BackdoorBench。

清華大學(xué)在讀博士生李一鳴介紹了其關(guān)于"基于所有權(quán)認(rèn)證的模型和數(shù)據(jù)集版權(quán)保護(hù)"的一系列最新研究成果，包括通過嵌入的外部特征進(jìn)行有效且無(wú)害的所有權(quán)驗(yàn)證，通過后門水印保護(hù)數(shù)據(jù)集的黑盒所有權(quán)驗(yàn)證，和非目標(biāo)后門水印 -- 無(wú)害和隱秘的數(shù)據(jù)集版權(quán)保護(hù)。

中國(guó)科學(xué)院信息工程研究所國(guó)家重點(diǎn)實(shí)驗(yàn)室博士生梁思源提出了模仿檢測(cè)器，可用于竊取黑盒目標(biāo)檢測(cè)器的知識(shí)。模仿檢測(cè)器將目標(biāo)檢測(cè)中的知識(shí)竊取視為黑盒知識(shí)蒸餾，并提出了師生框架來(lái)解決該問題，這是第一個(gè)關(guān)于目標(biāo)檢測(cè)器的框架。大量實(shí)驗(yàn)表明該方法實(shí)現(xiàn)了最高的模型提取精度。

上海交通大學(xué)網(wǎng)絡(luò)空間安全學(xué)院博士研究生李方圻介紹了神經(jīng)網(wǎng)絡(luò)水印的新型安全威脅，其中黑盒水印的新問題包括封裝攻擊、版權(quán)勒索等，其核心矛盾在于公證性、時(shí)間戳、黑盒場(chǎng)景三者的不兼容；白盒水印的新問題主要有模型重構(gòu)攻擊，該攻擊可以通過從中間層信息中逆重構(gòu)，還原網(wǎng)絡(luò)信息來(lái)抵抗。

復(fù)旦大學(xué)系統(tǒng)軟件與安全實(shí)驗(yàn)室18級(jí)直博生潘旭東進(jìn)行了《AI模型通用指紋追溯與產(chǎn)權(quán)保護(hù)實(shí)踐》主題演講，介紹了一種通用的模型指紋方法，該方法可以進(jìn)行下游任務(wù)無(wú)關(guān)的模型指紋提取和驗(yàn)證。

針對(duì)聯(lián)邦學(xué)習(xí)中的模型版權(quán)保護(hù)和監(jiān)管這一熱點(diǎn)問題，中山大學(xué)網(wǎng)絡(luò)空間安全學(xué)院助理教授楊文元介紹了面向可信聯(lián)邦學(xué)習(xí)的模型版權(quán)監(jiān)管研究，并詳細(xì)講解了其聯(lián)邦學(xué)習(xí)模型版權(quán)驗(yàn)證方案和聯(lián)邦學(xué)習(xí)模型溯源方案兩項(xiàng)研究工作。

微眾銀行人工智能算法研究員古瀚林博士以《聯(lián)邦學(xué)習(xí)的模型版權(quán)保護(hù)》為主題，介紹了其最新研究成果FedIPR。該項(xiàng)研究提出了首個(gè)聯(lián)邦學(xué)習(xí)模型版權(quán)驗(yàn)證框架，在不犧牲模型可用性前提下, 準(zhǔn)確驗(yàn)證聯(lián)邦模型的所屬權(quán)。

人工智能模型審計(jì)與監(jiān)管論壇全面展示了人工智能模型知識(shí)產(chǎn)權(quán)保護(hù)的前沿學(xué)術(shù)進(jìn)展。作為第31屆國(guó)際人工智能聯(lián)合會(huì)議-中國(guó)會(huì)議的重要組成部分，此次論壇為促進(jìn)人工智能技術(shù)的有效治理和監(jiān)管，推動(dòng)人工智能健康可持續(xù)發(fā)展，保護(hù)深度學(xué)習(xí)模型知識(shí)產(chǎn)權(quán)，加快模型交易和共享貢獻(xiàn)了重要的推動(dòng)力。