(相關資料圖)

（CWW）8月9日，在第十一屆互聯(lián)網(wǎng)安全大會（簡稱“ISC 2023”）上，中國工程院院士鄔江興發(fā)表了題為“動態(tài)異構(gòu)冗余構(gòu)造賦能AI應用系統(tǒng)內(nèi)生安全實驗”的演講，引起了廣泛的關注和討論。

鄔江興教授首先指出，AI應用系統(tǒng)在各行各業(yè)都有分布，跟人類的社會生活息息相關，但是目前很多企業(yè)在使用AI應用系統(tǒng)時，面臨著安全性無法保障的問題。他認為，AI應用系統(tǒng)的安全問題可以分為內(nèi)生安全問題和非內(nèi)生安全問題，其中內(nèi)生安全問題又可以分為個性問題和共性問題。個性問題是指AI算法模型本身存在的黑盒特點、數(shù)據(jù)依賴性、不可逆性等導致的不可解釋性、不可判定性、不可推論性等問題。共性問題是指AI應用系統(tǒng)軟硬件環(huán)境中存在的漏洞、后門等常見的網(wǎng)絡安全問題。

鄔江興教授進一步分析了當前網(wǎng)絡安全理論與方法的天花板問題，即在面對未知的未知或已知的未知的情況下，傳統(tǒng)的網(wǎng)絡安全范式無法有效解決AI應用系統(tǒng)中存在的內(nèi)生安全個性問題和共性問題。他提出了一個新的思路，即利用內(nèi)生安全理論中的動態(tài)異構(gòu)冗余（DHR）構(gòu)造方法，賦能AI應用系統(tǒng)內(nèi)生安全實驗。他解釋了DHR構(gòu)造方法的原理和機制，即通過功能等價異構(gòu)冗余環(huán)境發(fā)現(xiàn)差模或有感共模擾動，并進行評比或糾錯，從而阻斷和控制內(nèi)生安全問題發(fā)展成為內(nèi)生安全事件。

鄔江興教授還展示了在理論研究和工程實踐方面取得的成果，包括對AI應用算法個性化問題的特異性分析、基于DHR構(gòu)造方法的AI應用系統(tǒng)內(nèi)生安全實驗原理驗證、紫金山實驗室創(chuàng)辦的首個網(wǎng)絡安全實驗廠等。他表示，將在今年四季度舉辦第六屆國際精英挑戰(zhàn)賽，并新設了AI應用系統(tǒng)安全賽道，這是世界上首次針對AI應用系統(tǒng)內(nèi)生安全問題進行人機對抗的比賽。他呼吁更多的專家學者和企業(yè)界人士參與到AI應用系統(tǒng)內(nèi)生安全研究和實踐中來，共同推動AI時代的網(wǎng)絡空間安全發(fā)展。