（CWW）8月9日，在ISC 2023第十一屆互聯網安全大會上，中國工程院院士鄔賀銓表示，人工智能時代，傳統安全防護的手段急需升級，數字安全需要探索新的模式，以適應復雜的數字化場景。

數字經濟將驅動新型基礎設施建設，并加速數字技術的新一輪創新，以人工智能為代表的數字技術將重塑數字內容生產方式和消費模式，通用人工智能將實現知識與數據雙輪驅動，未來單個模型有望通過遷移學習支持多種業務，并且能夠精準選擇節點，從而有效降低功耗和成本。數字化將逐漸走向智能化高峰，開啟人工智能的時代。

與此同時，AI大模型的應用，也將會越來越多的滲透到社會、生產、生活的方方面面，大模型會無形無影相隨。值得注意的是，AI大模型技術發展和應用過程中存在技術安全風險和人為安全風險。

【資料圖】

鄔賀銓分析道，一是大模型數據安全。大模型訓練依托海量數據，開源數據集、互聯網數據容易得到，但很多數據質量無法保證，如果拿這些數據來訓練，內容風險程度可想而知。此外，很多中小企業沒有自己的模型，如果模型把它們的數據拿到，企業也會擔心機密數據泄露。

二是大模型算法安全。AI大模型的算法推理過程存在不可控制性，輕則得到令人意想不到的回答，數據結果存在不可解釋性，重則可能出現算法失控。

三是大模型被人為操縱后造成的安全風險擾亂社會秩序。

鄔賀銓表示，網信辦已就此起草相應的管理辦法，對容易引起數據泄露安全的大模型應用，都應該采取比較謹慎的態度。

對于如何應對風險，鄔賀銓建議主動迎接IPV6的主導互聯網時代，通過IPV6提升數據的安全能力，支撐跨境數據流動的有效管理，護航數據安全流動。

同時，要摒棄硬件式碎片化弱協同的傳統安全防護手段，向云化、服務化的理念升級。數字安全企業需要建立體系化的安全運營服務框架，面向各行各業輸出數字安全能力，幫助企業構建安全防御體系，保護數據安全與商業秘密。

此外，鄔賀銓提出，要完善數字安全的生態系統，要覆蓋工業企業設備供應商、基礎電信運營商、云服務商、工業互聯網平臺運營商、工業應用提供商、數字安全提供企業、第三方檢測機構與用戶等，實現危險威脅處置情報共享。

鄔賀銓表示，數字安全已經成為數字經濟發展的焦點，人工智能等數字技術的應用本身既是安全防御的重點、手段，也是保障的有力手段，需要將大數據、人工智能、互聯網等這些技術融合，提升保障能力。