（CWW）當(dāng)前我國生成式AI（AIGC）蓬勃發(fā)展，對于促進(jìn)社會進(jìn)步價值巨大，預(yù)計AIGC行業(yè)未來發(fā)展前景廣闊。面對大語言模型處于發(fā)展早期，存在數(shù)據(jù)主權(quán)、數(shù)據(jù)跨境流動以及應(yīng)用不可控、虛假內(nèi)容生成等諸多問題風(fēng)險，可能帶來國家安全、社會穩(wěn)定、倫理道德等威脅，對政府下一步治理與監(jiān)管提出相關(guān)建議。一是從國家戰(zhàn)略科技競爭高度支持其發(fā)展。二是政府主導(dǎo)構(gòu)建數(shù)據(jù)、核心技術(shù)與基礎(chǔ)設(shè)施等安全生態(tài)。三是建立頂層治理框架，探索多方治理模式。四是加強治理開放性與國際合作，加快AI立法。

ChatGPT熱潮席卷我國，對社會生產(chǎn)生活價值深遠(yuǎn)

(相關(guān)資料圖)

ChatGPT興起標(biāo)志著人工智能邁向現(xiàn)實生活的重要一步，帶動了國內(nèi)AIGC行業(yè)快速發(fā)展。

ChatGPT是由美國公司OpenAI開發(fā)的一種AI語言模型，一經(jīng)2022年11月對公眾開放，即形成驚人的用戶訪問增長態(tài)勢，并引發(fā)產(chǎn)業(yè)和全球資本市場關(guān)注。面對ChatGPT的爆火，2023年國內(nèi)百“模”大戰(zhàn)正式掀起，我國互聯(lián)網(wǎng)大廠、AI上市公司、科研院所與一級市場創(chuàng)業(yè)公司紛紛推出類似ChatGPT的生成式AI產(chǎn)品，截止目前國內(nèi)已有30多家大模型亮相。雖然很多產(chǎn)品尚處于內(nèi)測或演示階段，但多家科技巨頭已宣布未來主營業(yè)務(wù)將與大語言模型深度結(jié)合，并開始積極展望大模型進(jìn)入到業(yè)務(wù)應(yīng)用層帶來的變革。

表1：國內(nèi)主要生成式AI產(chǎn)品與大模型發(fā)布進(jìn)展

生成式AI對于促進(jìn)社會進(jìn)步價值巨大，未來具有廣闊的應(yīng)用發(fā)展空間。

AI生成內(nèi)容行業(yè)（AIGC）是人工智能、大數(shù)據(jù)、云計算、芯片等多個技術(shù)發(fā)展到一定階段，發(fā)揮協(xié)同效應(yīng)的產(chǎn)物。隨著ChatGPT類工具在社會發(fā)展中的嵌入，預(yù)計將引發(fā)一次深層次技術(shù)革命。它將對重復(fù)性、程序化崗位實現(xiàn)替代，帶來行業(yè)結(jié)構(gòu)、就業(yè)結(jié)構(gòu)的變革；作為一種技術(shù)賦能，可以嵌入其他軟件程序或工具，對于更多應(yīng)用場景、商業(yè)邏輯、產(chǎn)業(yè)范式帶來顛覆性革新；還可能衍生更多先進(jìn)的商業(yè)模式，從而帶動生產(chǎn)關(guān)系的變革。預(yù)計隨著深度學(xué)習(xí)模型不斷完善、開源模式的推動以及大模型的商業(yè)化，AIGC 行業(yè)未來發(fā)展前景廣闊，到2030年全球AIGC行業(yè)市場規(guī)模將達(dá)1108億美元，年復(fù)合增長率達(dá)34.1%；我國AIGC市場規(guī)模年復(fù)合增長率將達(dá)149.4%。

圖1 2021-2030年全球AIGC行業(yè)市場規(guī)模（單位：億美元）

圖2 2022-2028年中國AIGC行業(yè)市場規(guī)模（單位：億元）

生成式AI發(fā)展中存在多方問題與風(fēng)險，引發(fā)全球多國審查、監(jiān)管

ChatGPT等大語言模型存在一定不足和發(fā)展問題，可能帶來的國家安全、社會活動、倫理道德等威脅。ChatGPT等大語言模型仍處于發(fā)展早期，美國OpenAI還是國內(nèi)科技巨頭均受困于模型自身發(fā)展不夠完善、訓(xùn)練數(shù)據(jù)存在偏差原因等瓶頸與局限，有可能對國家主權(quán)與安全、社會活動與穩(wěn)定帶來嚴(yán)峻挑戰(zhàn)。一是數(shù)據(jù)信息應(yīng)用的不可控性，可能造成用戶隱私、商業(yè)秘密、國家機密信息的泄露，并存在侵犯知識產(chǎn)權(quán)和著作權(quán)的風(fēng)險，從而引發(fā)一系列社會倫理問題；二是AI技術(shù)可產(chǎn)生高度逼真的虛假內(nèi)容，可能引發(fā)帶來作弊、傳播假消息或誤導(dǎo)公眾等，扭曲社會價值觀、妨礙社會公平等；甚至成為國內(nèi)外敵對勢力、極端分子傳播意識形態(tài)的途徑，沖擊國家意識形態(tài)安全。三是模型訓(xùn)練驅(qū)動數(shù)據(jù)和信息跨境流動，存在數(shù)據(jù)主權(quán)和相關(guān)安全問題，可能挑戰(zhàn)與重塑國家地緣政治力量，甚至威脅國家主權(quán)。四是AI對勞動力的替代引發(fā)勞動關(guān)系重構(gòu)，勞動就業(yè)形勢、社會保障體系等都將受到?jīng)_擊，威脅平穩(wěn)的社會運行邏輯。

全球各國開始對其安全隱患進(jìn)行關(guān)注，并加大審查與監(jiān)管。生成式AI的全球應(yīng)用越來越廣，開始引發(fā)各國政府對其伴生問題和風(fēng)險的關(guān)注。由于其與政治社會領(lǐng)域關(guān)聯(lián)緊密，各國均在加大了相關(guān)審查，甚至啟動監(jiān)管“圍剿”。意大利最早對ChatGPT采取監(jiān)管舉措，以涉嫌違反隱私法規(guī)為由，禁止了ChatGPT在本國的使用，直到OpenAI遵守其用戶隱私問題。近日，西班牙、法國、德國、加拿大、美國等國家相關(guān)機構(gòu)先后對ChatGPT發(fā)起指控和調(diào)查。歐洲數(shù)據(jù)保護(hù)委員會還宣布成立專門工作組，以促進(jìn)歐洲地區(qū)調(diào)查的合作與溝通。當(dāng)前已有調(diào)查主要集中在數(shù)據(jù)收集、內(nèi)容安全、網(wǎng)絡(luò)安全、道德合法性等方面，并且各國之間已形成示范與效仿效應(yīng)。我國也在第一時間發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，對類似ChatGPT等利用人工智能技術(shù)生成內(nèi)容的應(yīng)用服務(wù)提供者、技術(shù)支持者提出了一系列要求；國家網(wǎng)信辦于4月11日下發(fā)了《生成式人工智能服務(wù)管理辦法（征求意見稿）》的通知，以向社會公開征求意見的方式，促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用。

堅持發(fā)展與安全并重，加強產(chǎn)業(yè)扶持、規(guī)制與監(jiān)管

人工智能將催生全球新一輪信息技術(shù)革命，ChatGPT作為新一代人工智能創(chuàng)新型產(chǎn)品，技術(shù)本身是中性的。一方面，應(yīng)正視其可能帶來的眾多風(fēng)險與挑戰(zhàn)，加強對關(guān)鍵戰(zhàn)略技術(shù)的掌控同時，對于數(shù)據(jù)安全通過法律法規(guī)加以規(guī)制，構(gòu)建立足安全的產(chǎn)業(yè)鏈監(jiān)管機制。另一方面，AI作為社會進(jìn)步的得力助手和輔助工具，應(yīng)通過監(jiān)管機制體制建設(shè)上完善產(chǎn)業(yè)政策，加以引導(dǎo)、鼓勵其發(fā)展，國家、社會和產(chǎn)業(yè)應(yīng)將其塑造成一股向善力量。

建議：一是AI大模型成為大國博弈新焦點，應(yīng)從國家戰(zhàn)略科技競爭高度支持推進(jìn)相關(guān)研發(fā)。生成式AI的背后是人工智能大模型的訓(xùn)練結(jié)果。AI作為實現(xiàn)創(chuàng)新性國家的重要基石，我國企業(yè)能否實現(xiàn)大模型等關(guān)鍵技術(shù)的自主研發(fā)，能否在全球搶先推出自己的大模型占領(lǐng)市場，決定了未來人工智能大模型國際標(biāo)準(zhǔn)制定話語權(quán)的爭奪，也意味著中美國家科技競爭的新領(lǐng)域角逐走勢。我國應(yīng)吸取操作系統(tǒng)、芯片產(chǎn)業(yè)發(fā)展經(jīng)驗教訓(xùn)，避免關(guān)鍵領(lǐng)域新的“卡脖子”風(fēng)險；尤其在當(dāng)前產(chǎn)業(yè)發(fā)展初期，把握住國內(nèi)企業(yè)AI發(fā)展熱潮，從國家政府層面應(yīng)給予大模型研發(fā)政策上更多支持，協(xié)調(diào)相關(guān)企業(yè)和機構(gòu)組建優(yōu)勢互補、協(xié)同發(fā)展的創(chuàng)新生態(tài)圈，助力產(chǎn)業(yè)在關(guān)鍵核心技術(shù)研究攻關(guān)和全球競爭中的領(lǐng)先爭奪。

二是數(shù)據(jù)、核心技術(shù)與基礎(chǔ)設(shè)施的安全是生成式AI健康發(fā)展的基礎(chǔ)，政府應(yīng)主導(dǎo)構(gòu)建安全生態(tài)。一方面，數(shù)據(jù)是技術(shù)研發(fā)的基礎(chǔ)，即是信息源也是內(nèi)容生成結(jié)果。我國應(yīng)在已有的數(shù)據(jù)安全相關(guān)政策基礎(chǔ)上，加快構(gòu)建新一代AI要求的數(shù)據(jù)監(jiān)管規(guī)則，對生成式AI從訓(xùn)練到投入使用的全生命周期的個人信息處理和數(shù)據(jù)保護(hù)作出規(guī)范，實施在個人數(shù)據(jù)、用戶隱私、商業(yè)數(shù)據(jù)的抓取、加工及生成的全過程監(jiān)管。另一方面，核心技術(shù)和基礎(chǔ)設(shè)施的安全也是我國新一代人工智能安全生態(tài)構(gòu)建的關(guān)鍵要素。應(yīng)推動國家科研基金對算法安全、數(shù)據(jù)安全、模型安全等核心技術(shù)研發(fā)支持的覆蓋；強化AI相關(guān)的數(shù)據(jù)中心、超算中心、智能計算機中心等基礎(chǔ)設(shè)施以及涉及到的芯片、集成電路等基礎(chǔ)產(chǎn)業(yè)的保護(hù)力度，從國家層面構(gòu)建技術(shù)安全標(biāo)準(zhǔn)與安全保障規(guī)則。

三是探索構(gòu)建AI多方共舉的治理生態(tài)成趨勢，建立頂層治理框架予以支撐。生成式AI是人工智能技術(shù)演進(jìn)的最新形式，需要新型的風(fēng)險規(guī)制治理方式。基于生成式AI跨領(lǐng)域特性和系統(tǒng)復(fù)雜性，避免治理利益相關(guān)方的分歧、認(rèn)識鴻溝、合作障礙等問題，采用多方參與的治理思路已被業(yè)界廣泛認(rèn)同、采納。我國應(yīng)積極探索政府、AI企業(yè)、學(xué)術(shù)機構(gòu)和社會公眾多方參與的共治模式。政府扮演“掌舵人”角色，推動頂層治理的框架與監(jiān)管細(xì)則，鼓勵相關(guān)方參與治理，協(xié)調(diào)AI企業(yè)內(nèi)部規(guī)制與社會系統(tǒng)對企業(yè)的監(jiān)督等。AI企業(yè)作為承擔(dān)內(nèi)控風(fēng)險、外受監(jiān)督的義務(wù)與責(zé)任主體，應(yīng)在內(nèi)部積極建立安全監(jiān)控系統(tǒng)，設(shè)立風(fēng)險防控部門等，主動對可能帶來的科技倫理與風(fēng)險問題進(jìn)行研究和規(guī)制，同時接受外部監(jiān)督、積極糾錯和止損補償。第三方機構(gòu)和社會公眾作為自治型、自發(fā)型組織，應(yīng)行使對AI產(chǎn)品風(fēng)險問題的監(jiān)督權(quán)利，參與AI產(chǎn)品質(zhì)量標(biāo)準(zhǔn)的制定、以眾包的形式探索技術(shù)風(fēng)險治理等。

四是加強治理的開放性與國際合作，加快適合我國國情的AI立法進(jìn)度。我國在人工智能領(lǐng)域立法尚缺位，涉及條例分散在《個人信息保護(hù)法》、《數(shù)據(jù)安全法》等多個法律中，還沒有制定完整的AI立法體系；且AI技術(shù)發(fā)展與產(chǎn)業(yè)應(yīng)用是全球高度協(xié)作的成果，其未來發(fā)展也依賴于全球各國的優(yōu)勢互補、合作共享。因此，為了生成式AI的規(guī)范治理有法可依，我國應(yīng)加快AI相關(guān)立法專項研究制定，同時秉承全球視野，采取開放態(tài)度，如主動搭建國際交流平臺，總結(jié)借鑒已經(jīng)推出的歐洲《人工智能法案》和美國《人工智能權(quán)利法案藍(lán)圖》的特點和實施利弊，加強監(jiān)管的國際合作。同時，結(jié)合中國國情與現(xiàn)實問題，針對隱私保護(hù)、知識產(chǎn)權(quán)、數(shù)據(jù)治理等風(fēng)險，對監(jiān)管規(guī)則、技術(shù)規(guī)范、監(jiān)管機構(gòu)等AI監(jiān)管體系進(jìn)行明確，從而達(dá)成監(jiān)管共識。通過構(gòu)建適合我國實際的人工智能法律體系，為我國新一代AI治理提供底層法律支撐和依據(jù)。