(CWW)人工智能是引領新一輪科技革命和產業變革的戰略性技術。多項研究結果和數據表明,美國在人工智能基礎科研、技術創新、產業應用等方面全球領先,人工智能高水平論文、頂尖學者數量、人工智能企業數量、投資規模等指標均領先于其他國家。
(相關資料圖)
美國政府高度重視人工智能技術創新和發展。根據2020年美國《國家人工智能倡議法案》(NationalAIInitiativeActof2020),國會要求國家科學基金會(NSF)與白宮科學和技術政策辦公室(OSTP)組建工作組,2023年1月研究制定美國國家人工智能研究資源(NAIRR)基礎設施建設路線圖,鞏固美國在人工智能領域的競爭優勢,擴大美國各方獲取人工智能關鍵資源和教育資源的機會,進一步帶動美國人工智能創新和經濟繁榮。
美國NAIRR建設的背景和意義
建設背景
美國政府認為其在人工智能領域的領先優勢正在受到挑戰,競爭優勢有被削弱的風險,主要存在以下兩方面問題。一是人工智能研發投資、教育資源分布不均衡。研究數據顯示,從投資看,2020至2021年美國來自私營部門的人工智能投資金額增長超過一倍,但新增人工智能企業數量卻在下降;從人才看,美國人工智能博士畢業生的人口種族分布、性別分布與人口實際比例差異較大,將對人工智能創新與發展產生限制。二是科研類機構可用算力資源和數據資源不足。從算力看,當前最先進的算力平臺由行業領先私營機構所有,科研機構缺乏支持人工智能研發的算力平臺;從數據資源看,人工智能模型訓練的主要數據資源由私營機構和大型互聯網平臺所有,盡管美國政府持續開放數據,但對于人工智能研究而言仍顯不足。
工作組指出,缺少充足的人工智能研究資源將限制美國人工智能創新生態,導致頂尖人才由學術研究機構向少部分資源豐富的企業集中,此趨勢如長期形成將影響美國的競爭力與創新。2023年1月,經過18個月公開征集意見和討論,工作組正式提出建設方案,擬申請26億美元建設及運維資金,計劃分四期,在6年內完成NAIRR建設工作,重點實現四大目標:匯聚資源促進研究創新、增強人才多樣化、提升基礎資源能力、促進可信人工智能發展。
重要意義
NAIRR作為人工智能研究基礎設施,面向美國研究院校、學生和非營利組織等機構開放,提供算力資源、高質量數據、教育工具等基礎研究資源,平臺有望成為美國人工智能研究合作的關鍵樞紐,鞏固其國際競爭優勢。
在生態建設方面,美國政府將依托NAIRR聯合政府內部相關部門和科研機構,共同開展人工智能領域的合作研究、資源建設,形成廣泛的合作生態。NAIRR服務和功能如圖1所示。
在數據方面,NAIRR將匯聚聯邦政府部門數據,并且與產業界各類機構開展數據服務合作。一是促進人工智能大規模數據資源的匯聚和開發利用,將匯聚、對接美國聯邦機構、學術科研機構和科技巨頭已開源開放的大規模數據資源,成為美最大的人工智能數據資源服務平臺。如美國國立衛生研究院開放超過36PB基因測序數據,美國海洋與大氣管理局開放超過10PB天氣與環境數據。二是促進人工智能數據管理和治理能力提升。人工智能數據集具有高度碎片化特征,每一個數據集支撐對應專門任務和研究領域,數據標注、數據治理缺乏統一標準,數據管理難度大。NAIRR將推動建立數據匯聚統一標準,規范數據描述格式,促進多方數據資源匯聚。三是推動多方協作的數據資源開發利用。運營實體將運營人工智能數據集社區,激勵社區主動開發、建設有價值的數據資源,提供給NAIRR使用。運營實體還將提供數據搜索服務,方便查詢聯邦機構開放數據和第三方服務商的數據資源。
在算力方面,NAIRR將聯合美國主要人工智能計算云平臺企業共同建設算力平臺,計劃對接谷歌、微軟、亞馬遜等科技巨頭云平臺,以及美國自然科學基金、美國國立衛生研究院等聯邦機構的云平臺。平臺面向大學、研究機構、學生、初創企業提供不同等級的服務模式和內容,包含數據、算力、測試床、軟件工具等多種服務和資源。建成后NAIRR算力資源將包括至少支撐一萬億參數規模機器學習模型訓練的超級計算機,以及云計算資源、CPU、GPU和高速網絡。
NAIRR基礎設施建立并穩定運營后,一方面將不斷拓展與政府部門和私營機構的合作關系,擴展平臺服務范圍和用戶范圍,宣傳成功經驗;另一方面,平臺推進制定相關標準和規范,參加國際交流與合作,作為美國與其盟國、合作伙伴的基礎平臺,促進合作研究、數據共享。
美國NAIRR建設方案
美國計劃通過系統性方法調動聯邦政府及私營機構共同協作,建立面向學術科研的人工智能研究資源基礎設施。
一是規劃構建多方參與的平臺治理體系。NAIRR建議治理結構如圖2所示。方案建議建立政府部門多方參與的治理體系,成立指導委員會、管理委員會、項目管理辦公室、運營實體、顧問委員會等系列責任機構,協同合作。設立指導委員會,由聯邦政府各部門、機構代表組建,是國家層面對NAIRR進行總體規劃、制定戰略目標的最高決策機構,代表各部門推動國家在人工智能領域的資源投入。設立管理委員會負責對平臺運營實體進行指導、管理,以及提供資金和相關資源。方案建議由NSF承擔管理委員會的職責。設立項目管理辦公室,配合指導委員會對運營實體進行日常性管理與評估。美國國會為項目管理辦公室批復資金,支持相關項目管理、門戶開發和部署、聯合支持、培訓和用戶支持等費用。設立獨立于政府部門的運營實體機構,負責制定NAIRR具體發展目標、組織平臺建設和日常運營管理,負責制定透明、公平且合理的資源分配制度,滿足各類人工智能研究機構和用戶的使用需求。成立由多領域專家組成的科學委員會、技術委員會、倫理委員會、用戶委員會,為NAIRR建設提供決策支撐。
二是為NAIRR基礎設施運營和建設提供專門資金。建設方案提出6年申請26億美元資金,其中22.5億美元用于向服務提供商采購平臺算力、軟件工具和數據資源,運營機構日常費用為3.7億美元,此外3000萬美元用于基礎設施運行情況評估。聯邦機構中涉及人工智能研發的均應參與到NAIRR的項目管理中。聯邦各部門在人工智能領域的研發投資仍可由各機構獨自或合作采購、開發相應的資源,但應納入管理,并通過NAIRR基礎設施提供。
三是NAIRR基礎設施分階段建設,按需擴充算力資源,推動數據資源匯聚。平臺建設分為項目啟動、建設、試運行和持續運行4個階段。試運行階段將可支撐5萬用戶的規模,能夠匯聚使用現有聯邦機構數據和私營機構數據。穩定運行后將支撐15萬用戶使用,建立更廣泛的數據資源合作社區。NAIRR將通過制定數據匯聚標準、數據合作開發、提供數據搜索服務等方式開發數據資源,方便數據利用。
新形勢下人工智能基礎研究資源建設重要性愈發凸顯
當前,人工智能新技術、新應用不斷涌現,以大型語言模型ChatGPT為代表的新一代人工智能大模型的研究和訓練,需要更大規模算力資源和數據資源的支撐,且單次研發投入大幅增長。人工智能大模型訓練的算力平臺門檻極高,普通機構無法承擔巨額研發費用和運營費用。OpenAI研究指出,人工智能模型訓練所需要的算力增速呈指數級增長,從2012年到2018年,訓練AI模型所消耗的算力增長了30萬倍。訓練GPT3需要的算力達到3640pfsday(即1PetaFLOP/s效率運行3640天),訓練成本預計達140萬美元/次,有機構估算ChatGPT初始投入成本約8億美元。
在人工智能數據集方面,伴隨預訓練大模型的研究與發展,其訓練所需的數據集規模進一步大幅增長,數據規模從以前的百萬、千萬條,增長到上億條。當前大模型訓練所應用的數據集主要來自互聯網,包括維基百科、社交網站、公開期刊、書籍、論文、代碼等方面的數據庫。有研究指出,“訓練數據將成為大模型產業化的最大掣肘之一。從更深層次考慮,大模型在訓練數據方面還存在各種治理問題,比如數據采集標注費時費力成本高、數據質量較難保障、數據多樣化不足難以覆蓋“長尾”和邊緣案例、特定數據在獲取與使用分享等方面存在隱私保護和數據偏見等問題。”國外學者研究認為,總體語言數據規模以7%的速度增長;高質量語言數據的增長受制于人口規模、經濟發展等因素影響,以4%~5%的速度增長。用于訓練大語言模型的高質量數據將會在2027年之前“耗盡”。
小結
算力和數據資源是人工智能技術研究的基礎支撐要素。在人工智能技術進入“大模型”時代下,算力和數據能力不足將成為算法模型研究和訓練的短板。美國正在籌建的NAIRR基礎設施有利于解決當前人工智能技術創新發展面臨的新挑戰,對我國具有一定的參考意義,我國應加強統籌協調,加快算力基礎設施和數據基礎資源建設,發展數據要素市場,鼓勵數據資源匯聚流通,推動人工智能基礎技術研究與應用創新。
標簽: