飛象網(wǎng)訊（易歡）當前，人工智能技術(shù)顛覆性、跨越式突破引發(fā)通用人工智能新一輪發(fā)展熱潮，推動全球人工智能治理進入規(guī)則構(gòu)建的關(guān)鍵階段。中國信息通信研究院發(fā)布的《人工智能治理藍皮書(2024 年)》指出，隨著人工智能的飛速發(fā)展，人工智能領(lǐng)域發(fā)展不平衡、規(guī)則不健全、秩序不合理等問題日益顯現(xiàn)，全球人工智能治理面臨前所未有的挑戰(zhàn)。并提出，未來，人類社會將邁向更深層次的智能化發(fā)展階段，需要系統(tǒng)謀劃、綜合施策，在倫理監(jiān)測、制度設(shè)計、監(jiān)管模式、國際合作等方面持續(xù)改革創(chuàng)新。

人工智能治理面臨復(fù)雜多變新形勢

近一年來，大模型等新技術(shù)帶動全球人工智能行業(yè)實現(xiàn)高速增長。從產(chǎn)業(yè)規(guī)模來看，受人工智能存儲、服務(wù)器等基礎(chǔ)設(shè)施市場拉動，2024年全球人工智能產(chǎn)業(yè)收入高速增長。據(jù) IDC 預(yù)測，2024 年全球人工智能產(chǎn)業(yè)收入規(guī)模達 6421.8 億美元，同比增長22.2%。

與此同時，人工智能技術(shù)創(chuàng)新需求持續(xù)加大，產(chǎn)業(yè)鏈條拉長、商業(yè)生態(tài)分化等特征顯現(xiàn)。自 2022 年 11 月 ChatGPT 發(fā)布以來，人工智能已被應(yīng)用于金融、法律、設(shè)計等多個行業(yè)。人工智能產(chǎn)業(yè)鏈條從大多數(shù)情況下由單一企業(yè)完成，發(fā)展為在開發(fā)、調(diào)優(yōu)、應(yīng)用等不同環(huán)節(jié)，由不同企業(yè)合作完成。圍繞生態(tài)主企業(yè)構(gòu)建的商業(yè)生態(tài)開始出現(xiàn)分化，開源與閉源、通用與專用等不同路線均呈現(xiàn)競爭與融合并存態(tài)勢。

人工智能技術(shù)深刻變革、迅速發(fā)展的同時全球人工智能治理面臨復(fù)雜多變新形勢。《人工智能治理藍皮書(2024 年)》強調(diào)，全球人工智能行業(yè)實現(xiàn)高速增長，在產(chǎn)業(yè)規(guī)模、投融資、企業(yè)數(shù)量等方面表現(xiàn)明顯，具身智能、數(shù)字人等人工智能應(yīng)用將驅(qū)動下一輪產(chǎn)業(yè)洗牌。通用人工智能技術(shù)飛速躍遷敲響安全警鐘，幻覺難消除、場景難限定、責任難追溯等特性放大了虛假信息、隱私侵犯、網(wǎng)絡(luò)犯罪等現(xiàn)實風險。

其中，在治理需求方面，人工智能安全可控和發(fā)展優(yōu)先路線并存。一方面，國際社會普遍關(guān)注人工智能風險問題，將“安全、可靠和值得信賴”理念納入多部共識文件；同時探索通過英國、韓國、法國系列人工智能峰會，推進全球安全研究網(wǎng)絡(luò)和評估評測合作。另一方面，各國對技術(shù)發(fā)展不平衡帶來的“智能鴻溝”問題表示憂慮。

多元主體協(xié)同推進人工智能治理進程

《人工智能治理藍皮書(2024 年)》指出，為了推進人工智能治理進程需多元主體協(xié)同。主要經(jīng)濟體政府監(jiān)管模式各異，規(guī)則落地取得實質(zhì)進展。以我國為例，我國構(gòu)建四大層級制度體系，初步形成三項落地舉措從橫向來看，我國堅持人工智能發(fā)展與安全并重，強調(diào)國家主導(dǎo)，涵蓋頂層設(shè)計、法律制度、部門規(guī)章和技術(shù)標準四大層面，形成了由政府引導(dǎo)、多部門協(xié)同、公私部門合作參與的全方位治理格局。此外，已有立法為人工智能治理奠定扎實制度基礎(chǔ)。

部門規(guī)章方面，我國人工智能治理自2017 年起至今經(jīng)歷了三個階段，體現(xiàn)出急用先行的治理特點。標準方面，各部門圍繞產(chǎn)業(yè)發(fā)展和風險治理出臺多項人工智能標準，為企業(yè)合規(guī)提供具體指引。實踐方面，我國形成監(jiān)管備案、倫理審查和安全框架三個維度相互獨立又緊密關(guān)聯(lián)，各有側(cè)重但相輔相成的制度保障體系。

此外，企業(yè)和專業(yè)機構(gòu)等主體創(chuàng)新探索，形成協(xié)同共治生態(tài)圈。科技企業(yè)、技術(shù)社區(qū)、行業(yè)共同體作為人工智能研發(fā)、部署和應(yīng)用第一線的先行者，通過提供技術(shù)工具、充當“資源中介”、促進信息流動以及參與國際治理等發(fā)揮重要作用。

國際人工智能治理日益深化，三大維度熱點持續(xù)深化。新一輪人工智能技術(shù)創(chuàng)新導(dǎo)致治理舉措急劇增加，國家、國際和區(qū)域組織等競相發(fā)布原則、宣言、聲明等，全球人工智能治理格局復(fù)雜而分散，包容性有待進一步提升。機制層面，聯(lián)合國醞釀新的人工智能治理協(xié)調(diào)機制；議題層面，人工智能發(fā)展優(yōu)先與風險管控路線并行；執(zhí)行層面，各方推動高層次承諾向可執(zhí)行政策落地。

五大對策建議加速推進人工智能治理

人工智能作為我國實施創(chuàng)新驅(qū)動發(fā)展戰(zhàn)略的關(guān)鍵力量，是加快形成新質(zhì)生產(chǎn)力的重要引擎。展望未來，人工智能技術(shù)帶來的發(fā)展紅利和全球性挑戰(zhàn)同步顯現(xiàn)，各國圍繞人工智能評估評測、知識產(chǎn)權(quán)、價值對齊等加速搭建規(guī)則標準體系，人工智能治理加速邁入實踐落地和國際合作的關(guān)鍵窗口。

藍皮書也對加速推進人工智能治理提出了五點建議：一是深化落地人工智能協(xié)同敏捷治理模式探索敏捷治理理念，建立靈活性、全面性制度框架，推動人工智能高質(zhì)量發(fā)展和高水平安全實現(xiàn)良性互動。二是系統(tǒng)監(jiān)測預(yù)警人工智能倫理社會影響為有效應(yīng)對具身智能、數(shù)字人等應(yīng)用帶來的情感依賴、勞動替代等倫理挑戰(zhàn)，應(yīng)對相關(guān)倫理影響進行系統(tǒng)監(jiān)測預(yù)警。三是圍繞要素和場景細化負責任創(chuàng)新方案面對人工智能帶來的制度性挑戰(zhàn)，針對產(chǎn)業(yè)鏈各環(huán)節(jié)，堅持“小步快跑”“邊發(fā)展邊治理”的制度路徑具有重要現(xiàn)實意義。四是立足于全生命周期優(yōu)化安全技術(shù)工具人工智能治理既需要完善治理理念與規(guī)則，也需要優(yōu)化治理手段與能力，進一步更新豐富治理工具箱。五是加速落地全球人工智能能力建設(shè)方案人工智能治理攸關(guān)全人類命運，是世界各國面臨的共同課題，應(yīng)積極參與并推動國際合作治理。