飛象網(wǎng)訊（易歡）當(dāng)前，人工智能技術(shù)顛覆性、跨越式突破引發(fā)通用人工智能新一輪發(fā)展熱潮，推動(dòng)全球人工智能治理進(jìn)入規(guī)則構(gòu)建的關(guān)鍵階段。中國信息通信研究院發(fā)布的《人工智能治理藍(lán)皮書(2024 年)》指出，隨著人工智能的飛速發(fā)展，人工智能領(lǐng)域發(fā)展不平衡、規(guī)則不健全、秩序不合理等問題日益顯現(xiàn)，全球人工智能治理面臨前所未有的挑戰(zhàn)。并提出，未來，人類社會(huì)將邁向更深層次的智能化發(fā)展階段，需要系統(tǒng)謀劃、綜合施策，在倫理監(jiān)測(cè)、制度設(shè)計(jì)、監(jiān)管模式、國際合作等方面持續(xù)改革創(chuàng)新。

人工智能治理面臨復(fù)雜多變新形勢(shì)

近一年來，大模型等新技術(shù)帶動(dòng)全球人工智能行業(yè)實(shí)現(xiàn)高速增長(zhǎng)。從產(chǎn)業(yè)規(guī)模來看，受人工智能存儲(chǔ)、服務(wù)器等基礎(chǔ)設(shè)施市場(chǎng)拉動(dòng)，2024年全球人工智能產(chǎn)業(yè)收入高速增長(zhǎng)。據(jù) IDC 預(yù)測(cè)，2024 年全球人工智能產(chǎn)業(yè)收入規(guī)模達(dá) 6421.8 億美元，同比增長(zhǎng)22.2%。

與此同時(shí)，人工智能技術(shù)創(chuàng)新需求持續(xù)加大，產(chǎn)業(yè)鏈條拉長(zhǎng)、商業(yè)生態(tài)分化等特征顯現(xiàn)。自 2022 年 11 月 ChatGPT 發(fā)布以來，人工智能已被應(yīng)用于金融、法律、設(shè)計(jì)等多個(gè)行業(yè)。人工智能產(chǎn)業(yè)鏈條從大多數(shù)情況下由單一企業(yè)完成，發(fā)展為在開發(fā)、調(diào)優(yōu)、應(yīng)用等不同環(huán)節(jié)，由不同企業(yè)合作完成。圍繞生態(tài)主企業(yè)構(gòu)建的商業(yè)生態(tài)開始出現(xiàn)分化，開源與閉源、通用與專用等不同路線均呈現(xiàn)競(jìng)爭(zhēng)與融合并存態(tài)勢(shì)。

人工智能技術(shù)深刻變革、迅速發(fā)展的同時(shí)全球人工智能治理面臨復(fù)雜多變新形勢(shì)。《人工智能治理藍(lán)皮書(2024 年)》強(qiáng)調(diào)，全球人工智能行業(yè)實(shí)現(xiàn)高速增長(zhǎng)，在產(chǎn)業(yè)規(guī)模、投融資、企業(yè)數(shù)量等方面表現(xiàn)明顯，具身智能、數(shù)字人等人工智能應(yīng)用將驅(qū)動(dòng)下一輪產(chǎn)業(yè)洗牌。通用人工智能技術(shù)飛速躍遷敲響安全警鐘，幻覺難消除、場(chǎng)景難限定、責(zé)任難追溯等特性放大了虛假信息、隱私侵犯、網(wǎng)絡(luò)犯罪等現(xiàn)實(shí)風(fēng)險(xiǎn)。

其中，在治理需求方面，人工智能安全可控和發(fā)展優(yōu)先路線并存。一方面，國際社會(huì)普遍關(guān)注人工智能風(fēng)險(xiǎn)問題，將“安全、可靠和值得信賴”理念納入多部共識(shí)文件；同時(shí)探索通過英國、韓國、法國系列人工智能峰會(huì)，推進(jìn)全球安全研究網(wǎng)絡(luò)和評(píng)估評(píng)測(cè)合作。另一方面，各國對(duì)技術(shù)發(fā)展不平衡帶來的“智能鴻溝”問題表示憂慮。

多元主體協(xié)同推進(jìn)人工智能治理進(jìn)程

《人工智能治理藍(lán)皮書(2024 年)》指出，為了推進(jìn)人工智能治理進(jìn)程需多元主體協(xié)同。主要經(jīng)濟(jì)體政府監(jiān)管模式各異，規(guī)則落地取得實(shí)質(zhì)進(jìn)展。以我國為例，我國構(gòu)建四大層級(jí)制度體系，初步形成三項(xiàng)落地舉措從橫向來看，我國堅(jiān)持人工智能發(fā)展與安全并重，強(qiáng)調(diào)國家主導(dǎo)，涵蓋頂層設(shè)計(jì)、法律制度、部門規(guī)章和技術(shù)標(biāo)準(zhǔn)四大層面，形成了由政府引導(dǎo)、多部門協(xié)同、公私部門合作參與的全方位治理格局。此外，已有立法為人工智能治理奠定扎實(shí)制度基礎(chǔ)。

部門規(guī)章方面，我國人工智能治理自2017 年起至今經(jīng)歷了三個(gè)階段，體現(xiàn)出急用先行的治理特點(diǎn)。標(biāo)準(zhǔn)方面，各部門圍繞產(chǎn)業(yè)發(fā)展和風(fēng)險(xiǎn)治理出臺(tái)多項(xiàng)人工智能標(biāo)準(zhǔn)，為企業(yè)合規(guī)提供具體指引。實(shí)踐方面，我國形成監(jiān)管備案、倫理審查和安全框架三個(gè)維度相互獨(dú)立又緊密關(guān)聯(lián)，各有側(cè)重但相輔相成的制度保障體系。

此外，企業(yè)和專業(yè)機(jī)構(gòu)等主體創(chuàng)新探索，形成協(xié)同共治生態(tài)圈。科技企業(yè)、技術(shù)社區(qū)、行業(yè)共同體作為人工智能研發(fā)、部署和應(yīng)用第一線的先行者，通過提供技術(shù)工具、充當(dāng)“資源中介”、促進(jìn)信息流動(dòng)以及參與國際治理等發(fā)揮重要作用。

國際人工智能治理日益深化，三大維度熱點(diǎn)持續(xù)深化。新一輪人工智能技術(shù)創(chuàng)新導(dǎo)致治理舉措急劇增加，國家、國際和區(qū)域組織等競(jìng)相發(fā)布原則、宣言、聲明等，全球人工智能治理格局復(fù)雜而分散，包容性有待進(jìn)一步提升。機(jī)制層面，聯(lián)合國醞釀新的人工智能治理協(xié)調(diào)機(jī)制；議題層面，人工智能發(fā)展優(yōu)先與風(fēng)險(xiǎn)管控路線并行；執(zhí)行層面，各方推動(dòng)高層次承諾向可執(zhí)行政策落地。

五大對(duì)策建議加速推進(jìn)人工智能治理

人工智能作為我國實(shí)施創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略的關(guān)鍵力量，是加快形成新質(zhì)生產(chǎn)力的重要引擎。展望未來，人工智能技術(shù)帶來的發(fā)展紅利和全球性挑戰(zhàn)同步顯現(xiàn)，各國圍繞人工智能評(píng)估評(píng)測(cè)、知識(shí)產(chǎn)權(quán)、價(jià)值對(duì)齊等加速搭建規(guī)則標(biāo)準(zhǔn)體系，人工智能治理加速邁入實(shí)踐落地和國際合作的關(guān)鍵窗口。

藍(lán)皮書也對(duì)加速推進(jìn)人工智能治理提出了五點(diǎn)建議：一是深化落地人工智能協(xié)同敏捷治理模式探索敏捷治理理念，建立靈活性、全面性制度框架，推動(dòng)人工智能高質(zhì)量發(fā)展和高水平安全實(shí)現(xiàn)良性互動(dòng)。二是系統(tǒng)監(jiān)測(cè)預(yù)警人工智能倫理社會(huì)影響為有效應(yīng)對(duì)具身智能、數(shù)字人等應(yīng)用帶來的情感依賴、勞動(dòng)替代等倫理挑戰(zhàn)，應(yīng)對(duì)相關(guān)倫理影響進(jìn)行系統(tǒng)監(jiān)測(cè)預(yù)警。三是圍繞要素和場(chǎng)景細(xì)化負(fù)責(zé)任創(chuàng)新方案面對(duì)人工智能帶來的制度性挑戰(zhàn)，針對(duì)產(chǎn)業(yè)鏈各環(huán)節(jié)，堅(jiān)持“小步快跑”“邊發(fā)展邊治理”的制度路徑具有重要現(xiàn)實(shí)意義。四是立足于全生命周期優(yōu)化安全技術(shù)工具人工智能治理既需要完善治理理念與規(guī)則，也需要優(yōu)化治理手段與能力，進(jìn)一步更新豐富治理工具箱。五是加速落地全球人工智能能力建設(shè)方案人工智能治理攸關(guān)全人類命運(yùn)，是世界各國面臨的共同課題，應(yīng)積極參與并推動(dòng)國際合作治理。