西湖論劍直擊大模型風(fēng)險治理 共議構(gòu)建數(shù)據(jù)xAI發(fā)展新格局

　　以“數(shù)智無界安全共生”為主題的2025中國數(shù)谷·西湖論劍大會5月10日開幕，匯聚政、產(chǎn)、學(xué)、研、用各界精英，聚焦數(shù)據(jù)要素市場化配置改革與人工智能深度融合等核心議題分享前瞻洞見，發(fā)布多項成果，啟動系列重要合作，共同發(fā)起數(shù)據(jù)要素×人工智能賦能高質(zhì)量發(fā)展倡議，為數(shù)字經(jīng)濟(jì)高質(zhì)量發(fā)展注入強(qiáng)勁新動能。

　　“將大模型風(fēng)險評估檢測列為關(guān)鍵任務(wù)”

　　活動期間，不僅舉行主論壇、“AI智能體應(yīng)用與安全治理論壇”“數(shù)據(jù)安全流通論壇”兩場平行論壇，而且舉辦低空安全、重點(diǎn)行業(yè)AI應(yīng)用與安全防護(hù)、運(yùn)營商可信數(shù)據(jù)空間暨數(shù)據(jù)安全、金融行業(yè)AI與數(shù)據(jù)安全、網(wǎng)絡(luò)空間智能計算及空間表達(dá)、人工智能賦能產(chǎn)業(yè)、AI重塑企業(yè)數(shù)字化轉(zhuǎn)型及安全新格局、商用密碼等專題研討會。

　　在主題報告環(huán)節(jié)，第十四屆全國政協(xié)委員、經(jīng)濟(jì)委員會委員、中國網(wǎng)絡(luò)空間安全協(xié)會理事長趙澤良等多位重量級嘉賓，圍繞數(shù)據(jù)要素的價值釋放、人工智能的創(chuàng)新突破以及數(shù)字時代的安全共生等核心議題進(jìn)行分享。在《數(shù)據(jù)要素化面臨的挑戰(zhàn)》主題報告中，中國計算機(jī)學(xué)會原理事長、CCF計算機(jī)博物館館長梅宏表示，當(dāng)前我國數(shù)字化轉(zhuǎn)型處于起步階段，數(shù)據(jù)資產(chǎn)相關(guān)法律還未明確，資產(chǎn)地位沒有確立，權(quán)屬確權(quán)沒有形成共識，流通交易也缺少規(guī)則，利益分配相應(yīng)機(jī)制不夠充分，還要面對安全隱私帶來的系列問題。數(shù)字化轉(zhuǎn)型就是需要構(gòu)建以數(shù)據(jù)為中心的組織體系和運(yùn)行模式。

　　“我們既要看到人工智能帶來前所未有發(fā)展機(jī)遇，也要看到它帶來前所未遇風(fēng)險挑戰(zhàn)，必須將大模型風(fēng)險評估檢測列為關(guān)鍵任務(wù)，讓大模型在安全可控的前提下，才能實現(xiàn)敢用、可用、好用”，安恒信息董事長范淵認(rèn)為AI智能體發(fā)展有條件自主、高度自主和完全自主三重境界，他們通過智能體賦能安全運(yùn)營、安全監(jiān)管，重構(gòu)威脅情報共享和協(xié)同防御體系，在實戰(zhàn)中實現(xiàn)從傳統(tǒng)的被動響應(yīng)轉(zhuǎn)向主動防御，通過智能體生態(tài)共創(chuàng)，結(jié)合各自專業(yè)領(lǐng)域的業(yè)務(wù)知識，共創(chuàng)出兼具創(chuàng)新與實用的智能體，在技術(shù)、業(yè)務(wù)、成果上實現(xiàn)共贏。

　　構(gòu)建數(shù)據(jù)要素×人工智能發(fā)展新格局

　　在全球數(shù)字化浪潮奔涌、數(shù)據(jù)要素戰(zhàn)略價值日益凸顯、人工智能技術(shù)加速迭代升級的時代背景下，“數(shù)據(jù)要素×人工智能”的深度融合已成為驅(qū)動全球科技革命與產(chǎn)業(yè)變革的核心力量。

　　在大會上，浙江省委省政府、杭州市委市政府以及國家數(shù)據(jù)局?jǐn)?shù)字科技和基礎(chǔ)設(shè)施建設(shè)司，中國網(wǎng)絡(luò)空間安全協(xié)會，中國電子信息產(chǎn)業(yè)發(fā)展研究院相關(guān)單位共同發(fā)起“數(shù)據(jù)要素×人工智能賦能高質(zhì)量發(fā)展倡議”。南都大數(shù)據(jù)研究院注意到，此倡議在“深化制度創(chuàng)新、加快技術(shù)創(chuàng)新、推動組織創(chuàng)新、支持場景創(chuàng)新、重視生態(tài)創(chuàng)新”五個方面著力構(gòu)建開放、融合、協(xié)同、安全的“數(shù)據(jù)要素×人工智能”發(fā)展新格局。

　　此次大會還發(fā)布海洋經(jīng)濟(jì)行業(yè)可信數(shù)據(jù)空間、“三數(shù)一鏈”國家數(shù)據(jù)基礎(chǔ)設(shè)施杭州試點(diǎn)任務(wù)階段性成果，以及《安全智能體魔方：成熟度模型評價研究報告》。多項戰(zhàn)略合作成功啟動，包括CCF計算機(jī)博物館與安恒信息基金會簽約、工信部電子第五研究所與安恒信息簽訂戰(zhàn)略協(xié)議等，攜手共筑數(shù)字經(jīng)濟(jì)發(fā)展新優(yōu)勢。

　　據(jù)介紹，海洋經(jīng)濟(jì)行業(yè)可信數(shù)據(jù)空間通過關(guān)鍵技術(shù)構(gòu)建支持可信管控、資源交互、價值共創(chuàng)的數(shù)據(jù)流通利用技術(shù)體系，已匯聚包括海洋實測、遙感、預(yù)報、產(chǎn)業(yè)及綜合管理等核心領(lǐng)域的277類高質(zhì)量、權(quán)威海洋數(shù)據(jù)資源，構(gòu)建“空天地?！币惑w化數(shù)據(jù)資源體系。而且，成功開發(fā)超40個創(chuàng)新應(yīng)用場景，并搭建海洋時空數(shù)據(jù)處理基座，搭建海洋經(jīng)濟(jì)可信數(shù)據(jù)空間標(biāo)準(zhǔn)規(guī)則體系，有力支撐跨主體數(shù)據(jù)的安全有序共享與高效利用。

　　在“人工智能新紀(jì)元”圓桌對話中，浙江大學(xué)求是特聘教授、國際聯(lián)合學(xué)院副院長吳健，上海人工智能研究院首席科學(xué)家閆維新，安恒信息CTO劉博等嘉賓，圍繞高質(zhì)量數(shù)據(jù)對AI發(fā)展關(guān)鍵作用、數(shù)據(jù)基礎(chǔ)設(shè)施演進(jìn)方向、AI應(yīng)用責(zé)任倫理界定等前沿課題，碰撞思維，為行業(yè)把握技術(shù)變革機(jī)遇提供戰(zhàn)略參考。

　　智能體推動安全運(yùn)營立體化可持續(xù)

　　當(dāng)前，全國一體化算力網(wǎng)絡(luò)、數(shù)據(jù)交易平臺、數(shù)據(jù)要素市場等數(shù)據(jù)基礎(chǔ)設(shè)施建設(shè)正加速推進(jìn)。與此同時，諸如數(shù)據(jù)流動安全規(guī)則、數(shù)據(jù)流通安全技術(shù)、數(shù)據(jù)濫用風(fēng)險等問題仍廣泛存在，提升數(shù)據(jù)安全治理能力是促進(jìn)數(shù)據(jù)要素合規(guī)高效安全流通的關(guān)鍵前提。

　　“沒有安全，流通就無從談起；沒有流通，數(shù)據(jù)就難以賦能千行百業(yè)”。在數(shù)據(jù)安全流通論壇上，杭州市政府副秘書長、杭州市數(shù)據(jù)資源管理局局長徐青山提到，當(dāng)“數(shù)據(jù)要素×”效應(yīng)開始顯現(xiàn)時，需要重構(gòu)安全體系，推動安全能力、數(shù)據(jù)流通、治理機(jī)制等方面的進(jìn)化、轉(zhuǎn)型和躍遷。

　　“數(shù)據(jù)要素化時代，數(shù)據(jù)流通規(guī)模與速率激增，靜態(tài)安全防護(hù)已無法滿足需求，構(gòu)建貫穿數(shù)據(jù)全生命周期的動態(tài)數(shù)據(jù)安全體系迫在眉睫”，在安恒信息董事長范淵看來，從靜態(tài)到動態(tài)數(shù)據(jù)安全體系升級，對安全技術(shù)提出更高要求，而AI正是破題關(guān)鍵。AI能深度解讀數(shù)據(jù)、精準(zhǔn)理解業(yè)務(wù)、洞察行為意圖，基于內(nèi)容匹配企業(yè)業(yè)務(wù)，依業(yè)務(wù)判斷數(shù)據(jù)資產(chǎn)重要性，結(jié)合日志與歷史行為分析運(yùn)維人員意圖，從海量操作中精準(zhǔn)揪出異常。在更廣泛安全運(yùn)營場景中，智能體賦能安全運(yùn)營的“點(diǎn)-線-面-體”，正推動安全運(yùn)營從“點(diǎn)狀應(yīng)急”向“立體化可持續(xù)”模式轉(zhuǎn)型，為政府與企業(yè)提供高質(zhì)量的安全服務(wù)。

　　在AI智能體應(yīng)用與安全治理論壇上，中國網(wǎng)絡(luò)空間安全協(xié)會秘書長郝曉偉提到，技術(shù)的狂飆猛進(jìn)也帶來前所未有的治理挑戰(zhàn)，大模型的黑箱效應(yīng)侵蝕著決策的可信度，具身智能的行為失控威脅物理安全，數(shù)據(jù)濫用與算法偏見更可能引發(fā)系統(tǒng)性的風(fēng)險。不管是政策法規(guī)還是行業(yè)自律的文件，密集落地的規(guī)章制度形成了我國構(gòu)建人工智能治理的中國范式，標(biāo)志著我國正以敏捷治理的理念，走出一條技術(shù)創(chuàng)新與安全可控并重的發(fā)展之路。

（文章來源：南方都市報）

(原標(biāo)題：西湖論劍直擊大模型風(fēng)險治理，共議構(gòu)建數(shù)據(jù)xAI發(fā)展新格局)

(責(zé)任編輯：73)