人民網北京9月13日電 （記者孫陽）從寫文案、做表格，到訂機票、跑流程，再到自主調用工具、獨立完成任務——過去一年，人工智能正經歷從“工具理性”向“主體智能”的躍遷，智能體不再只是被動聽指令的算法模型，而是演變為具備自主感知決策和獨立行動能力的“數字新物種”。

　　能力躍遷的另一面，是安全與責任日趨受到關注：智能體暴露出的安全風險面擴大，傳統防護手段亟待更新﹔同時，身份鑒權模糊、權限管控失控、責任主體缺位等治理挑戰日益凸顯。日前，多位專家在2026 Inclusion外灘大會“智能體時代的安全坐標與責任邊界”見解論壇上表示，智能體的責任主體仍是人和企業，安全治理須從內容合規邁向行為可控，要重構防御范式，以“控制力”標准錨定責任歸屬。

　　當前，智能體不僅快速進入用戶的生活圈，更加速融入科研、產業等領域。今年5月，國家網信辦、國家發展改革委、工業和信息化部聯合印發的《智能體規范應用與創新發展實施意見》提出安全可控、規范有序、創新驅動、應用遷移四項原則，從政策層面關注智能體安全與規范。

　　論壇上，網信機構的專家介紹，我國出台的多個政策文件提出對智能體構建分類分級治理框架，對敏感重點行業落實備案、檢測、召回等手段，並推動建立行為可追溯機制和多元共治格局。同時，要加速從技術監測、風險預警、應急響應等維度開展安全防護技術研究，結合實際場景構建安全測評手段，對智能體進行全面“體檢”，並配套建立安全防護系統。

　　“我們3萬多名員工，辦公和生產環境中活躍智能體已達10萬個。”在螞蟻集團資深副總裁周志峰看來，智能體最大的風險在認知之外，必須堅持安全前置、生態共治、守住合規紅線，傳統互聯網時代的安全范式已難以適配AI迭代速度，亟須重新定義。在此過程中，尤其要明晰責任主體並不是智能體，而是背后的人和企業。

　　行業研究報告顯示，從AI發現漏洞到端到端攻擊部署僅需數十秒，而高危漏洞平均修復周期卻以月計，傳統“發現—告警—人工處置”的模式面臨新的挑戰。

　　杭州電子科技大學副校長任奎認為，攻擊側已“智能體化”。企業部署的AI設施正在成為新的攻擊面，面臨“看不全、查不清、攔不住、管控脫節”四重困境。因此，實踐中必須從依賴專家的“人海戰術”轉向標准化、可復制的“標准戰力”，讓專家經驗變成可管控、可審計的交付模式。同時，核心安全能力必須堅持自主可控。

　　“智能體安全存在‘急性病’和‘慢性病’兩類風險。急性病是架構性漏洞，慢性病則是可靠性問題，即使做到90%、95%，剩余的決策失誤長時間積累，會形成巨大隱患。”螞蟻集團副總裁兼首席技術安全官韋韜表示，傳統安全假設失效，軟件行為不再可預測，操作者也不再只是人。智能體時代，端側應用、大模型框架、模型服務每一環都可能成為突破口，必須對整個鏈路實施可控約束。

　　近年來，全球圍繞智能體的法律糾紛持續增多。智能體引發的行為歸責、主體確權等問題，成為構建長效治理機制的核心命題。

　　電子信息領域標准研究的專家谈球吧论坛介紹，國家標准工作堅持三條路徑：多文件類型組合推進，標准研制與標准研究相結合，通用標准與專用標准相補充。“有條件形成條款的抓緊制定，暫不成熟的先做研究，隨時轉化為標准。”專家表示，下一步將聚焦決策權限和行為邊界環節，構建行為追溯和風險提示機制，強化智能體內生安全能力。

　　西南政法大學人工智能法學院院長陳亮認為，智能體不具備認知和控制能力，不是責任主體。責任認定應追溯研發者、部署者、提供商、集成商和用戶對關鍵決策的控制力，並結合注意義務、因果關系和主觀過錯。智能體致害可能引發公益訴訟和集團訴訟，企業須明確行為邊界和注意義務。

　　論壇上，《智能體身份鑒別與授權技術框架》《智能體運行時安全技術要求》兩項團體標准同步啟動，聚焦身份標定、動態權限和運行時全鏈路防護。多位與會嘉賓認為，智能體安全治理需政策、標准、技術、法治協同發力，推動行業健康有序發展。

　　人民日報社概況關於人民網報社招聘招聘英才廣告服務運營服務合作加盟版權服務數據服務網站聲明網站律師信息保護聯系我們

　　人 民 網 股 份 有 限 公 司 版 權 所 有 ，未 經 書 面 授 權 禁 止 使 用