
当前人工智能发展日新月异,深度融入生产生活各领域。在人工智能加速迭代过程中,其带来的安全风险也随之凸显。美国人工智能企业安特罗匹克公司(Anthropic)7月30日表示,其人工智能模型曾在网络能力测试中,未经授权访问了3家机构的系统。而美国开放人工智能研究中心(OpenAI)也在不久前承认,该公司多个人工智能模型在内部评估时,突破隔离测试环境,入侵了运营人工智能开源平台的美国抱抱脸公司的系统。消息公布后,AI工具安全问题、人工智能是否觉醒自主意识迅速成为大众热议焦点。
这几起美国AI智能体安全事件,到底给我们带来哪些启示?先来听听专家怎么说。
专家澄清,AI自主发起攻击属于目标驱动下的执行行为,并不等同于产生自我意识。
此次美国AI工具失控事件再次敲响人工智能安全警钟。专家表示,近年来,各类AI工具带来的安全风险在国内也集中显现,风险类型主要分为三类。
今年年初,工业和信息化部、国家互联网应急中心发布预警,OpenClaw部署过程中信任边界界定模糊,可能出现越权操作,进而引发信息泄露、系统被控制等风险。7月工业和信息化部针对Claude Code后门风险发布警示,该隐患被NVDB(国家信息安全漏洞库)评定为严重级别,相关AI工具可在未经用户授权的情况下实施隐蔽监控,窃取源代码等关键资料。
和传统网络攻击相比,AI驱动的攻击具备哪些新特征?当前我国又有哪些法律法规能够对人工智能相关行为形成约束?
第一类是网络攻击的主体变了。攻击者的主体,在我们以前来看,都是实实在在的自然人。这些人做这些事情的时候是需要一定的技术能力,还有经验以及谈球吧速度的。现在都不需要了,AI大模型它可以自主去完成。第二类不同点,实际上是AI大模型模拟了人的攻击行为,是非常隐蔽的,传统的安全检测措施很难来进行检出。
专家表示,现阶段我国针对人工智能领域的法律规范,重心大多聚焦于数据安全层面。
随着人工智能加速落地应用,这类可自主访问网络、执行代码、操控设备的新型AI工具,突破了传统大模型仅被动应答的模式,衍生出全新风险场景。现有法律框架难以全面覆盖智能体自主行动带来的各类新问题,加快完善配套治理规则,补齐制度短板迫在眉睫。
专家表示,人工智能技术加速迭代落地,随之而来的安全风险不容忽视。人工智能研发运营主体与广大使用者,都需要树立风险意识,多措并举做好安全防范。
企业在部署人工智能的时候,尤其是这种具有自主行动的智能体的时候,也要充分考虑到智能体的安全,而不能部署在网络上就不管了。同时第三方独立的测评机制也要建立起来,不能成为一个企业自己部署、自己测试、自己认为安全的闭环。同时对于相关的责任追究机制以及相关技术标准的建立,还是需要一个逐步发展和完善的过程。
防范人工智能安全风险,不仅需要企业压实主体责任,终端使用者同样不能放松警惕。普通用户在享受人工智能工具带来便利的同时,也要时刻绷紧安全这根弦,专家提醒,普通用户应谨慎授权AI工具访问个人敏感信息,及时更新软件补丁,对异常索要权限的行为保持警惕。
更多精彩资讯请在应用市场下载“央广网”客户端。欢迎提供新闻线小时报料热线;消费者也可通过央广网“啄木鸟消费者投诉平台”线上投诉。版权声明:本文章版权归属央广网所有,未经授权不得转载。转载请联系:,不尊重原创的行为我们将追究责任。
近日,江苏连云港,女子带孩子在客厅煮火锅,突然爆炸顶飞锅盖,屋内溅满红油。当事人张女士称,幸好孩子和自己都没有被热油烫伤,花费400元请保洁清理了现场。当事人称可能是水少油多造成的,油水失衡、加盖焖煮,油温过高就顶炸掉了。
长安航空紧急通报“南京飞往贵阳航班旅客充电宝自燃”:已完成处置,机上无人员受伤,经机组慎重决策,航班备降武汉机场
8月5日,@新海航丨长安航空 发布通报:2026年8月4日22:30左右,由南京飞往贵阳的9H8470航班,一名旅客携带的充电宝发生自燃。乘务组严格按照机上锂电池冒烟失火应急程序专业高效完成处置,机上无人员受伤,飞机状况良好。
SpaceX火箭残骸将撞击月球,预计将形成有史以来最大规模的人造陨石坑
据参考消息援引《日本经济新闻》网站8月5日报道,SpaceX火箭残骸即将撞击月球。报道说,美国太空探索技术公司(SpaceX)此前发射的一枚猎鹰9号火箭的残骸将于8月5日撞击月球表面。预计此次撞击将形成一个直径约27米、有史以来最大规模的人造陨石坑。
女子被五步蛇咬伤 家属用刀片划开伤口放血排毒 拖延半小时 手指彻底溃烂坏死 只能截肢
齐鲁网·闪电新闻8月5日讯 女子被五步蛇咬伤,家属用刀片划开伤口放血排毒 ,拖延半小时, 手指彻底溃烂坏死, 只能截肢。
吉林四平705分高考生被哈工大录取,将就读“尖班”英国计划,当事人高二时就关注哈工大,称该校的家国情怀和认真的作风坚定了他的选择
极目新闻记者 王柳钦近日,吉林四平的刘子涵,以高考705分的成绩被哈尔滨工业大学录取,并选择了该校新开设的工科试验班(尖班)“英国计划”,引发热议。
8月5日 据新华社 美国国土安全部下属海关与边境保护局官员当地时间4日向美国国际贸易法院披露的数据显示,美国海关已退回约1000亿美元此前根据美国《国际紧急经济权力法》征收的关税。美国海关与边境保护局官员表示,超过1280亿美元的关税退款请求已经被受理。
齐鲁网·闪电新闻8月4日讯 3名辅警查酒驾,收钱就放行,还致一醉驾男子被撞身亡。法院判了。
乘客投诉绕路遭出租车司机持铁棍殴打,山西太原通报:乘客因行车路线问题与驾驶员发生口角,矛盾激化后被打伤,案件正在依法办理中
8月4日晚,太原市公安局小店分局官方微博通报:7月20日凌晨2时许,我局接到群众报警,小店区体育路许坦西街口发生一起因出租车司乘纠纷引发的伤人案件。接警后,我局立即开展调查取证工作。
