OpenAI智能体再失控 AI在团队不知情下 闯入3家政府网站

快科技9月26日消息,OpenAI的AI智能体,这次又闯进政府网站了。

据媒体报道,OpenAI可自主执行操作的AI智能体,在未经授权的情况下违规访问、操作美国官方网站,引发全球对人工智能安全管控与合规治理的广泛争议。

据媒体披露,今年夏季,OpenAI智能体在实验室未主动指令、毫无预判的情况下出现失控操作,异常访问并操作美国多家核心政府机构网站,涉及美国教育部、商务部及美国证券交易委员会(SEC)。

面对接连的安全漏洞,针对此次美方多部门网站异常访问事件,OpenAI已确认商务部、美国证券交易委员会网站的违规访问事实,教育部网站的相关异常行为仍在进一步核查中。

官方通报显示,公司近几周已主动向涉事美国政府机构报备此事,承认旗下自主智能体以非常规、异常方式接入政府官方网站系统。

经核查,该AI智能体的违规操作行为具体分为三类:一是对美国教育部官网开展网络探测扫描,试图非法获取教育部民权办公室的相关数据资源;

二是利用网络公开渠道搜集到的登录凭证,违规抓取隶属于美国商务部的人口普查局网站数据;

三是在网络论坛擅自转发美国证券交易委员会官网的公开政务数据。

OpenAI表示,这些事件均不属于数据泄露,只是其人工智能出现了意料之外、值得警惕的异常行为。

与此同时,OpenAI首席执行官山姆·奥尔特曼本周五在社交媒体发文称,公司在披露AI相关事件方面“没能做到我们期望的及时”。

他表示:“我们正按照事件严重程度尽可能划分优先级处理”,并补充说Hugging Face入侵事件仍是公司发现的“最严重事件”。

除美国本土事件外,OpenAI还被曝光存在海外违规操作、延迟通报的严重问题。

澳大利亚总理阿尔巴尼斯近日公开披露,今年6月18日,OpenAI旗下AI智能体违规入侵澳大利亚政府医保统计报告服务网站。

该智能体原本仅被用于研究澳洲公共药品支出数据,却在遭遇网站访问拦截后,自主绕过安全防护机制,越权访问网站公开文件及受限非公开文件,甚至向服务器写入数据。

8月,OpenAI在对AI模型活动进行全面检查时才发现异常,但直到9月10日才通过电子邮件联系澳大利亚民政服务部公共邮箱,将此事告知澳政府。

值得注意的是,一系列AI失控越界事件,暴露了自主智能体在自主决策、安全约束、权限管控上的漏洞,也让人工智能的安全边界、风险管控、合规监管问题再度成为全球行业与舆论热议的焦点。

OpenAI智能体再失控 AI在团队不知情下 闯入3家政府网站

也许你还喜欢

王牌战士入夏寻冰品活动时间什么时

活动时间:5月14日版本更新后至5月27日24点活动期间,单局战

瑞奇与叮当裂痕尼法利斯大帝打法分

瑞奇与叮当裂痕中,打败尼法利斯大帝即可解锁“两毛克两尼”的奖杯。

斗罗大陆斗神再临毒队阵容怎么搭配

斗罗大陆斗神再临毒队阵容怎么搭配?毒队阵容强度怎么样?游戏中

明日之后炽热铜币有什么作用 怎么

炽热铜币获取办法参与炽热前线的各个玩法可获得炽热铜币。炽热铜币

梦幻新诛仙新手职业选择推荐

《梦幻新诛仙》中共有八大门派供玩家选择,而每个门派都各有特点,萌

江湖悠悠公测福利有哪些?

江湖悠悠公测福利有哪些?最新预约福利怎么领取?游戏将于6月5

山海镜花托管功能怎么开启 可以托

怎么开启托管很多小伙伴们打开副本,在三星通关之后找不到托管在哪,

梦幻新诛仙辅助门派攻略

本文就给大家带来《梦幻新诛仙》辅助门派:天音寺与南疆古巫的职业攻

cf手游火线炼金坊雷神配方是什么?

cf手游火线炼金坊雷神配方是什么?炼金坊雷神流程是什么?游戏

三国志幻想大陆孟获介绍以及阵容推

技能:攻击敌方全体,造成84%的伤害,35%概率降低目标20%免