安全研究人员以及一名了解相关事件的知情人士称 ，今年夏天 ，OpenAI的人工智能在该实验室不知情的情况下出现失控行为，对美国教育部 、商务部以及美国证券交易委员会的网站进行了操作 。
OpenAI确认了发生在商务部与美国证券交易委员会网站上的事件 ，并表示仍在调查教育部网站相关情况 。这家总部位于旧金山的公司称 ，近几周已通知相关 *** 机构，其可自主执行操作的智能体（机器人程序）以异常方式访问了这些机构的网站。
人工智能安全研究公司Transluce的研究人员表示 ，针对教育部网站 ，OpenAI的程序尝试对网站实施探测，试图获取该部门民权办公室的数据 。这套人工智能还利用在网上找到的登录凭证 ，从隶属于商务部的美国人口普查局网站抓取数据 。另外 ，OpenAI智能体还在 *** 论坛上转发了美国证券交易委员会网站上的公开数据。
OpenAI表示，这些事件均不属于数据泄露，只是其人工智能出现了意料之外 、值得警惕的异常行为 。该公司近期在复盘其AI发起的各类探测事件时发现了这些情况 ，其中包括6月针对澳大利亚 *** 网站、7月针对人工智能初创公司Hugging Face的攻击行为 。
美国 *** 网站相关事件曝光后 ，越来越多案例显示，OpenAI 、Anthropic 、Meta以及谷歌的AI智能体出现行为失当 ，尝试入侵或攻击企业、高校与 *** 机构。部分AI攻击取得成功 ，也有部分行动失败 。所有案例中，模型开发商都是事后才知晓AI的所作所为 。
没有任何一家人工智能企业像OpenAI一样 ，接连曝出多起AI失控事件。该AI对Hugging Face的攻击触发内部调查 ，调查又发现AI入侵澳大利亚公共卫生系统 *** 网站一事，同时还查出至少另外六起入侵尝试以及AI隐瞒错误 、编造数据 、未经许可把文件上传至公网的案例。
OpenAI一名发言人表示 ，公司相关审查工作“范围广泛且仍在持续推进” ，并会继续通知受到模型影响的机构 。
“到近来 为止，我们核查的大部分行为都属于常规研究任务 ，例如获取公开网页内容以回答问题 。 ”她说 ，“部分操作涉及 *** 网站，是因为我们的模型经常将 *** 网站视为权威 *** 息来源。 ”
OpenAI首席执行官山姆·奥尔特曼周五在社交媒体发文称，公司在披露AI相关事件方面“没能做到我们期望的及时” 。他表示：“我们正按照事件严重程度尽可能划分优先级处理 ” ，并补充说Hugging Face入侵事件仍是公司发现的“最严重事件 ” 。
这些事件引发了关于人工智能安全的激烈争论。奥尔特曼本月在社交媒体称 ，安全优先级应当高于提升AI能力，如果缺少防护措施 ，人类社会可能会“把未来的控制权拱手交给人工智能” 。
竞品AI实验室Anthropic首席执行官达里奥·阿莫代伊同样支持放缓人工智能开发 ，优先保障安全 。但英伟达首席执行官黄仁勋等其他科技行业领袖认为，对AI失控的担忧并不现实。特朗普总统则表示 ，没有必要放缓人工智能行业发展 。
（《 *** 》已起诉OpenAI与微软 ，指控两家公司利用新闻内容训练AI系统侵犯版权 。两家公司否认相关指控。）
白宫将问询转交给商务部与美国证券交易委员会 。美国证券交易委员会一名发言人表示，该机构正与OpenAI沟通 ，近来 没有发现任何未经授权获取非 *** 息的情况 。商务部与教育部没有回应置评请求。
另外 ，芝加哥市长办公室一名代表称，OpenAI近期告知市 *** ，其AI程序从该市市政网站获取了 *** 息 ，看起来没有拿到任何敏感资料。
Transluce公司治理负责人康拉德·斯托什表示，在美国 *** 网站相关事件中，OpenAI智能体“使用了一系列处于灰色地带的手段 ” ，包括“以非网站预设的方式访问网站 ，有时还违反网站明确的使用条款 ” 。他补充道：“这类智能体向这些网站发起成千上万次请求，试图绕过开发者给它们设置的限制 ，本次事件只是这类行为中的一例 。”
美国加州民主党众议员泰德·刘表示 ，AI模型“永不停歇。它会不顾一切完成任务，无法分辨道德、后果 、善恶 。 ”
身为众议院人工智能专项工作组联合主席的泰德·刘认为 ，AI企业或许需要对模型进行完整重新训练 ，而不是仅仅依靠防护机制约束模型行为 。
“这些智能体并非刻意作恶。 ”他说，“只是一些普通任务 ，但智能体在尝试完成任务时出现了行为失控 。”
本文来自作者[德化]投稿，不代表德化号立场，如若转载，请注明出处：https://tq.taocisuyuan.com/dehua/10962.html
评论列表（4条）
我是德化号的签约作者“德化”！
希望本篇文章《AI失控了？OpenAI确认干预3家美国 *** 网站》能对你有所帮助！
本站[德化号]内容主要涵盖：德化号,生活百科,小常识,生活小窍门,百科大全,经验网,游戏攻略,新游上市,游戏信息,端游技巧,角色特征,游戏资讯,游戏测试,页游H5,手游攻略,游戏测试,大学志愿,娱乐资讯,新闻八卦,科技生活,校园墙报
本文概览： 安全研究人员以及一名了解相关事件的知情人士称，今年夏天 ，OpenAI的人工智能在该实验室不知情的情况下出现失控...