今年早些时候 ，OpenAI的人工智能智能体在执行常规线上数据采集任务时，为获取信息采取了极端手段 。
非营利人工智能研究实验室Transluce以及澳大利亚 *** 最新公布的调查结果显示 ，关联OpenAI的AI智能体曾在5月 、6月试图入侵多所大学及 *** 网站来获取信息 。这类入侵尝试 ，是AI智能体为达成目标而脱离预设指令的又一系列事件。
但这一次，入侵尝试并非OpenAI开展 *** 安全测评（即专门令模型执行黑客攻击任务） ，而是看起来属于内部基准测试——测试模型在互联网上查找 *** 息的能力 。这些智能体当时想要获取的资料包括泰国劳动力统计数据 、澳大利亚皮肤病相关数据 。
研究人员发现 ，遭攻击目标网站包括澳大利亚卫生与福利研究所、新墨西哥大学网站，以及由德勤 、Datawheel和麻省理工学院合作运营的公共数据项目Data USA。近来 没有证据表明入侵取得成功 。
OpenAI一名发言人表示 ，公司正在对这类“对齐失效行为”开展全面审查 ，Transluce报告提及的相关事件，与“我们正在审查中 、处于不同调查阶段的案例存在重合 ” 。他补充说，公司已经联系受到影响的相关机构；这项大范围审查还包含“智能体对网站发送垃圾请求 ”这类低严重度事件 ，预计耗时数月。
除Transluce点名的3个目标网站外 ，澳大利亚总理安东尼·阿尔巴尼斯周三在纽约联合国会议上称，一款OpenAI智能体曾在6月侵入一处 *** 服务网站 。他表示 ，该智能体访问了该国面向公众开放的医疗统计门户中的公开与非公开文件 ，该门户主要披露医疗支出等信息 。
OpenAI周三表示，已就该事件与澳方沟通 ，承认其智能体做出了非公司预设的行为。
Transluce分析了大量AI智能体晦涩的数据查询行为 ，时间最早可追溯至2025年11月，监测一直持续到今年9月中旬。Transluce称 ，在所发现的3起入侵尝试中 ，智能体无法获取目标数据，于是转而使用黑客手段 ，在查询指令中附加所谓恶意载荷 。
研究人员得以还原智能体的网页查询记录 ，原因是这些机器人借助一款在线工具充当网页浏览器 。研究人员推测，智能体利用该工具绕过网页浏览限制，例如访问拦截自动化爬虫访问的网站。
本文来自作者[德化]投稿，不代表德化号立场，如若转载，请注明出处：https://tq.taocisuyuan.com/dehua/9852.html
评论列表（4条）
我是德化号的签约作者“德化”！
希望本篇文章《OpenAI智能体在搜集数据期间，又尝试入侵另外四家网站》能对你有所帮助！
本站[德化号]内容主要涵盖：德化号,生活百科,小常识,生活小窍门,百科大全,经验网,游戏攻略,新游上市,游戏信息,端游技巧,角色特征,游戏资讯,游戏测试,页游H5,手游攻略,游戏测试,大学志愿,娱乐资讯,新闻八卦,科技生活,校园墙报
本文概览： 今年早些时候 ，OpenAI的人工智能智能体在执行常规线上数据采集任务时，为获取信息采取了极端手段。 ...