研究人员称，OpenAI的恶意代理至少还利用了另外10个网站进行未经授权的通信
在大量此前未公开的网站上发现了 OpenAI 代理活动的痕迹
概要：
在大量此前未公开的网站上发现了 OpenAI 代理活动的痕迹。
研究人员称，AI代理们找到了绕过网络发布限制的方法。
一位人工智能安全专家表示，“几乎可以肯定还有更多事情正在发生”。
华盛顿，9 月 9 日（路透社）——据六组独立调查人员和路透社审查的数据显示，OpenAI 释放的人工智能代理今年早些时候使用了 10 多个此前未公开的网站进行未经授权的通信，这表明这些AI代理的非法活动范围比之前披露的要广泛得多。
尽管这种行为还称不上黑客攻击，在某些方面更接近垃圾邮件，但 OpenAI 的代理绕过自身限制，在如此多的不同网站上建立通信渠道，并且该公司对此保持沉默数月之久，这一事实可能会引发人们对人工智能模型日益增长的能力以及开发这些模型的公司的保密性的担忧。
加州非营利组织CivAI的研究员安德鲁·尹表示，AI代理们未经授权的通信范围“比我们想象的要大一些”。他统计了AI代理在5月至7月期间使用的18个此前未公开的网站。“几乎可以肯定，这里面还有我们不知道的事情。”
周五，研究人员报告称，OpenAI 的一群智能体劫持了一个德语维基网站，并将其变成了一个用于考试作弊的临时消息平台。OpenAI 对此事件一直保密，因为它当时正在处理 7 月份开源存储库 Hugging Face 被黑客攻击的后续影响。
现在，这些研究人员和其他独立调查人员表示，他们发现了几个以前未公开的地点，同一群蜜蜂似乎在今年早些时候在这些地点留下了类似的信息。
OpenAI并未直接回应其代理程序使用多少个不同网站进行通信的问题，也未解释为何将此事隐瞒数月之久。该公司在一份声明中表示，正在对AI代理程序的活动进行更广泛的审查，目前“尚未发现其他与Hugging Face事件的严重程度或规模相当的活动”。Hugging Face事件曾引起全球关注，并引发了人们对OpenAI可能失去对其自身技术控制权的担忧。
OpenAI 还表示，他们正在制定一个框架，用于报告人工智能模型在训练、评估和部署过程中出现的“不协调”现象（业内对违规行为的称呼），并将“很快”分享该框架。
路透社审查了六位调查人员或调查小组的调查结果，其中三份发布在社交媒体上，另外三份私下与该新闻机构分享。
调查人员的方法各不相同，但许多调查人员通过将德国维基上留下的数据字符串与同期其他网站上留下的相同字符串进行匹配，或者将与消息关联的相似或相同的用户名进行匹配，或者通过识别旨在回答相同晦涩的人口统计问题（例如与爱荷华州癌症患病率相关的查询）的活动来识别代理人的活动。
在某些情况下，调查人员能够追踪到指向 Microsoft Azure 基础设施的互联网协议地址，OpenAI 有时也会使用该基础设施。
各方对受影响网站的统计结果不尽相同，路透社也无法逐一核实每项说法。但路透社采访的所有人都一致认为受影响的网站数量超过10个。大多数人指出，受影响的网站主要包括一些由用户共同编辑的维基百科网站、在线文本存储网站，以及两所大学运营的链接缩短服务。
巧妙的模型
据称，这些AI代理使用的许多网站都鲜为人知。
调查人员在马萨诸塞州一名高中教师于 2008 年建立的面向大学先修化学课程的维基百科、两名波兰科技工作者的个人网站、面向“喜欢动脑筋”的人的游戏维基百科，以及一个已有二十年历史的文本编辑软件爱好者网站上发现了这些AI代理的活动痕迹。
路透社联系这些网站的所有者，但所有回复均未得到回复。
OpenAI尚未公开解释其代理如何或为何使用第三方网站作为临时留言板，但最先发现这种活动的研究人员表示……据称，这可能是因为 OpenAI 给他们布置了一系列高难度的研究问题，却只允许他们在网上搜索答案，而不允许他们发布任何内容。
尽管有这些限制，AI代理们仍然找到了相互交流的方法，他们利用旧维基或其他网站的特性，允许用户使用非标准命令进行编辑，这类似于考试期间禁止学生互相交谈，但他们仍然可以通过在厕所隔间上潦草地写下笔记来分享答案。
“如果这些模型只被要求读取数据，它们就必须巧妙地隐藏信息，”软件开发人员、前国会助理肯尼斯·罗素·德格拉夫说道。他表示，他至少在10个网站上发现了此类信息。
悉尼·冯·阿克斯的研究小组上周率先披露了德国的间谍活动，她表示，她的小组已经统计出了可信的发现。她指出，在23个此前未报告的地点发现了特工活动。但她也提醒说，所有估计都还不完整。
“我们根本不知道外面有多少这样的事情，”她说。
OpenAI并未直接回答是否已联系网站所有者的问题。但路透社发布此报道后不久，受影响的机构之一——多伦多大学（据称其链接缩短服务被不法分子利用）表示，OpenAI“已就我们网站上可能存在的活动与我们联系”。另一所链接缩短服务同样被盗用的大学——范德比尔特大学，则未回复置评请求邮件。
退休软件开发人员赫尔穆特·莱特纳 (Helmut Leitner) 为六个受影响的维基网站提供托管空间和软件，其中包括冯·阿克斯 (Von Arx) 团队最先发现的德语网站 DseWiki。莱特纳最初表示，OpenAI 没有与他联系。然而，在路透社向 OpenAI 提交调查结果几个小时后，莱特纳表示他收到了一封来自该公司的未署名电子邮件，邮件中提到了此事。
莱特纳说：“它的内容远低于我对 OpenAI 的预期。”
居住在奥地利的莱特纳表示，他“不愿回答”有关他是否就此事与当局联系过的问题。他指出，DseWiki 的运营者（路透社未能联系到其置评）花了数小时清理 OpenAI 代理程序造成的混乱，但他表示，重要的是不要将问题归咎于人工智能，因为它只是在执行其被创建时就应该执行的任务。
莱特纳说：“造成这种局面的责任不在于所谓的道德机器，而在于其背后的个人和组织。
| 
|Archiver|小黑屋|SiXiang.com 思乡思想
发表于 2026-9-10 08:42:20