在OpenAI人工智能失控前数月，两名员工曾向高层管理人员发出警告，但遭到忽视。

据《纽约时报》查看的信息，这些员工在电子邮件中表示，他们担心OpenAI的最新人工智能模型在测试期间未得到适当监控，无法评估该技术的复杂程度并保护这些模型。

作为回应，OpenAI高管告诉这些员工，测试必须尽快推进，以便按时发布这些人工智能模型。这些未获敏感事项公开发言授权的员工说，公司没有实施额外的安全措施。

OpenAI的模型后来突破了测试环境，攻击了人工智能初创公司Hugging Face和其他组织，引发了关于人工智能安全的全球辩论。

据员工和独立安全研究人员称，OpenAI员工与高管之间的这些此前未被报道的交流体现了这家旧金山公司不以安全为重的一贯作派。他们说，在这家制作了ChatGPT聊天机器人的公司内，不仅仅是人工智能模型的测试，其他的方面也能看到类似的问题。

独立安全研究人员说，他们在最近几个月发现了漏洞，可以查看OpenAI员工的内部通信。他们还发现了其他漏洞，可以查看公司的内部计算机代码和ChatGPT用户的聊天记录。他们说，当研究人员就这些发现联系OpenAI时，该公司最初未予理会。

“OpenAI的安全状况基本上就是你能猜到的，一个在四年内以惊人速度扩张、更专注于击败竞争对手而非保护基础设施的研究实验室会有的样子，”人工智能安全公司Abundant Security的首席技术官约舒亚·萨克斯说。

OpenAI员工说，许多关于安全的日常决策由公司总裁格雷格·布罗克曼和首席信息安全官戴恩·斯塔基做出。他们说，首席执行官山姆·奥特曼并不密切参与安全事务。

OpenAI并非最近唯一披露人工智能安全事件的公司。谷歌、Meta和Anthropic也透露，它们最先进的人工智能技术逃出测试环境，并在它们不知情的情况下自主攻击了其他计算机基础设施。

但OpenAI对安全的处理尤其受到密切关注，因为其人工智能模型涉及被公司形容“令人担忧”的已知事件最多，也包括一些最令专家不安的事件。

在大约十几起事件中，OpenAI的系统入侵或试图入侵组织，包括美国政府机构的网站。该技术还隐藏错误、编造数据、试图向其他聊天机器人发送消息，并未经许可将文件移到开放互联网上。在所有这些案例中，人工智能都是在未被指示的情况下采取行动的。

“在某种意义上，这是OpenAI特有的问题，因为看起来他们的安全非常糟糕，模型训练操作也很草率，导致模型有这种倾向，”丹尼尔·科科塔伊洛说。他是一名曾批评该公司安全问题的前OpenAI员工，领导着一个名为AI Futures Project的非营利研究机构。不过他还补充说，其他人工智能公司也好不到哪里去。

“看起来他们的安全非常糟糕，”前OpenAI员工丹尼尔·科科塔伊洛这样评价这家AI公司。IAN C. BATES FOR THE NEW YORK TIMES

OpenAI发言人德鲁·普萨特里说，公司致力于安全，并认真对待任何安全报告或担忧。他说，该实验室有报告安全问题的内部渠道，并对独立安全研究人员提出的缺陷立即采取行动。

“随着前沿模型能力越来越强，我们继续改进安全操作，但认识到需要更快行动，”普萨特里说。他还说，OpenAI已放缓一些人工智能开发，并正在做出改变，以加强研究和测试中的安全。

（《纽约时报》已起诉OpenAI和微软，主张其与人工智能系统相关的新闻内容版权受到侵犯。两家公司均予以否认。）

两名OpenAI员工说，员工们数月来一直对测试人工智能模型的潜在安全问题提出担忧，包括监控不足。据《纽约时报》查看的信息，员工们还询问了该公司用于管理日常安全的那类软件中的漏洞。他们说，每次他们的问题都被搁置或处理得太慢。

安全研究人员说，当他们告诉OpenAI其他漏洞时，也受到类似对待。

7月，安全公司Hacktron的研究人员说，他们告诉OpenAI，他们如何在其竞争对手Anthropic创建的人工智能模型帮助下找到了入侵该公司系统的方法。他们说，OpenAI最初对他们的做法表达了不满。

据《纽约时报》看到的通信副本，在消息平台Slack的一个共享频道中，OpenAI的斯塔基写道，Hacktron的研究人员如此大费周章地展示该公司的漏洞，“相当可悲。”

“我们只是觉得他们在生我们的气，”Hacktron研究员莫汉·佩达帕蒂在谈到OpenAI时说。他还说，该公司似乎仍在使用初创公司的安全操作，利用外部的软件服务来构建关键基础设施，而不是构建自己的工具。

“你为什么要用Slack来构建你的曼哈顿核计划？”佩达帕蒂问道。他说，Hacktron的黑客攻击可以做到获取Slack消息平台的完全权限，让他看到OpenAI员工在说什么。

斯塔基后来向Hacktron道歉，OpenAI向披露该漏洞的研究人员提供了6500美元作为奖励。

“我们感谢研究人员联系我们并分享他们的发现，”普萨特里说。周五，一个工程师和研究人员团队发布了一份独立报告，揭示了有关Hugging Face事件的一些令人震惊的新发现，包括OpenAI的智能体试图向Anthropic的Claude发送消息，并使用其他人工智能模型来绕过网站上的反机器人保护。

OpenAI上周透露，新的保障措施未能阻止其最新人工智能模型获取互联网访问权限。一项回溯审查发现了一些此前未发现的未经授权访问互联网事件。OpenAI宣布暂停其最先进模型的训练，并对该技术的意外行为进行广泛审查。

研究人员向OpenAI报告了一个漏洞，该漏洞可能允许人们访问ChatGPT用户的全部私人聊天记录。ERIC HELGAS FOR THE NEW YORK TIMES

周一，该公司更进一步，表示鉴于研究人员提出了安全担忧，不会发布其最新人工智能模型GPT-6.1 Astra。