OpenAI震荡:他无视安全上马4o 员工日干20小时

量子位 2024-09-28 13:42+-

动荡内幕终于曝光——

OpenAI CTO Mira Murati的离开,与GPT-4o、Her息息相关!

简单来说,就是今年春天OpenAI为了大抢谷歌开发者大会的风头,紧急推出GPT-4o。

时间真的是非、常、紧、张,以至于安全团队只能在极短的时间内(9天,拿不到更多时间了)完成安全测试评估。

时间紧,任务重,即便007式工作,每天工作20小时,测试数据还是不足。

结果大家也看到了,4o发布后才爆出该模型存在安全问题。

总的来说,OpenAI好像有点变形了:压榨员工、轻视安全,在市场上大出风头比安全可靠更重要。

之前奥特曼被开除时诟病的问题,特别是对安全的漠视,实实在在被证明了。比起AI技术的安全可靠,他更在乎竞争上的赢。

很多员工和高管都超不满的。

当初4o发布第二天,沉寂许久的OpenAI灵魂人物Ilya就宣布了自己的离开。

现在,4o全量上线的第二天,Mira也走了。

还带着研究主管Bob McGrew和研究副总裁Barret Zoph一起跑路。

(真不知道是说这些元老们太顾念公司,还是说OpenAI真是营销天才。)

说来说去,他们告别OpenAI都围绕一个原因,那就是“公司对安全重视程度不足”。

OpenAI,真的不要安全了??!

试图抢救“安全性”的Mira

我们再来展开说说4o上线的火急火燎程度。

今年5月14日,OpenAI发布GPT-4o;5月15日,Google发布名为Project Astra的AI助手,同日OpenAI首席科学家Ilya官宣离职。

一切的发生,早“有预谋”。

据透露,挑在14日发布,完全因为OpenAI想抢Google的风头。

为此,OpenAI安全团队仅得到了9天的时间,来做安全检测。

就,时间真的不够啊!

9天时间里,安全团队成员们007式工作,每天不分白天黑夜,拼死拼活干20个小时,还是没做完安全测试。

即便如此,GPT-4o还是如期发布了。

然后就果然被发现GPT-4o有安全问题,它的“劝说”“诱导”性非常强,具备创建能够说服人们改变信念并参与潜在危险或非法行为的内容的能力。

很容易引导人误入歧途,干些不好的事,说些不对的话。

一些OpenAI内部员工也表示,仓促发布GPT-4o,让OpenAI失去了对领域内的领先优势。

但能咋办,发都发布出去了……

Mira试图力挽狂澜,只能把4o的全量上线往后一延再延,最终在本周三(9月25日)才全量发布。

隔天她就宣布辞职了。

她挥一挥衣袖,带走了另外两名高管。

其实,Mira也不是没有试图拯救过OpenAI的“不安全”。

一方面,OpenAI前任及在职员工分别透露过,作为CTO的Mira多次推迟了包括搜索和语音交互在内的产品的计划发布。

她认为它们还没有准备好。

另一方面,最近曝出5月Ilya辞职后,Mira和后来长期休假的总裁Greg Brockman都去Ilya家找过他。

他俩带着公司员工写的卡片,对Ilya晓之以理,动之以情:

我的老天奶,你可回来吧,Ilya!公司现在好混乱,没有你咱肯定得崩溃!

Ilya应该是动过心的,他对OpenAI的前同事表示,他真的在认真考虑要不要重回OpenAI。

但没过多久,Brockman就打电话过来说OpenAI撤回了让Ilya重返公司的邀请。

真·一整个大问号。

多八卦两句,Ilya和Mira之间,还有其他核心成员因不满OpenAI对安全的重视程度而离职。

比如John Schulman,也是OpenAI的联合创始人。

8月6日,他告别OpenAI,转投最强竞对Anthropic。

他在推特发文表示,他表示选择离职是为了更深入地从事AI对齐研究,即确保AI的发展与人类价值观相一致。

OpenAI转向:公司关键数据曝光

一切的一切,似乎都与OpenAI转向有关。

LeCun表示,将一家非盈利开放研究机构变成一家秘密的、以产品为中心的盈利性公司,势必会导致许多人退出。

有媒体,甚至直接以OpenAI as we know it is dead为名。

据OpenAI内部员工爆料,OpenAI越来越专注于构建产品而非研发技术。这些产品的重点不再是纯粹的研究。

此前,也的确有类似的消息爆出,比如GPT-5迟迟不发,却计划出AI搜索对标谷歌,大举招募产品设计等相关的员工。

不过另一面,参加过o1和的研究员Noam Brown针对这些传闻了个推特:

研究的重要性降低了?没听说过。

奥特曼本周去意大利参加活动时,也否认了员工离职与公司转变有关。

我看到的大多数内容也完全是错误的。但过去一年里,我们的董事会一直在独立思考公司的下一阶段发展需要什么。

我认为这些变动反映了人们准备好迎接人生新篇章,同时也标志着新一代领导力的崛起。

不过也有网友替奥特曼说话:经营一家公司远比想象中那么困难。它不可能以非盈利的形式生存下来。

纽约时报今天也透露了关于OpenAI经营的一些关键数据:

8月收入达到了3亿美元,相较于去年(2023年)年初增长了1700%,较去年同同期增长两倍多。

截至今年6月,每月使用其服务的人约有3.5亿人,相较于今年3月仅有1亿人左右,高了三倍多。

今年的年销售额预计约为37亿美元,其中10亿来自于企业;而去年仅有7亿美元。

每月大概有1000万ChatGPT用户,向OpenAI支付20美元。

2025年收入将达到116亿美元;2029年收入达到1000亿美元。

这样看,OpenAI其实已经赚很多了,甚至势头还在蹭蹭蹭地往上涨。

但如果对于现阶段的公司来说,可能还不够。

比如支付一些基础运营和硬件设施的费用,今年就将亏损约50亿美元。

那老板就不能不管了。要么从用户这边入手,要么从投资方这边入手。

文件中显示,预计今年年底ChatGPT订阅价格将再涨个2美元, 并且未来五年内涨到44美元。

我先帮咱们算算,大概一个月也就300多块钱吧。

那融资这边,OpenAI一直就没有闲着。

早在今年8月份就被曝出,OpenAI正在就新一轮融资进行谈判。

老股东兴盛资本(Thrive Captial)可能领投10亿美元,最大股东微软也有望参与此轮融资(但没看到OpenAI首位投资人Vinod Khosla的身影)。

由此,OpenAI的估值将超过此前的860亿美元,甚至超过1000亿美元。

什么概念呢?相当于当时Anthropic估值(150亿)的6倍、马斯克xAI(240亿)的4倍。

结果现在刚好一个月过去,这次寻求的融资估值已上升至——1500亿美元*。

融资窗口期:高层动荡,苹果退出

如今,OpenAI又迎来了关键的融资窗口期。

本轮计划以1500亿美元估值收获70亿美元融资,不过其他媒体爆料说是65亿美元,也是创业公司有史以来最高估值之一。微软预计将参与投资10亿美元。

这轮融资最早可能在下周结束。

据爆料,作为投资的一部分,OpenAI有两年时间需要将自己的公司转变成营利性的公司。

随后还会有新的一系列电话会议,介绍OpenAI产品和研究团队的主要领导人。

这样的时间,大批量重要高管离职,也不免让一些业内人士合理怀疑:

融资还没结束就离职,可能会让投资者恐慌,由此搞乱OpenAI接下来进展。

不过就在刚刚,有消息称,苹果将不再参与此次的投资。

以及对于OpenAI来说,最大的挑战不是一笔两笔融资,也不是产品模型是不是依然具备先进性,而是正在失去理想主义的旗帜,变得没有梦想,走向平庸。

奥特曼在被重新评价

归结起来一句话:初心已不再。

当初OpenAI建立,就是看到了AI正在带来的巨大改变,以及最顶级的DeepMind这样的研究机构,正在成为Google这样巨头的附庸,包括马斯克在内的人,担心智能时代的核武器,垄断在日益“邪恶”的大公司手中。于是自掏腰包、慷慨解囊,给最顶级的人才发大公司同样级别的薪水,然后用梦想激励他们Think Different,真正改变世界。

天才Ilya就是在这样的背景中,放弃了谷歌最顶级的待遇,成为OpenAI的联合创立者,一点点沿着“天方夜谭”式的AGI目标,最后在GPT的新范式中,真正改写了AI时代的进程。

然而山姆·奥特曼不是这样的人,他不是技术出身,他也不是乔布斯那样希望通过产品改变世界的人,他关注创新、欣喜于创业投资的乐趣,但最后似乎角色更像是一个顶级的硅谷生意人。他最初的角色是OpenAI的资助者,后来成了CEO,然后又在马斯克出局OpenAI后获得了更大的内部话语权,并且在ChatGPT问世后,大名得曝,地位前所未有,一度封神。

他被外界评价“ChatGPT之父”——即便严格来讲他不是,他乐于代表整个团队谈论AGI、谈论AI带来的世界变革,游走出访于各个国家,享受最受欢迎的追捧。一度,他被放到了乔布斯、马斯克之后,认为他可能就是下一个从硅谷改变世界的人。

直到Ilya发动内讧,以“不顾AI安全”之名,把他开除,这是OpenAI裂缝的开始,但裂痕却没有得到愈合,并且越来越大。

Ilya最终走了,OpenAI的前进似乎并没有结束,即便所有人都感知得到进展在减缓。

奥特曼也开始呈现了更加诡异得一面,在他已经再无掣肘的领导下,OpenAI越来越关注竞争,而不是Think Different;越来越展现估值、融资和盈利可能性上的追求,而不是AGI的目标;变得越来越不cool,甚至被曝出开始搞办公室政治,开始走下坡路……

于是在核心技术人员的流失中,在OpenAI显而易见的转变中,一度封神的奥特曼,开始面临全新的争议,他开始获得一些完全不同的评价,他现在是这样一个人——

一个被ilya带到了他不应该有的高度的人,一个追名逐利现在利欲熏心的人,一个曾经被拥护最后又众叛亲离的人。

一个让OpenAI失去理想主义的人。