​OpenAI解散AGI团队

OpenAI解散AGI团队

文 | 田哲

编辑 | 苏建勋

OpenAI 再次传出新的变动。

近日外媒报道，OpenAI 正在解散其 "AGI Readiness" 团队，团队成员将分配至内部其它团队。

AGI 全称为 Artificial general intelligence，即通用人工智能，它具备自主的感知、认知、决策、学习、执行和社会协作等能力，且符合人类情感、伦理与道德观念。AGI Readiness 团队负责向 OpenAI 提供 AGI 发展的政策建议，并进行安全监督。

AGI Readiness 团队解散的原因是其负责人离职。本周三，AGI Readiness 负责人 Miles Brundage 宣布离职，计划在 OpenAI 之外继续从事该领域研究工作，并希望减少偏见。他表示，他已在 OpenAI 完成所有工作，在外部工作将产生更大的影响。

Miles Brundage

在他看来，OpenAI 及世界还未做好准备迎接 AGI 的到来，因此他计划创建自己的非营利组织，专注于人工智能政策研究和宣传。

相比人工智能产品不断迭代增加，OpenAI 对于人工智能的安全建设相对迟缓。2023 年 7 月，成立 8 年的 Open.AI 才组建 " 超级对齐 " 团队，目标是用 20% 的算力，在未来 4 年内解决控制超级智能 AI 的核心技术挑战。

然而成立不到一年，" 超级对齐 " 团队随着 OpenAI 联合创始人、首席科学家 Ilya Sutskever 离职而解散。

Ilya Sutskever 在社交媒体解释了离职原因，他表示：" 制造比人类更聪明的机器本身就是一项危险的事业。OpenAI 代表全人类肩负着巨大的责任。但在过去几年里，安全文化和流程已经让位于闪亮的产品。"

同一时期离职的 " 超级对齐 " 团队联合负责人 Jan Leike，也提到类似意见。他认为，应该把更多的带宽用于为下一代模型做好准备，包括安全性、监控、准备、对抗鲁棒性、一致性、保密性、社会影响等，但是 OpenAI 与他的想法并不一致，团队所需资源不够，研究进展缓慢。

OpenAI 是世界上估值最高的人工智能初创公司之一，今年 10 月，OpenAI 获得史上最大一轮融资，融资金额高达 66 亿美元，这使其估值飙升至 1570 亿美元。

OpenAI 备受资本市场重视的原因，除了其具备领先的生成式 AI 技术之外，也出于其背后庞大的市场闺蜜，据预计，这一市场未来十年内将产生超万亿美元收入。

一份媒体获得的 OpenAI 财务数据文件显示，OpenAI 的 8 月收入同比去年增长 3 倍，预计今年 ChatGPT 将产生 27 亿美元收入，去年这一数字为 7 亿美元。

在商业之路狂奔的 OpenAI，似乎已将人工智能安全抛之脑后，而 OpenAI 2015 年成立时的目标却是，开发 AI 技术以 " 造福全人类，不受财务回报需求的限制。