奥特曼预判AI三种终局：最坏能让对手GPU集体瘫痪

根据《The Information》报道，OpenAI首席执行官萨姆·奥特曼（Sam Altman）近日在一次内部员工会议上，描绘了AI竞赛可能走向的三种结局：

第一是建立一个全球性的监督机构，第二是顶级实验室合并为一个实体，第三是某家公司率先实现技术突破，甚至有能力让竞争对手的硬件无法运作。

奥特曼本人指出，最后一种情景如同科幻作品中的情节，并称其为“极其糟糕”的局面。

三条路径，各有代价

奥特曼提出的第一条路径，是设立一个类似于国际原子能机构（IAEA）的全球监管组织。

该组织将负责监督最先进的AI系统，制定统一的安全标准，并要求开发企业接受独立审查。

早在2023年5月，奥特曼就曾与OpenAI联合创始人格雷格·布罗克曼（Greg Brockman）以及时任首席科学家伊利亚·苏茨克沃（Ilya Sutskever）共同发表了一篇题为《超智能治理》（Governance of Superintelligence）的文章。

文章提出，未来可能需要建立类似IAEA的国际机构，对达到特定能力或算力门槛的AI开发活动进行监督，包括系统检查、安全审计、合规测试，以及算力和能源消耗的监测。

然而，AI已成为各国重点投入的战略技术，国际监管涉及技术保密、国家安全和产业竞争。各国能否接受统一规则，仍存在很大的不确定性。

第二条路径是全球领先的AI实验室可能最终合并为一个机构。

奥特曼将此称为“Demis方案”。Demis Hassabis曾提出，AI研究可以借鉴欧洲核子研究中心（CERN）的模式，由多个国家共同建设和管理一个大型研究机构。

如果头部AI公司由同一个组织统一管理，就可以共享安全标准和实践经验，避免各家为抢先发布产品而不断加快研发速度。

不过，最先进的模型、人才和算力全部集中到一个组织，该机构将拥有巨大的技术和经济影响力。如何避免权力过度集中，又将成为一个新的难题。

第三条赢者通吃的路径被奥特曼称为“Eliezer方案”，这是AI安全研究者Eliezer Yudkowsky提出的一类极端设想。

Yudkowsky长期警告，失控的超级智能可能给人类带来生存风险。他曾主张，率先掌握超级智能的一方需要采取决定性行动，阻止其他组织开发潜在危险的超级智能系统。

奥特曼将其与递归自我改进（Recursive Self-Improvement，RSI）联系起来。

所谓RSI，是指AI能够参与改进自身的模型架构、训练方法或开发流程。升级后的AI又能继续提升这些能力，形成持续的自我改进循环。

一旦这种机制达到足够高的自主化程度，AI研发速度可能明显加快。

如果某家公司率先突破RSI，就可能迅速建立其他竞争对手难以追赶的技术优势，最终形成市场垄断。

在最极端的情况下，这家公司甚至可能拥有干扰或破坏竞争对手GPU的能力。

对于这种将先进AI集中在单一企业手中的结局，奥特曼明确表达了反对。

Altman反复强调的风险

实际上，这次内部讨论延续了奥特曼此前一贯关注的问题。

2026年9月中旬，奥特曼曾公开指出，先进AI可能带来两大主要风险：一是人类失去对AI系统的控制，二是AI权力集中在少数组织手中。

他进一步强调，必须避免AI发展走向上述任何一种结果。

他表示，OpenAI应当站在全人类的立场上，而不能只服务于某家公司或某个利益集团。奥特曼还呼吁建立更严格的AI安全协议，并对先进AI系统开展独立评估。

这一立场与Anthropic CEO达里奥·阿莫迪的部分观点一致。

然而，奥特曼也在内部承认，OpenAI目前无法轻易放弃与竞争对手争夺技术领先地位。