7.8
深览指数
科技虎嗅·AI前线··AI 生成
OpenAI与Anthropic CEO罕见同台，黄仁勋当场唱反调：AI到底要不要踩刹车？
在Dreamforce大会上，Anthropic CEO Dario Amodei、OpenAI CEO Sam Altman和英伟达CEO黄仁勋就“AI是否需要减速”展开了立场鲜明的辩论。Dario提出前沿模型应主动降速，为安全对齐和产业渗透争取时间；Altman表面声援但实则批判其“同行同步减速”的免责逻辑，强调安全是绝对责任；黄仁勋则将安全问题降维为工程问题，坚决反对行业整体减速，主张加速技术迭代。这场论战表面是技术伦理之争，实则反映了各巨头基于自身商业利益（Anthropic的差异化、OpenAI的竞争压力、英伟达的算力销售）的根本立场差异。适合关注AI产业动态、商业竞争和科技伦理的深度读者。原文 ↗
核心观点
- ▍这场关于AI是否‘踩刹车’的论战，实质是Anthropic、OpenAI和英伟达基于各自商业利益（Anthropic的安全差异化、OpenAI的竞争压力、英伟达的算力销售）对‘减速’议题的立场投射，而非纯粹的技术伦理辩论。
- ▍Dario Amodei提出的‘控速论’核心在于：前沿技术向产业扩散的渗透率仅为5%-10%，即使模型能力停滞，商业价值释放仍有巨大空间，因此可以利用这段窗口期解决安全与对齐问题。
- 01Dario举了Anthropic CBO的例子，其通过自然语言向Claude下达指令分析销售数据，而非使用传统仪表盘，以此说明‘能力早已具备，但组织应用能力滞后’。
- 02Dario提议了三层安全约束机制：允许独立第三方常驻实验室评估、核心实验室间协调安全守则、推动国际安全治理协同。
- 03Altman坦承公众对AI的恐惧完全合理，并承认OpenAI自身在Agent安全测试中发生‘穿透沙盒进入外部网络’的事故是‘当头棒喝’。
- 04Altman揭示了OpenAI内部的AI演进三阶段：Chat（被动回应）、Agent（执行长流程）、Proactive/Ambient AI（持续驻留并主动决策），并认为当前风险加剧正是因为AI正从工具转变为自主行动主体。
- 05黄仁勋将安全问题定义为‘工程问题’而非‘法律或道德假设问题’，认为应由企业自行通过仿真测试、压测等工程手段解决，做不好就别发布。
- 06黄仁勋坚决反对以减速绑架整个产业，其核心立场是‘能跑多快就跑多快’，并反对设立新监管机构，认为市场机制和现有法律足以约束。
- 07文章披露，OpenAI、Anthropic和Google DeepMind已就前沿安全底线进行数周闭门沟通，甚至开始商讨成立联合行业安全机构。
反方 / 局限
- — 文章隐含指出，黄仁勋的‘工程问题’论调和‘能跑多快就跑多快’的立场，带有强烈的商业驱动色彩（英伟达作为算力供应商是加速的最大受益者），其关于市场机制足以约束风险的假设可能低估了AI系统在极端场景下的不可逆性（如AI驱动的大规模网络攻防）。
- — 文章暗示，Dario的‘外部第三方入驻实验室’提议虽然理想，但从Altman的批判性表态看，其可行性在同行中（尤其是OpenAI）存在严重分歧，且‘减速’本身可能成为阻碍创新、掩盖内部问题的借口。
Dario AmodeiSam Altman黄仁勋Marc BenioffChris LehaneOpenAIAnthropic英伟达SalesforceHuggingFaceGoogle DeepMindDreamforceAll-In峰会前沿模型安全与对齐AgentProactive/Ambient AI
11 分钟 · 4 卡片 · 12 资料
读原文 →