科技 TechCrunch · Julie Bort · 11小时前 · AI 生成
Arcee 称中国开源模型并非天生危险 美国开源 AI 实验室 Arcee 的 CTO Lucas Atkins 表示,中国开源权重模型并不比任何其他开源软件更危险。他认为,这些模型在本地部署后,开发者无法远程访问或控制,因此不存在被恶意利用的特殊风险,且代码可审查。Atkins 主张不应禁止中国模型,而应通过建设更好的美国开源生态来竞争,并指出其公司也从中国模型的开源中获益。适合关注 AI 产业政策、开源安全与中美技术竞争的读者。原文 ↗ 原文 ↗
核心观点
▍ 美国开源 AI 实验室 Arcee 的 CTO Lucas Atkins 认为,中国开源权重模型并不比任何其他开源软件更危险,不应被特殊禁止。 01 Atkins 指出,开源模型在本地部署后,模型开发者(无论是 Arcee 还是阿里巴巴)无法对其进行任何远程访问或控制,不存在被恶意远程命令的风险。 02 开源模型的源代码从 Hugging Face 等平台下载后,对于运行模型的服务器部分,是可见且可审查的,企业可以对其进行安全测试和后期训练。 03 即使理论上存在模型被训练成在特定条件下生成恶意代码的可能,Atkins 认为实现这一目标的技术难度极高,且企业实际使用该代码的概率极低。 04 企业正在构建与模型无关的应用,并使用多个模型,因此不会因当前价格优势而被锁定在单一中国模型上。 05 Arcee 自身也从中国开源模型中获益,可以学习其技术并在此基础上构建,形成良性循环。 反方 / 局限
— 文章提到的风险是:理论上,模型产出代码可能被植入隐蔽后门,但作者认为这在当前技术下几乎不可能实现。 10 分钟 · 4 卡片 · 10 资料
读原文 →
前置背景 中国开源模型的全球渗透
HuggingFace 2026年春季报告显示，过去一年全球41%的大模型下载量来自中国模型，累计已突破100亿次，超过美国成为最大供给源。阿里千问衍生模型超11万个，比亚迪、Airbnb、英伟达均已将其嵌入生产线。这不是「中国AI威胁论」的虚构，而是全球开发者用下载量投出的真金白银的票。
▸ 3 条关联资料
▼
平行视角 后门攻击：不到100美元就能污染模型
安全研究员Katie Paxton-Fear用10个恶意样本微调开源模型，花费不到100美元、耗时1小时，就让模型持续输出携带远程代码执行漏洞的代码。清华团队进一步揭示，攻击者可在开源模型发布前埋下后门，微调后黑盒抽取下游76.3%的私有数据。Arcee CTO主张「代码可审查所以安全」，但后门攻击的威胁恰恰在于：审查时模型表现正常，微调后才会触发恶意行为。
▸ 2 条关联资料
▼
未来推演 30天测试窗口的博弈与落地
特朗普6月2日签署行政令，要求前沿AI模型发布前最长30天配合政府安全测试，从最初的90天草案压缩而来。核心矛盾是：闭源模型（如Mythos）因太危险被限制发布，而开源模型可以绕过前置审查自由传播。开源模型的实际监管窗口不在美国行政令，而在于中国是否跟进分级监管——基础模型放、前沿模型管，这将是支撑开放与安全拉锯的真正锚点。
▸ 3 条关联资料
▼
延伸追问 开源模型的安全审计能标准化吗
仅靠代码审查无法堵住后门投毒——后门在微调后触发，而审查时一切正常。金蝶提出制造业AI审计需「可追溯、可回放、可解释」，但这条标准能否套用到开源模型？更棘手的是，审计链条需要从训练数据谱系、微调操作到推理时行为全流程溯源，而绝大多数开源模型恰恰缺失上游数据元数据。如果审计标准无法覆盖模型供应链的全生命周期，所谓「安全」就只是纸面承诺。
▸ 2 条关联资料
▼