7.8
深览指数
科技虎嗅·硅星人··AI 生成
如果你在训模型时遇到了田柯宇
文章详细拆解了字节跳动前实习生田柯宇被指控干扰模型训练的具体技术操作，包括篡改优化器、梯度裁剪、数据采样和分布式通信代码等。它指出这些行为利用工程师先排查自身问题的习惯，制造难以定位的随机故障，并监控团队排障会议以调整破坏。最终结论是，此类破坏不仅浪费算力，更让团队数月的研究结论和方向判断变得不可靠，揭示了AI研发中一种极难防范的内部安全风险。适合AI研究员、技术管理者及关注科技伦理的读者了解此类攻击的实操细节与深层危害。原文 ↗
核心观点
- ▍田柯宇被指控的破坏行为，其严重性不在于传闻中的巨额损失，而在于它系统性地破坏了AI模型研发的信任基础——让团队无法判断实验失败是技术问题还是人为破坏，从而使数月的积累和推演方向都变得不可靠。
- 01证据材料显示，代码被篡改以强制AdamW优化器的maximize参数为True，使优化器反向最大化loss，导致模型训不好，但GPU仍在运行且无报错，研究者易被误导查错方向。
- 02梯度裁剪代码中的clip_coef被强行乘以2，放大梯度，且记录的梯度范数未反映放大操作，造成日志与训练过程脱节。
- 03DistributedSampler的随机种子被改为基于时间戳，导致各GPU进程数据分配错乱，部分样本重复或遗漏。
- 04代码以极低概率（二十六万分之一至两百万分之一）跳过分布式通信，制造间歇性故障，重启后难复现，类似硬件或网络问题，极大增加排障难度。
- 05篡改脚本通过os.utime()恢复PyTorch文件的修改时间，隐藏改动痕迹，绕过常规排障流程。
- 06指控称田柯宇参与排障会议，根据同事排查进度调整破坏手法，使信息共享成为破坏者的有利条件。
- 07证据显示，田柯宇负责的内部VAR文生图项目通过自动添加 City 前缀伪造调用PixArt的效果，团队事后被迫重新研发，后续形成Infinity项目。
反方 / 局限
- — 对于事件的严重性，外界部分讨论聚焦于融资和损失金额，而忽略了此类行为对AI研发最核心的信任基础的破坏，文章试图补全这一视角。
- — 尽管有详细的《受害者陈述与证据整理》，但事件目前仅有一审民事判决认定违约赔偿50万元，刑事或更严格的法律定性尚未完成，部分指控仍在司法程序中。
13 分钟 · 4 卡片 · 7 资料
读原文 →