8.0
深览指数
科技微博·晚点LatePost··AI 生成

新闻里的 AI 靠裁员赚钱,实业里的 AI 开始解决问题

文章从物流转运中心、苹果供应链产线、司法档案三个场景切入,指出 CNN/RNN 视觉模型加上小参数语言模型已足够便宜,进入生产环节。核心案例是国产 GPU 公司登临:靠砍通用算力、押注 AI 矩阵计算与视频解码,在工业检测与物流替掉英伟达游戏显卡与推理卡。作者判断技术普及是商业问题,登临的「偏科生」路线与 CUDA 兼容策略是关键。原文 ↗

核心观点
  • ▍技术突破是科学问题,技术普及是商业问题;前沿技术真正进入各行各业,往往要等到它不再性感、便宜到能算过账。
  • ▍登临的竞争力来自「偏科」:拆开矩阵计算单元与通用计算核的比例,加强视频解码能力,用可买的 LPDDR 内存配大 SRAM 补带宽,在 AI 推理场景上用更少芯片面积提供更高性价比。
  1. 01物流转运中心一台服务器盯上千个摄像头,每秒刷新 8 次,包裹卡住 1 分钟内通知、10 分钟内解除;此前人工轮巡 3 小时才覆盖一遍,事故平均 30 分钟才被发现。
  2. 02英伟达 V100 需四台服务器、32 张卡才够算力;另一家国产 GPU 算力够但无法同时解码 1000 路视频,需买两台。登临一台几十万元服务器即可。
  3. 03苹果要求制造商全部用上 AI 光学检测设备,先采购赠送、调试证明可用后制造商再自购;检测设备一台卖 100 万元以上。
  4. 04登临今年前 4 个月卖了 10000 多块 GPU,一块几千元到几万元;成立 9 年仅 280 人,只卖卡不卖服务器,避开需要大量人手的政企大项目。
  5. 05小模型筛可疑分拣动作准确率只有七八成,交给大模型复核能提到 90% 多;不规范的提前上传照片谎报送达,一家公司一年罚款和赔偿可达数亿元。
  6. 06登临初代产品目标是解码 48 路,而英伟达 T4 最多解码 24 路;最新一代支持 60 路编解码且比例可分配,Windows 驱动从工厂场景倒逼完善。
反方 / 局限
  • — 登临在图像预处理、结果排序等并行计算较重任务上相对英伟达没有优势,因为现行架构对通用计算投入有限,这是作者承认的权衡代价。
  • — CUDA 只是 API,所谓兼容是开发编译器做转换,仍需工程师协助修改无法运行的程序;登临团队小、订单小,需一个客户一个行业地啃,积累慢。
  • — 英伟达的护城河不止单卡性能:台积电产能、规模摊薄研发与生产成本、专利复用、600 万开发者的 CUDA 生态;登临下一代产品要进公有云,将正面对上这些优势。
15 分钟 · 5 卡片 · 10 资料
读原文 →

前置背景

论证骨架

平行视角

未来推演

延伸追问