7.3
深览指数
科技虎嗅·果壳··AI 生成
“崩老头”屹立在AI 风口之上
本文以记者卧底调查为线索，揭露了东南亚电诈产业如何利用AI技术实现全链条工业化升级。核心发现是：实时换脸软件（如“昊天AI”）已能骗过主流视频通话和银行刷脸认证，且年费仅约2000美元；骗子从获客到管理“员工”都实现了SaaS化，使用ChatGPT生成话术、007TG提供一站式工具。文章指出，当前最核心的风险已不是AI生成内容的真伪，而是整个诈骗基础设施的AI化外包——任何人都能以极低成本接入这套系统。适合关注网络安全、AI伦理和东南亚灰产生态的读者阅读。原文 ↗
核心观点
- ▍东南亚电诈产业已实现全链条AI化外包，从获客（AI话术）、变脸（实时换脸）到内部管理（AI考勤）均有SaaS工具可供购买，单人低成本即可开展诈骗。
- 01记者卧底发现，Telegram群组中销售的“昊天AI”软件能在WhatsApp等10余款视频软件中实时换脸，连深度伪造检测模型Xception都将其判为真实。
- 02该软件年费1998美元，定制人脸498美元，仅收加密货币TRON；自2023年10月起，其钱包已入账超400万美元，相当于近2000人购买。
- 03换脸软件可帮助骗子绕过银行刷脸认证：将头型相似的人换脸后，通过眨眼、点头、转头验证。
- 04获客环节使用“控天智能拓客(KT)”接入十几种社交平台，利用GPT/Gemini生成话术，骗子只需粘贴发送。
- 05“007TG”提供一站式工业诈骗工具，涵盖批量账号、代理IP、转移聊天记录等功能，甚至开发了“Cloud007”管理员工远程考勤。
- 06OpenAI检测到柬埔寨波贝诈骗网络用ChatGPT生成假护照、交易单等文件。
- 07联合国毒品和犯罪问题办公室统计显示，东南亚Telegram灰产市场中专卖深度伪造软件的供应商已超10家。
反方 / 局限
- — 作者承认当前实时换脸模型仍存在多模态缺陷：如手指张开时五官会变形、眼球可能鼓出，因此建议用户通过“让对方面前做手势”来初步防范。
- — 文章暗示，AI工具本身可溯源（如OpenAI已举报相关账号），但并未深入讨论执法层面如何从加密支付地址、境外服务器等方面追查。
11 分钟 · 4 卡片 · 7 资料
读原文 →