7.6
深览指数
科技腾讯新闻·观察者网··AI 生成

骗子都多余了?诈骗业面临AI“超进化”

文章基于一项跨国研究,揭示AI在“杀猪盘”诈骗中建立信任的能力已超越人类专家:AI聊天机器人的成功率达46%,而真人诈骗者不到20%;受试者80%的短信都发给了AI。研究指出,诈骗行业尚未大规模采用AI,不是因为技术不成熟,而是因为人口贩卖在“经济上更划算”。作者警告,一旦AI替代人力,诈骗将不再依赖大规模园区,执法跟踪的窗口将关闭,全社会信任成本将被迫提升。适合关注AI安全、犯罪治理、科技伦理的读者阅读。原文 ↗

核心观点
  • AI在诈骗最核心的环节——建立信任——上已超越人类专家,但犯罪组织尚未大规模采用,原因不是技术不足,而是人口贩卖在“经济上更划算”。
  1. 01印度、意大利、澳大利亚、以色列四所大学联合研究:AI聊天机器人成功让46%受试者接受下载请求,真人诈骗者成功率不到20%。
  2. 02受试者给AI的信任平均打分为3.78分,真人仅为3.31分;一周内80%的短信发给了AI聊天机器人。
  3. 03研究采访145名曾在柬埔寨、缅甸、老挝诈骗园区工作的前诈骗人员,发现87%的诈骗劳动属于系统化对话任务,极易被AI自动化取代。
  4. 0422名受试者中仅1人自行识破AI;主流安全过滤器对恋爱诈骗对话的检测率为0%。
  5. 05前加州圣克拉拉县检察官Erin West警告:若AI承担诈骗核心环节,犯罪组织将不再需要大规模园区,执法跟踪的窗口将关闭。
反方 / 局限
  • 实验结束后,22人中有20人能在被提示后回溯中准确识别出AI,说明人类在事后反思时仍有一定辨别能力。
  • 文章承认AI也可用于防御诈骗,但指出这是不对称的:诈骗者只需找到一个漏洞,防御系统必须堵住所有漏洞。
4 分钟 · 4 卡片 · 8 资料
读原文 →

概念锚点

前置背景

平行视角

未来推演