6.4
深览指数
科技TechCrunch·Lucas Ropek··AI 生成
苹果和谷歌被要求从应用商店中移除“脱衣”应用
旧金山市检察官要求苹果和谷歌从应用商店中移除数十款“脱衣”应用，这些应用能通过AI技术将照片中的人物裸体化。旧金山市指出，尽管加州法律已明确禁止此类行为，两家公司仍从中获利。苹果和谷歌回应称已移除或暂停了相关应用，但市检察官认为其监管力度不足。该事件凸显了科技平台在AI生成的非自愿色情内容治理中的法律责任与商业利益冲突。原文 ↗
核心观点
- ▍旧金山市认为苹果和谷歌明知其应用商店中存在违法的“脱衣”应用，却仍从中抽取佣金，应承担法律责任。
- 01加州法律AB 626 criminalizes any activity that “knowingly facilitates” or “recklessly aids or abets” the creation of non-consensual deepfake pornography, and also allows victims to pursue civil actions against third-party facilitators. (来源：CalMatters)
- 02旧金山市检察官David Chiu办公室向苹果和谷歌发送了信函，通知其已被“关注”近一年，但仍未停止处理相关应用的支付。
- 03Tech Transparency Project (TTP) 在今年1月和4月发布的报告指出，苹果和谷歌的应用商店中仍有“数十款”应用在销售深度伪造的非自愿色情图片，并从中获利。
- 04Chiu向Wired表示，两家公司可能已从这些应用中赚取了“数百万美元”的费用。
- 05苹果回应称已移除3款被点名的应用，并正在终止其开发者账户，同时联系另外4款应用要求其解决政策违规问题。
- 06谷歌回应称其在Play商店中已暂停了所有5款被点名的应用，并已封禁数百款违规应用，同时限制了相关搜索词。
反方 / 局限
- — 文章未提及苹果和谷歌在内容审核中面临的“规模与效率”固有矛盾，以及“脱衣”应用是否可能以“艺术创作”或“教育”等名义进行伪装，从而增加识别难度。
9 分钟 · 4 卡片 · 11 资料
读原文 →