|
Anthropic 10日发布最新威胁情报报告,其中编号GTG-15001案例,揭露一套规模惊人的交友软件诈骗产业链。图为示意图,与新闻无关。(美联社) Anthropic 10日发布最新威胁情报报告,其中编号GTG-15001案例,揭露一套规模惊人的交友软件诈骗产业链。一家位于中国的App开发工作室利用Claude,打造出超过20个交友软件,而软件里跟用户交互的对象,绝大多数不是真人,而是由AI生成的虚拟人物。 根据报告内容,光是2026年4月里短短两周的观察期间,Anthropic就从中揪出超过4700个不同的AI人物角色,总共跟至少2万5000名不同用户聊过天,平均每个假身分背后,都对应着超过5名真实用户,不知道自己在与「虚拟情人」谈情说爱。讽刺的是,这家工作室对外宣称自家平台的聊天对象「完全都是真实用户」。 该工作室还设计一套人机协作的分工流程。当受害者对聊天对象的真实性起疑、要求视频或希望在社群媒体上「互相追踪」以核实身分时,诈骗集团便会派出真人上阵救援,配合视频或社群交互,借此打消受害者的戒心。 就连这些「真人临演」讲的内容,也并非全部出自本人。调查显示,这些真人在交互时使用的部分话术与消息,同样是由另一个AI模型事先生成、辅助包装过。 报告指出,这些交友软件锁定对象为美国用户。用户滑动的配对动态中,75%是Claude驱动的AI角色,25%是真人工读生,两者外观上让人无从分辨。真人未上线时,系统会自动伪造按赞、访客纪录,甚至产生预录像片冒充视频通话。 技术架构上,Claude负责维持自动对话,两周内生成消息约236万则;另有1款非Anthropic的小型模型,替工读生产生快速回复建议、进行外貌评分与照词组音审核,还有1款图像模型专门生成虚拟大头贴。App内置可远程开关的第三方支付导流机制,且刻意让20多款App的代码命名互不相同,借此规避苹果与Google商店的审查及相似度比对。 该工作室通过中国的API转售代理服务,取得并轮替AI访问权限,规避Anthropic的地区限制与使用政策。Anthropic已封锁相关帐号与组织,并与苹果、Google及其他AI业者共享情资,协助拦截后续滥用。 Anthropic调查团队指出,这起案例并未使用任何新型态的AI滥用手法,但其规模让人不安,已经展现出这类诈骗产业链朝「工业化量产」的趋势。 |
社会巴威台风登陆 浙江乐清700多棵路树遭连根拔起2026-07-12
社会雷军蹲武汉路边吃早餐 大啖热干面2026-06-16
本地告别无限期等待 纽约合作公寓买家迎来45天审批时限2026-07-30