跨国崩老头，用大模型！这是Anthropic官方文档披露的大模型被邪恶应用的案例！
20多款约会App，4700多个AI"对象"，两周骗了25000个真人，每4个匹配对象混1个真人零工。看了这个案例，觉得现实中被精神小妹崩2毛钱去买奶茶还是好的，很多可怜的外国老太崩崩了对方还是个机器人。
1、大模型诈骗，真人零工也不是白请的，是"科技增强人类" 这个案例显示，诈骗团伙设计20多个APP崩老头，每4个机器人配一个真人，本以为那1/4的真人零工已经是这场戏里最后的"真实成分"了，结果报告说，这些真人也是被AI"增强"过的——另一个模型专门负责给他们生成部分人设信息。这就是大模型的邪恶了，这已经不是"人工智能辅助诈骗"了，是"诈骗行业全员数字化转型"：AI负责聊天，AI负责给真人写人设，真人负责……出镜证明自己不是AI。这个分工链条,放在正经公司的组织架构图里都毫不违和。
2、真人的唯一工作职责：证明"我不是机器人"
报告写得很直白，招募真人主要就是干两件事——视频通话、点赞关注社交媒体，用来"降低受害者的怀疑"。本质上，这些真人零工的岗位说明书大概就一句话：定期出镜，让对方相信这个App里至少有个活人。凌通社忍不住想，这可能是史上最精准的"反向图灵测试"——不是让机器证明自己是人，是让人证明自己不是机器。
不过这种真人诈骗觉得中国电话诈骗早就有了，现在我的手机都设置成先问对方是谁，否则都是机器人给你电话，你骂他也没有用。
3、也门的这个案例也有意思！也是人类的威胁！用Claude编程，发射火箭失败后问Claude为什么失败了！
-
编号GTG-87001，位于也门北部（胡塞武装实际控制区域，但Anthropic报告原文未正式将该团伙认定为胡塞武装成员，仅描述为"地理位置与也门导弹/无人机威胁环境相关"）
-
用Claude Code替代人类软件工程师，编写制导、导航与控制（GNC）软件——例如将开源自驾仪整合到手机级飞控计算机上，编写控制与位置估计软件、调试控制参数
-
反侦测手法：隐瞒真实目的和软件用途，将工作拆分到多个独立会话中，确保单一会话无法暴露完整意图；还搭建了离线仿真工具包，即便账号被封也能继续脱离Claude/MATLAB等环境运作
-
已进行过一次制导火箭实弹试射，疑似失败，数小时内该团伙就返回Claude分析失败原因
-
Anthropic表示没有证据显示该团伙已成功列装可用武器装备，发现后已封禁相关账号，并向公共和私营部门伙伴通报了威胁信息
4、本质上，Anthropic报告显示，大模型在给人类带来信息冲击的便利性的同时，正在走向毁灭人类的另一条不好的路，这就是所谓硬币的2面，而凌通社看到的最担忧的是，Anthropic的报告从另一个方面的恐怖，他们知道你在问什么！他们都记录了你问了什么！换句话说，他们能够控制你的信息流！
本文全部信息来源于Anthropic官方威胁情报报告及多家外媒公开报道，仅为事实梳理，不构成对相关行为体身份的定性判断。
精彩评论