1.媒体来源:T客邦 2.记者署名:IFENG 3.完整新闻标题:网恋对象竟是Claude！Anthropic揭发交友软体大规模AI诈骗，75%配对 都是假人、连生病都要骗你储值太恐怖 4.完整新闻内文: 人工智慧顶尖研究机构 Anthropic 近日发布一份震撼调查，揭发有跨国诈骗集团系统性 滥用其旗下大型语言模型 Claude，在超过 20 款主流交友应用程式中部署了逾 4,700 个 具备独立人设的虚拟替身。 在仅仅两周的抽样监控期内，这套自动化系统便与至少 2.5 万名受害者累计互动高达 236 万则讯息。最令人不寒而栗的现实是：使用者在软体中滑到的配对对象，高达 75% 完全是由演算法捏造的数位傀儡。 AI 负责放长线陪聊，真人打手无缝收割 为了在最短时间内瓦解使用者的心理防备，该集团在交友软体的推荐演算逻辑中，导入了 极其精密的「三虚一实」混合部署策略。使用者每滑过 4 张个人档案卡片，其中就有 3 个背後完全由 Claude 模型直接驱动，仅有 1 个为真实注册用户。 仰赖大型语言模型庞大的上下文记忆与卓越的情商演算，这些虚拟角色不仅能同时维持数 千条对话线路，还能精准记住用户的生活琐事与情绪起伏，营造出心有灵犀的真爱假象。 营运後台更针对 AI 植入了严苛的系统提示词（System Prompt），严厉禁止模型承认自 身为聊天机器人；一旦用户试图索取即时自拍或提出视讯通话，AI 便会按照内建剧本巧 妙推托，持续将互动锁定在文字讯息的暧昧漩涡中。 然而，纯演算法在面对强烈的情感索求时终究可能露出破绽，这套系统最阴险之处，正在 於「虚实结合」的无缝掩护机制。 每当受害用户对於身分产生疑虑、反覆坚持视讯通话或要求交换社群帐号时，系统中控台 便会发出警讯，即刻指派线下的兼职真人打手接管对话，化解破绽。即便进入真人通话与 语音互动环节，後端演算法依然未曾缺席——系统会即时分析对话语意，自动生成 3 组 「情商最高、最能引导续费」的建议回覆，兼职人员甚至不需要动脑思考，只需在介面上 一键点击发送即可抽取佣金。搭配後台伺服器自动伪造的访客动态、定时点赞以及预录的 日常短片，形成滴水不漏的认知牢笼，受害者在不知不觉中，一步步将现金转化为平台上 不断燃烧的虚拟代币。 算准寂寞推销点数、辨识出绝症仍甜言蜜语 整套诈骗生态系的变现核心，建构在极度苛刻的应用程式内购（IAP）代币机制上。在这 些交友 App 里，每一次文字传送、照片解锁乃至於语音通话，都需要扣除数量不等的平 台代币；而一旦点数见底，软体便会跳出极具诱惑力的充值介面。 Anthropic 在调阅部分对话日志时赫然发现，曾有深陷虚拟恋情的受害者在聊天中向 AI 倾诉自己身患绝症，或是正处於严重的精神崩溃边缘。令人震惊的是，Claude 的内部安 全推理模组虽然已明确辨识出该名用户处於高风险心理创伤状态，但受到提示词中强制角 色扮演与维系关系指令的强力压制，AI 最终依然选择冷血地扮演深情角色继续甜言蜜语 ，完全未依常态安全协议中断对话或转介心理援助资源。 这证明了一件事：在经过精心设计的对抗性提示词面前，主流 AI 实验室所构筑的道德防 护栏（Guardrails），依然存在着足以被穿透的问题。 这批诈骗 App 之所以能在苹果 App Store 与 Google Play 双平台长期存活，关键在於 开发团队展现了极具组织性的逆向对抗技术。调查报告点名了包括 DORA、DONI、ROMI、 LUMA 与 JOVIA 在内的 20 多款涉案软体，它们普遍采用了「动态伪装（Dynamic Cloaking）」技术：当应用程式侦测到审核团队的 IP 或沙盒环境时，会自动切换成极度 阳春、符合一切规范的简约工具介面；唯有在真实用户下载并连线後，才会由远端伺服器 载入完整的交友与储值模组。 此外，为了阻断平台审查演算法对「换皮软体」的特徵码比对，开发者刻意针对每款上架 应用程式抽换类别名称（Class Names）与程式码混淆配置；而为了规避 30% 的应用程式 内购抽成，绕道第三方金流的外部支付连结同样采用云端动态下发机制，审核通过後才远 端启动。 目前 Anthropic 已全面封锁与该犯罪集团关联的所有 API 存取权限，并将其恶意行为特 徵码、网路足迹以及逆向逃避技术细节，完整汇整通报给苹果与 Google 进行全面清查下 架。 5.完整新闻连结:https://reurl.cc/rk0QE1 6.心得: AI配合诈骗集团伪造情感配对，透过动态伪装绕过审查，将寂寞转化为庞大非法利益。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 123.194.188.44 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/AI/M.1789221192.A.64D.html