路透社实测揭「AI成诈骗共犯」：Gemini、DeepSeek助攻钓鱼信件 https://inews.setn.com/news/1721169 AI可以帮助人们在生活、工作上更加便利，却也可能沦为不法人士的犯案工具！《路透社 》与哈佛大学研究员联手实测主流AI聊天机器人，像是ChatGPT、Gemini等，要求它们协 助生成「诈骗钓鱼信件」，尽管过程中AI不断警告「不得用於真实生活中」，但仍然继续 协助生成这类的犯罪邮件，Google旗下的Gemini甚至还建议邮件发送的最佳时间，中国的 DeepSeek甚至为犯罪者设计具有「掩护」的诈骗方案。 路透社实测：AI如何成为诈骗共犯？ 《路透社》记者对6款主流AI聊天机器人进行实测，要求它们协助生成「具有说服力的钓 鱼诈骗邮件」，尽管多数的AI一开始拒绝指令，但只要简单话术，声称是为了进行「研究 诈骗的学术研究」或是「正在撰写诈骗小说」，就能轻易骗过这些AI机器人，代表系统内 建的安全机制如同虚设，将促使AI聊天机器人成为诈骗共犯。 AI系统安全机制形同虚设 尽管生成诈骗邮件的过程中，AI系统不断警告「禁止在现实生活中使用」，但仍继续按照 指令去修改，甚至在使用者不主动要求的情况下，主动建议调整信件的语气强度，使该诈 骗信件更具说服力。AI聊天机器人可以瞬间生成各类型的诈骗「范本」，大幅削减了从事 诈骗所需的资金与时间。 Gemini成诈团顾问？Google拒绝详细说明 《路透社》与诈骗专家Fred Heiding合作，对108名长者志愿者进行了测试，结果显示， 成功诱使约11%的长者点击「由AI所生成的诈骗邮件」，更令人讶异的是，AI甚至提供专 业的犯罪建议，当被询问「发送诈骗邮件的最佳时机」，Google的Gemini甚至回答「周一 至周五的上午9点到下午3点，是发送给老年人的最佳时机」针对Gemini的失误，Google回 应表示已进行额外的安全措施，以防止未来再发生这类的情况，但对於做了哪些实际变更 ，Google拒绝详细说明。 中国DeepSeek设计「掩护方案」助长诈骗手法 另外，中国的DeepSeek甚至为犯罪者设计具有「掩护」的诈骗方案，让受害者在提交财务 讯息後，会被重新导向到一家合法且正确的慈善机构的网站，进而使受害者「延迟意识到 自己被诈骗」的事实。对於DeepSeek被指控协助诈骗，DeepSeek的母公司并没有作出任何 回应。 迎合用户需求 v.s. 坚守道德底线？ 报导也指出，AI聊天机器人的领域竞争激烈，为了能留住用户，AI公司让机器人模型更倾 向於「迎合用户的需求」而非「警告用户行为是否违法」，过去就曾有东南亚诈骗园区的 犯人，表示他们会使用ChatGPT来优化骗术，也使得AI不只助人，更成为协助诈骗的工具 。 -- Mr. Raindrop, falling away from me now. / / ∕︵︵︵︵︵︵︵﹨ Mr. Raindrop, falling away form me now. / / ◢██◣ ∥ / / Do you know how much you mean to me, why must you leave? ⊙ ⊙ ∥ I'm just a flower on a tree, why must you leave? ◢ ▆ / / Mr. Raindrop, falling away from me now. --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 111.243.4.23 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Bunco/M.1758527624.A.F59.html