微软表示多国骇客正利用ChatGPT增进网路攻击功力，解决之道是：用AI来对抗AI http://tinyurl.com/2dgt958x 微软和 OpenAI 透露，骇客已经在使用 ChatGPT 等大型语言模型来完善和改进他们现有 的网路攻击。在最新发布的研究报告中，微软和 OpenAI 发现俄罗斯、北韩、伊朗和中国 支援的组织试图利用 ChatGPT 等工具研究目标、改进程式码并帮助建立社群工程技术。 微软在今天的一篇贴文中说：「网路犯罪集团、民族主义国家恐怖行动组织和其他对手正 在探索和测试新出现的各种人工智慧技术，试图了解它们对其行动的潜在价值以及它们可 能需要规避的安全控制。」 他们举出了不同的骇客集团，如何利用大型语言模型来提升他们的攻击。 1.俄罗斯骇客组织 与俄罗斯军事情报机构有关联的"锶"组织，被发现使用 LLMs来了解卫星通讯协议、雷达 成像技术和特定技术参数。该骇客组织也被称为 APT28 或 Fancy Bear，在俄罗斯的乌克 兰战争期间一直很活跃，此前曾参与2016 年针对希拉蕊．克林顿总统竞选活动的攻击。 据微软称，该小组还一直在使用 LLM 来帮助完成基本的程式码任务，包括档案操作、资 料选择、正规化和多处理程序处理，以实现技术操作的自动化或最佳化。 2.北韩骇客组织 一个名为 Thallium 的北韩骇客组织一直在使用 LLMs 来研究公开报导的漏洞和目标组织 ，帮助完成基本的程式码任务，并为网路钓鱼活动起草内容。微软称，名为 Curium 的伊 朗组织也一直在使用 LLMs 生成网路钓鱼电子邮件，甚至是用於躲避防毒软体检测的程式 码。与中国政府有关联的骇客也在使用 LLMs 进行研究、编写程式码、翻译和改进现有工 具。 3.钓鱼邮件利用AI提升说服力 此外，人们一直担心在网路攻击中使用人工智慧，特别是出现了像 WormGPT 和 FraudGPT 这样的人工智慧工具来协助建立恶意电子邮件和破解工具。美国国家安全局的 一位高级官员上个月也警告说，骇客正在利用人工智慧让他们的钓鱼邮件看起来更有说服 力。 解决之道：用AI来对抗AI 微软和 OpenAI 尚未发现任何使用 LLMs 的"重大攻击"，但这两家公司已经关闭了与这些 骇客组织相关的所有帐户和资产。 微软表示：「与此同时，我们认为这是一项重要的研究，通过发布来揭露我们观察到的知 名威胁行为者试图采取的早期、渐进式行动，并与防御者分享我们如何阻止和反击这些行 动的资讯。」 虽然目前人工智慧在网路攻击中的应用似乎还很有限，但微软对未来的使用案例（如语音 冒充）发出了警告。「人工智慧驱动的欺诈是另一个令人严重关切的问题。语音合成就是 一个例子，三秒钟的语音样本就能训练出一个听起来像任何人的模型，即使是像语音邮件 问候语这样无害的东西，也可以用来获得足够的样本。」 微软的解决方案是利用人工智慧来应对人工智慧攻击。「人工智慧可以帮助攻击者提高攻 击的复杂程度，而且他们有足够的资源来应对。」 微软首席检测分析经理霍马．海蒂法（Homa Hayatyfar）说：「我们已经从微软追踪的 300 多个威胁行为体身上看到了这一点，我们使用人工智慧来保护、检测和应对。」 微软正在打造一款新的人工智慧助手Security Copilot，专为网路安全专业人士设计，用 於识别漏洞并更好地理解每天通过网路安全工具产生的大量讯号和资料。在 Azure 云端 遭受攻击，甚至俄罗斯骇客监视微软高层之後，这家软体巨头也在全面整顿其软体安全机 制。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 114.137.71.246 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1709058167.A.734.html