Tech_Job 板


LINE

微软表示多国骇客正利用ChatGPT增进网路攻击功力,解决之道是:用AI来对抗AI http://tinyurl.com/2dgt958x 微软和 OpenAI 透露,骇客已经在使用 ChatGPT 等大型语言模型来完善和改进他们现有 的网路攻击。在最新发布的研究报告中,微软和 OpenAI 发现俄罗斯、北韩、伊朗和中国 支援的组织试图利用 ChatGPT 等工具研究目标、改进程式码并帮助建立社群工程技术。 微软在今天的一篇贴文中说:「网路犯罪集团、民族主义国家恐怖行动组织和其他对手正 在探索和测试新出现的各种人工智慧技术,试图了解它们对其行动的潜在价值以及它们可 能需要规避的安全控制。」 他们举出了不同的骇客集团,如何利用大型语言模型来提升他们的攻击。 1.俄罗斯骇客组织 与俄罗斯军事情报机构有关联的"锶"组织,被发现使用 LLMs来了解卫星通讯协议、雷达 成像技术和特定技术参数。该骇客组织也被称为 APT28 或 Fancy Bear,在俄罗斯的乌克 兰战争期间一直很活跃,此前曾参与2016 年针对希拉蕊.克林顿总统竞选活动的攻击。 据微软称,该小组还一直在使用 LLM 来帮助完成基本的程式码任务,包括档案操作、资 料选择、正规化和多处理程序处理,以实现技术操作的自动化或最佳化。 2.北韩骇客组织 一个名为 Thallium 的北韩骇客组织一直在使用 LLMs 来研究公开报导的漏洞和目标组织 ,帮助完成基本的程式码任务,并为网路钓鱼活动起草内容。微软称,名为 Curium 的伊 朗组织也一直在使用 LLMs 生成网路钓鱼电子邮件,甚至是用於躲避防毒软体检测的程式 码。与中国政府有关联的骇客也在使用 LLMs 进行研究、编写程式码、翻译和改进现有工 具。 3.钓鱼邮件利用AI提升说服力 此外,人们一直担心在网路攻击中使用人工智慧,特别是出现了像 WormGPT 和 FraudGPT 这样的人工智慧工具来协助建立恶意电子邮件和破解工具。美国国家安全局的 一位高级官员上个月也警告说,骇客正在利用人工智慧让他们的钓鱼邮件看起来更有说服 力。 解决之道:用AI来对抗AI 微软和 OpenAI 尚未发现任何使用 LLMs 的"重大攻击",但这两家公司已经关闭了与这些 骇客组织相关的所有帐户和资产。 微软表示:「与此同时,我们认为这是一项重要的研究,通过发布来揭露我们观察到的知 名威胁行为者试图采取的早期、渐进式行动,并与防御者分享我们如何阻止和反击这些行 动的资讯。」 虽然目前人工智慧在网路攻击中的应用似乎还很有限,但微软对未来的使用案例(如语音 冒充)发出了警告。「人工智慧驱动的欺诈是另一个令人严重关切的问题。语音合成就是 一个例子,三秒钟的语音样本就能训练出一个听起来像任何人的模型,即使是像语音邮件 问候语这样无害的东西,也可以用来获得足够的样本。」 微软的解决方案是利用人工智慧来应对人工智慧攻击。「人工智慧可以帮助攻击者提高攻 击的复杂程度,而且他们有足够的资源来应对。」 微软首席检测分析经理霍马.海蒂法(Homa Hayatyfar)说:「我们已经从微软追踪的 300 多个威胁行为体身上看到了这一点,我们使用人工智慧来保护、检测和应对。」 微软正在打造一款新的人工智慧助手Security Copilot,专为网路安全专业人士设计,用 於识别漏洞并更好地理解每天通过网路安全工具产生的大量讯号和资料。在 Azure 云端 遭受攻击,甚至俄罗斯骇客监视微软高层之後,这家软体巨头也在全面整顿其软体安全机 制。 --
QR Code



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 114.137.71.246 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Tech_Job/M.1709058167.A.734.html
1F:推 wachou80313 : 波特,你敢用我的魔法对付我? 02/28 07:16
2F:推 havochuman : 解决之道:把钱给我 02/28 07:59
3F:推 ptta : 同时卖军火给交战双方,双赢就是微软赢2次 02/28 08:27
4F:→ kamitengo : 我怎麽觉得有人又卖矛又买盾? 02/28 08:29
5F:推 pponywong : 下一次就卖可以攻击对抗AI攻击的AI 02/28 10:28
6F:→ huhuiying : 无限轮回之术 02/28 11:40
7F:→ lantimes : 何时会毁灭地球 02/28 12:07
8F:推 dophin332 : 锁匠卖锁也卖钥匙啊 02/28 12:17
9F:→ pttnowash : 我朋友被请去破解一台机器 是众多专家之一 02/28 19:33
10F:→ pttnowash : 但他也认为要用机器才能打败机器 不要用人力 02/28 19:33
11F:→ pttnowash : 他有点自闭但算数学天才 也不屑其他同事跟主管 02/28 19:33
12F:→ pttnowash : 後来跟大主管申请到钱 但机器运作不顺利差点被fire 02/28 19:33
13F:→ pttnowash : 他是个gay但要假装不是 於是跟女同事结婚 02/28 19:34
14F:→ pttnowash : So公事私事都不太顺 但後来无意间抓到机器运作原理 02/28 19:34
15F:→ pttnowash : 就做出成功的机器打败机器 02/28 19:34
16F:嘘 pyCassandra : 楼上偷渡图灵 02/29 01:28







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Gossiping站内搜寻

TOP