用 AI 快速生成 200 多個垃圾內容網站，詐騙集團詐騙個資並收取廣告費 https://reurl.cc/dp0okM 釣魚詐騙網站早已存在，但生成式 AI 卻大幅降低了擴大這類行動規模所需的成本與時間 。數位媒體安全方案商 DoubleVerify 的研究人員日前發現了一個由 200 多個「為廣告 量身打造」之垃圾內容網站組成的協同網路，它是由單一詐騙團體營運，所有垃圾網站皆 透過大型語言模型中的範本提示快速生成。 在被 DoubleVerify 稱為「AutoBait」的詐騙行動中，詐騙團體建立了一系列架構簡單的 網站，內容多為帶有吸睛照片與標題的幻燈片頁面，其一方面誘騙毫無戒心的網路使用者 分享敏感資料；另一方則從被欺騙的廣告主身上收錢，讓他們誤以為在這些網站投放廣告 是有效的。 有別於過去的釣魚詐騙網站，這些垃圾內容網站的主要目的在於獲取數位廣告收入，換言 之，所有文章不是為了培養讀者忠誠度，而是快速增加廣告曝光數。 詐騙者向大型語言模型（LLM）下達了非常具體的指示，包括要求模型在前幾張幻燈片中 優先放入「最具煽動性或最令人震驚的內容」；標題必須「極度直白」，而正文則需要「 在每一段文章中注入恐懼、憤怒、震驚等真實情緒」；此外更要求模型生成「極度逼真」 的照片。 由於過去這些網域曾經承載過合法內容，這使得詐騙者能夠利用既有的網域歷史紀錄與流 量。其中一個網站甚至保留一名已過世的金融部落客文章。 DoubleVerify 發現，「AutoBait」背後的詐騙團體生成每一個文章頁面的成本不到 2.25 美元。而且每個網站都布滿多個廣告橫幅，為詐騙者提供了迅速回收成本的管道。 這意味著，合法品牌可能在毫不知情的情況下，資助了這樣的垃圾內容網站。 有趣的是，該團體將要求 AI 生成內容的提示，直接暴露在網站的 JavaScript 程式碼中 ，這也讓外界罕見地窺見 AI 如何被用來強化詐騙。總之，面對垃圾內容網站或釣魚詐騙 網站，許多資安公司（包括 DoubleVerify）已推出針對AI垃圾內容/詐騙網站的偵測工具 ，使用者或廣告商可以藉助它們做好時刻防範詐騙的準備。 -- Mr. Raindrop, falling away from me now. / / ∕︵︵︵︵︵︵︵﹨ Mr. Raindrop, falling away form me now. / / ◢██◣ ∥ / / Do you know how much you mean to me, why must you leave? ⊙ ⊙ ∥ I'm just a flower on a tree, why must you leave? ◢ ▆ / / Mr. Raindrop, falling away from me now. --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 111.243.28.51 (臺灣) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Bunco/M.1773109123.A.820.html