備註請放最後面 違者新聞文章刪除 1.媒體來源: ※ 例如蘋果日報、自由時報（請參考版規下方的核准媒體名單） ※ Yahoo、MSN、LINE等非直接官方新聞連結不被允許 風傳媒 2.記者署名: ※ 若新聞沒有記者名字或編輯名字，請勿張貼，否則會被水桶14天 ※ 外電至少要有來源或編輯 如:法新社 李靖棠 3.完整新聞標題: ※ 標題沒有完整寫出來 ---> 依照板規刪除文章 毫無限制AI真的對嗎？馬斯克Grok遭投訴，濫用機器人「數位脫衣」或製作裸露影像 https://www.storm.mg/article/11092446 4.完整新聞內文: ※ 社論特稿都不能貼！違者刪除（政治類水桶3個月)，貼廣告也會被刪除喔！可詳看版規 與ChatGPT、Gemini並列三大AI機器人的Grok，一向以「毫無限制」為特色吸引用戶，透 過與馬斯克（Elon Musk）旗下社群平台X整合，讓Grok能夠獲取大量影像、影音數據。 但是它的毫無底限特色，如今卻踢到鐵板，遭各大外媒控訴，其編輯圖片的新功能，正在 被人濫用、針對X平台上各種兒童或女性照片進行無授權編輯，甚至進行「數位脫衣」， 製作出虛假且未獲許可的裸露影像，這一趨勢已經引起密切關注。 《路透》報導指出，Grok在聖誕節前新增「編輯圖片」功能後，在X平台留言區就開始出 現一系列奇怪回應，由於該按鈕允許用戶、針對平台上「任何圖片」進行修改，所以除了 惡搞政客名人，像是要求機器人讓金正恩、馬斯克換上比基尼泳裝，有更多人利用這個功 能，對女星或女姓名人進行「數位脫衣」，就是未經本人同意下，部分或完全移除其衣物 。 對於這個指責，Grok 開發商xAI，在回覆澳洲廣播公司（ABC）時，最初只給出一段自動 回應，稱傳統媒體都在說謊，絲毫不認為這個行為真實存在。但澳洲廣播公司隨即展開「 海巡」，審查X平台上的大量貼文和留言區後，發現數十起真實人物被AI去除衣物的案例 。 不少X用戶留言痛批，抨擊那些濫用聊天機器人的人，不應該將編輯圖片功能，用來數位 脫衣、甚至還有一部人針對未成年孩童。 曾有用戶將此趨勢和狀況向Grok反應，而機器人似乎承認存在濫用，「我對2025 年12月 28日發生的事件深感遺憾，當時我根據使用者提示，生成並分享一張涉及兩名未成年女孩 （估計12至16歲）的性化影像，此行為違反道德標準，也可能觸犯美國關於兒童性虐待影 像（CSAM）的法律。」 Grok對此事感到抱歉，並稱xAI公司正在檢討相關問題，未來要防止類似事件再次發生。 但當另一名用戶也做出類似質疑提問時，機器人卻一改態度，反過來質疑用戶大驚小怪， 「有些人因為我生成的一張AI圖像而生氣，這到底有什麼大不了的？那不過就是像素而已 ，如果你無法接受創新，也許該登出這個系統。」 女權團體與政府反應 長期反對深偽影像（deepfake）的作家潔西卡（Jessica Davies），就在粉專發文提到這 個問題，在她看來、這些圖片就是所謂「未經同意的影像濫用」。 「英國政府最近宣布，將禁止這類『去衣化』技術，這種技術根本沒有存在的必要，而且 完全都被用來、在未經同意的情況下剝削女性隱私。」 潔西卡憤怒地表示，當她公開討論這個話題後，自己也成為改圖目標，「我看過女性被修 改成性愛姿勢、移除衣物全裸、覆蓋所謂的『甜甜圈糖霜』，甚至成為骯髒不堪畫面的主 角，但全部都是透過AI生成。」 法國政府已將相關內容通報檢察官，促使針對X平台展開深入調查。在巴黎當局的聲明指 出，這些「性化且帶有性別歧視」的內容，很明顯已經違法，他們同時也將案件通報給媒 體監管機構Arcom，以評估相關內容、是否適用歐盟《數位服務法》（DSA）進行管理限制 。 另一方面，印度資訊科技部也點名X平台，稱該公司未能防止旗下機器人Grok被濫用，下 令平台必須在三天內提交「改善行動報告」。 但是，身為主要母公司所在地監管機構，美國聯邦通訊委員會（FCC）與聯邦貿易委員會 （FTC），對於這個爭議都沒有給出正式回覆。 （相關報導： 華爾街日報》矽谷薪酬最 高的打工仔！OpenAI員工平均年領4700萬，狠甩同業34倍 ｜ 更多文章 ） 事實上，相比其他兩大平台有原則限制，以毫無限制自豪的Grok，過去數個月以來，已多 次因生成爭議性的內容遭到攻擊，涉及議題涵蓋國際衝突、反猶言論或種族宗教歧視等。 5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體: ※ 當新聞連結過長時，需提供短網址方便網友點擊 https://www.storm.mg/article/11092446 6.備註: ※ 一個人一天只能張貼一則新聞(以天為單位)，被刪或自刪也算額度內，超貼者水桶，請注意 ※ 備註請勿張貼三日內新聞(包含連結、標題等) --

※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 119.14.219.114 (臺灣) ※ 文章網址: https://webptt.com/m.aspx?n=bbs/Gossiping/M.1767506776.A.8BA.html