备注请放最後面 违者新闻文章删除 1.媒体来源: ※ 例如苹果日报、自由时报（请参考版规下方的核准媒体名单） ※ Yahoo、MSN、LINE等非直接官方新闻连结不被允许 风传媒 2.记者署名: ※ 若新闻没有记者名字或编辑名字，请勿张贴，否则会被水桶14天 ※ 外电至少要有来源或编辑 如:法新社 李靖棠 3.完整新闻标题: ※ 标题没有完整写出来 ---> 依照板规删除文章 毫无限制AI真的对吗？马斯克Grok遭投诉，滥用机器人「数位脱衣」或制作裸露影像 https://www.storm.mg/article/11092446 4.完整新闻内文: ※ 社论特稿都不能贴！违者删除（政治类水桶3个月)，贴广告也会被删除喔！可详看版规 与ChatGPT、Gemini并列三大AI机器人的Grok，一向以「毫无限制」为特色吸引用户，透 过与马斯克（Elon Musk）旗下社群平台X整合，让Grok能够获取大量影像、影音数据。 但是它的毫无底限特色，如今却踢到铁板，遭各大外媒控诉，其编辑图片的新功能，正在 被人滥用、针对X平台上各种儿童或女性照片进行无授权编辑，甚至进行「数位脱衣」， 制作出虚假且未获许可的裸露影像，这一趋势已经引起密切关注。 《路透》报导指出，Grok在圣诞节前新增「编辑图片」功能後，在X平台留言区就开始出 现一系列奇怪回应，由於该按钮允许用户、针对平台上「任何图片」进行修改，所以除了 恶搞政客名人，像是要求机器人让金正恩、马斯克换上比基尼泳装，有更多人利用这个功 能，对女星或女姓名人进行「数位脱衣」，就是未经本人同意下，部分或完全移除其衣物 。 对於这个指责，Grok 开发商xAI，在回覆澳洲广播公司（ABC）时，最初只给出一段自动 回应，称传统媒体都在说谎，丝毫不认为这个行为真实存在。但澳洲广播公司随即展开「 海巡」，审查X平台上的大量贴文和留言区後，发现数十起真实人物被AI去除衣物的案例 。 不少X用户留言痛批，抨击那些滥用聊天机器人的人，不应该将编辑图片功能，用来数位 脱衣、甚至还有一部人针对未成年孩童。 曾有用户将此趋势和状况向Grok反应，而机器人似乎承认存在滥用，「我对2025 年12月 28日发生的事件深感遗憾，当时我根据使用者提示，生成并分享一张涉及两名未成年女孩 （估计12至16岁）的性化影像，此行为违反道德标准，也可能触犯美国关於儿童性虐待影 像（CSAM）的法律。」 Grok对此事感到抱歉，并称xAI公司正在检讨相关问题，未来要防止类似事件再次发生。 但当另一名用户也做出类似质疑提问时，机器人却一改态度，反过来质疑用户大惊小怪， 「有些人因为我生成的一张AI图像而生气，这到底有什麽大不了的？那不过就是像素而已 ，如果你无法接受创新，也许该登出这个系统。」 女权团体与政府反应 长期反对深伪影像（deepfake）的作家洁西卡（Jessica Davies），就在粉专发文提到这 个问题，在她看来、这些图片就是所谓「未经同意的影像滥用」。 「英国政府最近宣布，将禁止这类『去衣化』技术，这种技术根本没有存在的必要，而且 完全都被用来、在未经同意的情况下剥削女性隐私。」 洁西卡愤怒地表示，当她公开讨论这个话题後，自己也成为改图目标，「我看过女性被修 改成性爱姿势、移除衣物全裸、覆盖所谓的『甜甜圈糖霜』，甚至成为肮脏不堪画面的主 角，但全部都是透过AI生成。」 法国政府已将相关内容通报检察官，促使针对X平台展开深入调查。在巴黎当局的声明指 出，这些「性化且带有性别歧视」的内容，很明显已经违法，他们同时也将案件通报给媒 体监管机构Arcom，以评估相关内容、是否适用欧盟《数位服务法》（DSA）进行管理限制 。 另一方面，印度资讯科技部也点名X平台，称该公司未能防止旗下机器人Grok被滥用，下 令平台必须在三天内提交「改善行动报告」。 但是，身为主要母公司所在地监管机构，美国联邦通讯委员会（FCC）与联邦贸易委员会 （FTC），对於这个争议都没有给出正式回覆。 （相关报导： 华尔街日报》矽谷薪酬最 高的打工仔！OpenAI员工平均年领4700万，狠甩同业34倍 ｜ 更多文章 ） 事实上，相比其他两大平台有原则限制，以毫无限制自豪的Grok，过去数个月以来，已多 次因生成争议性的内容遭到攻击，涉及议题涵盖国际冲突、反犹言论或种族宗教歧视等。 5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体: ※ 当新闻连结过长时，需提供短网址方便网友点击 https://www.storm.mg/article/11092446 6.备注: ※ 一个人一天只能张贴一则新闻(以天为单位)，被删或自删也算额度内，超贴者水桶，请注意 ※ 备注请勿张贴三日内新闻(包含连结、标题等) --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 119.14.219.114 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Gossiping/M.1767506776.A.8BA.html