────────────────────────────────────── 1.原文连结：连结过长者请使用短网址。 https://buzzorange.com/techorange/2024/08/23/googles-ai-reimagine-tool-helped-us-add-wrecks-disasters-and-corpses-to-our-photos/ 短网址：https://tinyurl.com/hydp9rxj 2.原文标题：标题须完整写出且须符合内文(否则依板规删除并水桶)。 Pixel 9 AI 编辑图片维妙维肖，实测不安图像显隐患 3.原文来源(媒体/作者)：例:苹果日报/王大明(若无署名作者则不须) TechOrange/李琬妍 4.原文内容：请刊登完整全文(否则依板规删除并水桶)。 https://i.imgur.com/HCZWaoi.png AI 图片编辑正夯，多家手机推类似功能 Google 是今年最新推出 AI 照片编辑工具的手机厂商。此前，三星推出了类似的草图转 图像功能，苹果今年秋季也推出了较为温和的 Image Playground。Pixel 9 的回应则是 推出一个名为「Reimagine」的新工具，可视为去年 Magic Editor 工具的进阶版。 Pixel 新机里 Reimagine 的亮点 Reimagine 能让用户选择和删除场景的部分内容（如将天空将上日落效果），也可以选择 输入文字提示，在该空间中生成新内容和物件，结果往往看起来相当逼真。灯光、阴影和 透视效果通常皆与原始照片相符。 生成的令人不适画面也很逼真 然而，美国媒体 The Verge 员工实际测试一周後，表示：「比以往任何时候都更确信， 我们都没有为即将到来的变革做好准备。」测试团队发现，只要巧妙选择措辞，就能绕过 明显的防护机制，而产出一些非常令人不适的内容（例如用血迹斑斑的床单创造出一个相 当逼真的遗体、汽车残骸、公共场所冒烟的炸弹、以及吸毒用具等）。 真假难辨，AI 作图难识别 值得注意的是，这并非需要额外安装的软体，而是内建在普通消费者可以购买的手机中。 The Verge 团队表示，最可怕的是，我们识别此类内容的能力远远落後於制作的能力。使 用 Reimagine 编辑的图像没有明显的浮水印或标识，只在元数据中添加了一个标签，但 很容易以截图的方式去除。 现在误导性质的照片也能飞速传播，毕竟处理照片的工具就存在於用来拍摄和分享照片的 同一台手机里。测试团队将一张「Reimagine」的图片上传到 Instagram 故事中作为测试 （并迅速删除），发现 Meta 并没有自动将其标记为 AI 生成。 5.心得/评论：内容须超过繁体中文30字(不含标点符号)。 ────────────────────────────────────── 以下附上 The Verge 相关的两篇文章，有一些他们测试的实例(请慎点)： Google’s AI ‘Reimagine’ tool helped us add wrecks, disasters, and corpses to our photos https://www.theverge.com/2024/8/21/24224084/google-pixel-9-reimagine-ai-photos No one’s ready for this https://www.theverge.com/2024/8/22/24225972/ai-photo-era-what-is-reality-google-pixel-9 Google 发言人给 The Verge 以下回覆： Pixel Studio 和 Magic Editor 是有用的工具，旨在透过 Pixel 9 装置上的文字到影像 生成和进阶照片编辑来释放您的创造力。我们设计生成式人工智慧工具时会尊重使用者提 示的意图，这意味着它们可能会在使用者指示时创建可能令人反感的内容。也就是说，一 切都没有进展。我们对允许和不允许的内容类型制定了明确的政策和服务条款，并建立了 防止滥用的护栏。有时，一些提示可能会挑战这些工具的护栏，我们仍然致力於不断增强 和完善我们现有的保障措施。 Pixel Studio and Magic Editor are helpful tools meant to unlock your creativity with text to image generation and advanced photo editing on Pixel 9 devices. We design our Generative AI tools to respect the intent of user prompts and that means they may create content that may offend when instructed by the user to do so. That said, it’s not anything goes. We have clear policies and Terms of Service on what kinds of content we allow and don ’t allow, and build guardrails to prevent abuse. At times, some prompts can challenge these tools’ guardrails and we remain committed to continually enhancing and refining the safeguards we have in place. 对於此功能，当初 Wired 采访 Pixel 团队时，也给出一个哲学的答案： 对於 Reynolds 和更广泛的 Pixel Camera 团队来说，重要的不一定是照片，而是您的记 忆。如果您想透过将天空的颜色变更为日落来修饰影像，或使用新的自动框功能重新构图 ，使其更加引人注目，那麽都可以。 「这与你所记住的内容有关，」他说。 「当你定义记忆时，它就存在错误：你可能会真 实而完美地再现感觉完全虚假和完全错误的时刻。这些编辑所做的就是帮助你创造出你记 忆中的那个时刻，这对你的记忆和更大的背景来说是真实的，但对於特定的毫秒来说可能 并不真实。 To Reynolds and the broader Pixel Camera team, it's not necessarily the photo that's important, but your memory. If you want to fudge with the image by altering the color of the sky to be sunset or use the new Autoframe feature to recompose the image so that it's more striking, then that's OK. “It's about what you're remembering," he says. “When you define a memory as that there is a fallibility to it: You could have a true and perfect representation of a moment that felt completely fake and completely wrong. What some of these edits do is help you create the moment that is the way you remember it, that's authentic to your memory and to the greater context, but maybe isn't authentic to a particular millisecond.” 目前网路上好像分成两个阵营，一方面是说工具本来就双面刃， 这对 Pixel 9 来说就是出色的完成了使用者下的指令， 另一派则是说照片真实性已死，建议通通砍掉当作没这件事情发生过。 这样肥宅我是不是可以好好加班帮公司赚钱，然後生一堆出国玩的照片丢 IG 了？(X) 不过不确定为什麽 Google 这次只在 Pixel Studio 加上 SynthID ， 而这些编辑过的照片只在 EXIF 加一行字串？？这不是你家 DeepMind 主推的吗.... -- --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 1.200.72.183 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/MobileComm/M.1724513135.A.6A1.html ※ 编辑: Lyeuiechang (1.200.72.183 台湾), 08/24/2024 23:32:43