备注请放最後面 违者新闻文章删除 1.媒体来源: 中央广播电台 2.记者署名: 2026-07-29 12:12(07-29 14:58更新) 撰稿编辑：郑佑汉 3.完整新闻标题: 当总统声音被复制 专家揭AI深伪的国安、法律与信任危机 4.完整新闻内文: 嘲讽中联油品事件的影片「油不得你」以AI深伪(DeepFake)技术模拟赖清德总统的声音，引 发创作自由、言论自由与法律责任及国安风险间的争议。学者、律师均示警利用AI技术假冒 元首声音恐成为认知作战工具。AI专家并直言，随着技术不断向前推进，声音、影像仿真门 槛快速降低，未来真假资讯将更难辨识。 随着AI人工智慧生成技术快速进步，政治攻防及嘲讽也出现新的表现形式。政治嘲讽影片「 油不得你」韦姓制作人以AI技术模拟赖清德总统的声音，批评政府处理中联油脂食安事件， 该影片虽标示由AI生成，但因高仿真国家元首的声音，引发是否逾越政治讽刺界线，进一步 涉及法律、国家安全与社会信任等议题的讨论。 假冒国家元首恐成认知作战工具 阳明交通大学科技法律学院院长陈鋕雄受访指出，对政治人物批评、揶揄或讽刺原则上受到 宪法言论自由保障，但国家元首与一般政治人物不同，其声音与公开谈话也象徵国家主权与 指挥权，若藉深伪技术假冒，将被用作国安攻击手段，成为认知作战中的非对称打击工具。 他说：『(原音)元首本身他有一些特殊的权力，像是宣战、媾和或是国际外交等，所以当你 假冒元首的话去讲某些事情的时候，很可能会影响不单纯是个人名誉的问题，因为他(元首) 的公共职务，所以的确是有可能成为国家安全的问题，而且我们很确定这种手段是会被用来 作为一种国安攻击的手法。』 陈鋕雄举例，在俄乌战争初期，网路就曾流传一段利用AI深伪技术制作的乌克兰总统泽伦斯 基(Volodymyr Zelensky)影片，内容是要求乌克兰军民放下武器、向俄罗斯投降。尽管该影 片被证实是造假，但也显示敌对势力透过冒用国家领导人形象，动摇军心与社会信任的心战 手法。 同样的风险也可能出现在选战攻防，陈鋕雄指出，2023年斯洛伐克国会大选投票前2天，网 路突然流出伪造亲西方政党领袖米哈尔．希梅奇卡(Michal ime ka)的声音档案，内容宣称 他与记者密谋买票。由於当时已进入禁止宣传竞选的最後时刻，导致难以及时澄清，音档迅 速扩散，也影响後续选情。 陈鋕雄表示，因应此类风险主要有2条路径。第一，要求网路平台快速移除未标示或具有危 害的深伪内容；第二则是建立快速、持续的政府澄清机制。他以过去COVID-19疫情期间为例 ，当时大量假讯息在网路上流传，政府透过固定记者会频繁说明疫情及政策，便有助於建立 官方资讯来源的公信力及避免假资讯持续扩散。 另外，陈鋕雄强调，当深伪技术的使用门槛持续降低，政府不可能拦截所有内容，公民辨识 能力将成为民主社会最後一道防线，因此更重要的是将AI资讯识读纳入国中、小教育，让民 众了解判断资讯来源、交叉查证及辨识官方讯息的方法。 AI深伪内容管理法制仍待完善 在法律层面，律师黄任显表示，现行刑事法律并非完全无法处理深伪案件，如利用伪造声音 或影像诈骗金钱涉及诈欺或加重诈欺；若藉此侵入他人电脑系统，也可能涉及妨害电脑使用 罪。当深伪内容侵害个人的姓名、肖像、声音或名誉时，当事人可依具体情况寻求民事及刑 事救济；若选举期间有人意图藉此使特定候选人当选或不当选，并足以损害公众或他人时， 也可能适用选罢法相关规定处理。 不过，黄任显指出，若深伪内容没有涉及诈财、侵入电脑，或尚未进入明确的选举情境，现 行法律能否处理就会面临较大的解释空间。他以这次「油不得你」影片深伪总统声音为例， 便有部分法律见解认为利用AI仿真声音或影像可能涉及《刑法》伪造文书相关罪责，只是实 务上以声音作为「准文书」处理的判决并不多，未来法院会如何认定仍有待观察。 虽然目前法律见解不一，但黄任显强调未来必须谨慎面对此类风险。他指出，若有人利用总 统、政府官员等深伪声音或影像，捏造战争或市场重大讯息，一旦经媒体与社群平台传播， 可能会在短时间内造成市场波动及社会混乱，其危害已远超过单纯的名誉侵害。他说：『( 原音)如果(深伪)更进一步发展，是伪造赖清德在总统府谈话直播，这个造成的效果不是单 纯说言论自由、政治评论等可以简单一句话就带过的事情，因为这等於是在伪造一个政府， 因为赖清德作为总统或是国家政要，他代表政府机关对外发表谈话、讲话的时候，伪造了这 个moment他的效果，可能跟你说言论自由或政治讽刺、漫画等效果，这是完全不一样的两件 事情。』 至於影片中若清楚标示「AI生成」是否就可以免除法律责任？黄任显表示，台湾尚未对AI生 成内容建立完整规范，若未来法律明定标示「AI生成」列为行政执行的义务，完成标示或许 可降低民众受骗的风险，但不能直接推论所有内容都因此合法。 黄任显强调，目前法制重点应是建立官方资讯验证机制、AI内容揭露义务、平台快速辨识及 下架程序，以及重大公共资讯来源的认证制度，民众若能即时辨别真正的官方讯息，才能维 持民主制度、社会秩序及国家安全。 上传15秒声音即可模仿 公众人物更易拟真 专门研发AI虚拟主播及生成式影音技术的新创公司集仕多总经理梁哲玮受访表示，现行AI声 音复制技术大致可分成一般文字转语音，以及拟真声音复制两个层次，部分网路开源模型仅 需上传约15秒声音样本，就能模仿特定人物说话，AI生成内容操作门槛已大幅降低。 他指出，基础模型产生的声音可能仍带有机械感，若要制作高拟真声纹，就需要更多乾净的 训练资料，进一步学习说话者的情绪、音质、沙哑程度、断句及停顿方式，而公众人物像是 总统、政治人物或艺人，经常公开演说及接受访问，网路上累积大量其声音与影像，制作者 只要蒐集、去除杂音并纯化资料，就可建立高度拟真的声纹模型，因此，公众人物更容易成 为遭仿真的对象。他说：『(原音)如果是做一个简单版，只需要15秒钟的声音就可以来稍微 模仿，但它的模仿底层其实还是一般文字转语音，所以你会听起来还是有一点点机械音，但 如果要做高拟真的话，像有一些国外的学术研究直接拿国会图书馆里面总统的演讲，它的声 音可能是数百个小时，而且是非常乾净、没有干扰，这样的训练资料库是很大的，所以包含 特色、顿点还有情绪起伏等，都可以学得非常非常像。』 至於该如何判断影片是否由AI生成，梁哲玮表示，通常需要综合检视几何结构、脸部光线、 景深、眼睛纹理、肢体动作及声音等数十项细节，没有任何单一标准可以保证判断正确。他 指出，部分研究会透过虹膜纹理、光线变化或细微影像讯号进行辨识，但通常仅适用於人物 近距离的一对一视讯场景；若是假影片采取远距离或长镜头呈现，眼睛与脸部细节不足，相 关方法便难以发挥效果。因此，当AI技术进一步成熟，一般民众很难仅凭肉眼或耳朵判断真 伪，往往必须透过专业程式或商用深伪辨识工具分析，目前国外已有业者提供相关侦测服务 ，部分国家是由政府投入研发、建立通报及监识机制，台湾政府也积极投入相关技术研发。 对於欧盟近日设立AI透明度新制，未来生成内容必须依法标示数位签章与浮水印，梁哲玮指 出，相关技术可以记录内容由何种工具生成，增加来源追溯能力，但最大问题在於是否能要 求所有AI模型配合，即使欧盟或台湾订定规范，也未必能约束未在境内营运的境外平台及开 源模型，实际执行仍相当困难。 梁哲玮认为，未来应广泛蒐集产官学界意见，建立社会共识，再制定具有强制力的法规，作 为平台配合的依据。他指出，目前不少在台营运的大型国际科技公司都会配合在地法令调整 服务，因此可如同打击诈骗讯息、着作权保护等方式逐步要求平台建立AI内容揭露、追溯及 管理机制。 不过他也坦言，AI技术发展速度远快於法规修订，未来仍须持续观察科技演进与法制建构的 速度，尽量降低深伪内容带来的风险，这也将是各国共同面临的重要课题。(编辑：陈文蔚) 5.完整新闻连结 (或短网址)不可用YAHOO、LINE、MSN等转载媒体: https://www.rti.org.tw/news?uid=3&pid=223069 6.备注: …… --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 223.141.223.195 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Gossiping/M.1785455239.A.6B0.html