OpenAI、Google、微软、Meta、亚马逊等七家公司引领负责任的人工智慧产业倡议 1. 情报or新闻 连结：https://bit.ly/3PQl10r 2. 内文： 2023年7月，美国总统拜登与七家人工智慧公司，包括OpenAI、Google、微软、Meta、亚 马逊、Anthropic、Inflection的高层在白宫召开会议，共议人工智慧风险防范，会後拜 登宣布七家公司自愿签署一份承诺，以安全、保障和信任为三大基本原则监督人工智慧的 使用方式，并且是在美国白宫即将发布人工智慧的行政命令和两党立法之际作出承诺，以 帮助美国在负责任的创新方面发挥带头作用。以下为七家公司做出的承诺： 在向大众推出产品之前确保其安全 公司承诺在发布人工智慧系统之前对其进行内部和外部安全测试，而这项测试将部分由独 立专家进行，旨在防范最重要的人工智慧风险来源，例如生物安全和网路安全及其更广泛 的社会影响。此外，公司致力於在整个产业以及与政府、民间和学术界分享有关管理人工 智慧风险的资讯，包括最佳安全实践、有关试图规避保障措施的资讯以及技术合作。 建构将安全放在首位的系统 公司承诺投资网路安全和内部威胁防护措施，以保护专有和未发布的模型权重，而这些模 型权重是人工智慧系统最重要的部分，因为公司一致认为仅在有意且考虑到安全风险时才 发布模型权重是至关重要。此外，公司致力於促进第三方发现和报告其人工智慧系统中的 漏洞，因为即使人工智慧系统发布後，部分问题可能仍然存在，而强大的报告机制可以快 速发现问题并修复问题。 赢得大众的信任 1.致力於开发强大的技术机制，以确保用户知道内容何时由人工智慧生成，例如浮水印系 统，而这一行动使人工智慧的创造力得以蓬勃发展，同时减少欺诈和欺骗的危险。 2.承诺公开报告其人工智慧系统的功能、局限性以及适当和不适当使用的领域， 该报告 将涵盖安全风险和社会风险，例如对公平和偏见的影响。 3.承诺优先研究人工智慧系统可能带来的社会风险，包括避免有害的偏见和歧视以及保护 隐私，而人工智慧的历史记录显示该危险的普遍性，公司承诺推出人工智慧来减轻该危险 。 4.致力於开发和部署先进的人工智慧系统，以帮助解决社会面临的最大挑战，从癌症预防 到缓解气候变化等，如果管理得当人工智慧可以为所有人的繁荣、平等和安全做出巨大贡 献。 致力建立人工智慧管理的国际框架 当美国在国内推进这一议程时，也将与盟友和合作夥伴合作，建立一个强大的国际框架来 管理人工智慧的开发和使用，包括澳洲、巴西、加拿大、法国、德国、印度、新加坡、韩 国、英国等国。此外，美国力求支持日本在G7「广岛进程」（Hiroshima Process）（作 为制定人工智慧治理共同原则的重要论坛）、英国在主办人工智慧安全峰会、印度作为人 工智慧全球夥伴关系（Global Partnership on AI）主席的领导力，美国也在联合国各个 论坛上与会员国讨论人工智慧。 3.心得: 拜登政府的方法侧重於获得主要AI公司的自愿承诺，强调在AI开发中优先考虑安全、安全 和信任原则。相比之下，欧洲联盟的AI法案由欧盟执委会提出，是一个旨在建立强制性规则和 要求的监管框架，以治理AI使用。虽然两者都强调了AI的安全性和社会考虑因素，但欧洲 联盟的AI法案采取了立法的方式，旨在为AI系统设定明确的法律界限和义务。而拜登政府 的方法更偏向於合作，通过自愿承诺鼓励行业负责任地行动。 --

※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 203.145.192.245 (台湾) ※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Google/M.1695438890.A.58F.html