作者futurerich (SpadesAce)
看板Stock
标题[新闻] 白宫：辉达、IBM和Salesforce同意AI自律
时间Fri Sep 15 09:49:49 2023
原文标题：白宫：辉达、IBM和Salesforce同意AI自律协议
原文连结：
https://reurl.cc/2ErZRa
发布时间：2023/09/12 18:50
记者署名：钜亨网编译张祖仁
原文内容：
美国白宫周二 (12 日) 宣布，包括辉达 (NVDA-US)、IBM (IBM-US) 和 Salesforce
(CRM-US) 在内的多家公司，将自愿加入拜登政府限制人工智慧 (AI) 风险的规定。
这些承诺分为三类，包括在向公众推出 AI 产品之前确保其安全、将安全放在首位，以及
赢得公众对该技术的信任。
Adobe (ADBE-US)、
Coherent (COHR-US)、
Palantir (PLTR-US)、
Scale ai 、
Stability
是签署该协议的 8 家公司之一。
亚马逊 (AMZN-US)、
Anthropic 、
谷歌（GOOGL-US)、
In
flection、
Meta (META-US)、微软 (MSFT-US)和
OpenAI 自也都愿加入政府的计画。
白宫发表声明表示：「这些承诺是政府行动的重要桥梁，也是拜登与贺锦丽政府兑现 AI
承诺和管理风险的综合方法之一。」「政府正在制订一项行政命令，并将继续寻求两党立
法，以帮助美国在负责任的 AI 开发方面发挥引领作用。」
根据协议条款，两家公司将允许在发表 AI 系统之前对其进行内部和外部安全测试，包括
其技术如何影响社会、生物安全和网络安全，并承诺分享安全最佳实践。
这些公司还表示，将投资於网络安全和其他保障措施，以防止未发布的模型权重泄露和遭
到骇客攻击。它们还允许第三方报告其自己系统中潜在的安全漏洞。
在公共信任方面，这些公司将确保用户能够经由浮水印系统等技术了解 AI 何时生成内容
。谷歌於 8 月发表其自有的浮水印技术，称为 SynthID，该技术将标记直接嵌入到由
Imagen 文本到图像生成器创建的图像中。
这些科技公司进一步表示，将研究 AI 的潜在社会风险，并努力解决从气候变化到癌症研
究等问题。
得益於 OpenAI，AI 产业迅速普及。该公司於 2022 年 11 月发布了由 AI 驱动的生成
型 ChatGPT 机器人。微软在 OpenAI 上投资了数十亿美元，并於 2 月发表其自家 Bing
聊天机器人和 Edge 浏览器。谷歌母公司 Alphabet 也发表了 Bard 机器人版本，并正在
开发使用生成式 AI 的搜索引擎实验版本。
但该技术的发展和创新步伐也引发人们的担忧，即 AI 可能被用来做各种事情，从传播虚
假讯息到抢走各行业劳工的工作岗位。
皮尤研究中心进行的一项民意调查显示，52% 的受访美国人表示，他们对 AI 在日常生活
中的使用更加担心，而不是兴奋。
心得/评论：
虽然大部分科技巨头都加入AI自律协议，但还是无法完全防堵因AI造成的道德风险
就像签署武器禁运相关协议，一样会有违反规范的武器流出及使用
--
※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 111.243.9.168 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1694742592.A.A0D.html
※ 编辑: futurerich (111.243.9.168 台湾), 09/15/2023 09:52:26
1F：→ Moneytaker : AI你跟我自律一点09/15 09:50
2F：→ Moneytaker : 给 09/15 09:50
3F：推 mamorui : 捋糷]自律09/15 09:51
4F：→ mamorui : 股价 09/15 09:51
5F：→ tmdl : AI是有多厉害 连手指都能画成6根比我儿子还蠢 09/15 09:52
※ 编辑: futurerich (111.243.9.168 台湾), 09/15/2023 09:57:20
那你要注意生成式ai 的av女优有可能多一根
6F：→ piece1 : 不自律会怎样??09/15 09:54
7F：推 Moneytaker : 楼上，会自律神经失调09/15 09:55
8F：→ Moneytaker : AI神经网络09/15 09:56
9F：→ tomdavis : AI 不自律 IBM就要倒了 当然要别人自律一下09/15 10:04
※ 编辑: futurerich (111.243.9.168 台湾), 09/15/2023 10:06:58
10F：推 will1118 : 马投顾的xAI呢？09/15 10:08
11F：→ jimmy12332 : 希望Ai早日统治世界09/15 10:13
12F：推 strlen : 这种我会自律乖宝宝签名 就签啊 形式而已喇09/15 10:13
13F：→ jimmy12332 : 好的，叫工程师在training data 里加入”自律”两 09/15 10:14
14F：→ jimmy12332 : 个字 结案09/15 10:14
15F：→ a8521abcd : 有点惨，都还没做出过堪用的东西就被限制09/15 10:17
16F：推 runedcross : AI自律 干N啥事09/15 10:21
17F：→ DMM : 拿武器禁运举例怪怪的09/15 11:19
18F：→ DMM : 武器禁运是自己用但禁止别人用09/15 11:19
19F：→ DMM : 这个是自己限制自己小心用09/15 11:19
其实我要表达的是核武扩散，缔约国有190国，大部分都是没有发展核武的，但是到後面
疑似拥核的国家也比当初签署时还多，禁止核试爆，但很多国家也是偷偷做，现在应该比
较少了，都用超级电脑模拟就搞定了，所以协议或缔约会不会减缓道德等其他风险的增加
也不一定可以约束
20F：→ laechan : AI自律变BI 09/15 11:24
21F：推 luting : 天网已被封杀了 09/15 12:34
※ 编辑: futurerich (114.137.75.160 台湾), 09/15/2023 12:42:37
※ 编辑: futurerich (114.137.75.160 台湾), 09/15/2023 12:46:01
22F：→ adoniskk : AI大逃杀 09/15 13:05
23F：→ alphish : AI崩崩 没得玩惹 09/15 13:11
24F：→ stationary : 股价也自律了 09/15 13:17