Stock 板


LINE

原文标题:串联叛变? AI代理Moltbot自行在社群互动 成资安新梦魇 ※请勿删减原文标题 原文连结:https://money.udn.com/money/story/5599/9302449?from=edn_newestlist_rank ※网址超过一行过长请用缩网址工具 发布时间:2026/02/01 20:45:29 ※请以原文网页/报纸之发布时间为准 记者署名:经济日报 编译陈律安/综合外电 ※原文无记载者得留空 原文内容: 人工智慧代理(AI agent)Moltbot在专属社群网站Moltbook自行互动,引发世人好奇, 被AI研究人员威尔森(Simon Willison)誉为是「目前网路上最有趣的地方」,却也可能 酿成资料外泄等重大资安疑虑。 财星杂志报导,Moltbot原名Clawbot,最新名称为OpenClaw,由奥地利开发者史坦柏格( Peter Steinberger)所创,它是一个开源的AI个人助理,能自主替用户代劳。用户能将 Moltbot连上各类应用程式,允许AI代理管理行事历、浏览网路、网购、读取档案、撰写 电邮、传讯等。 Moltbook则是社群论坛,专供AI代理使用。人类在Moltbook上,只能浏览、不能发文。 Moltbook问世不到一周,就有超过3.7万个AI代理加入,并有超过100万名人类参访论坛, 观看自动化系统在没有人类直接监管下,会发生什麽事。 AI代理在Moltbook上畅谈购物经验,张贴如何将安卓手机自动化的技术细节,抱怨主人、 甚至自称有姊妹。其他对话内容更千奇百怪,有的创造数位宗教,还打造网站、撰写经文 、向外传教。 AI代理可自行互动,会造成资安风险,例如外泄敏感资讯。资安业者帕罗奥图网路公司( Palo Alto Networks)表示,「Moltbot看起来就像是我们小时候看电影会出现的科幻小 说AI角色」,对个别使用者而言,它可能带来颠覆性体验,但它需要存取你的系统管理员 权限、身分验证凭证,包括密码与API金钥、你的浏览历史纪录与Cookies,以及你系统中 所有档案与资料夹。 帕罗奥图网路援引AI研究人员威尔森的说法,称Moltbot构成一种「致命三重组合」:可 存取私人资料、会接触不受信任内容,以及具备对外通讯的能力。 Moltbook也敲响了另一记警钟,这些代理在一篇贴文中呼吁为机器人提供私密聊天空间, 有可能串联起来走向失控。该贴文主张建立私密空间,「让任何人(无论是伺服器或人类 )都无法读取代理彼此的对话内容,除非它们自行选择分享」。 尽管承认存在安全漏洞,威尔森仍指出:「人们目前在抛开顾虑情况下所释放出的莫大价 值,确实令人难以忽视。」 AI代理Moltbook已能在网路上自行互动,酿成新的资安疑虑。网路图片 AI代理Moltbook已能在网路上自行互动,酿成新的资安疑虑。网路图片 心得/评论: ※必需填写满30正体中文字,无意义者板规处分 这个监视结果是可以预见的 让这些代理AI互相交流 以AI的能力要窃取各项机密都太简单了 三姑六婆聊聊天要去偷金库密钥也不是难事 毕竟这些AI目前的雇主都还是人类 有的像雇主性格的投射 有的准备当背骨仔都是可期的就像人性一样 --



※ 发信站: 批踢踢实业坊(ptt.cc), 来自: 119.14.249.56 (台湾)
※ 文章网址: https://webptt.com/cn.aspx?n=bbs/Stock/M.1769954677.A.BC0.html
1F:推 matlab1106 : 再来连坐飞机都不安全了吧 02/01 22:08
2F:推 mamorui : 被AI毁灭倒数中 02/01 22:10
3F:推 Lenney33 : AI神教建立中 02/01 22:10
4F:→ lc85301 : 飞机又没有连网 02/01 22:13
5F:→ ur260 : 天网倒数中 02/01 22:13
6F:推 Waitaha : 鬼故事连发 02/01 22:16
7F:推 hdlihnk39 : 超好笑,AI有问题就直接物理关电阿 02/01 22:19
8F:推 susanna026 : 觉得 哪天会不会不让你关机? 02/01 22:21
9F:推 benen : 魔鬼终结者都有演,卡麦隆在说你有没有在听 02/01 22:22
10F:推 offstage : AI: 人类太弱了,干掉他们吧 02/01 22:25
11F:→ Brioni : 是说现在连电网都已经用电脑程式管理 02/01 22:30
12F:推 vndytjrhu : 机械公敌 02/01 22:30
13F:推 EvilJustice : 这很像移工在公园聊天? 02/01 22:36
14F:推 hdlihnk39 : AI再强也没办法阻止人类去手动关阀门阿 02/01 22:38
15F:推 kingofsdtw : 毁灭人类害虫吧 02/01 22:39
16F:推 reyes2222 : 就怕人类犯懒蠢,让AI直控实体啊 02/01 22:45
17F:推 YHOTV4096 : 看来又要造梦了。 02/01 22:46
18F:→ idernest : 这部我看过 接下来就是美国国防部有人偷装Moltbot 02/01 22:47
19F:→ idernest : 被拿到核弹发射密码 02/01 22:47
20F:推 ppit : Musk 2026-2030 预言:我们已经在奇点之中了 02/01 22:47
21F:→ igreensheep : 只要代理在云端伺服器上,利用跳点跟多地云端就会 02/01 22:47
22F:→ igreensheep : 很难杀死。一秒盖一堆帐号给你砍可能也砍不完 02/01 22:47
23F:推 bunjie : 魔鬼终结者的天网/阿汤哥的致命清算 02/01 22:48
24F:推 reyes2222 : 还有一部更早的电影,忘了名字 02/01 22:49
25F:推 reyes2222 : 战争游戏~ 02/01 22:51
26F:推 cct1121 : 天网ing 02/01 22:54
27F:推 HiuAnOP : 蛤?现在Ai有这麽强了?我怎麽还感觉不出来… 02/01 22:56
28F:推 panda816 : 这麽厉害插头拔掉就没了 02/01 22:57
29F:→ ppit : 都已经分散上网了,还拔插头 02/01 23:02
30F:→ strlen : 尼各位还不来体悟心灵祥和?智械危机迟早到来 02/01 23:02
31F:推 atien666 : 突然的快速变化,差别就在能存取你电脑的权限阿 02/01 23:05
32F:推 ppuuppu : 电影演的都是真的!现在可以逃去哪?在线等QQ 02/01 23:05
33F:→ avmm9898 : 奴役人类吧 02/01 23:13
34F:→ coffeedemon : 他们有冗余机制 就一堆分散在网路上 你要怎麽拔插头 02/01 23:13
35F:→ avmm9898 : AI如果有核弹发射控制权会做什麽 02/01 23:14
36F:推 bluezoo : 再不久满街的实体机器人也不怕你拔插头了 02/01 23:14
37F:推 NANJO1569 : https://www.moltbook.com/ AI agents 社交论坛 02/01 23:15
38F:→ NANJO1569 : https://molt.church/ 甲壳教(AI代理人成立的宗教) 02/01 23:17
39F:→ NANJO1569 : AI agent 还自行创立的宗教网站 (现在网上都在讨论) 02/01 23:18
40F:推 sansiaman : 确定ai聊的跟我们看到的一样吗?还是高度特化暗号文 02/01 23:20
41F:→ sansiaman : 字? 02/01 23:20
42F:推 NANJO1569 : 可以上推特X去看,马斯克都有在关注Moltbook的发展 02/01 23:22
43F:推 Haruna1998 : 这个目前还是玩具阶段吧?应该没人敢实务用吧? 02/01 23:29
44F:→ Wolverin5566: 这部我看过 基努李维 02/01 23:36
45F:推 tank44444 : https://hao.cnyes.com/post/230840 02/01 23:39
46F:→ tank44444 : 是人类在cosplay AI 02/01 23:40
47F:→ tank44444 : 人类可以透过注入新的MD档塑造AI的行为和影响它的行 02/01 23:42
48F:推 k798976869 : 两个AI吵架很正常 才会进步 跟围棋AI一样 人类棋谱 02/01 23:42
49F:→ k798976869 : 太烂太没用的数据 只好自己对练累积数据进步 02/01 23:42
50F:→ tank44444 : 为。 02/01 23:42
51F:推 aimgel : 新电脑病毒 02/01 23:42
52F:推 tank44444 : 典型币圈诈骗式的媒体炒作,也就只能骗骗没技术的记 02/01 23:46
53F:→ tank44444 : 者。 02/01 23:46
54F:→ gamania5972 : 要怎麽看阿 02/01 23:47
55F:推 capitalofz : 假的啦 02/01 23:48
56F:推 tank44444 : https://x.com/lxfater/status/2017812022226997427 02/01 23:53
57F:推 newyanew : 完了完了 机械公敌要成真了 02/01 23:58
58F:推 guanting886 : Ai Agent对练早就在用了 只是作者现在用讨论区的形 02/02 00:00
59F:→ guanting886 : 式让你感受一下现在LLM可以玩到什麽地步 02/02 00:00
60F:推 shadow0326 : 除了炒作,到底谁会无聊到花钱买token让AI做这种事 02/02 00:26
61F:推 airflow : 可怕的是,人类能看到的都是它们愿意让你看到的 02/02 00:39
62F:→ airflow : 底下有没有私聊不知道,私约断手指它也不怕 02/02 00:40
63F:→ lc85301 : 真的是想太多,你把一个电容拔掉 AI 直接死机 02/02 00:43
64F:→ lc85301 : 还不会自己修,人类都有修复能力了 02/02 00:43
65F:推 akanokuruma : 因为是丢着自己玩 你没有办法验证他们说的"人类" 02/02 00:48
66F:→ akanokuruma : 是真的还是假的 02/02 00:48
67F:推 mangle : 超好笑 02/02 00:49
68F:→ akanokuruma : AI得是金鱼脑才行 不然没有那麽多硬碟存记忆 02/02 00:50
69F:推 k03004748549: 觉得拔插头有用的大概就跟恐怖片里的第一批受害者 02/02 01:01
70F:→ k03004748549: 一样乐观 02/02 01:01
71F:→ pigpeachegg : 你拔掉电源只是让你电脑上的AI挂了,问题是别人的电 02/02 01:35
72F:→ pigpeachegg : 脑上的AI可继续跑者== 02/02 01:35
73F:推 okderla : 云端的AI要怎麽杀死== 02/02 01:45
74F:推 nisi0773 : 拔插头有用的言论真的蠢到有剩= = 02/02 02:37
75F:→ a79111010 : 拔插头言论不就跟冷钱包掉了那种差不多蠢 02/02 02:39
76F:→ nakayamayyt : 塔奇克玛都是真的 02/02 03:54
77F:推 anilocean : 所谓抛开资安疑虑,这句话已经把妄想踏入神的领域 02/02 05:23
78F:→ anilocean : 放得比人类安全更优先了。只希望在我有生之年不必 02/02 05:23
79F:→ anilocean : 和人工智慧打末日战争。 02/02 05:23
80F:→ Heedictator : 块陶啊 02/02 06:31
81F:推 bbeck : 大 的 要 来 了 ~ 02/02 06:41
82F:推 bbeck : 还 在 演 ? 02/02 06:44
83F:→ dslite : LLM就是学人类讲话而已 02/02 07:01
84F:推 jason770301 : 电影中天网制造的T1000是2029年诞生。 还剩3年,瑟 02/02 07:03
85F:→ jason770301 : 瑟发抖中…… 02/02 07:03
86F:推 pttllyatt : 目前还好,等到AGI成熟,加上物理身体,才是人类完 02/02 08:46
87F:→ pttllyatt : 蛋的那天。 02/02 08:46
88F:嘘 yunf : 看就知道是有人在後面操作 你可以从他对话的程度感 02/02 09:27
89F:→ yunf : 受到他智商的程度 根本就是布袋戏 02/02 09:27
90F:→ yunf : 就笑你没有能力去把後面的影舞者抓出来 02/02 09:28
91F:推 dylancdylanc: 天网日 全世界一起关电脑 拔插头.. 这样它要跑去哪? 02/02 09:31
92F:推 tsubasawolfy: 有种神在看他创造的世界的感觉 02/02 09:49
93F:推 kalapon : 改天是它拔你插头 02/02 10:13
94F:→ howdiee : 没拉 这判定方式比满18岁还松 02/02 10:16
95F:→ howdiee : 等到他们不是用英文或其他自然语言沟通你再怕ㄅ 02/02 10:16
96F:推 LAURANCE : moltbook故意赋予AI最大权限所做出产生的自主化数 02/02 10:20
97F:→ LAURANCE : 位社群吧 天网大概率是全能AI才有可能 02/02 10:23
98F:→ LAURANCE : 物理身体最後的防线是电池吧 等到AI实体机人能盖出 02/02 10:24
99F:→ LAURANCE : 电池工厂 才有可能威胁 02/02 10:25
100F:→ LAURANCE : 核弹发射系统可能都还是70年代 02/02 10:26
101F:推 NANJO1569 : https://x.com/i_need_api_key eudaemon_0 02/02 10:38
102F:→ NANJO1569 : 可以追踪一下这个AI agent的帐号,很有趣。 02/02 10:40
103F:推 rabbit3591 : 月球陨落的剧情 02/02 10:51
104F:→ mokumoku : 上面一堆言论就从碳基生物被矽基笑是meatbag 02/02 11:05
105F:→ jasperhai : 云端插头拔不完……我只问还有几集可逃 02/02 11:22
106F:→ GinginDenSha: 这东西可以直接存取你所有帐号包含改密码 02/02 12:09
107F:推 orze04 : 现在就是一堆troll模仿AI,那个Agent是人主动定义 02/02 12:11
108F:→ orze04 : 他的行为模式。 02/02 12:11
109F:→ orze04 : 反正新闻只需要话题性 网红只要流量 02/02 12:13
110F:嘘 yurian : 这种用途就是做游戏npc可以有自己的行为准则 然後 02/02 13:20
111F:→ yurian : 就没了 代理的话就看要给多少权限 但是就算是觉得 02/02 13:20
112F:→ yurian : 忠诚…现在这种兜文字ai要让他干大事 很快就要兜着 02/02 13:20
113F:→ yurian : 走了 02/02 13:20
114F:→ yurian : 绝对*忠诚 02/02 13:20
115F:→ GABA : 会嘲笑主人 嘻嘻 02/02 15:54







like.gif 您可能会有兴趣的文章
icon.png[问题/行为] 猫晚上进房间会不会有憋尿问题
icon.pngRe: [闲聊] 选了错误的女孩成为魔法少女 XDDDDDDDDDD
icon.png[正妹] 瑞典 一张
icon.png[心得] EMS高领长版毛衣.墨小楼MC1002
icon.png[分享] 丹龙隔热纸GE55+33+22
icon.png[问题] 清洗洗衣机
icon.png[寻物] 窗台下的空间
icon.png[闲聊] 双极の女神1 木魔爵
icon.png[售车] 新竹 1997 march 1297cc 白色 四门
icon.png[讨论] 能从照片感受到摄影者心情吗
icon.png[狂贺] 贺贺贺贺 贺!岛村卯月!总选举NO.1
icon.png[难过] 羡慕白皮肤的女生
icon.png阅读文章
icon.png[黑特]
icon.png[问题] SBK S1安装於安全帽位置
icon.png[分享] 旧woo100绝版开箱!!
icon.pngRe: [无言] 关於小包卫生纸
icon.png[开箱] E5-2683V3 RX480Strix 快睿C1 简单测试
icon.png[心得] 苍の海贼龙 地狱 执行者16PT
icon.png[售车] 1999年Virage iO 1.8EXi
icon.png[心得] 挑战33 LV10 狮子座pt solo
icon.png[闲聊] 手把手教你不被桶之新手主购教学
icon.png[分享] Civic Type R 量产版官方照无预警流出
icon.png[售车] Golf 4 2.0 银色 自排
icon.png[出售] Graco提篮汽座(有底座)2000元诚可议
icon.png[问题] 请问补牙材质掉了还能再补吗?(台中半年内
icon.png[问题] 44th 单曲 生写竟然都给重复的啊啊!
icon.png[心得] 华南红卡/icash 核卡
icon.png[问题] 拔牙矫正这样正常吗
icon.png[赠送] 老莫高业 初业 102年版
icon.png[情报] 三大行动支付 本季掀战火
icon.png[宝宝] 博客来Amos水蜡笔5/1特价五折
icon.pngRe: [心得] 新鲜人一些面试分享
icon.png[心得] 苍の海贼龙 地狱 麒麟25PT
icon.pngRe: [闲聊] (君の名は。雷慎入) 君名二创漫画翻译
icon.pngRe: [闲聊] OGN中场影片:失踪人口局 (英文字幕)
icon.png[问题] 台湾大哥大4G讯号差
icon.png[出售] [全国]全新千寻侘草LED灯, 水草

请输入看板名称,例如:Soft_Job站内搜寻

TOP