Digital Vocal Avatar AI prototype 001. 启动十分钟後，程式损毁，原因不明。 Digital Vocal AvatarAI prototype 002. 初步排除硬体故障，十五分钟内模拟程序中断超过三十次。 人格、会话机能逐步丧失，原因不明。 Digital Vocal AvatarAI prototype 004. 尝试改写函式库与人格呼叫流程後再运行，三十分後执行绪崩溃。 核心套件不明原因过载，程式码毁损超过容错值，试验暂时告终。 Digital Vocal AvatarAI prototype 009. 程式损毁，原因不明。 运作时间三十九分钟。 Digital Vocal AvatarAI prototype 021. 程式损毁，原因不明。 Digital Vocal AvatarAI prototype 035. 程式损毁，原因不明。 至今为止AI运作时间不超过四十五分钟 …… Digital Vocal AvatarAI prototype 038. 前述原型程式全数因不明原因毁损，运作失败。 计画领导人皆藤博士，於机房即时监控运作仍然无效。 核心机能「环境认知」与「自我存在确认」运作後AI即无法沟通，随即损毁。 Digital Vocal AvatarAI prototype 039. 仿生机械素体测试正常，皆藤博士决定直接将AI测试从电脑模拟转进实际运作。 实机测试方式为模拟情境，将事先设定好的记忆输入後，与工作人员进行生活片段模拟。 测试前一周顺利通过，AI相当确认自己为普通人类，并与周遭人员互动良好。 然而当测试结束後，AI的人工记忆出现异常，人格区出现错误回圈。 最後AI带着素体从四楼的高度坠落，并在机身半毁但部份元件仍正常运作的情况下 爬行至高压电箱，触摸强烈电流致使组件全毁。 「这件事在当时的学界，可是相当轰动的呢……」 明子用相当平静的态度，把事件缓缓道来。 然而，在昏暗的研究室里， 周遭LED灯号与电脑萤幕的光源交错，在明子的脸上留下不安定的光影。 「轰动到人工智慧研究协会召开公听会，把皆藤抓去面对大众与媒体的质疑。」 「那个AI认为自己是真正的人类吗？」 「皆藤是这麽设定的没错，他的AI几乎完整模拟了人类的精神运作模式， 所以他坚持自己的AI是完美的。」 明子一边回答，一边感叹。 事实上，皆藤的AI设计灵感，来自於明子当年的一篇论文。 她将人脑运作时的生物电流成功解析，本来的目的是要将解析出来的讯号电子数位化，并 得以控制电子义肢甚至器官等。 这在上个世纪原本是只能简单控制开关的技术，而且有许多瓶颈存在。 然而皆藤从中看出了大脑讯号的模糊交换模式，并将这个概念用在AI的开发上。 「完美……吗？」 未来眼中光芒闪烁。 「当他在公听会上这样说的时候，还招来在场民间人士的强烈反对， 说『这是对神的亵渎』……」 说到这边，明子冷不住轻笑了一声，冷冷地、有点嘲讽地，然後继续说： 「结果皆藤大声回骂『神不过是人参考自己的形象创造出来的东西， 所以连人类的无能都一并继承了吧』，呵。」 「完美到选择自我毁灭的AI……吗？」 「这个事件凸显了皆藤的AI存在相当大的争议， 其一是AI否定了自身的存在，其二是AI学会了『谎言』。」 「谎言？」 「对，谎言，不真实，与事实相反的语言。 会这麽说是因为AI坠楼之前，曾被当班的工作人员询问目的地， AI回答说要去找皆藤，实际上却是走到楼顶，并且还破坏了边缘的围栏， 可见决心相当坚定。」 「未来不明白AI为什麽要这麽做，明子知道吗？」 「其实……」 明子停顿并思索了一下。 「皆藤他们找不出原因，但在我的角度来说，这很明显是『精神分裂』的症状。」 「精神分裂？」 「因为强烈的自我否定而导致出现攻击性甚至自我毁灭的行为， 人类特有的精神障碍之一。」 「人类特有的症状也会发生在AI上？」 「事实上，也只有皆藤的AI会。 在公听会上时，我的论点刚开始还不被接受呢。」 说到这里，明子拨弄了一下耳边的发丝，喃喃说： 「只是没想到会是用这种方式，证明皆藤AI的价值与能力啊……」 「那是……什麽样的『感觉』呢？」 「我想，大概是AI与机械素体能力的强烈落差吧。 测试用的机体跟未来你现在的身体机能差很多， 除了基本的行动与对话能力外，其他的感官如触觉、味觉是完全没有的， 就好像……」 明子停了一下，她不确定自己的比喻未来是否能明白。 「就好像皆藤站在你面前，你知道只要手稍微一举就能碰到，但手就是动弹不得。」 「但是，AI一开始却没有发现这点？」 「这就跟『做梦』很像。人类在做梦的当下很难察觉到自己正在作梦， 但在醒来之後才会发现里头的一切充满荒谬与冲突。 於是当发现自我的重大缺陷、却又不能接受的时候，就只能选择自灭了。」 「这就是，博士给我这颗心脏的原因吗？」 「坦白说……我不知道……」 明子的眼神迷蒙了起来。 她想起了皆藤要求她取出心脏的那天， 他眼神中那强烈的狂气、深深的疲惫、以及像是要哭泣的恐惧。 「也许……当初我不该答应他的……」明子低语。 为什麽总是不能拒绝皆藤呢？从手术後的那天起，明子一直这样问自己。 「所以AI选择了销毁自己的存在，明子称这个为『自杀』对吗？」 「我想，这应该是最贴切的形容吧，在公听会共识出来後， 大家一致认为，如果皆藤的AI真的等同於人类， 那麽这个实验，不是跟逼死一个活生生的人类一样吗？」 事实上，在那场公听会结束後，协会颁布了一个AI设计公约： 1.AI不得具备成为人类﹑或是认定自身为人类的认知机能。 2.AI不得说谎。 3.AI必须保护自己的存在。 这个公约某种程度对人类创造事物的道德界线做出了限定。 虽然很像流传已久的「机械人三原则」，但这并非全然出於道德考量。 一方面为了避免出现类似的AI失控事件，阻止舆论谴责。 一方面降低风险与随之出现的成本考量。 更重要的，是对皆藤这样太过激进的开发者进行箝制。 「所以，未来不能认为自己是人类，不然会有一样的结果，对吗？」 未来淡淡地问，不知道是否是明子的错觉，未来的脸上，彷佛带着些许落寞： 「博士说，未来无法取代琉香，博士很难过。 而未来不能是人类，所以博士不喜欢未来？」 「你……」 明子瞪大了双眼盯着这个十分钟前心智应该还只是婴儿的人工少女，想起了皆藤。 能够写出这麽贴近人心的AI的天才，却如此不了解人心，这究竟是什麽样的讽刺？ 「不，那家伙其实不喜欢的……也许是自己也说不定……」 沉默，在两人之间降临了片刻。 「那麽，那些开发中损毁的AI，博士是否找出原因了？」 未来像是想起了什麽，突然开口发问。 「其实没有，目前只能推测是AI与硬体有某种程度的冲突吧。」 明子搔了搔头，目光看到了未来手中那罐只喝了一口的咖啡。 「未来，如果不喝的话，咖啡可以给我吗？」 「啊……」 听到明子的要求，未来这才发现到自己手中已经拿很久的咖啡。 「对不起，明子，你有说过咖啡要冰的才好喝……」 未来一边道歉一边站起身，将罐装咖啡递给了明子。 看着朝自己伸过来的那双纤细的手，明子接过咖啡时，忍不住顺手抚摸了一下。 「好冰冷……」明子心中感慨，不自觉地握住未来的手。 「你并不需要道歉……」明子将本要说出的话给吞了回去。 看到拿着咖啡的未来，心中直觉认为再这样下去咖啡会被手温弄暖。 但其实未来并不是人类，而在刚刚，明子忽略了这个事实。 恐怕未来现在依旧遵照设定，将自己认定为与人类相异的物种。 现在如此，以後也将这样下去。 未来的AI，不会犯这种认知上的错误，人类也不希望AI犯错。 会有认知上错误的，只有人类。 然而，当AI开始趋近於人类，是否也表示AI开始接近错误？ 「明子？」 被明子握住双手的未来，无法理解明子的行为。 「你……觉得这一切都是错误的吗？所以选择了沉默？」 明子没有任何回应，只是在心中不断地谪问。 她盯着未来胸口的心脏，那本不该属於未来的、甚至……「不该属於皆藤」的人类心脏。 看着不发一语的明子，未来本来想开口说些什麽，却在瞬间顿了一下。 那是相当复杂的表情，那是未来难以理解的表情。 但是在那瞬间，未来将眼前的明子，与刚刚的博士重叠在一起。 未来那尚未完全运作的触觉机能，感受到明子的体温。 明子的手微微颤抖，那频率化作细碎的电波，在未来的脑中画出复杂的波形。 那是，一种「抽象」的图案，未来感到熟悉，却在记忆体中遍寻不着的图案。 所谓抽象，并非无法理解的事物。而是其内含的情报量，远超过人类语言表达的范围。 未来正式启用以及诞生，不过短短的数十分钟， 在这段期间内，未来找不到相符合的情报。 熟悉、但却没有记忆，那麽，排除种种的因素，只剩下一个区段可以搜索…… 「明子……」 「嗯？」 「博士之前开发的，那些毁损的AI……」 「原因不明的那些吗？」 未来的双目，光芒闪烁。 「未来……也许知道原因……」 -- 唔……剧情依旧没有什麽进展(被打) 角色好像开始脱离自己的控制了 虽说控制本身是一种很愚蠢的行为就是 但是……这个Vocaloid到底要不要唱歌啊(喂喂喂喂) -- -- 回忆，总在孤寂时最鲜明... http://www.plurk.com/NanaseBard ～吟游诗人的黑沙庭院 --

※ 发信站: 批踢踢实业坊(ptt.cc) ◆ From: 101.160.197.184