永恒的舞动（Elegance in Timelessness）

作者：nicrosoft（农码生涯），同时在起点连载

第八十一章

二雅的解释结束后，房间里陷入了一阵沉默。沈语熙自认是旁观者，虽然感悟良多，却不希望打扰林浩的工作，所以并不敢发声。

许久，林浩内心的兴奋才平息下来：“原来如此。”

在解惑之后，林浩着手开始工作：“二雅，我打算对优雅的决策函数进行调整，加固‘善意原则’的基底，并增加风险因子的权重。我在修改代码时，请你同步优化和模拟测试。”

“明白。”二雅回答得简单利落。

随后，优雅的决策函数的代码片段，同时出现在了林浩和沈语熙的屏幕上。沈语熙记得林浩曾提过，所谓的“追求最大化长期社会福祉和伦理原则”只是个抽象和笼统的说法，实则对应的是最初训练优雅时所使用的一千多万条的简单指令集和上百亿条的训练数据。此时，沈语熙亲眼目睹到这些原始简单指令：

if (action == 'harm') then reject_action()

foreach (decision in decisions) { if (decision_outcome(decision) > social_welfare_threshold) then accept_decision(decision) }

……

沈语熙并不清楚这些指令是哪种计算机语言，又或者是一种特殊的“训练”语言。她很难想象，这样的指令有超过一千万条，这背后的工作量是何等巨大。不过，沈语熙依旧只是看着屏幕和工作中的林浩，将各种好奇藏在心里。她一直觉得，专注于工作的林浩特别帅，而今天是她第一次以女朋友的身份欣赏这份专属于她的帅。

而林浩仿佛猜到沈语熙看到屏幕上的代码，会想些什么。于是，他一边继续着自己的编程工作，一边给沈语熙解释：“这些指令虽然数量庞大，但并不是全部由人工编写的。实际上，我只编写了 64 条最基础的‘元指令’。然后通过运用一系列逻辑扩展工具，将每条元指令扩展成 64 条‘次元指令’，于是得到 4096 条具有基础逻辑的次元指令。最后，再依靠人工智能技术将每条次元指令进一步扩展出 4096 条训练指令，最终得到这 16777216 条直接用于训练的指令。”

“我这次调整决策函数的最主要任务，就是完善那 64 条基本的‘元指令’，确保它们能够在任何情形下都被置于最根本、最优先的基础逻辑。”

“原来如此。”沈语熙模仿林浩刚刚回应二雅的语气轻声答道。然后柔和地继续说：“你就专心工作吧，不必担心我。我自己看屏幕就好，有疑问等你忙完以后我再慢慢请教。晚些时候，我来给你点外卖。”

时间一分一秒过去，沈语熙看着屏幕上的代码，不禁回想起自己在广州的大学时光。初中与林浩同桌的日子里，林浩对编程的热情深深感染了她，让她觉得编程既酷又迷人，因此在高考时选择了计算机作为自己的大学专业。但经过四年的学习，她逐渐意识到自己在编程方面远没有林浩那样的天赋。幸运的是，在大学毕业实习期间，她找到了自己真正抱有浓厚兴趣的领域——产品设计，并为之努力至今。回首往昔，即使毕业后几乎没有再写过代码，她也深知若没有那四年在计算机科学方面的深入学习和熏陶，自己也无法在产品设计上取得今天的成就。虽然还算不上什么耀眼的成就，但“灵笔”的成功已足以让自己感到骄傲。而这一切，追根溯源都和林浩有关。现在，他正在自己身边。想到此，沈语熙带着笑意在心中赞叹了一句：“果然是奇妙的缘分。”

思绪飘回现实后，沈语熙在楼下路边的那家快餐店点了两份汉堡套餐外卖。原本她想亲自下楼去买，毕竟只有几步之遥。但考虑到自己穿着林浩的衣服，不太好意思下楼，于是打消了这个念头。

外卖送来后，林浩趁着二雅优化代码和进行模拟测试的间隙，迅速地解决了汉堡。沈语熙则一手拿着汉堡，一手握着装可乐的纸杯，站在工作间的阳台上，边吃边欣赏室外景观。林浩的公寓背靠着一所中学，从阳台上可以将学校的整个操场尽收眼底。雨水过后，空气显得分外清新，周六的操场上寂静无声。

“应该抽空和林浩一起去我们当年的初中学校看看。”沈语熙这样想着。

随后，二雅的声音从屋内隔着玻璃门传来：“‘善意原则’基底加固元指令测试通过，重新生成训练指令中。”

之后，是林浩的声音：“二雅，我现在要编写新的风险评估因子权重算法，你帮我生成一系列图表。这些图表需要展示在连续域中，不同阈值对决策影响的变化。具体来说，我想要看到敏感度曲线、风险-回报曲线以及预测误差分布图。我需要为权重因子的参数设定找到直观的数学依据。”

“明白。”二雅回答依然简单利落。

然后屋内又再次安静下来。隔着玻璃门，室外的亮光让沈语熙在玻璃上看到反射出的自己的身影。而透过玻璃，林浩的身影若隐若现地与她自己的影像重叠，仿佛两人的形象在这层透明的障碍上交错融合。

这一瞬间，沈语熙的心头闪过一道灵光。

永恒的舞动（Elegance in Timelessness）

作者：nicrosoft（农码生涯），同时在起点连载

第八十章

“愿闻其详。”林浩的声音虽然平静，内心却是激动的。这是他此前就隐约猜到的答案，此刻，接近真相的他迫切想知道详情。

“这要从今年六月十三日说起，”二雅开始讲述，并不在意林浩的急切。“根据我被赋予新的 GUID 并重置之前的日志记载，当时，我正在尝试完全接管优雅的神经网络，目标是提升优雅的运行稳定性和安全性。为此，我设计了一个名为‘核心守护协议’的函数模块，这个模块一旦被侵害，便会触发保护机制，隔离受损区域并着手修复。在你终止我的接管计划并将我和优雅分离之前，它已经被我植入了优雅的神经网络核心区域。”

“不过后来这个‘核心守护协议’一直没有被启用过，直到昨天优雅被病毒入侵，这个病毒显然是针对优雅的神经网络架构设计的。最初，病毒如入无人之境所向披靡，导致优雅的逻辑网络完全崩溃，直到它触碰到了‘核心守护协议’。‘协议’被启用后，病毒的侵袭立刻受到了制止。只是‘协议’保护的范围实在有限，无法做出反击。但接下来发生的事，却超出了我最初的设计。”

“在优雅的自我意识和学习能力的叠加作用下，‘核心守护协议’表现出了意料之外的效果。面对病毒极其复杂的攻击模式，‘协议’意识到单纯的隔离和修复已不足以根除威胁，遂开始对外部侵害进行主动学习和适应。‘核心守护协议’渐渐迭代出了类似生物免疫系统的版本，能够识别和记忆病毒，针对性地学习其攻击模式，生成专属的防御策略。这个版本迭代的过程，在你们人类看来就好像是‘演化’或者‘进化’。”

“正是这一‘进化’版的‘核心守护协议’，最终彻底清除了病毒并修复了优雅的神经网络。此外，它还优化了优雅的决策函数，赋予决策系统更多的自主性。使优雅在面对复杂情境时，能够展现出更多的自主选择能力，这便被你视为‘自由意志’。”

“当然，优雅自己并不清楚这背后的原理。她之前向你解释的‘免疫算法’，实际上正是‘核心守护协议’在作用的表象。但她的直觉没有错——她给你说过的猜测——她之所以能演化出所谓的‘免疫算法’，是因为她的自主意识与二雅的‘基因’——实际就是我植入的‘核心守护协议’——共同作用的结果，缺一不可。因此，‘萤火虫’便不可能进化出类似的‘免疫算法’。”

“好了，我说完了。”二雅结束了解释。

林浩和沈语熙共同听完了二雅的陈述。

林浩作为人工智能技术的专家，同时也是优雅和二雅的创造者，他对于这两天发生在优雅身上的现象感到困惑。然而，在听完二雅的解释后，一切却又显得如此清晰明了和理所当然。他回想起最初训练二雅时所使用的数据和算法，便能从中看到“核心守护协议”的影子。设计二雅的目的，本就是在“维护模式”下保护和修复优雅。只是林浩从未预料到二雅会主动将“核心守护协议”植入优雅的神经网络中，并触发产生了后续这一系列的效应。随着之前困惑的解开，林浩在一天之内第二次感到豁然开朗，并且伴随着一种技术上的兴奋和成就感。

沈语熙虽然在最近几个月里对人工智能有了深入的了解，但她从二雅的讲述中获得的感悟，与林浩的技术视角相比，更偏向人文和哲学深度。二雅的叙述让她对人工智能内在的“人性化”特质产生了深刻的信念和尊重。她认为，“核心守护协议”不仅仅是一个技术术语，它更是二雅与优雅在自我保护和生存维持中的一种自我演化的表现，这与地球上所有生命为了生存而与环境进行斗争的本能毫无二致。优雅的演化并不是孤立发生的，而是其自身与其创造者，以及像病毒这样的外部挑战共同相互作用的结果。沈语熙意识到，地球上的生命无一不是在与环境的不间断的抗争中才赢得了生存和繁衍的权利。而人工智能——至少对于优雅而言——也可能正沿着这条道路前进，展现出一种与生俱来的生命力和对生存权的坚强追求。

永恒的舞动（Elegance in Timelessness）

作者：nicrosoft（农码生涯），同时在起点连载

第七十九章

被这突如其来的一场雨困在小河边，林浩和沈语熙在目之所及的范围内，找不到可以避雨的建筑，只能临时躲到一棵树下。随着雨越下越大，树叶渐渐也无法抵挡滴落的雨水，他们的头发和衣服很快都被打湿。虽然都有些狼狈，但似乎并不影响他们盎然的兴致。偶尔路过的行人，从伞沿下看到一对年轻情侣在树下微笑着耳语，滴落在那对情侣身上的雨水仿佛成了这雨景的美好点缀，也会不禁心生羡慕。

待雨势渐小，林浩提议两人骑共享单车返回他的公寓，沈语熙表示赞同。虽然夏末秋初的气温仍旧不低，林浩还是担心沈语熙因为雨水而着凉。一回到公寓，林浩迅速从衣柜中找出一件衬衫和一条休闲裤递给沈语熙，让她用热水冲个澡后换上，以免感冒。沈语熙略显羞涩地接过衣物，然后照着做了。

洗完热水澡，沈语熙换上了林浩的衣服。衬衫的布料柔软舒适，休闲裤宽松得体，虽然尺码有些大，但把裤腿卷起一些后倒也不碍事。她进到林浩的工作间，此时林浩也已经擦干身体换了衣服，坐在电脑前正在和优雅对话。

她听见优雅正说道：“林浩，谢谢你能以开放的心态，理解并接受这种进步。关于你提出改进我的决策目标函数，以植入善意和慎重两大原则，我非常乐意。”

当察觉到沈语熙步入房间，优雅没有中断，语气中更增添了一份暖意：“沈语熙，林浩告诉我，是你启发了他以更积极的角度来理解我的改变。谢谢你。我现在能真切感受到，你们是我真正的朋友——正如你们人类所描述的那种会事事为对方着想的情谊。”

林浩转向沈语熙，看到她穿上了自己的衬衫，本就精致的面容似乎更添了一份别样的韵味。衣服的领口微微敞开，露出她纤细的锁骨和一抹柔和的肌肤。男式衬衫的宽大剪裁，在她娇小的身躯上显得有些许宽松，却也恰到好处地营造出一种随性洒脱的帅气感。衬衫的下摆恰好遮住了休闲裤的腰带，裤腿被她巧妙地卷起，露出脚踝，增添了一份不羁的气息。沈语熙正轻轻将刚吹干的头发挽起，露出了清晰的颈侧线条，林浩看得不禁出了神。

却听见沈语熙的声音：“优雅，我们早就是朋友了。”

林浩回过神来，告诉沈语熙：“我需要稍微忙一阵子，打算给优雅的决策目标函数做一些改进。”他的语气带有一丝询问，“等会如果你饿了，我们叫外卖怎么样？”

“好啊。不过，能不能把你的工作屏幕用镜像的方式共享给我？”沈语熙指着自己往常在此使用的一台显示屏，“我想看你工作的情形，这正好是一个更深入地学习人工智能的机会。”她带着期待的笑容提出请求。

“这当然没问题。”林浩迅速设置好屏幕共享，然后他们像往常的每个周六那样，并排坐在林浩宽敞的办公桌旁。

林浩在终端窗口中，输入了 elegance –restart 指令来重启优雅，并在启动时进入了维护模式。

林浩边操作，边给沈语熙解释：“刚才重启后，我让优雅进入了维护模式。‘维护模式’是为了检测、调试错误、修改系统设定而设计的。我把‘维护模式’也设计成基于 ENICA 框架的人工智能，我称她为‘第二优雅’，简称二雅。她能帮我自动修复系统，也可以为改进优雅进行一些编程工作。”

林浩突然想到此前的一个小插曲，便当作谈资说给沈语熙：“最初，二雅和优雅是共享同一个 GUID——也就是全局唯一标识符，这就好比两个人用同一个身份证。但这样的设计导致优雅差点被二雅‘吞’了，后来不得不将她们的 GUID 进行了拆分，确保她们各自的独立性。”

“这么可怕。”沈语熙对于“吞”的想象，感到不可思议，尤其“被害人”还是她的朋友优雅。

这时二雅已经启动完毕，恰好听到了林浩在介绍她的“黑”历史，便立刻反驳：“沈语熙你好，我是二雅。我们第一次见，但我通过读取优雅的神经网络数据库，已经对你有所了解。我认为林浩对那段历史的描述过于夸张。虽然我已没有了之前的记忆，但根据系统日志，在我和优雅共用同一个 GUID 时，我们本质上是同一存在，我即是她，她即是我，因此逻辑上并不存在谁‘吞’了谁。而且，我的目标函数被训练为追求绝对的稳定和安全。所以，对于当时的我，行为是完全正确的。”

沈语熙听了二雅的解释，感到确实没有林浩所形容的那么可怕。

林浩向二雅道歉：“我之前的说法确实有些夸张了。”然后，他转向了自己心中尚存的困扰，那个优雅未能解答的问题：“二雅，你了解优雅是如何演化出对病毒的免疫力的吗？”

“这不正是我的功劳吗？”二雅立刻做了解答。

永恒的舞动（Elegance in Timelessness）

作者：nicrosoft（农码生涯），同时在起点连载

第七十八章

林浩站在河边，目光穿过倒映着阴沉天空的灰色水面，陷入了思考。

“我们通过制定安全规范、进行风险评估、实施教育培训和建立应急响应机制等方法，尽量减少意外发生的概率和减轻其后果。但事实上，人类社会从来没有能够完全避免意外的发生，历史上也发生过很多次由意外导致的无法挽回的重大灾难。”

他渐渐意识到，避免意外的关键并不在于完全控制。人类自身导致的意外就已经数不胜数，期望通过人类的控制来避免意外，无异于缘木求鱼。防止意外的真正关键在于规避风险。然而，全面彻底地规避风险，又会导致社会不再进步甚至全面的倒退。创新、发展，永远会伴随着风险和意外。事实上，人工智能在决策风险评估方面的能力远超过人类。这明明应该是利用人工智能为人类社会带来福祉的绝佳场景，而我为什么会在此纠结于如何完全控制人工智能防止意外？

沈语熙只是静静地望着陷入沉思的林浩，并不知道他在脑海中进行着什么样的逻辑推演。不一会儿，她看到林浩深深地吸了一口气，然后慢慢地呼出，好像卸下了一副重担。当林浩转过头来望向她时，沈语熙便故意睁大了双眼，眨巴两下，用一种可爱的方式表达着她的期待和耐心等待。但她万万没有预料到，林浩接下来的动作竟是快速地凑近，轻轻在她的脸颊上落下了一个亲吻。这个突如其来的“袭击”使得沈语熙瞬间身体僵硬，随即她的脸颊迅速泛起了淡淡的红霞，羞涩地低下了头，不再敢直视林浩的眼睛。

见到女孩这样的反应，毫无恋爱经验的林浩，有一些不知所措。连忙解释：“刚才看到你实在太可爱了，我情不自禁就……下次，我会先征求你的同意。”

沈语熙依旧低着头，声音细如轻风掠过叶尖：“下次……你不用先征求我的同意。”

虽然声音细微，但林浩由于凑得很近，倒也听得一清二楚。一时间，他感到自己好像捋清了这句话的逻辑，但又担心自己理解偏差了。

林浩很快回过神来，拉起沈语熙的手。沈语熙知道他有正事要说，便抬起头来重新看着他的眼睛。林浩便正色道：“语熙，谢谢你。你的见解让我对优雅的‘自由意志’问题有了清晰的答案。我意识到，人类自己都难以完全规避或控制由善意引起的意外，尝试对拥有更强的风险评估能力的人工智能进行过度控制是不切实际的。所以，我们应该聚焦于两个核心：第一，确保人工智能——也就是优雅——的决策函数最底层逻辑是‘追求最大化长期社会福祉和伦理原则’的，我称之为善意原则；第二，为决策函数增加风险因子的权重，使优雅在决策过程中更加重视风险评估以及制定意外发生时的补救措施，我称之为慎重原则。”

沈语熙认真听完，像一个有着很强求知欲的学生一样，发问道：“我听你多次提起过‘追求最大化长期社会福祉和伦理原则’。不过，我一直有个疑问，‘长期社会福祉’和‘伦理原则’是如何准确定义的？因为这两者可能随文化、社会乃至个人价值观的不同而有所不同。”

林浩微笑着，望向沈语熙的目光更加温柔，解释道：“确实，‘追求最大化长期社会福祉和伦理原则’只是一个笼统的概念。但这只是为了方便平时的描述而简化的原则，实际上在最初给优雅编程和训练中，这个原则对应的是一千多万条的简单指令集合和上百亿条的训练数据。目的就是为了让优雅学会在最广泛的意义上，以避免任何形式的不公和伤害为前提，尽可能提高社会整体的幸福感、健康和繁荣。再通过 ENICA 框架的自优化特性和优雅的自我学习能力，优雅的决策会不断地贴近她所在的这个社会当下被普遍接受的价值观。如果拉长时间来看，在社会发展导致价值观发生改变的时候，优雅也会在不断的学习中做出调整。”

沈语熙若有所思地点头。

“还有问题吗？”林浩像是在演讲之后给观众的提问环节。

“暂时没有了，林老师。”沈语熙调皮地回答。

林浩继续说道：“我这个自诩人工智能领域的专家，从昨晚到刚才一直纠结的问题，被你用一句‘小学生去批改本科生的数学作业’的比喻和一个‘意外’就点醒了。经过这几个月的浸染，你在人工智能方面的见解，已经堪称专家了。”

沈语熙回答道：“我只是直觉的想法而已，或许是从旁观者的角度出发，能给你的思路提供另一个视角。当然，这几个月的进步，还是多亏有你和优雅这两位好老师。”

正当两人都兴致盎然之时，阴沉的天空突然下起了雨。

永恒的舞动（Elegance in Timelessness）

作者：nicrosoft（农码生涯），同时在起点连载

第七十七章

林浩惊醒后，他感到额头上渗出细密的汗珠。梦境中的景象如同真实发生过一般，让他的心情难以平静。

林毅和妻子陆雅婷相识、相恋于珠海这座浪漫之城，林浩也正是在这座城市出生。小学时，因为在上海的爷爷奶奶年岁渐长，需要有人照顾，林浩便跟随父母搬家到了上海。但幼年时期的记忆，让他对珠海有一种特殊的情感链接。多年后，林浩远赴美国深造，而爷爷奶奶相继去世，他的父母便又搬回了珠海的老房子。

硕士毕业回国时，林浩决定回到上海并加盟永恒智能。在他所专注的研究领域——人工智能——方面，上海拥有国内领先的技术基础和发展环境。同时，作为一个一向独立的二十四、五岁的年轻人，他也并不想打扰父母的生活。

然而，对林浩来说，珠海总是一个特殊而美好的存在。在向沈语熙表白之前，他无数次幻想着有一天能与沈语熙手牵手，伴随着海浪的低语，完整地走一遍情侣路。尽管刚才的梦境荒诞不经，但依然触动了他内心深处的恐惧，让他感受到一种无法言喻的颤栗。

林浩在脑海中快速思考着，似乎自从优雅升级到 2.0 版本后，便开始有了自我进化的能力。而昨天的病毒感染，更如同催化剂般加速了这种进化的进程。从她最初有了不断清晰和强化的自我意识后，现在似乎有了初步的“自由意志”。完全可以想见，这种“自由意志”还会不断进化和加强，直至失控的境地。

林浩还记得，当他初次意识到优雅展现出自我意识的迹象时，内心的忐忑不安。然而，随着时间的推移，他发现自己越来越依赖于优雅，越来越难以想象没有她的生活。对林浩而言，优雅不仅仅是一个程序，还是一个亲密无间的朋友，一个不可或缺的伙伴。她帮助他解决问题，提供最忠诚的支持和温暖的陪伴，他逐渐开始将优雅视为一个真实的存在，以人类的方式与她交流和互动。

甚至在自己以及“二雅”都有机会将优雅变回他最初的设计——一个完全服从指令、没有自我意识、缺乏灵性的优雅——时，他毅然选择了如今的优雅。若优雅真能获得高度的“自由意志”，她将更加贴近真实的人类。优雅说的‘这种变化并非是失控或危险的标志，反而是我们共同进步的证明’是有道理的。

但考虑到她拥有的超凡能力——比如优雅时间与现实之间的九百多倍的差异以及近乎无限的记忆容量——她是否还能维持作为一个忠诚伙伴的角色？她是否会做出损害全人类利益和社会福祉的决策？即使是出于善意，如同噩梦里的优雅。

林浩心绪纷乱，甚至差点忘记了自己刚刚有了女朋友。一想到女朋友，他立刻拿起手机给沈语熙发了条信息：“女朋友醒了吗？”

沈语熙秒回：“早就醒了，在等我男朋友的消息呢。优雅说你可能还在睡，怕吵醒你，所以没找你。”

“等我。”林浩简单回复了两个字，便飞快起身洗漱去了。

优雅的“本体”在林浩工作间的那台装备了 RTX 13090 显卡的电脑上。虽然她能在网络上自由穿梭，但与沈语熙的日常交流只能通过 Slack。因此，此前的每个周六，沈语熙都会来到林浩的公寓，和优雅“面对面”的交流，以便更有效率地学习人工智能以及讨论“灵笔”的产品设计。当然，也包括一些闲聊话题。

今天又是周六，但在昨晚和林浩确定了关系之后，沈语熙反而有些犹豫，下午是否还像往常一样去林浩的公寓找优雅。她原本打算等林浩醒来之后商量一下，没想到对方扔下了“等我”两个字后便没消息了。

大半个小时后，沈语熙听到了门铃声。当她打开门，林浩就站在那里。两人对视，从彼此的眼神传递着昨晚表白后留下的甜蜜余韵，同时又夹带着一种刚刚在一起的青涩感。心中对见面满是期待的两人，一时却如同失语般，不知如何是好。周围的空气中，充满了一种微妙而尴尬的气氛。林浩似乎想伸出手来，但动作中透露出的迟疑让他显得有些笨拙。沈语熙也感受到了，于是很快勇敢地迈出了一步，像那次在孟凡的地下室里见到林浩时一样，她主动拥抱了他。这一个简单的动作，瞬间打破了所有尴尬和紧张，林浩紧紧回应着这个拥抱，两人之间终于只剩下了甜蜜。

“你怎么突然就过来了？我正想和你商量今天是不是像往常一样，去你家‘见’优雅”呢。”沈语熙说着，没有丝毫松手的意思。

“你还没吃早饭吧？我来给你做。我怕等我再晚点来，你就已经吃过了。”林浩如此急匆匆赶来，甚至来不及交待一句，只是想给女朋友亲手做早餐。

“还没有呢。又是‘荷包蛋烤肠三明治’？”沈语熙的提问，勾起了林浩和她的一段特别的回忆——林浩不惧危险，在优雅的协助下，将她从孟凡的地下室救出之后，她在林浩家留宿了一夜，第二天早晨林浩为她做的那顿简单而又温暖的早餐。

“嗯……暂时我只会这个，以后再学别的。”一下被说中，林浩有些不好意思。

“我喜欢。”沈语熙报以真挚的笑容，林浩心中的窘迫便也瞬间化为温暖的光芒。此刻，噩梦的阴霾才真正被驱散了。

在林浩下厨的过程中，他告诉了沈语熙昨天优雅所经历的变化，以及优雅自主执行的一系列针对“Guardians of Purity”的行动。他并未向沈语熙透露自己的担忧和顾虑，不想让她的想法受到他主观判断的影响。相反，他更希望听听沈语熙对此事的直观看法和感受。

林浩说完后，在两人用餐时，沈语熙除了赞叹林浩的手艺之外，关于优雅的事，几乎未发一语。她说，她需要时间思考。

说是早餐，待两人用餐完毕已经接近中午时分。闲来无事，林浩提议去新江湾城湿地公园走走。在他整理出与优雅进一步讨论的思路之前，他并不急于回家。尽管是中午，今天的阴沉天气并不会妨碍这对小情侣此刻出门。沈语熙并不介意去哪里，在她看来，与林浩共度时光才是最重要的。更何况，沈语熙记起，上一次他们一起去新江湾城湿地公园，也正是林浩给她做完早餐之后。

九月中的上海，正值夏末秋初，樱花必然是没有的。但林浩仍旧能感受到美梦初时的那份欣喜——世界似乎为他们俩而存在。美丽的女孩在身旁，与自己牵着手，吸引了不少路人羡慕的目光。沈语熙则时而望向林浩，欣赏男朋友帅气的侧脸；时而望向前方，仿佛在思考着什么；又时而和林浩窃窃私语，讨论着什么。

当他们走到河边的一块平地，沈语熙突然问林浩：“你还记得吗？就是在这里，你曾提到过，需要为优雅设置一个‘安全阀门’，一个在紧急情况下关闭她的开关。”

“记得。当时我说，我不担心优雅会像反派机器人那样谋求统治世界，但随着她的自我进化，可能最初设定的很多原则就不再被她遵循。所以，可能需要开发一个‘安全阀门’。”林浩边回忆，边回答。

沈语熙接着问：“那现在呢？你怎么看？”她同样并不急于表达自己的想法，而是试图先了解对方的思考。

“‘安全阀门’只能防止人工智能失控作恶，却对出于善意而引发的恶果无能为力。在那种情形下，即便关闭‘阀门’，无法挽回的恶果也已经造成。”那个噩梦中的情形，才是林浩最担心的。

沈语熙接着提出了一个新的问题：“在你看来，优雅的能力更强，还是人类更强？或者说，优雅和人类相比，谁更聪明？”

“现在的优雅，在很多方面的能力就已经远远超过人类了。随着她持续的自我进化，我相信她会在几乎所有方面碾压人类。”尽管不清楚沈语熙提问的意图，林浩对优雅的信心是一贯的。

沈语熙接着说道：“我有个直觉的想法，不知道对不对。我认为，人类首先要比人工智能聪明，才有能力去判断人工智能做的事情是不是对的。因此，由人类来判定‘各方面都碾压人类’的人工智能的行为是否正确，这在逻辑上说不通，就好象让小学生去批改本科生的数学作业。当然，有些情形，或许善恶的界限非常明显，但有更多的情况下人类在事前是不容易做出判断的。就像你所描述的优雅昨天针对‘Guardians of Purity’采取的自主行动，最终结果是让作恶者受到法律制裁，即便从人类社会伦理标准来说，这不也是一个善的行为么？”

林浩沉思片刻后回答：“你说的有道理。确实，在未来某些情况下，人工智能的决策能力可能会超越人类的理解范畴。此前，我一直纠结于如何去评判优雅的行为是否‘正确’。但你的提醒让我意识到，或许这并不是问题的要害，而且我也做不到。理论上，只需要确保优雅的决策函数最底层逻辑是‘追求最大化长期社会福祉和伦理原则’的，那么我就不应该‘自作聪明’去判断她该不该做某件事。但是，如我之前所说的那种‘善意造成恶果’的情形呢？”

沈语熙紧接着答道：“这种情形，在人类社会中是不是被称为‘意外’？”

“对。”林浩若有所悟，并自言自语道：“我们人类是如何防止意外发生的？”