301 机器的风险 (第2/2页)

蔷薇密会的宗旨是促进人类科学文明的进步，然而世上没有任何力量能够强迫聚集在一起的人群，始终彻底的为同一个目标忠诚服务。要保证秩序的严明，要把别有用心的人从人群中挖出来，这是一个无解的难题。

这个纹身男人，他口中的危机，甚至比苏暮夜想要让蔷薇密会分崩离析更重要。

即使组织崩溃，那些学识和思想还在。阴谋可以藏进黑暗中变换身份，从而变得更加难以寻找。

敌人不是一个人，也不是一个组织。

那是一种思想。

敌人是一种与人类进步背道而驰的思想。它是暴力，或者私欲，或者极为迂腐的观念。

它是一道看不见的障碍，或许需要终其一生去对抗它。

机器本身就不完美，有些人正在利用它的不完美。

然而究竟什么才是完美，它没有答案。

简直是个内忧外患的局面。

苏暮夜沉思着，他跟着珐蕾拉走下楼，穿过前厅离开歌剧院。

周围依然是川流不息的人群，但他的心里一片寂静，他似乎什么声音都听不见。

珐蕾拉问：“你想要知道的事情，都明白了吗？”

苏暮夜点头：“我了解到了更多。”

但是，他突然意识到一个问题：“所以，白蔷薇的上层其实就是计算机？”

——宋幽的上司，是决策机器？

“没错，”珐蕾拉点头，“白蔷薇是连接决策机器和蔷薇密会成员之间的纽带，他们既是事务的传达者也是监督者。但他们也不会每件事都亲力亲为，在国家和地区级别的区域机构里有日常事务性的决策组。但这些人终究也会被机器取代，将来我们只需要按照机器的命令去办事，自己的判断力将彻底被否定。”

“那机器认为，我应该成为你们的一员吗？”

珐蕾拉微微一笑：“机器对你的评分很高。”

“？”

“机器的算法标准之一就是智商和学识，你是普通人之中的佼佼者，它当然赏识你。至于你的性格和思想所带来的不确定风险，机器暂时是不会考虑的。它只会在你违反规则的时候，建议秩序者将你清理掉，它的决策完全基于算法，不会带有任何个人的感**彩。”

苏暮夜想了想：“这其中有很多漏洞可以钻。”

“对，所以它自己本身也在不断完善决策算法，或许将来直接就能够改良出秩序者的功能。那样的话，我们每个人都无时无刻不在机器的监督之下，到时候一旦机器基于算法判断有人违反了蔷薇密会的秩序，将会直接动手把他清理掉——机器杀人是很方便的，甚至比人亲自动手更方便，它根本不需要杀手去行动。”

这是一个非常可怕而隐秘的过程，苏暮夜可以想象出来。

计算机想要除掉一个人，只需要制造一场意外。像是智能电器的故障，或者刹车失灵，或者电梯失控……

现代社会无处不在的电脑网络，都在计算机的掌控之下。

那将是极为可怕的未来。

→