301 机器的风险
推荐阅读： 宝鉴 扶明录 叶辰萧初然 重生之再铸青春 女神的上门豪婿(又名:女神的超级赘婿,主角:赵旭) 女神的上门豪婿 女神的上门贵婿 逆天丹帝 神魂丹帝 神魂丹帝 重生之搏浪大时代 仙府种田 这个领主大人非常科学 六指诡医 重生之我真是富三代 刚被悔婚超级天后带娃堵门 踏枝 叶君临
苏暮夜理解他的意思：“如果机器决策出现错误，将会导致无意义的屠杀。”
“对，这是一种隐藏的可怕风险。”纹身的男人点头，“客观而言，我们不应该允许机器完全独立工作，需要另一批人去监督它的决策正确与否。但只要监督者是人，他们的公正性就会存疑，决策效率也会降低，一切又会回到当初的困难局面。”
“难道你们的机器现在处于无人看管的状态？”
“我们有日常的程序维护组，也可以对机器的决策进行细节探讨，但不能否认它的权威性。”
“它在哪里？”
“我不清楚，就算知道也不可能告诉你。决策基地周围布有严密的防卫设施，机器本身也有完善的反侦测程序。即使你找到机器的核心，你也不能永远摧毁一个人工智能，如果决策基地遭到攻击就此覆灭，决策程序也可以在互联网的任何一个角落重新复制生成。”
“既然它不可摧毁，你把这一切告诉我是出于什么目的？”
“我认为机器的能力是有限的，但创造机器的始终是人。你和别人不一样，如果是你，或许可以想出办法来改变目前的局面。其实我并不介意成为机器的奴隶，我只是一个普通的艺术工匠。但有人正在利用机器算法的漏洞达到自己不可告人的目的，如果不能及时阻止他们，那后果不堪设想。”
这时候，楼下的观众席传来雷鸣般的掌声。
舞台幕布缓缓落下，第一乐章的演出结束了。
纹身男人的声音，从掌声中隐约传来：“珐蕾拉说你想与我们交谈。我不知道你想谈什么，也许你也对自己的前途感到困惑，或者对蔷薇密会的合法性存在疑问。我不敢说我们是完全正义的，但我们在乎的不是细节上的完美，而是整个人类文明的发展方向。发掘和培养优秀的学术人才，借助他们将历史始终推向对文明有利的方向，这就是我们存在的真正意义。”
苏暮夜沉默的听着。
人类文明的发展方向。
究竟什么才是正确的方向，这是一个没有准确答案的问题。
但蔷薇密会构建了理论模型，借助决策算法，以计算机为工具去判断这个方向，大多数人都对这个方法的准确性深信不疑。
然而机器不是完美无缺的，它会有判断错误，它会有思维漏洞。
在没有人监督机器的情况下，当错误发展到一定程度的时候，后果可能已经相当严重了。
所谓的意义，或许只是一个美好的愿景。
幕间休息的时间到了，观众席上的灯光亮起。
珐蕾拉抬头看了看四周，她站起来，慢慢走到苏暮夜身边：“时间已经到了。”
纹身的男人不再说话，他低下头，重新又去他的演出宣传页了。
谈话结束了。
“谢谢您，愿意抽出这么多时间和我交谈。”苏暮夜低声说。
那人没有回应他，仿佛他们根本就不认识似的。
苏暮夜站起来，返身离开了观众席。
今晚这场谈话的收获，远比他想象中的多。
在这短暂的时间里，他了解到了蔷薇密会的组织结构，它们的宗旨，运作的模式。
那些各自心怀鬼胎的成员，清理他们方式，维持秩序的困难。
还有隐藏在极端科技中的危机，决策的漏洞，黑蔷薇计划的重启只是危机的其中之一。
蔷薇密会的宗旨是促进人类科学文明的进步，然而世上没有任何力量能够强迫聚集在一起的人群，始终彻底的为同一个目标忠诚服务。要保证秩序的严明，要把别有用心的人从人群中挖出来，这是一个无解的难题。
这个纹身男人，他口中的危机，甚至比苏暮夜想要让蔷薇密会分崩离析更重要。
即使组织崩溃，那些学识和思想还在。阴谋可以藏进黑暗中变换身份，从而变得更加难以寻找。
敌人不是一个人，也不是一个组织。
那是一种思想。
敌人是一种与人类进步背道而驰的思想。它是暴力，或者私欲，或者极为迂腐的观念。
它是一道看不见的障碍，或许需要终其一生去对抗它。
机器本身就不完美，有些人正在利用它的不完美。
然而究竟什么才是完美，它没有答案。
简直是个内忧外患的局面。
苏暮夜沉思着，他跟着珐蕾拉走下楼，穿过前厅离开歌剧院。
周围依然是川流不息的人群，但他的心里一片寂静，他似乎什么声音都听不见。
珐蕾拉问：“你想要知道的事情，都明白了吗？”
苏暮夜点头：“我了解到了更多。”
但是，他突然意识到一个问题：“所以，白蔷薇的上层其实就是计算机？”
——宋幽的上司，是决策机器？
“没错，”珐蕾拉点头，“白蔷薇是连接决策机器和蔷薇成员之间的纽带，他们既是事务的传达者也是监督者。但他们也不会每件事都亲力亲为，在国家和地区级别的区域机构里有日常事务性的决策组。但这些人终究也会被机器取代，将来我们只需要按照机器的命令去办事，自己的判断力将彻底被否定。”
“那机器认为，我应该成为你们的一员吗？”
珐蕾拉微微一笑：“机器对你的评分很高。”
“？”
“机器的算法标准之一就是智商和学识，你是普通人之中的佼佼者，它当然赏识你。至于你的性格和思想所带来的不确定风险，机器暂时是不会考虑的。它只会在你违反规则的时候，建议秩序者将你清理掉，它的决策完全基于算法，不会带有任何个人的感情色彩。”
苏暮夜想了想：“这其中有很多漏洞可以钻。”
“对，所以它自己本身也在不断完善决策算法，或许将来直接就能够改良出秩序者的功能。那样的话，我们每个人都无时无刻不在机器的监督之下，到时候一旦机器基于算法判断有人违反了蔷薇的秩序，将会直接动手把他清理掉——机器杀人是很方便的，甚至比人亲自动手更方便，它根本不需要杀手去行动。”
这是一个非常可怕而隐秘的过程，苏暮夜可以想象出来。
计算机想要除掉一个人，只需要制造一场意外。像是智能电器的故障，或者刹车失灵，或者电梯失控
现代社会无处不在的电脑网络，都在计算机的掌控之下。
那将是极为可怕的未来。
快眼看书小说阅读_www.bookcu.com
“对，这是一种隐藏的可怕风险。”纹身的男人点头，“客观而言，我们不应该允许机器完全独立工作，需要另一批人去监督它的决策正确与否。但只要监督者是人，他们的公正性就会存疑，决策效率也会降低，一切又会回到当初的困难局面。”
“难道你们的机器现在处于无人看管的状态？”
“我们有日常的程序维护组，也可以对机器的决策进行细节探讨，但不能否认它的权威性。”
“它在哪里？”
“我不清楚，就算知道也不可能告诉你。决策基地周围布有严密的防卫设施，机器本身也有完善的反侦测程序。即使你找到机器的核心，你也不能永远摧毁一个人工智能，如果决策基地遭到攻击就此覆灭，决策程序也可以在互联网的任何一个角落重新复制生成。”
“既然它不可摧毁，你把这一切告诉我是出于什么目的？”
“我认为机器的能力是有限的，但创造机器的始终是人。你和别人不一样，如果是你，或许可以想出办法来改变目前的局面。其实我并不介意成为机器的奴隶，我只是一个普通的艺术工匠。但有人正在利用机器算法的漏洞达到自己不可告人的目的，如果不能及时阻止他们，那后果不堪设想。”
这时候，楼下的观众席传来雷鸣般的掌声。
舞台幕布缓缓落下，第一乐章的演出结束了。
纹身男人的声音，从掌声中隐约传来：“珐蕾拉说你想与我们交谈。我不知道你想谈什么，也许你也对自己的前途感到困惑，或者对蔷薇密会的合法性存在疑问。我不敢说我们是完全正义的，但我们在乎的不是细节上的完美，而是整个人类文明的发展方向。发掘和培养优秀的学术人才，借助他们将历史始终推向对文明有利的方向，这就是我们存在的真正意义。”
苏暮夜沉默的听着。
人类文明的发展方向。
究竟什么才是正确的方向，这是一个没有准确答案的问题。
但蔷薇密会构建了理论模型，借助决策算法，以计算机为工具去判断这个方向，大多数人都对这个方法的准确性深信不疑。
然而机器不是完美无缺的，它会有判断错误，它会有思维漏洞。
在没有人监督机器的情况下，当错误发展到一定程度的时候，后果可能已经相当严重了。
所谓的意义，或许只是一个美好的愿景。
幕间休息的时间到了，观众席上的灯光亮起。
珐蕾拉抬头看了看四周，她站起来，慢慢走到苏暮夜身边：“时间已经到了。”
纹身的男人不再说话，他低下头，重新又去他的演出宣传页了。
谈话结束了。
“谢谢您，愿意抽出这么多时间和我交谈。”苏暮夜低声说。
那人没有回应他，仿佛他们根本就不认识似的。
苏暮夜站起来，返身离开了观众席。
今晚这场谈话的收获，远比他想象中的多。
在这短暂的时间里，他了解到了蔷薇密会的组织结构，它们的宗旨，运作的模式。
那些各自心怀鬼胎的成员，清理他们方式，维持秩序的困难。
还有隐藏在极端科技中的危机，决策的漏洞，黑蔷薇计划的重启只是危机的其中之一。
蔷薇密会的宗旨是促进人类科学文明的进步，然而世上没有任何力量能够强迫聚集在一起的人群，始终彻底的为同一个目标忠诚服务。要保证秩序的严明，要把别有用心的人从人群中挖出来，这是一个无解的难题。
这个纹身男人，他口中的危机，甚至比苏暮夜想要让蔷薇密会分崩离析更重要。
即使组织崩溃，那些学识和思想还在。阴谋可以藏进黑暗中变换身份，从而变得更加难以寻找。
敌人不是一个人，也不是一个组织。
那是一种思想。
敌人是一种与人类进步背道而驰的思想。它是暴力，或者私欲，或者极为迂腐的观念。
它是一道看不见的障碍，或许需要终其一生去对抗它。
机器本身就不完美，有些人正在利用它的不完美。
然而究竟什么才是完美，它没有答案。
简直是个内忧外患的局面。
苏暮夜沉思着，他跟着珐蕾拉走下楼，穿过前厅离开歌剧院。
周围依然是川流不息的人群，但他的心里一片寂静，他似乎什么声音都听不见。
珐蕾拉问：“你想要知道的事情，都明白了吗？”
苏暮夜点头：“我了解到了更多。”
但是，他突然意识到一个问题：“所以，白蔷薇的上层其实就是计算机？”
——宋幽的上司，是决策机器？
“没错，”珐蕾拉点头，“白蔷薇是连接决策机器和蔷薇成员之间的纽带，他们既是事务的传达者也是监督者。但他们也不会每件事都亲力亲为，在国家和地区级别的区域机构里有日常事务性的决策组。但这些人终究也会被机器取代，将来我们只需要按照机器的命令去办事，自己的判断力将彻底被否定。”
“那机器认为，我应该成为你们的一员吗？”
珐蕾拉微微一笑：“机器对你的评分很高。”
“？”
“机器的算法标准之一就是智商和学识，你是普通人之中的佼佼者，它当然赏识你。至于你的性格和思想所带来的不确定风险，机器暂时是不会考虑的。它只会在你违反规则的时候，建议秩序者将你清理掉，它的决策完全基于算法，不会带有任何个人的感情色彩。”
苏暮夜想了想：“这其中有很多漏洞可以钻。”
“对，所以它自己本身也在不断完善决策算法，或许将来直接就能够改良出秩序者的功能。那样的话，我们每个人都无时无刻不在机器的监督之下，到时候一旦机器基于算法判断有人违反了蔷薇的秩序，将会直接动手把他清理掉——机器杀人是很方便的，甚至比人亲自动手更方便，它根本不需要杀手去行动。”
这是一个非常可怕而隐秘的过程，苏暮夜可以想象出来。
计算机想要除掉一个人，只需要制造一场意外。像是智能电器的故障，或者刹车失灵，或者电梯失控
现代社会无处不在的电脑网络，都在计算机的掌控之下。
那将是极为可怕的未来。
快眼看书小说阅读_www.bookcu.com