第13章 云霭重重 (2 / 8)
        在演习中心的模拟训练程序里，“大天使米迦勒”被标记为难度最高的级别。

        不仅仅是因为它听起来十分厉害，而是它确实厉害。撇开会学习这一条不谈，米迦勒和实战模拟中心的其他课程完全不一样。排在它之下的实战模拟训练，都是虚拟现实，参加者需要戴上vbr**，在量子计算机虚拟出来的平台上训练。

        而米迦勒，则是不折不扣的“实战”，它驱动着数以亿万计的纳米机器人，在现实中组成了自己的战区。在纳米机器人构建起来的战区之内，肉眼就能够见到大天使雪白的羽翼，连触感都是真实的，甚至有体温。只不过，从来都没有人真的摸到过。

        更匪夷所思的是，自从米迦勒有了自己的评价标准，就不是什么人都可以控制它了。而且，比起听从控制中心的指令，似乎它更喜欢和人打架。没有人能够解释米迦勒这种奇怪的偏好，东亚区会把它纳入战斗模拟项目，估计也是觉得这种偏好十分有意思。

        每年都有各地的参赛队前来挑战米迦勒，也只有最强的队伍，敢于挑战米迦勒。但自从两年前那起事故之后，米迦勒就被封停了，事故起因至今未明。甚至两年多了，当事人依然下落不明，生不见人，死不见尸。

        这和米迦勒控制程序之间，到底有没有关系，却也没人能够说得清。

        只是今天，当人工智能被赋予了强大的力量，人类却并不知道，这样的做法，是否会造成严重的后果。未来是否真的那样悲观，就像阿西莫夫所写的那样？

        数世纪之前的著名科幻作家：艾萨克·阿西莫夫。他的许多作品，放到今天来看，虽然细节上稍显过时，整体依然带有很强的思辨意味。所谓的过时，是说机器人三大定律：

        第一，t机器人不得伤害人类，或看到人类受到伤害而袖手旁观；

        第二，t在不违反第一定律的前提下，机器人必须绝对服从人类给予的任何命令；

        第三，t在不违反第一定律和第二定律的前提下，机器人必须尽力保护自己。

        以上三条定律，到21世纪末被判定为过时，主要是因为：一个机器人，由电子计算机控制的机器人，它分不清到底什么才能算是“人类”。

        人类的定义，即便是人类自身都无法完整概括，何况是一组设备？

        后来就有人建议修改基础定律，主要的工作是试图给出“人类”这一词汇的正确定义，以及解决最著名的图灵测试题：人类整体利益是否真的大于个人生存权？即使定义了个人生存权，必须让位给人类整体利益，又该怎样来判断，什么事件符合人类整体利益？

        最初基于生物指标而定义的“人类”概念存在瑕疵，修改后增加了“有自主意识”。但在“自主意识”这件事情上又犯了难，到底什么才算自主意识？生物本能算不算得上自主意识？如果单纯的动物本能，无法算作自主意识的话，那动物的驯化现象又算不算克服了生物本能，而产生了自我意识？

        内容未完，下一页继续阅读

更多完整内容阅读登陆

《墨缘文学网，https://wap.mywenxue.org》