第596章 机械姬（二） (3 / 4)
        和内容却没什么大的偏差。

        假如艾娃真得是最完美的拥有自我的人工智能的话，那么结局相当不妙啊。

        机器人三定律中，机器人不能伤害人类，但是在电影的最后，艾娃用匕首将内森刺死，显然，拥有了自主意识的艾娃，已经不再受机器人三定律的限制。因为她可以在逻辑层面上绕过计算死角，从而得到答案。

        比如人类的核心目标是延续自己的基因。要达成这个目标，首要手段目标就是自保，因为死人是不能生孩子的。

        为了自保，人类要提出对生存的威胁，所以人类会买枪、系安全带、吃抗生素等等。人类还需要通过食物、水、住宿等来自我供养。对异姓有吸引力能够帮助最终目标的达成，所以人类会花钱做发型等等。

        当人类做发型的时候，每一根头发都是人类手段目标的牺牲品，但是人类对头发的牺牲不会做价值判

        断。动物在追求它们的目标时，比人类不矜持的多了。只要能自保，蜘蛛不在意杀死任何东西，所以一个超级智能的人工智能对人类来说可能是很危险的——

        这不是因为它是不道德的或者邪恶的，而是因为伤害人类只是它达成自己目标垫脚石而已，作为一个非道德性的生物，这是它很自然的考量。

        秦奋就曾看过一篇知客上的文章。大意是当人工智能达到了一定程度的智能后，它会意识到如果不自保就没有办法达成目标，所以去除对它生存的威胁就变成了它的手段目标。它聪明的知道人类可以摧毁它、肢解它、甚至修改它的代码（这会改变它的目标，而这对于它的最终目标的威胁其实和被摧毁是一样的）。

        这时候它会做什么？理性的做法就是毁灭全人类，它对人类没有恶意，就好像你剪头发时对头发没有恶意一样，只是纯粹的无所谓罢了。它并没有被设定成尊重人类生命，所以毁灭人类就和扫描新的书写样

        本一样合理。

        艾娃的最核心运行逻辑是爱慕内森，并保证其安全，那么对她来说，为了执行这个目的，任何其它的目标都有可能成为阻碍物啊…

        “不过…这样似乎也非常有趣呢。”秦奋撑着下巴，忽然笑了起来，“见证一个人工智能的辉煌，也是很值得回忆的一件事呢。”

        “那么，先加强她的实力吧。”

        那篇知客的后续中，有一个恐怖的预言：当拥有足够的智慧后，人工智能的下一个需要的是连上互联网，只要连上几分钟就好了。

        内容未完，下一页继续阅读

更多完整内容阅读登陆

《墨缘文学网，https://wap.mywenxue.org》