第十一章第六节 庭审 (2 / 4)
        “批准。”

        不一会儿，两名身穿制服的警察就从门口搬来一块又长又宽的黑板，就跟教室里的一样。

        “我非常感谢各位的到来，特别是身后东京大学数学系，哲学系的同事朋友。”

        燕南飞向后转身，微微鞠躬。

        “对那篇文章，我们必须进行原理上的解说。为此，各位其实也不需要是一个数学家，我会尽量把这些说得通俗一点。这个过程是必要的，否则难以回答刚才安部先生的言论。”

        燕南飞拿起粉笔，开始写。

        “首先得明白人工智能为什么会智能化，其根本原因是那位中国哲学家，也是我的爷爷，提出的第一原理。原理的描述很简单，

        第一原理：任何智能的行为，都是若干有限个条件限制下，为使得目的最大化的结果。

        这一点比较本质地解释了智能行为，有任何问题吗？”

        佐藤法官摇摇头。

        “没有问题，请继续。”

        “谢谢。除开这个基本原理，他们还加入了许多基本函数。举一个例子，比如说代表善，恶之类的基本函数，这些都是通过观察人类行为，倒推出来的结果。而欧顿教授，通过一个叫变分法的方法，和一些基本数学技巧，把这两个原理写成一组偏微分方程组，你们只需要理解那是一个，数学行为上很复杂的方程组，很难得到所谓的解析解，大部分情况下只有级数解和数值解。现在我们转化到具体的程序上面。”

        “这是参考白羽步教授所写的《欧顿方程组的大致算法实现》一文。再此之前，我们先举一个例子进行说明。比如在围棋中，有人工智能按照这个算法学习围棋，那么最好的方法就是左右互搏，也就是自战。这个人工智能的第一盘棋，他们只知道规则，所以采取符合规则的随机下，然后总结经验。可能第二局开始，就不会在一线下棋，因为通过对比，没有实现其目的最大化，人工智能就会在其他地方随机地走棋。当然，这只是用这种方法对下棋人工智能进行设计，这方面专业的人士可能会有更好，更精细的方法，但这是个很好的例子。而白羽步教授的一文中，设置了一个‘限制函数’，大致可以理解为，为避免人工智能做很多次这样的自我博弈，导致其十分智能，从而产生潜在的危险。他规定自我博弈在一定次数后就会立刻停止，保存数据。现在我们将主题转移到蜂鸟侦察机和类似的侦察机器人上。对于这样的机器人，识别物体是非常重要的，如果用白羽步的方法，他们怎么识别物体呢？”

        燕南飞画出一条正态分布曲线，并把它分成六个不等长的段，越靠中间，线段的长度越长。

        “这条曲线代表物体形变的程度，而形变的方式是由白羽步教授在另一篇文章中指出的，但在这里不算特别重要，讲起来也比较麻烦。举个例子说明，如果要识别狗，最中间的一段，那么就是最常见的狗，或者说‘最平均的狗’。而越往两边偏，从曲线下面的面积可以看到，就越来越小，也代表着与平均水平差得越多，偏得多了，可能本身就不是狗，或者是非常罕见的狗。白羽步教授给出的方法是，在这六段，或者更多段里，随机选取几段，只要这个物体在这选的几段的范围之内，那么就学习一个。这些线段的长度和曲线下方的面积有关，所以越长，越接近平均水平的，就越容易被选到，但同时也不排除极端的存在，只是有点难被选到而已。而对于这个行为的限制函数，是计算这些长度的总和，而不是定义次数。只要这些长度的总和达到某个值，机器就会停止学习，保留并对比已有数据。所以，人工智能依然可以计算特别多的次数而不被限制，只是这样的概率特别小，特别小而已，本案中，粗略估计是十万分之一。也就是说，如果有十万只蜂鸟侦察机，那么其中很可能有一只，是做过超出平均计算次数一到一点五个标准差的。”

        “这会导致一个问题，也就是我们说的智能化。问题就在于这里，如果这不是侦察机，或者侦察机的对象不是人类，那我们是根本不用担心智能化的发生，但事实上，政府把人类和人类行为也纳入侦察对象，这从道德和法律上都是令人难以接受的。”

        内容未完，下一页继续阅读

更多完整内容阅读登陆

《墨缘文学网，https://wap.mywenxue.org》