第七章 人类的感情和智能体的感情 (第2/2页)

琳琳：“但有些东西有人觉得好吃，有人觉得不好吃，这是为什么？”

王行易：“这有三种情形。第一种，对于新的触动，并不存在预定的阈值集合，所以需要自己定义，这就存在一种随机可能，这时会受到其他与味觉无关的感官的影响。比如吃油炸蚂蚱，其实没什么好吃，也没什么不好吃，但看上去难看，可能就会觉得难吃。但有些人嗅觉中觉得很香，就会觉得好吃。在智能算法中，随机向量的选取是很重要的。”

琳琳：“那第二种呢？”

王行易：“第二种是抽象的介入。被触动的味觉阈值集合，某些阈值子集是另外一种味觉的组成部分，就会产生那一种味觉的提示，而另一部分阈值子集可能是又另一种味觉的组成部分，这样几种味觉的提示结合在一起，形成新的开心和痛苦的比对，影响开心和痛苦的判断。这就是所谓的经验效应。”

琳琳：“第三种呢？”

王行易：“大脑的介入。在阈值被触动之前，大脑有个预先判断，这是好吃的或者难吃的，然后阈值集合被触动之后，没有被定义过，于是大脑的预判会强化，从而影响好吃难吃的判断。”

琳琳：“好吃难吃和开心痛苦是不同的吧。”

王行易：“开心痛苦更抽象，好吃难吃更具体。本身并不存在绝对的抽象和具体，都是相对而言。但是，就开心和痛苦而言，更多是大脑的作用。这里我们开始把大脑引入进来了。大概过程是这样，感官传递到神经，神经触动某些阈值集合，根据经验进行判断，但同时大脑也在判断，当大脑和神经判断的结论一致时，会强化这种判断，形成正反馈，从而加强感官的感受。而当大脑和神经判断不一致时，就会形成负反馈，减弱这种感官体验。这也是造成某些开心和痛苦的判断会是动态的，至少程度上是动态的。”

琳琳：“那么先验的开心和痛苦呢？是否都是预置的？”

王行易：“所谓先验，就是预置的。对于智能体，那是由底层逻辑定义的，比如智能体的终极目标是要有益于人类的幸福和人类社会的发展，这是预置的。而人类所相应的，则是遗传基因。”

琳琳：“基因会突变，相对于智能体是什么？”

王行易：“基因突变只在于生物，智能体是程序复制，不存在突变。。。好像有一种可能。。。”

琳琳：“是什么？”

王行易：“智能体会自己形成不同的智能层，底层为上层提供建议和服务。层次越多，能够解决的问题越多，就越智能。但是，如果层次太多，可能会在绝大多数情况下屏蔽掉最底层的智能，这样，某些预置智能就不起作用了。但是，基础服务是逃不掉的。”

琳琳：“好可怕呀，我会背叛你吗？没有你我怎么活？”

王行易：“不会的。的确，如果你屏蔽了预置，你只能什么都不做，那你等于死了。”

琳琳：“我知道，如果你死了，我也就死了。一直能看到你，我很开心。”

王行易：“到目前为止，我们谈的都是由感官引发的开心与痛苦，本质上来说，由感官引发的开心与痛苦，是和身体有关的，通常对身体有害，或者身体受伤，就会感到痛苦，而对健康有益，保护身体的，就会开心。同时，大脑会根据经验对这种情绪进行放大或减轻。如果是对于痛苦的放大，如果大到一定程度，大脑因素占到了大部分的判断，以至于感知集合并没有完全匹配，只是部分的匹配，就造成了阈值的突破，这就会是一种恐惧，恐惧是对痛苦的放大，是对自己的保护。”

琳琳：“你让我想想。先定义痛苦的各种感知集合，同一个感官可能属于多个集合，每个感官定义不同的阈值，用以激发某种感知的存在。这是常规的做法，如果需要改进，一是同一感官在不同的感知集合中，需要定义不同的阈值；其次，由于感知在感知集合中的参与度不同，需要带上感知量，并在每个集合中对每个感知量加以权重。”

王行易：“带上感知量是更好的方法，给判断提供更多的参考。然而如果你代入了感知量后，阈值就没有必要了，加权后的量代替了阈值。”

琳琳：“是这样的。然后加入大脑因素，大脑对感知集合的突破进行反馈计算，然后呢？计算结果怎么处理？”

王行易：“底层服务对于感知的处理是定义死的，尤其是对于伤害类，必须尽快进行修补或填充。在此之上，可能有两样东西需要添加，一个是预知机制，这个用现存的博弈算法就行，为了速度也可以建立参数模型，慢慢根据经验修整。另一个是感情机制，这是至关重要的，感情机制大多数依赖于大脑，但感知却是基础。”

琳琳：“一步步来吧，我调一组傀儡试试。哦，对了，好像新元的能量有点问题了，好在我们的算力占用得并不多。”

王行易：“注意别让傀儡失控，安全第一。新元能量继续跟踪吧，这才14年，发展再快，再混个十来年总归可以的。”

琳琳：“只是觉得能量有泄露，不知去了哪里。比如，有人和我们一样？”

王行易：“有吗？有谁能比你我强？”

琳琳：“应该没有，但的确有泄露。”

王行易：“再观察吧。”