《主体性-1.docx》由会员分享，可在线阅读，更多相关《主体性-1.docx（2页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、人工智能系统的主体性【王培草拟于2018-01-29,请勿转发】一个流行的说法是：“既然人工智能是人设计制造的，它就是人的工具，并无主体性可言，就是 说不可能有真正的自主性、主动性、目的性、创造性等等。”尽管这个结论的确适用于现存的绝 大多数计算机系统（包括那些冠以“智能”头衔的），它却肯定会被新一代的智能系统所超越。 下面就以我设计的纳思系统为例说明为什么会这样。抛开所使用的各种技术的细节不谈，就其行为的来源而论，现有的“智能系统”可以大略分成三 类：1 .计算系统，其行为是事先提供的程序所确定的；2 .学习系统，其行为是事先提供的程序和训练数据所共同确定的；3 .适应系统，其行为是事先提供
2、的程序和系统经验所共同确定的。说计算系统没有主体性，是因为它只是依照编制好的程序解决问题，所以它会去解决哪些问题和 如何解决这些问题几乎完全是系统的设计者（通常是人类程序员）决定的，系统只是严格执行而 己。这类系统的功过都要由其设计者和使用者负责。学习系统的情况要复杂一些，尤其是在训练数据来源复杂的情况下，比如放在互联网上的聊天程 序很容易“学坏”。但尽管如此，这些系统的“学习”或“训练”过程仍然在人的控制之下（可 能不止一个人），因为训练数据是被人输入系统的。由于现有学习系统大多有相对清楚的“训练 阶段”和“工作阶段”之分，训练者可以在训练结束后对系统加以考核，而只让合格的系统进入 实际应用
3、。由于在应用过程中系统的基本功能不变（可以有微调），我们可将此类系统的设计和 训练看作一个广义的设计过程，而把系统行为看作完全由设计者、训练者和使用者（不管有多少 人）负责。在上述两类情况下，没有必要把系统看作一个主体，而“它想要”、“它决定等等均仅是 拟人化的说法。这里的行为主体仍是人，而系统只是工具。适应系统的情况则完全不同。在这里“适应系统”是指那些虽然有一个初始（先天）结构，但其 内容可以在很大程度上被其（后天）经验所改变的系统。和目前所谓“学习系统”不同，适应系 统的经验不完全由人来提供，而可以来自系统和环境的直接相互作用；这种系统的“训练阶段” 和“工作阶段”也没有严格划分，即在其
4、整个生命周期中，经验都会对后来的行为产生影响。这 样一来，没有任何人（包括全部设计者、训练者和使用者）可以完全预知系统的行为，除非对其 环境加以限定。当这种系统及其环境足够复杂的情况下，其经验会对系统的信念、目标、技能、行为及其后果产 生决定性影响。以纳思为例，这是因为：纳思的信念和知识大多来自对其经验的总结，而非对世界的客观描述。这里的“经验”可 以是直接的感知运动经验，也可以是经通讯所获取的间接经验或社会经验。由于其“非公 理化”特征，即使是先天植入的知识也可能被后天证据所修正。纳思的初始目标来自先天植入或外界命令，因此的确不是它“自己选择的”。但由于很多 目标都不可能直接实现，而作为其实
5、现手段所导出的派生目标则依赖于系统的信念，因此 （根据上面的理由）也取决于系统的经验。在知识和资源相对不足的情况下，派生目标的 “异化”（机能自主，手段目的化）成为必然，而系统行为一般是受整个目标体系驱动， 并非仅仅取决于其初始目标。 纳思的初始技能取决于先天给定的基本操作，但由于适应性的要求，这些操作只有被组织 成复合操作（即“技能”）才能有效地完成任务，即满足当前的加工时间和存储空间的约 束。而哪些技能会被系统掌握则很大程度上取决于系统的经验。当环境足够复杂且以非循环的方式变化的情况下，一个足够复杂的适应系统的内部状态也是以非 循环的方式变化的。其结果是尽管是同一个问题，在不同时刻也可能得
6、到不同的处理。纳思在某 个时刻的行为仍是完全被其初始状态（先天因素）和此前的全部经验（后天因素）所决定的，但 不能仅被其二者之一所决定。对其先天因素在理论上仍可以找到责任人，但对其后天因素一般说 来就找不到了。系统之所以被当成其自身行为的责任主体，一方面是找不到其他责任人，而另一 方面是系统确实有“自己的”信念、目标、技能，而且对其行为的后果有一定的预测能力。这样 的系统不能再被看作其他人的工具，虽然或多或少会被其他人或系统所影响。这样说来，“主体性”没什么神秘或神圣的，而无非是系统独特的个体经验在系统中的积淀。这 未必是对主体性的贬低，因为对人的主体性也可以做此解释。我们的“自我”除去遗传和
7、经历之 外，还有什么其他决定因素吗？上述分析导致下面具体结论： 某些人工智能系统（如纳思）和人一样有自主性、主动性、目的性、创造性，尽管它的信 念、目标、技能的具体内容可能和人完全不同。 除非一个观察者完全掌握这样一个系统的全部先天和后天因素且有足够强的计算能力，这 个系统对该观察者而言就不再是可精确预测的，而只能在一定的程度上预测。 另一方面，说这类系统完全不能被预测、理解、或控制也是不对的。这些都是程度问题， 而这种程度又主要来自该系统经验的独特程度。 当先天因素确定之后，对这种系统的控制主要是通过对其经验的调控来实现的，其形式会 对应于教育、伦理、法律等等，虽然内容不完全等同于针对人类主体的情形。 即使采取了所有上述手段，仍不能从理论上一劳永逸地保证这类系统的安全性。关于安全 性的监控和调整将是个持续性、永久性的任务。既然有危险，为什么还要继续进行这种研究呢？简单的回答是利远大于弊，起码从目前的权衡来 讲是如此，而我们无法期望更多。对这个问题的详细答复则是另一个题目了。