以人工智能为代表的科学技术正在深入地塑造和改变着人类的社会、文化和经济等,在“无所不在的算法与智能”的时代,了解智能机器的行为对于设计智能行为并使其造福于人类,对于智能机器的设计者、开发者和使用者,都具有重要意义。机器行为研究从学科交叉的视角,将智能机器行为置于由“人-自然-人造物”的整合系统中,将智能机器视为一系列“具有自身行为模式及生态反应”的个体,从人与社会的角度对智能机器行为的相关问题进行讨论,在人智交互行为方面通过多个设计案例进行说明，最后提出有效管理机器行为的指导原则与设计指南。

 01、引言

“机器”的发明和存在贯穿于人类历史的全过程,虽然近代真正意义上的机器(机械)是工业革命以后逐步发展起来的,但正在“颠覆”机器概念的是更加近代的智能机器。本节重点讨论一个新兴的概念和研究领域,即智能系统的机器行为。为了更好地了解和研究人工智能技术带来的变化,首先需要对智能系统的机器行为与非智能系统的机器行为进行区分。对于传统的非智能机器行为而言,它通常按照预期的规则和指令运行,常用的有办公软件、计算器、电梯等,输出确定且可预测,作为人类的辅助工具进行工作。对于智能机器行为,则可以被开发和展示出独特的机器行为,具有学习和进化能力,可与人类协同工作,例如智能汽车、智慧家居系统等,诸如此类的智能机器可以在复杂且不断变化的环境中进行自主操作,或者采用智能行为的计算模型来解决人类无法解决的复杂问题( Wienrich& Latoschik , 2021 )。与传统的非人工智能系统的机器行为(系统输出)不同,人工智能系统的行为结果可能是不确定和不可预测的。在此背景下,产生了许多区别于传统计算机时代的新型人机交互问题。人机交互指的是人与系统之间的交互,在不同的科技发展时代中,系统是不断进化的,机械化时代是各种操作机器,计算机时代更多的是软硬件系统,智能化时代则是各种智能组合形式的系统(陈善广,李志忠等,2021 )。

智能机器行为的研究是解决问题的基础,而人智交互研究和应用又将人工智能带入了良性发展的轨道,有效地控制了智能机器可能产生的不良后果,从而避免可能给人类带来的不可预知的风险。

基于此,以人为中心的人工智能的理念是区别于传统的以人为中心的进一步版本。两者交互的主要对象不同,前者主要面向的是 AI 系统,即智能机器,后者主要面向的是非智能机器,这两种理念也有助于强调智能机器行为和非智能机器行为之间的根本差异。因此,研究和了解 AI 系统的机器行为有助于相关的专业人员采取新的设计思维与策略,了解人智交互研究与应用的边界和重点,从而更有效地解决 AI 系统的挑战。

02、从人的行为到 AI 系统机器行为

随着人工智能和机器学习技术的迅猛发展, AI 系统的机器行为研究成为了一个关键领域,它研究关注机器如何理解、响应和适应“人的目的和意图”,以及与其交互的人、社会、文化的环境。在日常生活中,我们与越来越多的机器进行互动,机器行为研究也可以应用到人工智能与人相关的几乎所有领域。具有代表性的领域包括大众健康、自动驾驶、智能家居、社交媒体等,这些应用领域又同时为机器行为的研究提供了问题的来源与验证情境。因此,研究和设计机器行为变得尤为重要。

AI 系统的机器行为从本质上看是关于“行为”( behaviour )的研究。行为的概念在不同的学科领域都有不同的意义。一般认为,“行为”是一个与“生物、生命”相关的概念,因此与行为科学有密切的关系。同时,由于机器行为研究的对象是机器这一人类行为的产物,所以机器行为研究又与创造 AI系统的智能科学和工程(设计)科学密不可分,必须整合来自多学科的知识( Rahwanetal. , 2019 )。

2. 1  行为科学与机器行为

心理学是最经典的“研究人的行为的科学”。但是,心理学又不仅仅是关于行为(action )的科学,还包含对人的心理活动( mentalactivity )的研究。 Sternberg (1996 )指出:心理学是“理解人们如何进行思考、学习、接受、感觉、行动和其他人交往,乃至对自身的理解”。从这样的观点来看,机器行为的研究可以借鉴心理学的研究范式和方法来研究机器行为,即将机器行为视为具有生命和环境适应的活动。作为心理学重要组成部分的认知心理学对于人的心理过程的描述非常接近于一台计算机,认为可以将认知过程描述为一个信息处理的机制。例如著名心理学家 Wickens ( 2020 )提出的人的认知过程模型(图 15.1)就是把人的认知过程模拟为计算机:短时记忆类似内存,长时记忆类似硬盘,思维与决策类似中央处理器等。从这个角度看,认知心理学的感知、注意、推理等概念也是机器行为的重要概念。在认知心理学的基础上,纽维尔( A.Newell )和西蒙等提出“通用问题求解模型”(generalproblemsolver ),即用计算机和人工智能的“符号主义”思想去研究智能体与人类的思维过程(图 15.2 ),例如记忆的组织、信息加工模型、思维环境记忆、类比问题求解等( Newell& Simon , 1959 )。除此以外,心理学的很多理论都和机器行为有密切关系。发展心理学中的认知发展和社会性发展与机器行为的发展密切相关。因此,心理学是机器行为研究的重要学科基础。

 

虽然心理学也包含研究群体行为和心理的社会心理学,但是,系统地研究社会行为与人类群体属于“社会学”(sociology )领域。 1838 年,法国科学哲学家孔德(I.M.A.F.X.Comte )正式确立了“社会学”一词(Lévi-Strauss , 1945 )。 1895 年,杜尔凯姆( E.Durkheim )在法国波尔多大学创立了欧洲首个社会学系,并出版了影响后世的重要著作《社会学方法的规则》( Durkheim , 2014 ),为社会学确立了有别于其他社会科学学科的独立研究对象,即社会事实。社会学家对社会的研究包括一系列的从宏观结构到微观行为的研究,包括对从种族、民族、阶级和性别,到细如家庭结构、个人社会关系模式的研究,对机器行为具有重要启示。例如,机器行为研究的一个重要任务是建立一个人机和谐的社会生态系统。社会学关于群体、组织的研究就具有非常重要的作用。组织的社会功能、组织的机制、组织的结构原则、组织的运行与调节、组织中人和机器的行为与角色都是共同关注的话题。与机器行为研究关系较为密切的社会学分支是自 20 世纪末起的兴起的“计算社会学”( Edelmannetal. , 2020 )。计算社会学利用收集和分析数据的能力,在不同的广度和深度大规模收集数据,提供了个人和群体全面的信息,以过去几乎无法想象的方式探查智能机器、算法等对人类生活、组织和社会的理解。

除了心理学和社会学,行为科学的一个独特领域———动物行为学(ethology )也与机器行为密切相关。动物行为学特别注重从系统发生和遗传学的角度研究包含人类的动物的行为,从而形成动物行为学下的一个分支———人类行为学(humanethology )。一般认为,动物行为学的历史渊源起源于达尔文( C.R.Darwin )的《物种起源》(达尔文等,2010 )。在动物行为学理论中,所有动物行为都可以用因果关系、生态功能、分体发生和遗传进化这四方面来解释。因此,动物行为学家从行为的功能、机制、发展和进化历史四个维度来研究动物行为,并构建了一个研究动物行为的基本框架。从动物行为学的角度去研究机器行为的一个突出的好处是:研究者可以更加远离“人”本身的属性,而把人放在整个动物界和自然界的角度开展研究。特别是动物行为学关于“适应”的概念,与人为事物和机器的功能及其环境适应性具有密切的关系,可以为机器行为研究提供心理学和社会学所不具备的知识与方法支撑。虽然机器行为和动物行为很多本质的差别,但是,在方法上,动物行为学的很多工具和方法都可以运用到机器行为研究中,特别是其建立起来的一套行为描述的科学体系,对机器行为研究中行为的分类、编码等具有重要的指导意义。在内容上,智能机器和动物一样,有其行为产生、发展和进化的内在机制。机器在和环境的整合中获取信息,产生特定的功能,并从过去的环境和人类不断的决策中得到进化。这种基于进化的思想是动物行为学对于机器行为研究最大的启示之一(尚玉昌,2005 )。