本文系统地提出基于“以人为中心AI(HCAI)”理念的人-人工智能交互(人智交互)这一跨学科新领域及框架,定义人智交互领域的理念、基本理论和关键问题、方法、开发流程和参与团队等,阐述提出人智交互新领域的意义。然后,提出人智交互研究的三种新范式取向以及它们的意义。最后,总结本章内容和展望今后的人智交互研究。

01、引言

在计算机时代,人们的日常工作和生活中主要与基于非智能技术的计算技术系统(包括产品、系统、服务等)产生交互。进入智能时代,基于 AI 技术的智能系统(包括产品、系统、服务等)逐步进入人们的日常工作和生活,人们开始与这些智能系统产生交互。但是, AI 技术的新特征使得这种人机交互和用户体验不同于传统的基于非智能技术的人机交互,由此带来了一系列的新挑战和新问题,促使我们必须采用新思维和新方法来研究、设计、优化这种新型的人与智能系统之间的交互。如上一篇所讨论,智能系统的研发必须遵循以人为中心 AI 的理念,同时,针对人与智能系统交互的研究和应用工作也是实践 HCAI 理念的主要领域,两者密不可分,直接影响 AI 技术是否能够有效地为人类服务。

02、人-智能系统交互的新特征

2.1  人-智能系统交互与传统人机交互的对比

基于 AI 、深度学习、大数据等技术,我们可以开发出具有自主化特征的智能体( intelligentagent ,或称为智能代理)。取决于智能系统的智能自主化程度,一个智能系统(包括单个或多个智能体)可以拥有在一定程度上类似于人的认知能力(感知、学习、自适应、独立执行操作等),在特定的场景下可以自主地完成一些特定任务,对一些不可预测的环境具有一定的自适应能力,可以在一些事先未预期的场景中自主地完成以往自动化技术所不能完成的任务(denBroeketal.,2017 ; Kaber , 2018 ; Rahwanetal., 2019 ;Xu , 2020 )。

人机交互(human-computerinteraction , HCI )是 PC 时代出现的一门跨学科领域,它主要研究人与非智能计算技术系统之间的交互。表 2.1 分析和比较了人 - 非智能计算系统交互与人 - 智能系统交互之间的一些基本特征(许为,葛列众,2020 ;许为, 2020 )。其中,人 - 智能系统交互的特征是基于智能系统具有较高的智能自主化程度的假设,虽然目前的 AI 技术还无法实现所有这些新特征,但是随着AI 技术的发展以及机器智能自主化程度的进一步提高,未来智能系统将逐步具备这些新特征。

从表 2.1 可见,在人-非智能系统交互中,作为支持人类操作的一种辅助工具,机器依赖于由人事先预定的固定逻辑规则和算法来响应操作员的指令,实现单向式(人指向机器)人机交互。尽管人机之间也存在一定程度上的人机合作,但是作为一个辅助工具,机器的行为总体上是被动的,只有人可以主动地启动这种有限的合作。

在特定的操作任务环境中,智能系统可以拥有某些认知能力(学习、自适应、独立执行等),这些能力使得智能系统与人类操作员之间可以实现在一定程度上类似于人 - 人团队队友之间的双向性“合作式交互”。例如,不同于人 - 非智能系统交互中的“刺激 - 反应”单向式人机交互,人智交互的这种双向性“合作式交互”意味着智能系统对人也有指向,即智能系统可以通过感应技术主动地监测和识别用户生理、认知、行为、意图、情感等状态,人类用户则通过多模态人机界面获取最佳的针对系统和环境的情景意识。取决于智能系统的智能自主化程度,这种“合作式交互”是由两者之间双向主动的、可分享、可互补、可替换、自适应以及可预测等特征决定的(许为,葛列众,2020 )。

由此可见,这两类交互存在本质上的差别。智能系统的这些新特征可以促进人机交互的有效性,并形成人机协同合作。但是,智能系统的这些新特征也带来了不同于传统人机交互的一系列新问题,需要我们采用新思维和新方法来优化人与智能系统之间的交互和协同合作。

2.2 AI 带来的新型人机关系———人智组队

历史上,人机关系的演变一直由技术驱动,而人机关系的演变则推动了人因科学(包括人因工程、人机交互、工程心理学等)的发展。如图 2.1 所示,人机关系从第二次世界大战前的“人适应机器”范式(人机关系的优化主要依赖于对操作员的培训)演变为战后的“机器适应人”范式(人机关系的优化可以通过对机械式机器的人机界面设计来实现),并且完成了从“以机器为中心”理念到“以人为中心”理念的转换。在计算机时代,人机关系继续演变为“人机交互”,即人机关系的优化可以通过对计算机系统的人机界面设计、用户培训等双向方法实现。在人机交互中,非智能计算系统主要承担支持人类作业的辅助工具的作用。

进入智能时代,在智能化人机操作环境中,随着 AI 技术的发展,除了传统的人机交互式人机关系外,智能系统中拥有自主化特征的智能体有可能从一种支持人类操作的辅助工具的角色发展成与人类操作员共同合作的队友,由此,智能技术催生了一种新的人机关系形态,即人与机器(智能系统)可以成为一个合作团队的队友,形成一种“人智组队”(human-AIteaming )式合作的新型人机关系(Brill , Cummings , etal., 2018 ;Shively , Lachter , etal., 2018 ;许为,葛列众,2020 )。因此,智能时代的人机关系可以用“人机交互 + 人智组队”来表征,即智能系统不仅可以作为一种辅助工具,还可以成为人类的合作队友,扮演“辅助工具 + 合作队友”的双重角色(许为,葛列众,2020 )。

智能时代的这种新型人机关系意味着,人与机器之间的关系并非一种机器作为工具式的人机关系,也不是一种竞争或者机器取代人的人机关系,而是一种人机智能互补和协同合作的关系。同时,如第 1 章所述,“以人为中心”的理念在智能时代进一步提升为“以人为中心 AI ”的理念,从而能够更加有效地、有针对性地解决 AI 技术带来的一些新问题。

目前,人智组队正在成为开发 AI 技术的一种新范式( NAS , 2021 ),详细内容请见本书第 11 章。在最新发布的《美国国家 AI 研究和战略计划 2023 更新》中,该计划特别提出了需要开展针对人智组队和合作方面的研究( NITRD , 2023 )。基于人智组队的人智交互既拥有类似于人 - 人之间协同合作的特征,也拥有人智协同合作的一些新特征,这将促进针对人智双向情景意识、人智互信、人智决策和控制共享、人智社会交互、人智情感交互等方面的建模、设计、技术、用户验证等方面的研究。

尽管当前的 AI 技术远未达到有效队友的标准,但是随着 AI 技术的进步,人类和 AI 的合作将越来越密切。因此,从长远角度看,将 AI 视为与人合作的团队队友会促进 AI 技术的发展。基于人智组队的智能系统的整体绩效不仅仅取决于系统内单个成员的绩效,还取决于人机智能互补和协同合作。这种互补和协同合作可以克服每个成员的局限性,并且借助人机混合(融合)智能等技术和方法最大限度地提升整体系统绩效( Xu & Gao ,2023 )。有研究者担心人智组队这种设计新隐喻有可能违背HCAI 理念( Shneiderman , 2021 ),可能会导致人类在组队操作中丧失对 AI 的控制。因此,基于人智组队的智能系统研发必须遵循 HCAI 理念,保证人类对智能系统的最终决控权( Xu& Gao , 2023 )。

2.3  跨学科协同合作的必然性

技术发展的一个基本动力来自跨学科的交叉融合, AI 技术本身的发展也得益于与其他学科的交叉融合,例如,基于认知神经科学的人类神经网络机制。为顺应学科的交叉发展趋势,国家自然科学基金委员会已经于 2020 年成立了交叉科学部。如前所述, AI 技术带来了不同于传统计算技术的新特征,给人 - 智能系统交互带来了不同于传统人 - 非人工智能系统交互的一系列新特征,由此,也给我们提出了应该采用何种方式来有效地应对这些新特征的问题。

为找到针对这些新特征的有效解决方案,我们比较了 AI 学科与人因科学(包括人因工程、人机交互、工程心理学等)的优势和不足之处。针对人 - 智能系统交互带来的一系列变革性特征,表 2.2 概括比较了这两类学科在实现 HCAI 理念上的优劣势( Xu& Dainoff ,2022 ; Xu , Dainoff , Ge , & Gao , 2023 )。如表 2.2 所示, AI 技术带来的一系列变革性新特征给实现 HCAI 理念带来了挑战。重要的是,虽然 AI 类学科与人因科学的方法各有优势和不足之处,但是它们之间具有互补性,这种互补性说明了跨学科合作的必要性,跨学科合作将有助于更加有效地开发以人为中心的智能系统。同时,针对人 - 智能系统交互研究和应用的跨学科合作是广泛的,人因科学只是 AI 学科需要协同合作的学科之一。