自动驾驶人机信任困局:真实场景研究如何 “破局”?
创始人
2025-04-15 11:01:06

转自:科创中国

自动驾驶技术大规模部署面临技术、法规、信任等挑战。人机共生理念有助于推动自动驾驶技术发展。本文旨在通过深度合作和相互理解,克服技术、法规、信任等挑战,提高用户信任,优化系统设计,实现人机深度交互和共生。研究结果显示,SAE Level4的自动驾驶车辆未通过此图灵测试。人机交互设计和真实场景研究在增强用户对系统的信任和推动技术应用方面至关重要。未来研究应关注真实场景中的人机信任和用户体验,以优化自动驾驶系统设计,提高技术的接受度。技术的发展将进一步推动人机关系演变,而深度的人机交互和用户信任感将是实现人机共生的关键因素。

目录

1、自动驾驶的图灵测试与人机共生

1.1 计算机图灵测试与人机共生

1.2 自动驾驶中的图灵测试

1.3 图灵测试的类人性归因

2、自动驾驶的人机交互与人机共生

2.1 自动驾驶中的人机交互

2.2 自动驾驶中的人机交互与人机信任

2.3 迈向真实场景中的人机信任与人机共生

3、结论与展望

技术革命推动着世界的不断发展,人类创造了技术,技术也在塑造着人类。1960年,约瑟夫利克莱德提出人机共生概念,强调人类与计算机系统的合作关系。随着人工智能快速发展,这种人机关系将如何演变?

道路交通事故每年导致超百万人死亡,94%由人为错误引起。自动驾驶车辆(AVs)可降低人为错误,AI算法能更快做出驾驶决策。尽管自动驾驶技术取得进展,但大规模部署尚未实现。除安全性外,法律法规、技术可靠性、用户体验等问题影响人们对自动驾驶的信任。

为实现自动驾驶领域的人机共生,促使人们接受并适应自动驾驶技术,需要大力发展可信自动驾驶技术,涉及人机深度交互的发展,增进人们对自动驾驶的信任,从而推动该技术的广泛应用。

1、自动驾驶的图灵测试与人机共生

1.1 计算机图灵测试与人机共生

1950年,Alan Turing提出图灵测试,用于判断人工智能是否能表现出与人类智能相似的思维能力。在测试中,人类质询者通过书面提问区分计算机程序与人类回答,若无法确定答案提供者,计算机程序则通过测试,意味着它能以难以区分的方式与人类对话,展现类似人类智能的能力。不过,图灵测试只是测试计算机程序模仿人类语言能力的形式,不代表其真正具备智能。

图灵测试的理论基础是人类评审员在比较和评估来自不同系统的输出时,会公正地对待这些输出,而忽略这些输出的来源。图灵测试的目标之一是测量计算机系统能否表现得像人类一样,反映了计算机系统在人机交互中的深度和自然性。人机共生强调人机深度合作和相互依赖,追求人类与计算机系统形成共同体,共同实现更高层次的智能目标。通过图灵测试的计算机系统能获得更高信任,进而推进人机共生的实现。

1.2 自动驾驶中的图灵测试

图灵测试在人工智能的各个领域都得到开展。Cascetta等提出自动驾驶的图灵测试方法,研究美国汽车工程师学会(SAELevel 2自动驾驶车辆的类人性,结果发现自动驾驶程序骗过了乘客。Zhang等采用驾驶模拟器评估自动驾驶算法的类人性。

为从乘客角度衡量自动驾驶车辆的类人性,Li等开发了基于真实乘车体验的非言语图灵测试。69名乘客在SAE Level4自动驾驶汽车中,根据乘车体验判断驾驶员是人类还是AI。结果显示,人工智能驾驶员未能通过测试,乘客能察觉并区分人类驾驶员和人工智能驾驶员。但某些试次中AI能欺骗乘客,这为未来设计提供了启示。

1.3 图灵测试的类人性归因

针对图灵测试的类人性归因,提出一个富有启发性的研究问题:在非言语图灵测试中,人类乘客如何对机器系统的类人性进行归因?乘客对类人性的归因可能受情感状态、认知推断和外部刺激影响,可用场论描述。场论指出,一个人的心理场(即个体的主观体验的总体心理环境)决定了其行为(B),可以用勒温方程表示

式中,B代表类人性评级行为,PE分别表示乘客和驾驶环境。研究结合信号检测理论(SDT)与预训练语言模型(PLMs)计算该公式。结果表明该模型能准确预测乘客在非言语图灵测试中的类人性评级行为,情感变化量是乘客主观乘车体验的关键部分,影响其对类人性的归因。

2、自动驾驶的人机交互与人机共生

2.1 自动驾驶中的人机交互

人机交互(HCI/HMI)指人类用户与计算机系统或机器设备之间的相互作用过程,涵盖设计开发用户友好界面、交互技术和工具,以实现有效沟通、操作和信息交换,创造优质用户体验。

在自动驾驶领域,人机交互指人类乘客、驾驶员与自动驾驶系统,以及路上行人与自动驾驶车辆之间的互动过程。由于自动驾驶系统负责车辆的控制和决策,人机交互对确保安全、有效协作和优质用户体验至关重要,需要解决,包括系统的信息传递和状态显示、控制权的交互和交替、紧急情况下的控制接管、用户信任和监控、交互式人机界面设计、乘客的情感和舒适性等关键问题。从乘客角度考察对自动驾驶的判断和感受,是未来研究可关注的方向。

2.2 自动驾驶中的人机交互与人机信任

人机信任涉及用户对计算机系统或机器设备的信任程度,良好的人机交互有助于建立和增强用户对系统的信任。当用户能轻松、直观地与系统交互并获得满意的用户体验时,更易产生对系统的信任感。

人机信任也是自动驾驶技术推广的重要因素。目前大多数自动驾驶车辆并非类人型,研究表明类人驾驶方式可提高人们对自动驾驶车辆的接受度,让人们更易与之互动且感觉舒适。许多算法研究人员提出感知风险的类人驾驶轨迹复杂算法,旨在增强自动驾驶车辆的类人性。未来研究应通过人机交互增强人机信任,解决自动驾驶系统的适应性、透明性、灵活性等方面的基础问题,提高用户参与感和情感体验,涉及技术与心理学交叉融合。此外,自动驾驶系统应适应不同用户,未来还应考察个体人格和心理特点,实现精准人机共生。

2.3 迈向真实场景中的人机信任与人机共生

目前多数研究依靠实验室环境中的模拟实验或在线调查来研究驾驶员、乘客或行人对类人自动驾驶车辆的反应,鲜有研究提供真实乘车体验并从乘客角度评估类人性。探索真实场景中的人机信任对于推动自动驾驶的人机交互技术的发展和应用,以及确保技术的可靠性和用户满意度等方面都具有重要意义,这种深度交互形式也将促进人机共生的发展。

3、结论与展望

当今世界技术发展日新月异,而人机共生作为一种新型的人机关系理念,正日益受到关注。在交通领域,尽管自动驾驶技术的发展为解决严重道路交通事故问题提供了希望,但人类对自动驾驶的信任仍十分有限。为实现自动驾驶领域的人机共生,需要大力发展可信自动驾驶技术。本文通过基于乘客乘车体验的非言语图灵测试探索了一种人机深度交互的可能性,以及自动驾驶类人性的影响因素。

在人机交互领域,尤其是在自动驾驶中,设计合理的人机交互界面是关键。对自动驾驶类人性的增强有助于建立和增强用户对系统的信任,而人机信任也直接关系到人机互动过程的安全性和可靠性。未来的研究方向应更多关注真实场景中的人机信任与人机共生,通过深入研究用户在实际环境中的需求和感受,优化自动驾驶系统的设计和交互方式,以推动自动驾驶技术更广泛地服务社会。

综上所述,技术的发展将继续推动人机关系的演变,而在实现人机共生的道路上,深度的人机交互、合理的人机界面设计,以及用户对技术的信任感将是关键因素。通过不断优化自动驾驶技术,使其更符合人类需求和期望,有望迎来自动驾驶技术更广泛、深度应用的时代。

本文作者:库逸轩,中山大学心理学系,教授,研究方向为记忆与情感的神经机制及临床转化。

特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。

相关内容

热门资讯

四中全会精神在基层|湖南浏阳:... 转自:新华社田埂上,新铺设完工的灌溉管网开闸,水流喷涌而出。“这块地土壤肥沃,今年除了粮食增产,每亩...
四年84名大学生接力文艺支教 为提升基层特别是农村教师的专业能力和辅导水平,河南省文明办、省教育厅、省文联近年来联合启动“快乐成长...
“她是我唯一的牵挂”,91岁老... 近日,河南郑州91岁王先生告诉记者,老伴生病8年一直是他在照顾,如今老伴去世5年,自己也找了一位50...
始于热爱 归于真诚 在元树巷的小区内,藏着一家充满烟火气的中国福利彩票店。它不临主街,不占喧嚣,却在邻里口耳相传中默默扎...
“数九”,因何从冬至开始? “一九二九不出手,三九四九冰上走……”一首“数九”歌谣,是很多人熟悉的童年回忆。冬至节气一到,“数九...