王小凤 金潇阳 翻译
1导言
许多研究长期以来一直在讨论在预测某些结果方面什么更优越:统计方法还是人脑。人工智能领域的显著技术进步一再引发了这场辩论，例如解决对象和语音识别等任务，通过深度学习算法实现准确性的显著提高(Goodfellow等人，2016年)，或者结合各种计算智能方法，如模糊逻辑、遗传算法和基于案例的推理(Medsker，2012年)。这些进步背后隐含的承诺之一是，有一天机器将能够执行复杂的任务，甚至在执行这些任务上可能取代人类。这引发了关于机器最终何时会取代人类的新一轮激烈辩论(McAfee和Brynjolfsson，2017)。虽然先前的研究已经证明，人工智能在一些明确定义的任务中表现良好，例如下象棋、下围棋或识别图像上的对象，但人们怀疑能够同时解决多个任务的人工智能(AGI)的发展能否在不久的将来实现(例如，Russell和Norvig 2016)。此外，使用人工智能来解决组织结构中的复杂业务问题的情况很少发生，并且用于解决复杂问题的人工智能应用程序主要停留在实验室环境中，而不是在实践中实现。
由于通往AGI的道路仍然漫长，我们认为未来几十年人类和机器之间最有可能的分工模式是混合智能。这一概念旨在利用人类智能和人工智能的互补优势，使它们能够比两者分别表现得更好(例如，Kamar 2016)。
2 概念基础和混合智能的含义
在详细讨论混合智能之前，我们首先要描述这个概念和相关但仍然不同的智能形式之间的区别。
2.1情报
智能一词的各种定义和维度(如社会、逻辑、空间、音乐)存在于多个研究学科中，如心理学、认知科学、神经科学、人类行为、教育或计算机科学。为了我们的研究目的，我们使用一个包含性和通用的定义来描述一般智能。它是在环境中完成复杂目标、学习、推理和适应性地执行有效行动的能力。这通常可以包含在获取和应用知识的能力中(Gottfredson 1997)。虽然智能最常用于人类(以及最近的智能人工智能)，但它也适用于动物的智能、目标导向的行为。
2.2人类智能
与人类物种相关的智力子维度定义了人类的精神能力。在最全面的层面上，它涵盖了在现有知识的基础上，在环境中学习、推理和适应性地执行有效行动的能力。这使人类能够适应不断变化的环境，并朝着实现目标的方向行动。
虽然关于智力的一个假设是存在所谓的“g因子”，它表明了对一般智力的一种衡量(布兰德1996)，但认知科学领域的其他研究探索了与个体进化经验相关的智力。这意味着，人类不再拥有一般形式的智力，而是变得更加有效地解决在熟悉的情境中出现的问题(韦克斯勒1964)。
另一种关于智力的观点认为，一般的人类智力可以细分为专门的智力组成部分，如语言、逻辑数学数学、音乐、动觉、空间、社会或存在智力(加德纳2000)。
综合这些关于人类智力的观点，斯特恩伯格(1985)提出了智力的三个独特的维度:成分、情境和经验。智力的成分维度是指人类的某种个人(一般)技能集。智力的经验维度指的是一个人通过进化经验学习和适应的能力。最后，智力的情景维度定义了大脑在特定情况下归纳理解和行动的能力，以及做出选择和修改这些情境的能力。
2.3集体智慧
另一个相关的概念是集体智慧。根据马龙和伯恩斯坦(2015年，第3页)的说法，集体智慧是指“[……]以看似聪明的方式集体行动的个人群体”。尽管“个人”一词有解释的余地，但是这一领域的研究人员通常引用群体智慧的概念，因此，是人类个体智能的综合(Woolley等人，2010)。这个概念描述了，在一定条件下，一群普通人可以胜过群体中的任何一个人，甚至一个专家(莱梅斯特，2010)。集体智慧的其他众所周知的例子是生物学中发现的现象，例如，一群鱼突然转向以增强保护，抵抗捕食者(Berdahl等人，2013年)。这些例子表明，集体智能通常是指大群同质个体(即人或动物)，而混合智能结合了异质智能体(即人和机器)的互补智能。
2.4人工智能
与机器相关的智能分支被称为人工智能。用这个术语来说，我们指的是执行“[……]活动的系统，这些活动是我们与人类思维相关联的，例如决策、问题解决、学习[……]”(Bellman 1978，第3页)。它大体上涵盖了创造能完成复杂目标的机器的想法。这个概念背后的基本思想是，通过应用机器学习技术，系统变得能够分析其环境并适应该环境中的新环境。这方面的例子有对象识别、问题解决或自然语言处理(Russell和Norvig 2016)。该领域的其他研究流将人工智能视为“[……]智能行为的计算代理的综合和分析[……]”(Poole和Mackworth，2017，第3页)。此外，人工智能可以被描述为具有复制人类思维的总体目标，将它定义为“[……]创建机器以执行人们需要的智能功能的艺术[……]”(库兹韦尔1990，第117页)。人工智能在实现人类智能方面的表现可以通过图灵测试来衡量。这项测试要求人工智能程序在基于文本的对话中模拟一个人。然而，由于通用智能的多面性，这种能力可以被视为人工通用智能的充分非必要的标准(塞尔1980)。
综合这一领域的各种定义，人工智能包括一些要素，如人类解决领域无关问题的能力，将高度专业化和更广泛化的智能相结合的能力，从环境中学习并与其他智能系统或人类教师互动的能力，这使得智能代理通过经验提高解决问题的能力。
为了在智能代理中创建这样一种人工智能，存在多种方法，这些方法或多或少地与智能的理解和复制有关。例如，认知计算领域“[……]旨在开发一种受大脑能力启发的连贯、统一、通用的机制。[……]我们寻求实现一个统一的头脑计算理论[……]' '(Modha等人，2011年，第60页)。因此，跨学科研究团队依靠人类学习的****来创造“[……]像人一样学习和思考的机器”[……]”(Lake等人，2017，第1页)。
3人类和人工智能的互补优势
混合智能理念背后的基本原理是，人类和计算机具有互补的能力，可以结合起来相互增强。人工智能和人类智能可以轻松完成的任务是截然不同的。这一事实被称为莫拉维克悖论(Moravecs paradox)(1988年，第15页)，该悖论指出:“[……]使计算机在智力测试或玩跳棋时表现出成人水平的表现相对容易，而在感知和移动性方面很难或不可能赋予它们一岁儿童的技能[……]”。对于在人工智能中难以实现的人类常识来说，更是如此(莱克等人，2017年)。
这可以用两种不同类型的认知过程的分离来解释(卡尼曼，2011)。第一个，系统1，是快速的、自动的、情感的、情感的、立体的、潜意识的，它利用了人们可能称之为人类直觉的东西。第二个，系统2，相当努力，有逻辑，有意识，理想情况下遵循概率论的严格理性规则。在人类和人工智能能力互补的背景下，人类已经被证明在各种需要系统1思维的环境中表现出优越性。人类是灵活的、有创造力的、有同情心的，能够适应各种环境。例如，这使得人类领域的专家能够处理偏离当前已知概率分布的所谓“断腿”预测。然而，它们受到约束理性的限制，约束理性阻止它们完美地聚集信息并从中得出结论。另一方面，机器尤其擅长解决需要快速处理大量数据的重复性任务，擅长识别复杂模式，或者根据概率论的一致规则权衡多种因素。长期的研究传统已经证明了这一点，表明机器在这些应用领域中的优越性。即使在非常简单的精算模型中，他们在不确定性下做出预测的能力也优于人类专家(Meehl 1954)。图1总结了两种类型的思维以及人类和机器各自的优势。
人类和机器的这些互补优势(见图1)导致了两种不同形式的相互作用，即人工智能处于人类智能的循环中，通过提供预测来改进人类的决策；而人类智能处于人工智能的循环中，人类智能是一种经常用于训练机器学习模型的形式。
图1人和机器的互补优势
3.1人类智能循环中的人工智能
目前，在典型的商业环境中，人工智能应用于两个领域。首先，它用于自动化可以由机器单独解决的任务。虽然这经常与对机器接管工作并使人类在未来过时的恐惧有关，但它也可能允许机器解决人类不想自己完成的任务。其次，人工智能通过提供某种预测来为人类提供决策支持。这包括从构造数据，进行预测，例如在金融市场，甚至预测最佳的超参数集来训练新的机器学习模型(例如自动学习)。由于人类经常违反概率规则，从而做出不一致的决策，因此人工智能被证明是帮助人类做出更好决策的有价值的工具(阿格沃尔等人，2018年)。在这种情况下，目标是提高人类决策的有效性和效率。
在人工智能为我们提供输入并进行评估以做出决定的环境中，人类和机器充当队友。例如，通过处理患者数据(如计算机断层扫描)，人工智能可以帮助人类医生对疾病(如癌症)进行预测，从而使医生能够从额外的指导中学习。在这篇文章中，混合智能方法允许人类专家利用人工智能的预测能力，同时使用他们自己的直觉和同理心从人工智能的预测中做出选择。
3.2人工智能循环中的人类智能
另一方面，人类智能在机器学习和人工智能的循环中也起着至关重要的作用。特别是，人类在机器学习过程的几个部分提供帮助，以支持人工智能独自解决不了的任务。在这里，人类最常用于生成算法(例如，超参数设置/调整)、训练或调试模型以及理解无监督方法(例如数据聚类)。
在这种情况下，人工智能系统可以从人类输入中受益和学习。这种方法允许在人工智能中集成人类领域知识来设计、补充和评估人工智能的能力(Mnih等人，2015年)。这些应用中的许多是基于监督和交互式学习方法，并需要大量由人类提供的标记数据(Amershi等人，2014年)。这种方法背后的基本原理是，人类充当训练人工智能的老师。同样的机器教学方法也可以在强化学习领域找到，例如，使用人类游戏作为初始训练机器人的输入。在这种情况下，人类的智能就像老师一样，增强了人工智能。混合智能允许按需将计算任务分配给人类智能(例如，通过众包)，以最大限度地减少当前人工智能系统的缺点。当只有很少的数据可用时，这种人在回路中的方法特别有价值。此外，当预先训练的模型需要适应特定的领域时，或者在已经使用了人工注释的环境中，可以使用它们。
由于人工智能循环中的人类智能最常应用于最初建立模型的环境或研究领域，因此目标是使人工智能更加有效。图2总结了混合智能中的角色分布。
图2混合智能中的角色分布
4 定义混合智能
另一种方法是将人类和人工智能结合起来。这背后的基本原理是互补的异质智能(即人类和人工智能)的结合，以创建能够克服当前(人工)智能局限性的社会技术集成。这种方法既没有关注人工智能循环中的人类智能，也没有关注通过机器学习自动化简单任务。相反，重点在于通过在不同的异质算法和人类代理之间有意地分配任务来解决复杂的问题。人类和这些系统的人工智能体都可以通过学习来共同进化，并在系统层面上取得更好的结果。
根据德尔曼等人(2019年)的说法，我们将这一概念称为混合智能，它被定义为通过将人类和人工智能相结合来实现复杂目标的能力，从而达到优于他们各自单独完成的结果，并通过相互学习来不断提高。这个定义的几个核心概念值得注意:
l 全体地 混合智能涵盖了集体执行任务的事实。因此，每个代理人的行为都是有条件的。然而，他们的目标不一定总是一致的，以实现共同的目标，例如当人类在玩游戏时教授人工智能对抗策略。
l 卓越的结果 这定义了一个特殊的事实，即社会技术系统在特定的任务中实现了一种性能，这是任何一个相关的代理人(无论是人还是人工的)在没有其他代理人的情况下都无法实现的。因此，目标是通过实现以前无法解决的目标，使结果(如预测)在社会技术系统层面上更加高效和有效。这将混合智能与人在回路机器学习的最常见应用进行了对比。
l 持续学习 混合智能的一个核心方面是，随着时间的推移，这个社会技术系统无论是作为一个整体还是单个组件(即人和人工智能)都会得到改善。这一方面表明他们通过经验相互学习。因此，混合智能系统的性能不仅可以通过整个社会技术系统的优越结果来衡量，而且还必须考虑作为系统一部分的人和机器智能体的学习（即性能提高）。
图3显示了混合智能在相关研究领域的概念整合以及本文前面讨论的概念。
图3混合智能的概念整合
最近的一个例子为混合智能的潜力提供了一个惊人的指标，那就是深度思维阿尔法围棋。为了训练玩游戏的人工智能，使用了一种监督学习方法，从专家的人类动作中学习，从而通过人类输入来增强和改善人工智能，这使得AlphaGo能够随着时间的推移实现超人的性能。在与各种人类世界级玩家的游戏中，AlphaGo玩了几个高度创造性的动作，这些动作以前是人类无法想象的。因此，AlphaGo也能够增强人类的智力，并以某种方式在一个人类历史上研究时间最长的游戏中教给专业玩家全新的知识(Silver等人，2016年)。
相信玩家或多或少都受到了阿尔法教授的影响。AlphaGo的游戏让我们感觉更自由，任何移动都不可能再玩了。现在大家都在尝试一种以前没有尝试过的打法。——周瑞阳，9丹职业，世界冠军
通过混合智能解决问题提供了在人类和人工智能体之间分配任务的可能性，并通过聚集其部分的输出故意在社会技术系统级别上实现优越的结果。此外，随着时间的推移，这种系统可以通过各种机制相互学习来改进，例如标记、演示、教授对抗性动作、批评、奖励等。当人和机器可以在比游戏复杂得多的任务中相互学习时，这将使我们能够增强人类的思维和人工智能，并扩展应用程序:例如，战略决策、管理、政治或军事决策、科学，甚至导致人工智能未来自我复制的人工智能开发。因此，混合智能提供了一个机会，在迄今为止似乎是人类智力核心的任务中达到超人水平的表现。
5 混合智能的优势
这种混合方法为人工智能时代的人类提供了各种优势，例如在复杂的领域产生新的知识，使人类能够从人工智能中学习并在没有任何社会互动的情况下，将经验丰富的专家的隐性知识传授给新手。另一方面，人工教学方法通过确保人工智能基于人类可以解释的标准进行推理，使得控制学习过程成为可能——这一事实对于人工智能在许多现实应用中的采用和人工智能的安全至关重要，并且使得排除种族主义等偏见成为可能(Bostrom 2017)。此外，这种混合方法可能允许更好地定制人工智能，基于在交互过程中学习人类的偏好。最后，我们认为，人类和智能代理之间的混合智能服务的共同创造可能会产生一种心理上的所有权感，从而增加接受度和信任度。
6 BISE社区的未来研究方向
随着技术的不断发展，机器学习和混合智能的重点正转向现实世界商业环境中的应用，但解决复杂问题将成为下一个挑战。管理环境中的这种复杂问题通常是时变的、动态的，需要大量的领域知识，并且没有具体的基础事实。这些高度不确定的环境需要直觉和分析能力，以及人类的优势，如创造力和同理心。因此，我们提出了三个具体但又相互关联的方向来进一步发展BISE领域的概念，重点是社会技术系统设计。
首先，对人工智能缺乏信任是采用人工智能最具挑战性的障碍之一。此外，我们需要记住，我们不应该以最大化对人工智能的信任为目标，而是应该在信任和不信任之间找到平衡，从而有可能利用人工智能的潜力，同时避免因过度依赖人工智能而产生的负面影响(李和见2004)。我们相信混合智能领域的研究人员可以克服这一挑战，因为将人类输入集成到人工智能系统中的一个关键要求是以人类可以理解和处理的方式翻译系统的状态和需求，反之亦然。例如，半主动驾驶要求人工智能感知人的状态，以便在自己和驾驶员之间分配任务。此外，它需要检查以人为中心的人工智能体系结构，例如，平衡底层模型的性能和它的性能。然而，用于开发用户界面的特定领域设计指南仍然缺失，这些指南允许人类理解和处理人工系统的需求。因此，我们认为需要更多的研究来开发更合适的人工智能界面以及调查允许人类助手教授人工智能系统的可能任务和界面设计(例如，Simard等人，2017)。确保机器学习模型的可解释性和透明性，同时保持其准确性，是混合智能研究中最关键的挑战之一，因为它是建立对人工智能适当信任的关键基础之一。谷歌大脑的人+人工智能研究小组最近对此进行了报道，这表明了学术界和实践的高度相关性。
其次，混合智能领域的研究可能会调查什么样的治理机制可以用来培训和维护混合智能系统。此类任务经常需要领域专业知识(例如，医疗保健)，因此，系统设计人员需要专注于将专家与任务明确匹配，汇总他们的输入并确保质量标准。因此，我们认为，进一步研究哪种治理机制可能适用于混合智能系统可能是一个富有成效的研究领域。此外，人类教师可能有不同的动机向系统致敬。因此，该领域的研究试图阐明如何为预定任务设计最佳激励结构的问题。特别是，当需要高学历和高技能的专家来增强人工智能系统时，问题就来了，微任务平台(例如，金钱奖励)或在线社区(例如，社会奖励)的传统激励是否足够。
未来研究的第三个途径与数字工作机制有关。人工智能的兴起正在极大地改变信息系统的能力以及人类和信息系统之间潜在的任务分配，因此影响了我们学科的核心。这些变化为员工创造了新的资格要求和技能组合，从而为信息系统教育提供了有希望的方向。这样的研究可能会检验在未来工作空间中人工智能使用民主化的教育要求。最后，混合智能还为新形式的数字工作提供了巨大的可能性，例如内部群体工作，以利用公司内部跨职能部门专家的集体知识。