The science of the artificialThe science of the artificialBeyond the cloudBeyond the cloud

1969年,人工智能先驱、诺贝尔奖得主赫伯特·西蒙(Herbert Simon)提出了一门新的科学,它研究人造物体就像研究自然物体一样。

“自然科学是关于自然物体和现象的知识,”西蒙写道。“我们想知道是否也不存在‘人工’科学——关于人工物体和现象的知识。”

50年后的今天,来自哈佛、麻省理工、斯坦福、加州大学圣地亚哥分校、谷歌、Facebook、微软和其他机构的一组研究人员再次发出了同样的呼吁。在最近发表在《自然》杂志上的一篇论文中,研究人员提出了一个新的跨学科领域——机器行为——它将通过生物学、经济学、心理学以及其他行为和社会科学的视角来研究人工智能。

研究人员认为,智能机器不能再仅仅被视为工程学和计算机科学的产物;相反,他们应该被视为具有自己行为和生态的新阶层的行动者。

哈佛大学约翰•a•保尔森工程与应用科学学院(SEAS)与乔治•f•柯罗尼大学(George F. Colony)计算机科学教授、论文合著者戴维•帕克斯(David Parkes)就这一新兴领域以及智能机器的未来进行了交流。

Q&

大卫·帕克斯

长久以来,对人工智能和智能机器的研究一直局限于计算机科学领域,而制造这些机器的研究人员正是研究它们行为的人。为什么重要的是扩大研究范围,包括新的领域,包括行为和社会科学?

帕克斯:首先,智能机器的设计者和建造者,以及研究它们如何使用(或不使用)的人之间的分离,可以为开发和测试关于这些技术性能的正确假设集带来独立的观点。智能机器的研究成为一门行为科学,需要相当不同的专业知识,这也是有实际原因的。另一个观点是,在实验室狭小的空间中开发的系统在“野外”的行为可能会非常不同,当行为成为使用它们的方式的产物时,包括许多不同于其设计者意图的方式。微软的Tay bot(在巨魔“教导”她的仇恨言论后,她开始发布攻击性的推文)就是一个不幸但并不独特的例子。

海:机器行为和计算机科学领域如何共同发展并相互促进?

PARKES:随着计算机科学已经有这样的影响,该领域已经拥抱什么经济学家称之为“实证分析”,也就是说分析基于部署的经验和实验研究,计算系统——万维网的结构,在社交网络上的信息传播,或互动的方式辅导系统,仅举三个例子。智能机器是一种我们需要研究和理解的新型人工制品,我们需要以一种跨学科的方式来实现这一目标,其中包括与社会科学家、人文主义者、伦理学家、法律学者合作的计算机科学家,举几个例子。更广泛地说,对机器行为的研究将受到数据科学进步的影响,包括大规模处理大量不同类型的数据,以及利用概率机器学习和统计方法来梳理因果关系。

sea:你的工作集中在人工智能和经济学的交叉领域。您最感兴趣的机器行为问题是什么?

帕克斯:我对一个研究程序很感兴趣,这个程序研究算法经济中的机器行为,包括定价算法、推荐算法、声誉系统,以及区块链环境。我们已经看到了构成经济系统的许多核心要素走向自动化的轨迹,而机器行为镜头是一个很好的镜头,因为行为是涌现的,这意味着它不仅基于个人互动,还基于社会和经济力量。我想推荐系统,如那些受雇于亚马逊特别有趣和重要的研究,因为这就是我们会看到棘手的问题出现在行为经济学,算法的营销,和伦理
5举例来说,是一个智能推荐系统可以利用“选择效应”来推高收入吗?

海洋:什么是选择集效果?

帕克斯:我给你看一台便宜的、中等价位的、昂贵的咖啡机,你挑一台价格适中的。但是,如果我给你看一台中等、昂贵、超豪华的机器,你会选择……?

海洋:昂贵的一个。

你们培养了亚马逊(Amazon)和微软(Microsoft)等私营企业。专有算法和黑盒算法必须对理解机器行为提出挑战。当我们不知道算法是什么或者不知道机器是如何做决策的时候,我们怎么能理解机器为什么会有这样的行为呢?

帕克斯:有趣的是,算法本身并不需要非常复杂。用于训练深度学习系统的算法,描述了模型的体系结构和训练模型的方式,通常可以用几十行代码来表示(尽管这些代码随后构建在其他较低层代码之上)。训练有素的模型是复杂的,有些神秘莫测,通常被认为是一个“黑匣子”。”但不是绝望,有很多合理的研究方向——例如,要求更简单的模型,坚持一个事后的解释复杂的行为模型,并使用可视化和敏感性分析来理解这些模型的工作方式和测试理论的行为。

相关的

Physics Ph.D. student Julian Kates-Harbeck explains artificial intelligence and fusion energy.

包含太阳

为了通过核聚变寻求清洁、无限的能源,科学家们利用“深度学习”人工智能来预测破坏性的破坏

virtual human 3dillustration on blue circuit board background represent artificial intelligence AI

培养一个更好的医科学生

研究人员正在创造一个能够模仿人类临床决策的人工智能系统

人工智能已经在我们的生活中扮演了如此重要的角色。现在建立这个新的研究领域的重要性是什么?当人工智能的基础已经奠定了这么多的时候,你担心它开始得太晚了吗?

帕克斯:嗯,永远不会太迟,我们只是处于智能机器发展带来的变革浪潮的开端。有必要慎重地向前迈进,以适当的好奇心、创造力和责任感为衡量标准,同时认识到人与机器将继续以新的和意想不到的方式结合在一起。重要的是要认识到科学研究的必要性,这篇综述文章将这个新兴的、跨学科的机器行为领域的线索汇集在一起。

http://petbyus.com/759/