企业微信
悟空CRM  >   公司新闻  >  Bengio等88页新论文:构建有意识的AI

Bengio等88页新论文:构建有意识的AI

悟空软件 阅读次数:240 次浏览

在 AI 领域,「意识」是一个充满争议的话题,很多研究者都会回避关于这个问题的讨论。

这是因为,首先,从定义上来说,科学界和哲学界对于什么是意识以及如何产生意识仍然存在广泛的争议和不同的理论,因此,在 AI 讨论意识很难达成共识,也容易产生混淆;其次,从实现难度来看,理解和模拟意识是一个极其复杂的科学难题,尽管 AI 在很多任务上已经取得了显著的进展,但要理解和复制人类意识的本质仍然是一个巨大的挑战;最后,部分研究者认为,过度关注意识可能导致我们忽视解决实际 AI 挑战的更重要的问题。

在去年年初的一次访谈中,图灵奖得主 Yann LeCun 甚至表示,「意识是一个非常模糊的概念,一些哲学家、神经科学家和认知科学家认为这只是一种错觉(illusion),我非常认同这种观点。」他还认为,「意识是我们大脑存在局限的结果。

图源:《怼完 OpenAI,LeCun 回应:我认为意识只是一种错觉》不过,也有不少研究者选择直面话题,另一位图灵奖得主 ——Yoshua Bengio 便是其中之一。早在 2017 年,Bengio 就在 arXiv 上发布过一篇题名为《意识先验》(The Consciousness Prior)的文章;在 2019 年的 NeurIPS 大会上,Bengio 又发表了题为「从 System 1 深度学习到 System 2 深度学习」的主题演讲,提出深度学习正在从直观的、无意识的静态数据集学习,向具有意识、推理和逻辑的新型架构研究转变。

「在许多科学社区,人们往往会避免谈及跟『意识』有关的概念。但是在过去的几十年中,神经科学家和认知科学家对『意识』的认识更加清晰了。」Bengio 在一次采访中说。

可见,人类对于「意识」的认识是一个「拨云见日」的过程,适当的讨论是必不可少的。因此,最近,Bengio 等人发布了一篇 88 页的系统性的论文,深入探讨了当前主流的意识科学理论以及构建有意识的人工智能系统的可能性。在论文中,他们得出结论:目前,没有哪个人工智能系统是有意识的,包括谷歌的 PaLM-E 等前沿具身智能研究,但构建有意识的人工智能系统没有明显的障碍。

论文地址:https://arxiv.org/pdf/2308.08708.pdf 

但这些结论也引发了一个新的问题:我们真的「想」构建有意识的 AI 吗?

这篇论文由来自哲学、神经科学和人工智能领域的 19 位作者共同完成,一作和通讯作者是来自牛津大学的 Patrick Butlin 和 Center for AI Safety 组织的 Robert Long。

以下是论文的内容简介。

人工智能与「意识」

AI 系统是否具有意识这一问题正变得越来越紧迫。随着 AI 领域以惊人的速度取得进展,领先的研究人员正受到人类大脑中与意识相关的功能的启发,努力增强 AI 的能力。与此同时,令人信服地模仿人类对话的 AI 系统的兴起可能让很多人相信与他们互动的系统是有意识的。

在这篇论文中,作者认为,要想知道 AI 中是否存在意识,最好是通过神经科学意识理论来评估。他们描述了此类著名的理论并探究了这些理论对 AI 的影响。

本文的主要贡献表现在以下几个方面:

首先,论文表明了 AI 中意识的评估在科学上是易于处理的,这是因为意识可以通过科学的方式进行研究,并且研究的发现适用于 AI;

其次,论文利用从科学理论中得出的一系列指标属性,提出了评估 AI 中意识的标准;

最后,论文提供了初步证据,证明使用当前技术可以在人工智能系统中实现许多指标属性,尽管当前 AI 系统似乎没有一个表现出了强烈的意识属性。

不过,作者也表示,他们提出的标准是临时性的,并预计随着研究的继续,包含的指标属性将发生变化。

研究 AI 意识的三个主要原则

具体来讲,作者用于 AI 意识研究的方法主要遵循以下三个原则。

首先,作者采用计算功能主义作为一种工作假设,即执行正确类型的计算对于意识而言是必要且充分的。该理论是心灵哲学的主流立场,不过仍存有争议。作者出于务实的考虑采用了这一假设:不同于其他观点,它意味着在 AI 中,意识在原则上是可能存在的,并且研究 AI 系统的工作原理与确定它们是否可能具有意识相关。这意味着,如果计算功能主义成立,那么考虑其对 AI 意识的影响将会是富有成效的。

其次,作者声称神经科学意识理论具有有意义的实证支持,可以帮助评估 AI 中的意识。这些理论旨在确定对于人类意识必要且充分的功能,而计算功能主义意味着类似的功能对于 AI 中的意识也是充分的。

最后,作者认为,偏理论的方法最适合研究 AI 中的意识,这包括研究 AI 系统是否执行类似于科学理论中与意识相关的功能,然后根据 (a) 功能的相似性、(b) 相关理论的证据强度和 (c) 一个人对计算功能主义的信任来分配信任度。这一方法的主要替代方法是使用意识行为测试,但并不可靠,毕竟 AI 系统可以被训练来模仿人类行为,同时以截然不同的方式工作。

目前,意识科学中存在多种理论,因此作者不支持任何一种理论。相反,他们从意识理论的调查中得到了一系列指标属性。这些指标属性中的每一个都被一个或多个理论认为是意识的必要条件,并且某些指标属性的子集一同存在时就被认为是充分的。然而,作者认为拥有更多指标属性的 AI 系统更有可能具有意识。为了判断现有的或拟议的 AI 系统是否具有意识,我们应该评估它们是否具有或将具有这些指标属性。

具体地,作者讨论的科学理论包括循环加工理论、全局工作空间理论和计算高阶理论等。作者没有考虑集成信息论,因为它与计算功能主义不兼容。他们还考虑了代理与具身成为指标属性的可能性,不过这二者必须根据它们暗示的计算特征来理解。指标属性列表如下表 1 所示。

作者还列出了这些属性所依据的理论,并在文中第 2 章节描述了支持这些属性的证据和论据,详细解释了表中的设想。

在制定了指标属性列表之后,作者在 3.1 节中讨论了如何利用每个指标属性来构建 AI 系统或已经构建的 AI 系统是怎么做的。在大多数情况下,标准机器学习方法可以用于构建拥有此列表中单个属性的系统,尽管需要实验来学习如何构建和训练结合多个属性的功能性系统。

作者表示,现有的 AI 系统(比如使用算法递归的输入模块 RPT-1)显然能够满足列表中的一些属性。其他研究者还实验了旨在实现特定意识理论的系统,包括全局工作空间理论和注意图式理论。

全局工作空间示意图。

在 3.2 节中,作者考虑了现有一些特定的 AI 系统是否拥有上表中的指标属性,包括基于 Transformer 的大型语言模型和 Perceiver 架构,并根据全局工作空间理论进行分析。作者还分析了 DeepMind 的 Adaptive Agent(一个在 3D 虚拟环境中运行的强化学习智能体)、谷歌的 PaLM-E(一个经过训练可以操纵机器人的多模态视觉语言模型)。这些 AI 系统被用作案例研究来说明有关代理与具身的指标属性。但结果并没有表明任何现有 AI 系统是有意识的「有力候选者」。

悟空CRM产品更多介绍:www.5kcrm.com

相关内容

CRM价格多少钱?CRM费用如何确定的?

对于很多使用CRM的朋友而言,及时了解它的价格是很有必要的一件事情,有的用户表示:自己不知道CRM价格多少钱,CRM费用是如何确定的?所以,今天悟空crm就针对CRM的价格和定价方法为大家做说明。▎CRM价格多少钱CRM的定价方式比较多样化,而且也比较灵活,有的可能非常便宜几百上千,有的则可能需要几万十几万元,所以,大家要注意了解CRM的价格影响因素。▎CRM费用如何确定的?第一、CRM厂商品牌。
相关文章

CRM的本质是什么?客户关系管理CRM的核心是什么?

CRM作为一个客户关系管理系统,它的相关情况一直备受企业关注,那么,CRM的本质到底是什么呢?客户关系管理CRM的核心是什么?下面就和悟空CRM一起来看看它的本质与核心。▎CRM的本质是什么?客户关系管理CRM的核心是什么?CRM的本质与核心是企业通过以“客户为中心”的商业策略、方法和技术手段等等系统性的管理和优化跟客户之间的交互和关系,让客户的满意度、忠诚度以及生命周期价值得到提升,从而让企业的
相关文章

为什么CRM系统在银行业很重要?银行CRM选择要点

CRM在银行业有着非常重要的影响,因为有了它以后,可以让银行的日常客户关系管理工作变得简单很多。那么,为什么CRM系统在银行业很重要?后文同时介绍了银行CRM选择要点。▎为什么CRM系统在银行业很重要?1、客户数据管理。银行每天都需要处理很多客户信息,CRM可以集中存储和安全管理相关的数据,同时也能够使用CRM系统就有详尽的客户档案,让银行更好了解客户的需求和行为,从而针对性提供个性化的服务和产品
相关文章

CRM包括哪些方面内容?CRM的核心部分内容

CRM也就是客户关系管理,它是一个以客户为核心的商业概念和先进的计算机软件与硬件的结合,本身涵盖了多个方面的功能和内容,那么CRM包括哪些方面内容?下面就是主要包含的核心部分内容有:1、客户信息管理。它能够帮助收集、存储和更新客户的详细信息,也能够创建客户细分、进行客户分类,从而达到实现个性化营销和服务的效果。2、销售自动化。它有销售线索管理、商机管理和销售预测等等功能,可以实现销售自动化管理工作
相关文章

在线免费CRM系统有哪些?推荐瑞星咖啡使用的品牌

在线免费CRM系统具有随时访问、使用成本低的优点,对于初始公司来说是一个不错的选择。那么在线免费CRM系统有哪些?今天同时推荐了瑞星咖啡使用的在线免费CRM系统品牌——悟空CRM。在线免费CRM系统有哪些?1. 悟空 CRM悟空 CRM是中国著名的市场营销和销售软件提供商,其CRM系统被认为是在线免费CRM市场的领导者之一。它提供了一套功能齐全的工具,包括客户资料管理、销售自动化、业务流程管理等。
相关文章

免费CRM系统哪个好用?腾讯、瑞星咖啡使用的品牌

CRM系统是企业的基础办公软件,有提高工作效率,提高客户满意度与忠诚度,提高销售收入,降低企业运营成本的作用。那么免费CRM系统哪个好用?今天介绍的是好用免费的CRM系统,腾讯、瑞星咖啡使用的品牌--悟空CRM。▎1、市场充分的肯定悟空CRM是中国著名CRM品牌,系统累计使用下载量200万+,中国著名的公司腾讯、OPPO、中兴、瑞星咖啡、携程网、央视网、中国重汽集团等都在使用,获得了市场的充分的肯
相关文章

国内最好的CRM软件,瑞星咖啡使用的CRM软件品牌

在选择CRM软件时候,很多人都希望自己可以选择到国内最好的CRM软件,因为他们认为只有这样的软件才能够更好为自己提供CRM管理服务。但是,国内最好的CRM软件是什么呢?瑞星咖啡秉持使用的CRM软件品牌是哪个呢?国内最好的CRM软件是悟空CRM,瑞星咖啡使用的CRM软件品牌也是它,所以,如果希望可以选择到好的CRM系统,可以考虑选择它来满足自己的需求,那么,悟空CRM系统到底有什么好处呢?1、它得到
相关文章

CRM工具有哪些?CRM工具的作用与好处

CRM工具对于公司的销售是非常重要的,那么目前市场上主要的CRM工具有哪些?CRM工具的作用与好处有哪些?下面就是目前市场上最主要的三款CRM工具,以及CRM工具的作用与好处介绍。▎CRM工具有哪些?1、悟空CRM悟空CRM是一款著名的CRM工具,中国著名的公司腾讯、蜜雪冰城、携程网、央视网、OPPO、中兴等都在使用,拥有十一年专业开发CRM工具系统的行业经验。它有CRM系统、人力资源系统、财务系
相关文章

CRM销售系统开发公司选择哪家?推荐OPPO使用的厂商

CRM销售系统是企业基础办公软件,对于企业核心竞争力有着不可替代的重要作用,同时可以提高工作效率,提高企业运营效率。那么CRM销售系统开发公司选择哪家?推荐OPPO使用的CRM销售系统开发厂商。▎CRM销售系统开发公司选择哪家?CRM销售系统开发公司要选择具有专业开发经验的公司,如开发CRM系统历史比较久,持续的迭代更新,有大品牌选择的CRM销售系统开发公司,以及拥有专利技术和稳定的售后服务团队,
相关文章

CRM技术最新的有哪些?CRM技术的要点有哪些?

了解最新的CRM技术可以让企业选择到更适合自己企业需求的客户关系管理系统,所以,很多人都希望可以对最新的相关技术情况做了解。那么,CRM技术最新的有哪些呢?CRM技术的要点有哪些?下面一起来看看答案。▎CRM技术最新的有哪些?1、人工智能和机器学习。它可以利用人工智能技术对客户进行分析和预测,也能够把智能助手和聊天机器人应用在客户服务和销售支持当中,从而让响应速度和用户体验更好,它也有自动化的客户
相关文章
最新文章

CRM价格多少钱?CRM费用如何确定的?

对于很多使用CRM的朋友而言,及时了解它的价格是很有必要的一件事情,有的用户表示:自己不知道CRM价格多少钱,CRM费用是如何确定的?所以,今天悟空crm就针对CRM的价格和定价方法为大家做说明。▎CRM价格多少钱CRM的定价方式比较多样化,而且也比较灵活,有的可能非常便宜几百上千,有的则可能需要几万十几万元,所以,大家要注意了解CRM的价格影响因素。▎CRM费用如何确定的?第一、CRM厂商品牌。
最新文章

CRM的本质是什么?客户关系管理CRM的核心是什么?

CRM作为一个客户关系管理系统,它的相关情况一直备受企业关注,那么,CRM的本质到底是什么呢?客户关系管理CRM的核心是什么?下面就和悟空CRM一起来看看它的本质与核心。▎CRM的本质是什么?客户关系管理CRM的核心是什么?CRM的本质与核心是企业通过以“客户为中心”的商业策略、方法和技术手段等等系统性的管理和优化跟客户之间的交互和关系,让客户的满意度、忠诚度以及生命周期价值得到提升,从而让企业的
最新文章

为什么CRM系统在银行业很重要?银行CRM选择要点

CRM在银行业有着非常重要的影响,因为有了它以后,可以让银行的日常客户关系管理工作变得简单很多。那么,为什么CRM系统在银行业很重要?后文同时介绍了银行CRM选择要点。▎为什么CRM系统在银行业很重要?1、客户数据管理。银行每天都需要处理很多客户信息,CRM可以集中存储和安全管理相关的数据,同时也能够使用CRM系统就有详尽的客户档案,让银行更好了解客户的需求和行为,从而针对性提供个性化的服务和产品
最新文章

快速注册,立即使用

仅需一分钟,立即注册悟空云。悟空CRM免费试用。
客户端下载