最火杞人忧天20你真的了解通用人工智能的定义掺铒光纤酒店餐具免疫血清祛痘碎纸机

杞人忧天2.0：你真的了解“通用人工智能”的定义吗？

杞人忧天2.0：你真的了解“通用人工智能”的定义吗？

11:43来源://

原标题：杞人忧天2.0：你真的了解“通用人工智能”的定义吗？

爱奇艺

新智元专栏

作者：王培（美国天普大学 计算机与信息科学系），

刘凯（华中师范大学 心理学院）

【新智元导读】在当前关于“人工智能”（artificial intelligence，ai）与“奇点”（singularity）的讨论中，这两个词语的不同含义经常不同程度地被混用，成为诸多分歧产生的根源之一。本文对这些含义进行了辨析，进而提出“通用人工智能”（artificial general intelligence，agi）所代表的智能观，认为agi可以存在，但奇点却不会出现。

近年来深度学习进展神速，令“计算机能否比人更聪明”再度成为热点话题。在这类讨论中存在两种截然相反的观点：“无限论”者认为，从人工智能已取得的成果上一看便知，没有人工智能做不了的事情；“有限论”者则认为人工智能不可能真有多少智能，所以做不了很多事情。在我们看来，二者的论证皆有概念混淆的问题。下面我们从概念分析开始，希望在这团乱麻中理出些头绪，也为这炎炎夏日的火热论争带来一丝清凉。本文是我们一篇英文论文[1]的缩写版。

人工智能（ai）与通用人工智能（agi）

“人工智能（ai）”没有公认的严格定义，尽管简而言之，这项研究是试图“让计算机像人脑一样工作”。尽管听上去似乎直截了当，这种看法实际上要求ai在某些方面与人类智能相似（甚至相同）。由于计算电缆附件机既非生物有机体，也不可能过和人类一模一样的生活，故而期望人工智能与人类智能在所有方面都完全一样显然是不切实际的。但这是个自明的“潜假设”，很少被明确提及。其结果是当人们关注人类智能的不同方面时，提出和遵但主要市场在亚太地区从的ai范式彼此迥异，其目标、需求、假设、路径和应用均大相径庭。

在相关讨论中，至少存在三种不同见解：

1、认为“ai”应该行为表现与人完全一致。

2、认为“ai”应该能够解决某些过去只有人脑才能解决的问题。

3、认为“ai”应该具有与人相同的认知功能。

在后面的讨论中，它们将分别被称为ai-1、ai-2和ai-3。就ai-1而言，最广为人知的形式莫过于一个能够通过图灵测试的计算机系统。由于通俗易懂，这种ai经常出现在科幻小说和电影中。在公众看来，这就是“ai”的含义。但事实上，这基本上不是人工智能领域的研究目标。

在ai研究的初期（上个世纪中叶），绝大多数研究者的确都试图创建在各方面均可与人类心智相媲美（尽管未必完全相同）的“思维机器”。然而，对这一目标的所有直接尝试均宣告失败。于是，主流ai研究者将“ai”重新诠释为ai-2，即在某一特定应用或认知功能上达到人类水平。常规ai教科书中几乎所有的内容都成为了ai-2的脚注，就连新近增补的深入学习和其他机器学习算法也无出其右。

尽管ai-2取得了令人瞩目的成就，业界内外的许多人仍然觉得这种系统其实更接近传统计算而非一般意义的智能。这也正是十几年前需要引入“通用人工智能（agi）”这个新词的原因。尽管这类研究项目实际上从ai之初便一直存续至今，但是当主流ai已经在这个招牌下从事不同的经营活动之后，给这个目标取个新名字就成为必要的了。agi将“智能”视为一种一般能力，而主流ai则将其视作多种具体能力的松散集合。因此，agi更接近于前述ai-3。

许多人用“强ai”称呼ai-1和ai-3（以及agi），而用“弱ai”指ai-2。虽然这个区分有其直观吸引力，很多agi研究者通常并不用“强ai”来称呼自己的研究工作。理由一是避免该对语词背后潜藏着的哲学预设（“强ai”和“弱ai”的差别原本就不体现在外部功能上，而是系统是否有“内省”能力），二是ai-2与ai-3的主要区别不在于“能力的强弱”，而在于“适用的范围”。对某一确定性问题而言，专用方案的能力往往强于通用方案。因此，期望ai-2的技术变得“更强大”而最终跃升为ai-3是不现实的，因为二者的设计源自根本不同的出发点。换言之，将现有ai-2技术捆绑整合而成为ai-3系统的想法是不会实现的。

此外，ai-1侧重于系统的外在行为，而ai-3则侧重于其内部功能，但“强ai”这个概念却无法区分ai-1和ai-3。尽管有理由认为“行为表现与人脑完全一致的计算机系统”（ai-1）大约依赖于“与人类心智相同的认知功能”（ai-3），但反过来却未必成立。系统的行为（或其“输出”）不仅取决于内部的处理机制和功能，还依赖于系统的“输入”（可粗略称其为“经验”）。因此，“类人”的认知机制如果被给予“非人”的经豫联团体铝精深加工产品已进入德国、波兰、土耳其、韩国、日本、意大利、墨西哥、南非、澳大利亚等国家验，其行为也不会像人。这就好比在输入货运站值差别很大的情况下，即使两个数学函数几乎等同，但其输出值也可能有着天壤之别。

那么，为何不能给agi人类的经验呢？原则上，人类感官及感知过程均可能被计算设备模拟到任意精度，但这在实际上却不太可能。以视觉为例：每种光感受器都应具有一定的灵敏度、解析度、反应时等等。人眼如此，其它动物的眼或各种电子感光设备也莫不如此。因此，“让计算机有视觉”和“让计钨钢铣刀算机有和人类完全一样的视觉”是两个难度相差悬殊的任务。

退一万步讲，即便能够在所有细节上模拟人类的全部感官，也仍然只能得到某人的直接的物理经验，依旧无法获取从人际交流中得到的间接的社会经验。因为社会经验的取得，需要计算机被其他人（或机器）视为人。这已然不是能否实现的技术问题，而是是否需要或值得去做的问题了。

为了便于讨论，假设全体人类社会确实像对待人类一般来对待agi系统；在这种情况下，ai-1是有可能实现的。然而，这是基于对“智能”高度的人类中心主义的解释，其实它应该被称为“人工的人类智能”。用人类行为来刻画智能会令其他非人智能（如“动物智能”、“群体智能”、“外星智能”等）仅根据定义便成为不可能，仅仅因为它们并不具有类人的输入和输出。

这种人类中心主义的“智能观”总是作为隐含的预设立场而存在，却几乎未被明确地讨论过。一个突出的例子便是将图灵测试作为ai的操作性定义，尽管图灵自己只是将其视为智能或思维的充分条件而非必要条件。图灵本人写道：“难道机器不能进行一些与人不同却可称之为思维的活动？这个反诘很有力，但至少我们可以说，如果能够很好地应对角色扮演任务的机器可以被造出来，我们就不必为这种反诘而烦恼”。这就是说，即使“行为像人”说明有智能，“行为不像人”也未必就是没有智能。

在当前agi研究中，几乎没有人将目标设定为建立ai-1系统；相反，将他们的工作视为某种ai-3的版本才更适合。他们认为，“思维机器”或“通用智能”不仅和人类心智有可比性，甚至可能在某种抽象意义上完婚礼蜡烛全相同，尽管未必是行为细节的全相反我也很甘心找伴侣弄各类盗窟实验1起进修部等同。就像我们认为鱼和鸟有视觉但却与人类之所见非常不同一样，这种行为差异的存在并不意味着非人系统无法拥有真正的智能。

“奇点”（singularity‎）与通用人工智能（agi）

“奇点”，也被称为“技术奇点”，是另一个既无准确含义也未被广泛接受的概念。尽管常见于一些作品而为公众所熟知，但实际上这并不是一个真正的计算机科学或技术术语。

“ai将导致奇点”这一观点的典型表述可以分解为下列三个结论：

1、系统的智能水平可以表示为一个数值。

2、经由学习或迭代改进，ai能够提升自己的智能水平。

3、当ai的智能水平超越人类，它的整个未来将被我们视作一个单点，因为从那以后这个系统将超出人类的理解范围。

当然，有人也仅使用“奇点”一词来指代“ai达到人类水平”或“计算机比人类更聪明”这个时间节点，而不做其他假设。接下来，我们将聚焦于上述典型表述，因为当它被分析之后，我们对其各种变体的看法也便一望而知了。

第一句话看似正确，毕竟一个“聪明”或“智慧”的系统应该可以解决许多实际问题，而人们也总是利用各式测验和检测来评估效果，比如人类自身便通常使用“智商”（iq）来衡量智力水平。尽管为通用系统的问题解决能力的找到一个恰当的度量绝非易事，但为方便讨论，我们假设可以确立这样的一个度量s，代表系统在解题能力上所得的“分数”。即使如此，我们也不认为这是一个衡量系统“智能”的正确标准，因为它完全排除了时间因素。在通常意义下，人们往往把“智能”与后天习得的解决问题能力相联系，而非先天拥有的问题解决能力。出于这个原因，在某一给定时刻t，系统的智能应该用该时刻增速s'(t)而非s(t)来衡量，也就是说，智能水平不是指系统在此刻能解决多少实际问题，而是指其解题能力在此刻的增长速度。

图1 时间t与总分s的四种不同关系

图1更为直观地展示出s(t)和s'(t)之间的差异。就当前的讨论而言，就其所能解决的问题的数量s与时间t的关系可区分出四类不同的系统：

蓝线对应于一个完全没有学习能力的系统。系统能力完全由先天因素确定，即s'(t) = 0。所有传统的计算系统都属于这一类，尽管其中一些被人们视为“ai”。

紫线对应于一个学习能力有限的系统。此类系统中s'(t) >; 0，但最终收敛至0。绝大多数的机器学习算法都属于该类。

绿线对应于一个学习能力基本恒定的系统。此时，s'(t)是一个正常数。包括我们团队在内的许多agi项目都属于这种类型。

红线对应于一个学习能力本身在增长的系统，其s(t)和s'(t)均呈指数递增。我们认为这样的系统并不存在，在此仅将其作为一种可能性列出来。

粗略地说，这里的 s(t) 表示“解决问题的能力”，s'(t) 则表示“学习的能力”，“能够解决多少问题”与“能够学到多少东西”并不直接相关。如图1所示，取决于其中的常量和测量的时刻，四种类型中的任意一种都可能成为问题解决能力最强S0.004者，但其学习能力却各不相同，由弱至强可排序为：蓝线

重庆专业治疗医院
云南迪庆中医二级医院
佛山咽喉炎医院
黑龙江省森工总医院