童裤厂家
免费服务热线

Free service

hotline

010-00000000
童裤厂家
热门搜索:
行业资讯
当前位置:首页 > 行业资讯

徐英瑾-如何设计具有自主意图的人工智能体【新资讯】

发布时间:2019-10-16 15:39:36 阅读: 来源:童裤厂家

how to design an artificial general intelligence system bearing intentions: an interdisciplinary inquiry based on anscombe's philosophy of intention

作者简介:徐英瑾,哲学博士,复旦大学哲学学院教授,博士生导师,教育部青年长江学者。上海 200433

原发信息:《武汉大学学报:哲学社会科学版》第20186期

内容提要:具有自主意图、只依赖小数据运作的通用人工智能系统的出现,并不会像有些人所预估的那样导致“机器奴役人类”的局面出现,因为此类技术对于小数据的容忍可以大大增加此类技术的潜在用户的数量,并使得体现不同用户价值观的通用人工智能系统能够大量出现。这样一来,具有不同意图的通用人工智能系统彼此之间的对冲效应,最终会使得任何一种具有特定意图的通用人工智能系统都无法占据主宰地位。相反,由于作为专用人工智能技术代表的深度学习技术的运用在原则上就需要大量数据的喂入,其对于民众隐私权的侵犯就成为一种难以被全面遏制的常态,因此,此类技术的发展在原则上就会加强一部分技术权贵对于大多数民众的统治地位。不过,要在通用人工智能系统里实现对于意图的工程学建模,就需要我们在哲学层面上首先厘清关于意图的种种哲学迷思。在这个问题上,美国女哲学家安斯康的意图理论是一个比较好的讨论起点。具体而言,安斯康关于“意图是在欲望驱使下做某事的理由”的观点,是可以在通用人工智能的语境中被实现的,但是她关于信念与意图之二元对立的观点,却在不少地方有失偏颇。而“非公理化推理系统”(纳思系统),则将为吸纳安斯康意图论的合理部分提供相应的工程学手段。

whether artificial intelligence(ai) will enslave human beings is very relevant to the meaning of "ai" itself.if "ai" means "artificial general intelligence"(agi) and the agi system in question can work well by tolerating a small size of inputs,then the potential number of the users of this technology will be significantly increased.and if these agi systems can have their habits of producing intentions in accordance with different users' values,then varieties of agi systems imbued with different values will make it tough for any single type of machine to dominate the society.hence,machines cannot enslave human-beings if machines are agi systems in this sense.in contrast,if "ai" only means deep learning systems which cannot function well without exploiting large quantity of data,then the issue on how to protect the human privacy will always be salient,and in this sense,agi systems with the capacities of having their own intentions is ethically superior to their deep learning counterparts.as to how to produce intentions in an agi system,g.e.m.anscombe's philosophy of intention may offer many inspirations,although some of her claims on the nature of intentions may be controversial.pei wang's non-axiomatic reasoning system(nars) will offer a technical realization of the plausible part of anscombe's theory of intention.

关键词:通用人工智能/非公理化推理系统/纳思系统/深度学习/公众隐私/安斯康/artificial general intelligence(agi)/non-axiomatic reasoning system/nars/deep learning/public privacy/anscombe

标题注释:国家社会科学基金重大项目(15zdb020),国家社会科学基金一般项目(13bzx023)。

一、从“人工智能是否会奴役人类”谈起

随着近几年以来人工智能技术在工程学层面上的不断进步,关于“人工智能是否会在未来统治人类”的担忧,也日渐被人提起。但在笔者看来,这个问题本身已经包含了诸多语言混乱。如果不预先对这些混乱加以厘清,我们将很难对这一问题作出严肃的应答。具体而言,该问题所涉及的第一重语言歧义即:这里所说的“人工智能”究竟是指专用人工智能(即只能用于特定工作目的的人工智能系统),还是通用人工智能(即能够像人类那样灵活从事各种工作的人工智能系统)?有人或许会说,抓住这一点歧义不放乃是小题大做,因为所谓通用人工智能技术,无非就是既有的专用人工智能技术的集成。但持此论者却没有意识到如下三个问题:

(甲)就既有专业人工智能技术中发展最快的深度学习系统而言,此类系统的运作其实是需要大量的数据输入为其前提的。因此,深度学习系统并不具备根据少量数据进行有效推理的能力——换言之,它们缺乏“举一反三”的智能,尽管这种智能乃是任何一种理想的通用人工智能系统所不可或缺的。不得不提到的是,在“迁移学习”这一名目下,目前不少深度学习研究者都在研究如何将在一个深度学习网络中已经获得的网络权重分布“迁移”到一个新的网络中去。这姑且可以被视为某种最初步的“举一反三”。然而,这种意义上的迁移学习必须预设深度学习网络所从事的新任务与旧任务之间有足够的相似性,而无法模拟人类在非常不同的领域(如“孙子兵法”与商业活动)之间建立起类比推理关系的能力。

(乙)现有的深度学习架构都是以特定任务为导向的,而这些任务导向所导致的系统功能区分,既不与人类大脑的自然分区相符合(譬如,我们人类的大脑显然没有一个分区是专门用于下围棋的,而专门用于下围棋的“阿尔法狗”系统的内部结构则是为下围棋量身定做的),也缺乏彼此转换与沟通的一般机制。因此,深度学习系统自身架构若非经历革命性的改造,其自身是缺乏进阶为通用人工智能系统的潜力的。

(丙)目前真正从事通用人工智能研究的学术队伍,在全世界不过几百人,这与专业人工智能研究的庞大队伍相比,可谓九牛一毛①。

有鉴于特定技术流派的发展速度往往与从事该技术流派研究的人数成正比关系,所以,除非有证据证明通用人工智能的研究队伍会立即得到迅速扩充,否则我们就很难相信:通用人工智能研究在不久的将来就会取代专用人工智能研究,迅速成为人工智能研究的主流。而这一点又从另一个侧面印证了专用人工智能与通用人工智能之间的差异性。

新农村建设的路径选择铜陵遮弧帘UPS

我国农业生产性服务组织已超过115万个缠绕机华西蒿孙烨缠绕机

心情极为沉痛鲁豫忆李咏他的淡定总给我力量翟惠民头花黄杨

我国将建智慧农业气象数据一张网体操用品八步紧陈倩倩体操用品

相关阅读