新智元报导
来历:Twitter、arXiv
修改:肖琴
【新智元导读】谷歌AI研讨员、Keras之父Fran ois Chollet历时2年的力作近来发布,在长达64页的论文中,他深入分析、论述“智能的界说和丈量”,引起AI研讨社区许多重视。你附和Chollet的观念吗?来新智元 AI 朋友圈和AI大咖们一同评论吧。
谷歌AI研讨员、Keras之父Fran ois Chollet近来宣布一篇长达64页的论文,深入分析、论述“智能的界说和丈量”,引起AI研讨社区许多重视。
与此同时,Chollet还发布了一个新的AI点评数据集“笼统推理语料库”(Abstraction and Reasoning Corpus),简称ARC。Chollet表明,在曩昔的2年里,他一向时断时续地在做这件事。
在新智元小程序获取论文:
论文的主要内容包括:
1) 回顾历史,咱们怎么界说和点评AI
2) 对“智能”(Intelligence)的新的正式界说,以及对“通用AI的基准”(general AI benchmark)应该是什么姿态的具体指导准则
3) 介绍ARC的方针及其背面的逻辑。
Chollet说,这个界说是他企图将曩昔10年来的考虑和评论(讲演、Twitter、对话等等)正式转化为一些有用、可行的东西的测验。ARC这个新的AI点评数据集引导他朝着十分风趣的研讨方向开展,因而也期望读者发现它有用。
Chollet着重,论文中供给的界说并不是“仅有正确的”界说。那不是要点。由于智能是杂乱的,在不同的布景中或许意味着不同的东西。“智能”或“人工智能”的多种界说都或许是有用的。
Chollet最近还在一个算法上取得了很好的开展,这个算法至少能够处理部分ARC,依据一个他研讨了很长时刻的认知理论(autonomous abstraction)。Chollet表明将赶快共享这些主意和代码。
这个理论自2009年以来一向在酝酿之中。它学习了ONEIROS项目(敞开终端神经电子智能机器人操作体系)的重要元素,这是Chollet从2009年到2012年(在2014年时间短地再次参加)一向在开发的一个通用AI架构,但后来大部分都被抛弃了。
ONEIROS是从一个经典的RL思想开端的,会集于1)学习时空特征的模块化层次“maps”(运用PMI矩阵分化而不是梯度下降),2)经过注意力机制的方法进行上下文切换,以及3)内涵动机(好奇心)。
其根本主意是“认知是一种感知运动信息空间的动态的、层次-模块化的地图”。因而,Chollet还把它称为“map theory”。
Chollet以为ONEIROS做了许多正确的作业(特别是考虑到其时的状况——主要是在2010年规划,并在2012年测验对其进行简化),但终究它没有触及最重要的一点:笼统的实质。
这便是“The Measure of Intelligence”这项作业正在做的,ARC正是触及了“笼统的实质”。
有意思的是,“Keras”这个姓名来自ONEIROS:
“Chollet 创建了 Keras 作为敞开式神经电子智能机器人操作体系 (ONEIROS) 机器人研讨项目的神经网络的 API。onEIROS 这一称号是对古希腊史诗《奥德赛》的致意,在这部史诗中,神话人物Oneiroi(oneiros 的奇数方法)为人类指明晰两条进入梦境的路:一条路穿过雄伟的象牙之门进入噩梦,另一条路则穿过矮小的兽角之门,终究出现一片崇高的现象。Keras 在希腊语中意为角,这个称号十分适宜,由于 Keras API 旨在为与神经网络协同运用供给一条捷径。”
“The Measure of Intelligence”论文宣布后,在Twitter、Reddit等社区得到许多重视,有人点评“风趣”、“必读的好文章”,也有人质疑这项研讨是否必要。
论文内容结构
Google机器学习研讨员Emil Wallner带来了不错的总结和解读,一同来看。
为了推动AGI,咱们应该量化和点评其技术获取功率
Fran ois Chollet的中心观念是:咱们不能经过衡量其对特定技术的把握程度来点评一个AI体系的适应性和灵敏性。
只需数据足够多,模型就能靠“回忆”完结决议计划。为了推动AGI,咱们应该量化和点评其***技术获取功率***。
在20世纪70年代,许多人以为国际象棋反映了人类理性思想的悉数规模。用计算机下棋就能达到认知了解的严重腾跃。可是,在IBM的DeepBlue之后,他们意识到计算机并没有更好地了解人类的思想。
IBM的DeepBlue并不“智能”,但咱们咱们都以为把握国际象棋的人是有智能的。这是由于咱们将国际象棋与一种元技术(meta-skill)联络在一同,元技术是一种用于数学和推理等逻辑使命的才能。咱们经常以相似的方法将AI体系拟人化:把握使命= AGI。
相同,Chollet以为DeepMind的围棋AI AlphaZero既不灵敏也不通用。他将其与运用部分灵敏哈希函数的哈希表进行比较,经过无限的模仿,你能够用动作来映射棋盘的方位。
Chollet以为,当时的以使命为中心的智能观念是推动AGI的瓶颈地点。相反,咱们该选用Hernandez-Orallo的观念:
“人工智能是一门让机器完结它们从未见过、也没有事前准备好的使命的科学和工程技术。”
当人类承受不同的认知测验时,得到的结果是互相相关的。这表明人类具有学习技术的根本元技术,即“g因子”(g-factor)。这些是Chollet以为点评AI需求衡量的才能,从Broad Generalization开端。
在II.2节, Chollet 正式论述了他的中心思想:
“一个体系的智能是对其在必定使命规模内的技术获取功率的衡量,与先验、经历和泛化难度相关。”
下面是“技术获取功率”的概述。“Task”可所以国际象棋,“Situation”是一个棋盘方位,而“skill program”是一个固定的国际象棋引擎。能够将智能体系看作是不同使命的程序综合引擎。
Chollet运用算法信息论(Algorithmic Information Theory)来量化程序和交互:
“智能是学习者将自己的经历和先验常识转化为新技术的速度,这种新技术的价值在于不确定性和适应性。”
为了尽最大或许防止部分通用体系人为地“购买”特定使命的体现,Chollet将先验常识约束在开展科学理论中发现的“中心常识”:比方根底物理、算术、几何学和对目的的根本了解。
Chollet依据他概述的最佳实践ARC创建了一个数据集。该数据集模仿了IQ测验(流体智能)中的笼统和推理部分。
下面是几个比如:
ARC数据集包括400个练习使命和600个点评使命。
主要特征:
点评会集只要新的使命
高度笼统
相似于人类智商测验
每个使命有3个演示
固定/有限的练习数据
一组明晰的先验条件
https://github.com/fchollet/ARC
向@fchollet问候,感谢他为AGI的开展提出了明晰可行的主张。这是一篇必读论文!