卡利欧博:走过近30年,这个用逻辑程序示意数据的ML算法值得深入领会

admin 1个月前 (09-19) 科技 22 0

allbet注册:管理层太抠了!郭艾伦几经荆棘终获顶薪,网友:辽篮800万还舍不得?

北京时间9月15日,辽宁男篮终于传来续约郭艾伦的消息――800万顶薪留队。根据CBA联盟的官方报名资料显示,辽宁男篮今天新增提交了7名球员的注册材料,郭艾伦和韩德君顶薪续约留队,前者为2年D类合同,……

选自arXiv

作者:Andrew Cropper等

机械之心编译

编辑:陈萍

归纳逻辑程序设计已「走过」近 30 年的历程。回首这 30 年来的生长轨迹,似乎很少有人提起这种算法,我们用到更多是深度学习、神经网络等热门算法。实在作为一门相对冷门的算法,归纳逻辑程序设计却在某些方面优于 ML。在这种算法即将迎来 30 周年之际,来自牛津大学与鲁汶大学的研究者用一篇超长论文详细解读了归纳逻辑程序设计的相关内容。

归纳逻辑程序设计(Inductive Logic Programming, ILP)是机械学习的一种形式。与基于统计的机械学习类似,ILP 也是需要给定一些例子作为训练样本。所差别的是,基于统计的机械学习输出的是一个统计学的分类模子,而 ILP 输出的是一个逻辑程序。

克日,来自牛津大学与鲁汶大学的研究者揭晓了一篇论文,该论文先容了需要的逻辑符号和主要的 ILP 学习设置。此外还先容了 ILP 系统的主要组成部门。他们在几种维度上对照了几个 ILP 系统,并详细先容了 Aleph、TILDE、ASPAL 和 Metagol 等四个系统。最后,研究者还将 ILP 与其他形式的机械学习举行对比,并总结了 ILP 当前的局限性以及未来研究的新偏向

论文地址:https://arxiv.org/pdf/2008.07912.pdf

由于该论文较长且还在完善的历程中,本文就先摘取了其中的焦点内容举行先容。

我们首先来领会下论文的焦点结构,该论文主要由以下 9 个部门组成:

ILP 生长史(第 1 节);

形貌 ILP 需要的逻辑程序设计符号(第 2 节);

界说了尺度的 ILP 学习设置(从蕴含中学习、从注释中学习和从知足性中学习)(第 3 节);

形貌构建 ILP 系统所需的基本假设(第 4 节);

对照了多个 ILP 系统并形貌了它们所支持的特征(第 5 节);

形貌了四个 ILP 系统(Aleph、TILDE、ASPAL、和 Metagol)(第 6 节);

形貌了 ILP 应用层面(第 7 节);

将 ILP 与其他形式的 ML 举行对照(第 8 节);

概述未来的研究偏向(第 9 节)。

以下内容将重点先容 ILP 的基础知识、选择 ILP 的理由以及 ILP 的工作方式。

ILP 简介

人类智慧的一项特殊成就是拥有学习新知识的能力。归纳法就是一种主要的学习类型:从特定考察(示例)形成通用规则(假设)的历程。例如,假设你从一个袋子中抽出 10 个红色的球,那么你可能会得出一个假设(一个规则),即袋子中的所有球都是红色的。得出此假设后,你就可以展望出袋子中下一个球的颜色。

机械学习(ML)的目的是自动化归纳历程。换句话说,机械学习的目的是发生一个能够泛化训练示例(考察)的假设(也称为模子)。例如,给定带有标签的猫和狗的图像,目的则是得出一个展望未符号图像是猫照样狗的假设。

ILP 是 ML 的一种形式。与其他形式的 ML 一样,ILP 的目的是得出一个可以泛化训练示例的假设。虽然大多数形式的 ML 使用表格来示意数据(示例和假设),但 ILP 使用逻辑程序(逻辑规则集)来示意数据

下表 1 说明使用 ML 与 ILP 的区别所在:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第1张

大多数形式的 ML 接纳尺度表格示意来形貌 ML 义务。

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第2张

ILP 使用逻辑程序来示意数据,由三个聚集组成 (B,E+, E-),其中 B 聚集示意靠山知识 (BK),其与特征类似,但可以包罗与示例间接关联的关系和信息;E + 和 E - 划分示意正面例子与负面例子。

为什么选择 ILP

ILP 与大多数 ML 方式的基本差别在于,大多数机械学习方式,如支持向量机和神经网络,都依赖于统计推理。相比之下,ILP 依赖逻辑推理。下表 2 展示了 ILP 和统计 ML 方式之间的差别之处:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第3张

由上表可以得出,ML 与 ILP 的主要区别显示在用例、数据、假设、泛化、可注释性和知识迁徙 6 个方面:

用例方面:众所周知,许多形式的 ML 都异常需要数据。相比之下,ILP 系统可以基于少量示例举行归纳,通常是从单个示例就能归纳;

数据方面:与大多数 ML 形式相反,ILP 使用示意为逻辑程序的 BK 举行学习。使用逻辑程序示意数据可以使 ILP 学习庞大的关系信息,并可以轻松集成专家知识;

-------------------------

皇冠体育APP下载

(www.huangguan.us)是一个提供皇冠代理APP下载、皇冠会员APP下载、皇冠体育最新登录线路、新2皇冠网址的的体育平台。也只有皇冠APP可以真正地带给你顶级体育赛事的娱乐体验感。立马一键皇冠体育开户,世界体育赛事等你欣赏。

-------------------------

假设:使用逻辑程序示意假设有许多利益。由于它们与关系数据库密切相关,以是逻辑程序自然支持关系数据,例如图表;

泛化能力:ILP 得出的归纳假设超出了训练数据的局限。相比之下,许多其他形式的 ML 因无法从少量训练示例中举行归纳而名声不佳(尤其是深度学习);

可注释性:由于逻辑与自然语言的相似性,因此人类可以轻松阅读逻辑程序,这对于可注释的 AI 和超强的 ML 至关重要;

知识迁徙:大多数机械学习算法都是单义务学习,无法重用学到的知识。相比之下,由于 ILP 具有符号示意,它自然支持终身学习和迁徙学习,对于 AI 来说至关重要。

ILP 工作方式

ILP 问题通常由三个聚集组成:B(靠山知识)、E+(正面例子)和 E-(负面例子)。ILP 问题是诱导一个假设 H,其中用 B 来注释 E + 和 E-。

ILP 主要有三种学习设置:从蕴含中学习(learning from entailment, LFE)、从注释行中学习(learning from interpretation, LFI)和从可知足性中学习(learning from satisfiability, LFS)。LFE 和 LFI 是现在最盛行的学习设置,以是这里着重讨论这两种。

从蕴含中学习(LFE)

界说 1:对于给定一个元组 (B, E + , E ):

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第4张

LFE 的目的是返回一个假设 H,使得:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第5张

可以从以下示例中获得直观感受,思量从蕴含元组学习:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第6张

同时假定存在假设空间:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第7张

那么可以思量 ILP 系统应该返回哪些假设:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第8张

凭据界说 1,一个假设必须包罗每一个正面示例(完整的)而不需要负面示例(一致的)。然而,训练示例往往是混杂的,以是很难找到一个既完整又一致的假设。因此,大多数方式都放宽了这一界说,并试图找到一个包罗尽可能多的正面示例和尽可能少的负面示例的假设。

从注释中学习(LFI)

第二受欢迎的学习设置是 LFI。

界说 2(从注释中学习):给定元组(B,E+,E ),其中:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第9张

LFI 的目的是返回一个假设 H,使得:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第10张

示例 2,为了说明 LFI,该论文重用 Law(2018)的示例。思量以下输入元组:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第11张

同时假定存在有假设空间:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第12张

要找到一个解决 LFI 问题(界说 2)的假设 H,必须首先对每个示例盘算 B 的最小模子,即:

新2皇冠代理,新2皇冠会员,新2皇冠最新登录网址,新2皇冠备用网址,新2皇冠app下载  第13张

问题是要找到一个假设 H,使 M_1 和 M_1 都是 H 的模子,而 M_3 不是。假设 h_1 不是解,由于 M_1 不是 B∪h_1 的模子;假设 h_1 不是解,由于 M_1 不是 B∪h_2 的模子;假设 h_3 是一个解,由于 M_1 和 M_2 都是 B∪h_3 的模子而 M_# 不是 B∪h_3 的模子。

总体而言,ILP 相关设计架构如下:正面示例 + 负面示例 + 靠山知识假设。ILP 所学模子基于一阶逻辑符号规则,而非难以明白的黑箱模子。学习获得的模子可基于个体间的关系建模,而非只对个体的符号举行展望。若是你想领会更多细节内容,请参考该论文。

参考链接:https://hyper.ai/wiki/4863

若何凭据义务需求搭配适当类型的数据库?

HG0088声明:该文看法仅代表作者自己,与本平台无关。转载请注明:卡利欧博:走过近30年,这个用逻辑程序示意数据的ML算法值得深入领会

文章归档

站点信息

  • 文章总数:362
  • 页面总数:0
  • 分类总数:8
  • 标签总数:488
  • 评论总数:0
  • 浏览总数:2598