机器学习 Machine Learning

来自集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
跳到导航 跳到搜索

机器学习 Machine Learning，ML是计算机科学的分支——人工智能的一个子集，它通常使用统计学方法，借助数据，赋予计算机“学习”的能力（例如，逐渐提高在特定任务上的表现）而不需要明确编写学习过程[1]。


机器学习的名字是Arthur Samuel [2] 在1959年创建的。它由人工智能 [3] 中的模式识别与计算学习理论研究发展而来，探究从数据 [4] 中学习、做出预测的算法的研究与结构——这些算法通过从样本输入中建立模型，做出数据驱动的预测或决定 [5]， 避免了一系列严格的静态程序指令。机器学习被应用于那些设计运转良好、 清晰明确的算法十分困难或根本不可行的计算任务中 ；其应用范围包括电子邮件过滤、网络入侵者与针对数据泄露的恶意内部人员的探查、光学字符识别、学习排序、计算机视觉。


机器学习与计算统计学密切相关(而且常常与之重叠)，计算统计学也专注于通过使用计算机进行预测。它与数学优化有着很强的联系，后者为之提供了方法、理论和应用领域。机器学习有时与数据挖掘 [6] 混为一谈，后者更侧重于探索性数据分析，被称为无监督学习 [5] [7]。机器学习也可以是无监督的，并可用于为各种实体，学习和建立基线行为轮廓，然后用于寻找有意义的异常。


在数据分析领域，机器学习是设计复杂模型和算法的一种方法。这有助于预测；在商业用途中，这被称为预测分析。这些分析模型使研究人员、数据科学家、工程师和分析人员能够“产生可靠的、可重复的决策和结果”，并通过从数据中的历史关系和趋势中学习，来发现“隐藏的洞见”。 [8]

概述

Tom M.Mitchell对机器学习领域中研究的算法提供了一个被广泛引用的、更正式的定义：“计算机程序被描述为从经验E中学习某些类型的任务T和性能度量P，如果它在T中的性能(用P来衡量)随着经验E而提高。” [9] 这一将机器学习与任务进行关联的定义提供了一个基本的可执行定义，而不是认知术语形式的定义。这与艾伦·图灵在他的论文“计算机器和智能”中的提议一脉相承，其中“机器能思考吗？”被替换为“机器能做我们(作为思维实体)能做的事情吗？” [10] 。图灵的建议揭露了思维机器可能具有的各种特性以及构建机器时的诸多暗含之意 。

机器学习的任务

机器学习任务通常分为两大类，取决于学习系统是否存在学习“信号”或“反馈”:

  • 监督学习：向计算机展示由“教师”提供的示例输入及其期望的输出，目标是学习将输入映射到输出的一般规则。作为特例，输入信号只能被部分提供，或仅限于特定反馈：
    • 半监督学习：只提供给计算机一个不完整的训练信号：一个训练集，其中有一些（通常很多）的目标输出丢失。
    • 主动学习：计算机只能获得有限的实例集(基于预算)的训练标签，还必须优化对象的选择以获取标签。当交互使用时，可以向用户展示这些对象以供标签。
    • 强化学习：训练数据(以奖励和惩罚的形式)只作为对程序在动态环境中的行为的反馈，例如自动驾驶或与对手玩游戏[5]。
  • 无监督学习：没有标签给学习算法，留下它自己在其输入中找到结构。无监督学习本身可以是一个目标（发现数据中隐藏的模式），或者是一种达到目的的手段（特征学习）。

机器学习的应用

当考虑机器学习系统的期望输出时，机器学习任务的另一种分类出现了。 [5]

  • 在分类中，输入被分成两个或多个类，学习者必须生成一个模型，将未被分类的输入分配给这些类的一个或多个(多标签分类)。这通常是以监督的方式处理的。垃圾邮件过滤是分类的一个例子，其中输入是电子邮件(或其他)消息，类是“垃圾邮件”和“非垃圾邮件”。
  • 在回归中，也是一个有监督学习问题，输出是连续的而不是离散的。
  • 在聚类中，一组输入被分为不同组。与分类不同的是，这些组事先是未知的，因此这通常是无监督学习的任务。
  • 密度估计挖掘输入在某一空间的分布。
  • 维数约简通过将输入映射到低维空间来简化输入。主题建模是一个相关的问题，在这个问题中，程序会得到一个人类语言文档的列表，并负责找出哪些文档涵盖了类似的主题。

在其他类型的机器学习问题中， 元学习在以往经验的基础上学会了自己的归纳偏好。 发育学习是为机器人学习而发展起来的，它通过自主的自我探索和与人类教师的社会互动，利用主动学习、成熟、运动协同和模仿等引导机制，产生自己的学习情境序列(也称为课程)，累积获得一系列新技能。

历史、和其它领域的关系

参见：机器学习时间线

美国计算机游戏和人工智能领域的先驱Arthur Samuel于1959年在IBM时发明了“机器学习”一词。作为一项科学探索，机器学习源于对人工智能的探索 [11]. 。 早在人工智能作为一门学术学科的时期，一些研究人员就对让机器从数据中学习产生了兴趣。他们试图用各种符号方法以及后来被称为“神经网络”的方法来解决这个问题；这些模型大多是感知器和其他模型，后来被发现是广义线性统计模型的再发明 [12]。统计学推理也被使用，特别是在自动医疗诊断中 [13]。

然而，对逻辑的、基于知识的方法的日益重视，导致人工智能和机器学习之间产生了裂痕，概率系统受到数据采集和数据表示的理论和实践问题的困扰 [13]。 到1980年，专家系统已经主导了人工智能，而统计方法不再受欢迎 [14]。 基于符号与知识的学习的工作仍然属于AI领域，这促成了归纳逻辑编程，但更多的在模式识别和信息检索 [13] 方面的统计方法的研究已经超出了人工智能本身的范围。神经网络的研究几乎同时被人工智能和计算机科学所抛弃。而在AI/CS领域之外，这条路线也被其他学科的研究人员奉为“连接主义”而继续存在，包括Hopfield、Rumelhart和Hinton。他们的主要成功是在上世纪80年代中期重新发明了反向传播算法 [13]。

机器学习,作为一个独立的领域，在20世纪90年代开始蓬勃发展。机器学习的目标从实现人工智能转变为解决可解决的实践性问题。它将重点从AI中继承的符号方法转向了来自于统计学和概率论的方法和模型[14] ，同时也受益于数字化信息日益增长的普及性，以及互联网传播信息的能力。

机器学习和数据挖掘通常采用相同的方法，重叠程度很大。但是机器学习侧重于预测——基于从训练数据中学习到的已知属性，而数据挖掘则侧重于在数据中发现(以前的)未知属性(这是数据库中知识发现的分析步骤)。数据挖掘采用多种机器学习方法而目标不同；另一方面，机器学习也采用数据挖掘的方法作为“无监督学习”或作为预处理步骤来提高学习精度。这两个研究对象之间的许多混淆(它们通常有单独的会议和单独的期刊，ECML PKDD是一个主要的例外)来自于它们所使用的基本假设：在机器学习中，性能通常是根据重复生产已知知识的能力来评估的，而在知识发现和数据挖掘(KDD)中，关键任务是发现以前未知的知识。在对学习已知知识进行评估时，其他监督学习方法很容易优于无监督学习方法，而在典型的KDD任务中，由于训练数据的不可得性，则无法使用监督学习的方法。

机器学习与优化也有着密切的联系：许多学习问题被描述为训练集上的一些损失函数的最小化。损失函数表示被训练模型的预测与实际问题之间的差异(例如，在分类中，要为实例分配一个标签，且模型要被训练以正确预测一组预先分配过标签的示例)。这两个领域的区别来自于一般化的目的：优化算法可以最小化训练集上的损失，而机器学习则涉及到最小化未知样本的损失 [15]。

与统计学的关系

机器学习和统计是密切相关的领域。据Michael I. Jordan说，机器学习的思想，从方法论原理到理论工具，都在统计学上有着悠久的历史 [16]。 他还建议用数据科学这个术语来称呼整个领域 [16]。

Leo Breiman区分了两种统计建模范式：数据模型和算法模型 [17] ，其中“算法模型”或多或少是指像随机森林那样的机器学习算法。

一些统计学家采用机器学习的方法，形成了一个他们称之为统计学习的交叉领域[18]。


与人工智能 Artificial intelligence的关系Relation to artificial intelligence

As a scientific endeavor, machine learning grew out of the quest for artificial intelligence. In the early days of AI as an academic discipline, some researchers were interested in having machines learn from data. They attempted to approach the problem with various symbolic methods, as well as what were then termed "neural networks"; these were mostly perceptrons and other models that were later found to be reinventions of the generalized linear models of statistics.[19] Probabilistic reasoning was also employed, especially in automated medical diagnosis.[13]:488

As a scientific endeavor, machine learning grew out of the quest for artificial intelligence. In the early days of AI as an academic discipline, some researchers were interested in having machines learn from data. They attempted to approach the problem with various symbolic methods, as well as what were then termed "neural networks"; these were mostly perceptrons and other models that were later found to be reinventions of the generalized linear models of statistics. Probabilistic reasoning was also employed, especially in automated medical diagnosis.

作为一项科研成果，机器学习源于对人工智能的探索。在人工智能这一学科研究的早期，一些研究人员对于让机器从数据中进行学习这一问题很感兴趣。他们试图用各种符号方法甚至是当时被称为”神经网络 Neural Networks”的方法来处理这个问题;但这些方法大部分是感知器或其他模型。后来这些模型随着统计学中广义线性模型的发展而重新出现在大众视野中，与此同时概率推理的方法也被广泛使用，特别是在自动医疗诊断问题上。


However, an increasing emphasis on the logical, knowledge-based approach caused a rift between AI and machine learning. Probabilistic systems were plagued by theoretical and practical problems of data acquisition and representation.[13]:488 By 1980, expert systems had come to dominate AI, and statistics was out of favor.[14] Work on symbolic/knowledge-based learning did continue within AI, leading to inductive logic programming, but the more statistical line of research was now outside the field of AI proper, in pattern recognition and information retrieval.[13]:708–710; 755 Neural networks research had been abandoned by AI and computer science around the same time. This line, too, was continued outside the AI/CS field, as "connectionism", by researchers from other disciplines including Hopfield, Rumelhart and Hinton. Their main success came in the mid-1980s with the reinvention of backpropagation.[13]:25

However, an increasing emphasis on the logical, knowledge-based approach caused a rift between AI and machine learning. Probabilistic systems were plagued by theoretical and practical problems of data acquisition and representation. Work on symbolic/knowledge-based learning did continue within AI, leading to inductive logic programming, but the more statistical line of research was now outside the field of AI proper, in pattern recognition and information retrieval. Neural networks research had been abandoned by AI and computer science around the same time. This line, too, was continued outside the AI/CS field, as "connectionism", by researchers from other disciplines including Hopfield, Rumelhart and Hinton. Their main success came in the mid-1980s with the reinvention of backpropagation.

然而，日益强调的基于知识的逻辑方法 Knowledge-based Approach导致了人工智能和机器学习之间的裂痕。概率系统一直被数据获取和表示的理论和实际问题所困扰。在人工智能内部，符号/知识学习的工作确实在继续，导致了归纳逻辑编程，但更多的统计研究现在已经超出了人工智能本身的领域，即模式识别和信息检索。神经网络的研究几乎在同一时间被人工智能和计算机科学领域所抛弃，但这种思路却在人工智能/计算机之外的领域被延续了下来，被其他学科的研究人员称为“连接主义”。（编者注：连接主义又称为仿生学派或生理学派，其主要原理为神经网络及神经网络间的连接机制与学习算法。）包括霍普菲尔德 Hopfield、鲁梅尔哈特 Rumelhart和辛顿 Hinton。他们的主要成就集中在20世纪80年代中期，在这一阶段神经网络的方法随着反向传播算法的出现而重新被世人所重视。


Machine learning, reorganized as a separate field, started to flourish in the 1990s. The field changed its goal from achieving artificial intelligence to tackling solvable problems of a practical nature. It shifted focus away from the symbolic approaches it had inherited from AI, and toward methods and models borrowed from statistics and probability theory. As of 2019, many sources continue to assert that machine learning remains a sub field of AI. Yet some practitioners, for example Dr Daniel Hulme, who both teaches AI and runs a company operating in the field, argues that machine learning and AI are separate.

机器学习，在重组为一个独立的领域之后，与20世纪90年代开始蓬勃发展。该领域的目标从实现人工智能转变为解决实际中的可解决问题。它将焦点从它从人工智能继承的符号方法转移到从统计学和概率论中借鉴的方法和模型。截止至2019年，许多资料都继续断言机器学习仍然是人工智能的一个子领域。然而，一些该领域的从业者（例如丹尼尔 · 休姆 Daniel Hulme博士，他既教授人工智能，又经营着一家在该领域运营的公司），则认为机器学习和人工智能是分开的。


Machine learning, reorganized as a separate field, started to flourish in the 1990s. The field changed its goal from achieving artificial intelligence to tackling solvable problems of a practical nature. It shifted focus away from the symbolic approaches it had inherited from AI, and toward methods and models borrowed from statistics and probability theory.[14] As of 2019, many sources continue to assert that machine learning remains a sub field of AI. Yet some practitioners, for example Dr Daniel Hulme, who both teaches AI and runs a company operating in the field, argues that machine learning and AI are separate. [20]引用错误：无效<ref>标签；未填name属性的引用必须填写内容[21][22]

与数据挖掘 Data mining的关系Relation to data mining

Machine learning and data mining often employ the same methods and overlap significantly, but while machine learning focuses on prediction, based on known properties learned from the training data, data mining focuses on the discovery of (previously) unknown properties in the data (this is the analysis step of knowledge discovery in databases). Data mining uses many machine learning methods, but with different goals; on the other hand, machine learning also employs data mining methods as "unsupervised learning" or as a preprocessing step to improve learner accuracy. Much of the confusion between these two research communities (which do often have separate conferences and separate journals, ECML PKDD being a major exception) comes from the basic assumptions they work with: in machine learning, performance is usually evaluated with respect to the ability to reproduce known knowledge, while in knowledge discovery and data mining (KDD) the key task is the discovery of previously unknown knowledge. Evaluated with respect to known knowledge, an uninformed (unsupervised) method will easily be outperformed by other supervised methods, while in a typical KDD task, supervised methods cannot be used due to the unavailability of training data.

Machine learning and data mining often employ the same methods and overlap significantly, but while machine learning focuses on prediction, based on known properties learned from the training data, data mining focuses on the discovery of (previously) unknown properties in the data (this is the analysis step of knowledge discovery in databases). Data mining uses many machine learning methods, but with different goals; on the other hand, machine learning also employs data mining methods as "unsupervised learning" or as a preprocessing step to improve learner accuracy. Much of the confusion between these two research communities (which do often have separate conferences and separate journals, ECML PKDD being a major exception) comes from the basic assumptions they work with: in machine learning, performance is usually evaluated with respect to the ability to reproduce known knowledge, while in knowledge discovery and data mining (KDD) the key task is the discovery of previously unknown knowledge. Evaluated with respect to known knowledge, an uninformed (unsupervised) method will easily be outperformed by other supervised methods, while in a typical KDD task, supervised methods cannot be used due to the unavailability of training data.

机器学习和数据挖掘虽然在使用方法上有些相似并且有很大的重叠，但是机器学习的重点是预测，基于从训练数据中学到的已知属性，而数据挖掘的重点则是发现数据中（以前）未知的属性（这是数据库中知识发现 Knowledge Discovery in Database, KDD的基本分析步骤），也就是说数据挖掘虽然使用了许多机器学习方法，但二者的目标不同; 另一方面，机器学习也使用数据挖掘方法作为“无监督学习”或作为提高学习者准确性的预处理步骤。这两个研究领域之间的混淆（这两个领域通常有各自单独的会议和单独的期刊，ECML PKDD是一个例外）来自他们工作的基本假设: 在机器学习中，算法性能通常是根据再现已知知识的能力来评估，而在知识发现和数据挖掘中，其关键任务是发现以前未知的知识，因此在对已知知识进行评价时，其他监督方法很容易超过未知（无监督）方法，而在典型的知识发现任务中，由于缺乏训练数据，无法使用有监督的学习算法。

与优化的关系 Relation to optimization

Machine learning also has intimate ties to optimization: many learning problems are formulated as minimization of some loss function on a training set of examples. Loss functions express the discrepancy between the predictions of the model being trained and the actual problem instances (for example, in classification, one wants to assign a label to instances, and models are trained to correctly predict the pre-assigned labels of a set of examples). The difference between the two fields arises from the goal of generalization: while optimization algorithms can minimize the loss on a training set, machine learning is concerned with minimizing the loss on unseen samples.[23]

Machine learning also has intimate ties to optimization: many learning problems are formulated as minimization of some loss function on a training set of examples. Loss functions express the discrepancy between the predictions of the model being trained and the actual problem instances (for example, in classification, one wants to assign a label to instances, and models are trained to correctly predict the pre-assigned labels of a set of examples). The difference between the two fields arises from the goal of generalization: while optimization algorithms can minimize the loss on a training set, machine learning is concerned with minimizing the loss on unseen samples.

机器学习与优化也有着密切的联系: 许多学习问题被表述为最小化训练样本集上的某些损失函数 Loss Function。损失函数表示正在训练的模型预测结果与实际数据之间的差异（例如，在分类问题中，人们的目标是给一个未知的实例分配其对应标签，而模型经过训练学习到的是如何正确地为一组实例标记事先已知的标签）。这两个领域之间的差异源于泛化的目标: 优化算法可以最小化训练集上的损失，而机器学习关注于最小化未知样本上的损失。

理论

主文章：计算学习理论

学习者的一个核心目标是从经验中举一反三 [5] [24]。 这里的举一反三是指学习机器在经历了学习数据集之后，能够准确地对新的、未见过的示例/任务进行精确的操作。训练实例通常来自一些未知的概率分布（常被认为是样本空间的代表），并且学习者必须建立一个关于这个空间的通用模型，使得它能够在新的情况下产生足够精确的预测。

机器学习算法及其性能的计算分析是理论计算机科学的一个分支，称为计算学习理论。由于训练集是有限的但是未来是不确定的，所以学习理论通常不能保证算法的性能。然而，算法性能的概率的界限是相当普适的。偏差-方差分解是量化泛化误差的一种方法。

为了在泛化的情境中获得最佳性能，假设的复杂性应该与数据基础上的函数的复杂性相匹配。如果假设没有函数复杂，那么模型就不适合数据。如果模型的复杂度因此增加，则训练误差减小。但如果假设过于复杂，则模型会被过度拟合，泛化也将变得更差[25]。

除了性能界限外，计算学习理论家还研究了学习的时间复杂性和可行性。在计算学习理论中，如果可以在多项式时间内进行计算，则认为计算是可行的。有两种时间复杂度的结果。正结果表明，一类函数可以在多项式时间内学习。负结果表明，某些类函数不能在多项式时间内学习。

方法

主文章：机器学习算法列表

决策树学习

主文章：决策树学习

决策树学习使用决策树作为预测模型，它将问题相关的观察结果映射为问题目标值的结论。

关联规则学习

主文章：关联规则学习

关联规则学习是在大型数据库中发现变量间有趣关系的一种方法。

人工神经网络

主文章：人工神经网络

人工神经网络(ANN)学习算法，通常称为神经网络(NN)，是一种受生物神经网络启发的学习算法。计算是根据一组相互关联的人工神经元来构造的，它们使用连接主义的计算方法来处理信息。现代神经网络是非线性统计数据建模工具。它们通常用于模拟输入和输出之间的复杂关系，在数据中找到模式，或在观测变量之间的未知联合概率分布中寻找统计结构。

深度学习

主文章：深度学习

近几年来，硬件价格的下降和个人用GPU的发展促进了深度学习概念的发展，该概念由人工神经网络中的多个隐层组成。这种方法试图模拟人脑将光和声音处理成视觉和听觉的方式。深入学习的一些成功应用是计算机视觉和语音识别 [26]。

归纳逻辑编程

主文章：归纳逻辑编程

归纳逻辑编程(ILP)是一种将逻辑编程作为输入实例、背景知识和假设的统一表示的规则学习方法。给定已知背景知识的编码和作为事实逻辑数据库表示的一组示例，ILP系统将导出一个假设逻辑程序，其中包含所有正负示例。归纳编程是一个相关的领域，它考虑任何类型的编程语言来表示假设(而不仅仅是逻辑编程)，例如函数程序。

支持向量机

主文章：SVM支持向量机

SVM支持向量机(SupportVectorMachine，SVMs)是一种用于分类和回归的监督学习算法。给出一组训练实例，每个样本会被标记为属于两类中的一个，SVM算法建立了一个模型来预测一个新的例子是否属于一个类别或另一个类别。

聚类

主文章：聚类分析

聚类分析是将一组观测数据分配到子集(称为聚类)中，使同一簇内的观测按照某些预先指定的准则相似，而从不同的簇中提取的观测值则不同。不同的聚类技术对数据的结构提出了不同的假设，通常用某种相似性度量来定义，并通过内部紧密性(同一聚类成员之间的相似性)和不同聚类之间的分离性来评估。其他方法基于估计的密度和图的连通性。聚类是一种无监督学习方法，是一种常用的统计数据分析技术。

贝叶斯网络

主文章：贝叶斯网络

贝叶斯网络，或称信任网络或者有向无环图形模型是通过有向无环图(DAG)表示一组随机变量及其条件独立性的概率图形模型。例如，贝叶斯网络可以表示疾病和症状之间的概率关系。给定症状，网络可以用来计算各种疾病出现的概率。有效的算法可以进行推理和学习。

强化学习

主文章：强化学习

强化学习是指一个智能体（agent）应该如何在环境中采取行动，从而最大限度地获得长期报酬的概念。强化学习算法试图找到一种策略，将世界状态映射到智能体在这些状态中应该采取的行动。强化学习不同于监督学习问题，因为不会提供正确的输入/输出对，也没有明确地修正次优行为。

表示学习

主文章：表示学习

一些学习算法，大多是无监督学习算法，旨在发现更好的输入的训练数据的表示。经典的例子包括主成分分析和聚类分析。表示学习算法通常试图在输入中保留信息，并将其转换成有用的方式，通常是在执行分类或预测之前的预处理步骤，允许重构来自未知数据生成分布的输入，而不一定对不太可能服从该分布的结构可靠。

流形学习算法尝试处理被学习的数据表示是低维的情况。稀疏编码算法尝试处理被学习的数据表示是稀疏(有多个零)的情况。多线性子空间学习算法的目的是直接从多维数据的张量表示中学习低维表示，而不将它们重构成(高维)向量[27]。深度学习算法能发现数据表示的多个层次，或者由低级特征定义(或生成)的更高、更抽象的特征层次。有人认为，智能机器是一种学习表示法的机器，它能找出那些解释观测数据的潜在变异因素[28]。

相似性与度量学习

主文章：相似性学习

在这个问题中，学习机器给出了一对被认为相似的对象和一对不太相似的对象。然后，它需要学习一个相似函数(或距离度量函数)，该函数可以预测新对象是否相似。该算法有时用于推荐系统。

稀疏字典学习

主文章：稀疏字典学习

该方法将数据表示为基函数的线性组合，并假定系数是稀疏的。设x是d维数据，D是d乘n矩阵，其中D的每一列代表一个基函数，r是用D表示x的系数。数学上，稀疏字典学习意味着求解 [math]\displaystyle{ x\approx Dr ,r }[/math]是稀疏的。一般说来，假设n大于d，以便稀疏表示。

学习字典和稀疏表示是强NP难解的，也很难近似求解[29] 。稀疏字典学习的一种流行的启发式方法是K-SVD。

稀疏字典学习已经在几种环境中得到了应用。在分类中，问题是确定以前看不见的数据属于哪些类。假设已经为每个类构建了一个字典。然后，将一个新的数据与类相关联，使得它被相应的字典最优表示。稀疏字典学习也被应用于图像去噪。关键的思想是一个干净的图像补丁可以用图像字典来稀疏地表示，但是噪声却不能[30]。

遗传算法

主文章：遗传算法

遗传算法(GeneticAlgorithm，GA)是一种模拟自然选择过程的搜索启发式算法，它利用变异和重组等方法生成新的基因型，以期为给定问题找到好的解决方案。在机器学习中，遗传算法在20世纪80年代和90年代得到了一些应用 [31][32]。 相反，机器学习技术被用来改进遗传算法和进化算法的性能 [33]。

基于规则的机器学习

基于规则的机器学习是任何机器学习方法的通用术语，它通过识别、学习或演化“规则”来存储、操作或应用知识。基于规则的机器学习者的定义特征是识别和使用一组关系规则，这些规则共同表示系统获取的知识。这与其他机器学习者不同，这些机器学习者通常会识别出一个可以普遍应用于任何实例的奇异模型，以便进行预测[34] 。基于规则的机器学习方法包括学习分类器系统、关联规则学习和人工免疫系统。

学习分类器

主文章：学习分类器系统

学习分类器系统(LCS)是一组基于规则的机器学习算法，它将发现组件(通常是遗传算法)与学习组件(执行有监督学习、强化学习或无监督学习)结合起来。他们试图找出一套与情境相关的规则，这些规则以一种分段的方式，集体存储和应用知识，以便进行预测[35]。

应用

机器学习的应用包括：
农业
机器证明 [36][37]
适应性网站
情感计算
生物信息学
脑-机接口
化学信息学
分类DNA序列
计算解剖学
计算机网络
电信
计算机视觉，包括目标识别
检测信用卡诈骗
通用游戏[38]
信息检索
互联网诈骗检测[25]
语言学
营销
机器学习控制
机器感知
医学诊断
经济学
保险
自然语言处理
自然语言理解[39]
优化和元启发式
在线广告
推荐系统
机器人移动
搜索引擎
情感分析（意见挖掘)
序列挖掘
软件工程
语音识别和手写识别
金融市场分析
结构健康监测
句法模式识别
时间序列预测
用户行为分析
翻译 [40]

2006年，在线电影公司Netflix举办了第一届“Netflix奖”竞赛，目的是寻找一个更好地预测用户喜好的程序，并将现有Cinematch电影推荐算法的准确性提高至少10%。由AT&T实验室的研究人员组成的一个联合团队与“大混乱与务实理论”合作，以100万美元的价格建立了一个集成模型[41] ，赢得了2009年的大奖。在颁奖后不久，Netflix意识到，观众的收视率并不是他们观看模式的最佳指标(“一切都是推荐的”)，于是他们相应地改变了推荐引擎 [42]。

2010年，《华尔街日报》发表了Rebellion研究公司及它们利用机器学习预测金融危机的相关报道。[43]。

2012年，Sun Microsystems的联合创始人VinodKhosla预测，在接下来的20年里，80%的医生将因自动机器学习医疗诊断软件而失业 [44]。

2014年，有报道称机器学习算法在艺术史领域被用于研究美术绘画，并可能揭示了艺术家之间先前未被认识到的影响[45]。

局限

虽然机器学习在某些领域是革命性的，但有效的机器学习仍是困难的，因为找出模式很难，而且往往没有足够的训练数据；因此，许多机器学习程序往往无法达到预期值 [46] [47] [48] 。 造成这种情况的原因很多：缺乏(适当的)数据、无法访问数据、数据偏见、隐私问题、错误的任务选择和算法、错误的工具和人员、缺乏资源和评估问题[49]。

机器学习方法尤其会受到不同数据偏见的影响。只针对当前客户进行训练的机器学习系统可能无法预测训练数据中未表示的新客户组的需求。当接受人工数据训练时，机器学习很可能会产生与社会上已经存在的相同的成体制偏见和无意识偏见 [50] 。 从数据中学到的语言模型已被证明含有类似人类的偏见 [51] [52] 。 用于犯罪风险评估的机器学习系统被发现对黑人有偏见[53] [54] 。在2015年，谷歌上黑人的照片常常被贴上大猩猩的标签 [55] ， 而到2018年，这仍然没有得到很好的解决，但据报道，谷歌仍在使用变通方法将所有大猩猩从训练数据中删除，因此根本无法识别真正的大猩猩 [56]。 在许多其他系统中 [57] ，也发现了识别非白人的类似问题。2016年，微软测试了一个从Twitter上学习的聊天机器人，而后者却很快学会了种族主义和性别歧视的语言 [58]。 由于这些挑战，机器在其他领域的有效使用仍有很长的路要走 [59]。2018年，Uber的一辆自动驾驶汽车未能检测到行人并导致其在事故中丧生。 [60]。 IBM Watson系统在医疗保健领域使用机器学习的尝试，即便经过多年的时间和数十亿美元的投资，也未能实现 [61] [62]。

模型评估

分类机学习模型可以通过例如 Holdout 方法等精度估计技术来验证，该方法将训练和测试集(通常指定2/3为训练集，1/3为测试集)中的数据分开，并对训练模型在测试集上的性能进行评估。比较而言，N重交叉验证方法将数据随机分成k个子集，其中使用k-1个实例来训练模型，而使用第k个实例来测试训练模型的预测能力。除了Holdout方法和交叉验证方法之外，Bootstrap还可以使用从数据集中替换的n个实例来评估模型的准确性。

除了总体准确性外，调查人员还经常报告敏感性和特异性，即真阳性率(TPR)和真阴性率(TNR)。同样，调查人员有时报告假阳性率(FPR)和假阴性率(FNR)。然而，这些比率不能显示它们的分子和分母。总运行特性(TOC)是表示模型诊断能力的一种有效方法。TOC显示上述比率的分子和分母，因此TOC提供的信息比常用的受试者工作特征(ROC)和曲线下ROC的关联区域(AUC)提供的信息更多[63]。

规范准则

机器学习导致了许多伦理问题。利用偏见收集的数据集进行训练的系统可能会在使用时表现出这些偏见(算法偏见)，从而将文化偏见数字化 [64] 。 例如，使用具有种族主义雇用政策的公司的招聘数据可能导致机器学习系统复制这种偏见，方法是将求职者与先前成功申请者的相似性打分 [65] [66] 。负责任的数据收集和系统使用的算法规则的记录是机器学习的一个关键部分。

因为语言包含偏见，受过语料库训练的机器也必然会学习偏见 [67]。

其他与个人偏见无关的道德挑战则更多地体现在医疗保健方面。医疗保健专业人士担心，这些系统可能不是为了公众利益而设计的，而是作为创收机器设计的。这在改善医疗保健和增加利润方面存在长期的道德困境的美国尤其如此。例如，这些算法可以设计为患者提供不必要的测试或药物治疗，而该算法的专属所有者在这些测试或药物中持有股份。在医疗保健领域，机器学习在成为为专业人员提供诊断、药物治疗甚至计划病人康复路径的伟大工具上有着巨大的潜力，但这在前面提到的个人偏见和这些“贪婪”偏见得到解决之前是不可能发生的[68]。

软件

包含各种机器学习算法的软件包包括：

免费开源软件

·CNTK                        ·MLPACK                         ·Spark MLlib
·Deeplearning4j              ·MXNet                          ·TensorFlow
·ELKI                        ·OpenNN                         ·Torch/PyTorch
·H2O                         ·Orange                         ·Weka / MOA
·Mahout                      ·scikit-learn                   ·Yooreeka
·Mallet                      ·Shogun

有免费开源版本的专利软件

   • KNIME                            • RapidMiner

专利软件

期刊

会议

参见

参考文献

  1. ↑ The "without being explicitly programmed" definition is often attributed to Arthur Samuel, who coined the term "machine learning" in 1959. But the phrase is not found literally in this publication, and may be a paraphrase that appeared later. Confer "Paraphrasing Arthur Samuel (1959), the question is: How can computers learn to solve problems without being explicitly programmed?" in Koza, John R.; Bennett, Forrest H.; Andre, David; Keane, Martin A. (1996). Automated Design of Both the Topology and Sizing of Analog Electrical Circuits Using Genetic Programming. Artificial Intelligence in Design '96. Springer, Dordrecht. pp. 151–170. doi:10.1007/978-94-009-0279-4_9
  2. ↑ Samuel, Arthur (1959). "Some Studies in Machine Learning Using the Game of Checkers". IBM Journal of Research and Development. 3 (3): 210–229. CiteSeerX 10.1.1.368.2254. {{cite journal}}: External link in |title= (help)
  3. ↑ http://www.britannica.com/EBchecked/topic/1116194/machine-learning
  4. ↑ Ron Kohavi; Foster Provost (1998). "Glossary of terms". Machine Learning. 30: 271–274.
  5. ↑ 5.0 5.1 5.2 5.3 5.4 Bishop, C. M. (2006), Pattern Recognition and Machine Learning, Springer, ISBN 978-0-387-31073-2
  6. ↑ Mannila Heikki(1996). Data mining: machine learning, statistics, and databases. Int'l Conf. Scientific and Statistical Database Management.IEEE Computer Society.
  7. ↑ Friedman, Jerome H. (1998). "Data Mining and Statistics: What's the connection?". Computing Science and Statistics. 29 (1): 3–9.
  8. ↑ "Machine Learning: What it is and why it matters". www.sas.com. Retrieved 2016-03-29.
  9. ↑ Mitchell, T. (1997). Machine Learning. McGraw Hill. pp. 2. 
  10. ↑ Harnad, Stevan(2008), "The Annotation Game: On Turing (1950) on Computing, Machinery, and Intelligence", in Epstein, Robert; Peters, Grace, The Turing Test Sourcebook: Philosophical and Methodological Issues in the Quest for the Thinking Computer , Kluwer
  11. ↑ R. Kohavi and F. Provost, "Glossary of terms," Machine Learning, vol. 30, no. 2–3, pp. 271–274, 1998.
  12. ↑ Sarle Warren."Neural Networks and statistical models". 10.1.1.27.699
  13. ↑ 13.0 13.1 13.2 13.3 13.4 13.5 13.6 13.7 Russell, Stuart; Norvig, Peter (2003) [1995]. Artificial Intelligence: A Modern Approach (2nd ed.). Prentice Hall. ISBN 978-0137903955. 引用错误：无效<ref>标签；name属性“aima”使用不同内容定义了多次
  14. ↑ 14.0 14.1 14.2 14.3 Langley, Pat (2011). "The changing science of machine learning". Machine Learning. 82 (3): 275–279. {{cite journal}}: Text "doi : 10.1007/s10994-011-5242-y" ignored (help) 引用错误：无效<ref>标签；name属性“changing”使用不同内容定义了多次
  15. ↑ Le Roux, Nicolas; Bengio, Yoshua;Fitzgibbon, Andrew(2012). "Improving First and Second-Order Methods by Modeling Uncertainty Optimization for Machine Learning" In Sra, Suvrit; Nowozin, Sebastian; Wright, Stephen J. Optimization for Machine Learning. MIT Press. p. 404.
  16. ↑ 16.0 16.1 Michael I. Jordan (2014-09-10). "statistics and machine learning." reddit. Retrieved 2014-10-01.
  17. ↑ Cornell University Library. "Breiman: Statistical Modeling: The Two Cultures (with comments and a rejoinder by the author)". Retrieved 8 August 2015.
  18. ↑ Gareth James; Daniela Witten; Trevor Hastie; Robert Tibshirani (2013). An Introduction to Statistical Learning. Springer. p. vii. http://www-bcf.usc.edu/~gareth/ISL/. 
  19. ↑ 模板:Cite citeseerx
  20. ↑ Ref name"elements" {{cite web {{cite web { cite web |url= https://course.elementsofai.com/ |url= https://course.elementsofai.com/ Https://course.elementsofai.com/ |title= The Elements of AI |title= The Elements of AI 人工智能的元素 |publisher= University of Helsinki |publisher= University of Helsinki 出版商赫尔辛基大学 |date = Dec 2019 |date = Dec 2019 2019年12月 |accessdate=7 April 2020}} |accessdate=7 April 2020}} 2020年4月7日}
  21. ↑ / ref {{cite web {{cite web { cite web |url= https://www.techworld.com/tech-innovation/satalia-ceo-no-one-is-doing-ai-optimisation-can-change-that-3775689/ |url= https://www.techworld.com/tech-innovation/satalia-ceo-no-one-is-doing-ai-optimisation-can-change-that-3775689/ Https://www.techworld.com/tech-innovation/satalia-ceo-no-one-is-doing-ai-optimisation-can-change-that-3775689/ |title= Satalia CEO Daniel Hulme has a plan to overcome the limitations of machine learning |title= Satalia CEO Daniel Hulme has a plan to overcome the limitations of machine learning 萨塔利亚公司首席执行官丹尼尔 · 休姆计划克服机器学习的局限性 |publisher= Techworld |publisher= Techworld 出版商 Techworld |date = October 2019 |date = October 2019 2019年10月 |accessdate=7 April 2020}} |accessdate=7 April 2020}} 2020年4月7日}
  22. ↑ 引用错误：无效<ref>标签；未给name属性为Alpaydin2020的引用提供文字
  23. ↑ Le Roux, Nicolas; Bengio, Yoshua; Fitzgibbon, Andrew (2012). "Improving+First+and+Second-Order+Methods+by+Modeling+Uncertainty "Improving First and Second-Order Methods by Modeling Uncertainty". In Sra, Suvrit; Nowozin, Sebastian; Wright, Stephen J. (eds.). Optimization for Machine Learning. MIT Press. p. 404. ISBN 9780262016469.
  24. ↑ Mohri, Mehryar; Rostamizadeh, Afshin; Talwalkar, Ameet (2012). Foundations of Machine Learning. USA, Massachusetts: MIT Press. ISBN 9780262018258.
  25. ↑ 25.0 25.1 Alpaydin, Ethem (2010). Introduction to Machine Learning. London: The MIT Press. https://mitpress.mit.edu/books/introduction-machine-learning. 
  26. ↑ Honglak Lee, Roger Grosse, Rajesh Ranganath, Andrew Y. Ng. "Convolutional Deep Belief Networks for Scalable Unsupervised Learning of Hierarchical Representations" Proceedings of the 26th Annual International Conference on Machine Learning, 2009.
  27. ↑ Lu, Haiping; Plataniotis, K.N.; Venetsanopoulos, A.N. (2011). "A Survey of Multilinear Subspace Learning for Tensor Data" (PDF). Pattern Recognition. 44 (7): 1540–1551.
  28. ↑ Yoshua Bengio (2009). Learning Deep Architectures for AI. Now Publishers Inc.. pp. 1–3. https://books.google.com/books?id=cq5ewg7FniMC&pg=PA3. 
  29. ↑ Tillmann, A. M. (2015). "On the Computational Intractability of Exact and Approximate Dictionary Learning". IEEE Signal Processing Letters. 22 (1): 45–49. {{cite journal}}: Text "arxiv:1405.6664" ignored (help); Text "bibcode;2015ISPL...22...45T" ignored (help)
  30. ↑ Aharon, M, M Elad, and A Bruckstein. 2006. "K-SVD: An Algorithm for Designing Overcomplete Dictionaries for Sparse Representation." Signal Processing, IEEE Transactions on 54 (11): 4311–4322
  31. ↑ Goldberg, David E.; Holland, John H. (1988). "Genetic algorithms and machine learning". Machine Learning. 3 (2): 95–99.
  32. ↑ Michie, D.; Spiegelhalter, D. J.; Taylor, C. C. (1994). Machine Learning, Neural and Statistical Classification. Ellis Horwood. 
  33. ↑ Zhang, Jun; Zhan, Zhi-hui; Lin, Ying; Chen, Ni; Gong, Yue-jiao; Zhong, Jing-hui; Chung, Henry S.H.; Li, Yun; Shi, Yu-hui (2011). "Evolutionary Computation Meets Machine Learning: A Survey" (PDF). Computational Intelligence Magazine. 6 (4): 68–75.
  34. ↑ Bassel, George W.; Glaab, Enrico; Marquez, Julietta; Holdsworth, Michael J.; Bacardit, Jaume (2011-09-01). "Functional Network Construction in Arabidopsis Using Rule-Based Machine Learning on Large-Scale Data Sets". The Plant Cell (in English). 23 (9): 3101–3116. {{cite journal}}: Text "doi:10.1105/tpc.111.088153" ignored (help); Text "issn:1532-298X" ignored (help); Text "pmc:3203449" ignored (help); Text "pmid:21896882" ignored (help)
  35. ↑ Urbanowicz, Ryan J.; Moore, Jason H. (2009-09-22). "Learning Classifier Systems: A Complete Introduction, Review, and Roadmap". Journal of Artificial Evolution and Applications (in English). 2009: 1–25. {{cite journal}}: Text "issn:1687-6229" ignored (help)
  36. ↑ Bridge, James P., Sean B. Holden, and Lawrence C. Paulson. "Machine learning for first-order theorem proving." Journal of automated reasoning 53.2 (2014): 141–172.
  37. ↑ Loos, Sarah, et al. "Deep Network Guided Proof Search." arXiv preprint arXiv:1701.06972 (2017).
  38. ↑ Finnsson, Hilmar, and Yngvi Björnsson. "Simulation-Based Approach to General Game Playing." AAAI. Vol. 8. 2008.
  39. ↑ Sarikaya, Ruhi, Geoffrey E. Hinton, and Anoop Deoras. "Application of deep belief networks for natural language understanding." IEEE/ACM Transactions on Audio, Speech and Language Processing (TASLP) 22.4 (2014): 778–784.
  40. ↑ "AI-based translation to soon reach human levels: industry officials". Yonhap news agency. Retrieved 4 Mar 2017.
  41. ↑ "BelKor Home Page" research.att.com
  42. ↑ "The Netflix Tech Blog: Netflix Recommendations: Beyond the 5 stars (Part 1)". Retrieved 8 August 2015.
  43. ↑ Scott Patterson (13 July 2010). "Letting the Machines Decide". The Wall Street Journal. Retrieved 24 June 2018.
  44. ↑ Vonod Khosla (January 10, 2012). "Do We Need Doctors or Algorithms?". Tech Crunch.
  45. ↑ When A Machine Learning Algorithm Studied Fine Art Paintings, It Saw Things Art Historians Had Never Noticed, The Physics at ArXiv blog
  46. ↑ "Why Machine Learning Models Often Fail to Learn: QuickTake Q&A". Bloomberg.com. 2016-11-10. Retrieved 2017-04-10.
  47. ↑ "The First Wave of Corporate AI Is Doomed to Fail". Harvard Business Review. 2017-04-18. Retrieved 2018-08-20.
  48. ↑ "Why the A.I. euphoria is doomed to fail". VentureBeat. 2016-09-18. Retrieved 2018-08-20.
  49. ↑ Reasons why your machine learning project will fail "9 Reasons why your machine learning project will fail". www.kdnuggets.com. Retrieved 2018-08-20.
  50. ↑ Garcia, Megan (2016). "Racist in the Machine". World Policy Journal (in English). 33 (4): 111–117. {{cite journal}}: Text "issn:0740-2775" ignored (help)
  51. ↑ Caliskan, Aylin; Bryson, Joanna J.; Narayanan, Arvind (2017-04-14). "Semantics derived automatically from language corpora contain human-like biases". Science (in English). 356 (6334): 183–186. {{cite journal}}: Text "doi:10.1126/science.aal4230" ignored (help); Text "issn:0036-8075" ignored (help); Text "pmid:28408601" ignored (help)
  52. ↑ Wang, Xinan; Dasgupta, Sanjoy (2016), Lee, D. D.; Sugiyama, M.; Luxburg, U. V.; Guyon, I., eds., "An algorithm for L1 nearest neighbor search via monotonic embedding" (PDF), Advances in Neural Information Processing Systems 29, Curran Associates, Inc., pp. 983–991, Retrieved 2018-08-20
  53. ↑ "Machine Bias". ProPublica. Julia Angwin, Jeff Larson, Lauren Kirchner, Surya Mattu. 2016-05-23. Retrieved 2018-08-20.
  54. ↑ "Opinion | When an Algorithm Helps Send You to Prison". New York Times. Retrieved 2018-08-20.
  55. ↑ "Google apologises for racist blunder". BBC News. 2015-07-01. Retrieved 2018-08-20.
  56. ↑ "Google 'fixed' its racist algorithm by removing gorillas from its image-labeling tech". The Verge. Retrieved 2018-08-20.
  57. ↑ "Opinion | Artificial Intelligence's White Guy Problem". New York Times. Retrieved 2018-08-20.
  58. ↑ Metz, Rachel. "Why Microsoft's teen chatbot, Tay, said lots of awful things online". MIT Technology Review. Retrieved 2018-08-20.
  59. ↑ Simonite, Tom. "Microsoft says its racist chatbot illustrates how AI isn't adaptable enough to help most businesses". MIT Technology Review. Retrieved 2018-08-20.
  60. ↑ "Why Uber's self-driving car killed a pedestrian". The Economist. Retrieved 2018-08-20.
  61. ↑ "IBM's Watson recommended 'unsafe and incorrect' cancer treatments - STAT". STAT. 2018-07-25. Retrieved 2018-08-21.
  62. ↑ Hernandez, Daniela; Greenwald, Ted (2018-08-11). "IBM Has a Watson Dilemma". Wall Street Journal. ISSN 0099-9660. Retrieved 2018-08-21.
  63. ↑ Pontius, Robert Gilmore; Si, Kangping (2014). "The total operating characteristic to measure diagnostic ability for multiple thresholds". International Journal of Geographical Information Science. 28 (3): 570–583. {{cite journal}}: Text "doi:10.1080/13658816.2013.862623" ignored (help)
  64. ↑ Bostrom, Nick (2011). "The Ethics of Artificial Intelligence" (PDF). Retrieved 11 April 2016.
  65. ↑ Edionwe, Tolulope. "The fight against racist algorithms". The Outline. Retrieved 17 November 2017.
  66. ↑ Jeffries, Adrianne. "Machine learning is racist because the internet is racist". The Outline. Retrieved 17 November 2017.
  67. ↑ Narayanan, Arvind (August 24, 2016). "Language necessarily contains human biases, and so will machines trained on language corpora". Freedom to Tinker.
  68. ↑ Char, D. S., Shah, N. H., & Magnus, D. (2018). Implementing Machine Learning in Health Care—Addressing Ethical Challenges.New England Journal of Medicine,378(11), 981-983. doi:10.1056/nejmp1714229

拓展阅读

  • Nils J. Nilsson, Introduction to Machine Learning.
  • Trevor Hastie, Robert Tibshirani and Jerome H. Friedman (2001). The Elements of Statistical Learning, Springer. ISBN 0-387-95284-5.
  • Pedro Domingos (September 2015), The Master Algorithm, Basic Books, ISBN 978-0-465-06570-7
  • Ian H. Witten and Eibe Frank (2011). Data Mining: Practical machine learning tools and techniques Morgan Kaufmann, 664pp., ISBN 978-0-12-374856-0.
  • Ethem Alpaydin (2004). Introduction to Machine Learning, MIT Press, ISBN 978-0-262-01243-0.
  • David J. C. MacKay. Information Theory, Inference, and Learning Algorithms Cambridge: Cambridge University Press, 2003. ISBN 0-521-64298-1
  • Richard O. Duda, Peter E. Hart, David G. Stork (2001) Pattern classification (2nd edition), Wiley, New York, ISBN 0-471-05669-3.
  • Christopher Bishop (1995). Neural Networks for Pattern Recognition, Oxford University Press. ISBN 0-19-853864-2.
  • Stuart Russell & Peter Norvig, (2002). Artificial Intelligence – A Modern Approach. Prentice Hall, ISBN 0-136-04259-7.
  • Ray Solomonoff, An Inductive Inference Machine, IRE Convention Record, Section on Information Theory, Part 2, pp., 56–62, 1957.
  • Ray Solomonoff, An Inductive Inference Machine A privately circulated report from the 1956 Dartmouth Summer Research Conference on AI.

外部链接

编者推荐

相关文章

下一秒火焰如何燃烧？机器学习成功预测混沌

该文章是对Machine Learning’s ‘Amazing’ Ability to Predict Chaos的概述，介绍了机器学习预测混沌的理论基础及步骤。


论文速递集合


集智相关课程

课程：当复杂网络遇上机器学习

机器学习入门

该课程由莫烦、张江和尹相志三位老师共同教授，主要介绍了机器学习的相关理论及常用分析方法等。


从Python到机器学习

本系列课程将全面介绍深度学习入门的应用知识。包括从Python基础开始，到深度学习框架Tensorflow的使用方法。是一套简练风趣，易懂易学的入门课程。


机器学习思维

本课程围绕机器学习思维，讨论机器学习的运用方法，能力范围，技术种类，以及机器学习与人类学习的不同点。


当复杂网络遇上机器学习

本课程将对网络嵌入、图卷积神经网络、图注意力模型等新技术的算法及应用，以及多种网络嵌入算法，链路预测问题等问题座以一个简单介绍，并对网络上的深度学习问题进行了展望。


本中文词条由zhangYUNMOOO编译，Iceblaze9527，薄荷欢迎在讨论页面留言。

本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。

取自“https://wiki.swarma.org/index.php?title=机器学习_Machine_Learning&oldid=11060”