机器学习分类
机器学习分类
1 机器学习基本分类
基于学科的分类
- 统计学方法：收集、分析、统计数据。描述数据的集中和离散程度，模型化数据资料。
- 人工智能：一种积极地学习方法，利用已有的线程的数据对问题进行计算。从而提高机器本身计算和解决问题的能力
- 信息论：信息的度量和熵的度量。
- 控制理论：对象之间的联系和通信。
基于学习模式的分类
- 归纳学习：通过实例数据和结果分析，使得机器能够归纳获得该数据的一种一半模型，从而对更多未知的数据进行预测。
- 解释学习：根据已有的数据对一半的模型进行解释，从而获得一个较为泛型的学习模型。
- 反馈学习：通过学习已有的数据，根据不断获取数据的反馈进行模型的更新。从而直接获得一个新的，可以对已有数据进行归纳总结的机器学习方法。
基于应用领域的分类
- 专家系统：通过数据学习，获得某个方面的经验和认识能力。
- 数据挖掘：通过对既有知识和数据的学习，挖掘出隐藏在数据之中的行为模式和类型。
- 图形识别：通过学习已有的数据，从而获得对不同的图像或同一类图像中特定目标的认识。
- 人工智能：对已有的模式的认识和学习。
- 自然语言处理：实现人与对象之间通过某种语言进行有效通信。
- 模式识别，计算机视觉，语音识别。
机器学习是一种技术，能够在很多领域应用，完成很多事情。 机器学习这门技术有很多实现方法（算法）
2 机器学习的基本算法
算法流程
- 输入数据
- 特征提取
- 模型设计
- 数据预测
基本算法分类
- 无监督学习：黑盒训练、输入数据无区别标识、分析过程无指导、结果不可控。
- 有监督学习：输入数据被分类标记识别。
- 半监督学习：混合有标识数据和无标识数据。
- 强化学习：输入不同的数据，使用已有的数据模型。
机器学习包括深度学习算法，深度神经网络是一种深度学习算法，但神经网络与机器学习没有直接从属关系。
具体算法
- 构造间隔理论分布：聚类分析和模式识别:人工神经网络 决策树 感知器 支持向量机 集成学习AdaBoost 降维与度量学习 聚类 贝叶斯分类器
- 构造条件概率：回归分析和统计分类:高斯过程回归 线性判别分析（线性回归） 最近邻居法 径向基函数核
- 通过再生模型构造概率密度函数：最大期望算法
- 概率图模型：包括贝叶斯网和Markov随机场,Generative Topographic Mapping
- 近似推断技术：马尔可夫链 蒙特卡罗方法 变分法
不要过度理解一个名词。机器学习，能够通过数据集，修改自身的算法模型。达到某种要求，本质上是一种函数逼近。
本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 Estom的博客！
相关推荐
2021-03-08
6. 软件架构模式
软件机构模式1 基于构件的软件架构模式2 软件架构的多视图3 软件架构模式4 接口设计1 软件架构1.1 定义 一个程序或计算机系统的软件架构是包含了该系统的软件元素、这些元素的外部可见的属性以及这些元素之间关系的结构或一组系统结构 描述角度：静态和动态；动能和非功能的。 1.2 基于构件的软件架构 软件由构件组成，每个组件相对独立的封装了一些信息。 构件可以由简单对象或由其他对象组成的复合对象。 构件通过接口与其他对象通信。（接口描述了通信所需要的信息，接口与实现分离，接口约定了通信模式） 1.3 设计方式 顺序式设计：没有控制线程的被动类。把构件单独编译存储在构件库中，通过调用-返回的方式进行通信。（只有一个主动类） 并发或分布式设计：构件是主动地，可以被部署到一个分布式环境的不同节点上，并发构件可以通过几种不同的通信模式进行通信：同步模式、异步模式、代理模式，群组通信模式。 2 软件架构的多视图2.1 视图角度 结构视图：是一种静态视图，使用类图来描述。 动态视图：是一种行为视图，使用通信图来描述。 部署视图：软件架构的物理配置，子系统如何在一个分布的配置中，分配到不...
2021-09-02
ioutil
概述前面的io包提供了对输入输出设备最基本的抽象，而ioutil在io包的基础上提供了一系列的函数来应对具体的场景。 数据读取ioutil一共提供了三个数据读取的函数，分别是： ReadAll，从一个io.Reader读取所有数据，并返回一个字节数组 ReadllDir，从一个目录读取数据，并得到这个目录里的文件对象列表 ReadFile，读取指定文件的内容，并返回一个字节数组 其函数声明如下： 12345func ReadAll(r io.Reader) ([]byte, error)func ReadDir(dirname string) ([]os.FileInfo, error)func ReadFile(filename string) ([]byte, error) 可以看到上面的三个函数分别对应于三个特定的场景，下面以ReadFile为例对其使用进行说明 12345678910111213141516package mainimport ( "fmt" "io/ioutil")func main() &...
2020-09-27
14.利用SVD简化数据
第14章 利用SVD简化数据SVD 概述12奇异值分解（SVD, Singular Value Decomposition）: 提取信息的一种方法，可以把 SVD 看成是从噪声数据中抽取相关特征。从生物信息学到金融学，SVD 是提取信息的强大工具。 SVD 场景 信息检索-隐性语义检索（Latent Semantic Indexing, LSI）或 隐形语义分析（Latent Semantic Analysis, LSA） 隐性语义索引: 矩阵 = 文档 + 词语 是最早的 SVD 应用之一，我们称利用 SVD 的方法为隐性语义索引（LSI）或隐性语义分析（LSA）。 推荐系统 利用 SVD 从数据中构建一个主题空间。 再在该空间下计算其相似度。(从高维-低维空间的转化，在低维空间来计算相似度，SVD 提升了推荐系统的效率。) 上图右边标注的为一组共同特征，表示美式 BBQ 空间；另一组在上图右边未标注的为日式食品 空间。 图像压缩 例如: 32*32=1024 => 32*2+2*1+32*2=130(2*1表示去掉了除对角线的...
2021-03-08
5 软件文档评审
为什么要评审提高项目的生产率，减少开发时间，加快开发进度。改善软件质量，改进开发过程。在评审过程中，使开发团队的其他成员更熟悉产品和开发过程。通过评审，标志着软件开发的一个阶段的完成。生产出更以维护的软件。 参与评审的角色评审组长评审的组织者，确保评审入口准则得到满足确保遵循评审的流程，指明评审的关注点，确保所有评审软院已经充分检视。确保评审的进度，确保发现、整理、修正问题。宣读员在评审会议上通过讲解来引导评审团队浏览工作产品记录员记录会议上的信息作者确保工作产品已经准备好，在评审会议上详解工作产品。在评审会议结束后修改所有已经确认的缺陷。评审员寻找被评审工作产品中的缺陷，填写评审表单并上交。参加评审会议，就评审出的缺陷提出建设性建议。 评审的内容管理评审——组织的最高管理者就管理体系就现状、适宜性、充分性和有效性以及方针和目标的贯彻落实及实现情况进行正式的评价。技术评审——发现软件在功能、逻辑、实现上的错误，验证软件符合他的需求规格。确认软件符合预先定义的开发规范和标准。保证软件在同一模式下进行开发。过程评审——评估主要的质量保证流程；卡利率如何处理和解决评审过程中发现的不符合...
2020-01-05
4.2 大整数乘法问题
大整数乘法 参考文献 大数乘法的问题及其高效的算法 问题描述 题目描述： 输出两个不超过100位的大整数的乘积。 输入： 输入两个大整数，如1234567 和 123 输出： 输出乘积，如：151851741 数字以字符串的形式给出。 1求 1234567891011121314151617181920 * 2019181716151413121110987654321 的乘积结果 问题分析 所谓大数相乘（Multiplication algorithm），就是指数字比较大，相乘的结果超出了基本类型的表示范围，所以这样的数不能够直接做乘法运算。参考了很多资料，包括维基百科词条Multiplication algorithm，才知道目前大数乘法算法主要有以下几种思路： 模拟小学乘法：最简单的乘法竖式手算的累加型； 分治乘法：最简单的是Karatsuba乘法，一般化以后有Toom-Cook乘法； 快速傅里叶变换FFT：（为了避免精度问题，可以改用快速数论变换FNTT），时间复杂度O(N lgN lglgN)。具体可参照Schönhage–Strassen algorith...
2020-09-27
4.朴素贝叶斯
第4章 基于概率论的分类方法: 朴素贝叶斯1 朴素贝叶斯 概述贝叶斯分类是一类分类算法的总称，这类算法均以贝叶斯定理为基础，故统称为贝叶斯分类。本章首先介绍贝叶斯分类算法的基础——贝叶斯定理。最后，我们通过实例来讨论贝叶斯分类的中最简单的一种: 朴素贝叶斯分类。 2 贝叶斯理论 & 条件概率贝叶斯理论 我们现在有一个数据集，它由两类数据组成，数据分布如下图所示: 我们现在用 p1(x,y) 表示数据点 (x,y) 属于类别 1（图中用圆点表示的类别）的概率，用 p2(x,y) 表示数据点 (x,y) 属于类别 2（图中三角形表示的类别）的概率，那么对于一个新数据点 (x,y)，可以用下面的规则来判断它的类别: 如果 p1(x,y) > p2(x,y) ，那么类别为1 如果 p2(x,y) > p1(x,y) ，那么类别为2 也就是说，我们会选择高概率对应的类别。这就是贝叶斯决策理论的核心思想，即选择具有最高概率的决策。 条件概率 有一个装了 7 块石头的罐子，其中 3 块是白色的，4 块是黑色的。如果从罐子中随机取出一块石头，那么是白色石头的...
