00神经网络简介
神经网络简介
必须得明白，吴恩达在通过什么角度，构建神经网络的基础知识。
什么是神经网络
神经网络分层
- 输入层—-隐藏层—-输出层
神经元
输入层只有一个参数：激活值。输出层、隐藏层神经元有三个参数：
权重：指的是和输入层某个神经元的紧密关系。联系越紧密这个值越大（$W$）。
激活值：输入的值乘以权重，然后相加。$z = W^T*X+bias$
偏置：表示输入的截距，bias。
计算过程
- 正向过程（forward pass）或者叫正向传播步骤（forward propagation step）
- 反向过程（backward pass）或者叫反向传播步骤（backward propagation step）。
向量化
- 向量化 实现一个神经网络时，如果需要遍历整个训练集，并不需要直接使用 for 循环。采用向量化的方法代替for 循环
用神经网络进行监督学习
应用领域
- 房屋价格预测-ANN普通神经网络，多维度特征
- 图像-CNN卷积神经网络，二维像素
- 声音-RNN循环神经网络，一维实践序列
- 翻译-RNNs循环神经网络
不同的神经网络
监督学习
- 结构化数据：数据库中的结构化数据。
- 非结构化数据：声音、图像、文本。
深度学习的历史
原因
- 更多的数据data
- 更高的算力compute
- 更复杂的算法algorithm
流程
idea–code–experiment—back to idea
本博客所有文章除特别声明外，均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 Estom的博客！
相关推荐
2020-09-27
16.推荐系统
第16章 推荐系统背景与挖掘目标随着互联网的快速发展，用户很难快速从海量信息中寻找到自己感兴趣的信息。因此诞生了: 搜索引擎+推荐系统 本章节-推荐系统: 帮助用户发现其感兴趣和可能感兴趣的信息。 让网站价值信息脱颖而出，得到广大用户的认可。 提高用户对网站的忠诚度和关注度，建立稳固用户群体。 分析方法与过程本案例的目标是对用户进行推荐，即以一定的方式将用户与物品（本次指网页）之间建立联系。 由于用户访问网站的数据记录很多，如果不对数据进行分类处理，对所有的记录直接采用推荐系统进行推荐，这样会存在一下问题。 数据量太大意味着物品数与用户数很多，在模型构建用户与物品稀疏矩阵时，出现设备内存空间不够的情况，并且模型计算需要消耗大量的时间。 用户区别很大，不同的用户关注的信息不一样，因此，即使能够得到推荐结果，其效果也会不好。 为了避免出现上述问题，需要进行分类处理与分析。 正常的情况下，需要对用户的兴趣爱好以及需求进行分类。因为在用户访问记录中，没有记录用户访问页面时间的长短，因此不容易判断用户兴趣爱好。因此，本文根据用户浏览的网页信息进行分析处理，主要采用以下方法处理: ...
2022-12-05
13.MyBatis使用了哪些设计模式？在源码中是如何体现的？
MyBatis 使用了哪些设计模式？在源码中是如何体现的？MyBatis 的前身是 IBatis，IBatis 是由 Internet 和 Abatis 组合而成，其目的是想当做互联网的篱笆墙，围绕着数据库提供持久化服务的一个框架，2010 年正式改名为 MyBatis。它是一款优秀的持久层框架，支持自定义 SQL、存储过程及高级映射。MyBatis 免除了几乎所有的 JDBC 代码以及设置参数和获取结果集的工作，还可以通过简单的 XML 或注解来配置和映射原始类型、接口和 Java POJO（Plain Ordinary Java Object，普通 Java 对象）为数据库中的记录。 关于 MyBatis 的介绍与使用，官方已经提供了比较详尽的中文参考文档，可点击这里查看，而本课时则以面试的角度出发，聊一聊不一样的知识点，它也是 MyBatis 比较热门的面试题之一，MyBatis 使用了哪些设计模式？在源码中是如何体现的？ 注意：本课时使用的 MyBatis 源码为 3.5.5。 典型回答1.工厂模式工厂模式想必都比较熟悉，它是 Java 中最常用的设计模式之一。工厂模式就...
2021-03-18
8.1 和积最大
和积最大1 剪绳子问题描述 给你一根长度为 n 的绳子，请把绳子剪成整数长度的 m 段（m、n都是整数，n>1并且m>1），每段绳子的长度记为 k[0],k[1]…k[m - 1] 。请问 k[0]k[1]…*k[m - 1] 可能的最大乘积是多少？例如，当绳子的长度是8时，我们把它剪成长度分别为2、3、3的三段，此时得到的最大乘积是18。 答案需要取模 1e9+7（1000000007），如计算初始结果为：1000000008，请返回 1。 链接 问题分析问题分类 贪心思想 数值问题 无数据结构 策略选择 n尽可能多的包含因子3 算法设计 如果 n == 2，返回1，如果 n == 3，返回2，两个可以合并成n小于4的时候返回n - 1 如果 n == 4，返回4 如果 n > 4，分成尽可能多的长度为3的小段，每次循环长度n减去3，乘积res乘以3；最后返回时乘以小于等于4的最后一小段；每次乘法操作后记得取余就行 以上2和3可以合并 算法分析 时间复杂度O(logn) 空间复杂度O(1)...
2019-10-15
VLAN技术
VLAN技术 参考文献 VLAN基础知识 可以等到以后复习的时候，补充完整这一块。 1 VLAN简介定义VLAN（Virtual Local Area Network）即虚拟局域网，是将一个物理的LAN在逻辑上划分成多个广播域的通信技术。VLAN内的主机间可以直接通信，而VLAN间不能直接通信，从而将广播报文限制在一个VLAN内。 目的以太网是一种基于CSMA/CD（Carrier Sense Multiple Access/Collision Detection）的共享通讯介质的数据网络通讯技术。当主机数目较多时会导致冲突严重、广播泛滥、性能显著下降甚至造成网络不可用等问题。通过交换机实现LAN互连虽然可以解决冲突严重的问题，但仍然不能隔离广播报文和提升网络质量。 在这种情况下出现了VLAN技术，这种技术可以把一个LAN划分成多个逻辑的VLAN，每个VLAN是一个广播域，VLAN内的主机间通信就和在一个LAN内一样，而VLAN间则不能直接互通，这样，广播报文就被限制在一个VLAN内。 作用 限制广播域：广播域被限制在一个VLAN内，节省了带宽，提高了网...
2021-04-10
2.1 单例模式
单例模式Singleton1 概念意图保证一个类仅有一个实例，并提供一个访问它的全局访问点。 结构使用一个私有构造函数、一个私有静态变量以及一个公有静态函数来实现。 私有构造函数保证了不能通过构造函数来创建对象实例，只能通过公有静态函数返回唯一的私有静态变量。 参与者Singleton 定义一个 Instance 操作，允许客户访问它的唯一实例。Instance 是一个类操作。 可能负责创建它自己的唯一实例。 适用性在以下情况下可以使用 Singleton 模式： 当类只能有一个实例并且客户可以从一个众所周知的访问点访问它时。 当这个唯一实例应该是通过子类化可扩展的，并且客户应该无需更改代码就能使用一个扩展的实例时。 缺点 系统检查开销。实现中可能每次都需要检查实例是否存在，这个问题可以通过 Static 实例来解决。 系统资源开销。通常 Singleton 中的对象一旦被创建，不会被及时销毁。可以通过提供 Reset 操作来重置。 引起开发混淆。如果类包括 public 构造函数可以在外部构造，当使用 Singleton 对象时，开发人员需要记住不能使用...
2021-03-26
3.1 单调栈
单调栈定义 单调栈中存放的数据应该是有序的，所以单调栈也分为单调递增栈和单调递减栈 单调递增栈：单调递增栈就是从栈底到栈顶数据是从小到大 单调递减栈：单调递减栈就是从栈底到栈顶数据是从大到小 规则 （单调递减栈）现在有一组数10，3，7，4，12。从左到右依次入栈，则如果栈为空或入栈元素值小于栈顶元素值，则入栈；否则，如果入栈则会破坏栈的单调性，则需要把比入栈元素小的元素全部出栈。 0入栈时，栈为空，直接入栈，栈内元素为10。 入栈时，栈顶元素10比3大，则入栈，栈内元素为10，3。 入栈时，栈顶元素3比7小，则栈顶元素出栈，此时栈顶元素为10，比7大，则7入栈，栈内元素为10，7。 入栈时，栈顶元素7比4大，则入栈，栈内元素为10，7，4。 2入栈时，栈顶元素4比12小，4出栈，此时栈顶元素为7，仍比12小，栈顶元素7继续出栈，此时栈顶元素为10，仍比12小，10出栈，此时栈为空，12入栈，栈内元素为12。 应用 局部顺序问题，可以使用单调栈解决。例如存在一个局部增序的序列。需要找到所有的局部增序的序列。则单调增栈的每次连续入栈，都是增序。每次连续出栈都是违反增序规...
