x-jeff blog

Make progress every day.

【Tensorflow基础】第三课:回归模型

非线性回归模型,numpy.linspace,numpy.random.rand,numpy.random.randn,numpy.random.normal,tf.random_normal,tf.reduce_mean,tf.train.GradientDescentOptimizer

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 本文通过构建一个回归模型来进一步熟悉tensorflow在实际中的应用。 2.准备训练数据 1 2 3 x_data=np.linspace(-0.5,0.5,200,axis=0).reshape(1,200) noise=np.random.normal(0,0.02,x_data.shape) y_da...

【深度学习基础】第十七课:Momentum梯度下降法

Momentum梯度下降法

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.Momentum梯度下降法 Momentum梯度下降法的运行速度几乎总是快于标准的梯度下降法。 Momentum梯度下降法的基本思路就是计算梯度的指数加权平均数,并利用该梯度更新你的权重。 接下来我们来详细介绍下Momentum梯度...

【OpenCV基础】第九课:图像模糊

均值模糊,高斯模糊,中值模糊,双边模糊,高斯分布

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.图像模糊 图像模糊是图像处理中最简单和常用的操作之一。 ⚠️使用该操作的原因之一是为了给图像预处理时降低噪声。 图像模糊操作背后是数学的卷积计算。 卷积操作的原理: 常用的图像模糊的方法: 均值模糊 高斯模糊 中值模糊 双边模糊 这四种模糊方式有时也被称为:均值滤波...

【深度学习基础】第十六课:指数加权平均

指数加权平均,偏差修正

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.指数加权平均 指数加权平均在统计中也叫做指数加权移动平均。通过它可以计算局部的平均值,来描述数值的变化趋势。 接下来通过一个例子来了解指数加权平均。 假设我们现在有一年中每一天的温度数据,将其绘制为散点图如下: 构造等式如下:...

【Python基础】第十一课:处理缺失值

缺失值的产生,缺失值的表示,检测缺失值,舍弃缺失值,填补缺失值

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.侦测缺失值 1.1.缺失值的产生 通常缺失值的产生有两个原因: 机械缺失:例如机械故障,导致数据无法被完整保存。 人为缺失:例如受访者拒绝透漏部分信息。 缺失值通常不设置为空值,而表示为NaN。 1.2.缺失值的表示 通常可用numpy.nan表示缺失值。 1 2 import numpy as...

【深度学习基础】第十五课:mini-batch梯度下降法

batch gradient descent,stochastic gradient descent,mini-batch gradient descent,mini-batch,epoch

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.mini-batch梯度下降法 向量化能让我们有效地对所有m个训练样本进行计算,允许我们处理整个训练集。 例如,训练样本X和训练样本标签Y: \[X_{(n_x,m)}=[x^{(1)} \ x^{(2)} \ x^{(3)} ...

【Tensorflow基础】第二课:Tensorflow基本概念

Graph,Session,Tensor,Operation,Feed,Fetch

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.Tensorflow基本概念 1.1.Graph Graph(图):表示计算任务,用于搭建神经网络的计算任务。 1.2.Session Session(会话):在Session中执行Graph。 1.3.Tensor Tensor(张量):张量就是一种拥有不同维度的数据结构。Tensor是Tensorflow...

【数学基础】第十一课:贝叶斯公式

条件概率,全概率公式,贝叶斯公式,先验分布,似然函数,后验分布,共轭分布

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.条件概率 条件概率是指事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为:$P(A\mid B)$,读作“在B的条件下A的概率”。 \[P(A\mid B)=\frac{P(AB)}{P(B)}\] 2.全概率公式 全概率公式将对一复杂事件A的概率求解问题转化为了在不同情况下发生的简单事件的概率的求和...

【机器学习基础】第十一课:决策树的基本流程

决策树的基本流程

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.初识决策树 决策树(decision tree),亦称判定树,是一类常见的机器学习方法。 顾名思义,决策树是基于树结构来进行决策的。例如,判断一个西瓜是否为好瓜: 一般的,一棵决策树包含一个根结点、若干个内部结点和若干个叶结点。其...

【深度学习基础】第十四课:梯度检验

梯度的数值逼近,梯度检验

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 梯度检验(gradient checking)的作用是确保反向传播的正确实施。 为了逐渐实现梯度检验,我们首先了解下如何对梯度做数值逼近。 2.梯度的数值逼近 假设我们有函数$f(\theta)=\theta ^3$,图像见...