x-jeff blog

Make progress every day.

【Tensorflow基础】第二课:Tensorflow基本概念

Graph,Session,Tensor,Operation,Feed,Fetch

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.Tensorflow基本概念 1.1.Graph Graph(图):表示计算任务,用于搭建神经网络的计算任务。 1.2.Session Session(会话):在Session中执行Graph。 1.3.Tensor Tensor(张量):张量就是一种拥有不同维度的数据结构。Tensor是Tensorflow...

【数学基础】第十一课:贝叶斯公式

条件概率,全概率公式,贝叶斯公式,先验分布,似然函数,后验分布,共轭分布

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.条件概率 条件概率是指事件A在另外一个事件B已经发生条件下的发生概率。条件概率表示为:$P(A\mid B)$,读作“在B的条件下A的概率”。 \[P(A\mid B)=\frac{P(AB)}{P(B)}\] 2.全概率公式 全概率公式将对一复杂事件A的概率求解问题转化为了在不同情况下发生的简单事件的概率的求和...

【机器学习基础】第十一课:决策树的基本流程

决策树的基本流程

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.初识决策树 决策树(decision tree),亦称判定树,是一类常见的机器学习方法。 顾名思义,决策树是基于树结构来进行决策的。例如,判断一个西瓜是否为好瓜: 一般的,一棵决策树包含一个根结点、若干个内部结点和若干个叶结点。其...

【深度学习基础】第十四课:梯度检验

梯度的数值逼近,梯度检验

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 梯度检验(gradient checking)的作用是确保反向传播的正确实施。 为了逐渐实现梯度检验,我们首先了解下如何对梯度做数值逼近。 2.梯度的数值逼近 假设我们有函数$f(\theta)=\theta ^3$,图像见...

【C++基础】第十四课:标准库类型string

标准库string,定义和初始化string对象,string对象上的操作,处理string对象中的字符

【C++基础】系列博客为参考《C++ Primer中文版(第5版)》(C++11标准)一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.标准库<string> 标准库类型string表示可变长的字符序列,使用string类型必须首先包含string头文件。 1 2 #include <string> using s...

【深度学习基础】第十三课:梯度消失和梯度爆炸

梯度消失,梯度爆炸,权重随机初始化

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.梯度消失和梯度爆炸 假设我们正在训练一个极深的神经网络(为了简化理解,每层只有两个神经元): 该网络的每一层的参数为:$w^{[1]},w^{[2]},w^{[3]},……,w^{[L]}$。为了简化问题,假设激活函数为:$g(z...

【OpenCV基础】第八课:绘制形状和文字

Point,Scalar,line,ellipse,rectangle,circle,fillPoly,putText,rng,waitKey

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.点和颜色的表示 1.1.点的表示 cv::Point可以表示平面上的一个点。有两种构造方法: 👉方法一: 1 2 3 Point p; p.x=10; p.y=8 👉方法二: 1 Point p=Point(10,8); 1.2.颜色的表示 cv::Scalar表示四个元素的向量。 可以用Scala...

【深度学习基础】第十二课:归一化输入

归一化输入

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 当训练神经网络时,其中一个加速训练的方法就是归一化输入。 2.归一化输入的方法 假设我们有一个训练集,它有两个输入特征。数据集的散点图见下: 归一化输入需要两个步骤: 2.1.零均值化 \[\mu = \frac{1...

【Python基础】第十课:DataFrame的相关操作

数据选取,新增数据,删除数据,数据的索引

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 本文主要介绍pandas中DataFrame格式数据的相关操作。 接下来的讲解都以下面的数据为例: 1 2 3 import pandas as pd df=pd.DataFrame([['Frank','M',29],['Mary','F',23],['Tom','M',35],['Ted','M',33]...

【深度学习基础】第十一课:正则化

范数,L1正则化,L2正则化,dropout,inverted dropout,data augmentation,early stopping

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.为什么要正则化? 正则化可以降低模型复杂度,防止过拟合。 2.范数 $L_1$范数、$L_2$范数和$F$范数都常用于正则化。 2.1.向量的$L_p$范数 \[\parallel \mathbf x \parallel _p ...