x-jeff blog

Make progress every day.

【C++基础】第十四课:标准库类型string

标准库string,定义和初始化string对象,string对象上的操作,处理string对象中的字符

【C++基础】系列博客为参考《C++ Primer中文版(第5版)》(C++11标准)一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.标准库<string> 标准库类型string表示可变长的字符序列,使用string类型必须首先包含string头文件。 1 2 #include <string> using s...

【深度学习基础】第十三课:梯度消失和梯度爆炸

梯度消失,梯度爆炸,权重随机初始化

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.梯度消失和梯度爆炸 假设我们正在训练一个极深的神经网络(为了简化理解,每层只有两个神经元): 该网络的每一层的参数为:$w^{[1]},w^{[2]},w^{[3]},……,w^{[L]}$。为了简化问题,假设激活函数为:$g(z...

【OpenCV基础】第八课:绘制形状和文字

Point,Scalar,line,ellipse,rectangle,circle,fillPoly,putText,rng,waitKey

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.点和颜色的表示 1.1.点的表示 cv::Point可以表示平面上的一个点。有两种构造方法: 👉方法一: 1 2 3 Point p; p.x=10; p.y=8 👉方法二: 1 Point p=Point(10,8); 1.2.颜色的表示 cv::Scalar表示四个元素的向量。 可以用Scala...

【深度学习基础】第十二课:归一化输入

归一化输入

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 当训练神经网络时,其中一个加速训练的方法就是归一化输入。 2.归一化输入的方法 假设我们有一个训练集,它有两个输入特征。数据集的散点图见下: 归一化输入需要两个步骤: 2.1.零均值化 \[\mu = \frac{1...

【Python基础】第十课:DataFrame的相关操作

数据选取,新增数据,删除数据,数据的索引

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.前言 本文主要介绍pandas中DataFrame格式数据的相关操作。 接下来的讲解都以下面的数据为例: 1 2 3 import pandas as pd df=pd.DataFrame([['Frank','M',29],['Mary','F',23],['Tom','M',35],['Ted','M',33]...

【深度学习基础】第十一课:正则化

范数,L1正则化,L2正则化,dropout,inverted dropout,data augmentation,early stopping

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.为什么要正则化? 正则化可以降低模型复杂度,防止过拟合。 2.范数 $L_1$范数、$L_2$范数和$F$范数都常用于正则化。 2.1.向量的$L_p$范数 \[\parallel \mathbf x \parallel _p ...

【数学基础】第十课:积分

黎曼积分,牛顿-莱布尼兹公式,分部积分法,多变量函数的积分

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.黎曼积分(Riemann Integral) 黎曼积分是积分学中一种比较基础且常见的积分概念。除此之外,还有勒贝格积分等。但是本文只讨论黎曼积分。 👉单变量函数黎曼积分: 令$f(x)$为开区间$(a,b)$上的一个连续函数,对于任何一个正整数$n$定义,$x_i=a+\frac{i(b-a)}{n}$求和式: ...

【深度学习基础】第十课:神经网络模型的初步优化

数据集划分,偏差和方差

【深度学习基础】系列博客为学习Coursera上吴恩达深度学习课程所做的课程笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.设置验证集 我们在【深度学习基础】第九课:深层神经网络一文中提到了神经网络的超参数。那么超参数的确定有很多办法,其中设置验证集就是一个非常常用的办法,即把数据集分成训练集、验证集和测试集三部分。利用验证集确定模型的最佳超参数。 1.1...

【机器学习基础】第十课:类别不平衡数据

不平衡数据,阈值移动,欠采样,过采样

【机器学习基础】系列博客为参考周志华老师的《机器学习》一书,自己所做的读书笔记。 本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.类别不平衡问题的困扰 ⚠️几乎大部分的分类学习方法都有一个共同的基本假设:即不同类别的训练样例数目相当。 如果不同类别的训练样例数目稍有差别,通常影响不大,但若差别很大,则会对学习过程造成困扰。例如有998个反例,但正例只有2个,那么学...

【Tensorflow基础】第一课:Tensorflow的简介与安装

Tensorflow的简介,安装Tensorflow

本文为原创文章,未经本人允许,禁止转载。转载请注明出处。 1.TensorFlow简介 TensorFlow是由谷歌开发的一款开源的深度学习框架。其底层代码为C++,提供CPU和GPU两种版本。并且可以通过TensorBoard可视化网络结构和参数。 2.安装tensorflow 本机环境为Mac OS。为了避免环境之间互相污染,方便管理,我们新建一个conda虚拟环境用于学...